No relatório do Capgemini Research Institute, “IA e o dilema ético: como é que as organizações podem construir sistemas de IA eticamente robustos e ganhar confiança” foram entrevistadas mais de 800 organizações e 2.900 consumidores de modo a realizar uma análise ao estado da ética em inteligência artificial na atualidade.
O propósito da análise é entender o que é que as empresas podem fazer para ter sistemas de Inteligência Artificial éticos.
A análise descobriu que, embora os clientes confiem mais nas interações ativadas por IA, o progresso das organizações nas dimensões éticas é decepcionante. Afirmam ainda o quão perigoso isto é dado que, uma vez perdida, pode ser difícil reconstruir a confiança.
O relatório revela que, em 2020:
- 62% dos consumidores acreditam que as empresas são totalmente transparentes no uso dos dados pessoais (76% em 2019);
- 53% das organizações possuem um líder responsável pela ética dos sistemas de IA ;
- 70% dos consumidores esperam um uso transparente da Inteligência Artificial;
- 64% dos executivos indicam que a sua empresa está a avançar na sua capacidade de explicar o raciocínio da IA (32% em 2019);
- A transparência caiu de 73% para 59%;
- 58% das empresas afirmam que consciencializaram os seus funcionários sobre os problemas que podem surgir com o uso da IA.
O que é que as organizações devem fazer?
Uma Inteligência Artificial eticamente forte requer uma base sólida de liderança, governança e práticas internas em torno de auditoria, treino e implementação de ética.
Com base nisso, segundo Capgemini, as organizações devem:
- Definir claramente a finalidade pretendida dos sistemas de IA e avaliar o seu impacto potencial geral;
- Implementar IA de forma proativa para o benefício da sociedade e do meio ambiente;
- Integrar de forma proativa os princípios de diversidade e inclusão ao longo da vida útil dos sistemas de IA;
- Aumentar a transparência com a ajuda de ferramentas tecnológicas;
- Garantir a segurança tecnológica dos sistemas de IA;
- Proteger a privacidade das pessoas, capacitando-as e colocando-as no comando das interações de IA.