A Comissão Europeia sugeriu às redes sociais e sites a criação de um rótulo para Inteligência Artificial (IA) para que os utilizadores saibam quando estão perante “tecnologia de risco” sem controlo humano ou fake news.
A identificação de conteúdos produzidos por Inteligência Artificial nas plataformas digitais já estava prevista na DSA, mas a Comissão Europeia quer acelerar a utilização desse rótulo através do Código de Conduta contra fake news. Em causa está a preocupação com a disseminação de conteúdos produzidos com recurso à Inteligência Artificial na Internet.
Vera Jourová refere ChatGPT da OpenAI como potencial de gerar desinformação.
Posto isto, para que o utilizador reconheca que o conteúdo criado não é feito por pessoas reais mas por robots – tendo em conta que a robótica tem muitos pontos negativos – a Comissão Europeia sugeriu às redes sociais e sites a criação desse rótulo para Inteligência Artificial.
“Trata-se de um instrumento mais rápido, que propomos e que gostaríamos de ver” porque “queremos que as plataformas rotulem a produção de IA de forma a que o utilizador normal, que está distraído com muitas coisas, veja claramente que se trata de uma tecnologia de risco”, defende a vice-presidente da Comissão Europeia, responsável pelos valores e a transparência.
Vera Jourová, refere-se a empresas que estão a aplicar ferramentas de IA generativa – como o ChatGPT da OpenAI,o Bard da Google e o Bing da Microsoft – que têm potencial de gerar desinformação.
Riscos da IA segundo a Deco Proteste
“A má utilização dos dados é que nem sempre refletem a diversidade humana (alguns grupos demográficos podem estar sobre ou sub-representados) ou não tratam todos de forma justa.”
“O sistema pode fazer com que certos perfis sejam sistematicamente excluídos no acesso a recursos ou oportunidades (bolsas universitárias, empregos, etc). Podem ainda fornecer resultados favoráveis a certos grupos, contribuindo para fortalecer estereótipos, (exclusão automática de pessoas por género, etnia ou idade).”
Pode ainda ler-se no site, “Por isso, é necessário introduzir mecanismos de correção ao longo das fases de conceção e desenvolvimento dos sistemas de inteligência artificial. Em certos contextos, são ainda necessárias ferramentas para minimizar os erros. Em situações críticas, como a área da saúde, podem consistir numa dupla verificação por um especialista.”
Espécie de rótulo previsto no Digital Services Act (DSA)
Věra Jourová garante que tem uma nova proposta que deve ser aplicada já em julho.
A ideia é que todos os conteúdos produzidos com recurso a Inteligência Artificial sejam identificados de forma voluntária pelas empresas que assinaram o Código de Conduta contra a desinformação que foi revisto e atualizado em 2022.
“Os signatários [do Código de Conduta] que integram IA generativa nos seus serviços, como o Bingchat da Microsoft, o Bard da Google, devem construir as salvaguardas necessárias para que esses serviços não possam ser usados por atores maliciosos para gerar desinformação.”