As ambições da África do Sul de se tornar o líder do continente em inteligência artificial depararam-se com um obstáculo profundamente estranho: o projecto de plano nacional de IA do país teve de ser retirado depois de se ter descoberto que continha citações falsas, aparentemente geradas pela IA.
Reportagem da Reuters a finalização do documento no parlamento estava se aproximando quando informações falsas foram encontradas na lista de fontes. Solly Malatsi, Ministro das Comunicações e Tecnologia Digital da África do Sul, anunciou a demissão num diz-se que foi enviado para X * Em 26 de abril, ele apelou a um compromisso direto sobre a integridade do seu plano.
Este Tweet pode estar indisponível. Pode estar carregando ou foi removido.
“Esta falha não é um mero problema técnico, mas é perigosa para a integridade e credibilidade do esquema”, escreveu Malatsi. “Provavelmente deveria ser explicado que as citações geradas por IA foram incluídas sem a devida verificação. Isso não deveria ter acontecido. Na verdade, esse infeliz deslize prova por que a supervisão humana no uso da inteligência artificial é um descuido crítico.”
Velocidade da luz mashável
As alucinações de IA continuam a ser problemas difíceis e em grande parte intratáveis com modelos de linguagem, como o Mashable relatou repetidamente.
Citações falsas têm sido um problema específico em documentos jurídicos, e um número crescente de procuradores dos EUA tem sido frustrado e punido por emitir resumos jurídicos com alucinações geradas por IA. Um banco de dados on-line de alucinações legais defendida pelo advogado e cientista de dados Damien Charlotin encontrou mais de 900 casos deste tipo apenas nos Estados Unidos (e quatro na África do Sul, sem incluir o desastre mais recente).
O plano revisto delineou a criação de uma comissão nacional de IA, de um conselho de ética e de um órgão regulador, juntamente com incentivos fiscais, subvenções e subsídios para estimular o investimento do sector privado. A África do Sul foi classificada pela Reuters como um importante centro africano de inovação em IA.
A declaração de Malatsi não indicou quando o plano revisto seria produzido.
Tópicos
Inteligência artificial
