TL, DR *
O Ministro das Comunicações da África do Sul, Solly Malatsi, retirou o projecto de plano nacional de IA do país depois que o News24 descobriu que pelo menos 67 das suas 67 citações académicas foram geradas por alucinações, citando artigos falsos em jornais reais. O plano foi aprovado pelo Conselho de Ministros em março e publicado para comentários públicos. Malatsi chamou isso de “deslize aceitável” e prometeu ao governo um acompanhamento. O escândalo deixa a África do Sul sem um quadro de governação da IA e levanta questões sobre a capacidade institucional para regular a tecnologia.
O Departamento de Comunicações e Tecnologia Digital da África do Sul passou meses a elaborar um plano nacional de inteligência artificial. Ele propôs a Comissão Nacional de IA, um Conselho de Ética de IA, uma Autoridade Reguladora de IA, um Provedor de IA, o Instituto Nacional de Segurança de IA e o Superfundo de Seguros de IA. Ele delineou cinco pilares da governação da IA: capacitação, governação responsável, IA ética e inclusiva, preservação cultural e implantação centrada no ser humano. Adotou uma abordagem baseada no risco modelada na Lei da UE sobre IA. O gabinete aprovou o projecto em 25 de Março. O Diário do Governo publicou-o para comentários públicos em 10 de Abril. E depois a News24, uma agência de notícias sul-africana, verificou a bibliografia e descobriu que pelo menos seis das 67 citações académicas estavam em falta no documento. Os relatos eram verdadeiros. Não houve artigos. Os autores da investigação fundamental sobre a governação da IA acreditam nunca ter escrito os artigos que lhes foram atribuídos. Os editores do South African Journal of Philosophy, AI & Society e do Journal of Ethics and Social Philosophy confirmaram de forma independente ao News24 que os artigos citados nunca foram publicados nas suas páginas. Uma explicação mais provável, de acordo com o Ministro das Comunicações, Solly Malatsi, é que os redatores usaram uma ferramenta de IA generativa e publicaram os resultados sem verificar nada. A política do governo foi concebida para controlar a inteligência artificial que foi sequestrada pela inteligência artificial que não conseguiu controlá-la.
Aposentadoria
Malatsi anunciou sua aposentadoria em 27 de abrilchamando as citações fictícias de “o deslize recebido” “a integridade e credibilidade da política de lidar com suspeitas”. Como resultado, ele disse que a agência irá às autoridades para fazer e garantir a qualidade. O ministro disse. O presidente da pasta parlamentar da comissão forneceu uma avaliação mais detalhada, sugerindo que o departamento “ignore o uso do ChatGPT neste momento” durante a reformulação. O documento será revisado antes de comentários públicos, mas nenhum cronograma foi fornecido. A África do Sul não dispõe actualmente de um quadro formal de governação da IA, numa altura em que os governos mundiais se debatem sobre como regular a IA, e a credibilidade do país como participante sério nessa conferência sofreu um golpe que exigirá uma revisão política.
Não é simplesmente um escândalo que citações falsas apareçam num documento governamental. Foi o que apareceu no documento do governo sobre inteligência artificial, escrito pelo departamento responsável pela política de tecnologia digital do país, durante o exato período em que as discussões governamentais mais importantes sobre IA acontecem em Bruxelas, Washington e Pequim. A Lei da UE sobre IA, uma regulamentação ambiciosa da tecnologia de inteligência artificial, foi adiada pelas normas e por um cronograma de implementação que foi adiado para 2027 para sistemas de alto risco. Os Estados Unidos não têm leis federais sobre IA e os estados aplicam as leis de forma independente, enquanto a Casa Branca tenta restringir seus esforços. A China estabelece padrões de IA, mas aplica-os seletivamente. Neste cenário, a África do Sul ofereceu uma política que não sobreviveria ao escrutínio bibliográfico.
Razão
As citações alucinatórias da África do Sul são o caso mais recente de um problema que se espalha silenciosamente pelas organizações que utilizam IA generativa para investigação e recrutamento. Um estudo publicado na Nature descobriu que 2,6% dos artigos académicos publicados em 2025 conterão pelo menos uma citação potencialmente alucinatória, acima dos 0,3% em 2024. Se esse sistema contabilizar aproximadamente sete milhões de publicações académicas até 2025, mais de 110 mil artigos não conterão nenhuma. GPTZero, uma startup canadense de detecção, desenvolveu mais de 4.000 artigos de pesquisa aceitos na NeurIPS 2025, uma das principais conferências de IA do mundo, e encontrou mais de 100 citações geradas por pelo menos 53 artigos. Em amostras múltiplas separadas, apenas 26,5% das bibliografias geradas por IA estavam completamente corretas. O problema é estrutural: grandes modelos de linguagem geram citações por meio de suposições baseadas em probabilidade, em vez de recuperação de dados. Eles não olham os papéis. Eles prevêem como deve ser um sistema de citações em seus formulários de treinamento e, quando confiam o suficiente na previsão, criam um relatório que parece oficial, mas não mostra nada.
Espaço TNW City Coworking – onde o melhor trabalho é feito
Um espaço de trabalho para crescimento, colaboração e oportunidades infinitas de networking no coração da tecnologia.
O caso sul-africano é distinto não por causa da técnica alucinatória, que é uma limitação inerente e bem documentada da IA generativa, mas porque as alucinações foram publicadas num documento oficial do governo que passou pela aprovação do Gabinete, sem provas de apoio. O processo de elaboração inclui funcionários públicos, consultas sobre assuntos e revisão ministerial. Dumisani Sondlo, líder do projeto de IA do departamento, descreveu anteriormente o desenvolvimento do projeto como “o ato de reconhecer que não sabemos o suficiente”. Esse reconhecimento não vai tão longe quanto o reconhecimento de que a ferramenta utilizada para fazer o projeto em si é leve. Estas são as seis citações falsas identificadas pelo News24. Se as citações adicionais na nota 67 são genuínas, não foi oficialmente confirmado. Toda a bibliografia está agora em dúvida e, por extensão, também a base analítica em que se baseiam as políticas propostas.
efeitos
O próximo passo é redefinir o cronograma de IA do governo sul-africano. O projecto de plano, que pretendia posicionar o país como líder na adopção da IA no continente africano, precisa de ser reestruturado, consultado e reapresentado. A perda de credibilidade institucional vai além da própria política. Se o departamento responsável pelo controlo da IA não conseguir verificar se as fontes do seu próprio documento político são reais, a questão passa a ser se tem capacidade para gastar nos sistemas de IA que se propõe controlar. O plano previa um modelo multi-regulatório em que a governação da IA e a supervisão humana seriam integradas nos quadros de supervisão existentes, e não sob uma única autoridade central. Esse modelo exige que cada participante tenha conhecimento técnico suficiente para avaliar os sistemas de IA em sua região. A obstrução do bloqueio alucinatório não aumenta a confiança de que o departamento de coordenação caia nesse limite.
A lição mais ampla é que os governos devem evitar a utilização da IA no desenvolvimento de políticas. A falta do modo AI não é dramática. Não bata. Não mostra mensagem de erro. Produz texto rico, formatado e confiável que se parece exatamente com o resultado de um pesquisador competente. As citações falsas sobre a política de IA da África do Sul claramente não estavam erradas. Eles eram credíveis. Os jornais citam a verdade. Eles estavam dando trabalho para pessoas reais. Eles seguiram as convenções acadêmicas formais da p. A única maneira de capturá-los era verificar se cada pessoa realmente existia, uma tarefa que requer exatamente o tipo de confirmação humana metódica que a IA supostamente torna supérflua. A crescente desconfiança pública em relação à IA não é irracional. A resposta técnica é poderosa para a elaboração de políticas nacionais e suficientemente fiável para construir as evidências em que se baseia. A vergonha da África do Sul é única, mas o seu fracasso subjacente, utilizando a IA sem a possibilidade de verificar os seus resultados, não o é. É usado em universidades, escritórios de advocacia, revistas e departamentos governamentais em todo o mundo. A África do Sul é simplesmente o primeiro governo a emitir receitas. Os desafios da implementação da regulamentação da IA são reais, mas há um pré-requisito que o departamento sul-africano não cumpre: compreender o que a tecnologia faz antes de tentar escrever as regras.
