Como o uso governamental da IA ​​pode impactar negativamente a democracia

Muitos países estão a explorar como a inteligência artificial pode ajudar em tudo, desde o processamento de impostos até à determinação de benefícios. Contudo, a investigação mostra que o público está menos entusiasmado do que o governo, e isto pode criar riscos reais para a democracia.

“Concentrar-se apenas em ganhos de eficiência a curto prazo e em tecnologia brilhante corre o risco de provocar reações negativas e levar a um declínio a longo prazo na confiança e legitimidade democrática”, disse ele. Alexandre Wutke na Ludwig-Maximilians-University em Munique, Alemanha.

Wuttke e seus colegas perguntaram a cerca de 1.200 pessoas no Reino Unido como elas se sentiam em relação às ações do governo quando os humanos ou a IA estavam no comando. Estes cenários hipotéticos incluíam o processamento de declarações fiscais, a aprovação ou negação de pedidos de assistência social e a avaliação de risco para determinar se um arguido era elegível para fiança.

Alguns foram apenas informados sobre como a IA poderia melhorar a eficiência do governo, enquanto outros aprenderam sobre os benefícios e riscos associados à IA. Estes riscos incluem a dificuldade em compreender como são tomadas as decisões relativas à IA, o aumento da confiança dos governos na IA, que se torna irreversível ao longo do tempo, e a falta de caminhos claros para os cidadãos desafiarem e corrigirem as decisões relativas à IA.

Quando as pessoas tomaram conhecimento dos riscos relacionados com a IA, relataram uma queda significativa na confiança no governo e um sentimento de perda de controlo. Por exemplo, em cenários em que os governos dependem mais fortemente da IA ​​para realizar determinadas tarefas, a percentagem de participantes que relatam uma perda de controlo democrático no governo aumentou de 45% para mais de 81%.

À medida que os participantes aprenderam sobre os riscos, a proporção que apelava a menos IA no governo também aumentou acentuadamente. Os cenários em que o governo tomou conhecimento dos benefícios e dos riscos da utilização da IA ​​aumentaram de menos de 20% no cenário de base para mais de 65%.

Apesar destes resultados, os governos democráticos têm potencial para alavancar a IA de formas responsáveis ​​que mantenham a confiança do público. Hannah Quay de la Vallee No Centro para Democracia e Tecnologia em Washington, DC. Mas ela diz que até agora houve pouco sucesso com a IA no governo. Por outro lado, já houve “um número significativo de falhas” e os riscos nestes casos podem ser incrivelmente elevados.

Por exemplo, os esforços dos estados dos EUA para automatizar o processamento de pedidos de benefícios públicos ajudaram dezenas de milhares de pessoas. cobrança errada Por fraude. Algumas dessas pessoas tiveram que declarar falência ou perder suas casas. “Os erros do governo têm consequências enormes e duradouras”, afirma Quai de la Vallée.