Na sua encíclica “Magnifica Humanitas”, publicada hoje, o Papa Leão XIV alertou que a inteligência artificial “ameaça a normalização das visões anti-humanas” e alertou fortemente contra a concentração de novas tecnologias nas mãos de poucos.
Na primeira frase da encíclica, o papa escreveu: “O grande ser humano, criado por Deus, enfrenta hoje uma escolha crucial: ou construir uma nova Torre de Babel ou construir uma cidade onde Deus e a humanidade viverão juntos”.
“Se a moralidade for determinada por poucos, então mais inteligência artificial ética não será suficiente”, escreveu o papa, apelando a “um código moral guiado por padrões comuns de justiça social”.
“A mera invocação da moralidade abstrata não é suficiente; também são necessários um quadro jurídico robusto, uma supervisão independente, utilizadores informados e um sistema político que não abdique de responsabilidade”, escreveu o papa. “Uma IA mais ética não será suficiente se a moralidade for determinada por poucos.”
Christopher Olah, cofundador da empresa de inteligência artificial Anthropic, que se encontrou hoje com o Papa Leão no Vaticano, disse: “Precisamos de mais forças no mundo – grupos religiosos, sociedade civil, académicos, governos – para fazer o que Sua Santidade está a fazer aqui: levar esta questão a sério, olhar com cuidado e levar as coisas numa direção melhor. Precisamos de vozes morais que os incentivos não possam mudar”.
Leia o texto completo da encíclica abaixo.
Especificamente, o papa apelou à clareza sobre responsabilidade e prestação de contas, supervisão independente e educação dos utilizadores “em todas as fases do processo de desenvolvimento” para as políticas e quadros jurídicos da IA.
“O que precisamos é de uma participação política mais activa que possa abrandar as coisas quando tudo está a acelerar”, escreveu Leo no artigo. Acrescentou que o impacto das novas tecnologias no ambiente não pode ser ignorado “porque requerem grandes quantidades de energia e água e afectam a criação”.
A encíclica foi interpretada por muitos como uma refutação clara e concisa da visão de Silicon Valley sobre o futuro da civilização. O Papa Leão observou que a inteligência artificial deve ser “desarmada” para libertá-la de uma mentalidade de competição militar, económica e cognitiva.
“Desarmamento significa questionar a suposição de que o poder tecnológico confere automaticamente o poder de governar”, escreve ele. “Desarmamento não significa rejeitar a tecnologia, mas impedir que ela domine a humanidade.”
“A humanidade – apesar de toda a sua grandeza e dor – nunca pode ser substituída ou superada”, escreveu ele, embora reconhecendo que a tecnologia pode aliviar o sofrimento humano e abrir novas possibilidades, mas nunca deve negar a essência da humanidade, a nossa “capacidade de nos relacionarmos e amarmos”.
O papa disse sobre a inteligência artificial: “A verdadeira escolha não é entre o entusiasmo e o medo, mas entre dois caminhos de desenvolvimento: o progresso que serve os indivíduos e os povos, ou o progresso que sucumbe a uma mentalidade de poder”.
