Leão XIV primeira encíclica encíclica na segunda-feira sobrescrito Magnífica Humanidade ele aborda “preservar a pessoa humana na era da inteligência artificial”. E enquanto a IA está no horizonte, os problemas de Leão são generalizados e maiores: a desigualdade, a guerra, a erosão da democracia e a consolidação do poder nas mãos daqueles que não se importam necessariamente se a humanidade de vida curta permanece majestosa.
Num documento de 200 páginas apresentado pelo Papa Chris Olah, cofundador da empresa antrópica de IA, Leo argumenta que a tecnologia construída e gerida por uma pequena elite não pode, por definição, servir o bem comum.
“Quando esse poder está concentrado nas mãos de poucos, tende a tornar-se opaco e a evitar o escrutínio público, aumentando o risco de um desenvolvimento perverso, que dá origem a novas dependências, exclusões, manipulações e desigualdades”, escreve.
“Pois, como acontece com qualquer grande transição tecnológica, a IA tende a aumentar o poder daqueles que já possuem recursos económicos, conhecimentos especializados e acesso à informação”, continua a Carta Encíclica, destacando a importância de poder utilizar as ferramentas do seu poder para “moldar a informação e os padrões de consumo, os processos populares e direcionar a dinâmica económica em seu benefício”.
A carta encíclica veio poucos dias depois de o presidente Donald Trump ter assinado a sua ordem executiva sobre IA, que teria dado ao governo a supervisão dos novos modelos lançados anteriormente; corresponder a pedido do investidor de capital de risco e ex-czar da IA da Casa Branca, David Sacks.
Leo Pope chamou a IA de “critérios significativos e supervisão efetivamente enraizados na participação das comunidades que serão afetadas por ela”. Mais especificamente, Leo apelou ao fim da transformação da IA em arma – o impulso para construir “algoritmos cada vez mais poderosos e conjuntos de dados maiores” que as empresas e nações acreditam que serão “domínio geopolítico ou comercial seguro”.
“’Retirar-se’ significa refutar a suposição de que o poder técnico confere automaticamente o direito de comandar”, escreveu ele.
Esses movimentos, por sua vez, levam à IA. Leão XIII, no ano de 1891 das Coisas Novas, abordou a mesma revisão de poder na Revolução Industrial, mas não deve ser esquecida. Consideremos Elon Musk adquirir o Twitter e implementar a plataforma para ajudar a eleger Trump, ou investir centenas de milhões de dólares da tecnologia em super PACs para restringir a regulamentação da IA – padrões que claramente inspiraram o trabalho de Leão XIV.
Pope chega a uma conclusão a que muitos já chegaram: o poder e as capacidades surreais da IA de hoje levantam enormes riscos.
Paul Carozza, professor da Escola de Notre Dame, da Pontifícia Academia de Ciências Sociais e presidente do Meta Oversight Board, disse ao TechCrunch que a desinformação e as falsificações impulsionadas pela IA “corroeram nossa capacidade de saber o que é verdade e o que não é, e realmente têm consequências para a política popular”. A prática da indústria técnica de “coleta e manipulação” de dados pessoais acrescentou desafios fundamentais à liberdade cognitiva.
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
