Papa Leão Na verdade, diz o cientista da computação, a IA já está retornando descobertas “perturbadoras” e provavelmente deveria ser mantida sob controle.
Numa resposta publicada no site da Anthropic, que Oler também poderia apresentar na Cidade do Vaticano, ele primeiro reconheceu rapidamente que nem todos os laboratórios de IA, incluindo o seu, trabalham exclusivamente para ajudar as pessoas. Ele até disse que poderia parecer “estranho” admitir isso.
“Todos os laboratórios de IA de ponta, incluindo o Anthropic, operam dentro de um conjunto de incentivos e restrições que às vezes estão em desacordo com fazer a coisa certa”, disse ele. “A pressão para permanecer comercialmente viável e permanecer na vanguarda da investigação. Pressões geopolíticas. E as velhas pressões do orgulho e da ambição. Não importa quão sinceramente qualquer um de nós tente fazer a coisa certa, e acredito que muitos de nós o fazemos, seremos sempre influenciados por esses incentivos.”
Cabe, portanto, a outros, como o Papa, criticar publicamente estas empresas, argumentou Oler. É por isso que Ora ficou “grato” ao Papa Leão por ter defendido esta tecnologia.
Ele então explicou como os sistemas de IA são construídos, acrescentando que mesmo as pessoas que os constroem ainda estão aprendendo e compartilhando. “E sejamos honestos, continuamos descobrindo coisas que são misteriosas e até perturbadoras.”
Oler propôs então três questões que deveriam ser abordadas por outros, não por aqueles que criam IA. Estas incluem “a necessidade de imaginação moral e ambição para o florescimento humano” e “as nossas obrigações para com os pobres do mundo”.
O cofundador da Anthropic não ofereceu nenhuma solução possível, mas observou que os pais estão preocupados com a mente dos seus filhos graças à IA, e os criadores estão preocupados com os seus empregos. Ele também reconheceu que, como os trabalhadores serão deslocados pela IA, “haverá uma obrigação moral de proporções históricas de apoiar aqueles que são deslocados”.
“Precisamos de críticos informados em nossos laboratórios para nos informar quando falhamos”, concluiu. “Precisamos de uma voz moral que não possa ser influenciada por incentivos.”
