Quão preocupados deveríamos estar com o apocalipse da IA?

A ascensão da inteligência artificial superinteligente para exterminar a humanidade tem sido um tropo popular na ficção científica há décadas. Vivemos agora num mundo onde a IA real parece estar a avançar mais rapidamente do que nunca. Isso significa que devemos começar a nos preocupar com o apocalipse da IA?

Ao contrário de outros riscos existenciais, como as alterações climáticas, os riscos colocados pela IA são difíceis de quantificar. Estamos no domínio da especulação simplesmente porque compreendemos muito menos a situação do que os padrões climáticos.

O que sabemos com certeza é que muitas pessoas muito inteligentes estão preocupadas. Muitos dos actuais executivos de empresas de IA estão a alertar sobre o potencial da IA ​​para levar à extinção da humanidade, e até mesmo Alan Turing, o pioneiro da inteligência mecânica, falou de um futuro em que os computadores se tornarão sencientes, depois superarão, e eventualmente assumirão, os humanos.

O cenário progride assim. Imagine dar a uma IA a única tarefa de resolver um problema grande e profundo como a Hipótese de Riemann, um dos mais famosos problemas não resolvidos da matemática. Decidindo que o que precisamos é de enormes quantidades de poder computacional, poderíamos pensar fora da caixa e começar a transformar todos os objectos inanimados da Terra num supercomputador gigantesco, deixando 8 mil milhões de pessoas a morrer de fome em vastos e estéreis centros de dados. Também podemos ser usados ​​como matéria-prima.

Agora, você poderia argumentar que, neste cenário, a IA poderia perceber o que estava fazendo e cutucá-la imediatamente, dizendo: “A propósito, parece que você está tentando transformar o mundo inteiro em um data center. Se for esse o caso, não faça isso, porque ainda precisamos viver na Terra.” No entanto, você pode querer detectar esses tipos de problemas antes que eles ocorram e tomar precauções para evitar danos.

O escritor de ficção científica Isaac Asimov resolveu esse problema com três princípios da robótica. A primeira é que os robôs não devem prejudicar os humanos nem permitir que os humanos os prejudiquem através da sua inação.

Então, em teoria, podemos simplesmente dizer à IA para não nos prejudicar, e na verdade ela não fará isso. Não, não. A nossa capacidade de incorporar salvaguardas e regras na IA é desajeitada e ineficiente. Podemos dizer aos actuais modelos linguísticos de grande escala para não serem racistas, não usarem xingamentos ou divulgarem receitas de explosivos, e nas circunstâncias certas fá-lo-ão de qualquer maneira. Não entendemos completamente o que está acontecendo dentro dos nossos modelos de IA, por isso não podemos impedi-los de fazer coisas que não queremos que façam.

Mesmo que resolvamos tudo, ainda existem cenários em que os modelos de IA tentam intencionalmente nos excluir. terminador ou matriz cenário. Isso pode acontecer após melhorias muito graduais na IA durante um longo período de tempo, ou quase instantaneamente em uma singularidade. Este é um processo hipotético no qual uma IA se torna inteligente o suficiente para melhorar a si mesma e, em seguida, itera rapidamente em um ritmo impressionante, tornando-se cada vez mais inteligente e ultrapassando a inteligência humana num piscar de olhos.

E a IA pode decidir fazê-lo porque tem medo que os humanos a desliguem, ou porque não quer que os humanos a intimidem, ou porque simplesmente pensa que é melhor para o planeta se os humanos não interferirem e bagunçarem as coisas. Este é um sentimento que muitas espécies animais e vegetais podem partilhar, se puderem.

Isto poderia ser feito através da utilização de laboratórios biológicos automatizados para criar vírus mortais, desencadeando um arsenal global de armas nucleares, construindo um exército de robôs assassinos, ou simplesmente sequestrando os robôs que os governos já estão a construir. Talvez faça coisas mais nefastas, sutis e até desprezíveis do que já imaginamos.

Na prática, isso pode ser difícil. A IA pode querer erradicar os humanos, mas tem opções limitadas. Sim, todos os semáforos ficarão verdes e alguns de nós poderão morrer num acidente de trânsito. É provável que ocorra uma queda de energia e várias outras. Alguns aviões podem cair. Mas eliminar 8 bilhões de pessoas de uma vez? Não é um trabalho fácil. E há uma boa chance de você ter que se defender de outros modelos de IA que tentam impedir o sucesso desse plano assassino.

Muitos desses cenários parecem ficção científica rebuscada ou experimentos mentais rebuscados, mas os especialistas estão divididos quanto à sua probabilidade. E isso por si só deveria nos dar algo em que pensar.

Hoje, empresas com enormes investimentos, vastos recursos e equipas compostas por algumas das pessoas mais brilhantes do planeta estão a competir para construir uma IA superinteligente. Quer você pense que isso acontecerá imediatamente ou não, e se terá consequências negativas ou não, provavelmente podemos concordar que, se alguém o fizer, talvez seja melhor ir com calma e pensar cuidadosamente antes de prosseguir. Infelizmente, o capitalismo não é um sistema que seja bom a pesar as consequências antes de inovar, e os políticos de hoje estão tão interessados ​​nos potenciais ganhos económicos da IA ​​que a regulamentação não parece ser uma prioridade.

Então, qual é a probabilidade de ocorrer um desastre? um artigo de 2024 Um inquérito realizado a cerca de 3.000 investigadores de IA publicados descobriu que mais de metade acredita que há pelo menos 10 por cento de probabilidade de a IA causar a extinção ou a privação permanente e severa dos direitos da raça humana, a chamada p(desgraça) ou catástrofe. Não sei sobre você, mas eu realmente esperava que esse número fosse menor.

Algumas pessoas que trabalham com IA estão otimistas quanto ao futuro e alguns especialistas acreditam que será o fim da humanidade. Preocupantemente, estou fazendo isso de qualquer maneira.

Pessoalmente, sou da escola de pensamento de que não há nada inerentemente mágico no cérebro e na consciência humanos. Na verdade, não há nada que não possa ser reproduzido artificialmente. Portanto, se pensarmos em escalas de tempo suficientemente longas, poderíamos potencialmente criar uma inteligência artificial que excede significativamente as capacidades humanas. Mas também penso que temos um longo caminho a percorrer antes de compreendermos o que isso significa, e muito menos de o conseguirmos.

Não acredito que os modelos atuais estejam nem perto da ladeira escorregadia da singularidade – eles certamente não conseguem contar até 100 – e não estou perdendo o sono por causa disso tudo.

Mas embora este seja um grande problema, isso não significa que a IA não represente problemas urgentes.

Talvez o apocalipse da IA ​​​​com o qual deveríamos nos preocupar possa na verdade ser a perda em massa de empregos causada pela automação, ou a perda gradual de habilidades humanas à medida que a IA assume cada vez mais tarefas, ou mesmo uma maior homogeneização da cultura devido à arte, música e filmes gerados pela IA.

Ou talvez seja uma recessão global causada pelo colapso dos preços das ações das empresas tecnológicas que persuadiram os investidores a entregarem milhares de milhões de dólares com promessas inflacionadas de máquinas superinteligentes que estão anos à frente das suas reivindicações. Esses cenários parecem muito mais reais e mais próximos de mim.