Num novo ensaio de 38 páginas publicado no seu site pessoal, o CEO e cofundador da Anthropic, Dario Amodei, apela a ações urgentes para enfrentar os perigos da superinteligência da IA.
Amodei escreve que este tipo de IA autocurativa pode demorar apenas um ou dois anos – e alerta que os riscos incluem a escravização e a “destruição massiva” de humanos.
um pequeno ensaioTecnologia Adolescente“quando a IA representa uma ameaça conhecida e desconhecida. O CEO fala fluentemente sobre o potencial do bioterrorismo impulsionado pela IA, um exército de drones de IA malévola, IA, IA que torna os trabalhadores humanos obsoletos na sociedade em geral.
Para enfrentar estes riscos, Amodei sugere uma variedade de intervenções – desde a auto-regulação da indústria no âmbito da IA até à alteração da Constituição dos EUA.
CEO da Anthropic alerta que a IA destruirá metade de todos os empregos de colarinho branco
Adorei que o ensaio fosse atencioso e bem pesquisado. Mas ele também comete o pecado capital de escrever IA – ele não consegue resistir a antropomorfizar a IA.
Amodei alerta que ao tratar seu produto como uma vivência consciente ele cai na mesma armadilha.
É evidente que, ao mesmo tempo, o Nova Iorque Ele publicou pesquisas importantes sobre “psicose de IA”. Este é um termo genérico sem uma definição médica específica e refere-se a uma ampla gama de problemas de saúde mental exacerbados por chatbots de IA, como ChatGPT ou Claude. Pode incluir delírios, paranóia ou distanciamento total da realidade.
“No entanto, quando um vendedor de IA lhe diz que a IA é a tecnologia que irá revolucionar a ordem mundial da agricultura… você interpreta essa previsão pelo que ela é: um discurso de vendas.”
Esses casos geralmente têm uma coisa em comum: uma pessoa vulnerável vai até o chatbot de IA falando por tanto tempo que começa a acreditar que o chatbot está vivo. Large Language Models (LLMs) são um exemplo do potencial de uma plataforma como o ChatGPT para permitir um fac-símile muito semelhante da interação humana e, com o tempo, os usuários fortalecerem sua confiança emocional no chatbot.
Quando você passa mais tempo conversando com a máquina ela está programada o som empático – e quando essa máquina está sempre presente e otimizada para o combate – é muito fácil esquecer que não há mente trabalhando atrás da tela.
Explicando o fenômeno conhecido como ‘psicose de IA’
LLMs são ferramentas poderosas de previsão de palavras, mas não têm consciência, sentimentos ou empatia. Lendo “Adolescência Tecnológica” comecei a me perguntar se Amodei fazia muita conexão com sua máquina.
Amodei é responsável pela criação de um dos chatbots mais poderosos do mundo. Sem dúvida Cláudio passou incontáveis horas usando-o, abordando-o, testando-o, corrigindo-o. Ele pelo menos começou a ver Deus na máquina?
Prodrome descreve os chatbots de IA como “psicologicamente complexos”. Ele fala sobre IA como suas motivações e objetivos. Ele descreve exemplos de existência antrópica como um forte senso de “autoidentidade” como uma “boa pessoa”.
Velocidade da luz mashável
Em suma, antropomorfizando a IA generativa – e não apenas alguma forma futura e superinteligente de IA, mas a IA baseada em LLM de hoje.
Por que a destruição da IA está sempre próxima?
Grande parte da conversa sobre os perigos da IA provém directamente da ficção científica, o que Amodeus admite – e, no entanto, ele também é culpado da mesma premissa.
O prólogo abre com uma seção intitulada “Evitando o Doomerismo”, onde Amodei critica as vozes “nada sensíveis” e principalmente “sensacionalistas” que discutem os perigos da IA. “Essas palavras usam a linguagem da remoção, como religião ou ficção científica”, escreve ele.
No entanto, o ensaio de Amodeus também desafia frequentemente a ficção científica. E quanto à religião, parece haver uma crença semelhante de que a IA está próxima da superinteligência.
Pare-me se você já ouviu isso antes: “Pode não demorar mais do que alguns anos até que a IA seja melhor que os humanos em essencialmente tudo. Na verdade, essa imagem provavelmente superestima a taxa de desenvolvimento.”
Para viajantes de IA, é superinteligente sempre logo virando a esquina No comentário anterior com uma grande tendência utópica.’Graça divina da máquina“Amodei escreveu que a IA só poderia ser uma ou duas.
Agora aqui ele faz a mesma avaliação: o superintelecto tem de um a dois anos de idade. Novamente, é apenas ao virar da esquina Em breve, em breve, ferramentas de IA generativas como o Claudius aprenderão como melhorar, alcançando uma explosão de inteligência como nunca antes vista no planeta. A singularidade está chegando rapidamente, dizem os impulsionadores da IA. Acredite em mim, eles dizem.
Mas algo não pode ser permanente. Deveríamos esperar que a IA generativa progredisse exponencialmente, já que a indústria da IA parece ser uma válvula contra uma parede de retornos decrescentes?
Na bolha de Davos, os líderes da IA não veem a verdadeira bolha da IA
Na verdade, qualquer CEO da IA teria um forte incentivo para pensar. Um uma nova oferta de dinheiro já investido no desenvolvimento de infraestrutura de IA. A indústria de IA precisa ser financiada para permanecer aberta de todas as formas.
Em Davos, na semana passada, Jensen Huang, da NVIDIA, sugeriu que o investimento em infraestrutura de IA é tão grande que não pode ser uma bolha. Das pessoas que trouxeram para você “too big to miss” vem um novo hit: “too big to pop”.
Tenho visto os benefícios da tecnologia de IA e acredito que é uma ferramenta poderosa. No entanto, quando um profissional de marketing de IA lhe diz que a IA é uma tecnologia que mudará a ordem mundial, ou que a ordem mundial será alterada pela ameaça da bomba atômica, e que as ferramentas de IA em breve “obrigarão você a fazer tudo”, considere esta previsão pelo que ela é: um discurso de vendas.
O doomerismo da IA sempre foi uma forma de auto-lisonja. Dá aos humanos poderes divinos para criar novas formas de vida e classifica os oligarcas do Vale do Silício como Titãs com o poder de moldar os próprios alicerces do mundo.
Suspeito que a verdade seja muito mais simples. A IA é uma ferramenta poderosa. E todas as ferramentas podem ser perigosas nas mãos dos poderosos. São necessárias leis para conter o crescimento descontrolado das empresas de IA, o seu efeito no ambiente e o aumento da desigualdade de riqueza.
Para seu crédito, Amodeus menciona a regulamentação da indústria em seu comentário, mencionando a palavra rX times. Mas mesmo a ficção da ciência é confundida com a realidade da ciência no processo.
Não há certificado que os LLMs eles não levam a um sistema de grande inteligência que Amodeus acreditava tão sinceramente. Como disse um artigo de pesquisa da Apple, os LLMs parecem oferecer apenas “a ilusão de pensar”. O tão esperado GPT-5 decepcionou amplamente os maiores fãs do ChatGPT. E muitos dos grandes projetos de IA parecem estar travando e queimando; pode chegar a 95 por cento.
Em vez de nos preocuparmos com um papão como o apocalipse da Skynet, deveríamos concentrar-nos nos danos concretos da IA – leigos desnecessários, projecções confiantes da IA e a profunda desgraça da pornografia não consensual, para citar apenas dois.
A boa notícia para as pessoas é que esses problemas podem ser resolvidos se unirmos nossas mentes – não é necessário nenhum experimento mental de ficção científica.
Tópicos
Inteligência artificial
