Recentemente, Bill Gates assumiu o papel de outra inteligência artificial, Cassandra, tentando afastar Donald Trump do seu aceleracionismo linha-dura. Mas ele não está promovendo o que você poderia considerar uma mensagem familiar se não ler as manchetes anteriores. Ele apresentou um caso interessante para Ezra Klein do The New York Times Em entrevista publicada terça-feira. Numa frase, é isto que acontece: “A capacidade de realizar ataques cibernéticos, perturbar todas as contas bancárias, desligar a rede elétrica – estes ataques existem hoje e sabemos que é esse o caso”.
Seus olhos podem ficar vidrados ao ler esta frase, então deixe-me apontar três palavras que considero um pouco impressionantes: “Isso existe hoje”.
Se você puder voltar seu relógio de discurso de IA para abril, você deve se lembrar de quando a Anthropic anunciou o Mythos, um modelo tão terrivelmente poderoso que a Anthropic alegou que não poderia liberá-lo. Gates ficou chateado com o que viu as modelos fazendo na época e aparentemente permaneceu envolvido na discussão em abril:
“Portanto, as capacidades de hacking cibernético são incríveis. Então a Anthropic teve uma ideia chamada Projeto Glasswing, onde você poderia fornecer IA a algumas pessoas para que elas pudessem tentar consertar bugs antes de usar a IA. Mas havia muito código. Então, estamos em um período em que somos extremamente vulneráveis a ataques cibernéticos.”
Gates apontou “abranger todos os aspectos do rosto” como evidência de que os modelos de IA exigem “uma camada de supervisão com um certo grau de absoluto”. Por outras palavras, ele está essencialmente a dizer que se olharmos para a recente onda de incidentes de cibersegurança relatados a partir de modelos de inteligência artificial submetidos a avaliações de segurança, o perigo não está no futuro. Está bem na sua frente.
Gates disse que, especialmente quando se fala de modelos de código aberto, o perigo não requer qualquer faísca repentina de percepção ou alguma propensão incipiente para o mal digital. O perigo, afirmou ele, estava nas pessoas:
Algumas pessoas, por motivos ruins, poderão usar esses modelos. Portanto, a menos que implementemos salvaguardas e monitorização e exijamos isso em todos os modelos, teremos apenas alguns grandes eventos como este e, eventualmente, responderemos.
Se você pensava que Gates estava simplesmente emitindo avisos que pareciam exageros, certamente ele também está fazendo isso. Ele disse a Klein que o desenvolvimento da inteligência artificial é “como a história da evolução” e que “os alienígenas estão de fato aqui na forma de inteligência artificial”. Mas até agora todos já vimos o que os modelos actuais podem fazer, e a maior ansiedade de Gates parece ser a de que estes modelos estão apenas a emergir. Para ser claro, Gates deu ao mundo há muitas razões Não confie em sua liderança moral, mas isso não significa que ele não possa produzir coisas instigantes.
