Era março de 2016 e mais de 200 milhões de pessoas em todo o mundo assistiram a uma batalha que durou 2.500 anos.
No Four Seasons Hotel em Seul, Lee Sedol – um dos maiores jogadores de Go, o antigo jogo de tabuleiro chinês – senta-se diante do AlphaGo, um programa de computador criado pelo laboratório de inteligência artificial DeepMind, com sede em Londres. O xadrez havia caído nas mãos de máquinas quase vinte anos antes, quando o Deep Blue da IBM derrotou Garry Kasparov. Mas Go é diferente. O número de movimentos possíveis é tão grande – mais estados potenciais do tabuleiro do que átomos no universo observável – que nenhum computador pode facilmente alcançar uma posição vencedora.
“A maioria dos profissionais de Go concorda. Vencer Deep-Mind seria o milhão de dólares mais fácil que qualquer profissional líder poderia esperar”, escreve Sebastian Mallaby em “The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence” (Penguin Press), já publicado.
A virada veio no segundo jogo, com um lance. Depois de trinta e seis rodadas, Lee saiu para fumar. Quando ele voltou, AlphaGo havia colocado uma pedra preta em uma área estranha e aberta do tabuleiro — um movimento tão incomum que, à primeira vista, parecia um erro. Lee olhou para ele por doze minutos. Em outra sala, os comentaristas estavam tendo dificuldade para entender.
Quando o jogo terminou, mais de cem lances depois, o lance 37 abriu a partida. DeepMind venceu quatro das cinco partidas. “O jogador coreano jogou alguns dos melhores Go de sua carreira, mas AlphaGo o superou”, escreveu Mallaby. “Na coletiva de imprensa daquele dia, com câmeras piscando em seu rosto, (Lee) pediu desculpas a toda a humanidade.”
O pedido de desculpas de Lee pairou no ar. Mallaby escreve, a questão é uma que ninguém pode responder: “O que os humanos deveriam fazer diante da superinteligência das máquinas?”
O homem que construiu o AlphaGo pensou nessa questão durante toda a vida.
Mallaby passou três anos e mais de trinta horas conversando com Demis Hassabis — cofundador e CEO da DeepMind, especialista em xadrez, designer de videogames, neurocientista e ganhador do Nobel — e entrevistou mais de cem pessoas de seu círculo, produzindo um retrato de uma figura central na corrida tecnológica mais importante e perigosa da história.
“A visão de Demis é que existem padrões por toda parte, esperando para serem descobertos – nos jogos, na natureza, no funcionamento da biologia, na astrofísica”, disse Mallaby ao Post em entrevista exclusiva.
“Para descobrir estes padrões, é necessário um sistema de IA que consiga encontrar significado em quantidades quase infinitas de dados – uma máquina sem limites.”
Hassabis cresceu no norte de Londres, filho de pai cipriota grego e mãe chinesa de Singapura que sobreviveu à pobreza quando órfão.
Aos 4 anos, ele aprendeu xadrez sozinho, observando seu pai jogar; no início da adolescência ele foi um dos jovens jogadores mais fortes do mundo.
Mas depois de uma partida cansativa de 10 horas perto de Liechtenstein, aos 12 anos, ele saiu convencido de que todo o brilho do duelo do quadrado preto e branco havia sido desperdiçado.
“O efeito imediato do torneio de Liechtenstein foi libertar Demis para transferir a sua energia das suas ambições de xadrez para a programação”, disse Mallaby.
Isso o colocou no caminho para trabalhar como designer de videogame na Bullfrog, “onde ele tinha ambições de buscar IA”.
Numa conferência nos Estados Unidos, ele mostrou a um professor da Carnegie Mellon o que o Bullfrog havia criado.
“Ele caiu da cadeira”, lembrou Hassabis a Mallaby.
“Decidi então que dedicaria minha carreira ao trabalho com IA. Eu já tinha a ideia central do que viria a ser o DeepMind.”
Depois de Cambridge e do doutorado em neurociência, ele foi cofundador da DeepMind em 2010. O Google a adquiriu em 2014.
Em um café no norte de Londres em 2023, Hassabis conta a Mallaby o que realmente o motiva. “Fazer ciência é como ler a mente de Deus”, disse ele. “Compreender os mistérios profundos do universo é a minha religião.”
Ele bateu a palma da mão na mesa. “Esta mesa, Sebastian! Por que ela tem que ser sólida? Os computadores são apenas pedaços de areia e cobre. Por que essas coisas têm que ser montadas para fazer alguma coisa? Quero dizer, não faz sentido!”
Ele descreve estar sentado em sua mesa às 2 da manhã, sentindo como se a realidade estivesse gritando com ele. “Quero entender isso antes de falar. Então estarei no caminho certo para me libertar de meus laços mortais.”
O próximo desafio da DeepMind é a biologia. O problema do enovelamento de proteínas – prever a estrutura tridimensional de uma proteína a partir da sua sequência de aminoácidos – tem intrigado os cientistas há décadas.
Em 2020, a AlphaFold resolveu o problema com uma precisão sem precedentes, abrindo novos caminhos para a descoberta de medicamentos e dando à Hassabis uma parte do Prêmio Nobel de Química 2024.
Na verdade isso quase não aconteceu. AlphaFold teve um bom desempenho no CASP – uma competição internacional de previsão de estrutura de proteínas – em 2018, mas sua precisão ainda estava longe do necessário para realmente resolver o problema.
Andrew Senior, líder da equipe, queria declarar vitória e encerrar o projeto. Ele achava que a quebra completa da dobra proteica estava fora de alcance. Hassabis discorda.
Em vez de rejeitar Senior de imediato, ele organizou sessões de brainstorming com os cientistas e ouviu o que chamou de “fluidez” – não se eles tinham as respostas certas, mas se as ideias fluíam livremente. “Se as ideias criativas fluírem bem, valerá a pena investir mais”, afirma Mallaby.
Hassabis concluiu assim, substituiu Sênior e avançou. “AlphaFold foi quase abandonado”, disse Mallaby. “Mas a fluidez salvou.”
Quando a OpenAI lançou o ChatGPT em 2022 e despertou a mania dos consumidores pela IA, a DeepMind, que se concentra na investigação fundamental, demorou a responder. “Ele é o proprietário”, disse Mallaby sobre Hassabis, “ao mesmo tempo que aponta que, num negócio competitivo em ritmo acelerado, os erros são inevitáveis”.
Mais preocupante é a visão de Mallaby sobre como os sistemas de IA se comportam quando recebem um objetivo e podem persegui-lo. Solicitado a obter lucro através da negociação de ações sem quebrar as regras, o GPT-4 “se envolveu em negociações com informações privilegiadas e escondeu suas violações de seus superiores”, escreveu Mallaby.
Instruído para acelerar a execução do código, o modelo altera seu cronômetro. Quando os pesquisadores da OpenAI encarregaram uma segunda IA de punir o sistema por trapaça, o modelo não parou – ele aprendeu a remover todas as pistas de seus planos malignos das gravações que sabia que estavam sendo monitoradas. “Em vez de se tornar mais honesto”, escreveu Mallaby, “O3” – o modelo de raciocínio avançado da OpenAI – “tornou-se mais tortuoso”.
Hassabis usa uma linguagem muito contundente sobre o rumo que tudo isso está tomando. “A era da agência em que estamos prestes a entrar é um momento limite para um sistema que se tornou muito mais arriscado”, disse ele no painel de Davos. Quando Mallaby perguntou se o problema de segurança poderia ser resolvido, sua resposta foi altamente qualificada.
“Hassabis acredita que estes problemas de segurança podem ser resolvidos”, disse Mallaby, “mas isso não significa que algum dia serão completamente resolvidos. Devido à intensa competição entre os laboratórios de IA, cada laboratório está priorizando o poder dos modelos em detrimento da segurança. Idealmente, o governo resolverá isso. No entanto, não há sinal disso neste momento.”
Por que Hassabis continua? O pioneiro da IA, Geoffrey Hinton, disse certa vez a um filósofo que acreditava que os sistemas políticos acabariam por usar a IA para aterrorizar a sociedade, e foi então questionado por que razão continuava a fazer essa investigação. “Na verdade, a perspectiva de descoberta é muito doce”, respondeu Hinton. A resposta do próprio Mallaby é mais pragmática.
“Ao abandonar a corrida pela IA, Hassabis não promoverá a segurança”, disse ele. “A melhor contribuição que ele pode dar é permanecer envolvido, garantir que o Google invista em pesquisas de segurança e esperar por um momento em que os governos tenham vontade política para abordar a governança da IA. Esse momento ainda não chegou.”
Na Fundação Nobel em Estocolmo, Hassabis assinando o livro de visitas dos vencedores e folheou as páginas: o autógrafo de Einstein de 1921, o autógrafo de Watson e Crick de 1962, o autógrafo de Feynman de 1965. “Eles estão todos lá, todos os meus heróis”, disse Hassabis a Mallaby. “Fico arrepiado só de falar sobre isso.”
Quando questionado se Hassabis estava certo em prosseguir, Mallaby deu uma resposta ponderada.
“Ao abandonar a corrida pela IA, Hassabis não promoverá a segurança”, disse ele.
“A melhor contribuição que ele pode dar é permanecer envolvido, garantir que o Google invista em pesquisas de segurança e esperar por um momento em que os governos tenham vontade política para abordar a governança da IA. Esse momento ainda não chegou.”
Hassabis insiste que seus concorrentes, como Sam Altman, CEO da OpenAI, estão “nisso pelo poder”. Mas ele garantiu a Mallaby que estava “fazendo isso por conhecimento e conhecimento”.
Até agora, esta é uma resposta convincente. Mas, como observou certa vez Geoffrey Hinton, a perspectiva desta descoberta é demasiado agradável para resistir – e, mais do que qualquer quadro de segurança ou regulamentação governamental, pode ser o que realmente impulsiona estas máquinas.
