Antrópico consumido Nos últimos cinco anos, ele alertou o mundo sobre como a inteligência artificial avançada poderia causar a extinção em massa, a desintegração da sociedade e uma série de outros males graves. Mas, ao mesmo tempo, tornou-se uma das forças mais poderosas que impulsionam as capacidades de IA para o meio. A empresa está agora entre os principais desenvolvedores e distribuidores de ferramentas, modelos e testes de IA para clientes como os militares dos EUA. Está avaliado em quase US$ 1 trilhão.
À primeira vista, a mensagem antrópica e as suas ações parecem fundamentalmente abomináveis.
Mas no meio, muitos não veem a contradição. Para entender o porquê, você deve primeiro compreender que as atividades humanas são baseadas em duas crenças fundamentais. A primeira é que a inteligência artificial é a tecnologia mais transformadora da história da humanidade e a sua chegada é inevitável. A única questão é se isso levará ao desastre ou à prosperidade extraordinária.
A segunda é que a Anthropic acredita que o mundo seria um lugar melhor se permanecesse na vanguarda da IA, de acordo com vários ex-funcionários que falaram com a WIRED sob condição de anonimato. Internamente, os líderes e funcionários da empresa referem-se frequentemente a si próprios como “os mocinhos”, isto é, os administradores responsáveis da tecnologia de IA, disseram duas das fontes. A sociedade vê a acumulação de poder, seja na forma de capital, computação, talento em investigação ou influência política, não como um fim em si mesmo, mas como um preço a pagar. missão: “Tornar o mundo uma transição segura e protegida por meio da IA é transformador.”
Helen Tinte, diretora executiva do Centro de Segurança e Tecnologias Emergentes de Georgetown e ex-membro do conselho da OpenAI, usa um. analogia descrever a visão de mundo antrópica. Ela compara a poderosa IA à floresta com gás mágico e monstros perigosos. Todos os aldeões vizinhos entram correndo, liderados pelo tesouro. Em seu relato, a Anthropic quer se aventurar mais fundo na floresta do que qualquer outra pessoa, ao mesmo tempo em que leva a sério a domesticação de monstros, ou seja, capturar os benefícios da IA e ao mesmo tempo conter seus perigos desastrosos.
“O que é típico da Anthropic é: ‘As pessoas estão indo para a floresta de qualquer maneira, é a primeira coisa a fazer.’ Essa é claramente a estratégia deles: construir a IA como um jogador sério na mesa, que pode falar sobre a aparência dos sistemas de IA, quais os riscos que representam e pressionar por precauções razoáveis”, diz-me Tinte. “Eles estão claramente falando sobre isso também. É uma guerra estranha o suficiente para que as pessoas tenham dificuldade em ouvir.”
A abordagem do CEO da Anthropic, Dario Amodei, está claramente em uma entrevista com os cofundadores postou na página de carreiras da empresa: “Você precisa encontrar uma maneira de realmente ser um líder, de realmente liderar o setor em algumas áreas e ainda fazer as coisas com segurança”, diz ele. “Se você consegue fazer isso, você está puxando tanta gravidade quanto está se exercitando.”
A Anthropica foi fundada em 2021 por um grupo de ex-funcionários da OpenAI que fracassaram após perderem a fé na capacidade da liderança da empresa – especialmente do CEO Sam Altman – de trazer com segurança a transformação da IA para o mundo. Esse sentimento ainda informa a sociedade hoje. Dois dos ex-funcionários com quem conversei disseram que, em discussões internas, os executivos da anthropic frequentemente descrevem Altman e OpenAI – e, em menor grau, Meta e xAI de Elon Musk – como exemplos preventivos que definem o próprio senso de responsabilidade da anthropic.
Em muitos aspectos, a Anthropic é como qualquer outra empresa do Vale do Silício. Muitas startups se apresentam como Davids lutando contra Golias, ansiosos por perturbar a comunidade industrial. Google, Facebook e Apple foram todos fundados em princípios idealistas que mais tarde foram interrompidos ou totalmente abandonados à medida que se tornaram mais ricos, maiores e mais populares.
