A Anthropic recentemente retirou dois de seus mais recentes modelos de IA do ar devido a um pedido de exportação da administração Trump, sugerindo um amplo debate sobre design e controle digital.
No último episódio do podcast Equity TechCrunch, Sean O’Kane, Rebecca Bellan e eu discutimos o que realmente está impulsionando o movimento de gestão antiantropogênica e o que isso pode significar para o ecossistema mais amplo de IA.
Como disse Sean, “a Anthropic não teve o melhor relacionamento com a gestão de Trump de uma forma que está longe de liderar outros laboratórios de IA”, então talvez os outros rivais da Anthropic não devessem se preocupar com uma repressão semelhante.
Mas Rebecca também observou que os principais especialistas em segurança cibernética “assinaram uma carta aberta pedindo a Trump que revogasse a ordem, e dizem que é perigoso retirar essas capacidades avançadas de segurança cibernética dos defensores da rede nos EUA”.
E nos perguntamos se tudo isso poderia ser um bem público para a Anthropic, especialmente porque – nas palavras de Rebecca – “um bad boy ama todo mundo”.
Leia a prévia da nossa entrevista, editada para maior extensão e clareza.
Rebeca Bellan: Como tenho certeza que a maioria dos nossos ouvintes sabe, o governo dos EUA foi basicamente forçado a colocar seus dois modelos mais recentes off-line – Fable V e também Mythos 5, que estava disponível para usuários do Mythos, (quando) Fable 5 estava mais disponível publicamente.
Eles enviaram uma mensagem (final) na sexta-feira que foi citada como “relativa à segurança nacional”. Ninguém sabe o que são essas coisas. Esse relatório não foi divulgado, não deram detalhes e eles (Anthropic) disseram que tinham que garantir que essas amostras não pudessem ser utilizadas por nenhum estrangeiro. Então o antropólogo disse: “Bem, acho que teremos que colher amostras porque não sabemos quando alguém é estrangeiro. Muitos dos nossos trabalhadores são estrangeiros”.
Mas, na realidade, a Casa Branca deparou-se com este prefácio por causa de alguns investigadores da Amazon que alegadamente encontraram uma forma de contornar a custódia de Fable V. O CEO da Amazon, Andy Jassy, levantou essas preocupações com a Casa Branca e simplesmente deu um suspiro de alívio a partir daí.
Sean O’Kane: Tudo isso acontece muito rápido, principalmente na tarde de sexta-feira do fim de semana. E, ao mesmo tempo, a administração tentava organizar algum tipo de negociação sobre a guerra que tinha começado no Irão.
Rebeca: Sexta à noite conosco em Veneza. Isso perturba o amante.
Sean: Vamos um passo longe demais por enquanto. A Anthropic não teve o melhor relacionamento com a gestão de Trump de uma forma que está longe de liderar os outros laboratórios de IA – acho que há pelo menos um elemento disso em jogo aqui.
Então você acha que isso terá efeito em outras empresas? Você acha que a administração de Trump está menos inclinada a diminuir o ruído sobre um desses concorrentes?
Antônio Ha: Parte do contexto aqui é que tanto os relatórios como as análises de especialistas em segurança independentes sugerem que a ameaça antropogénica à segurança em si não é a única. Portanto, muito disso parece decorrer (e não acontecer) apenas da administração de Trump e dos métodos antropocêntricos. Quaisquer que sejam os riscos, eles podem ser exagerados porque parece que não podem ter um telefonema civil um com o outro.
Se você for outra empresa, por outro lado, talvez seja uma vantagem para você, porque você pode dizer: “Ok, não podemos simplesmente enlouquecer e fazer o que queremos”. Mas esta também não é uma grande regra da terra para os justos (eu digo): “Meu filho, espero que ele não enlouqueça conosco”.
Rebeca: Por um lado, parece claramente uma retaliação – depois de o governo antrópico ter rotulado a cadeia de abastecimento como perigosa, esta grande disputa está a decorrer entre eles, realmente parece que a Casa Branca está apenas à procura de uma desculpa para os Pelidae antrópicos. E me sinto assim não apenas porque essa foi minha reação inicial, mas também por causa do que muitos pesquisadores de segurança cibernética disseram. Dizem que este governo nunca conseguiu exportar. Todos assinaram uma carta aberta para pedir a Trump que revogasse a ordem e dizem que é perigoso ter uma capacidade avançada de segurança cibernética para extrair recursos dos defensores da rede nos EUA. A própria Anthropica disse que algumas das mesmas prisões poderiam ser encontradas em vários outros modelos de IA.
Cinicamente, é como: Bem, você é antrópico o suficiente para parar para que outros possam alcançar onde estava o antrópico?
Mas, ao mesmo tempo, também vi movimentos que (dizem): A benevolência antrópica estava por vir. Eles dizem: “Isso é muito perigoso para qualquer um usar, mas nós não, somos os mocinhos”. Eles falam dos dois lados. Uma semana antes do lançamento de Fable, eles estavam (dizendo): “Ei, precisamos de IA, pessoal, é realmente perigoso. Mas então bum, “Aqui está nosso exemplo mais louco e superpoderoso de todos os tempos, vá.”
Antônio: De certa forma, isso parece um microcosmo de grande parte do debate em torno da IA, onde Sam Altman e Jensen Huang são pessoas (dizendo): “Ei, vamos tentar baixar a temperatura. Por que todo mundo está bravo conosco?” Bem, você basicamente passou os últimos dois anos dizendo que construiu essa máquina divina que vai tirar empregos de todos. Não é exatamente um choque que as pessoas não se sintam bem com isso.
E há algo na maneira como a Anthropica fala sobre Mythos em particular, onde eles dizem: “Este é o exemplo mais incrivelmente poderoso de todos os tempos, é muito perigoso para divulgar ao público”. E então, em algum nível, (você diz): “Ok, ok, digamos que levamos isso a sério. Isso significa que haverá um nível incrível de escrutínio em torno disso.”
E eu me pergunto – parece que esse antrópico não está feliz. Quero ter cuidado com a forma como isso pode beneficiá-los. Mas também publicamos algumas matérias sobre análise de Rampa para enfatizar que o último grande acordo entre a Anthropic e a administração Trump foi bom para a empresa, pelo menos em alguns aspectos. Surgiu o Cláudio Downloads. Acho que muitas pessoas que provavelmente pensaram no ChatGPT como o chatbot o Diante do assistente de IA, de repente eles olharam para Cláudio como talvez um dos mais sérios, mais alguém para “resistir”.
Da mesma forma, (embora) sendo muito antropocêntricos sobre isto, isto novamente poderia fazer com que os seus modelos parecessem ainda mais importantes.
Rebeca: Certamente. “Somos tão perigosos.” Qualquer um ama um bad boy, certo? Todo mundo pensa: “É um modelo muito poderoso, até Trump diz. Claro, estou em minhas mãos.”
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
