Em meio a um conflito de semanas com o Pentágono, resultante do processo e do processo, a Anthropic está reestruturando seu C-site e projetos de pesquisa. A empresa anunciou quarta-feira que está criando um novo think tank interno, denominado Instituto de Antropologia, que unirá três das atuais equipes de pesquisa da Antropologia. Será pesquisado sobre as grandes coisas que a IA fará, como “o que acontecerá com os empregos e a economia, se a IA nos tornará mais seguros ou trará novos riscos, como moldará nossos valores e se poderemos manter o controle”, segundo a empresa.
A notícia também vem com mudanças no alto escalão. O fundador da Anthropic, Jack Clark, está assumindo uma nova função de liderança do think tank. Seu novo título será o de chefe do bem-estar público, depois de mais de cinco anos como chefe de assuntos de Estado. A equipa de políticas públicas – que foi triplicada até 2025 pela Anthropic – será agora liderada por Sarah Heck, que anteriormente foi chefe de assuntos externos. A Anthropica também abrirá seu próprio escritório em Washington, DC, e a equipe se concentrará em questões como segurança nacional, infraestrutura de IA, energia e “liderança popular em IA”.
Clark disse Beira O Debut Anthropic já estava em obras há algum tempo e pensava em se mudar para lá depois de novembro. O momento surge poucos dias depois de o governo dos EUA ter solicitado à Anthropologie que a nomeasse como fornecedora de risco, o que impediria os seus clientes de utilizarem totalmente a tecnologia da Anthropologie no seu trabalho com o Departamento de Defesa. O processo alega que a administração Trump marcou ilegalmente a empresa por estabelecer “linhas vermelhas” para vigilância doméstica e armas letais totalmente autônomas.
Quando questionado sobre isso, Clark disse: “Nunca é chato trabalhar com IA aqui na Anthropic – sempre há algo chegando… O nível de progresso da IA não está diminuindo por causa de coisas externas, e nem nós.” Clark disse que a situação não “alterou directamente” a agenda de investigação planeada, mas sentiu que “afirmou” o plano antropogénico de divulgar mais informações ao público. “O que estamos vivenciando nas últimas semanas apenas mostra o quão ávido há por uma conversa nacional mais ampla sobre esta tecnologia pública”, disse ele.
Ele está lançando uma organização antropocêntrica com cerca de 30 pessoas, incluindo os membros fundadores Matt Botvinick, ex-Funcionário do Google DeepMind; Anton Korinek, professor emérito do Departamento de Economia da Universidade da Virgínia; e Zoe Hitzig, pesquisadora quem saiu da OpenAI após o plano de introduzir anúncios no ChatGPT. Um novo think tank combina impactos sociais antrópicos, que estuda os impactos da IA em diferentes áreas da sociedade; sua equipe de fronteira vermelha, que testa sistemas de IA em busca de vulnerabilidade e problemas de estresse; e a sua equipa de investigação económica, que envolve as implicações da IA para a economia e os mercados de trabalho. O Instituto Antrópico também planeja “incubar” novas equipes, como a liderada por Botvinick, para estudar como os sistemas de IA farão incursões legais. Hitzig e Korinek liderarão grandes projetos económicos. Clark disse que espera que o número de funcionários dos think tanks dobre a cada ano no futuro próximo.
Este ano, em particular, a pressão sobre empresas de IA de alto valor, como a Anthropic, está crescendo corresponder planeja fazer IPO este ano. Antrópico tribunal arquivamento Ele revelou que a empresa gerou mais de US$ 5 bilhões em receitas comerciais históricas e gastou US$ 10 bilhões em treinamento e modernização de modelos. Disse ainda que a sociedade “tem recebido de vários parceiros externos… manifestações de confusão sobre o que lhes era exigido e preocupação com a capacidade antrópica de continuar” e que “as sociedades antrópicas” procuram orientação e “em alguns casos uma compreensão da extinção dos seus direitos”. A Antrópico disse que, de acordo com a interpretação do Estado, evitará exatamente “cem milhões de receitas de 2016 em risco”, pelo menos, e no pior dos casos seriam vários bilhões.
Será antrópico gastar mais recursos em investigação a longo prazo quando é mais provável que perca alguma parte do seu rendimento a curto prazo? quando Beira perguntou Clarke, ele disse que não tinha “nada com que se preocupar”.
“As pessoas tendem a comprar crédito”, disse Clark. “Muito do que podemos produzir são os tipos de pesquisa que ajudam as empresas a confiar em nós… A longo prazo, a Anthropic sempre viu o seu investimento em segurança – e estudou e reportou sobre a segurança dos seus sistemas – não como um centro de custos, mas como um centro de lucro.”
Clark também disse acreditar que uma IA poderosa (o termo apropriado para AGI é inerentemente antrópico, ou inteligência artificial geral) chegará no final deste ano ou início de 2017, e que ele decidiu mudar muito de função por causa do “progresso pacífico da IA”. Ele acrescentou que, ao relembrar seu ano de trabalho, ele se concentrou mais na política estadual, como o SB 53, do que em P&D de IA e outras coisas. A Anthropic disse em um comunicado que o Instituto Antrópico se dedica especificamente a resolver “os problemas mais difíceis colocados pela poderosa IA”.
Claro, ás Beira Como ele escreveu em dezembro, muitas empresas de tecnologia são pró-transparência até que isso seja ruim para os negócios. Então, o que acontecerá se e quando as equipes de pesquisa do Instituto Antrópico descobrirem eventos que prejudicam a sociedade?
Clark disse que os colaboradores antrópicos têm “mais semelhanças” sobre a importância da divulgação pública, principalmente porque a empresa técnica é de interesse público, ou seja, tem a capacidade de cumprir os objetivos “não apenas para o lucro do trust”. Ele acrescentou que na entrevista que teve com o CEO Dario Amodei na semana passada, ele alinhou a importância da transparência, apesar dos desafios de relações públicas que dela podem advir.
Mas a pesquisa do Instituto Antrópico poderia exigir um cálculo significativo no momento em que as empresas corriam para priorizar produtos comerciais. Clark disse que além dos recursos dedicados à pré-preparação do modelo de fronteira, a Anthropic o calcula semana a semana de acordo com “o que parece mais importante”, portanto nenhuma parcela precisa é traçada, mas ele não prevê quaisquer conflitos.
O Instituto Antropoceno também planeja estudar a dependência emocional dos humanos em relação à IA, um problema que ganhou consciência pública no ano passado. Clark disse que até agora as equipes de pesquisa antropológica estudaram os tipos de entrevistas com Claude e mediram a capacidade técnica de persuadir as pessoas ou agir de forma bajuladora, mas não passaram muito tempo conversando com as pessoas que usam a tecnologia sobre suas experiências individuais. Ele disse acreditar que o pool planeja alcançar grandes pesquisas sociais, incluindo o uso de IA antrópica para conduzir conversas com os usuários.
“Eu penso o seguinte: as mídias sociais tiveram um grande efeito na sociedade, e não se trata apenas do que está acontecendo nas plataformas sociais. Foi: ‘Como o uso das mídias sociais está mudando as pessoas?’”, Disse Clark. “Queremos entender como o uso da IA está mudando as pessoas?”
