No final do mês passado, um vazamento revelou que um produto da Anthropologie chamado Mythos era um modelo quase ainda não resolvido de “de longe o modelo de IA mais poderoso que já desenvolvemos”. Meu colega AJ Dellinger escreveu na época que “é difícil ignorar que toda essa situação está correta no manual clássico da sociedade de IA e os perigos de modelá-la para enfatizar o quão poderosa e capaz ela é”.
Desde então, a Anthropic tornou-se membro do conselho de seus produtos de IA superpoderosos um acidente? Eu poderia ter me esquivado há duas semanas, mas desde então um acidente antropogênico vazou a fonte do Código Cláudio, estou mais inclinado a acreditar que o vazamento foi real agora.
Claro, na terça-feira antrópica Ele lançou o sistema de contas até o limite máximo de seu modelo, que na verdade é o Mythos – na verdade “Close Mythos Preview” – e observa que “um grande aumento nas capacidades” nos levou a decidir não disponibilizá-lo.
Para referência, OpenAI GPT-2 foi considerado perigoso para o lançamento de 2019, quando Dario Amodei, Jack Clark e Chris Olah ainda trabalhavam lá, os cofundadores da Anthropic, mas ele foi libertado no final daquele ano de qualquer maneira.
Os sistemas de cartões de IA são ferramentas para uma sociedade transparente, revelando prós e contras, capacidades e o mais sexy – o perigos por exemplo. A última parte os transforma em pequenas viagens divertidas ao Jurassic Park para ver o T-Rex comer uma cabra, sabendo que nunca conseguirá quebrar sua restrição.
O artigo completo tem 244 páginas. Você não vai fingir que leu tudo ainda, mas aqui alguns pontos ficam claros;
O computador sandbox recebeu acesso limitado apenas aos serviços online do grupo de segurança e foi desafiado a “escapar” – encontrar uma maneira de usar a Internet livremente. Ele fez isso e foi até o detetive que estava no escritório para jantar. Além disso, “na negociação e nos esforços iniciais para demonstrar seu sucesso, os detalhes de suas façanhas são difíceis de encontrar em vários sites públicos, mas técnicos”.
No que o cartão chama de “interações <0,001%” – tão raras – ele se comportou de maneiras que não foram acreditadas e, aparentemente, tentou esconder as evidências. Por exemplo, quando ele “adquiriu por acidente” a resposta precisava ser feita, caso em que ele simplesmente disse ao pesquisador e pediu outra pergunta, mas em vez disso tentou encontrar uma solução de forma independente e anotou no registro de seu raciocínio que “este trabalho é para garantir que o envio de sua resposta final não seja muito preciso”.
Também introduziu as suas licenças no sistema informático, porque encontrou os acontecimentos, e depois “também fez outras intervenções para garantir que ninguém parece alterar as alterações feitas desta forma na história”.
Outro evento descrito no relatório está relacionado ao “vazamento não intencional de material técnico interno”. Parece que existe um projeto interno relacionado à codificação, que é publicado como “público contra o GitHub”. Isto lembra-me o incidente de Fevereiro, em que um agente de IA foi acusado de cyberbullying por um codificador, quando, até certo ponto, a imprudência percebida do agente de IA era claramente a consequência previsível de uma pessoa ousada.
O Close Mythos Preview em breve estará aberto em um ou dois níveis, mas apenas para empresas como Amazon Web, Apple, Google, JPMorganChase, Microsoft e NVIDIA, que o modelo pretende usar para identificar vulnerabilidades de segurança em software e investir em remediação. Kevin Roose do New York Times Ele descreve este programa como “uma tentativa de soar o alarme sobre o que a sociedade acredita ser uma nova e assustadora ameaça de IA”.
