Claudius Mythos assumiu o papel de antrópico, rigidamente controlado, inexperiente. Depois de passar semanas insistindo que o modelo de IA é tão capaz de segurança cibernética que é perigoso demais para ser divulgado publicamente, parece que o modelo caiu em mãos erradas de qualquer maneira.
Segundo Bloomberg“um pequeno grupo de usuários não autorizados” teve acesso ao Mythos – cuja existência foi revelada pela primeira vez em um vazamento – desde o dia em que a Anthropic anunciou planos de oferecê-lo a um seleto grupo de empresas para teste. Ele diz que o antrópico pergunta. É difícil encontrar uma empresa que tenha construído sua marca com segurança de IA séria e, ao mesmo tempo, defenda seu mais recente modelo de poder de segurança cibernética.
Do ponto de vista tecnológico, a quebra do Mythos é um vermelho cru. Bloomberg relata que o grupo Mythos está fazendo “suposições fundamentadas sobre a localização do modelo on-line”, usando informações sobre outros modelos antropomórficos expostos em uma violação da Mercor – uma empresa que fabrica treinadores de dados de IA – juntamente com o acesso que um membro teve através de trabalho contratado para avaliar modelos antropomórficos. A abordagem alienígena do grupo ao Mythos se dá por meio de uma combinação de conhecimento interno e suposições de sorte, e não de algum tipo de truque tecnológico sofisticado ou roubo de padrões.
As vulnerabilidades de segurança são inevitáveis, e a Mercor, não antropomórfica, revelou as informações que os hackers usaram para adivinhar o site Mythos. Pia Hüsch, membro da investigação do grupo de reflexão britânico Royal United Services Institute (RUSI), disse-me que nenhuma sociedade é completamente segura e que as pessoas são muitas vezes os elos mais fracos, embora “pode parecer um pouco de sorte no início”, mas não há consequências graves.
A Antrópica não esperava nenhum tipo de fracasso imaginável
Mas a sorte não é de todo ruim. Esses tipos de suposições são técnicas de hacking muito padronizadas, e o hack da Mercor já era conhecido antes do lançamento do Mythos. O pesquisador de segurança Lukasz Olejnik descreveu-me isso como o tipo de falha “mais imaginável” que a indústria de segurança cibernética enfrentará nos próximos 20 anos. Assim o antrópico teve que se antecipar e se preparar adequadamente, principalmente sabendo que sua informação estava comprometida.
Parece também que recursos antrópicos foram usados para detectar a brecha. A empresa “pode usar o modelo para registrar e rastrear”, disse Olejnik, o que poderia impedir o acesso não autorizado ou malicioso, especialmente porque o lançamento do Mythos deveria ser muito limitado. Claramente, a Anthropic não estava prestando atenção suficiente – e por mais perigoso que seja o modelo, é razoável perguntar por quê.
Por Bloomberg Por essa razão, o grupo Mythos não estava habituado a tarefas de segurança cibernética, em parte porque só queriam sair com o novo modelo para a colheita, em parte porque podiam fazer isso, sem os prefixos antrópicos. Se o anúncio antrópico sobre o Mythos for desprezado, este é um golpe de sorte. Conte estes nasce Afirmando a importância da segurança hídrica, a Mythos encontrou vulnerabilidades em “todos os sistemas operacionais e redes web” e disse que seu lançamento estava programado para ser programado para “fortalecer as defesas cibernéticas do mundo”.
Antrópico está acostumado a usar uma linguagem dramática e sonora, que pode ser difícil de questionar de forma pura, mesmo para um fã do conceito que seu modelo Cláudio possa conhecer. Mesmo assim, os primeiros relatórios das partes que acessam sugerem que a Mythos é extremamente inteligente em segurança cibernética. O CTO da Mozilla, Bobby Holley, disse que encontrou 150 bugs no Firefox e poderia dar aos defensores uma chance de vitória completa sobre os atacantes. Não é de surpreender que os governos e instituições financeiras suas mãos correm pelo mundo. A NSA e outras agências dos EUA supostamente têm acesso a um design feito pelo homem para a cadeia de ferramentas, embora a implementação pareça ter até agora contornado a agência de segurança cibernética dos EUA, CISA.
“Anthropic afirma que está absolutamente na vanguarda de todas essas tecnologias, mas também ele mesmo como ator em tudo isso.”
O facto de a descoberta ter sido feita por um repórter e não por um antropólogo também levantou a questão óbvia de saber se se tratou de um incidente isolado. “Isso realmente ilustra o quão amplo um grupo de pessoas pode fazer isso, mesmo que não possuam um método tecnicamente sofisticado”, disse Hüsch. Provavelmente será um transporte antropogénico através da sua cadeia de abastecimento para ver como isto é feito e colmatar as lacunas, mas ele disse que há uma vasta gama de intervenientes que querem aceder a um modelo como este, alguns deles com muito dinheiro por trás deles. Não é que alguém possa assumir outra abordagem tão próxima quanto o grupo Bloomberg foi relatado.
A Anthropica, até certo ponto, deu um tiro no próprio pé. A empresa construiu a sua identidade em torno da IA, levando a segurança mais a sério do que os rivais, estabelecendo expectativas altíssimas para um modelo de segurança que foi criado com aparente descuido; que Mythos só sente através de uma falha tão básica e previsível. Pior ainda, Hyping Mythos como uma ferramenta extraordinária para divulgação pública transformou-o num alvo óbvio, seja para agentes maliciosos ou hackers que simplesmente procuram um desafio.
Esta não é a primeira vez que a segurança em torno do Mythos é inconveniente. A existência do modelo foi revelada acidentalmente antes do lançamento por “dados não seguros encontrados“no sistema central que contém o conteúdo de seu site. Agora, esse modelo não foi planejado para ser acessado secretamente através de toda a vulnerabilidade antrópica prevista para instalação. A perfeição é impossível, mas para uma empresa que se consagrou o primeiro trem de segurança de IA, um erro tão fundamental é difícil de justificar, mesmo com algum azar que teve.
Para Hüsch, tudo se resume em uma palavra: humilhação. “A Antrópico afirma que é absoluta diante de todas essas tecnologias, mas também se posiciona como ator nisso tudo”, disse. “Isso agora, através do acesso não autorizado tão rapidamente e através de um esforço tão grosseiro, é realmente uma humilhação para eles.”
