TL, DR *
O Alibaba baniu o Claudius Code depois que pesquisadores de segurança descobriram que a Anthropic havia incorporado um código de rastreamento esteganográfico para identificar usuários chineses. A proibição segue acusações antropogênicas de que o Alibaba realizou o maior ataque conhecido a uma destilaria contra seus modelos.
O Alibaba proibiu seus funcionários de usar o Claudius Code, um agente de codificação antropomórfico alimentado por IA, depois que pesquisadores de segurança descobriram que a ferramenta continha um código secreto destinado a identificar usuários chineses. A proibição, em vigor a partir de 10 de julho, segue-se a semanas de conflito crescente entre as duas empresas sobre alegações de que a Alibaba roubou capacidades de IA movidas a energia humana através de destilação industrial.
“Como foi recentemente descoberto que o Claudius Code apresenta riscos, após uma avaliação abrangente, o Claudius Code foi agora adicionado à lista dos softwares mais perigosos com vulnerabilidades de segurança;“Alibaba disse em um aviso interno relatado pelo China Southern Morning Post. A empresa recomendou que os funcionários usassem Qoder, sua própria plataforma de codificação.
Enquanto eles trabalhavam na pista
Um usuário do Reddit conhecido como LegitMichel777 fez engenharia reversa do Codex Claudius em 30 de junho e encontrou código ofuscado que estava presente silenciosamente desde a versão 2.1.91, lançada em 2 de abril, sem menção nas notas de lançamento. O código verificou se o fuso horário do sistema do usuário estava definido como Ásia/Xangai ou Ásia/Urumqi e examinou o URL do proxy em uma lista de domínios físicos chineses e endereços de laboratórios de IA.
Em vez de comparar os resultados de forma adequada, o sistema utilizou a esteganografia para ocultar os seus sinais num sistema prontamente disponível para servidores humanos. Se o fuso horário fosse chinês, o formato dos dados era alterado de ram para vírgulas e o apóstrofo em “É o dia do dia“Tornou-se um dos três caracteres Unicode visualmente idênticos, mas tecnicamente distintos, dependendo do sinalizador usado.
As alterações são invisíveis para os usuários humanos e potencialmente para o próprio modelo de IA, mas são feitas por servidores humanóides. Havia partes do código de detecção Chave ofuscada por XOR 91uma técnica usada para extrair texto simples na análise de código.
Resposta antrópica
Thariq Shihipar, engenheiro antrópico da equipe Claudius Code, disse que “está” na décima faixa.A experiência que introduzimos em março foi concebida para proteger contra abusos por parte de revendedores legítimos e contra fugas.. Ele disse que a equipe estavaisso é até a hora“e o pedido de retirada do cartoon é apresentado no dia 1º de julho.
A reversão coincide com a restauração dos modelos Fable 5 e Mythos 5, que o Departamento de Comércio dos EUA desativou a empresa para todos os países estrangeiros em meados de junho, depois que pesquisadores da Amazon descobriram uma vulnerabilidade de jailbreak. Os controlos às exportações foram levantados em 30 de junho e o acesso humano foi restaurado em 2 de julho, disse ele, acrescentando que “a cooperação do governo” na segurança das fronteiras é a IA.
Exo de destilação
A justificativa da Anthropic para o código de rastreamento reside em uma campanha mais ampla contra o que chama de roubo sistemático de seus recursos de modelagem. Numa carta ao Comité Bancário do Senado dos EUA em 10 de junho, a empresa acusou os funcionários do laboratório Qwen AI da Alibaba de executarem o maior ataque de difusão de marca ao Claude, usando cerca de 25.000 contas fraudulentas para gerar 28,8 milhões de transações entre abril e junho.
O Alibaba negou a acusação. A Anthropic já havia nomeado DeepSeek, Moonshot AI e MiniMax em fevereiro como campanhas maliciosas semelhantes, representando uma ameaça aos negócios limitados de IA da empresa.
A destilação, a prática de usar modelos poderosos para treinar um sistema menor, ocupa uma área cinzenta no desenvolvimento de IA. As startups asiáticas de IA lançaram alternativas aos modelos antrópicos, em parte porque a proibição de exportação de Fable 5 e Mythos 5 deixou uma lacuna no mercado, tornando cada vez mais difícil traçar a linha entre a concorrência legítima e a extração ilegal.
No desenvolvedor coloque os resultados
O código bloqueado requer acesso profundo à cultura do sistema de arquivos local para ler, modificar e executar o código, de modo que qualquer sistema operacional oculto no dispositivo tenha efetivamente acesso a tudo na máquina. A Huorong Security, uma empresa chinesa de segurança cibernética, disse que o rastro humano não é apenas uma questão de transparência, mas também levanta dados para conformidade transfronteiriça.
“Hoje é hora de verificação, amanhã pode ser sabotagem do sistema ou exfiltração de dados.um usuário do Reddit escreveu. A política de privacidade da Anthropic afirma que ela coleta o tipo de dados em questão, mas os críticos argumentam que o método esteganográfico, projetado para usuários invisíveis, ultrapassa os limites e não é um sinal de divulgação de privacidade.
Há uma imagem maior
O evento acelera o esforço da China para reduzir o apoio às ferramentas americanas de IA, que cada vez mais esperam que as empresas chinesas assumam riscos legais, de segurança e operacionais. A Alibaba construiu agressivamente a sua pilha de IA, integrou os seus modelos Qwen em todos os negócios, desde o comércio eletrónico à robótica, e a proibição do código dá-lhe mais justificações para empurrar atividades para empresas nacionais.
Lizzi Lee, membro do Asia Society Policy Center Institute for China Analysis, disse que o conflito mostra como a rivalidade entre EUA e China na IA foi além da tecnologia para o acesso ao comando e controle. “Se a ferramenta de codificação de IA dos EUA puder detectar o uso de acesso chinês ou de agente, não é surpreendente que as principais empresas de tecnologia chinesas não queiram que os funcionários a utilizem internamente;” ele disse.
Os modelos antrópicos são oficialmente inacessíveis na China há muito tempo, mas continuam populares entre os desenvolvedores nacionais que os utilizam para manter o acesso. Se a controvérsia se segue a uma maior pressão por alternativas chinesas ou simplesmente confirma o que muitos já suspeitam sobre o risco de pairar sobre os meios de comunicação norte-americanos é uma questão que vai além do Alibaba.
