Em uma postagem de blog na sexta-feira, a Anthropic detalhou seu polêmico sistema de marca d’água, anunciado no início desta semana em um esforço para cumprir a lei de inteligência artificial da UE. A marca d’água torna difícil para os usuários fingirem que escreveram um texto gerado por IA.
Pode ser tarde demais para a Anthropic manter seu relacionamento com alguns usuários irritados, que parecem já ter cancelado suas assinaturas.
Postagens no X mostram vários usuários pagantes alegando ter rompido vínculos. O influenciador de matemática e IA John Ennis. Ele postou uma captura de tela de seu cancelamento no sábado e citou a “ideia ridícula de marca d’água” da Anthropic como o motivo.
Inúmeros outros usuários do X reivindicam cancelamentos devido a marcas d’água. “Isso é besteira”, escreveu um. Outro chamou Antrópico de calúnia r em resposta a um de seus X posts sobre marcas d’água. “Por que eu deveria, como cidadão de fora da UE, colocar uma marca d’água em meu trabalho criado com uma assinatura paga do GLAD?” pergunta outro.
A menos que você seja um criptógrafo, a explicação do Anthropic é uma leitura fascinante, e você imaginou que a única maneira de colocar uma marca d’água no texto, por exemplo, é substituir algumas ocorrências de “S” por “$” e assim por diante. Não é nada. “A diferença entre texto com e sem marca d’água não pode ser distinguida pelos leitores”, diz Anthropic.
Como aponta a Anthropic, o sistema deriva do popular (para alguns) documento SynthID 2024, que é a mesma tecnologia subjacente que o Google usa para seu sistema de marca d’água SynthID. O processamento de texto para o SynthID do Google é rapidamente resumido – talvez um pouco rápido demais – neste vídeo do Google:
Com um pouco mais de detalhes, a marca d’água na produção textual de Claude assume a forma de seleções de tokens preferidos de acordo com uma chave secreta, a sequência de caracteres antrópicos comparável a pi em termos de complexidade e aleatoriedade. Um sistema de marca d’água é geralmente aplicado quando as apostas são baixas, por exemplo, na frase “O tempo de hoje estava frio e…”, onde o próximo token pode ser a palavra “cinza” ou “nublado”. Por outro lado, é improvável que o sistema de marca d’água comece no caso de “Paris é a capital de…” porque só existe um símbolo “correto” para essa situação: “França”.
Key move essas escolhas de tokens de baixo risco em direção a “preferências” estatísticas que não podem ser detectadas por um leitor humano, em parte porque dependem do contexto. No exemplo acima, “nublado” pode ser a opção dominante em uma situação, mas dependendo do contexto, pode preferir “cinza” e um ser humano não tem como saber que horas serão.
Em um texto longo, tokens estatísticos opcionais suficientes são marcas d’água e um localizador confirmará que a passagem foi criada por Claude. Em textos pequenos, ou em alguns tipos de codificação com alguma ambiguidade, a marca d’água pode não ser detectada pelo sistema de detecção, que está disponível como API. A Anthropic afirma que a criação de uma marca d’água tem um impacto “mínimo” na velocidade e no custo do token.
Uma parte notável da postagem do blog da Anthropic é o parágrafo sobre edição, que deixa claro que mesmo que Claude seja usado apenas para editar textos escritos por humanos, uma marca d’água pode aparecer. “Dependendo da extensão do texto e da intensidade com que Claude o editou, essas mudanças podem não ser suficientes para estabelecer o envolvimento de Claude”, diz o post do blog. Portanto, esteja avisado a todos os “editores” de IA.
Como a história do Insider sobre Claude cancela notas, alguns usuários de Claude admitem que não querem que seu trabalho gerado por IA seja descoberto por clientes e professores.
Mas, pelo que vale a pena, estes cancelamentos podem ou não representar uma grande mudança nas atitudes dos consumidores em relação ao antropomorfismo. As pessoas continuam reclamando da Anthropic e de outras empresas de IA na X, e até pedindo cancelamentos. Agora, alguns usuários sinceros da nuvem estão dizendo que cancelaram suas assinaturas, citando um artigo recente do Wall Street Journal sobre as práticas comerciais anteriores da esposa do CEO Dario Amodi como motivo para o cancelamento. A Anthropic disse ao Business Insider que não houve um aumento no número de cancelamentos desde que a marca d’água foi anunciada.
