é redator de notícias focado em indústrias criativas, computação e cultura da Internet. Jess começou sua carreira na TechRadar, cobrindo notícias e análises de hardware.
A Anthropic esclareceu como planeja aplicar marcas d’água invisíveis ao texto gerado por Claude, a fim de cumprir as regras europeias de transparência de IA. Na sexta-feira, a Anthropic anunciou que o sistema de marcação de texto de Claude é “uma versão da abordagem SynthID-Text” – uma tecnologia de marca d’água de código aberto desenvolvida pelo Google DeepMind que cria padrões detectáveis usando probabilidades de redação.
Este recurso de marca d’água, juntamente com o suporte C2PA para imagens processadas por Claude, está sendo introduzido para cumprir as obrigações da Antrópico sob a Lei de IA da União Europeia, que exige que áudio, imagem, vídeo e texto sintéticos incluam marcas legíveis por máquina que permitem que o conteúdo seja detectado como gerado ou manipulado artificialmente. A Anthropic afirma que as marcas d’água do texto não tornarão Claude mais caro para os usuários, nem “terão qualquer impacto prático na qualidade ou no conteúdo dos resultados de Claude”. Aqui está a explicação da Anthropic sobre como funciona:
Veja a frase “O tempo hoje estava frio e…”. É muito improvável que a próxima palavra seja “açucarada”. Mas é muito provável que esteja “nublado” ou “cinza”. Na maioria das circunstâncias, não importa muito para o leitor qual destas duas últimas palavras o modelo finalmente escolhe – o significado da frase é basicamente o mesmo de qualquer maneira. Em casos como este, a escolha é feita por um número aleatório.
A marca d’água usa escolhas de baixo risco como essas – que ocorrem muitas vezes em um trecho de texto gerado – para deixar um padrão nas respostas de Claude. Esse padrão é indetectável para o leitor, mas é detectável para qualquer pessoa que possua uma chave que o codifique. Quando a marca d’água é usada, as escolhas ainda são feitas aleatoriamente, mas a origem da aleatoriedade é diferente. Em vez de usar um gerador arbitrário de números aleatórios para escolher a próxima palavra, a marca d’água usa a chave e algumas palavras anteriores para definir qual palavra o modelo deve escolher.
Como observa a Anthropic, os requisitos de transparência da IA da UE também impactam outros grandes desenvolvedores de IA, então Claude não será o único modelo a introduzir marcas d’água de texto. O chatbot Gemini do Google oferece suporte à solução SynthID-Text desde 2024 e, embora a OpenAI não tenha detalhado nenhum plano de marca d’água de texto para ChatGPT em seu roteiro de conformidade com a Lei de IA, ele também estará sujeito aos requisitos da lei.
Siga tópicos e autores desta história para ver mais como esta no feed da sua página inicial personalizada e para receber atualizações por e-mail.
