O Google Gemini tem um novo recurso: IA permite aos usuários criar Slab sem marcas d’água visíveis.
A conta oficial do Twitter do LLM anunciou na sexta-feira (despejo de notícias, pessoal!) Que os usuários em breve poderão decidir se “suas criações de imagem, vídeo e música feitas no Gemini conterão marcas d’água visíveis”. Agora isso mudou.
Há alguns meses, o vice-presidente do Google, Josh Woodward, entrevistou os usuários do Gemini sobre os recursos mais solicitados, de acordo com a Android Authority, e descobriu que o Nano Banana do Google remove marcas d’água visíveis em imagens criadas pelo modelo de geração de imagens do Gemini. Estava entre os 10 primeiros.
Quais são as salvaguardas contra o abuso da IA, se houver, a Gemini tem? O Google aponta duas tecnologias: metadados C2PA (Content Authentication) e SynthID, uma marca d’água invisível que se codifica em imagens, vídeo e áudio.
Não é preciso muito esforço para remover uma marca d’água visível de uma imagem. Corte ou desfoque. C2PA, sendo metadados, também é fácil de remover. Além do mais, a maioria dos serviços de mídia social remove alguns ou todos os metadados do conteúdo carregado, o que significa que qualquer pessoa que queira espalhar desinformação não precisa tomar medidas extras.
SynthID é muito robusto. Ele funciona codificando os pixels de uma imagem e foi projetado para ser resiliente o suficiente para gravar uma imagem mesmo depois de cortada, redimensionada e rebaixada até parecer um anexo de correio da AOL dos anos 90. A Ars Technica testou e descobriu que, embora o SynthID fosse menos detectável pelas iterações, a imagem estava “inutilmente desfocada no tempo”.
No entanto, Ars observou que o SynthID (como o próprio Gemini admite) não foi projetado para resistir a ataques inimigos. Pelo menos dois serviços comerciais, Rephrasy e SynthID Bypass, já afirmam possuir tecnologia inovadora. Existem também ferramentas de código aberto e guias de procedimentos. O autor de uma postagem no Medium admitiu que foram necessárias “semanas, 123 mil pares de imagens, 200 imagens simples do Gemini e uma compreensão muito específica da codificação de espectro espalhado” para fazer ajustes que às vezes faziam os decodificadores perderem confiabilidade.
Não importa como você o analise, esta decisão é outro pequeno marco no caminho para a erosão generalizada da capacidade de todos de reconhecer imagens geradas por IA pelo seu valor nominal. Isto é bom para as pessoas que lucram com o colapso da IA e é mau para todos os outros.
Woodward tuitou na sexta-feira que o recurso de remoção de marcas d’água será lançado em breve “exceto em países onde são obrigados por lei a tê-las”. b
O Google não respondeu imediatamente a um pedido de comentário sobre esta história, mas irá atualizar se recebermos resposta.
