A Meta está trabalhando em uma ferramenta para identificar imagens e vídeos criados com seu novo modelo de geração de imagens, Image Muse. A empresa exibiu uma prévia do ferramenta baseada na web quais vestígios invisíveis das marcas dos novos modelos.
Este sistema de marca d’água, chamado Content Seal, permanece em vigor “mesmo se cortado, compactado, redimensionado ou cortado”, explica Meta em postagem no blog. “Estamos introduzindo uma ferramenta de detecção que perguntará se uma imagem carrega o selo Content Seal, fornecendo uma maneira inicial de entender melhor se uma imagem foi feita com Meta AI.”
Content Seal parece ser uma nova abordagem para Meta. A versão que faz parte do Muse Image é proprietária, embora a empresa já tenha lançado versões de código aberto da tecnologia antes, disse Meta ao Engadget. Os novos modelos Meta não incluem nenhum recurso visível, como algumas versões anteriores do Meta AI que adicionavam um pequeno logotipo no canto inferior direito.
Por enquanto, os recursos de detecção de IA do Meta estão limitados a imagens que foram criadas ou editadas com Muse Images, embora a empresa tenha dito que planeja expandir a presença do Content Seal também para vídeos gerados e processados por IA. Meta também está trabalhando em um modelo separado de geração de vídeo chamado Muse Video, que será lançado em breve.
O novo recurso de detecção nas imagens que criei hoje com Meta AI e a ferramenta baseada na web foi capaz de detectar o rastro de imagens editadas e criações totalmente feitas por IA (como na foto acima). Também encontrei um rastro nas capturas de tela das minhas fotos. “Um resultado positivo significa que a imagem foi gerada ou editada usando o aplicativo Meta AI ou” meta.ai“A empresa explica no FAQ. Um resultado negativo significa que é provável que a imagem tenha sido processada usando um aplicativo meta AI ou meta.ai.”
Curiosamente, os novos recursos de detecção do Meta AI ainda não parecem fazer parte do aplicativo Meta AI. Quando perguntei ao assistente baseado em aplicativo do Meta sobre a imagem da ferramenta da web conhecida como feita por IA, ele respondeu que não tinha a capacidade de verificar. “Não posso dizer com certeza se esta imagem específica foi feita apenas olhando para Meta Al”, disse ele. “O objetivo de Al não é assinar automaticamente as imagens, e não tenho uma ferramenta que possa detectar que o modelo de Al criou uma imagem existente.”
A Meta já enfrentou algumas críticas pela forma como identifica rótulos e conteúdos gerados por IA em seus aplicativos. O Conselho de Supervisão disse à empresa no início deste ano que estava “preocupada” com o fato de a Meta estar “implementando de forma inconsistente” marcas digitais baseadas em conteúdo de IA criado em seus dispositivos.
A nova parte ainda parece ter outras limitações. O Content Seal não é compatível com credenciais SynthID ou C2PA, dois métodos de identificação estabelecidos usados por outras empresas. O recurso baseado na web não conseguiu reconhecer imagens criadas ou editadas com versões anteriores da IA do Meta em teste. Adicionadas imagens quando criadas em chats antigos com Meta AI, não foi possível me dizer se a imagem foi criada com sua IA. A pluma também parece estar sujeita a limites de taxa metafísica por algum motivo. Quando você postou alguns exemplos, lembrei-me de que havia alcançado o “modo diário de verificação de identificação”.
