A OpenAI anuncia hoje uma atualização que visa tornar mais fácil para as pessoas identificarem quando o conteúdo online é gerado usando modelos de IA. A OpenAI aumentará seus esforços para incorporar trabalhos produzidos usando credenciais de conteúdo C2PA, atualmente o padrão de proveniência mais reconhecido para verificar como o conteúdo de imagem, vídeo e áudio foi criado ou editado, e também aplicará a marca d’água SynthID do Google para fornecer uma “abordagem em camadas” para ferramentas de rotulagem de IA.
“Esses dois sistemas se reforçam: o C2PA ajuda o conteúdo a transmitir um contexto detalhado; o SynthID ajuda a preservar os sinais quando não restam metadados”, disse a OpenAI no anúncio. “As marcas d’água tornam-se mais duráveis por meio de transformações como capturas de tela, mas os metadados podem fornecer mais informações do que apenas as marcas d’água. Juntos, eles fornecem mais resiliência à origem do que qualquer camada isoladamente.”
As marcas d’água SynthID são inicialmente aplicadas a imagens geradas por ChatGPT, Codex ou OpenAI API. A chamada para preservar metadados é interessante. Curiosamente, vi o SynthID ser usado de forma mais confiável em comparação com o C2PA por verificadores de fatos e organizações de notícias para verificar imagens deepfake online. Esta expansão para cobrir ambos torna menos provável que o conteúdo gerado pela OpenAI escape pelas fendas dos sistemas de verificação, torna mais fácil distinguir deepfakes e ajuda as plataformas online a rotular o conteúdo que é gerado ou manipulado pela IA para os utilizadores.
Como parte desta expansão, OpenAI também está em pré-visualização Portal de verificação pública Isso permite que os usuários vejam se uma imagem contém metadados de IA ou marcas d’água. Quando uma imagem é carregada, o portal verifica os sinais de proveniência C2PA e SynthID para sinalizar se a imagem foi gerada com ChatGPT, API OpenAI ou Codex. Inicialmente, isso será limitado a imagens geradas pela OpenAI, mas a empresa afirma que pretende oferecer suporte a outros sistemas de verificação nos próximos meses e, eventualmente, expandir para mais tipos de conteúdo que as pessoas encontram online.
“Nenhum método de detecção é infalível, por isso adotamos uma abordagem cautelosa quando a detecção falha”, escreveu OpenAI. “Por exemplo, se nenhum metadado ou marca d’água for detectado, a ferramenta não poderá chegar a uma conclusão final sobre se uma imagem foi gerada com uma ferramenta OpenAI, pois os sinais de proveniência podem ser removidos em alguns casos.”
OpenAI também participou Programa de conformidade C2PA. De acordo com a descrição do programa, isso “garante que os produtos cumpram as especificações de credenciais de conteúdo e atendam a um conjunto de requisitos de segurança para gerar e verificar corretamente os dados C2PA”. É importante notar, no entanto, que a OpenAI vem incorporando dados C2PA em conteúdo de imagem e vídeo há algum tempo, e este sistema tem feito pouco para identificar de forma confiável o conteúdo deepfake da OpenAI em circulação. Isso ocorre porque os metadados podem ser facilmente removidos quando saem da plataforma em que foram originalmente postados. Algumas plataformas podem remover acidentalmente metadados durante o processo de upload.
