Metaz em março A comissão de acompanhamento apelou à empresa O seu objetivo é “cumprir os seus compromissos e adotar as suas próprias ferramentas” para conter a propagação de conteúdos fraudulentos de IA gerados entre plataformas. Mehta respondeu em julho: Adesivo de conteúdo — Tecnologia de marca d’água invisível que sinaliza imagens geradas pelo novo modelo de IA da empresa. Mas foi essencialmente uma nota de rodapé enterrada no anúncio da empresa sobre sua ferramenta de geração de imagens e vídeos Muse.
Como alguém que passa muito tempo examinando sistemas de rotulagem de IA, não tenho confiança no Content Seal. Já existem soluções mais estabelecidas, como C2PA Content Credentials e SynthID do Google, e a Meta poderia tê-las usado em vez de lançar seu próprio sistema muito mais tarde. Tentei descobrir por que a Meta lançou seu próprio sistema, mas não acho que eles tenham pensado nisso.
Como explica Meta, Content Seals funcionam de forma semelhante aos SynthIDs. Invisíveis ao olho humano, as marcas d’água fornecem “sinais de proveniência ocultos” incorporados em imagens geradas por IA que podem ser digitalizadas e sinalizadas por ferramentas de detecção, ajudando os usuários online a distinguir entre deepfakes e conteúdo genuíno. Semelhante ao SynthID, Meta diz que a marca d’água Content Seal permanece intacta e pode ser detectada mesmo se a imagem for “cortada, compactada, redimensionada ou capturada de tela”.
Então, se o Content Seal faz funcionalmente a mesma coisa, por que não o SynthID? A meta já está Membro do comitê diretor A Coalizão sobre Proveniência e Autenticidade de Conteúdo (C2PA) promove padrões de credenciais de conteúdo individuais. em linha O Google demonstrou vontade de colaborar com outras empresas para resolver o problema crescente de detecção de IA. O SynthID já foi adotado pela OpenAI e o Google pretende claramente abrir a sua tecnologia a fornecedores rivais de IA em nome de uma maior transparência.
Apesar das semelhanças com o sistema do Google, o Content Seal apresenta algumas limitações em seu estado atual. Atualmente, os usuários podem detectar a marca d’água Content Seal por Ferramentas web dedicadas Isso significa que o Meta não incorpora recursos de detecção em seu chatbot Meta AI como o Google faz com o Gemini. No entanto, parece que isso pode estar em andamento. A porta-voz da Meta, Faith Eischen, disse: A beira “Estamos explorando maneiras de detectar conteúdo gerado por IA mais perto de onde as pessoas o encontram”, afirmou a empresa em comunicado. Dado que é aí que a detecção de IA é mais necessária e já existe há algum tempo, por que ela não está disponível no lançamento?
A marca d’água em si também se aplica apenas a imagens geradas pelo Muse no aplicativo Meta AI e no site Meta.ai. Isso significa que os usuários online não poderão usar marcas d’água para detectar conteúdo criado pelos modelos de IA mais antigos do Meta. O suporte para vídeos gerados também não está disponível, embora Meta diga que isso estará disponível “em breve”.
1/2
Meta impõe um limite ao número de vezes por dia que você pode verificar imagens de selo de conteúdo por meio de suas ferramentas de detecção. Eischen disse que o limite de taxa foi projetado para apoiar o “uso normal” e, ao mesmo tempo, evitar o abuso do sistema de detecção. Meta não disse o que poderia ser tal exploração – talvez uma tentativa de quebrar o sistema para evitar a detecção de conteúdo com marca d’água – mas Google e Ferramentas de detecção OpenAI Existem limites de taxas semelhantes. O C2PA se destaca como o único sistema que não impõe limites ao número de vezes que um usuário pode verificar o conteúdo. Parece uma oportunidade perdida para o sistema Meta ter um desempenho melhor do que o SynthID, já que as limitações de detecção parecem contra-intuitivas para melhorar a transparência da IA em escala.
As próprias plataformas da Meta, como Facebook e Instagram, que aplicam rótulos de IA, usam metadados não especificados “em conjunto com marcas d’água de selo de conteúdo” para ajudar os usuários a identificar conteúdo gerado por IA, disse Eischen. Quando questionado se a Meta está dizendo a outras plataformas online, como TikTok e LinkedIn, que escaneiam e rotulam conteúdo de IA, como detectar selos de conteúdo, Eischen disse que a empresa está “determinada a trabalhar com nossos pares para fornecer a melhor experiência possível para nossos usuários”.
Parece que um suporte mais amplo para este padrão ainda está em andamento, o que poderia impedir que as imagens geradas pelo Muse fossem efetivamente rotuladas fora da própria plataforma do Meta. Quando alimentamos uma imagem de teste criada usando o modelo Muse da Meta para o Gemini e o portal oficial de detecção C2PA, nenhuma das ferramentas conseguiu confirmar que ela foi gerada por IA. Há também a questão de saber se os selos de conteúdo podem ser aplicados a arquivos de imagem e vídeo junto com SynthID e credenciais de conteúdo sem interferir em outros padrões. Mehta não forneceu nenhuma explicação oficial sobre isso.
“Como outras empresas, construímos o Content Seal nativamente de acordo com nossas especificações técnicas e produtos exclusivos. Abordar isso em todo o ecossistema requer múltiplas abordagens trabalhando em conjunto, e estamos entusiasmados em contribuir para esse esforço”, disse Eischen. “Teremos mais informações sobre o Content Seal em breve.”
Dado que o Content Seal só pode detectar imagens geradas usando os modelos de IA mais recentes do Meta, você se pergunta o que a empresa tem feito até agora. Como a Meta oferece ferramentas de geração de imagens de IA desde 2023, ela já produziu um grande número de falsificações que não podem ser detectadas por seus próprios sistemas. Também introduziu tags de IA no Instagram e no Facebook em 2023, o que irritou muitos fotógrafos da época ao rotular incorretamente as fotos reais como “feitas por IA”.
Três anos depois, a Meta ainda não sabe como se promover como uma fábrica de conteúdo de IA e como uma solução para identificá-lo, especialmente em suas plataformas. Até os executivos seniores da Meta parecem inseguros sobre o que fazer a seguir.
Em uma entrevista no podcast de Lenny Rachitzky, o chefe do Instagram, Adam Mosseri, inicialmente abraçou a ideia de que as pessoas que não gostam de conteúdo gerado por IA deveriam poder excluí-lo de seus feeds sociais, mas isso parece muito com um recurso de filtragem que exigiria um sistema confiável de rotulagem de IA. Ele até sugere que a própria autenticidade se tornará mais desejável, algo que a IA não pode fornecer.
“Na verdade, acho que em um mundo onde há tanto conteúdo sintético, as pessoas vão querer mais criatividade, autenticidade e humanidade, e não menos”, disse Mosseri.
“Não acho que haja necessidade de excluir conteúdo de IA.”
No entanto, na mesma entrevista, Mosseri disse: “Não creio que devamos filtrar conteúdo de IA”, e afirmou que “deveríamos ser capazes de dizer se o conteúdo é conteúdo de IA”. Mosseri também reiterou a sua opinião anteriormente expressa de que “pode ser mais prático obter impressões digitais de meios de comunicação reais do que de meios falsos”. Isso não significa que a Meta tenha confiança em sua capacidade de desenvolver um sistema viável de rotulagem de IA. Quando a plataforma social foi incorporada à fábrica de resíduos, já havia tempo de sobra para fazê-lo. Ebi Jesus Apesar dessa podridão cerebral generativa, o lançamento do Content Seal ainda parece ter surgido do nada.
Isso não oferece nenhuma vantagem específica aos consumidores em relação a sistemas SynthID estabelecidos semelhantes e apenas cria mais um obstáculo para as pessoas verificarem o conteúdo de IA. Talvez meta deve Assim como a OpenAI, acabamos de adotar o padrão de marca d’água do Google. Os usuários do Facebook e Instagram podem ficar melhor com isso. Eishen diz que a meta está contribuindo. Pesquisa de marca d’água de código aberto A tecnologia não foi aperfeiçoada da noite para o dia, pois já existe há anos, mas esperamos que melhore a experiência dos consumidores.
Se a Meta quiser adotar sua própria solução, precisará de mais do que um clone SynthID incompleto para provar que realmente leva a sério a transparência da IA. Pelo menos é definitivamente mais confiável. Reuters já descobriu que o Content Seal não foi capaz de detectar mais da metade das imagens geradas pelo Muse que testou depois de cortadas.
