As tags visíveis de IA do Instagram devem ajudar as pessoas a descobrir rapidamente o conteúdo gerado sinteticamente. Contudo, nas últimas semanas, usuário Houve relatos de que o sistema está fora de controle. Eles disseram que a Meta aplicou automaticamente o rótulo “Conteúdo de IA” às imagens que eles não criaram ou editaram usando as ferramentas generativas de IA. Enquanto isso, imagens reais de IA estão escapando, deixando a impressão de que nada no Instagram é confiável.
A razão exata para esta marcação parece variar. Muitas pessoas relataram que a tag aparecia em imagens editadas com ferramentas como o removedor de fundo do Canva, ou raramente em imagens com ferramentas de reparo de manchas. um usuário no tópico disse que o Instagram aplicaria o rótulo “toda vez que um removedor de fundo estiver envolvido” e outro usuário Disseram que isso aconteceu depois que eles usaram o Canva para remover “bolhas” da foto, resultando na imagem inteira sendo marcada como IA no Instagram. Noutros casos, as razões são ainda menos claras.
Se esse acidente com a tag lhe parece familiar, você deve se lembrar que um problema semelhante afetou a fotografia com a tag “Made by AI” no Instagram em 2024, alguns meses após o lançamento do recurso. Em fevereiro daquele ano, a Meta anunciou que iria digitalizar imagens em busca de metadados IPTC e C2PA, o que poderia provar com razoável certeza se a IA generativa foi usada para criá-las ou manipulá-las. Mas a sua abordagem sempre foi vaga. Em 2024, foi relatado que os sistemas de detecção varreram fotos cujos metadados da Adobe indicavam que haviam sido retocadas usando ferramentas generativas de IA, embora as alterações fossem extremamente pequenas e resultassem essencialmente na mesma foto. Mais tarde, a Meta prometeu ajustar seus métodos de rotulagem para melhor refletir “a quantidade de inteligência artificial usada nas imagens”. Ele também diz que usa “métricas padrão da indústria que outras empresas incluem no conteúdo de suas ferramentas”, mas não há nenhuma informação recente sobre quais são essas métricas, ou como e quando procurá-las. Meta não respondeu a um pedido de esclarecimento.
A rotulagem incorreta relatada recentemente não tem uma conexão clara com o uso de IA generativa. Embora funções como remoção de fundo Fazer Muitas vezes usando aprendizado de máquina, é o mesmo tipo de IA assistiva que aplicativos como o Photoshop usam há mais de uma década em ferramentas de seleção e exclusão de objetos, em vez das ferramentas de geração de texto para imagem normalmente associadas a imagens de IA enganosas.
Pelo menos alguns dos recentes contratempos com tags de IA do Instagram parecem ser culpa do Canva. Depois de sinalizar a pergunta Removedor de fundo, Estrategista de conteúdo Jesse Bruno O Canva supostamente respondeu a ela com uma explicação: algumas das ferramentas assistivas de IA da plataforma de design foram “rotuladas como generativas”. A plataforma de design disse a Bruno que sua ferramenta agora rotula corretamente. Uma mensagem no Canva Página de ajuda para remoção de plano de fundo Ele também diz que o uso da ferramenta “não adicionará metadados de conteúdo gerados por IA do Canva aos seus designs”, embora não esteja claro se a anotação é nova e o Canva não respondeu a um pedido de comentário.
Existem alguns usuário do tópico O relatório afirma que o uso do removedor de fundo do Canva ainda resulta na sinalização de imagens, apesar do Canva afirmar ter corrigido o problema. outro Número de tópicos Os usuários também relataram que nenhuma das imagens que editaram com a ferramenta antes de corrigi-las foi sinalizada pelo Instagram, nem a ferramenta aplicou os metadados C2PA que Meta supostamente usa para detectar conteúdo gerado por IA.
Em todos os testes que fiz para ver o que faria a tag aparecer no Instagram, ela só foi aplicada em imagens que editei ou gerei totalmente usando o aplicativo Meta AI.
Há também relatos de que Caso de etiqueta AI Onde está supostamente localizado o removedor de fundo do Canva? Nunca usei de jeito nenhum. Um usuário descobriu que Meta aplicou a tag a uma imagem Já envenenado — ou são sutilmente ajustados por um sistema projetado para tornar as imagens inúteis para treinamento de IA e/ou degradar os modelos de IA nos quais são alimentadas — e não conseguem sinalizar versões não infectadas do mesmo conteúdo.
Tags de conteúdo de IA também foram aplicadas automaticamente a fotos postadas recentemente no Instagram pela About Face, empresa de cosméticos fundada pela cantora Halsey. Quando um comentarista Pergunte sobre tags de IAO gerente social da marca, que falou sob condição de anonimato, disse que nenhuma inteligência artificial foi usada para criar as imagens. “Esta foto foi tirada no meu iPhone e depois editada levemente por mim no aplicativo Fotos. Nossa marca usa artistas e pessoas reais para criar tudo o que você vê em todas as nossas plataformas”, diz a resposta do About Face.
Entrei em contato com a About Face para esclarecer quais ferramentas são utilizadas no aplicativo Fotos do iPhone, mas a empresa ainda não respondeu. Dito isto, existem apenas alguns que devem ser adicionados para gerar metadados de IA para fotos: reconstrução espacial, expansão e limpeza atualizada Adicionado no iOS 27. Essas ferramentas usam Apple Intelligence e incorporam a marca d’água SynthID invisível do Google; os dois primeiros adicionam novos elementos gerados, enquanto o terceiro permite aos usuários remover objetos ou pessoas que distraem. De acordo com a verificação baseada no Gemini do Google, as imagens marcadas não têm um SynthID incorporado, mas mesmo com essas ferramentas de inteligência da Apple, não está claro por que a tag diz que detecta sinais que “geralmente identificam conteúdo inteiramente gerado por IA, em oposição ao conteúdo modificado exclusivamente com IA”.
Sério, o que a IA sinaliza? sim Qual é o elemento que está realmente escaneando? As empresas muitas vezes obscurecem as especificidades de seus sistemas de moderação para evitar que pessoas mal-intencionadas tirem vantagem do sistema, mas agora o usuário médio está bastante confuso.
Atualmente, o único sinal que tenho certeza que faria com que o Instagram aplicasse tags de conteúdo de IA é o sinal aplicado pelo próprio sistema de IA generativo do Meta. Conduzi meus próprios testes na maioria das ferramentas acima, enviando fotos editadas usando o removedor de fundo do Canva, a ferramenta de apagamento de fundo do Photoshop, o recurso de IA gerado pelo Firefly da Adobe, o modelo Nano Banana no Gemini do Google e os recursos inteligentes da Apple no iOS. Alguns são totalmente gerados e confirmei que vários deles contêm sinais C2PA e SynthID. Porém, no meu caso, o Meta não sinalizou nada.
Postei essas fotos em uma nova conta do Instagram que fornecia muito poucas informações e as postei em rápida sucessão. Não posso me esforçar mais para agir como um robô ou uma fazenda de IA, que você pensaria que seria o principal candidato que Meta deveria procurar. No entanto, embora Meta tenha anunciado uma repressão às contas de IA na semana passada, ele não foi sinalizado como um perfil gerado por IA, nem as fotos na época. Neste ponto, eles estão online e totalmente públicos há quase duas semanas.
Os resultados me fazem duvidar se existe sim Qualquer noção de como Meta aplica o rótulo “Conteúdo de IA”. Eles deveriam tornar mais fácil confiar no que você vê no Instagram, mas, neste momento, eu nem confio nas próprias tags.
