A nova ferramenta de detecção de IA da Meta não funciona como anunciado, de acordo com um novo relatório.
Meta discutiu seu modelo de imagem de primeira geração, o Muse Image, no início desta semana. Como parte estréiaA gigante da tecnologia também anunciou que todas as imagens geradas pelo modelo incluirão um sistema invisível de impressão digital chamado Content Seal. Este código permaneceria intacto mesmo quando a imagem gerada pela IA fosse “comprimida, compactada, redimensionada ou cortada” pelos usuários, afirmou a empresa. Para ajudar a capturar o sinal do Selo de Conteúdo, Meta também anunciou que está visualizando uma ferramenta de detecção de IA para verificar se a imagem do Muse gerou a imagem.
rum no relatório publicado na sexta-feira; Reuters os pesquisadores descobriram que a ferramenta de detecção de IA não reconheceu mais da metade das imagens selecionadas depois de geradas. No primeiro teste, a Reuters descobriu que a ferramenta identificou corretamente todas as 40 imagens geradas pelo Musa Image como geradas por IA, mas quando essas imagens foram selecionadas com metade ou um terço do seu tamanho original, a ferramenta só conseguiu identificar 55% como geradas por IA.
À medida que as ferramentas generativas de IA melhoram a níveis surpreendentes, a detecção se torna um problema mais complicado de resolver. De acordo com a empresa de segurança cibernética DeepStrike, o volume de deepfakes online gerados por IA registou um crescimento anual de aproximadamente 900% entre 2023 e 2025. Mas as capacidades de deteção não progrediram completamente em paralelo com este boom de popularidade. As ferramentas comerciais de detecção de IA, a própria IA, ainda são infestadas de erros, enquanto a capacidade de uma pessoa comum de reconhecer uma moeda gerada por IA não é melhor do que jogar uma moeda, de acordo com estudos anteriores.
Embora não seja um sucesso imediato, essa é uma lacuna que a Meta pretende abordar com o novo Selo de Conteúdo e sua ferramenta revelada.
Banana Image e seus produtos acompanhantes marcaram um grande passo em frente para Meta, que sem dúvida ficou à frente de seus concorrentes no espaço de IA. No ano passado, o CEO da Meta, Mark Zuckerberg, decidiu que não era o momento certo para tentar recuperar o atraso e anunciou um grande esforço de IA para reverter a situação. A estratégia de captura inclui investimentos multibilionários em investigação e desenvolvimento e a exploração dos melhores talentos comprometidos por rivais em toda a indústria, tudo para construir melhores produtos de IA e com o objectivo geral de tornar a inteligência artificial superior.
Depois de mais dois bilhões de A i dedicados e depois de mais algumas reestruturações, a Meta revelou o primeiro grande fruto desse trabalho em abril com o Musis Spark, um modelo proprietário que disse que planeja abrir no futuro e teve uma recepção mista. Outro grande destaque foi a estreia cinematográfica desta semana de Muse.
Mas a estreia do gerador de imagens e dos meios de comunicação que o acompanham foi repleta de controvérsia, e não apenas por causa da reportagem da Reuters. Os usuários do Instagram ficaram horrorizados ao saber que o modelo de IA poderia usar fotos de perfil de qualquer público sem pedir expressamente o consentimento do proprietário do referido perfil. Este recurso foi removido.
A empresa agora está de olho em uma grande estreia em IA generativa: geradores de vídeo chamados Vídeos. Esperamos que a empresa consiga preencher algumas lacunas de divulgação na mídia e abordar adequadamente as preocupações com a privacidade do usuário antes que o modelo caia.
