Veja como os jornalistas identificam deepfakes

Nos dias que se seguiram ao ataque militar conjunto de sábado ao Irão pelos Estados Unidos e Israel, surgiu online uma enxurrada de imagens e vídeos que pretendiam documentar a guerra. é antigo, retrata um conflito não relacionado, é inventado ou operado por IAem alguns casos, na verdade, retirado de. videogames com tema militar trovão de guerra.

À medida que a desinformação se espalha rapidamente, muitas pessoas confiam em investigadores digitais confiáveis. organizações como tempos de Nova York, indicadore Bellingcat Temos procedimentos de verificação abrangentes para evitar a publicação de conteúdo sintético ou enganoso. “Os telespectadores podem contar com organizações de notícias independentes e confiáveis, que dedicam tempo e esforço para autenticar seus recursos visuais e explicar claramente sua origem”, disse Charlie Stadtlander, diretor executivo de relações com a mídia e comunicações. vezesdisse A beira. Os métodos de verificação dos meios de comunicação raramente são infalíveis, mas os padrões são muito elevados e os especialistas têm anos de experiência em evitar notícias falsas.

Este processo não é uma tarefa fácil, especialmente devido à falta de ferramentas confiáveis ​​de detecção de deepfakes. Mas aprender com especialistas pode ajudar-nos a proteger-nos melhor quando os acontecimentos noticiosos dominam o espaço digital. Então, aqui estão alguns dos truques que os especialistas usam.

Passo 1: Observe com muito cuidado

quando imagem não identificada Após o seu sequestro pelos Estados Unidos em janeiro, os comentários do líder venezuelano Nicolás Maduro tornaram-se subitamente virais nas redes sociais. Os tempos equipe de investigação visual tomou medidas. Eles examinaram as imagens em busca de discrepâncias visuais que “sugeriam que não eram reais”. Por exemplo, um exemplo apresenta uma aeronave com janelas de aparência estranha.

Isso não foi suficiente para provar conclusivamente que a foto era falsa. “No entanto, mesmo a menor possibilidade de as imagens não serem autênticas, juntamente com o facto de terem vindo de uma fonte desconhecida e de detalhes como as roupas do Sr. Maduro serem diferentes entre as duas imagens, foi forte o suficiente para desqualificá-las para publicação”. Os tempos A diretora de fotografia Megan Lulam disse no artigo:

Embora os dias de identificação de deepfakes gerados por IA por meio da contagem de dedos humanos já tenham passado, indicadores sutis ainda existem. Por exemplo, verifique a arquitetura ou as pessoas ao fundo. estranheza inexplicável.

Etapa 2: considere a fonte e sua reputação

Uma imagem do presidente Maduro vezes A postagem que mostra o líder venezuelano detido veio da conta Truth Social do presidente Donald Trump. Isso não significa que Trump ou outros funcionários do governo sejam fontes confiáveis. Ele tem os seguintes hábitos: Espalhando fabricações de IA Geralmente é difícil estabelecer a integridade das doações do governo. Também foram levantadas preocupações sobre a autenticidade da imagem, devido à sua má qualidade e dimensões invulgarmente cortadas.

“Neste caso, a postagem do presidente no Truth Social era por si só digna de nota, embora não houvesse uma maneira confiável de verificar a autenticidade da imagem”, disse Lulam. Contudo, o que foi publicado foi Os tempos Página inicial como parte de Captura de tela da postagem completa de Trumpnão isoladamente. “Exibir imagens em contexto significa que, se uma imagem se revelar inautêntica de alguma forma, estamos apresentando-a como uma comunicação do presidente, não como uma foto legítima de notícias”.

Você não precisa saber muito sobre uma pessoa ou organização para identificar possíveis sinais de alerta. Uma maneira fácil é verificar se a conta é relativamente nova (se for, não há postagens anteriores a uma data relativamente recente). Jeremy Carrasco, criador do ShowtoolsAI e Riddance, chama isso de “Paradoxo da idade da conta”: Como a tecnologia para convencer deepfakes é bastante recente, as contas que os promovem provavelmente foram criadas quando esses modelos de IA foram lançados, e falsificações mais antigas são fáceis de detectar.

Etapa 3: verifique sua pegada digital

Você pode desmascarar rapidamente notícias falsas verificando se a mesma foto ou vídeo foi postado em outro lugar. Você pode fazer isso manualmente pesquisando tópicos relacionados online ou usando recursos de mecanismo de pesquisa, como a ferramenta de pesquisa reversa de imagens do Google. A fonte original pode ser antiga e completamente irrelevante para o contexto atualmente compartilhado. Por exemplo, existem postagens que afirmam mostrar o seguinte: Míssil ataca instalação nuclear israelense Na verdade, foi uma filmagem filmada na Ucrânia em 2017.

Plataforma OSINT Bellingcat usa uma combinação de ferramentas de software como Google e Yandex para verificação visual, referência cruzada e pesquisas reversas de imagens, e usa ExifTool para extrair metadados de imagens. No entanto, estes estudos são normalmente demorados e a crescente acessibilidade das ferramentas generativas de IA tornou difícil acompanhá-los.

“A enxurrada de falsificações convincentes alimentou a situação, dando aos maus atores uma desculpa conveniente do tipo ‘pode ser IA’ para ignorar as imagens reais”, disse Elliott Higgins, diretor criativo da Bellingcat. A beira. “Nosso método ainda é eficaz porque nos concentramos na origem e no contexto, não apenas nos pixels, mas o nível de ruído agora é muito maior.”

Etapa 4: definir data e local

Se você acha que uma foto ou vídeo foi tirado em um local específico, você pode usar imagens de satélite ou aplicativos como o Google Maps para fazer referência cruzada do local e ver se ele corresponde. Marcadores como bandeiras, logotipos e equipamentos também podem ser usados ​​para identificar períodos e locais. vezes Eu fiz isso em 2022 O objetivo é verificar imagens do conflito entre a Rússia e a Ucrânia. A equipe de pesquisa da publicação também pode estimar a hora em que a foto foi tirada. Sites como SunCalc Podemos usar imagens de CFTV ou câmeras de segurança próximas para medir sombras e corroborar imagens.

Não basta diferenciar entre uma foto real e uma imagem totalmente sintetizada. Quanta edição ou manipulação é permitida antes que uma foto deixe de ser considerada real? Não existe uma resposta universalmente aceita, mas Higgins diz que sua definição pessoal de foto é “um momento real capturado pela luz em um sensor ou filme”.

“É uma evidência do que realmente existia naquela época e lugar. Pequenos ajustes como corte e contraste são bons e sempre foram feitos, mas quando você adiciona, remove ou manipula elementos (especialmente usando IA), não é mais uma foto, é arte digital ou propaganda”, diz Higgins. “A autenticidade reside na proveniência honesta, não na perfeição dos pixels. É por isso que imagens autênticas e verdadeiras ainda são mais importantes do que qualquer falsificação de todos os tempos.”

Especialista em notícias falsas e cofundador da plataforma Open Source Intelligence (OSINT) indicador Craig Silverman diz que é importante que todos os usuários online permaneçam vigilantes. “O público precisa de compreender que o atual ambiente de informação está inclinado para a manipulação e o engano e, para isso, precisa de percorrer imagens, vídeos e textos com a consciência de quão facilmente podem ser manipulados”, disse Silverman. A beira. “Acrescente o fato de que as principais plataformas sociais falharam em cumprir suas promessas de rotular o conteúdo gerado por IA e você cria um ambiente digital caótico e enganoso que gera confusão e desinformação.”

As pessoas comuns podem ajudar a prevenir a propagação de desinformação fazendo uma pausa antes de compartilhar qualquer coisa emocional ou viral online. Muitas das ferramentas de verificação usadas por redações confiáveis ​​são gratuitas e acessíveis a todos. Se você não quiser fazer sua própria pesquisa, verifique as postagens questionáveis ​​com várias fontes independentes.

“Lembre-se de que a informação leva tempo para ser desenvolvida, especialmente quando se trata de conflitos em rápida evolução ou outras notícias”, diz Silverman. “Consciência e paciência são fundamentais e você não precisa de ferramentas ou conhecimento. Mas precisa de prática.”