A inteligência artificial tornou-se notavelmente boa na criação de rostos humanos falsos. Tão bons, na verdade, que os velhos truques em que as pessoas confiavam – contar os dedos, encontrar os brincos errados ou procurar nos lugares errados – estão rapidamente a tornar-se obsoletos. De acordo com um * Um novo estudo foi destacado pela BBCA próxima linha de defesa da IA não é nada melhor. Uma pessoa treinada pode simplesmente ser melhor.
Pesquisadores da Universidade de Aberdeen, trabalhando em conjunto com a Universidade Nacional Australiana, descobriram que os humanos podem melhorar drasticamente a sua capacidade de distinguir rostos gerados por IA de rostos reais após um curto período de treinamento estrutural. Em vez de procurar falhas visuais óbvias, os participantes foram ensinados a reconhecer padrões sutis que os geradores de imagens atuais ainda se esforçam constantemente para replicar.
A IA está forçando os humanos a evoluir também
Durante anos, distinguir imagens geradas por IA quase parecia pequeno. Os primeiros modelos geralmente usam seis dedos, brincos ou óculos escuros impossíveis de usar. Mas os geradores de hoje, com sistemas styleGAN3 e modelos de difusão mais recentes, foram muito além dos erros do narrador. Por esta razão, os investigadores argumentam que depender de deficiências visuais não é uma estratégia eficaz.
Em vez disso, os participantes foram convidados a julgar seis qualidades perceptíveis que os rostos da IA frequentemente compartilham. Isso inclui a simetria facial perfeita de sempre, características altamente proporcionais, atratividade acima da média, estruturas faciais genéricas, expressões emocionais limitadas e rostos que são surpreendentemente difíceis de lembrar depois de vistos.
Os resultados são claros. Antes do treinamento, os participantes identificaram corretamente os rostos gerados pela IA apenas em cerca de 40% das vezes. Após cerca de uma hora de aprendizagem guiada e exposição repetida a rostos reais e sintéticos, a precisão aumentou para cerca de 80%. Os participantes manipuladores também tiveram pontuações de detecção perfeitas. Mais importante ainda, a sua confiança melhorou com o resultado real do casino, que pesquisas anteriores sugeriam que muitas vezes faltava.
Por que detectar IA é mais importante do que nunca
Este não é mais um exercício acadêmico. A tecnologia Deepfake já é usada em fraudes financeiras, campanhas de influência política e fraudes de identidade online. A BBC mostrou que Estimativas da Deloitte A sugestão de que as perdas resultantes de fraudes provocadas pela IA nos Estados Unidos poderão aumentar para 40 mil milhões de libras no próximo ano, em comparação com os 12 mil milhões de libras em 2023. Há também informações sobre um caso amplamente divulgado em Hong Kong, no qual os burlões alegadamente usaram uma chamada de vídeo deepfake para convencer um funcionário a transferir 25 milhões. Enquanto isso, uma investigação anterior da Press Association descobriu um perfil do LinkedIn gerado por IA que invadiu com sucesso os círculos políticos dos EUA.
O estudo também destaca outra questão importante: os sistemas de IA continuam a ser menos fiáveis em rostos mais velhos, rostos mais jovens e pessoas de grupos étnicos sub-representados devido a distorções nos seus dados de formação. Essas imperfeições ainda podem fornecer pistas úteis para observadores humanos.
Talvez a conclusão mais interessante seja que o cérebro humano parece aprender muito como a própria IA. Ao ver repetidamente exemplos de rostos reais e falsos, as pessoas gradualmente desenvolvem um senso intuitivo de autenticidade, em vez de confiar na própria falsidade. Os investigadores acreditam que o instinto se tornará uma das nossas ferramentas mais fortes à medida que a IA generativa continua a melhorar.
É difícil ignorar a ironia. À medida que a inteligência artificial melhora a fingir ser humana, os humanos podem começar a treinar-se da mesma forma que as máquinas – através de dados, repetição e reconhecimento de padrões. A IA pode manter melhor os detectores, mas pesquisas sugerem que eles não são a única defesa. O julgamento do homem ainda está para ser executado; apenas atualize-o.
