A maioria de nós agora obtém nossas informações usando chatbots de IA e mecanismos de pesquisa. Até o Google nos mostra primeiro um resumo da IA antes de nos direcionar às fontes de onde compilou as respostas.
Novo estudar em Yale sugere que, embora as respostas geradas pela IA sejam rápidas, convenientes e fáceis de ler, elas também podem influenciar nossas decisões. Daniel Karell, professor assistente de sociologia em Yale, e sua equipe queriam descobrir se a leitura de resumos de eventos históricos escritos por IA ajudava as pessoas a aprender melhor do que a leitura de escritos humanos.
Para testar isso, foram apresentados aos participantes breves resumos de eventos históricos, alguns escritos por humanos, outros por ferramentas de IA como o ChatGPT, e depois discutiram o que lembravam.
O resultado? As pessoas que lêem os resumos de IA responderam melhor à pergunta de forma consistente.
A IA é melhor na disseminação de informações do que os humanos?
Karell atribui isso à forma como a IA apresenta os dados. “É como pegar o modelo da Wikipédia e torná-lo mais legível”, disse ele. Os resumos de IA eram mais limpos, claros e fáceis de reter, independentemente de os participantes saberem ler o conteúdo gerado pela IA.
Dessa forma, mesmo quando o resumo foi escrito por uma IA, eles ainda aprenderam mais com ele do que com a versão escrita por humanos.
Você teve que se preocupar com isso?
É aqui que fica interessante. No que se segue artigo publicado no PNAS NexusOs mesmos investigadores descobriram que os resumos de IA não só ensinam melhor, mas também influenciam as opiniões políticas.
Se a IA tivesse uma tendência liberal geral, os leitores teriam saído com visões mais amplas. O lado conservador teve o efeito oposto. Os pesquisadores acreditam que isso acontece porque a IA não apenas torna os fatos presentes, mas também os faz parecer mais prováveis e prováveis.
A IA está se tornando a ferramenta padrão para a forma como as pessoas aprendem sobre eventos históricos e atuais. O que não é necessariamente uma coisa ruim. Mas conhecer os meios de imitar o que você está aprendendo também pode moldar silenciosamente o que você acha que vale a pena lembrar.
Ao mesmo tempo, as alucinações de IA continuam a ser um problema significativo e os resumos gerados pela IA podem ser mais enganadores para os humanos. Um estudo conduzido por pesquisadores do Instituto de Ciências da Informação da USC descobriu que os sistemas de IA podem executar campanhas publicitárias com o mínimo de intervenção humana.
Se somarmos a isto a crença de que a IA pode ser mais persuasiva que os humanos, é assustador pensar como estas ferramentas podem manipular o pensamento e o raciocínio humanos, levando-nos a um mundo mais quebrado.
