A toxicidade das redes sociais não pode ser corrigida alterando algoritmos.

A influência polarizadora das redes sociais não é simplesmente o resultado de algoritmos ruins, mas é inevitável devido a um componente central de como a plataforma opera, descobriu um estudo de usuários gerados por IA. Sugere que o problema persistirá, a menos que repensemos fundamentalmente o mundo da comunicação online.

petter tonberg Pesquisadores da Universidade de Amsterdã, na Holanda, criaram 500 chatbots de IA projetados para imitar uma variedade de crenças políticas americanas, com base em pesquisas eleitorais nacionais americanas. Utilizando o mini modelo de linguagem grande GPT-4o, esses bots foram instruídos a interagir uns com os outros em uma rede social simples projetada por pesquisadores, sem anúncios ou algoritmos.

Durante cinco experimentos com 10 mil ações cada, os agentes de IA tenderam a seguir pessoas que compartilhavam suas afiliações políticas, enquanto pessoas com opiniões mais partidárias ganharam mais seguidores e repostagens. Isso refletiu o foco geral nesses usuários, que gravitaram em torno de postadores mais partidários.

Numa investigação anterior, Tornberg e colegas investigaram se redes sociais simuladas utilizando vários algoritmos poderiam identificar rotas para reprimir a polarização política, mas o novo estudo parece contradizer as suas descobertas anteriores.

“Esperávamos que isso (polarização) fosse conduzido por algoritmos”, disse Tornberg. “Achamos que a plataforma foi projetada para produzir esses resultados porque foi projetada para maximizar o envolvimento, irritar os usuários e assim por diante.”

Em vez disso, verifica-se que as tentativas de eliminar o comportamento hostil do utilizador desde a concepção podem ser muito mais difíceis, uma vez que o algoritmo em si não parece ser a causa do problema. “Configuramos a plataforma mais simples que se possa imaginar e, de forma impressionante, já estamos vendo esses resultados”, diz ele. “Isso já sugere que isso decorre de algo muito fundamental em nosso comportamento de postagem, repostagem e acompanhamento.”

Para ver se estes comportamentos poderiam ser restringidos ou neutralizados, os investigadores também testaram seis soluções potenciais, incluindo feeds apenas cronológicos, tornando o conteúdo viral menos proeminente, amplificando opiniões opostas e conteúdo empático e racional, ocultando contagens de seguidores e repostagens, e ocultando perfis de perfil.

A maioria das intervenções produziu poucas mudanças. A mistura entre os partidos variou apenas cerca de 6% e a percentagem de atenção dominada pelas contas de topo variou entre 2 e 6%. Enquanto isso, outras intervenções, como ocultar a origem dos usuários envolvidos, na verdade pioraram o problema. Os ganhos numa área foram compensados ​​por impactos negativos noutras áreas. As modificações para reduzir a desigualdade dos utilizadores aumentaram a popularidade dos posts extremistas, enquanto as mudanças para suavizar o partidarismo concentraram mais atenção numa minoria de elite.

“A maior parte da atividade nas redes sociais sempre foi fruto de uma árvore venenosa. O problema inicial das redes sociais sempre foi o seu design básico, que pode encorajar os piores comportamentos humanos”, diz ele. Jess Maddox na Universidade da Geórgia.

Thornberg reconhece que a experiência é uma simulação que pode simplificar alguns mecanismos, mas acredita que pode nos dizer o que as plataformas sociais precisam de fazer para reduzir a polarização. “Talvez precisemos de intervenções mais fundamentais, talvez precisemos de repensar mais fundamentalmente”, diz ele. “Pode não ser suficiente apenas ajustar algoritmos ou alterar os parâmetros das plataformas, mas podemos precisar de repensar mais fundamentalmente as estruturas de interação e como estes espaços estruturam a nossa política.”