Pensar, saber, compreender, lembrar.
Estas são palavras cotidianas que as pessoas usam para descrever o que se passa na mente de uma pessoa. Mas quando estes mesmos termos são aplicados à inteligência artificial, podem inadvertidamente fazer com que as máquinas pareçam mais humanas do que realmente são.
“Usamos verbos mentais o tempo todo em nossas vidas diárias, então faz sentido que também possamos usá-los quando falamos sobre carros – isso nos ajuda a nos conectar com eles”, disse Jo Mackiewicz, professor de inglês na Iowa State. “Mas, ao mesmo tempo, à medida que aplicamos verbos mentais às máquinas, também existe o risco de confundir a linha entre o que os humanos e a IA podem fazer”.
Matskevich e Jeanine Awn, professora de inglês e diretora do Programa de Comunicação Avançada da Universidade Estadual de Iowa, fazem parte de uma equipe de pesquisa que estudou como os escritores descrevem a inteligência artificial usando a linguagem humana. Este tipo de formulação, conhecido como antropomorfismo, atribui características humanas a sistemas não humanos. Seu estudo, “Antropomorfismo da Inteligência Artificial: Examinando um Corpus de Verbos Mentais Usados com IA e ChatGPT”, foi publicado em Comunicação Técnica Trimestral.
A equipe de pesquisa também incluiu Matthew J. Baker, professor assistente de linguística na Universidade Brigham Young, e Jordan Smith, professor assistente de inglês na Universidade do Norte do Colorado. Ambos frequentaram anteriormente a Iowa State University.
Por que a linguagem humanóide sobre inteligência artificial pode ser enganosa
Segundo os pesquisadores, usar verbos mentais para descrever a IA pode dar uma falsa impressão. Palavras como “pensar”, “saber”, “compreender” e “irá” indicam que o sistema tem pensamentos, intenções ou consciência. Na verdade, a IA não tem crenças ou sentimentos. Cria respostas analisando padrões em dados, não formando ideias ou tomando decisões conscientes.
Mackiewicz e Aune também observaram que tal linguagem pode superestimar o que a inteligência artificial é capaz. Frases como “AI decidiu” ou “ChatGPT sabe” podem fazer os sistemas parecerem mais independentes ou inteligentes do que realmente são. Isto pode levar a expectativas irrealistas sobre o quão confiável e capaz é a IA.
Há também uma preocupação mais ampla. Quando a IA é descrita como se tivesse intenções, ela pode desviar a atenção das pessoas por trás dela. Desenvolvedores, engenheiros e organizações são responsáveis por construir e usar esses sistemas.
“Algumas frases antropomórficas podem até ficar na mente dos leitores e moldar potencialmente de forma inútil a percepção pública da IA”, disse Awn.
Como os redatores de notícias realmente usam a linguagem da IA
Para entender melhor a frequência com que essa linguagem aparece, os pesquisadores analisaram um corpus de notícias na Internet (NOW). Este enorme conjunto de dados contém mais de 20 mil milhões de palavras de artigos noticiosos em inglês publicados em 20 países.
Eles se concentraram na frequência com que verbos mentais como “sabe”, “significa” e “saber” são usados junto com termos como AI e ChatGPT.
As descobertas foram inesperadas.
Verbos mentais são menos comuns do que o esperado
O estudo descobriu que os redatores de notícias nem sempre combinam termos relacionados à inteligência artificial e verbos mentais.
Embora o antropomorfismo seja comum na fala cotidiana, é muito menos comum nas notícias. “Descobrimos que o antropomorfismo é comum na fala cotidiana, mas descobrimos que é muito menos usado na redação de notícias”, disse Matskevich.
Entre os exemplos identificados, a palavra “necessidades” apareceu com maior frequência com IA, aparecendo 661 vezes. Para o ChatGPT, a palavra “sabe” foi a combinação mais frequente, mas apareceu apenas 32 vezes.
Os pesquisadores observaram que os padrões editoriais podem desempenhar um papel. As diretrizes da Associated Press contra a atribuição de emoções ou características humanas à inteligência artificial podem afetar a forma como os jornalistas escrevem sobre a tecnologia.
O contexto é mais importante do que as próprias palavras
Mesmo quando eram usados verbos mentais, eles nem sempre eram antropomórficos.
Por exemplo, a palavra “necessidades” frequentemente descrevia requisitos básicos em vez de qualidades humanas. Frases como “IA requer grandes quantidades de dados” ou “IA requer assistência humana” são semelhantes à forma como as pessoas descrevem sistemas não humanos, como carros ou receitas. Nestes casos, a linguagem não implica que a IA tenha pensamentos ou desejos.
Em outros casos, “necessidades” foram usadas para expressar o que precisa ser feito, como “a IA precisa ser treinada” ou “a IA precisa ser implementada”. Awn explicou que esses exemplos são frequentemente escritos na voz passiva, o que coloca a responsabilidade sobre as pessoas e não sobre a tecnologia em si.
O antropomorfismo existe em um espectro
O estudo também descobriu que nem todos os verbos mentais são usados da mesma maneira. Algumas frases chegam perto de indicar qualidades humanas.
Por exemplo, declarações como “A IA deve compreender o mundo real” podem implicar expectativas relacionadas com o raciocínio, a ética ou a consciência humana. Esses usos vão além de simples descrições e começam a oferecer possibilidades mais profundas.
“Esses exemplos mostraram que o antropomorfismo não é tudo ou nada, mas existe em um espectro”, disse Awn
Por que a escolha do idioma para inteligência artificial é importante
No geral, os pesquisadores descobriram que o antropomorfismo nas notícias é menos comum e mais matizado do que muitos poderiam supor.
“No geral, a nossa análise mostra que a antropomorfização da inteligência artificial na escrita de notícias é muito menos comum – e muito mais subtil – do que poderíamos pensar”, disse Matskevich. “Mesmo as instâncias que antropomorfizaram a IA variaram muito em força.”
As descobertas destacam a importância do contexto. Simplesmente contar palavras não é suficiente para compreender como a linguagem cria significado.
“Para os escritores, esta nuance é importante: a linguagem que escolhemos determina como os leitores entendem os sistemas de inteligência artificial, suas capacidades e as pessoas responsáveis por eles”, disse Matskevich.
A equipe de pesquisa também enfatizou que esses insights poderiam ajudar os profissionais a pensar com mais cuidado sobre como descrevem a inteligência artificial em seu trabalho.
“Nossas descobertas podem ajudar os profissionais de comunicação técnicos e profissionais a pensar sobre como pensam sobre as tecnologias de IA como ferramentas no processo de escrita e como escrevem sobre IA”, escreveu a equipe de pesquisa no estudo publicado.
À medida que a IA continua a evoluir, a forma como as pessoas falam sobre ela continuará a ser importante. Matskevich e Aune disseram que os escritores precisarão estar atentos ao modo como a escolha das palavras afeta a percepção.
Olhando para o futuro, a equipe sugeriu que pesquisas futuras poderiam explorar como palavras diferentes moldam a compreensão e se mesmo o uso raro de linguagem antropomórfica tem um forte impacto na forma como as pessoas veem a IA.
