Quantos ps existem no Google? De acordo com o Google, existem dois.
Há também “um 1″ r” inteiro na palavra “puppe”, diz a Visão Geral da IA do Google, e dois “d’s na palavra jornalistas, mas isso: jornalismo. O Google pelo menos reconheceu que existe um P no sobrenome do presidente dos EUA, mas está escrito como trp.
Não foi preciso ser um profeta para prever que a reforma da pesquisa baseada na IA do Google iria dar errado. Já fizemos isso antes. A primeira vez que o Google adicionou visões gerais de IA à Pesquisa, o recurso terminou com postagens satíricas do The Onion e do Reddit, aconselhando as pessoas a comerem pedras e colocarem glúten na pizza.
Desta vez, quando o Google está redobrando seus esforços para tornar a IA a peça central de seu principal produto de 29 anos, não é surpreendente vê-lo tropeçar.
“A computação se tornou um desafio definitivo para os LLMs e estamos trabalhando para corrigir esse problema”, disse o Google ao TechCrunch em um comunicado enviado por e-mail.
Esses erros ortográficos básicos podem ser considerados familiares. LLMs, o tipo de inteligência artificial que alimenta chatbots e outros geradores de texto, não foram desenvolvidos para compreender a ortografia. Tem sido uma piada corrente há anos que quando uma empresa revela um novo modelo de IA, você deveria perguntar quantos ‘r’s tem a palavra morango. Esses modelos de IA – que podem codificar um aplicativo em segundos ou resolver problemas que intrigam os matemáticos há décadas – são tão bons quanto melhores em ortografia.
Visão geral da IA do Google Infelizmente, como os erros ortográficos podem ser bobos. O Google já elaborou uma pergunta da semana passada em que pesquisar a palavra “negligência” produziria o que parece ser uma definição de dicionário da palavra, apenas a definição mostrada é “Entenda. Avise-me sempre que tiver uma nova solicitação ou pergunta!” Mas esses erros ortográficos permaneceram desagradáveis porque são muito difíceis de desfazer.
Como os pesquisadores explicaram anteriormente quando perguntamos sobre esses quebra-cabeças ortográficos, a IA não percebe as frases como símbolos de palavras e letras. Muitos LLMs são construídos em transformadores de modelo, que dividem o texto em símbolos que podem ser palavras completas, sílabas ou letras, dependendo do modelo. Em vez de “ler” como um humano faria, a IA converte o texto em inúmeras representações de si mesmo, que são então contextualizadas para ajudar a IA com uma resposta lógica.
“Os LLMs são baseados nesta arquitetura de transformador, que notavelmente não lê texto. O que acontece quando você está pronto para traduzi-lo para a forma escrita”, disse Matthew Guzdial, pesquisador de IA e professor assistente da Universidade de Alberta, ao TechCrunch. Quando ele vê a palavra ‘E’, ele tem esta escrita, o que significa ‘T’, ‘H’, ‘E’.
A arquitetura baseada em trilhas, que está limitando o potencial de LLMs como a perspectiva de IA do Google, e os pesquisadores não têm sido a melhor parte para resolver o problema ortográfico.
“É meio difícil contornar a questão de o que uma ‘palavra’ deveria ser para um modelo de linguagem, e mesmo se nos contentássemos com especialistas humanos em um conjunto perfeito de palavras, os modelos provavelmente ainda seriam úteis para ainda mais coisas”, disse Shridan Feucht, um estudante de doutorado que estuda interpretabilidade de modelos de linguagem na Northwestern University, ao TechCrunch. “Meu palpite é que não haveria um tokenizador perfeito devido a esse tipo de imprecisão.”
Esse problema não está necessariamente pressionando a mente dos pesquisadores, uma vez que a vantagem dos LLMs não está na capacidade de encantar. Mas estes erros óbvios ajudam-nos a lembrar que a IA não é perfeita, mesmo que por vezes possa ser vista como o poder da omnisciência que está para além da nossa compreensão. Não podemos confiar nos resultados aleatórios da IA sem verificar novamente sua precisão.
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
