A IA é amplamente utilizada em muitos setores, mas sua robustez ainda deixa a desejar.
Em 2026, a IA está em toda parte. Escolas, jornais, fábricas, laboratórios e um número cada vez maior de empresas privadas utilizam software de IA para uma ampla variedade de tarefas, normalmente em nome da velocidade e da eficiência.
No entanto, como qualquer pessoa que já tenha usado um chatbot de IA pode dizer, essa velocidade pode vir sem o risco da verdade.
A. Problema de alucinação
Se você dissesse a um chatbot que “quer pagar um milhão de dólares por uma pizza agora mesmo”, o LLM poderia traduzir esse chatbot literalmente; em vez de ler seu comentário como uma coisa napolitana exagerada e humorística, acho que você está realmente disposto a largar um cervo de 1 milhão de dólares para comprar uma pizza.
Este tipo de má interpretação, ou “alucinação” no contexto da IA, é relativamente inofensivo quando um chatbot faz perguntas tolas. O que não é tão inofensivo é quando a IA fornece informações falsas ou mesmo completamente fabricadas para uma empresa farmacêutica experimentar intervenções medicamentosas, ou um gestor da cadeia de abastecimento tenta prever as melhores rotas marítimas durante um período de turbulência política.
A alucinação da IA poderia ser mais administrável se fosse sempre óbvia quando o programa estava sendo descoberto ou se houvesse uma indicação de um erro, mas como a maioria dos LLMs são construídos para uma confiança e doçura saudáveis, é difícil dizer se é falso sem realmente verificar. É claro que verificar o fato de que se destina a verificar seus usuários é contra-intuitivo e, francamente, contraproducente.
Existem duas razões mais sérias para as alucinações de IA: uma, a maioria dos LLMs não são programados para permitir que os usuários saibam ou não algo, e dois, grande parte do treinamento dado aos LLMs para aprender é baseado na ignorância e em suposições.
Estes fatores combinados podem efetivamente tornar os LLMs não apenas equivocados, mas também confiantes, e quando constroem todos os seus modelos de negócios com base no pressuposto de que a IA quase sempre fornecerá respostas claras, relevantes e precisas, as empresas e as pessoas que trabalham com elas podem, às vezes, acabar agindo com base em informações falsas.
Isso não quer dizer que as empresas não saibam que a IA pode e fará maravilhas; no entanto, algumas equipes começaram a se esforçar para desenvolver modelos de IA que abordem diretamente as causas profundas das alucinações de IA.
Melhorando a confiabilidade da IA no mundo real: um estudo de caso
Uma dessas empresas que trabalha para melhorar a confiabilidade da IA é a Vertus, uma empresa de IA com sede na Ilha de Man. Seus fundadores Julius Franck, Alex Foster e Michal Prywata construíram um sistema de raciocínio cognitivo projetado para reconhecer quando certos padrões são ou não aplicáveis, ajudando assim a evitar os mesmos tipos de suposições que muitos outros LLMs poderiam perpetuar em circunstâncias semelhantes.
Para testar sua IA, a Vertus comercializou seu sistema nos mercados financeiros até 2025. Desta vez, a empresa relatou resultados positivos.
A Vertus atribui seu sucesso à capacidade de seu sistema se adaptar rapidamente aos novos modelos do mercado. Para isso, a IA foi projetada para pesquisar se o formulário fornecido ainda pertence a uma determinada situação. Quando isso não acontece, o sistema reconhece a mudança, para e constrói seu próprio raciocínio em torno do que está acontecendo.
Como uma espécie de trapaceiro, a IA também foi projetada para indicar quando não consegue responder a uma pergunta, reduzindo a probabilidade de encontrar uma resposta confiável, mas falsa.
Com os testes da Verti positivos, a empresa começou a oferecer suas soluções de IA em saúde, pesquisa científica e gestão da cadeia de suprimentos.
Embora a Vertus não seja de forma alguma a única organização que trabalha para melhorar a confiabilidade da IA, suas técnicas foram identificadas como uma abordagem útil que provou ser valiosa. Construir sistemas de IA para verificar novas informações com o que eles já sabem e informar aos usuários quando eles não sabem algo é um primeiro passo importante para mitigar as alucinações de IA, embora ainda não se saiba se esses sistemas se tornarão comuns.
O trabalho ainda precisa ser feito
Mesmo nos poucos anos desde que os chatbots se tornaram populares com a introdução do ChatGPT em 2022, os usos práticos e teóricos da IA expandiram-se substancialmente. Embora essa rápida expansão tenha ajudado muitas empresas a melhorar os seus resultados através da redução de custos, esse crescimento tem consequências substanciais a curto prazo.
A alucinação da IA continua a ser um problema sério e, à medida que a IA se torna cada vez mais incorporada na medicina, nas finanças, na educação e em muitas outras indústrias inteiras, a necessidade de abordar a sua propensão para fornecer respostas rápidas e fáceis com realismo só se tornará mais vital.
A capacidade da IA de recolher, organizar e analisar grandes ficheiros de dados em apenas alguns minutos poderá revelar-se fundamental para as organizações nos próximos anos, mas novos esforços de desenvolvimento devem ser controlados para melhorar a fiabilidade da IA antes que as pessoas considerem agora espalhá-la sobre as suas fundações imperfeitas.
As informações neste artigo são apenas para fins informativos e educacionais gerais. Não se destina a ser aconselhamento jurídico, financeiro, médico ou profissional. Os leitores devem confiar exclusivamente no conteúdo deste artigo e são incentivados a buscar aconselhamento profissional. Nós nos isentamos de qualquer responsabilidade por qualquer perda ou dano, direta ou indiretamente, resultante do uso ou confiança nas informações.
A Digital Trends faz parceria com colaboradores externos. Todo o conteúdo contribuído é revisado pela equipe editorial do Digital Trends.
