Os chatbots de IA podem ajudar a planejar férias ou sugerir o que levar. Mas, em alguns casos, o conselho de alguém que realmente sabe o que está fazendo é uma aposta mais segura.
É relatado tribuna de chicagoTrês caminhantes novatos de Roseville, Califórnia, tiveram que ser resgatados do Monte Shasta depois de ficarem presos durante a noite. De acordo com o Gabinete do Xerife do Condado de Siskiyou, eles usaram o Google Gemini para ajudar a planejar a escalada. O Gabinete do Xerife disse que Gemini aconselhou o grupo a trazer muito menos comida e água do que precisavam.
Uma caminhada de oito horas se transformou em uma operação de resgate noturna
Por volta das 3h da manhã de domingo, o grupo partiu para o topo da montanha. Os caminhantes foram aconselhados a voltar se ainda não alcançassem o cume ao meio-dia, mas o trio continuou, chegando ao cume por volta das 19h.
Algo deu errado na descida. Eles se perderam na escuridão e acabaram no Mud Creek Canyon, em vez de permanecer na rota de Clear Creek. Um dos caminhantes também machucou o joelho, forçando o grupo a passar a noite em uma vala de drenagem íngreme antes da chegada das equipes de resgate na manhã seguinte.
O Gabinete do Xerife aconselha os caminhantes a usar vários métodos de navegação, incluindo opções off-line, e recomenda ligar para o posto de guarda florestal local do Serviço Florestal dos EUA antes de tentar a escalada. Também alerta especificamente as pessoas contra confiar apenas na inteligência artificial para planejar viagens.
A IA pode fornecer conselhos, mas não pode substituir a experiência
Questões semelhantes surgem quando as pessoas recorrem à IA em busca de aconselhamento jurídico e médico. Informamos anteriormente que um advogado usou o ChatGPT para realizar pesquisas jurídicas, mas descobriu que os casos citados por ele não existiam. Ele até pediu ao ChatGPT para confirmar que eram reais, e o chatbot disse que sim. Um estudo testando ChatGPT, Gemini, Grok, Meta AI e DeepSeek também descobriu que cerca de metade de suas respostas a perguntas médicas eram falhas ou incompletas, e algumas continham referências fabricadas.
Os chatbots têm a sua utilidade, mas quando um erro pode colocar em risco a saúde, a segurança ou o sustento de alguém, não é suficiente obter respostas que pareçam razoáveis. O conselho de um profissional ou especialista experiente deve ser seguido primeiro. No mínimo, as informações geradas pela IA devem ser verificadas em fontes confiáveis antes que alguém tome medidas.
Até o próprio chatbot diz aos usuários para não acreditarem em tudo o que dizem. Gêmeos avisa: “Gêmeos é uma inteligência artificial e pode cometer erros”. Casos como este são um bom lembrete da razão pela qual este aviso existe.
