O Google remove as visões gerais de IA para algumas consultas médicas

seguindo investigação do Guardian que o Google AI Overviews oferece informações enganosas em resposta a algumas questões relacionadas à saúde, a empresa AI Overviews parece ter removido algumas dessas questões.

Por exemplo, o Guardian relatou inicialmente que quando os utilizadores perguntavam “qual é o exame de sangue do fígado mais importante”, eram-lhes apresentados um número que não levava em conta factores como raça, sexo, etnia, idade, levando ao potencial de pensar que os seus resultados eram saudáveis ​​quando não o eram.

Agora diz o Guardião As visões gerais de IA são remotas dos resultados de “qual é o intervalo normal para exames de sangue do fígado” e “qual é o intervalo normal para testes de função hepática”. No entanto, ele descobriu que variações nessas questões, como “referência de intervalo lft” ou “referência de teste lft”, ainda poderiam levar a resumos gerados por IA.

Quando tentei essas perguntas esta manhã – várias horas depois que o Guardian publicou sua história – nenhuma delas resultou em eu ver as visões gerais da IA, embora o Google ainda me desse a opção de fazer a mesma pergunta no modo AI. Em muitos casos, o artigo do Guardian tornou-se o principal argumento para remoção.

Um porta-voz do Google disse ao Guardian que a empresa não “comenta sobre remoções individuais na Pesquisa”, mas “faz amplas correções”. O porta-voz disse ainda que uma equipa interna de médicos analisou as investigações feitas pelo Guardian e que “em muitos casos, a informação não era imprecisa” e também foi apoiada por “sites de alta qualidade”.

O TechCrunch entrou em contato com o Google para comentários adicionais. No ano passado, a empresa anunciou novos recursos para melhorar a pesquisa no Google para casos de uso de saúde, incluindo melhores recomendações de IA e modelos de saúde.

Vanessa Hebditch, diretora de comunicações e estratégia do British Livor Trust, disse ao Guardian que a remoção foi uma “excelente notícia”, mas acrescentou que “nossa maior preocupação com tudo isso é que um problema é a leitura confiável da pesquisa, e o Google apenas desativou as visões gerais de IA para isso, mas não abordou as visões gerais de IA maiores por segurança”.