- Os sistemas de inteligência artificial usados para diagnosticar o câncer a partir de lâminas patológicas não funcionam da mesma forma para todos os pacientes, com precisão variando entre os dados demográficos, mostra uma nova pesquisa.
- Os pesquisadores identificaram três causas principais desse viés e criaram uma nova abordagem que reduziu significativamente essas diferenças.
- As descobertas destacam por que a IA médica precisa ser avaliada regularmente quanto a preconceitos para ajudar a garantir cuidados oncológicos justos e confiáveis para todos.
Patologia e noções básicas de diagnóstico de câncer
Durante décadas, a patologia tem sido fundamental na forma como os médicos diagnosticam e tratam o câncer. Um patologista examina uma seção extremamente fina de tecido humano ao microscópio, procurando sinais visuais que indiquem se o câncer está presente e, em caso afirmativo, que tipo e estágio atingiu.
Para um profissional treinado, examinar uma amostra rosada e enrolada de tecido repleto de células roxas é como avaliar um teste sem nome – a lâmina contém informações importantes sobre a doença, mas não oferece pistas sobre quem é o paciente.
Quando a inteligência artificial vê mais do que o esperado
Esta suposição não se aplica totalmente aos sistemas de inteligência artificial que atualmente entram nos laboratórios de patologia. Um novo estudo liderado por pesquisadores da Harvard Medical School mostra que modelos de patologia de inteligência artificial podem inferir detalhes demográficos diretamente de lâminas de tecidos. Esta capacidade inesperada pode introduzir viés no diagnóstico do câncer em diferentes populações de pacientes.
Depois de avaliar vários modelos de inteligência artificial amplamente utilizados, concebidos para identificar o cancro, os investigadores descobriram que estes sistemas não funcionam da mesma forma para todos os pacientes. A precisão do diagnóstico variou de acordo com raça, sexo e idade relatados pelo paciente. A equipe também identificou vários motivos pelos quais essas diferenças ocorrem.
Para resolver esse problema, os pesquisadores desenvolveram um framework denominado FAIR-Path, que reduziu significativamente o viés nos modelos testados.
“Ler dados demográficos de um slide de patologia é considerado uma ‘missão impossível’ para um patologista humano, então o preconceito da IA da patologia foi uma surpresa para nós”, disse o autor sênior Kun-Xin Yu, professor assistente de informática biomédica no Instituto HMS Blavatnik e professor assistente de patologia do HMS no Brigham and Women’s Hospital.
Yu enfatizou que reconhecer e corrigir preconceitos na IA médica é fundamental, pois pode afetar diretamente a precisão do diagnóstico e os resultados dos pacientes. O sucesso do FAIR-Path sugere que melhorar a justiça da IA na patologia do cancro, e talvez outras ferramentas médicas de IA, não exigirá grandes mudanças nos sistemas existentes.
O trabalho, que foi apoiado em parte por financiamento federal, foi descrito em 16 de dezembro na Cell Reports Medicine.
Teste de câncer de IA
Yu e seus colegas examinaram o viés em quatro modelos de patologia de inteligência artificial comumente usados, atualmente em desenvolvimento para diagnóstico de câncer. Esses sistemas de aprendizagem profunda foram treinados em grandes coleções de lâminas patológicas rotuladas, permitindo-lhes aprender padrões biológicos e aplicar esse conhecimento a novas amostras.
A equipe avaliou os modelos usando um grande conjunto de dados que inclui lâminas patológicas de 20 tipos diferentes de câncer.
Lacunas de desempenho surgiram consistentemente em todos os quatro modelos. Os sistemas de IA eram menos precisos para determinados grupos demográficos definidos por raça, sexo e idade. Por exemplo, os modelos tiveram dificuldade em distinguir entre os subtipos de cancro do pulmão em pacientes afro-americanos e em pacientes do sexo masculino. Eles também mostraram precisão reduzida na classificação dos subtipos de câncer de mama em pacientes mais jovens. Além disso, os modelos tiveram dificuldade em detectar cancros da mama, rim, tiróide e estômago em alguns grupos demográficos. No geral, estas diferenças apareceram em aproximadamente 29 por cento das tarefas de diagnóstico analisadas.
De acordo com Yu, esses erros ocorrem porque os sistemas de IA extraem informações demográficas de imagens de tecidos e depois dependem de padrões associados a esses dados demográficos para tomar decisões diagnósticas.
As descobertas foram inesperadas. “Porque esperamos que a avaliação patológica seja objetiva”, disse Yu. “Ao avaliar imagens, não precisamos necessariamente conhecer os dados demográficos do paciente para fazer um diagnóstico”.
Isto levou os investigadores a fazerem uma pergunta chave: Porque é que a IA patológica não conseguiu cumprir o padrão de objectividade?
Por que o preconceito aparece na patologia da IA
A equipe identificou três principais contribuintes para o preconceito.
Primeiro, os dados de treinamento costumam ser desiguais. Amostras de tecidos de alguns grupos demográficos são mais fáceis de obter do que outros, resultando em conjuntos de dados desequilibrados. Isto torna difícil para os modelos de IA diagnosticarem com precisão o cancro em grupos sub-representados, incluindo algumas populações definidas por raça, idade ou género.
No entanto, Yu observou que “o problema acabou sendo muito mais profundo”. Em alguns casos, os modelos tiveram um desempenho pior para determinados grupos demográficos, mesmo quando os tamanhos das amostras eram os mesmos.
Análises posteriores mostraram diferenças na incidência. Certos cancros são mais comuns em determinadas populações, permitindo que os modelos de IA se tornem particularmente precisos para esses grupos. Como resultado, os mesmos modelos podem ter dificuldade em diagnosticar o cancro em populações onde a doença é menos comum.
Os pesquisadores também descobriram que os modelos de IA podem detectar diferenças moleculares sutis entre grupos demográficos. Por exemplo, os sistemas podem identificar mutações em genes causadores de cancro e utilizá-las como atalhos para classificar o tipo de cancro – o que pode reduzir a precisão em populações onde essas mutações são menos comuns.
“Descobrimos que, por ser tão poderosa, a inteligência artificial pode diferenciar muitos sinais biológicos obscuros que não podem ser detectados pela avaliação humana padrão”, disse Yu.
Com o tempo, isto poderá fazer com que os modelos de IA se concentrem em sinais mais relacionados com a demografia do que com a própria doença, enfraquecendo a eficácia do diagnóstico em diferentes populações de pacientes.
Tomadas em conjunto, disse Yu, essas descobertas mostram que o viés na IA patológica é influenciado não apenas pela qualidade e equilíbrio dos dados de treinamento, mas também pela forma como os modelos são treinados para interpretar o que veem.
Uma nova abordagem para redução de preconceito
Tendo identificado as fontes de preconceito, os pesquisadores decidiram corrigi-las.
Eles desenvolveram o FAIR-Path, uma estrutura baseada em um método de aprendizado de máquina existente conhecido como aprendizado por contraste. Esta abordagem modifica o treino de IA para que os modelos se concentrem mais em diferenças importantes, tais como diferenças entre tipos de cancro, ao mesmo tempo que reduz a atenção a diferenças menos importantes, incluindo características demográficas.
Quando o FAIR-Path foi aplicado aos modelos testados, as diferenças diagnósticas foram reduzidas em aproximadamente 88 por cento.
“Mostramos que, ao fazer este pequeno ajuste, os modelos podem aprender características robustas que os tornam mais generalizáveis e mais justos para diferentes populações”, disse Yu.
O resultado é encorajador, acrescentou ele, porque mostra que é possível uma redução significativa do viés mesmo sem conjuntos de dados de treinamento perfeitamente equilibrados ou totalmente representativos.
Olhando para o futuro, Yu e a sua equipa estão a colaborar com instituições de todo o mundo para investigar os preconceitos patológicos da IA em regiões com diferentes dados demográficos, práticas clínicas e ambientes laboratoriais. Eles também exploram como o FAIR-Path pode ser adaptado a situações com dados limitados. Outra área de interesse é compreender como o preconceito impulsionado pela IA contribui para disparidades mais amplas nos cuidados de saúde e nos resultados dos pacientes.
Em última análise, disse Yu, o objetivo é desenvolver sistemas patológicos de IA que apoiem especialistas humanos, fornecendo diagnósticos rápidos, precisos e justos a todos os pacientes.
“Acho que há esperança de que, se formos mais experientes e cuidadosos sobre como projetamos sistemas de IA, possamos criar modelos que funcionem bem em qualquer população”, disse ele.
Atribuição, financiamento, divulgação
Autores adicionais do estudo: Shi-Yen Lin, Pei-Cheng Tsai, Fang-Yi Su, Chun-Yen Chen, Fucheng Li, Junhang Zhao, Yuk Yong Ho, Tsun-Lu Michael Lee, Elizabeth Healy, Po-Jen Lin, Ting-Wang Kao, Dmitry Vremenko, Thomas Ratzer-Peyrimovsky, Lynette Scholl, Deborah Dillon, Nancy W. Lin, David Meredith, Keith L. Ligon, Ying-Chun Lo, Nippon Chaisuria, David J. Cook, Adelheid Wörer, Jeffrey Meyerhardt, Shuji Aguina, McLean P. Nasrallah, Jeffrey A. Golden, Sabina Signaretti e Yung-Hsien Chan.
O financiamento foi fornecido pelo Instituto Nacional de Ciências Médicas Gerais e pelo Instituto Nacional do Coração, Pulmão e Sangue dos Institutos Nacionais de Saúde (Subsídios R35GM142879, R01HL174679), o Departamento de Defesa (Prêmio de Desenvolvimento de Carreira do Programa de Pesquisa do Câncer Revisado HT9425-231-0523), a American Cancer Society (Research Grant RSG-24-1253761-01-ESED), Google Research Prêmio Acadêmico, Prêmio Reitor de Inovação da Harvard Medical School, Conselho Nacional de Ciência e Tecnologia de Taiwan (NSTC Grants 113-2917-I-006-009, 112-2634-F-006-003, 113-2321-B-006-023, 114-2917-I-006-016) e uma bolsa de pós-doutorado do Xin Fundação de Educação Miao.
Ligon foi consultor da Travera, Bristol Myers Squibb, Servier, IntegraGen, LEK Consulting e Blaze Bioscience; capital recebido da Travera; e conta com financiamento de pesquisa da Bristol Myers Squibb e Lilly. Vremenko é cofundador e acionista da Vectorly.
Os autores redigiram o manuscrito inicial e usaram o ChatGPT para editar seções selecionadas para melhorar a legibilidade. Após utilizar esta ferramenta, os autores revisaram e editaram o conteúdo conforme necessário e são totalmente responsáveis pelo conteúdo do artigo publicado.
