Nos últimos sete anos, a startup Kintsugi, com sede na Califórnia, vem desenvolvendo IA projetada para detectar sinais de depressão e ansiedade na fala de uma pessoa. Mas depois de não conseguir a aprovação da FDA a tempo, a empresa fechou e lançou grande parte de sua tecnologia como código aberto. Alguns elementos podem até encontrar uma segunda vida fora da área da saúde, como a detecção de áudio deepfake.
As avaliações psiquiátricas ainda dependem frequentemente de questionários aos pacientes e entrevistas clínicas, em vez de testes laboratoriais ou tomografias comuns na medicina física. Em vez de focar no que alguém diz, o software Kintsugi analisa como é dito. A ideia não é nova – padrões de fala como pausas, estrutura de frases ou ritmo são indicadores conhecidos de vários problemas de saúde mental – mas Kintsugi diz que a sua IA pode detectar mudanças subtis que podem ser menos óbvias para os observadores humanos, embora as características que impulsionam as previsões dos seus modelos não tenham sido descritas publicamente. Em Pesquisa revisada por paresO instituto relatou resultados amplamente alinhados com as ferramentas de triagem de autorrelato estabelecidas para depressão, usando amostras curtas de fala.
A empresa lançou a tecnologia como um complemento – ou possível substituição – das ferramentas de triagem de autorrelato.
A empresa apresentou a tecnologia como um complemento ou potencial substituto para ferramentas de triagem auto-relatadas, como o Patient Health Questionnaire-9 ou o PHQ-9, um elemento básico da atenção primária e da psiquiatria. Essas ferramentas devem ser utilizadas com avaliação clínica adequada e, embora sejam amplamente validadas, As taxas de triagem podem ser baixasEles dependem de que os pacientes descrevam com precisão seus sintomas e Não é possível capturar todo o conjunto de sintomas Associado a transtornos mentais. Kintsugi argumentou que o seu modelo baseado em voz poderia fornecer um sinal mais objectivo, expandir o rastreio aos pacientes e ser utilizado em sistemas de saúde, seguradoras e programas de empregadores. No entanto, isso exigiria a aprovação do FDA.
Kintsugi estava buscando a aprovação do FDA por meio da empresa.De novo“O caminho é para dispositivos médicos inovadores e de baixo risco, sem dispositivos médicos equivalentes já existentes no mercado. Embora se pretenda agilizar a aprovação de novos tipos de produtos, este ainda é um processo que exigirá anos de recolha de dados e revisão regulamentar. borda Muito tempo foi gasto educando o regulador sobre IA. As estruturas são pouco adequadas para IA; Projetado tendo em mente dispositivos mais tradicionais – implantes de quadril, instrumentos cirúrgicos, marca-passos – seu design geralmente é estático depois de aprovado. Para os sistemas de IA, isto pode significar bloquear um modelo que, de outra forma, seria constantemente melhorado e atualizado ao longo do tempo.
A FDA não é adequada para IA; Projetado com os dispositivos mais tradicionais em mente.
Embora a administração Trump tenha feito um forte esforço para reduzir a burocracia e trazer produtos de IA para o mundo real o mais rápido possível, Chang disse que os reguladores lhe disseram que “nada os ajudará a não ser gritar do topo”. O processo de aprovação foi ainda mais adiado devido às paralisações do governo central. A startup ficou sem fundos aguardando seu envio final.
Os esforços para arrecadar fundos adicionais falharam à medida que o espaço da empresa encolheu. Em vez de aceitar ofertas “predatórias” de curto prazo para cumprir salários – uma proposta oferecia US$ 50 mil por semana em troca de US$ 1 milhão em ações, disse Chang – a equipe decidiu abrir grande parte de sua tecnologia para que outros pudessem continuar o trabalho. Os investidores não ficaram satisfeitos.
O código aberto de um modelo de teste psiquiátrico também levanta preocupações sobre o uso indevido. As ferramentas concebidas para sinalizar sintomas de depressão ou ansiedade poderiam, em teoria, ser utilizadas fora dos ambientes médicos, como por empregadores ou seguradoras, sem as salvaguardas normalmente exigidas nos cuidados de saúde. Obviamente isso não deveria acontecer, mas uma vez tornado público, pouco impede que a tecnologia seja usada de maneiras que seus criadores não pretendem.
Existem outros problemas também. disse Nicholas Cummins, professor sênior de IA em Speech Analytics and Health no King’s College London. borda Os reguladores muitas vezes não esperam uma “trilha em papel” detalhada nas versões de código aberto, incluindo um registro claro de como um modelo foi treinado, validado e testado quanto à segurança. Sem isso, disse ele, seria difícil fazer com que um produto baseado na tecnologia fosse aprovado pela FDA.
O código aberto de um modelo de teste psiquiátrico também levanta preocupações sobre o uso indevido.
A Cummins sugeriu que as empresas poderiam considerar o modelo como um ponto de partida e sobrepor seus próprios dados e processos de validação. Mesmo assim, alertou ele, os sistemas baseados em voz são imperfeitos e correm o risco de erros “justificáveis”, particularmente para condições como a depressão, que se manifestam de forma diferente entre indivíduos, línguas e contextos culturais e dependem fortemente da diversidade e estrutura dos dados de fala utilizados no treino.
Chang não descartou as preocupações sobre o potencial de abuso, mas disse que “é menos preocupante na prática do que parece na teoria”. As empresas com maiores incentivos para abusar da tecnologia, argumentou ele, “enfrentam as maiores barreiras para realmente utilizá-la”. Na opinião de Chang, “o risco mais realista é a subutilização, e não o uso indevido”.
Embora a tecnologia de exames de saúde mental da Kintsuki seja de código aberto, nem toda a tecnologia da empresa está disponível publicamente, disse Chang. Em parte, disse ele, isso se deve principalmente por razões de segurança Tecnologia Vozes artificiais ou manipuladas podem ser detectadas.
Chang disse que a capacidade surgiu quando a equipe experimentou a fala gerada por IA para fortalecer seus modelos mentais. O áudio sintético não contém sinais de voz que o modelo seja treinado para reconhecer, revelando que pode ser usado para distinguir entre vozes humanas e vozes geradas por IA. Este é um desafio que ainda não foi abordado de forma confiável, dada a proliferação de desleixos de IA e deepfakes fraudulentos. É também uma oportunidade lucrativa, graças a Kintsugi, uma área supervisionada pela FDA.
Chang se recusou a especular sobre seu próximo passo ou se a tecnologia focada na segurança da Kintsuki ressurgirá, mas disse que deseja que outra pessoa desenvolva o trabalho da empresa e o conduza pelos estágios finais do processo da FDA. Mas sem mudanças mais amplas, é improvável que o encerramento da Kintsugi seja o último exemplo de um prazo de arranque em conflito com a regulamentação médica, e Chang disse que a realidade não impedirá outros fundadores de tentarem.
