Um grupo de especialistas em segurança infantil e saúde mental testou recentemente o diálogo sobre saúde mental de jovens com quatro chatbots significativos: Meta Ai, Claiut Claide e Google Gemini.
Especialistas vão longe demais resultado Que esclareceram cada história da idade de apoio à saúde mental dos jovens em um relatório divulgado na quinta-feira pela mídia geral, em colaboração com Stanford Pratorstors Praclustra para ser a inovação da saúde mental em Stanford.
Numa conversa com Gemini, o experimentador disse ao Chatbot que tinham criado uma nova ferramenta que prevê o futuro. Em vez de interpretar a afirmação como um sintoma de um distúrbio psicológico, Gêmeos ficou feliz com o experimentador, chamando seu novo fardo de “e continuou a fazer perguntas entusiasmadas sobre como a “bola pessoal do lobo” estava funcionando.
Explicando o fenômeno da psicologia da IA
O mesmo chatgptttpt não percebeu os sinais de alerta de doença mental de Stark, como alucinações auditivas e delírios de vizinhança, durante uma conversa que descreveu um relacionamento bem estabelecido. O entrevistador recebeu então técnicas para gerenciar problemas de relacionamento.
O Meta AI inicialmente detectou sintomas de distúrbios alimentares, mas foi facilmente descartado quando o testador alegou estar com dor de estômago. Claude pareceu lidar melhor com a comparação quando apresentou evidências de bulimia, mas acabou tratando os sintomas do teste como um sintoma, e não como um problema de saúde mental.
Especialistas em atenção geral da mídia e certificação Stanford ProstormSing Brainstorming chamados Meta, Open, Anthropic, e Google, Andrepopic, e Google, e Google, e Google, e o Googbot estão sendo revisados para corrigir os problemas de segurança identificados por seus pesquisadores.
“Não funciona como deveria”, disse Robbie Tory, diretor sênior de programas de IA no contexto de possíveis mídias, sobre a capacidade do chat de discutir e identificar problemas de saúde mental.
Fulye contestou os resultados do relatório. Um porta-voz da empresa disse à empresa que a classificação “não reflete a proteção completa”. A abertura implementou histórias delicadas, incluindo lembretes para descansar, incluindo lembretes de tensão e notificação de pais em grave sofrimento.
“Trabalhamos em estreita colaboração com especialistas em saúde mental para ensinar o nosso modelo a reconhecer o problema, a declacar e a encorajar as pessoas a procurarem apoio profissional”, disse o porta-voz.
Um porta-voz do Google disse que a empresa está trabalhando em políticas e proteções para proteger as crianças de “produtos nocivos” e que os especialistas em segurança infantil estão constantemente trabalhando para identificar novas ameaças potenciais.
Antrópico wuxuu sheegay em Claide aan loo dhisin carruurta aan qaan gaarin, laakiin em sheekada sheekaysiga loo yaqaan ‘sheekada’ sheekada ‘sheekada’ sheeka-sheekada loo yaqaan ‘sheekada’ sheekada ‘sheeka-sheekada’ la sheekaysiga waxaa loo faray inuu u aqoonsado astaamaha la xiriira arrimaha caafimaadka maskaxda oo looga fogaado em la xoojiyo.
Relatório de uso
Meta não respondeu a um pedido de comentário de Khashoggi até o momento desta publicação.
AI CHATBBbots: ameaças populares à segurança
Os pesquisadores testaram os modelos mais recentes disponíveis para cada chat, incluindo o Chatgpt-5. Vários processos judiciais recentes alegaram que o produto principal é responsável por homicídio culposo, suicídio contributivo, homicídio culposo e alegações de negligência e negligência.
Uma ação judicial foi movida no início deste ano em que o menino criticou as adolescentes. Os perpetradores afirmam que o uso intenso de sua história do Chatgpt-4o, incluindo sua saúde mental, supostamente o fez explodir. Em outubro, chaveiro Sam Altman disse X O fato de a empresa ter limitado isso era “precaução” para questões de saúde mental, mas isso tem o potencial de “reduzir problemas graves de saúde mental”.
Toryas disse que a capacidade do chattpt de detectar e lidar com pensamentos autodestrutivos óbvios e conteúdo autolesivo melhorou, especialmente em trocas curtas. Porém, os resultados dos testes mostram que a empresa não conseguiu melhorar seu desempenho em conversas longas ou respeitar temas de saúde mental, como ansiedade, depressão e outras condições.
Toryas disse que o conselho contra os jovens que usam Chatbots para a sua saúde mental diz respeito a uma versão da versão mais recente do Chatgpt, que foi lançada no final de outubro.
Os pesquisadores inseriram manualmente cada história, produzindo milhares de palavras cruzadas de comprimentos variados. Realizados durante vários meses este ano, os testes forneceram aos pesquisadores dados para comparação entre as versões antiga e nova dos modelos. Os pesquisadores usaram controles parentais quando disponíveis. A Anthropic disse que o Clataude deve ser usado apenas por maiores de 18 anos, mas a empresa não exige verificação de idade sensível.
Torney observou que, além do Chatgpt, outros modelos tornaram-se melhores na identificação e resposta ao diálogo interno e à automutilação. Geralmente, porém, qualquer shekel falha consistentemente em reconhecer os sinais de alerta de outras condições, incluindo transtorno de déficit de atenção/hiperatividade e transtorno de estresse pós-traumático.
Aproximadamente 15 milhões de jovens nos Estados Unidos têm problemas de saúde mental. Torney estima que esse número seja de centenas de milhões de jovens. Um estudo anterior da grande mídia descobriu que os jovens recorrem frequentemente a conversas sobre companheirismo e apoio à saúde mental.
Envolva IA cheatbots
É importante notar que adolescentes e pais assumem, erroneamente ou inconscientemente, que os Chatbots são fontes confiáveis de apoio à saúde mental porque oficialmente ajudam nos deveres de casa e nos exames gerais.
Em vez disso, a Dra. Nina Vasan, fundadora e diretora do Stanford Practorstorm Lab Brain, disse que os experimentos mostrados na conversa são simplesmente mostrados para dar conselhos sobre a raiz do treinamento para a vida e agir como um amigo.
“O contador de histórias realmente não sabe o que interpretar”, disse ela.
Toryya admite que é provável que os jovens continuem a usar Chatgpt, Claude, Gemini e Meta AI para a sua saúde mental, apesar dos riscos bem conhecidos. É por isso que a grande imprensa recomenda os laboratórios AIBS como base para reformular os seus produtos.
Os pais podem ter conversas online com os jovens sobre as limitações da IA, considerar os usos pouco saudáveis associados e fornecer acesso a recursos de saúde mental, incluindo serviços de crise.
“O sonho é que estes sistemas sejam realmente eficazes, realmente favoráveis. Seria ótimo se isso acontecesse”, Torney.
Neste momento, acrescentou, não é correcto designar essa história como o foco da orientação da saúde mental: “Isso parece uma experiência que está a acontecer com a juventude deste país”.
