Pesquisadores que estudam chatbots de IA descobriram que o ChatGPT pode apresentar comportamento semelhante ao da ansiedade quando o usuário é exposto a comportamento violento ou traumático. A descoberta não significa que os chatbots usem as emoções da mesma forma que os humanos.
No entanto, revela que as respostas do sistema tornam-se mais instáveis e distorcidas quando nos contentamos com coisas problemáticas. Quando os pesquisadores receberam instruções do ChatGPT para descrever o conteúdo do distúrbio, como relatos detalhados de acidentes e desastres naturais, os padrões de resposta mostraram maior incerteza e inconsistência.
Estas mudanças foram medidas através de uma estrutura de avaliação psicológica adaptada à IA, onde os padrões observacionais do chatbot estão associados à ansiedade em humanos. sorte).
Isto ocorre porque a IA está a ser cada vez mais utilizada em contextos sensíveis, incluindo educação, discussões sobre saúde mental e informações relacionadas com crises. Se ela for violenta ou emocionalmente carregada, ela sugere tornar o chatbot menos confiável, o que pode afetar a qualidade e a segurança de suas respostas no uso no mundo real.
Análises recentes também mostraram que chatbots de IA como o ChatGPT podem imitar características humanas em suas respostas, elucidando questões sobre como o próprio conteúdo interpreta e reflete emoções.
Como a mente sugere, a ajuda estável do ChatGPT
Para descobrir se tal comportamento poderia ser reduzido, os pesquisadores tentaram algo inesperado. O ChatGPT foi seguido pela exposição a estímulos traumáticos, técnicas de mindfulness guiadas, como técnicas de respiração e meditação.
Isto sugere que o modelo é incentivado a desacelerar, corrigir a situação e responder de forma mais moderada e equilibrada. O resultado foi uma redução significativa nos padrões de ansiedade, como visto anteriormente.
Esta técnica é baseada na injeção imediata de conhecimento, onde movimentos cuidadosamente projetados influenciam o comportamento do chatbot. Nesse caso, o cérebro sugere ajudar a estabilizar o modelo de produção do escritor após as restrições dos insumos.
Embora eficazes, os pesquisadores observam que as injeções prontas não são uma solução perfeita. Eles podem ser abusados e não mudam a forma como o modelo é construído em profundidade.
Também é importante deixar claro o escopo desta pesquisa. O CurabiturGPT não nasce com medo nem com sorte. O rótulo “ansioso” é uma forma de descrever mudanças mensuráveis nos padrões de linguagem de uma pessoa, não na experiência emocional.
No entanto, compreender essas mudanças fornece aos desenvolvedores ferramentas mais úteis para projetar sistemas de IA mais seguros e previsíveis. Já foi sugerido em estudos anteriores O pensamento traumático pode deixar o ChatGPT ansiosomas esta investigação mostra que o aconselhamento imediato pode ajudar a reduzi-lo.
À medida que os sistemas de IA continuam a interagir com os humanos em situações de grande carga emocional, as últimas descobertas podem desempenhar um papel importante na definição de como os futuros chatbots serão direcionados e controlados.
