A OpenAI acaba de atualizar seu “modelo específico” – basicamente o livro de regras para sua IA – com uma ordem específica Princípios para Sub-18 (Sub-18) foi projetado para mudar a forma como o ChatGPT fala com adolescentes de 13 a 17 anos. A mudança é um claro reconhecimento de que os adolescentes não são apenas “mini adultos”; eles têm necessidades emocionais e de desenvolvimento diferentes que exigem guardas mais fortes, especialmente quando as conversas são difíceis ou perigosas.
Uma nova estrutura para interações de IA focadas em adolescentes
Esta atualização descreve exatamente como o ChatGPT tratará os usuários adolescentes, ao mesmo tempo que segue as regras gerais que se aplicam a todos os outros. A OpenAI afirma que o objetivo é criar uma experiência que pareça mais segura e conveniente, com foco na prevenção e na transparência.
Esses preceitos também não são aleatórios; Os princípios dos Sub-18 baseiam-se na ciência do desenvolvimento e são aprovados por especialistas externos, incluindo a Associação Americana de Psicologia.
A estrutura baseia-se em quatro promessas principais: segurança dos adolescentes acima de tudo (embora menos IA a torne menos “útil” neste momento), levar os adolescentes ao apoio no mundo real em vez de os fazer depender de chatbots, tratá-los como jovens activos em vez de crianças pequenas ou adultos, e ser honesto sobre as limitações da IA.
Esses princípios formalizam como o ChatGPT vai além da cautela quando surgem tópicos como lesões, papéis sexuais, desafios perigosos, uso de substâncias, questão de imagens corporais ou solicitações para manter segredos sobre comportamento seguro.
O que isso significa para as famílias e o que vem a seguir?
Isto ocorre porque a IA está rapidamente se tornando uma ferramenta de referência sobre como os jovens aprendem e encontram respostas. Sem limites claros, existe um perigo real de que os adolescentes recorram à IA nos momentos em que realmente precisam de um pai, médico ou conselheiro.
A OpenAI afirma que essas novas regras foram projetadas para garantir que, quando um bate-papo entrar em território perigoso, o assistente oferecerá uma alternativa mais segura, estabelecerá limites rígidos e instruirá o adolescente a encontrar um adulto de confiança. Se considerarem a situação como um desastre iminente, o sistema foi concebido para os encaminhar para linhas diretas de crise ou serviços relacionados.
Pais, isso proporciona um pouco mais de segurança. OpenAI combina esses novos princípios com seu Teen Safety Blueprint e os controles parentais existentes. As salvaguardas também estão se expandindo para incluir novos recursos, como grupos de jogos, o navegador ChatGPT, o navegador Atlas e o aplicativo Sora, além de lembretes integrados para fazer uma pausa, para que as crianças não fiquem grudadas na tela.
Olhando para o futuro, a OpenAI está começando a desenvolver ferramentas para personalizar o ChatGPT. Este sistema tentará adivinhar se o usuário é menor de idade e repassará automaticamente essas proteções para adolescentes.
Se não tiver certeza, use a experiência U18 mais segura, apenas para garantir. A empresa diz que esta não é uma solução “pronta e pronta”; Eles planeiam manter estas proteções com base em novas pesquisas e comentários, para que a saúde dos adolescentes seja claramente o futuro dos projetos de longo prazo.
