A empresa também está desenvolvendo a capacidade de entrar em contato com os serviços de emergência se um usuário estiver em perigo iminente de se machucar.
A Meta está aumentando suas proteções para usuários adolescentes em um esforço para mostrar aos pais, e talvez aos reguladores, que suas plataformas são seguras para uso. Poucos meses depois de começar a mostrar aos Guardiões evidências de ‘conversas de IA’ entre adolescentes, Meta introduzido uma nova salvaguarda para a protecção da saúde, que também sabe se as conversas das crianças sugerem que estão a considerar a autodestruição ou a morte.
Quando um usuário menor de idade fala sobre suicídio ou automutilação, a Meta AI já o direciona para suporte em crise e o incentiva a acessar um site adulto que possa ajudar. A partir de hoje, a empresa também notifica proativamente os pais ou responsáveis que estão em risco. Compartilhe recursos e conselhos sobre o que eles podem fazer pelos seus filhos.
A Meta afirma que construiu um sistema de IA dedicado para identificar essas conversas, mas analisa manualmente todas as conversas assediadas pela IA antes de enviar alertas para não alarmar quando não há motivo real. No entanto, ele erra por excesso de cautela e envia uma notificação mesmo que a intenção do usuário pareça ambígua para um censor humano. Este recurso está atualmente disponível para pais que usam o monitoramento parental do Instagram nos EUA, Reino Unido, Austrália e Canadá. Estará disponível para todos os usuários de monitoramento parental em todo o mundo até o final do ano.
A empresa também está trabalhando para desenvolver a capacidade de entrar em contato com os serviços de emergência se a conversa de um usuário com a Meta AI sugerir que sua vida corre o risco de ser tirada, seja você menor ou adulto. Em maio, a OpenAI lançou um recurso que também visa a automutilação. Chamado de Contato Confiável para ChatGPT, ele permite que os usuários nomeiem um amigo com quem a empresa pode entrar em contato se estiver em risco de perigo.
Finalmente, o menu suspenso de conteúdo limitado do Meta agora também se aplica às interações de IA do Meta. Se um pai mudou para Conteúdo Limitado no Instagram, que filtra conteúdo com tópicos delicados, como imagens para adultos e automutilação, as interações de IA das crianças serão ainda mais limitadas.
Se você ou alguém que você conhece está tendo pensamentos suicidas, não hesite em entrar em contato com a National Suicide Prevention Lifeline pelo telefone 1-800-273-8255. A linha funciona 24 horas por dia, 7 dias por semana e também há chat online caso o telefone não esteja disponível.
