Meta aborda algumas das questões mais urgentes sobre como permitir que usuários de sua idade interajam com chatbots com tecnologia de IA. Recentemente, comunicações internas obtidas pela Procuradoria-Geral do Novo México revelaram que, embora o CEO da Meta, Mark Zuckerberg, fosse contra conversas com menores que fossem “explicadas”, ele também rejeitou a ideia de impedir os pais de usar o recurso.
Reuters anunciado que em uma troca entre dois funcionários não identificados da Meta, um deles escreveu que estávamos “pressionando fortemente para que o controle dos pais quebrasse a GenAI – mas a liderança da GenAI foi adiada pelo que Mark disse”. Em sua declaração à publicação, Meta acusou o procurador-geral do Novo México de “escolher documentos para pintar um quadro falho e impreciso”. O Novo México está processando a Meta sob a acusação de que a empresa “não entregou material sexual questionável e propostas sexuais a crianças”. O caso está marcado para julgamento em fevereiro.
Embora só estejam disponíveis há um curto período de tempo, os Objetivos Escolares já acumularam um histórico de comportamento que é inaceitável, se não totalmente ilegal. Em abril de 2015, O Wall Street Journal divulgou uma pesquisa que descobriu que os chatbots da Meta poderiam se envolver em fantasias sexuais com conversas menores, ou ser direcionados a menores e se envolver em interação sexual. O relatório afirmou que Zuckerberg queria proteções mais flexíveis contra a Lei Mets, mas um porta-voz negou que a empresa tenha negligenciado as proteções para crianças e adolescentes.
Documentos internos revisados em agosto de 2025 revelaram uma variedade de condições hipotéticas sob as quais o comportamento do chatbot seria permitido, e os limites entre sensual e sexual pareciam bastante confusos. O documento também permitiu discutir os aspectos racistas do desastre. Na época, um representante do Engadget disse que os sites ofensivos eram mais hipotéticos do que reais, o que não parece melhorar muito, e eles foram removidos do documento.
Apesar de vários questionamentos sobre o uso de chatbots, Meta decidiu suspender o acesso de contas de adolescentes a eles na semana passada. A empresa disse que removeu temporariamente o acesso enquanto investiga os controles parentais que Zuckerberg supostamente se recusou a usar.
“Os pais há muito tempo conseguem ver se seus filhos adolescentes estão conversando com IAs no Instagram e, em outubro, anunciamos nossos planos para ir ainda mais longe, construindo novas ferramentas para dar aos pais mais controle sobre as experiências de seus filhos adolescentes com personagens de IA”, disse um representante da Meta. “Na semana passada, reafirmamos nosso compromisso de cumprir a promessa de nossos pais em relação à IA, suspendendo completamente o acesso dos adolescentes aos personagens de IA até que uma versão atualizada esteja pronta.”
O Novo México entrou com esta ação contra a Meta em dezembro de 2023, alegando que as plataformas da empresa não protegem os menores do assédio adulto. Documentos internos revelados no início da denúncia revelaram que 100 mil crianças usuárias eram assediadas nos serviços da Meta todos os dias.
Atualização, 27 de janeiro de 2025, 18h52 ET: Adicionada uma citação de um meta-porta-voz.
Atualização, 27 de janeiro de 2025, 18h15 ET: Corrigido um erro de cálculo do momento da ação judicial do Novo México, que foi ajuizada em dezembro de 2023, e não em dezembro de 2024.
