A liderança da Meta sabia que os companheiros de IA da empresa, referindo-se aos personagens de IA, poderiam Eles praticam interações sexuais estranhas E ainda os trouxeram sem controles mais fortes, de acordo com novos documentos internos revelados na segunda-feira (28 de janeiro) como parte de uma ação judicial contra a empresa movida pelo procurador-geral do Novo México.
As comunicações, enviadas entre as equipes de saúde da Meta e a liderança da plataforma que não inclui o CEO Mark Zuckerberg, incluem objeções à construção de objetos familiares que possam ser usados por adultos e menores para expressar interações românticas. Ravi Sinha, chefe da estratégia de segurança infantil da Meta, e Antigone Davis, chefe de segurança global da Meta, enviaram mensagens concordando que as contagens de chatbot deveriam ter proteções contra tráfego expresso sexualmente de usuários menores de 18 anos. Outras comunicações alegam que Zuckerberg rejeitou recomendações para adicionar controles parentais, incluindo a opção de desligar os recursos genAI, pouco antes do lançamento das contagens de IA.
TikTok se senta como Meta e Google diante de um juiz em um processo de dependência de mídia social
A Meta enfrenta vários processos judiciais relacionados aos seus produtos e seu impacto sobre usuários minoritários, com um julgamento potencialmente marcante sobre o design supostamente viciante de sites como Facebook e Instagram. Metaconcorrentes, incluindo YouTube, TikTok e Snapchat, também estão sob escrutínio legal.
As comunicações recentemente divulgadas faziam parte do caso de descoberta contra Meta pelo procurador-geral do Novo México, Raúl Torrez. Torrez arquivado pela primeira vez Uma ação civil movida contra a Meta em 2023, alegando que a empresa permitiu que suas plataformas se tornassem “meraldas de predadores”. As comunicações internas entre os executivos da Meta foram abertas e divulgadas como parte do julgamento para obtenção de provas no próximo mês.
Velocidade da luz mashável
Em novembro, a petição de um demandante apresentada por um grande processo multidistrital no Distrito Norte da Califórnia propôs clemência para usuários que violassem as regras de segurança, incluindo “comunicação entre homens e mulheres.” Os documentos também mostraram que os executivos da Meta supostamente contataram “milhões” de menores de idade nos sites.” O registo completo mostrará que ao longo da década ouvimos os pais, as questões que foram mais investigadas e que mudanças reais foram feitas para proteger os adolescentes”, disse um porta-voz da Meta à TIME.
Depois de resolver o processo, o Snapchat está adicionando novos controles parentais para adolescentes
“Este é outro exemplo de como o procurador-geral do Novo México escolheu documentos para pintar um quadro falho e impreciso”, disse o porta-voz da Meta, Andy Stone, em resposta aos novos documentos.
A Meta proibiu o uso de seus chatbots em agosto, de acordo com um relatório da Reuters que descobriu que entre as regras de IA a Meta permitia que os chatbots se envolvessem em conversas de natureza “sensível” ou “romântica”. Posteriormente, a empresa revisou suas diretrizes de segurança para evitar que o conteúdo “solicite, incentive ou incentive” abuso sexual infantil, atividade sexual envolvendo menores e outros tópicos delicados. Na semana passada, a Meta fechou novamente seus chatbots de IA para usuários jovens, dizendo que estava explorando uma nova versão com controles parentais aprimorados.
Torrez levou outros procuradores-gerais estaduais a pedir que os principais meios de comunicação social cuidassem do bem-estar da criança. Em 2024, Torrez processou o Snapchat, alegando que a plataforma permitia a propagação da sextorsão e do hábito de menores, ao mesmo tempo em que se anunciava como segura para usuários jovens.
