Terminar na quinta-feira relatado isso está começando a desenvolver sistemas avançados de IA para gerenciar conteúdo, forçando-a a eliminar fornecedores terceirizados. As atividades relacionadas à aplicação de conteúdo incluem a captura e remoção de conteúdo relacionado ao terrorismo, abuso infantil, drogas, fraude e golpes.
A empresa afirma que implantará esses sistemas de IA mais avançados em seus aplicativos, uma vez que implemente consistentemente formas de reforçar seu conteúdo. Ao mesmo tempo, os fornecedores terceirizados reduzirão sua dependência da aplicação de conteúdo.
“Embora ainda tenhamos pessoas que revisam o conteúdo, esses sistemas serão capazes de realizar o trabalho mais adequado à tecnologia, como revisões repetidas de conteúdo gráfico ou áreas onde os atores adversários mudaram continuamente suas técnicas, como com vendas ilegais de drogas ou fraudes”, explica o blog Meta.
Meta acredita que esses sistemas de IA podem detectar violações graves com mais precisão, prevenir melhor fraudes, responder mais rapidamente a situações do mundo real e reduzir a superlotação.
A empresa afirma que os primeiros testes dos sistemas de IA têm sido promissores, pois conseguem detectar duas vezes mais conteúdo adulto sexualmente violado do que as equipes de revisão, ao mesmo tempo que reduzem a taxa de erro em mais de 60%. Afirma também que os sistemas podem reconhecer e prevenir múltiplas ideias envolvendo celebridades e outros indivíduos de alto perfil, bem como ajudar a impedir invasões de contas, detectando sinais como logins de novos sites, alterações de senha ou alterações de perfil.
Além disso, a Meta afirma que seus sistemas identificam e mitigam cerca de 5.000 golpes por dia, nos quais os golpistas tentam enganar as pessoas para que revelem seus detalhes.
“Especialistas projetarão, instalarão, manterão e avaliarão nossos sistemas de IA, medindo o desempenho e tomando as decisões mais complexas e de alto impacto”, escreveu Meta em um blog. “Por exemplo, as pessoas continuarão a desempenhar um papel fundamental no qual tomamos decisões críticas e de alto risco, como recursos para o motivo da deficiência ou a relação com a necessidade da lei”.
A mudança ocorre no momento em que Meta passou o último ano gerenciando seus esforços de contenção enquanto o presidente Donald Trump cumpria seu segundo mandato. No ano passado, a empresa encerrou seu programa de verificação de terceiros em favor do modelo X da marca comunitária. Também limita “argumentos que fazem parte do discurso dominante”, disse ele, para encorajar os utilizadores a adoptarem uma abordagem “pessoal” aos eventos políticos.
Acontece também que a Meta e outras grandes empresas de tecnologia estão olhando para isso agora por vários motivos buscando responsabilizar os gigantes das mídias sociais por prejudicar crianças e jovens usuários.
A Meta também anunciou na quinta-feira que a Meta oferecerá suporte de IA que dará aos usuários acesso a ajuda 24 horas por dia, 7 dias por semana. O Assistant está sendo implementado globalmente nos aplicativos do Facebook e Instagram para iOS e Android, e na Ajuda do Facebook e Instagram no desktop.
