O Pinterest ainda está cheio de preconceitos de IA e moderação de conteúdo ruim, de acordo com o relatório

O Pinterest ainda tem um problema de falha de IA. e um nó de controle de conteúdo de IA. E se a IA está em dúvida.

Pelo menos, é isso que os usuários relatam em meio ao compromisso contínuo desta empresa em transformar uma plataforma de cuidados visuais em um site de mídia social. No relatório de 404 MídiaOs usuários relataram que a publicação do sistema automatizado de controle de conteúdo “Pinterest”, incluindo um sistema que rotula “alterado pela IA”, tem sinalizado consistentemente imagens feitas por pessoas, especialmente aquelas com mulheres, enquanto a própria IA está apenas aumentando.

Além disso, os usuários dizem que as ferramentas geradas por IA do site restringem o conteúdo dos feeds, não conseguem impedir que imagens de IA apareçam nos perfis dos usuários e os administradores de contas com tecnologia de IA ainda bloqueiam contas com pouca ou nenhuma explicação.

“Publicamos diretrizes de manifesto sobre exposição e conteúdo sexual adulto e usamos uma combinação de IA e revisão humana para aplicá-lo. Temos um processo de apelação no qual um humano analisa o conteúdo e o edita quando estamos errados”, disse o Pinterest em comunicado à 404 Media.

Esse novo recurso não é baseado em IA para muitas plataformas de mídia social, mas é especialmente doloroso para os usuários da plataforma que buscam manter a mesma experiência do Pinterest. Durante anos, a plataforma foi atacada menos controle sobre imagens geradas por IAvídeos e anúncios, caso não promovam sua existência no site Wolf.

Em março de 2025, a empresa atualizou sua política de privacidade para esclarecer sua política de inserir pins públicos dos usuários em seus modelos de aprendizado de máquina, incluindo um exercício de treinamento para o modelo baseado em IA do Pinterest, o Pinterest Canvas. O Pinterest enfrentou novas críticas em maio, quando os usuários, já reclamando dos algoritmos de conteúdo de IA que estavam arruinando a experiência do aplicativo, relataram que a plataforma havia emitido uma petição que muitos suspeitavam ser o resultado de um sistema falho de moderação de conteúdo de IA.

Para resolver a controvérsia contínua sobre IA, o Pinterest adicionou ferramentas em outubro para remover tipos específicos de conteúdo de IA das recomendações, embora a empresa tenha esclarecido na época que não eliminaria completamente o problema.

Então, no mês passado, a empresa, que emprega centenas de pessoas em outro spin-off de IA, anunciou em um documento à SEC que planeja desenvolver “produtos e serviços baseados em IA” após lançar sua ferramenta de compras baseada em IA, o Pinterest Assistant. A empresa vem explorando a integração de IA há quase uma década.

Enquanto isso, o lixo de IA está proliferando em plataformas de mídia social, incluindo curtas-metragens do YouTube, bots e imagens geradas por Grok no X, e absolutamente IA, influenciadores copiando vídeos de influenciadores famosos do TikTok.