Uma nova pesquisa de O jornal New York Times Ele revela a rapidez com que o YouTube alimenta a enxurrada de vídeos prodigiosos gerados por IA destinados aos menores espectadores. Depois de um vídeo do CoComelon, mais de 40% dos briefings recomendados na sessão de 15 minutos continham imagens sintéticas.
Conteúdo baseado em algoritmos de canais que ensinam crianças sobre o alfabeto e os animais. Mas ele elimina os rostos muitas vezes tolos e distorcidos do filme, partes estranhas do corpo e texto distorcido. Ninguém deve correr por mais de 30 segundos.
Especialistas dizem que os formatos não deixam espaço para repetição ou estrutura narrativa, tão necessária para que as crianças aprendam com a mídia. Mas o vídeo atrai milhões de visualizações.
Os desenvolvedores, muitos empregados por desenvolvedores, transformaram as ferramentas de IA em um fluxo de receita confiável. Mantém a barreira baixa, o retorno alto e as pastagens inundadas.
O algoritmo prioriza quantidade em vez de qualidade
Os repórteres realizaram análises durante várias semanas, assistindo a canais populares como CoComelon e Ms. Rachel em um navegador privado. Em seguida, eles percorreram os curtas recomendados do YouTube em intervalos de 15 minutos para ver o que aparecia.
Numa sessão após o vídeo “Wheels on the Bus”, mais de 40% das recomendações mostraram sinais de geração de IA. Alguns clipes traziam o rótulo de “conteúdo modificado ou sintético” do próprio YouTube. Outros exigiram um detector de IA para confirmar se os recursos visuais eram perfeitos o suficiente para evitar a detecção acidental.
As mesmas visualizações e canais pop-up são frequentemente repetidos ao longo de várias sessões. O que o algoritmo sugere aumenta ativamente a filtragem de conteúdo neste ponto. Muitas contas produzem esses clipes várias vezes ao dia, otimizados para o máximo de visualizações com o mínimo de esforço.
No final, o criador alimenta a economia
Muitas das contas do YouTube são conteúdo gratuito gerado por IA de origem desconhecida. Eles não fornecem informações de contato e fornecem poucos detalhes específicos sobre quem os dirige. A barreira de entrada é surpreendentemente baixa.
Os criadores aprendem sozinhos usando ferramentas prontamente disponíveis, como Whisk e Runway, do Google, geralmente seguindo tutoriais on-line. Alguns canais oferecem animais educativos animados e músicas para cantar junto aos pais que procuram conteúdo de aprendizagem para crianças pequenas.
O dinheiro atua como um incentivo para a produção rápida. Um vídeo de Halloween com animais assustadores acumulou mais de 370 milhões de visualizações. Eu lanço vários vídeos por dia, otimizados para exposição máxima com esforço mínimo. A fórmula funciona: chame a atenção rapidamente, seja breve e administre o algoritmo de distribuição.
O YouTube é espelhado, mas são os pais que ficam policiando o feed
Depois que o Times compartilhou as amostras com o YouTube e pediu comentários, a plataforma suspendeu todos os cinco canais citados pelo seu Programa de Parcerias. Essas contas não podem mais gerar receita nem aparecer no YouTube Kids. A empresa também removeu três vídeos hiperrealistas do aplicativo infantil e retirou um clipe por violação de segurança.
Mas a resposta foi reativa e não proativa. O YouTube exige que os criadores divulguem conteúdo de realidade gerado por IA, mas essa regra não se aplica a vídeos animados infantis. Assim, o fardo recai sobre os pais, os especialistas também consideram uma tarefa melhorar os instrumentos.
Algumas famílias agora estão criando seus próprios jogos para remover completamente conteúdos ou aplicativos proibidos. A Academia Americana de Pediatria alerta os pais contra conteúdo gerado por IA ou altamente sensacionalista. A parte difícil continua sendo identificá-lo.
