É quase impossível evitar ver online conteúdo gerado por IA, mas não precisa ser assim. YouTube, Instagram, TikTok e outros intensificaram os esforços de autenticação de conteúdo no último ano, e muitos agora aplicam rótulos automaticamente para distinguir imagens, vídeos e músicas gerados por IA daqueles criados por criadores humanos reais.
Se você está encontrando conteúdo rotulado aleatoriamente, tudo bem, mas sabe o que é melhor? Vamos filtrar o resíduo de IA.
Os atuais esforços de rotulagem não alteram significativamente a forma como o conteúdo é apresentado online. Você pode notar que alguns vídeos do TikTok ou do YouTube em seu feed incluem divulgações de IA em suas descrições ou rótulos informativos sobrepostos nos próprios clipes. A Meta adota uma abordagem semelhante, aplicando um rótulo de “Informações de IA” a imagens no Facebook e Instagram que contenham metadados de identificação de IA ou divulgações voluntárias de seus criadores.
Mas se você realmente quiser fazer isso, evitar Embora seja compreensível ver algo rotulado como tal, dadas as preocupações éticas e ambientais que cercam a IA generativa, bem como a podridão cerebral que ela causa, na prática é incrivelmente difícil fazê-lo. Você pode resolver isso facilmente usando filtros. Tudo que você precisa fazer é ativar a caixa de seleção “AI”.
Entrei em contato com Meta, Google, TikTok e Spotify para perguntar se eles têm planos de permitir que os usuários filtrem os vários conteúdos que estão autenticando com seus sistemas de rotulagem de IA. O TikTok e o Spotify não responderam e o Google disse que não tinha nada para compartilhar. O Sr. Mehta não forneceu quaisquer comentários relevantes. Mas, em resumo, nenhuma dessas empresas disse sim.
Uma das únicas plataformas online que já vi com um filtro de conteúdo de IA é o DeviantArt, e sua implementação é muito instigante. Primeiro, parece um pouco oculto, pois não é acessível através do feed ou da página da loja do DeviantArt. Em vez disso, você precisa criar uma conta e encontrar o menu (Configurações de conteúdo de IA) passando o mouse sobre o ícone do usuário no canto superior direito da página. Existem apenas duas opções para escolher. A configuração padrão “Mostrar IA” ou a opção “Suprimir IA”, que afirma exibir “menos” imagens geradas ou manipuladas pela IA.
Tentei as duas opções e infelizmente não vi nenhuma diferença perceptível. Neste ponto, tenho um bom olho para discernir “ilustrações digitais” geradas pela IA, mas não queria confiar apenas nas minhas próprias suspeitas. A descrição de quase todas as imagens suspeitas que selecionei incluía uma divulgação do autor confirmando que a obra foi regurgitada por um robô. O trabalho do DeviantArt não é bom o suficiente Aplicar rótulos de IA automaticamente Imagens com metadados que indicam claramente a origem da IA.
Pinterest Temos um sistema semelhante em funcionamento. Os usuários conectados à sua conta do Pinterest podem clicar no ícone Configurações, selecionar Refinar recomendações e tocar na guia Conteúdo AI para alternar entre categorias específicas, como Arte, Beleza, Moda, Decoração e muito mais. De acordo com o Pinterest, desabilitar qualquer uma dessas opções permitirá que você veja “menos conteúdo corrigido por IA” para essa categoria específica, mas na minha experiência está longe de ser perfeito. Essa configuração é provavelmente mais difícil de encontrar do que os filtros incorporados ao feed do Pinterest. Mesmo com os filtros de IA no máximo, ainda havia muitas imagens com IA questionável (como modelos fotográficos assustadoramente perfeitos ou erros de ilustração inexplicáveis).
E a mesma coisa quase certamente acontecerá se outras plataformas como YouTube ou Instagram introduzirem filtros de conteúdo de IA. Não funciona muito bem. Mas tudo bem. Porque exporia as “soluções” ineficazes que os nossos czares da IA estão a vestir. Eles existem no papel para apaziguar reguladores e críticos, mas pouco fazem para resolver a verdadeira questão de distinguir entre falsificações de IA e fotos reais e trabalhos criativos.
e plataforma fazer Eu sei que é um problema. O chefe do Instagram, Adam Mosseri, disse em dezembro que, com o aumento do conteúdo gerado por IA, “a autenticidade está se tornando um recurso escasso”. E agora o CEO do Google, Sundar Pichai, reconheceu isso em um artigo recente. decodificador Na entrevista, ele disse que há “uma tonelada de IA por aí” e que os usuários online precisam “se adaptar a ela”. Sim, por favor me diga o filtro.
Sistemas baseados em proveniência, como C2PA e SynthID, funcionam incorporando metadados ou marcas d’água invisíveis ao conteúdo no momento da criação. No entanto, existem muitos modelos de IA de código aberto que não fazem isso (especialmente se forem projetados para fins maliciosos). Além disso, os metadados são facilmente removidos, tornando-os pouco confiáveis. Existem também métodos baseados em detecção que analisam padrões em conteúdo digital e avaliam a probabilidade de a IA ter sido usada na sua criação, mas estes podem resultar em falsos positivos. Atualmente, nenhum deles funciona de forma eficaz em grande escala.
No entanto, empresas, incluindo fornecedores de IA como a OpenAI, estão agora a promover estas soluções de rotulagem de IA como ajudando a evitar que as pessoas sejam enganadas por deepfakes e outras falsificações enganosas. Se os reguladores tomarem consciência das ineficiências, as plataformas online e os fornecedores de IA poderão realmente precisar de encontrar soluções como: fazer Funciona em vez do que atualmente parece uma cortina de fumaça.
As plataformas argumentarão que impulsionar os esforços de rotulagem de forma muito agressiva corre o risco de sinalizar falsamente conteúdo genuíno. Meta também YouTube Os criadores descobriram da maneira mais difícil depois de aplicar rótulos de IA a imagens e vídeos que alegaram ter sido criados sem essas ferramentas. Se isso é uma grande preocupação para o atual sistema de rotulagem; então encontre uma solução melhor. Você está convencido de que melhorar a experiência do usuário para milhões de usuários é um investimento que vale a pena para afastar a concorrência?
E estou me perguntando: por que não podemos simplesmente relatar todos os erros de IA não rotulados que vemos todos os dias? Dada a dimensão do problema. Pesquisa do ano passado por Kapwing Por exemplo, descobrimos que mais de 20% dos vídeos do YouTube mostrados a novos utilizadores foram produzidos em baixa qualidade. Acredito que precisaremos de muitos moderadores humanos para examinar com eficácia cada relatório.
Talvez seja esse o problema. Numa altura em que as grandes empresas tecnológicas estão a substituir trabalhadores por IA que acreditam poder superá-los, poderão dar-se ao luxo de voltar atrás nas suas histórias cuidadosamente construídas de contratá-los de volta para resolver problemas de IA? Salário e benefíciosem comparação com sistemas de moderação automatizados que carecem de habilidades investigativas diferenciadas.
Em vez de rotular o conteúdo gerado pela IA, poderíamos começar a rotular autores humanos verificados. Nem sempre é possível identificar conteúdo sintético postado por No entanto, pode ajudar a reduzir a atenção de farms de conteúdo não verificados que produzem conteúdo de baixa qualidade. Este é o futuro que Mosseri do Instagram propôs para a plataforma de compartilhamento de imagens Meta, e no qual o Spotify já está trabalhando com Artistas Verificados.
É claro que Meta, Spotify e Google não hospedam apenas imagens, anúncios e músicas gerados por IA. Eles também são responsáveis por criar as ferramentas para criá-lo. É por isso que afirmam não fazê-lo. todos Ele diz que o conteúdo da IA é desleixado e é mais uma questão de qualidade. Se for convincente o suficiente, eles esperam que os usuários continuem bebendo do fundo sem perceber. Permitir que os usuários ignorem isso vai contra todos os esforços que essas plataformas têm feito para lucrar com a IA. querer Você também deveria abraçar a fábrica de resíduos.
Estou feliz por ter sido provado que estou errado. Na verdade, estou claro implorar Para provar que os esforços de rotulagem de IA não foram uma perda de tempo para as plataformas online. Mas, por enquanto, eles têm todas as cartas e só podemos desejar-lhes boa sorte em seus esforços de moderação de IA. Portanto, aplicar um filtro básico “sem IA” ou “verificado pelo autor humano” determinará quão bem isso realmente funciona.
