isso é dê um passo para trás, Um boletim informativo semanal com histórias importantes da indústria de tecnologia. Para saber mais sobre a interrupção da IA, siga Robert Hart. dar um passo para trás Entregue nas caixas de entrada dos assinantes às 8h ET. ativar dar um passo para trás aqui.
Inicialmente, os influenciadores da IA eram relativamente fáceis de identificar e ignorar. Além do ocasional entusiasmo, não parece ter mudado muita coisa na forma como as mídias sociais funcionam. Primeiros influenciadores virtuais – Lil Miquela Com sua franja romba e sardas, Eu sou Com um bob rosa chiclete, Shudu Gram Sua pele impecável era claramente uma criação digital. A colaboração é anunciado e fanfarra. Postar requer estúdio, dinheiro, coordenação e muito polimento.
Com o tempo, percebi que as pessoas falsas na minha timeline começaram a se parecer cada vez mais com outras pessoas na minha timeline. personagens como Emily Pellegrini e Padre López Um pouco mais perto da realidade – pelo menos mais perto da realidade de que meus amigos ricos e viajados da faculdade com quem eu não tinha contato estavam sempre postando sobre bons restaurantes e lugares lindos ou Coachella ou shows musicais. wimbledon. Não é exatamente identificável, mas a maioria dos influenciadores profissionais também não consegue.
Ainda assim, muitas dessas contas não são de forma alguma padronizadas. Lopez é produto de uma agência criativa espanhola chamada The Clueless, que gerencia um grupo de influenciadores de IA. O criador de Pellegrini, que atende pelo pseudônimo de Professor EP, me contou que gerenciava os criadores do OnlyFans. Atualmente, ele está vendendo um curso que ensina as pessoas como criar seus próprios influenciadores de IA.
É exatamente isso que as pessoas estão começando a fazer. Muitas pessoas.
A novidade passou. Os primeiros influenciadores da IA se destacaram porque eram muito poucos. Agora, eles fazem parte de uma confusão ainda maior de conteúdo gerado por IA que inunda as redes sociais. Bobagens de baixa qualidade copiadas preguiçosamente de chatbots, imagens e vídeos ruins e coisas cativantes. senhor dos anéis música discoteca Ele assumiu meu TikTok por um mês.
Os impostores estão por toda parte agora. Eles vendem lixo de dropship a preços altos, Roubando dinheiro de homens com fotos falsasimprensa informação falsa e racista pontos de discussão e Atendendo a nichos cada vez mais bizarros e muitas vezes sexuais. Claro, também tem isso bastante de armadilha da sede. Também há muito conteúdo diário que utiliza avatares. cópia Tudo o que é popular entre os criadores humanos, muitas vezes simplesmente colocar uma cara falsa.
Portanto, é difícil medir o impacto dos criadores de conteúdo de IA. A plataforma não divulga números sobre quantos de seus usuários são falsos, e a maioria dos avatares de IA não são populares ou influentes o suficiente para justificar a atenção da mídia que a onda inicial recebeu. banco de dados como humano virtual Rastreamos centenas de avatares populares, mas são apenas contas estranhas, peculiares ou grandes o suficiente para chamar a atenção. Abaixo disso há um mar de contas voando completamente despercebidas.
Um dos motivos pelos quais essas contas conseguem escapar da detecção é que a tecnologia usada para criá-las melhorou significativamente. Imagens estáticas de pessoas falsas agora são mais que suficientes para parecerem reais, especialmente em feeds cheios de influenciadores reais com uso intenso de encenação, filtros e efeitos de edição. O vídeo e o áudio estão se atualizando rapidamente, dando vozes e movimentos às pessoas virtuais que podem enganar os usuários imprudentes. As ferramentas não são mais um nicho ou proibitivamente caras. Os produtos convencionais de empresas como Google e OpenAI acompanham serviços especializados de empresas como Higgsfield, HeyGen e Celebrities. Com um pouco de esforço, quase qualquer pessoa pode criar um influenciador de IA, ou mesmo um grupo de influenciadores de IA, sem a necessidade de um estúdio, equipamento especializado ou (muito) dinheiro.
Tudo isso deixa as plataformas de mídia social com problemas que elas não parecem particularmente interessadas em resolver de frente. Depois de anos trabalhando com imagens, vídeos e áudio gerados por IA, a maioria das principais plataformas agora tem algum tipo de política que abrange mídia sintética. Mas, além de exigir rótulos para conteúdo gerado por IA, essas regras muitas vezes equivalem a pouco mais do que empurrar o material para categorias existentes que abrangem coisas como fraude, spam, falsificação de identidade e material gráfico. Talentos de IA, especialmente talentos de IA projetados para se comportarem como humanos reais, não se enquadram perfeitamente em nenhum desses grupos. Eles não estão necessariamente enganando, postando conteúdo gráfico ou se passando por alguém. Em primeiro lugar, não está claro quem eles estão representando e quais regras eles podem quebrar se revelarem que uma postagem foi gerada por uma IA.
Por enquanto, as plataformas parecem contentar-se com a ambiguidade, não acolhendo nem excluindo totalmente os criadores de IA. Cultivaram posições contraditórias, promovendo a IA como uma ferramenta criativa ao mesmo tempo que tentavam conter a maré que sobrecarrega os serviços. YouTube, TikToko Instagram e outras plataformas estão a promover o seu próprio conjunto de ferramentas de IA, incluindo ferramentas que podem clonar ou simular utilizadores, ao mesmo tempo que desenvolvem regras para rotular meios de comunicação sintéticos, especialmente os do tipo realista. No entanto, essas regras tendem a se concentrar em postagens individuais, e não nas contas ou personas por trás delas, deixando os influenciadores de IA em uma área cinzenta.
Em meio a essa incerteza, o ecossistema de influenciadores de IA está prosperando. Algumas empresas de pesquisa de mercado estimativa O mercado de influenciadores virtuais poderá valer mais de 60 mil milhões de dólares até 2030, contra cerca de 12 mil milhões de dólares este ano. A influência cultural também está crescendo. Existe um prêmio de influenciador de IA. concurso de belezadedicado agência de entretenimento É uma empresa que representa criadores sintéticos, um mercado em expansão para criadores sintéticos que vendem cursos e ferramentas que prometem ajudar as pessoas a criar e gerir os seus próprios criadores falsos, muitas vezes com a promessa de rendimentos passivos sem rosto. Entre eles, há um leve cheiro de pirâmide da corrida do ouro online, há algumas histórias de sucesso visíveis e há tantas pessoas vendendo pás.
Meu palpite é que uma liquidação está ocorrendo. O desperdício de IA já é frustrante, e há um limite para o que a plataforma pode segurar antes de se tornar efetivamente inutilizável, especialmente devido à recusa teimosa dos usuários em filtrar o desperdício de IA. Pessoas falsas fingindo ser reais são uma versão mais íntima do mesmo problema. Mas, para além dos rótulos e da aplicação das regras existentes, as plataformas parecem satisfeitas em ver o que acontece na maior parte do tempo. Para plataformas, engajamento é engajamento, seja de criadores falsos ou reais. A menos que os criadores sintéticos continuem a publicar e a desviar-se das regras existentes, parece haver pouco incentivo para os policiar.
Há também a questão de quão sustentável é toda a ideia de ter avatares de IA circulando online. Se tantas coisas estão sendo construídas apenas para ganhar dinheiro com usuários humanos, o que acontecerá quando o número de usuários humanos secar? Por exemplo, existem poucas pessoas dispostas a comprar cursos e ferramentas para construir seus próprios influenciadores. Isso pressupõe que as redes sociais possam sobreviver ao influxo de influenciadores de IA. Por definição, é necessária alguma massa crítica da humanidade para manter as coisas sociais. Se não for controlada, a rede entrará em colapso sob o peso dessas pessoas falsas, pois os usuários humanos serão inevitavelmente expulsos.
A situação pode mudar se a indignação pública continuar a aumentar. A reação contra deepfakes, spoofing e spam sintético já está forçando legisladores e reguladores a prestarem muita atenção, especialmente após incidentes envolvendo deepfakes sexuais não consensuais gerados com ferramentas como o Grok. A legislação europeia em matéria de IA poderá constituir uma força motriz, pelo menos à medida que as obrigações de transparência para os conteúdos gerados pela IA entrarem em vigor. de regras Os adotantes de sistemas generativos de IA serão obrigados a divulgar claramente o conteúdo gerado ou manipulado pela IA, e as empresas poderão ser pressionadas a reportar melhor o conteúdo da IA e poderão enfrentar multas pesadas. Mesmo assim, o foco está principalmente no conteúdo, e não se a conta que o publica representa uma pessoa real.
Tal como acontece com grande parte das redes sociais, o fardo recai sobre o utilizador. Muitas plataformas delegam efetivamente a tarefa de gerenciar conteúdo de IA aos usuários, contando com eles para encontrar e denunciar perfis suspeitos. Mas o autocontrole é uma resposta pobre e insustentável para algo que visa escapar da atenção. A procura por espaços livres de IA já está a aumentar. Se as próprias plataformas se recusarem a traçar o limite entre a realidade e a irrealidade, espero que os utilizadores estabeleçam o limite.
- Muitos dos influenciadores de IA de alto nível que conheci recentemente têm inclinações abertamente políticas, o que penso que poderia acelerar a busca pela regulamentação. Danny Ossos Falso rapper supremacista branco financiado por partido de extrema direita Este no Reino Unido é provavelmente o melhor exemplo que já vi.
- Semelhante aos influenciadores humanos, muitos avatares de IA são construídos em torno de identidades ou comunidades específicas, como raça, deficiência, política ou nacionalidade, como as garotas fantasiosas MAGA. Jéssica Fosterapoiando-se fortemente em uma estética militar sexual e no trumpismo. Nem todos os avatares correspondem aos seus criadores. Por exemplo, Shudu Gram, um modelo negro de IA, feito por brancos. Emily Pellegrini também é obra de um personagem chamado Professor EP. Ele disse que o personagem foi construído usando conteúdo licenciado de criadores anônimos do OnlyFans.
- Manchetes dos artigos recentes de Jess Weatherbed A beira “Vamos filtrar o lixo da IA, seus covardes”, diz tudo.
- A beira Recentemente, informamos que golpistas estão usando avatares negros falsos de IA para vender produtos produzidos em massa a preços inflacionados por meio de dropshipping nas redes sociais.
- com fio relatado Sobre a crescente indústria de “AI Pimping”, onde criadores humanos têm seu conteúdo roubado e monetizado por avatares de IA sem sua permissão.
- Podcast de Charlie Worzel Eu olhei para isso Os incentivos por trás da proliferação de influenciadores de IA e o cansaço que muitos sentem quando se preocupam se o que consumimos é autêntico.
