Para Luis DeSantiago, Professora substituta em Los Banos, Califórnia, tudo começou com algumas mensagens de texto. Em 12 de março, ele estava trabalhando em seu outro emprego de meio período em uma cafeteria quando seu telefone pegou fogo. Um colega barista disse que a foto da IA estava se tornando viral nas redes sociais. O primo dela queria saber se era DeSantiago.
No início, DeSantiago não ficou preocupado – ele descobriu que fotos inadequadas violavam as diretrizes sociais do TikTok e geralmente eram removidas rapidamente.
“Quando finalmente vi o filme, foi como um soco no estômago”, disse DeSantiago à WIRED. Partes dela lembravam uma selfie no espelho que ele lembrava de ter tirado no trabalho na faculdade. Mas ele usava roupa íntima em vez de uniforme de trabalho. E em vez de ficar casualmente como na foto original, ele posa sugestivamente.
Os textos deram início a uma saga de um mês envolvendo estudantes e administradores de duas escolas. DeSantiago está longe de ser o único educador afetado desta forma.
A WIRED conversou com três outros professores que acusaram seus alunos de usar IA para tirar fotos e vídeos sexuais. Dizem que os incidentes os deixaram profundamente angustiados e desapontados — e, em alguns casos, os levaram a repensar a forma como encaram o seu trabalho e as suas relações com os alunos.
“Isso pode incluir outros alunos”
Depois de receber os textos, DeSantiago começou a reunir as pessoas por trás do filme. Uma conta que o compartilhou usava seu nome verdadeiro em seu perfil do TikTok – um aluno que DeSantiago conhecia de uma escola secundária local, onde ele preenchia regularmente. DeSantiago suspeitou do envolvimento de outros dois estudantes com base em seu conhecimento de contatos e grupos de amigos estudantis que acompanhavam o relato. Ele estava programado para trabalhar na escola secundária no dia seguinte.
DeSantiago relatou o incidente ao diretor assistente, que lhe garantiu que a escola “cuidaria disso”. Naquela noite, ele decidiu procurar seu nome no Tiktok e procurar a foto. Ele descobriu que outro aluno havia criado uma conta se passando por ele – usando seu nome, com um leve erro ortográfico, e a mesma foto do perfil.
Nas semanas seguintes, diz DeSantiago, ele conversou com os administradores escolares, os pais dos alunos e até mesmo a polícia.
“Se esses alunos não têm medo de criar e publicar essas imagens minhas, estou preocupado com o que eles estão divulgando de forma privada por meio de mensagens de texto e bate-papos em grupo”, escreveu DeSantiago ao diretor. “Lembre-se que isso inclui outros alunos também.”
Um aluno que admitiu ter feito o filme foi suspenso da escola. DeSantiago foi posteriormente informado de que a imagem também havia sido compartilhada no Snapchat. Mas a imagem de DeSantiago continuou a se tornar viral e outros estudantes começaram a publicá-la. Ela também afirma ter recebido muitos comentários grosseiros e sexistas em sua conta no TikTok.
DeSantiago disse aos administradores que não queria começar a trabalhar no ensino médio “até que este assunto seja totalmente resolvido”. O distrito não respondeu ao pedido de comentários da WIRED.
Ele conseguiu um emprego substituto em uma escola local, mas os problemas continuaram a assombrá-lo. Durante uma aula, ele obteve uma foto da mesma imagem gerada por IA antes de ser rapidamente recolhida. Ele percebeu que estava circulando entre a turma.
O diretor disse a ele que a escola estava iniciando uma “investigação imediata” e se ofereceu para se encontrar com DeSantiago ou disponibilizar um conselheiro escolar, mas DeSantiago diz que não retornará ao distrito este ano.
Ele disse à WIRED que, pelo menos agora, não se sente seguro para fazer isso.
“Isso faz você questionar tudo”
Quando imagens falsas de nudez de adultos sem consentimento são divulgadas, isso pode constituir perseguição na Internet e violar a Lei federal Take It Down, que torna crime publicar “representações íntimas de indivíduos reais e geradas por computador” na Internet.
Na maioria das contas compartilhadas com a WIRED, os autores não atribuíram diretamente o conteúdo aos sites onde ele aparecia. A porta-voz do Snap, Monique Bellamy, compartilhou as políticas da empresa sobre assédio e conteúdo sexual, que proíbem o compartilhamento de conteúdo gerado por IA ou com a intenção de humilhar ou assediar sexualmente outras pessoas. Ele disse à WIRED que a empresa “estabeleceu processos” para denunciar tal conteúdo e “continua a desenvolver recursos e ferramentas projetadas para apoiar a segurança, a privacidade e o bem-estar de nossa comunidade”. O TikTok não comentou antes da publicação.
