Ars Technica, o veículo de tecnologia de propriedade da Condé Nast, demitiu o repórter sênior de IA Benji Edwards depois que a revista retirou um de seus artigos sobre o uso de citações fabricadas.
A história em questão era sobre um agente de IA que criou um filme de sucesso, ironicamente depois que o engenheiro Scott Shambaugh rejeitou seu código.
Edwards e um porta-voz da Condé Nast não responderam imediatamente aos pedidos de comentários. O Futurismo foi o primeiro a reportar as demissões, e a 404 Media foi a primeira a reportar a retratação.
O relato de Edwards sobre o incidente de Shambaugh foi publicado em 13 de fevereiro. Foi excluído dois dias depois, mas Substituído pela nota do editor O editor-chefe Ken Fisher pediu desculpas por este artigo.
Fisher escreveu em um memorando de 15 de fevereiro que o artigo usava “citações fabricadas geradas por ferramentas de IA e atribuídas a fontes não falantes”, contrariando a política do meio de comunicação de que o material gerado por IA deve ser claramente rotulado.
“É particularmente preocupante que algo assim tenha acontecido em Ars”, escreveu Fisher. “Há anos que abordamos os riscos da dependência excessiva de ferramentas de IA e as nossas políticas escritas refletem essas preocupações. Neste caso, foi publicada uma citação que foi fabricada de uma forma inconsistente com essa política. Revisámos o nosso trabalho recente e não identificámos quaisquer problemas adicionais. Neste momento, este parece ser um incidente isolado.”
Edwards pediu desculpas pelo incidente. Postagem Céu Azuladmitiu que “cometeu involuntariamente um grave erro jornalístico”. Ele lembrou que suas atividades foram suspensas devido à infecção pelo novo coronavírus e que terminou de escrever este artigo enquanto estava acamado e com febre. Ele escreveu que decidiu usar “ferramentas experimentais de IA baseadas em código Claude” para ajudar a extrair “material de origem literal relevante”. Postagem de blog escrita por Shambaugh Documentação de músicas de sucesso geradas por IA.
Quando a ferramenta não funcionou devido a uma violação da política de conteúdo, como a postagem de Shambaugh fazia referência ao assédio, Edwards disse que “colou o texto no ChatGPT para entender o porquê”.
“Eu deveria ter tirado uma licença médica porque, no decorrer dessa conversa, inadvertidamente acabei parafraseando as palavras de Shambaugh em vez de suas palavras reais”, escreveu Edwards, admitindo que não verificou a postagem original do blog e a citação.
O texto do artigo foi escrito por ele e pelo repórter sênior de jogos Kyle Orlando, que “não desempenhou nenhum papel neste erro”, escreveu Edwards. Depois de perceber o erro, Edwards pediu à agência de notícias que retirasse a reportagem.
“A ironia dos repórteres tropeçando em alucinações de IA não passou despercebida para mim”, escreveu Edwards. “Eu valorizo fazer meu trabalho com precisão e isso é um fracasso doloroso para mim.”
Os leitores da Ars Technica investigaram o erro no tópico de comentários do artigo, que foi encerrado pelo diretor criativo Orrich Lawson em 27 de fevereiro.
“A Ars Tecnica concluiu a revisão deste assunto. As ações internas apropriadas foram tomadas”, escreveu Lawson. “Nas próximas semanas, publicaremos um guia para nossos leitores explicando como usamos ou não IA em nossas operações. Não comentamos decisões de pessoal.”
A página do autor de Edwards atualmente lista seu papel no meio de comunicação no passado, observando que ele “era” um repórter que cobria a história da IA e da tecnologia para o meio de comunicação.
