Grammarly retirou seu recurso Expert Review baseado em IA para trás pois ele costumava chorar jornalistas e autores sem permissão para identificar. O assistente de redação de software agora enfrenta uma caso de ação coletiva eles exploram isso com nomes de escritores em seu benefício.
Grammarly anuncia a reformulação da marca “Superhuman” à medida que funciona como IA
Além de sete outros serviços de IA em agosto passado, os planos Expert Grammar Checker Free e $ 12 Pro foram lançados no lançamento e foram promovidos para fornecer aos usuários feedback sobre sua redação geral. Uma página honesta no site da Grammarly afirmou que a Expert Review “depende dos insights de especialistas e publicações abaixo do ideal” e que as opiniões geradas pela IA “são baseadas em conteúdo especializado disponível publicamente” (através da máquina Wayback). Os usuários também podiam personalizar o que extraíram das fontes “especializadas” do Grammarly, selecionando os nomes de autores específicos.
“Um agente da Expert Review fornece experiência no assunto e feedback personalizado e específico do tópico para elevar a redação que atende aos rigorosos padrões acadêmicos ou profissionais de um usuário em um campo formativo.” Grammarly escreveu em sua postagem no blog anunciando o recurso.
A revisão gramatical especializada chama a atenção depois da semana passada Com fio relatado O recurso oferecia edições geradas por IA em nome de escritores reais e acadêmicos, vivos e mortos. Ferramenta no guia do usuário fornece uma isenção de responsabilidade de que suas referências a especialistas “são apenas para fins informativos e não indicam qualquer afiliação à Grammar ou aos indivíduos ou entidades aprovados”. No entanto, a mesma página afirma que a Expert Review também oferece “pesquisas de professores profissionais, autores e especialistas no assunto”.
Muitos especialistas reeducados não aceitaram a gramática usando suas identidades sem o seu conhecimento ou consentimento.
“(Grammarly) fez a curadoria de uma lista de pessoas reais, deu-lhes amostras para elaborar um plano de som plausível para elas e colocou tudo por trás da assinatura.” escreveu o fundador do Platformer, Casey Newton, que é considerado um dos Gramáticos. É uma escolha deliberada de monetizar e sugar as identidades de pessoas reais sem se envolver.”
“Isso foi recebido como algum tipo de calúnia ou algo assim;” o historiador Mar Hicks enviado para Bluesky; sua macroidentidade compartilhada está incluída na Expert Review. “Você não pode simplesmente roubar a propriedade intelectual das pessoas e depois fingir que elas disseram algo que nunca disseram.”
Grammarly responde à reação da Expert Review
Respondendo à reação, Grammarly Platformer anunciou na segunda-feira que permitiria que os escritores enviassem e-mails para cancelar a inclusão no recurso Expert Review. Este facto criticou ainda mais o facto de os especialistas não terem dito que a gramática era utilizada com a sua identidade, e não o permitiram em primeiro lugar. Os autores afetados não saberiam que precisavam aceitar, a menos que um usuário do Grammarly tivesse visto seu nome enquanto usava o Expert Review e os informasse.
Além disso, fornecer uma opção de exclusão do uso de identidades gramaticalmente mortas não foi abordado pelos autores. Escritores falecidos, usados pela Expert Review, teriam incluído o astrônomo Carl Sagan e bell hooks acadêmicos interseccionais.
Velocidade da luz mashável
“É tão Grammerly (sim) violar a memória dos bell hooks E fazer versões de IA do resto de nós antes mesmo de morrermos.” escreveu a pesquisadora Sarah J. Jackson. “Diga quem pergunta, nem brinque.”
Shishir Mehrotra, CEO da desenvolvedora Superhuman Grammar, anunciou na quarta-feira que retiraria o Expert Review do ar. No entanto, ele também indicou que a empresa pretende eventualmente trazê-lo de volta de alguma forma.
“Na semana passada, recebemos fortes comentários críticos de especialistas interessados em contestar suas opiniões contra o agente.” Mehrotra postou no LinkedIn. “Como contexto, o gestor deve ajudar os utilizadores a encontrar perspetivas influentes e aprendizagens relevantes para o seu trabalho, com especialistas também de forma significativa para construir relacionamentos mais profundos com os seus fãs. Ouvimos as opiniões e reconhecemos que estamos a falhar nisso. Quero pedir desculpa e reconhecer que estamos a lembrar-nos da nossa abordagem no futuro.
“Após uma consideração cuidadosa, decidimos desativar o Expert Review, pois imaginamos que o recurso seja mais útil para os usuários, ao mesmo tempo que dá aos especialistas controle real sobre como eles desejam ser representados – ou não representados”.
“Isto também sugere que existia em primeiro lugar como uma desconexão total da sociedade comum dos homens”; o redator aéreo Ketan Joshi respondeu que Mehrotra está por trás. “Deveria ter ficado imediatamente óbvio que isso era lucrativo, assustador e cruel.”
“Com toda a conversa sobre como a IA ‘constrói’ (leia-se: ‘rouba’) conteúdo existente, criando uma ferramenta que dá ‘conselhos’ de pessoas reais que ganham a vida com escrita e experiência… É difícil rastrear.” escreveu Dan Saltzstein, do New York Times. “Os resultados vão além de ‘vamos reavaliar’. Uma promessa de nunca mais fazer algo assim.
A ação coletiva acusa Grammarly de usar as identidades dos escritores sem consentimento
Embora a Grammatica não tenha assumido qualquer compromisso neste momento, já existem repercussões em torno das suas ações que vão além dos danos à reputação. A redatora do New York Times, Julia Angwin, apresentou a ação de gênero é a causa contra Superhuman na quarta-feira depois de descobrir que o especialista da Grammarly Review usou sua identidade sem seu consentimento. O escritório de advocacia que a representa, Law Peter Romer-Friedman PLLC, convocou todos os escritores afetados a aderirem à ação coletiva.
Embora não esteja totalmente claro quantas identidades dos Gramáticos foram alienadas, esta pode ser a gangue que mais denuncia. Você olha apenas para jornalistas técnicos; É uma mão de bastão A Expert Review nomeou vários membros de sua equipe editorial, bem como escritores da Wired, Bloomberg, The New York Times, The Atlantic, PC Gamer, Gizmodo, Digital Foundry, Tom’s Guide e sites irmãos do Mashable, IGN e Rock Shotgun. Angwin foi questionado “muita gente” Ele já foi questionado processo contestado.
“Não sou só eu que estou fazendo isso, mas todos que passaram anos e décadas aprimorando suas habilidades como escritor e editor, apenas para descobrir que uma IA se fazia passar por eles.” Angwin escreveu em uma postagem no LinkedIn.
“Durante centenas de anos, a lei de Nova Iorque proibiu as empresas de utilizarem o nome de uma pessoa para fins comerciais sem consentimento”, disse Peter Romer-Friedman da Peter Romer-Friedman PLLC. “A lei não prevê exceção para empresas de tecnologia ou IA.”
Ajuizada no Tribunal Distrital de Nova York, a ação coletiva busca indenização por danos e uma liminar para impedir que a Grammar use as identidades dos escritores sem consentimento.
Mashable entrou em contato com Superman para comentar.
Tópicos
Inteligência artificial
