“Isso parece IA.”
Como escritor que se interessa por ilustração e fotografia amadora, essas são palavras assustadoras de se ver. Num mundo onde as tecnologias generativas de IA estão a tornar-se cada vez mais adeptas à imitação do trabalho humano, as pessoas ficam compreensivelmente céticas quando as plataformas online se recusam a rotular até mesmo conteúdos óbvios de IA.
Isso me leva a uma conclusão. Talvez devêssemos começar a rotular textos, imagens, áudio e vídeos gerados por seres humanos de forma semelhante ao logotipo do Comércio Justo mundialmente reconhecido. As máquinas não estão de todo motivadas para rotular o seu trabalho, mas os criadores que correm o risco de serem condenados ao ostracismo certamente o estão.
Felizmente, não sou o único que pensa assim.
O chefe do Instagram, Adam Mosseri, sugeriu algo semelhante em dezembro, dizendo que, à medida que a tecnologia de IA avança e pode ser criado conteúdo visualmente indistinguível do conteúdo produzido por profissionais criativos, “torna-se mais prático identificar mídia real em vez de mídia falsa”.
Embora ninguém possa dizer exatamente quanto do que você encontra na Internet é gerado pela IA, há uma percepção generalizada de que sites de notícias, plataformas de mídia social e resultados de mecanismos de pesquisa estão cheios de IA. Pesquisa recente do Instituto Reuters.
A autenticação de obras de autoria humana deveria ser feita pelo C2PA Content Credentials Standard, que já é utilizado pela plataforma Meta. No entanto, apesar do apoio generalizado da indústria, a sua implementação tem sido até agora completamente ineficaz. Acontece que muitas pessoas que criam e disponibilizam conteúdo de IA tentam esconder suas origens devido ao potencial de cliques, confusão e receita.
Uma série de soluções surgiram nos últimos anos para ajudar os criadores humanos a distinguir entre o seu próprio trabalho e o trabalho produzido pelos geradores de IA. E tal como o C2PA, enfrenta muitos desafios para uma adoção generalizada.
Atualmente, existem muitas alternativas de rotulagem sem IA para escolher. No total, existem pelo menos 12 empresas, todas tentando resolver o mesmo problema com diferentes padrões de qualificação e abordagens de certificação. Alguns são específicos do setor, como o Authors Guild’s.certificado gerado por humanos” se aplica a livros e outras obras protegidas por direitos autorais e não é amplamente aplicável a todas as formas de conteúdo criativo.
Outras soluções, como Proudly Human e Not by AI, pretendem ser serviços mais amplos, abrangendo texto publicado, artes visuais, videografia e música, mas os processos de verificação utilizados por estes serviços podem ser tão questionáveis como os utilizados pelas soluções de rotulagem de IA. alguns são feito por humanosopera puramente com base na confiança, publicando emblemas e rótulos que qualquer pessoa pode baixar e aplicar ao seu próprio trabalho sem provar sua origem real. outras pessoas gostam Nenhum ícone de IA Ela afirma que inspeciona visualmente seu trabalho e o executa por meio de um serviço de detecção de IA que é notoriamente não confiável.
A maioria dos serviços que verifiquei fizeram isso da maneira mais difícil: mostrando de forma criativa e manual aos auditores humanos seus processos de trabalho, como esboços e rascunhos. Isto exige muito trabalho, mas não existem atalhos técnicos e é o método mais confiável que temos atualmente para estabelecer se algo foi feito por um ser humano real.
Outra questão é o acordo sobre o que significa ser “feito pelo homem”. A IA está agora incorporada em tantas ferramentas criativas e seu uso é incentivado por educadores criativos, mas onde traçar os limites?
“A questão será definição e validação: conversar com um LLM antes de executar manualmente uma ideia conta como uso de IA? E como o autor pode provar que a IA não está envolvida?” disse Jonathan Stray, cientista sênior do Centro de IA Compatível com Humanos da Universidade da Califórnia, Berkeley. A beira. “Outros rótulos de consumo, como ‘orgânico’, têm regulamentos e agências que os aplicam.”
Nina Begush, professora da Escola de Informação da Universidade da Califórnia, Berkeley, diz que já estamos em uma era de conteúdo híbrido que está colidindo com a forma como definimos algo como autêntico.
“Todo produto criativo hoje pode ser influenciado de alguma forma pela IA, mesmo que não possamos provar isso”, disse Begush. A beira. “A autoria está entrando em colapso em novas direções, tornando-se mais aprimorada tecnologicamente e mais coletiva. Precisamos repensar os padrões de criatividade que foram criados apenas para humanos.”
Essa é a solução oferecida por um candidato a rótulo feito pelo homem chamado . Não causado pela IA tenta levar em conta esta ambiguidade. Oferecemos uma variedade de emblemas que os criadores podem aplicar em seus sites, blogs, arte, filmes, ensaios, livros, podcasts e muito mais, desde que pelo menos 90% do trabalho seja criado por humanos reais. No entanto, a abordagem voluntária carece de testes de veracidade.
Algo como outras soluções prova de que eu fiz isso depende da tecnologia blockchain para fornecer um registro permanente que qualquer pessoa pode usar para se referir a criadores e obras verificadas pelo serviço. Ao armazenar os resultados da verificação no blockchain, os criadores recebem um certificado digital impossível de ser falsificado que prova que um ser humano criou seu trabalho, o que é muito mais confiável do que usar software para adivinhar se a mídia foi gerada pela IA.
Thomas Beyer, diretor executivo da Rady School of Business da Universidade da Califórnia, diz que a Web3 e a tecnologia blockchain podem fornecer uma solução robusta, mudando a pergunta de “Isso é como IA?” “Este relato pode provar a história humana?”
“Ao emitir tokens ‘Made by Human’ para criadores verificados, o mercado cria um ‘nível premium’ de arte cuja autenticidade é matematicamente garantida”, disse Beyer. A beira. Outros especialistas, como Begush, partilharam sentimentos semelhantes sobre o potencial de aumento de valor da “criatividade humana e biológica” no meio da enxurrada de meios de comunicação sintéticos.
Apesar das suas deficiências, padrões estabelecidos como o C2PA fornecem o que as soluções de rotulagem sem IA precisam desesperadamente: integração. Grandes empresas de tecnologia como Adobe, Microsoft e Google comprometeram-se com este padrão, e os fornecedores de IA estão a implementá-lo para apaziguar os reguladores globais. Dito isto, quando pesamos os vários prós e contras entre os esforços de rotulagem alimentados por IA e os esforços que se concentram na validação de conteúdo autêntico gerado por humanos, sentimos que estes últimos têm maior probabilidade de serem bem-sucedidos.
Mesmo aqueles que não se opõem completamente à utilização de ferramentas de IA, é compreensível que muitos profissionais criativos estejam motivados a diferenciar o seu trabalho da concorrência gerada artificialmente que está a saturar as suas indústrias e a ameaçar os seus meios de subsistência. E embora existam certamente muitos evangelistas da IA nas plataformas de redes sociais que estão felizes em mostrar o que a tecnologia pode realizar, há hesitações em tornar a sua utilização pública quando isso lhes pode custar dinheiro e influência.
Vamos considerar o seguinte caso Atores pornôs que criam clones digitais Seremos sempre quentes e jovens, ou Influenciador de IA Vender uma vida de fantasia que não existe. Revelar que são IA pode destruir as ilusões das pessoas que pensam que estão tendo uma experiência humana real. Golpistas usam imagens geradas por IA Para vender produtos online É claro que eles e as plataformas que os hospedam, como o Etsy, também não querem ser divulgados. Não parece que você está muito preocupado. Da mesma forma, aqueles que usam IA generativa para semear discórdia ou causar danos nas redes sociais só terão sucesso se as pessoas acreditarem que é genuína. Não é de admirar que a rotulagem de IA com C2PA não tenha se popularizado.
Entendemos que alguns criadores focados em IA podem evitar a transparência porque ela já é uma realidade. Um exemplo notável disso é o autor de romances Coral Hart. tempos de Nova York No ano passado, ela produziu mais de 200 romances gerados por IA e obteve uma renda de seis dígitos. No entanto, seu livro não tem rótulo que revele que foi escrito com ferramentas de IA devido a “fortes preconceitos” em torno da tecnologia, temendo que isso “prejudicasse seu negócio com o trabalho”.
Este desdém está presente na forma como o conteúdo gerado sinteticamente é frequentemente descrito como “vulgar”, mesmo que o trabalho em si seja visualmente, audivelmente ou tecnicamente impressionante. E isto levanta a questão de como estes fornecedores de rotulagem humanos ou não-IA evitam que os seus logótipos sejam utilizados indevidamente por aqueles que lucram com o engano. CEO Trevor Woods ser humano orgulhosoreconheça que pode ser impossível fazê-lo.
“Como qualquer marca de certificação ou logotipo corporativo, não podemos proteger contra a exibição fraudulenta da marca de certificação Proudly Human, mas facilitamos a identificação dos consumidores”, disse Woods. A beira. “Se os maus atores que identificamos se recusarem a parar de usar os nossos rótulos, tomaremos medidas legais contra eles.”
Se o objetivo é alcançar soluções amplamente reconhecidas e aplicadas, as normas têm de ser acordadas não só pelos criadores e pelas plataformas online, mas também pelos governos e reguladores em todo o mundo. Meu entendimento é que essas conversas são raras no momento.
“Embora a Proudly Human ocasionalmente forneça briefings a governos e grupos industriais, ela não está envolvida em negociações formais sobre a certificação unificada de origem humana”, disse Woods. “A rápida evolução das capacidades de IA e do conteúdo gerado por IA ultrapassará a resposta dos governos e reguladores.”
É evidente que é necessário facilitar aos consumidores a identificação de obras feitas pelo homem, pelo que os criativos, os reguladores e os organismos de certificação devem escolher a abordagem a apoiar. Se um padrão singular puder atingir o mesmo nível de símbolos como o comércio justo e o orgânico (cada um com as suas próprias preocupações, mas globalmente reconhecido como alinhado com um ethos específico), poderemos regressar a uma época em que confiávamos no que víamos com os nossos próprios olhos.
