Na manhã de quinta-feira, participei de um painel de perguntas e respostas com quatro importantes executivos de smartphones da Samsung. Até 2025, a Samsung era a maior fabricante mundial de smartphones e também a maior fabricante mundial de câmeras. No entanto, ainda é a segunda maior empresa depois da Apple.
A Samsung me entregou o microfone primeiro. Perguntei:
Vemos a sociedade dividida entre aqueles que querem que a IA faça coisas impressionantes com suas fotos e vídeos e aqueles que não querem que ela faça isso. qualquer coisa Porque fotos e vídeos estão corroendo a nossa capacidade de acreditar que o que vemos é real e destruindo o conceito de evidência fotográfica.
Ferramentas de metadados como o C2PA não conseguiram conter essa tendência. A Samsung tem alguma ideia nova e diferente sobre como evitar que imagens de IA dominem o mundo?
Os quatro executivos da Samsung não tinham ideias novas e diferentes para compartilhar.
Parabéns a Won-Joon Choi, COO e chefe de P&D da divisão móvel, por não se esquivar da pergunta. Ele disse à sala que o problema é a erosão da realidade e que ele quer resolvê-lo.
Mas ele e outros executivos da Samsung sugeriram que a empresa precisa equilibrar seu desejo de fotorrealismo com os compradores de smartphones “sendo mais criativos”. Eles fugiram da responsabilidade ao sugerir que este é um problema de toda a indústria que requer uma discussão mais ampla, e sugeriram que a Samsung já o resolveu parcialmente simplesmente adicionando marcas d’água às imagens geradas por IA. Uma marca d’água que pode ser facilmente removida.
Os executivos que falaram posteriormente sugeriram que o sentimento da empresa em relação ao conteúdo gerado por IA poderia tornar-se mais positivo no futuro.
Aqui estão algumas das respostas.
“Estamos cientes desse problema porque muito conteúdo é gerado pela IA”, começou Choi. “Por um lado, as pessoas querem ser mais criativas, por isso pensamos que precisamos de fornecer soluções para ajudar as pessoas a serem mais criativas”, disse ele. “Por outro lado, hoje em dia é muito difícil saber a diferença entre fotos e vídeos reais e falsos. Acho que isso é um problema, estamos cientes disso e acho que é algo que precisa ser resolvido no nível da indústria.”
“C2PA, você pode considerar isso um fracasso, mas se as pessoas quiserem verificar se essas fotos e vídeos foram feitos por IA, é suficiente fornecer um mecanismo. Acho que precisamos fornecer um mecanismo para que as pessoas possam usá-lo. Acho que há um esforço contínuo em toda a indústria para resolver este problema”, acrescentou.
“Acho que se todos trabalharmos juntos para resolver este problema, podemos definitivamente resolvê-lo”, concluiu.
Como escreveu a minha colega Jess Weatherbed no início desta semana, estamos a começar a temer que este tipo de retórica de “resolver a indústria em conjunto”, e o próprio C2PA, possam ser um substituto para uma acção real e significativa.
Talvez em resposta ao nosso relatório Samsung AI slopwatch, Dave Das, executivo da Samsung America, entrou na conversa, dizendo que a empresa ainda está aprendendo o quanto a IA será tolerada ao criar seus anúncios. Ele reconheceu que a empresa está “apenas começando a aproveitar algum conteúdo de IA na criação, e o feedback tem sido bastante claro”.
“Estamos tentando descobrir onde é o lugar certo para usá-lo e como podemos deixar claro quando usar conteúdo gerado por IA em vez de conteúdo gerado naturalmente”, disse Das.
Mas Das ainda vê isso como um ato de equilíbrio entre as prioridades empresariais, e não como uma responsabilidade social. “O resultado final é dar aos criadores uma escolha”, disse ele, sugerindo que o trabalho da Samsung é encontrar “o equilíbrio certo”.
Mais tarde pela manhã, o repórter de tecnologia da KTLA-TV, Rich DeMuro, percebeu a posição da Samsung com uma pergunta completamente diferente. Ele perguntou se a Samsung queria que isso acontecesse Mais fácil Permite que os clientes removam marcas d’água de IA de fotos geradas por IA.
“Se usarmos suas ferramentas divertidas para fazer cartões de Natal, deveríamos realmente chamar isso de ‘conteúdo gerado por IA’?” perguntou DeMuro.
Isso foi levantado por Drew Blackard, vice-presidente sênior de gerenciamento de produtos móveis da Samsung America. Ele concluiu: “Se sentirmos que os consumidores realmente desejam a capacidade de remover marcas d’água e, ao mesmo tempo, sentirmos que existem outras maneiras de abordar o primeiro ponto sobre autenticidade, então faremos as duas coisas e daremos às pessoas o melhor que elas desejam de uma experiência”.
“Pelo menos por enquanto, há preocupação suficiente por parte dos consumidores com a autenticidade, e esse é o principal desafio que resolvemos em termos de metadados e marcas d’água nas próprias fotos. Nem todos os serviços estão fazendo isso”, disse ele.
Blackcard também sugeriu que, um dia, quando olharmos para trás, o conteúdo gerado pela IA pode não ser tão importante e que as percepções podem mudar com o tempo, assim como as percepções do conteúdo gerado pelo usuário mudaram em primeiro lugar. Na época, disse ele, as pessoas estavam preocupadas com “a quantidade de conteúdo que entrava atualmente no sistema” e que não era o produto de vídeo profissional com o qual estavam acostumadas.
Será que a Samsung e outros fabricantes de smartphones pensaram que o oposto poderia ser verdade, que as imagens geradas por IA poderiam ser percebidas de forma mais uniforme? alguns Será uma vantagem depois que a IA produzida de forma barata deixar as pessoas sem trabalho e tornar muito mais fácil mentir, trapacear e roubar na ausência de evidências registradas confiáveis.
Eles consideraram resolver esse problema “no nível da indústria”? na frente Irão romper a barragem e mudar as percepções? contra A Samsung nos ajudou com as inundações que se seguiram.
