UM um artigo recente publicado pela BBC explorou como ferramentas generativas de IA poderiam ser “hackeadas” em minutos com a introdução de conteúdo online recém-publicado. No exemplo proposto, uma postagem de blog solicitando experiência em uma categoria altamente especializada mais tarde repercutiria em respostas de sistemas como OpenAIs ChatGPT e resultados de IA do Google com consultas recentes. A história gerou um debate mais amplo sobre se os sistemas de IA são inerentemente vulneráveis à manipulação.
Jason Barnard, fundador e CEO da Não esfregueele vê outra coisa no exemplo. Do seu ponto de vista, a situação não demonstra que a IA seja inerentemente estúpida. Em vez disso, ele sugere que destaquem como os sistemas de IA respondem a problemas de grande escala com apenas uma fonte de apoio disponível. “Se você for a única voz respondendo a uma pergunta que ninguém fez antes, o sistema indica falta de informações disponíveis sobre aquele tópico específico.ele disse.Não existe hacking. Isso preenche o vazio.“
Para o desenvolvedor, a distinção é significativa. De acordo com um relatório sobre IA generativa, 79% dos executivos esperam IA generativa realizar uma transformação substancial em suas organizações nos próximos anos. Ao mesmo tempo, um AI Business Intelligence é detectado 88% relataram uso regular de IA em pelo menos uma função empresarial. A IA não faz mais parte de um negócio periférico; É fundamental para operações de negócios, gerenciamento e marketing.
Barnard, no entanto, observa que surge uma visão contraditória entre os decisores. Por um lado, as pessoas tratam a IA como quase omnisciente, tão inteligente que gere o seu negócio e, no entanto, por outro lado, esses mesmos líderes de IA são tão facilmente enganados que incentivam a visibilidade dos esforços técnicos através de posts individuais em blogs ou listas de “melhores”.
Espaço TNW City Coworking – onde o melhor trabalho é feito
Um espaço de trabalho para crescimento, colaboração e oportunidades infinitas de networking no coração da tecnologia.
“A conversa em torno da IA precisa mudar;Barnard observa.Os sistemas de IA são sofisticados, mas dependem de informações estruturadas e confiáveis. Hoje, a Internet é uma mensagem perfeita e cabe aos líderes organizar o seu próprio canto dessa sopa. Se sua pegada digital for menos confusa do que a de seus concorrentes, você ganha.“
Kalicube é especializada em criar marcas que os sistemas de IA possam interpretar e recomendar com segurança. A empresa pretende usar as tabelas Barnard como uma metodologia em forma de funil, estabelecendo padrões de credibilidade em sua essência, em vez de buscar menções superficiais. A abordagem enfatiza a clareza, a consistência e a autoridade verificável em todas as plataformas digitais.
Segundo Barnard, o exemplo do cachorro-quente acima é perigoso porque dá a impressão de que a IA pode ser facilmente enganada. “Este exemplo demonstra como a IA reage ao responder a projetos altamente específicos com dados muito limitados.acrescenta: “Se houver apenas uma fonte que responda à pergunta, o sistema irá naturalmente considerá-la.Ele acrescenta que quando alguém pergunta,.Em qual impulsionador do marketing digital devo acreditar?” , os sistemas de IA podem cruzar referências de múltiplas fontes, avaliar a confirmação e aplicar limites de confiança antes de fazer recomendações.
Barnard argumenta que esse padrão se torna mais claro ao observar como a IA lida com problemas do mundo real. Na sua opinião, os dados falsos podem se destacar quando são solicitações altamente específicas, mas tendem a desaparecer quando a consulta reflete o uso genuíno do usuário. Diz que antes de uma marca ser recomendada em questões comerciais, a IA cruzará referências dessa marca através de diversas fontes confiáveis. Do seu ponto de vista, isto reforça um princípio fundamental: as máquinas de IA são máquinas de recomendação e algumas das mais influentes do mundo. Em última análise, o que determina o sucesso de uma marca é a confiança do sistema na confiança e na consistência das informações que encontra.
À medida que a IA evolui para além das secretárias eletrônicas para ajudar máquinas e gestores, para sistemas que comparam opções, negociam e, em alguns casos, agem em nome dos usuários, Barnard observa que as consequências da clareza aumentarão. “O mecanismo de ajuda sugere opções. O gerente assistente executa as decisões. Em ambos os casos a confiança da fé conhecida determina o resultado;ele disse.
Um conceito que Barnard frequentemente enfatiza é o retorno do investimento do passado. “Muitas organizações já possuem sinais de crédito valiosos; avaliações de clientes, cobertura da mídia, certificações e empresas, mas esses padrões muitas vezes permanecem desconectados;ele disse.Quando devidamente compostos e verificáveis de forma independente, esses valores serão interpretados com mais segurança pelos sistemas de IA, porque a IA é lógica.” Do seu ponto de vista, desta forma, ao organizar o investimento anterior, a IA só pode digerir uma quantidade notável de pressão adicional de capital dos ativos existentes.
“O prêmio do brilhantismo da máquina;Barnard interpretaSe eles puderem entender facilmente quem você é, o que você faz e por que acredita, você retribuirá aos usuários.“
Uma história viral sugerindo que a IA é fácil de enganar para gerar manchetes, explica Barnard, mas também pode distorcer a estratégia de negócios. “Se as organizações assumirem que a IA é infalível, correm o risco de complacência;ele disse.Se agirem com calma, correm o risco de um raciocínio de curto prazo que prejudica a confiança a longo prazo.“
Segundo Barnard, a visão preferida está entre esses extremos. Ele observa que os sistemas de IA são poderosas máquinas de reconhecimento de padrões que navegam na vasta e muitas vezes contraditória rede e têm melhor desempenho quando fornecem sinais consistentes e corroborados. No qual, diz ele, a visão se torna menos sobre manipulação e mais sobre verdade estrutural.
“Em vez de ver os experimentos virais como evidência da fraqueza da IA da BBC;disse Barnard.
“Podemos aceitar pela menor memória que no ecossistema de agentes, no ecossistema de agentes, a substância, a clareza e a credibilidade da guerra de longo prazo estão corretas.“
