Citando George Santayana“, “Aqueles que não se lembram do passado estão condenados a repeti-lo. ”Então, por que muitas vezes parece que as grandes empresas de tecnologia têm uma memória tão ruim?
A última pergunta vem do Meta. Em meados de setembro, lançou o teste beta de um novo recurso de agente Muse AI que pode ligar para empresas para concluir tarefas para você, como agendamento e agendamento de compromissos.
É relatado Reuters e mídia 404 Na terça-feira, porém, o chamado agente autônomo poderá enviar essas tarefas para concierges humanos treinados em call center, sem revelar antecipadamente que o está fazendo.
Em 16 de setembro, Ryan Fox, engenheiro-chefe do Meta Super Intelligence Lab, anunciou o lançamento de uma versão beta da função de chamadas externas do Muse e postou um pedido de feedback no X, ressaltando que “fazer uma ligação” é uma das solicitações mais comuns feitas pelos usuários.
mas mídia 404 De acordo com registros internos do Facebook, a empresa faz algo inteiramente nos bastidores com seu assistente pessoal. Ao anunciar os recursos aos funcionários internos, a gigante da tecnologia disse que “adicionou uma camada de agente humano para completar chamadas”, chamando-a de “Muse Human Agent Calling”.
Alguns funcionários da Meta reclamaram, com uma postagem interna: “Isso poderia criar muitas relações públicas negativas. Poderia nos retratar como ‘sua IA não é boa o suficiente, então eles ainda precisam de humanos para cobrir este lançamento’”.
A verdade raramente é pura…
O problema de adicionar uma camada de carne humana não é apenas a higienização por IA da funcionalidade do Muse. Nem é isto puramente engano causado pela falta de divulgação de que pode haver elos humanos na cadeia. Alguns sistemas de agentes introduzem a supervisão humana como um “humano no circuito” por uma questão de segurança e conformidade.
Não está claro o quão seguro e compatível o Meta é. Mas os funcionários levantaram preocupações maiores sobre privacidade, alertando (Reuters) que “estamos a apenas um passo de que informações desnecessárias sejam vazadas para pessoas que ligam”. e Há um erro.
Ao usar um agente de IA para realizar tarefas pessoais, como agendamentos, compras ou consultas médicas, muitas vezes você sacrifica a privacidade. Mas você pode se sentir ainda pior se descobrir que seu teste de DST foi feito por um completo estranho.
Também é uma caixa preta. Você não sabe quais informações básicas essa pessoa possui, se ela viu seus bate-papos ou se sabe onde você mora e, portanto, como entrar em contato com você. Pode até haver mais dados disponíveis, visto que a empresa está com seus óculos embalados com Muse.
Você também fornece informações confidenciais, como números de telefone, identificações de pacientes ou informações bancárias, aos chamados agentes autônomos (nesse caso, prestadores de serviços humanos em call centers não divulgados).
Tudo isso faz parte de uma tendência crescente de dar aos modelos de inteligência artificial a capacidade de realizar tarefas como assistentes pessoais. Ainda esta semana, o Google lançou a capacidade dos agentes Gemini de atender chamadas telefônicas diárias. A implementação devolve a você a parte transacional da chamada (como fornecer informações de cartão de crédito). Mas os riscos permanecem.
…e nunca é simples
Pior ainda, Meta já quebrou a confiança na privacidade muitas vezes antes. Em 2019, o Facebook teve que interromper um projeto que utilizava prestadores de serviços para ouvir e transcrever chamadas do Messenger.
Como agentes de IA como esses geralmente exigem intervenção humana para verificar se estão entregando os resultados esperados, eventos de erro do tipo “ah, esse funcionário viu isso” parecem inevitáveis.
A Potemkin AI consiste em um grupo oculto de trabalhadores humanos que realizam parte do trabalho real no modelo nos bastidores e não se limita a chamadas. Em fevereiro, foi revelado que Waymo tem operadores remotos Complementar o negócio de automóveis autônomos no exterior.
O recurso de chamadas efetuadas do Meta Muse foi adiado novamente. A Reuters relata que a Meta suspendeu temporariamente o recurso depois que um vice-presidente de sua unidade de laboratórios de superinteligência admitiu que “foi um erro” começar a testar o recurso sem divulgar totalmente as informações sobre os empreiteiros envolvidos.
É claro que o verdadeiro erro não é a má memória, mas a história da Big Tech de “fazer o mal, ser pega, pedir desculpas, voltar atrás, talvez pagar uma pequena multa. Em algum momento, depois que ficamos exaustos coletivamente, o ciclo se reduz a “fazer coisas ruins, mas de qualquer maneira lucrativas”.
Entramos em contato com Meta para comentários e esclarecimentos, mas não recebemos uma resposta imediata.
Ver currículo completo
