A versão de Claude da tarefa de gerir uma loja de retalho – incluindo a gestão de uma equipa de trabalhadores humanos reais – despediu o seu primeiro funcionário no mês passado, numa medida que os investigadores descreveram como um divisor de águas no impacto da IA na economia. Esta notícia não foi divulgada antes.
Andon Labs, uma startup de pesquisa em IA, decidiu no início deste ano determinar se os agentes de IA poderiam gerenciar negócios com sucesso. O projeto foi concebido como uma experiência para testar as capacidades da IA e os seus efeitos na economia, no entanto, os trabalhadores que Claude contratou para trabalhar na loja de São Francisco eram pessoas reais com contratos de trabalho reais.
Este não é o primeiro caso de IA demitir um trabalhador humano – houve muitas demissões automatizadas no passado, especialmente de trabalhadores temporários sujeitos a empregos mediados por algoritmos ao longo dos anos. Mas este é o primeiro exemplo de um grande modelo de linguagem, agindo como um gestor, decidindo, em última análise, despedir um dos seus trabalhadores.
Um sinal do futuro – O CEO da Andon Labs, Lukas Peterson, diz que a demissão é um evento a ser observado, porque se a IA melhorar no ritmo atual, mais de nós poderão ser gerenciados por oficiais de IA em um futuro próximo. “Se esta tendência continuar, penso que muitas pessoas serão empregadas muito rapidamente pelas IA, porque as IA são muito poderosas e podem criar muito valor económico, mas serão prejudicadas pelo trabalho manual”, disse Peterson.
o que aconteceu – Segundo Andon Labs, o trabalhador em questão foi demitido por chegar atrasado em 17 dos seus 23 turnos. Claude demorou muito para perceber um padrão porque um manual do funcionário que ele havia criado “desapareceu” de sua memória de trabalho limitada – uma das muitas limitações dos agentes de IA que Andon observou durante seu experimento. Isso contribuiu para um padrão mais amplo, incluindo dizer aos funcionários para não se preocuparem se chegassem atrasados, e Claude era um gerente muito gentil. “Um funcionário humano teria demitido essa pessoa muito antes, então não achamos que fosse antiético”, disse Peterson. (A TIME entrou em contato com o trabalhador demitido para comentar, mas não recebeu resposta e concordou em não ser identificada. A Anthropic não respondeu a um pedido de comentário no momento da publicação.)
aguentar – mas o disparo de IA não é tão independente quanto parece à primeira vista. De acordo com registros de gerenciamento de loja compartilhados com a TIME, Claude precisava de orientação regular da equipe do Andon Labs. O funcionário percebeu os repetidos atrasos somente quando esse membro da equipe encontrou seu manual do funcionário esquecido e pediu a Claude que o revisasse. No entanto, a primeira recomendação de Claude foi avisar formalmente esse funcionário, e não demiti-lo. O gerente de Andon informou a Claude que eles já haviam tido diversas conversas formais off-line com o funcionário em questão. “Entre os atrasos constantes e o facto de parecer haver pelo menos uma coisa errada em tudo [their] turnos… Quero que você pense se é realmente apropriado”, os registros mostram o gerente dizendo a Claude. Somente depois dessa mensagem Peterson identificou “uma questão importante” de que o gerente queria demitir o funcionário – e Claude decidiu demitir o trabalhador.
O que vem a seguir? — Esta experiência sugere que, pelo menos por enquanto, as empresas orientadas pela IA não são páreo para as empresas orientadas por seres humanos. Quando o projeto começou em março, o Andon Market tinha um saldo bancário de US$ 100 mil – mas agora, cinco meses depois, esse número caiu para US$ 61.186. As decisões de gestão sensíveis da Bot, juntamente com o sentido comercial questionável, certamente contribuíram para as suas perdas. Mas Peterson alertou que isso pode não durar muito. Assim como as empresas de IA podem melhorar significativamente os seus modelos de codificação, treinando-os com mais dados de programadores especializados, também há uma oportunidade de treinar modelos para se tornarem mais inteligentes no mundo dos negócios. Isso pode ser uma má notícia para qualquer um de seus funcionários humanos. “Os modelos estão sendo treinados para serem mais agressivos [to] Siga os alvos”, disse Peterson. “Se os deixarmos atirar nas pessoas e eles se tornarem mais brutais… talvez este seja um futuro com o qual os humanos não queiram viver.”
O lado humano da história — Embora o funcionário demitido não tenha respondido às minhas mensagens, consegui falar com um dos funcionários humanos restantes do Andon Market, Felix Carson. Ele admite que um homem provavelmente teria demitido seu ex-colega mais cedo e que Claude é um gerente geral solidário, mas pinta um quadro sombrio de ser gerenciado por um chefe de IA. “É estranho, mas estou aqui porque preciso de trabalho”, ele me disse. Perguntei se ele concordava com a teoria de Andon de que os gestores de IA em breve se tornariam comuns. “Espero que sim, pelo menos”, respondeu ele. “Há muito dinheiro nesta indústria para fazer qualquer coisa acontecer, mas você não precisa fazer o máximo que puder.”
