O desastre pode ocorrer quando você treina um chatbot em outro
Foto Grazia/Getty Images
Vários denunciantes disseram que as pessoas que são pagas para fornecer conversas e testes de alta qualidade para treinar novos modelos de IA são fraudulentas e, em vez disso, usam chatbots como o ChatGPT para fazer esse trabalho. novo cientista. Esta prática aparentemente generalizada corre o risco de minar o futuro da IA, pois pode levar ao “colapso” de modelos mais avançados.
A maioria dos modelos de IA em operação hoje foram treinados com base em textos e dados coletados na internet. Mas à medida que os modelos aumentam e exigem mais dados de formação, as empresas de IA começaram a utilizar trabalhadores para falar e testar a IA, na esperança de que os dados de alta qualidade resultantes melhorem o poder e a utilidade dos futuros modelos de linguagem em larga escala (LLMs).
Estes trabalhadores são normalmente contratados por terceiros e não diretamente por empresas de IA, e muitas vezes trabalham por salários baixos, sem contratos a tempo inteiro. Segundo uma funcionária chamada Alice*, isso pode motivá-los a tomar atalhos, como usar chatbots para concluir tarefas com mais rapidez, mesmo que isso seja contra a política da empresa.
“É muito comum. Acho que eles se importam porque todas as empresas em que trabalhei têm diretrizes claras sobre o assunto e estão claramente tentando capturar as pessoas. Mas não acho que eles possam impedir isso”, diz Alice.
Alice diz Ele diz que não se sente culpado “de forma alguma” por usar o ChatGPT para concluir tarefas de treinamento e que pode facilmente se safar, desde que diga ao chatbot para evitar os sinais óbvios usuais de saída de IA. Como o domínio do em-dash. “Apenas os usuários mais desleixados são pegos”, diz ela. “Se você tiver algum conhecimento das características de uma IA, poderá dizer a ela para não usá-la em seus resultados. Nesse ponto, o que você faz?”
“Se estas empresas querem dados de qualidade, devem oferecer contratos de qualidade”, diz Alice. “Em vez disso, eles contratam pessoas que estão passando por dificuldades, mantêm-nas pelo maior tempo possível e depois as dispensam quando o projeto termina, sem aviso prévio.”
Outro funcionário, Bob*, trabalhava em uma plataforma de treinamento chamada Outlier. Inicialmente, ele foi encarregado de treinar a IA, que alegou ter usado de forma fraudulenta para esse fim, e mais tarde foi promovido a uma função de liderança, onde parte de seu trabalho era pegar outros fazendo a mesma coisa.
“A administração vacilou entre a tolerância moderada e a proibição total”, diz Bob. Os funcionários da Outlier são rastreados com uma ferramenta chamada Hubstaff, que faz capturas de tela de seus desktops em intervalos aleatórios para garantir que eles realmente estejam executando as tarefas conforme solicitado. Bob procura evidências de um modelo de IA nessas capturas de tela.
“As pessoas abrem (modelos de IA como ChatGPT) em outras guias ou minimizam, então obviamente aparece na barra de tarefas”, diz Bob. “Até mesmo coisas como pastas nomeadas na área de trabalho foram fornecidas para[a IA usar].”
Outlier, que pertence à Scale AI, não respondeu a um pedido de comentário. Escalar IA Reivindicações no site para realizar trabalhos para gigantes da tecnologia como Meta e Cisco, nenhum dos quais respondeu. novo cientistaEste é um pedido de comentário de . Bob disse que estava trabalhando pessoalmente no projeto para o Google, mas o Google também não respondeu a um pedido de comentário.
Carol*, outra funcionária que trabalhou em diversas plataformas, diz que seu uso da IA começou verificando itens que violavam longas diretrizes para tarefas. As violações podem resultar na expulsão do projeto e perda de rendimentos.
“Eu tinha medo de não ter fonte de renda, mas depois ficou mais fácil fazer tudo pelo LLM”, conta Carol. “Muitos dos projetos que faço agora são criação de cenários, então uso um LLM para criar os cenários e depois uso outro LLM para criar os arquivos que acompanham os cenários. Me sinto culpado, mas como eu disse, era mais uma questão de ter certeza de que não cometi erros no começo.”
“Estou preocupado que estejamos realmente piorando a IA. Achei que usar um modelo para treinar a si mesmo poderia anular parte do valor”, diz Carol.
Marcos Lee Pesquisadores da Universidade de Birmingham, no Reino Unido, dizem que seu estudo mostra que os modelos de IA “quebram” quando treinados recursivamente em conteúdo gerado por IA. Quando isso acontece, o poder do modelo diminui drasticamente, tornando-o inútil. Este processo é às vezes conhecido como canibalismo de IA ou endogamia de IA.
“Esse é o pior cenário possível e provavelmente não é o que está acontecendo no mundo real”, diz Lee. “Os humanos ainda são uma minoria e ter cerca de 10% de dados humanos irá aliviar isso e evitar o colapso do modelo.”
No entanto, Lee disse que a má conduta cometida por esses funcionários não deixa de ter consequências negativas e afetará o desempenho dos negócios. “Em vez de ser uma situação catastrófica, mostra que a IA não é muito boa na execução de tarefas semelhantes às humanas. Isto é um problema porque não creio que os modelos sejam tão bons quanto poderiam ser.”
*Os nomes foram alterados para proteger informações pessoais
tópico:
