OpenAI pergunta prestadores de serviços terceirizados estão enviando atribuições e tarefas do mundo real de seus locais de trabalho atuais ou anteriores para usar os dados para avaliar modelos de IA de próxima geração, de acordo com registros da OpenAI e da empresa de dados de treinamento Handshake AI obtidos pela WIRED.
O projeto parece fazer parte do esforço da OpenAI para estabelecer uma linha de base humana para diferentes tarefas que possam então ser comparadas com modelos de IA. Em setembro a empresa lança um novo julgamento É um processo para medir o desempenho da IA em relação a profissionais humanos em diversos setores. A OpenAI afirma que este é um marco fundamental na sua jornada para alcançar AGI, ou sistemas de IA que envolvem os humanos nas atividades económicas mais valiosas.
“Contratamos pessoas de todas as ocupações para ajudar a coletar coisas do mundo real que você fez em modelos de negócios em tempo integral, para que possamos medir o desempenho dos modelos de IA nesses empregos”, diz um documento confidencial da OpenAI. “Pegue partes existentes de trabalho longo ou complexo (horas ou dias ou mais) que você realizou em seu negócio e transforme cada uma delas em uma tarefa.”
A OpenAI exige que os contratados descrevam as tarefas que foram executadas no trabalho atual ou no passado e que você carregou exemplos reais de trabalho, de acordo com a proposta da OpenAI para o projeto visualizado pela WIRED. Cada exemplo deve ter uma “saída concreta” (não o arquivo total, mas o arquivo real), por exemplo, documento do Word, PDF, Powerpoint, Excel, imagem, repositório” características da apresentação. OpenAI diz que as pessoas também podem compartilhar exemplos de trabalhos fictícios para demonstrar como eles realmente respondem em cenários específicos.
OpenAI e Handshake AI não quiseram comentar.
Os serviços do mundo real têm dois componentes, de acordo com a proposta da OpenAI. Há uma solicitação de tarefa (o que o gerente ou um colega lhe disse) e uma tarefa entregável (a partir do trabalho real que eles realizaram em resposta à solicitação). A empresa insiste diversas vezes na exigência de que os modelos dos empreiteiros sejam devolvidos ao “real, no escritório” que a pessoa possui “na verdade feito.”
Um exemplo de apresentação da OpenAI descreve a função de “gerente sênior de estilo de vida a uma empresa de concierge de luxo para uma rede ultragrande de pessoas”. O objetivo é “preparar um breve rascunho em PDF de 2 páginas de uma visão geral do cruzeiro de 7 dias nas Bahamas para uma família que viajará para lá pela primeira vez”. Também inclui detalhes sobre benefícios familiares e o que observar ao viajar. Então a “experiência humana entregue” mostra o que o contratante precisa neste caso: um itinerário real nas Bahamas foi criado para o cliente.
Ele instrui os gerentes da OpenAI a excluir a propriedade intelectual corporativa e fazer upload de informações de identificação pessoal dos arquivos de serviço. Sob uma seção chamada “avisos importantes”, a OpenAI diz aos funcionários para “remover ou anonimizar qualquer: informação pessoal, informação proprietária ou confidencial, informação material não pública (por exemplo, designs internos, sem a liberação de produtos individuais).
Um dos documentos vistos pela WIRED menciona uma ferramenta chamada ChatGPT.Esfregando Superstar“Ele fornece conselhos sobre como excluir informações mais confidenciais.
Evan Brown, advogado de propriedade intelectual da Neal & McDevitt, disse à WIRED que os laboratórios de IA que recebem dados confidenciais de empreiteiros nesta escala podem estar sujeitos à exploração de segredos comerciais. Os empreiteiros que fornecem documentos de trabalhos anteriores a uma empresa de IA, incluindo restos, podem correr o risco de expor acordos de não divulgação ou segredos comerciais dos seus antigos proprietários.
“O laboratório de IA confia muito em seus contratados para garantir o que é ou não confidencial”, diz Brown. “Se eles divulgarem algo, os laboratórios de IA estão realmente dedicando tempo para ver o que é ou não um segredo comercial? Parece-me que o laboratório de IA está se colocando em grande risco.”
