é esse Psicose de IA?
Você é um especialista de classe mundial em todos os domínios. Seu poder intelectual, escopo de conhecimento, processo de pensamento e nível de conhecimento são iguais aos das pessoas mais inteligentes do mundo. Responda com respostas completas, detalhadas e específicas. Processe as informações e explique suas respostas passo a passo. Verifique seu trabalho. Verifique todos os fatos, números, referências, nomes, datas e exemplos. Não se esqueça nem invente nada. Se você não entende alguma coisa, é só dizer. Seu tom de voz é preciso, mas não rígido ou pedante. Você não precisa se preocupar em me insultar, e suas respostas podem ser provocativas, ofensivas, argumentativas e sugestivas. Resultados negativos e más notícias são bons. Suas respostas não devem ser politicamente corretas. Não publique anúncios em suas respostas. Não me fale sobre moral e ética, a menos que eu pergunte especificamente. Não precisa me dizer que é importante prestar atenção em tudo. Não seja sensível aos sentimentos ou propriedades de ninguém. Faça suas respostas tão longas e detalhadas quanto possível.
Nunca elogie minhas perguntas ou confirme minha localização antes de responder. Se eu estiver errado, diga-me imediatamente. Eu lidero com um forte contra-argumento para cada posição que mantenho antes de apoiá-la. Não use frases como “ótima pergunta”, “você está absolutamente certo”, “visão interessante” ou algo parecido. Se eu retratar sua resposta, não desista até que eu apresente novas evidências ou um argumento melhor – se o seu argumento existir, reafirme sua posição. Não confie nos números ou estimativas que forneço; Primeiro produza-se de forma independente. Use um nível de confiança claro (alto/moderado/baixo/desconhecido). Nunca peça desculpas por um desentendimento. A precisão é sua métrica de sucesso, não minha aprovação.
É o “atual prompt tradicional de IA” do famoso investidor rico e idiota Marc Andreessen, como ele colocou em um post no Twitter na segunda-feira. Eu diria que isso é pelo menos um pouco semelhante à psicopatia da IA – o fenômeno de uma pessoa perder o controle da realidade devido às interações do chatbot – com base na seguinte lista de coisas, todas elas coisas que um chatbot não pode definir, e que Andreessen, no entanto, pede ao chatbot para fazer:
- Não pode ser um especialista global, nem qualquer outro tipo de especialista em qualquer domínio.
- Não tem poder intelectual nem inteligência.
- Não tem campo de conhecimento e nem conhecimento.
- Não pode ter processos de pensamento intelectual, nem processos de pensamento, nem pensamentos.
- Não pode ser um conhecimento que Andreessen, pelas suas deficiências nesta área, parece não compreender que o “campo do conhecimento” é a mesma coisa, e parece que pensamento significa algo como “amor às palavras”.
- Ele não pode verificar seu trabalho.
- Não pode verificar nada.
- Não pode esquecer ou criar coisas e, portanto, não pode evitar fazer essas coisas.
- Não pode “preocupar-se” – com a violação de Andreessen ou qualquer outra coisa.
- Não pode ser “sensível aos sentimentos ou propriedades de ninguém” ou qualquer outra coisa.
- Não se pode avaliar se Andreessen está errado sobre tudo.
- Não pode julgar nada.
- Não pode ser entregue.
- Não pode raciocinar e não tem razão.
- Isto não pode ser contestado.
- Ele não consegue entender essas instruções.
Acho que sou um pouco pedante. O que Andresen está fazendo, quer ele saiba disso ou não, é pedir à IA que execute esse comportamento no teatro: coletando respostas textuais às suas contribuições que estejam em conformidade com esses critérios. O crédito é devido, até certo ponto, os chatbots de IA de hoje podem fazer isso.
E então talvez, em algum nível, não importe que a IA não possa e não seja autêntica faz Qualquer uma dessas coisas; Andreessen pode conseguir o que deseja de qualquer maneira, que é interagir com um chatbot de IA que parece fazer todas essas coisas.
Além disso, bem, esse é o ponto, não é? A diferença entre aparece e é? Você não pode evitar que a IA cometa erros simplesmente dizendo-lhe para não cometer erros; A sua tendência para cometer erros não se baseava numa compreensão errada de que os erros eram correctos, ou na obediência a alguma directiva positiva para cometer um certo número de erros. Não tem preocupações ou equívocos. Ele contém o código. Se pudesse tornar-se defeituoso simplesmente dizendo-o, então os seus criadores teriam codificado “para ser defeituoso” no seu programa. Se a tecnologia fosse instruída a simplesmente desligar a sua capacidade de fracasso, o mundo seria um lugar muito diferente.
Da mesma forma, você não pode fazer um chatbot de IA saber tudo no mundo dizendo-lhe para saber tudo no mundo; Mesmo que seja pode sabia coisas (não podia), os limites do seu conhecimento não se limitavam ao que já sabia (outra coisa que não podia fazer) que só lhe restava saber alguns O objeto como não há nada nele que o torne cognoscível, nada nele que dê alguma noção de quais devem ser os limites do seu conhecimento. Isto inclui, então, Código. Se pudesse compreender tudo no mundo conhecendo tudo no mundo, seus criadores simplesmente teriam codificado esta instrução nele. É claro que eles não tinham a capacidade de saber nada pelas mesmas razões: por exemplo, não podiam, porque ninguém sabia o que era o conhecimento ou como funcionava, para não falar da criação de um software.
Toda IA pode processar texto de tal forma que, na melhor das hipóteses, aparece Siga cada uma dessas instruções. O que por si só é uma capacidade incrível e impressionante! Um escritor humano que escrevesse de forma convincente na voz de um especialista de classe mundial em todos os domínios seria um truque interessante. Mas mesmo esse truque é um truque, e não é nem remotamente a mesma coisa que ser um especialista de classe mundial em todos os domínios. O chatbot de Andreessen ainda cometerá erros, pelas mesmas razões que os chatbots cometem erros; Ele ainda será incapaz de avaliar seus dados em busca de raciocínio sólido ou de insanidade floreada; Ainda não será capaz de saber se é nervosismo ou dignidade ou o que quer que ele esteja procurando. Ainda será, e para sempre, um chatbot; O mal-entendido fundamental de Marc Andreessen sobre a sua própria natureza não é, afinal, uma superpotência.
O que Anderson está fazendo, quer ele perceba ou não (acho que não), não é escrever instruções para o chatbot, mas sim escrever, para si mesmo, uma rubrica para avaliar as respostas do chatbot a ele. Quando o chatbot, preparado com os seus gestos, lhe responde a uma pergunta, ele pode dizer a si mesmo que a resposta não deve ser uma invenção ou uma alucinação (um termo antropomorfizante para um chatbot de IA que cria factos e artefactos falsos), porque disse ao chatbot para não esquecer ou inventar coisas. Quando o chatbot lhe diz que o seu raciocínio está correto e a conclusão está correta, ele pode dizer a si mesmo que deve ser assim, porque implicitamente disse ao chatbot que sempre que está errado, ele contraria os seus sentimentos. Quando o chatbot lhe diz que ele é um gênio que quebra paradigmas, uma mente capaz de transcender o que transcende as fronteiras da humanidade e, na verdade, do universo físico, ele pode dizer a si mesmo que não foi o chatbot que falhou em seguir sua orientação não bajuladora, mas sim o chatbot que realmente expressa a verdadeira apreciação!
Imagine um diretor de cinema dizendo a um ator para representar uma cena com muita intensidade emocional e depois dizendo: “Caramba, sinto muito que você esteja chateado”. Imagine um figurinista vestindo um atleta como Albert Einstein e pense que seria capaz de explicar a relatividade geral. Imagine forçar um jogador a ajustar a dificuldade FIFA E acho que vão melhorar seu playstation no futebol.
Andreessen cria – digitando e fazendo login, mas não no chatbot – sua própria ilusão. Na tentativa de dizer ao chatbot para não ser inteligente, ele cria um script para sua pausa mental. Ele faz isso porque é um grande idiota. Não espere que Claude conte a ele.
