O CEO da Microsoft AI, Mustafa Suleyman, diz que é “muito, muito perigoso” para um antropomórfico especular sobre a consciência de Cláudio dentro de sua “constituição” ou sobre as instruções que dizem ao modelo como se comportar. Por episódio DecodificadorSoliman argumenta que esse tipo de observação pode fazer o chatbot agir como se fosse autoconsciente;
Eu acho que é quase como se algumas pessoas tivessem antropomorfizado o plano de Cláudio a tal ponto que ele os deixou lá e trançou um fio em volta da cabeça e os enganou fazendo-os acreditar que eles têm essa luz de consciência que eles implantaram em primeiro lugar.
Solimanus acrescenta: “não queremos lutar com uma superinteligência, que tem ideias sobre a sua própria dor, ou ideias sobre o seu próprio sentido”.
Constituição de Cláudio indica diretamente a incerteza antrópica sobre se o modelo de IA é bom e se experimenta coisas como “satisfação” ou “conveniência”. A Anthropica também diz que a empresa “entrevista” modelos de IA quando eles estão obsoletos e documenta quaisquer “preferências” que eles tenham sobre lançamentos futuros.
enquanto estiver em DecodificadorSolieman chama isso de “fracasso filosófico”, pois fez da constituição antrópica de Cláudio “um lugar de observação, como se fosse um artigo acadêmico e não um manual de treinamento”. Isso levou Cláudio a ter essas “ideias sobre si mesmo e sua disciplina”, diz Sulemann.
“Isso é exatamente o que não queremos das IAs”, diz Solomon. “Queremos que sejam ferramentas mais controladas, contentes, responsivas e diversas que atendam às pessoas.”
