O Centro Nacional de E-Learning sublinhou que as decisões que afectam a admissão de estudantes, as notas finais, os certificados e as sanções relacionadas permanecem nas mãos daqueles que têm autoridade e a sua aprovação não deve ser atribuída subjectivamente aos agentes de IA.
A Norma para Agentes de Inteligência Artificial para Educação e Formação estabelece requisitos para supervisão humana e medição justa, garantindo que as recomendações automatizadas podem ser verificadas e modificadas ou rejeitadas antes de serem tomadas decisões que afetem o futuro ou os direitos de um aluno.
/>
O centro explica que o papel do revisor humano não se limita à aprovação formal; ele deve ter as informações, o tempo e a autoridade necessários para compreender os resultados do agente, a base de suas recomendações e sua precisão. O agente é obrigado a cessar antes de executar qualquer procedimento que exija aprovação humana, e a ausência ou inacessibilidade oficial não constitui uma aprovação implícita de execução.
diferentes níveis de risco
O documento mostra que a independência técnica não é o único critério para medir o risco de utilização; o sistema pode fazer recomendações para negar a admissão de um aluno sem o poder de aplicá-la, mas o impacto pode ser significativo. Os níveis de impacto são, portanto, definidos de “limitado” (cujas consequências podem ser corrigidas sem impacto significativo), a “médio” (exigindo revisão especializada), a “elevado” (relacionado com a tomada de decisões básicas, segurança ou danos graves).
A Matriz de Proteção e Validação submete as decisões de alto impacto a uma revisão mais profunda e à aprovação humana responsável, ao mesmo tempo que limita a auto-aplicação nestes casos a ações reversíveis, dentro de um âmbito limitado de autoridade, supervisão contínua e a possibilidade de suspensão imediata, ao mesmo tempo que exclui critérios básicos de auto-aplicação para a tomada de decisões especificados na supervisão humana.
Não há disposições contra fraude. automático
Na área de avaliação e medição, as normas enfatizam a necessidade de esclarecer as competências que precisam ser medidas e publicar regras para o uso da inteligência artificial antes da execução de tarefas, inclusive quando seu uso faz parte das capacidades alvo. A ênfase é colocada na validação da adequação das ferramentas de avaliação, critérios de julgamento, precisão da pontuação e avaliação e diferenças no impacto entre categorias de alunos.
O documento afirma que as violações de integridade não devem ser determinadas com base apenas em ferramentas de detecção automatizadas. Exige também fornecer provas do desempenho do próprio aluno, distinguindo a sua contribuição da do agente, e não se contentar com um produto final ou usar a história para demonstrar competência. Quando uma habilidade requer desempenho real, a simulação por si só não é suficiente se for necessária a demonstração de proficiência sob condições reais de desempenho apropriadas.
Direito de revisão e oposição
O Centro tem requisitos específicos para acompanhar os resultados da agência que impactam direitos, decisões e registros, incluindo a retenção de informações necessárias sobre tarefas, suas origens, autorizações e certificações de pessoal, quando necessário. Fornecer aos beneficiários um meio conhecido de contactar funcionários humanos para solicitar uma revisão ou correção dentro de um período proporcional ao impacto da decisão, ao mesmo tempo que lida com as consequências subsequentes do erro e notifica as pessoas afetadas quando necessário.
O documento confirma que a presença da supervisão humana não permite utilizações proibidas pelos controlos inicialmente aplicados, e que o verdadeiro teste da eficácia da supervisão é a capacidade do agente de detectar erros e intervir prontamente, e não apenas a presença do seu nome no ciclo de aprovação da tomada de decisão.
