em um Postagem longa no XO CEO da Microsoft explica a sua opinião sobre os perigos representados pelos modelos de inteligência artificial altamente avançados e como combatê-los. Nadella disse que não podemos mais aceitar um mundo em que a inteligência artificial é vista como “um conjunto aninhado de caixas pretas” cujas sugestões e ações só podemos aceitar ou rejeitar. Ele pediu um sistema mais transparente que pudesse conter, observar modelos e deixar “evidências invioláveis e legíveis por humanos”.
Muitas de suas recomendações são consistentes com o que ouvimos de outros profissionais do setor: divulgação oportuna de incidentes, auditorias independentes, dados verificáveis e contenção. Neste último ponto, ele parece ir mais longe do que alguns outros na área, dizendo:
Temos que assumir que o modelo está comprometido e contê-lo desde o início. Pense nisso como um freio de emergência. O pessoal autorizado deve sempre poder pausar ou fechar o modelo no meio da tarefa. Modelos mais avançados exigirão tecnologia de contenção mais avançada, que precisamos padronizar.
Infelizmente, Nadella também se refere à inteligência artificial como “superinteligência” ao longo do artigo.
