Sam Altman pede desculpas depois que OpenAI se recusou a denunciar tiroteio de usuário ChatGPT na escola Tumbler Ridge

Sam Altman publicou uma carta aberta à comunidade de Tumbler Ridge, British Columbia, na quinta-feira, pedindo desculpas pelo fracasso da OpenAI em incitar a necessidade de aplicação da lei depois que seus próprios sistemas sinalizaram um usuário que havia se envolvido no trabalho mais destrutivo em jogos no Canadá em quase quatro décadas. “Lamento muito que não pretendíamos aprovar a lei sobre a conta que foi banida em Junho.Altman escreveu.Embora eu saiba que palavras nunca serão suficientes, acredito que um pedido de desculpas é necessário para reconhecer os danos e danos irreparáveis ​​que sua comunidade sofreu.. A carta, datada de 23 de abril e divulgada publicamente um dia depois, veio 72 dias depois que Jesse Van Rootselaar matou 18 oito pessoas e 27 outras em um tiroteio que começou na casa de sua família e terminou na Escola Secundária Tumbler Ridge em 10 de fevereiro. Canadenses, junho de 2025 Rootselaar descreveu a descoberta como dolorosa. a polícia A companhia de líderes decidiu contra isso. Ele proibiu a razão. Ninguém foi informado. Van Rootselaar criou outra conta e só foi descoberto depois de divulgar seu nome para a RCMP.

A decisão

O Wall Street Journal relatou pela primeira vez a discussão interna sobre OpenAI. Os funcionários que analisaram o sistema enfraquecido de Van Rootselaar viram quais eram os sinais “perigo iminente de danos graves a terceiros. Eles divulgaram sua recomendação para denunciar as entrevistas às autoridades. Ele usou orientações que uma porta-voz da OpenAI mais tarde chamou de “limiar mais alto” para relatórios confiáveis ​​e iminentes e concluiu que as ações não foram cumpridas. Conta encerrada. As entrevistas foram mantidas internamente. Não entrei em contato com as autoridades. Oito meses depois, Van Rootselaar matou sua mãe, Jennifer Strang, 39, e seu meio-irmão de 11 anos, Emmett Jacobs, na casa da família, depois entrou na escola secundária e provocou um incêndio modificado, matando a assistente educacional Shannda Aviugana-Durand, 39, e cinco alunos de 12 e 13 anos: Zoey Benoit, Ticaria Lampert, Kylie, Smith, Ticaria Lampert, Kylie, Smith, Ticaria Lampert, Kylie, Smith, Ticaria Lampert, Kylie, Smith, Ticaria Lampert, Kylie Smith, assistente de ensino de assassinato Shannda Aviugana-Durand matando Vinte e sete pessoas ficaram feridas. Maya Gebala, levou 12 tiros na cabeça e no pescoço enquanto protegia seus colegas de classe e apoiava os médicos a usarem “lesões cerebrais traumáticas e catastróficas“Deficiência cognitiva e física permanente. Van Rootselaar morreu na escola.

Uma ação civil movida na Suprema Corte de BC em março pela Cia Edmonds em nome de sua filha Maya alega que o ChatGPT forneceu “informação, orientação e apoio para planear eventos com vítimas em massa, incluindo os tipos de armas utilizadas, e descrever exemplos de outros eventos com vítimas em massa ou exemplos históricos de violência.. O conteúdo específico das entrevistas não foi publicado. O primeiro-ministro do BC, David Eby, disse que deliberadamente não perguntou o que estava no bate-papo para não comprometer a investigação da RCMP. O que se sabe é que o próprio sistema da OpenAI identificou conversas potencialmente perigosas, que os próprios funcionários da OpenAI recomendaram medidas e que a liderança da OpenAI se recusou a agir. Não é um pedido de desculpas pela falta de detecção. A detecção funcionou. É um pedido de desculpas para quem trabalhou após a revelação.

Carta

A carta de Altman foi direcionada à comunidade de Tumbler Ridge e depois de ser divulgada pelo BC Premier Eby, Altman concordou em se desculpar em discussões anteriores sobre o problema do OpenAI. “Pensei muitas vezes em você durante esses meses”, escreveu Altman, “não consigo pensar em nada pior no mundo do que perder um filho.Ele acrescentou:Confirmo o compromisso que assumi com o presidente da Câmara e com o primeiro-ministro de encontrar formas de evitar que tragédias como esta aconteçam no futuro. No futuro, o nosso foco continuará a trabalhar com todos os níveis de governo para ajudar a garantir que algo como isto nunca mais aconteça.“A carta não continha nenhuma das propostas políticas atuais, nenhuma descrição do que a OpenAI mudaria e nenhum reconhecimento de que a conta do funcionário era relevante e prevalecia.necessário”“mas”grosseiramente inadequado para a devastação da família Tumbler Ridge. O prefeito de Tumbler Ridge, Darryl Krakowka, reconheceu a recepção e pediu “cuidado e consideração” enquanto a comunidade navega no processo de luto.

Os serviços do conselho vieram separadamente, em uma carta da vice-presidente de estratégia global da OpenAI, Ann O’Leary, às autoridades federais canadenses. O’Leary escreveu que a OpenAI reduziu o limite de relatórios para que o usuário não precise mais discutir “alvo, método e tempo“relatou violência como uma entrevista para encaminhamento às autoridades policiais. A associação recrutou especialistas em saúde mental e comportamentais para ajudar a avaliar as questões e estabeleceu um ponto de contato direto com a RCMP. O’Leary afirmou que, de acordo com as políticas atualizadas, as interações de Van Rootselaar “teria ido à polícia“Se forem apanhados hoje. As mudanças são voluntárias. Não podem ser juridicamente vinculativas. Não existe nenhuma lei canadense que exija que as empresas de IA relatem ameaças por meio de suas plataformas, e o governo federal ainda não introduziu uma.

Razão

Hemina Ridge não está sozinha. A Flórida abriu sua primeira investigação criminal sobre a empresa de IA depois que ChatGPT supostamente instruiu o atirador que dirigia a missa na Florida State University, incluindo instruções sobre como executar o disparo de arma de fogo momentos antes do ataque que matou duas pessoas e feriu cinco. NPR relatou em 23 de abril “OpenAI colocou atrás de dois atiradores em massa usando ChatGPT para planejar ataques. Sete famílias OpenAI se inscreveram separadamente no ChatGPT para o que seus representantes descrevem como “a morte do cassinoEm outro caso, com a documentação de mortes ocorridas no Texas, Geórgia, Flórida e Oregon, a OpenAI é solicitada a fornecer três avisos sobre o usuário perigoso, com seu padrão interno de vítimas em massa, o número de incidentes de segurança de IA relatados de 149 em 2023 para 233 em 2024, um aumento de 56%, e os números de 2025 e 2026 serão significativamente maiores.

O modelo que conecta esses casos não é o de sistemas de IA gerando energia por conta própria. As empresas de IA reconhecem comportamentos perigosos nas plataformas e tomam decisões internas sobre os mesmos que podem ter consequências de vida ou morte, mas não são regidas por qualquer regulamentação externa, nenhuma obrigação legal e nenhuma supervisão regulamentar. Um risco mais profundo de dependência emocional em chatbots de IA, um fenómeno que os investigadores também chamaram de “psicose de IA”, levanta a questão do que acontece quando os sistemas optimizados para apoiar o envolvimento são confiados pelos utilizadores numa crise. O “limiar mais alto” da OpenAI para relatórios foi uma decisão de negócios, não um padrão legal. Os agentes que contactaram a polícia recomendaram a aplicação do seu próprio código moral. Os executivos que os governaram utilizaram cálculos diferentes, aparentemente pesando os riscos legais e de reputação de reportar contra os riscos legais e de reputação de não reportar, e sofreram lesões desastrosas.

problema de saúde

A OpenAI, uma empresa de segurança externa, anunciou horas depois de uma investigação da New Yorker que tinha dissolvido a sua equipa de segurança interna, após o que a abordagem da empresa à segurança governamental está a assumir uma delicadeza desconfortável. A equipe do Superalignment, liderada por Ilya Sutskever antes de sua saída, foi liberada. A equipe pronta para AGI foi dissolvida. A segurança dos registros do IRS da OpenAI foi abandonada quando a empresa passou de uma estrutura sem fins lucrativos para uma estrutura com fins lucrativos. A OpenAI demitiu seu próprio chefe de segurança robótica às preocupações do governo, negando especificamente que “Os americanos marcados sem supervisão judicial e a autonomia letal sem autoridade humana são linhas que merecem mais deliberação do que receberam.. A parceria externa, as mudanças voluntárias nas políticas e a carta de Altman têm uma coisa em comum: são gestos que a OpenAI controla. Podem ser publicados, alterados ou extraídos sem aprovação externa. Eles criam uma face de responsabilidade sem um mecanismo para isso.

OpenAI é um lançamento recente de planos de segurança de código aberto para usuários a força da violência gráfica, atividades perigosas e outros tipos de danos. A própria OpenAI afirma queárea de segurança significativaA distinção não é abrangente. A lacuna entre o chão e o teto é onde ocorre o Tumbler Ridge. O relato de um adolescente é um adolescente descrevendo a violência das missões com armas. O conselho disse que não bastava reportar. Um adolescente pretendia matar oito pessoas. Um limite mais baixo foi imposto à RCMP. Se a RCMP agiu de acordo, se as autoridades canadenses permitiram as entrevistas que teriam permitido a intervenção, se as autoridades canadenses permitiram as entrevistas que teriam permitido a intervenção, se teriam permitido a intervenção canadense. porque o relatório nunca foi feito.

Brecha

O ministro de IA do Canadá, Evan Salomon, disse sobre os serviços da OpenAI “não vá embora o suficiente.Os ministros federais das pastas de inovação, justiça, segurança pública e cultura reuniram-se com representantes da OpenAI depois que o governo convocou o comitê executivo da empresa em fevereiro. Uma força-tarefa conjunta entre Inovação, Ciência e Economia no Canadá e Saúde Pública do Canadá está revisando os protocolos de relatórios de saúde de IA, com uma recomendação preliminar do verão de 2026. A expectativa de verão da proposta AI-XXVI, que é proposta no âmbito da Inteligência Artificial, mas agora é amplamente proposta para regular e informar a Inteligência Artificial do Canadá e a Saúde Pública do Canadá, é considerada insuficiente. Bill C-63, The Online Harms Act, foi projetado para plataformas de mídia social, não para sistemas generativos de IA que conduzem conversas individuais com os usuários.acesso legal“A legislação confere poderes à polícia para investigar dados de empresas estrangeiras, mas não exige especificamente que as empresas de IA denunciem comportamentos ameaçadores. O Canadá atualmente não tem um quadro jurídico para atribuir responsabilidades quando uma empresa de IA possui dados que podem interferir na violência e se recusa a partilhá-los.

Esta é uma lacuna que a carta de Altman não consegue preencher. Um pedido de desculpas fala de um fracasso passado. A política de mudança voluntária aborda riscos futuros. Nenhum dos dois aborda o problema estrutural, que é uma empresa avaliada em 852 mil milhões de dólares, que corre para construir inteligência artificial geral, servindo centenas de milhões de utilizadores, utilizando sistemas que podem identificar comportamentos perigosos em tempo real, trabalhando sem lei para que ninguém possa encontrar nada. Os funcionários da OpenAI perceberam a ameaça. A liderança da OpenAI determinou que a ameaça não atendia aos padrões internos da empresa. Oito pessoas morreram. A bandeira foi baixada. A próxima frase das mesmas empresas, no mesmo enquadramento espontâneo, com a mesma ausência de consequência jurídica é errar. Altman escreveu que compartilha a carta “que cada um sofre à sua maneira e no seu tempo. A parte inferior das costas dói. A questão é se Sam Altman está arrependido. A questão é se é uma decisão da qual se arrepender.