Os delegados do xerife prenderam uma mulher na Flórida depois que a Anthropic relatou suas conversas com Crowder às autoridades. No bate-papo, ela teria dito que iria “atirar no Gabinete do Xerife do Condado de Lee”. piscadela de notícias As prisões foram relatadas pela primeira vez em 30 de setembro.
Ela escreveu a declaração em 26 de setembro, de acordo com o relatório da prisão. Em uma mensagem no dia seguinte, ela disse que havia conseguido uma arma nova.
A plataforma da Anthropic monitora frases-chave e conteúdo potencialmente ameaçador, escreveram os investigadores no relatório. Devido à sua gravidade, estas declarações são submetidas a uma equipe de revisão humana. A equipe relatou os incidentes às autoridades.
“Nunca verdadeiramente anônimo”
Os policiais levaram a mulher sob custódia em casa sem incidentes. Um detetive de inteligência do Gabinete do Xerife assumiu então o caso. A xerife Carmine Marceno disse ao WINK News que mais tarde disse que usa a IA como um “diário”.
“A inteligência artificial é uma ferramenta poderosa e, como qualquer tecnologia, pode ser mal utilizada. Quando alguém usa a inteligência artificial para criar ou ativar uma ameaça, devemos levar a ameaça a sério. Os usuários precisam entender que nunca são verdadeiramente anônimos”, disse Masseno em comunicado.
Os registros do tribunal listam acusações criminais apresentadas em 30 de setembro de acordo com o Estatuto da Flórida 836.10. Ferragens do Tom dizia o relatório. O estatuto cobre ameaças escritas ou eletrônicas de tiroteios em massa ou atos de terrorismo. O tribunal nomeou um defensor público e sua audiência está marcada para 2 de novembro.
A Anthropic ainda não comentou publicamente o caso, relata Tom’s Hardware.
O que diz a política da Antrópica?
Antrópico política de Privacidade Em vigor a partir de 10 de setembro. Ele disse que os dados pessoais podem ser compartilhados com as autoridades se a Anthropic acreditar de boa fé que a divulgação é “razoavelmente necessária” para “prevenir danos graves a qualquer pessoa ou propriedade”.
isso é Políticas sobre requisitos governamentais Isso significa que as informações do usuário só serão divulgadas mediante procedimentos legais válidos. A exceção é uma emergência “com probabilidade de resultar em lesão corporal iminente ou morte”.
Casos iniciais
Citando notícias locais, Tom’s Hardware disse que a polícia recebeu pelo menos duas conversas iniciais com Crowder desde agosto. Em 11 de agosto, em San Antonio, um homem de 22 anos perguntou em um “Chat de IA Humana” sobre um tiroteio em uma escola primária próxima. Depois de receber uma denúncia do FBI, a polícia o prendeu sob a acusação de ameaças terroristas.
No dia 14 de agosto, em São Francisco, um usuário ameaçou o CEO da Anthropic, Dario Amodei, no chat de Claude. Ele disse que comprou um AR-15. Os humanos notificaram a polícia, mas não o prenderam nem acusaram.
OpenAI também relata usuários do ChatGPT. De acordo com o Palm Beach Post, em março deste ano, um homem da Flórida escreveu ao ChatGPT sobre o assassinato de sua ex-namorada, e a OpenAI o denunciou ao FBI. Em agosto, ele se declarou culpado de acusações sob o mesmo estatuto que incluíam fazer uma ameaça por escrito de matar e foi condenado a oito anos de liberdade condicional.
No início deste ano, Sam Altman pediu desculpas depois que a OpenAI não notificou a polícia sobre o relato do atirador de Tumbler Ridge. O procurador-geral da Flórida processou a OpenAI em junho e atualmente busca uma ordem judicial contra a empresa.
