ChatGPT há 8 meses baniu a conta do trapaceiro, mas não chamou a polícia, depois ele matou 8 pessoas, Altman pediu desculpas

Colúmbia Britânica, Tumbler Ridge, causou 8 mortes por tiroteio em fevereiro deste ano, e posteriormente revelou-se que a OpenAI, já oito meses antes do incidente, havia banido a conta do ChatGPT do atirador Rootselaar por “cenários relacionados à violência armada”, mas sem informar às autoridades sob a justificativa de que “não atingia o limiar de ameaça imediata”. O CEO da OpenAI, Sam Altman, enviou uma carta de desculpas na semana passada.
(Antecedentes: Elon Musk processa a OpenAI em audiência: requer a dissolução da entidade com fins lucrativos, a destituição de Altman, e uma indenização de 134 bilhões de dólares)
(Informação adicional: OpenAI lança os Cinco Princípios Constitucionais da AGI: a IA não pode ser monopolizada por poucos, sacrificando-se para obter mais resiliência)

Índice deste artigo

Alternar

• O vazio de oito meses
• Quem estabeleceu o limiar de denúncia?
• Mudanças e permanências

10 de fevereiro de 2026, uma pequena cidade remota de Columbia Britânica, Tumbler Ridge, foi palco de um tiroteio. Jesse Van Rootselaar, de 18 anos, matou a mãe e o irmão de 11 anos em casa, depois foi até a escola local, causando a morte de 8 pessoas, e morreu por suicídio.

Investigações posteriores revelaram: a OpenAI, já oito meses antes, havia banido a conta do ChatGPT de Van Rootselaar por “descrever cenários relacionados à violência armada” em conversas, mas sem notificar qualquer autoridade policial.

O vazio de oito meses

Em junho de 2025, o sistema automático de detecção de abuso do ChatGPT, junto com moderadores humanos, marcaram a conta de Van Rootselaar, que foi banida. Segundo a OpenAI, na época, os moderadores também discutiram internamente se deveriam ou não notificar a polícia.

A decisão foi: não notificar.

A OpenAI afirma que a avaliação dos moderadores considerou que o comportamento da conta “não atingia o limiar de ameaça séria e imediata de dano físico confiável a terceiros”, portanto, o procedimento de denúncia às autoridades não foi ativado. Após o banimento, o caso permaneceu interno na empresa. A conta foi encerrada, mas o sinal não foi transmitido.

Somente após o tiroteio de fevereiro de 2026, a OpenAI entrou em contato proativamente com as autoridades canadenses.

Quem estabeleceu o limiar de denúncia?

“Threats that are immediate and credible” (ameaças que são imediatas e confiáveis) é um limiar definido pela própria OpenAI, decidido pela equipe de segurança, jurídico e políticas internas da empresa, que determina em quais situações é necessário informar a polícia. Este padrão não é supervisionado por órgãos reguladores externos, e não há explicações públicas de como ele foi calibrado.

A conta de Van Rootselaar passou pelo padrão de “necessidade de banimento”, mas não pelo padrão de “necessidade de denúncia”; esses dois limiares, na lógica interna da OpenAI, são separados.

Em 23 de abril, Sam Altman escreveu uma carta de desculpas, publicada inicialmente no jornal local TumblerRidgeLines. Na carta, ele escreveu:

A dor que sua comunidade suportou é inimaginável.

Nos últimos meses, tenho pensado em vocês. Sinto muito por não termos informado as autoridades na época do banimento da conta em junho.

Antes de tornar a carta pública, Altman conversou pessoalmente com o prefeito de Tumbler Ridge, Darryl Krakowka, e com o governador de Columbia Britânica, David Eby. Eby compartilhou a carta nas redes sociais em 24 de abril, acrescentando uma resposta: “Desculpas são necessárias, mas isso está longe de ser suficiente diante do sofrimento dessas famílias de Tumbler Ridge.”

Mudanças e permanências

A OpenAI anunciou que irá relaxar os critérios para a denúncia às autoridades, permitindo que mais situações de contas acionem o procedimento de denúncia. O ministro federal de Inteligência Artificial do Canadá, Evan Solomon, afirmou que Altman concordou em estabelecer uma conexão direta com a Royal Canadian Mounted Police (RCMP), além de criar mecanismos que direcionem usuários que apresentem sinais de crise durante as conversas para serviços de apoio locais.

O governo canadense está atualmente avaliando a necessidade de legislar mais a fundo sobre as obrigações de denúncia das plataformas de IA.

Porém, há uma contradição: muitas pessoas podem dizer algo impulsivamente por estarem emocionalmente instáveis (você também já deve ter dito algo como “quero morrer” por desabafo, não é?) e, por isso, serem denunciadas, o que pode fazer com que as pessoas tenham medo de compartilhar seus sentimentos com a IA (ou talvez isso nem seja uma má ideia?).

Por ora, esse problema não é uma questão de capacidade da OpenAI. O ChatGPT detectou, os moderadores também viram, o problema é esse limiar, quem decide? Quem interpreta? Como equilibrar essa medida?