OpenAI debateu contactar a polícia sobre chats ligados a suspeito de tiroteio no Canadá
Um suspeito de 18 anos, ligado a um tiroteio em Tumbler Ridge, teve conversas no ChatGPT que alarmaram a OpenAI e foram banidas em junho de 2025. A empresa discutiu avisar as autoridades antes do ataque, mas nao o fez, segundo o Wall Street Journal.
Resumo
Um jovem de 18 anos, Jesse Van Rootselaar, que alegadamente matou oito pessoas num tiroteio em massa em Tumbler Ridge, no Canada, tera usado o ChatGPT de formas que alarmaram a OpenAI, segundo o Wall Street Journal.
As conversas sobre violencia armada foram sinalizadas por ferramentas internas de monitorizacao de uso indevido e a conta foi banida em junho de 2025. A equipa discutiu se deveria contactar as autoridades canadianas, mas acabou por nao o fazer.
Depois do incidente, a OpenAI diz que contactou proativamente a Royal Canadian Mounted Police e que continuara a apoiar a investigacao.
Na pratica
O caso expõe como sistemas de detecao de abuso podem identificar conteudos preocupantes e levar a medidas como bloqueios, sem que isso implique automaticamente um contacto com as autoridades.
Segundo a OpenAI, a decisao de reportar depende de criterios internos e, neste caso, a atividade nao os teria cumprido antes do ataque. A empresa afirma que comunicou informacao relevante as autoridades apos a tragedia.
O artigo refere ainda outros sinais no rasto digital do suspeito, incluindo a criacao de um jogo no Roblox que simularia um tiroteio em massa num centro comercial e publicacoes sobre armas no Reddit.
O que falta saber
Nao sao descritos os criterios concretos usados para decidir quando reportar casos as autoridades, nem que tipo de informacao pode ser partilhada em cada situacao.
Tambem nao e detalhado o conteudo especifico das conversas que levaram ao alerta interno e ao banimento, nem se houve outros contactos com entidades locais antes do ataque.
Fica igualmente por esclarecer que mecanismos adicionais foram considerados para reduzir risco quando surgem sinais de violencia, para alem do bloqueio do utilizador.
Porque importa
- Mostra os limites e trade-offs entre moderacao, privacidade e prevencao de violencia.
- Coloca pressao sobre politicas claras e consistentes para escalamento a autoridades.
- Reforca o debate sobre como plataformas lidam com sinais de risco em tempo util.