OpenAI erwog Meldung an kanadische Polizei – Monate vor dem Schulangriff
TL;DR
OpenAI hat offenbart, dass das Unternehmen im Juni letzten Jahres den Account von Jesse Van Rootselaar durch interne Missbrauchserkennung identifizierte – wegen Hinweisen auf die Förderung gewalttätiger Aktivitäten.
Key Points
- Monate später beging Van Rootselaar eines der schlimmsten Schulattentate in der kanadischen Geschichte.
- ChatGPT-Entwickler OpenAI wägte damals ab, ob die kanadischen Behörden informiert werden sollten – kam dem aber offenbar nicht nach.
- Der Fall wirft grundlegende Fragen über die Verantwortung von KI-Unternehmen beim Umgang mit sicherheitsrelevanten Signalen aus Nutzerdaten auf.
Nauti's Take
OpenAI hatte die Signale – und handelte nicht. Wenn KI-Systeme verdächtige Aktivitäten erkennen, brauchen Unternehmen klare Protokolle, wann Behörden eingeschaltet werden müssen.
Dass dieser Prozess offenbar versagt hat, muss die gesamte Branche zum Nachdenken bringen – nicht erst nach der nächsten Tragödie.
Quellen
27.2.26