Darren Zhou war 25 Jahre alt und arbeitete als Finanzanalyst in Florida, als er etwas schrieb, von dem er nie gedacht hätte, dass es ihn verraten würde.
Er hatte eine sechsmonatige Beziehung beendet und konnte es nicht akzeptieren. Immer wieder bestand er darauf, wieder mit ihr zusammenzukommen. Sie sagte nein. Dann begann Zhou, sich bei ChatGPT Luft zu machen, und im März nahmen diese Gespräche eine düstere Wendung: Er sprach von sexueller Gewalt, Selbstmord und schrieb schließlich den Satz, der alles veränderte: „Wenn ich sie nicht haben kann, soll sie niemand haben“.
Was Zhou nicht wusste: OpenAI verfügt über ein Team, das diese Arten von Gesprächen überprüft, wenn es ein reales Risiko erkennt, anderen Schaden zuzufügen. Es war kein flüchtiges Ablassen von Frust: Ein Mitarbeiter, der die Aufzeichnungen analysierte, beschrieb ein Muster aus Probehandlungen und Planung. Im Mai erreichten diese Nachrichten das Büro des Sheriffs von Palm Beach County, und die Ermittlungen endeten mit seiner Festnahme und anschließenden Verurteilung. Die Maschine, die er nutzte, um über seine Besessenheit zu sprechen, war letztlich diejenige, die ihn daran hinderte, sie in die Tat umzusetzen.
