Darren Zhou was 25 jaar oud en werkte als financieel analist in Florida toen hij iets schreef waarvan hij zich nooit had kunnen voorstellen dat het hem zou verraden.
Hij had een relatie van zes maanden beëindigd en kon dat niet accepteren. Hij drong er keer op keer op aan om weer met haar samen te komen. Zij zei nee. Vervolgens begon Zhou zijn hart te luchten bij ChatGPT, en in maart namen die gesprekken een duistere wending: hij sprak over seksueel geweld, zelfmoord en schreef uiteindelijk de zin die alles veranderde: “Als ik haar niet kan hebben, kan niemand haar hebben”.
Wat Zhou niet wist, was dat OpenAI een team heeft dat dit soort gesprekken beoordeelt wanneer het een reëel risico op schade aan anderen detecteert. Het was geen vluchtige uiting: een medewerker die de gegevens analyseerde, beschreef een patroon van repeteren en plannen. In mei bereikten die berichten het kantoor van de sheriff van Palm Beach County, en het onderzoek eindigde met zijn arrestatie en daaropvolgende veroordeling. De machine die hij gebruikte om over zijn obsessie te praten, bleek uiteindelijk degene te zijn die voorkwam dat hij die kon uitvoeren.
