Darren Zhou berusia 25 tahun dan bekerja sebagai analis keuangan di Florida ketika ia menulis sesuatu yang tidak pernah ia bayangkan akan membongkar dirinya.
Ia telah mengakhiri hubungan selama enam bulan dan tidak bisa menerimanya. Ia berulang kali bersikeras untuk kembali bersama dengannya. Perempuan itu berkata tidak. Kemudian Zhou mulai meluapkan perasaannya kepada ChatGPT, dan pada Maret percakapan itu berubah menjadi gelap: ia berbicara tentang kekerasan seksual, bunuh diri, dan akhirnya menulis kalimat yang mengubah segalanya: “Jika aku tidak bisa memilikinya, tidak seorang pun bisa”.
Yang tidak diketahui Zhou adalah bahwa OpenAI memiliki tim yang meninjau jenis percakapan ini ketika mendeteksi risiko nyata terjadinya bahaya terhadap orang lain. Ini bukan sekadar luapan sesaat: seorang agen yang menganalisis catatan tersebut menggambarkan adanya pola latihan dan perencanaan. Pada Mei, pesan-pesan itu sampai ke Kantor Sheriff Palm Beach County, dan penyelidikan berakhir dengan penangkapannya serta vonis berikutnya. Mesin yang ia gunakan untuk membicarakan obsesinya justru menjadi pihak yang mencegahnya mewujudkannya.
