Darren Zhou 當時 25 歲,在佛羅里達州擔任金融分析師;他寫下了一些話,從未想過會因此暴露自己。

他結束了一段為期六個月的戀情,卻無法接受。他一再堅持要與她復合。她拒絕了。接著 Zhou 開始向 ChatGPT 傾訴,而在 3 月,這些對話出現了黑暗轉折:他談到性侵、自殺,最後寫下了改變一切的一句話:「如果我得不到她,誰也別想得到」。

Zhou 不知道的是,當 OpenAI 偵測到對他人造成傷害的真實風險時,會有一個團隊審查這類對話。這並非一時的宣洩:一名分析紀錄的專員描述出一種反覆演練與策劃的模式。5 月,這些訊息送達棕櫚灘郡警長辦公室,調查最終以他的逮捕及後續定罪告終。他用來談論自己執念的機器,最後成了阻止他付諸實行的那一個。

