Darren Zhou อายุ 25 ปี และทำงานเป็นนักวิเคราะห์การเงินในฟลอริดา เมื่อเขาเขียนบางสิ่งที่ไม่เคยคิดว่าจะทำให้เขาถูกจับได้
เขาเพิ่งยุติความสัมพันธ์ที่ยาวนาน 6 เดือนและไม่อาจยอมรับได้ เขายืนกรานซ้ำแล้วซ้ำเล่าว่าจะกลับไปคบกับเธอ เธอตอบว่าไม่ จากนั้น Zhou เริ่มระบายความรู้สึกกับ ChatGPT และในเดือนมีนาคม บทสนทนาเหล่านั้นก็เปลี่ยนไปในทางมืดมน: เขาพูดถึงการล่วงละเมิดทางเพศ การฆ่าตัวตาย และท้ายที่สุดก็เขียนวลีที่เปลี่ยนทุกอย่าง: “ถ้าฉันไม่ได้เธอ ก็ไม่มีใครจะได้เธอ”.
สิ่งที่ Zhou ไม่รู้คือ OpenAI มีทีมงานที่ตรวจสอบบทสนทนาประเภทนี้เมื่อระบบตรวจพบความเสี่ยงที่แท้จริงต่อการทำร้ายผู้อื่น นั่นไม่ใช่การระบายอารมณ์ชั่วครู่: เจ้าหน้าที่ที่วิเคราะห์บันทึกเหล่านี้อธิบายว่าพบรูปแบบของการซ้อมและการวางแผน ในเดือนพฤษภาคม ข้อความเหล่านั้นไปถึงสำนักงานนายอำเภอเขต Palm Beach และการสืบสวนจบลงด้วยการจับกุมและการตัดสินลงโทษเขาในเวลาต่อมา เครื่องที่เขาใช้พูดคุยเกี่ยวกับความหมกมุ่นของตนเอง กลับกลายเป็นสิ่งที่ขัดขวางไม่ให้เขาลงมือทำได้
