Darren Zhou 25 tuổi và làm chuyên viên phân tích tài chính ở Florida khi anh viết điều mà anh chưa bao giờ tưởng tượng sẽ tố giác mình.
Anh đã kết thúc một mối quan hệ kéo dài sáu tháng và không thể chấp nhận điều đó. Anh hết lần này đến lần khác khăng khăng muốn quay lại với cô ấy. Cô ấy nói không. Sau đó, Zhou bắt đầu trút bầu tâm sự với ChatGPT, và vào tháng 3 những cuộc trò chuyện đó chuyển sang hướng đen tối: anh nói về tấn công tình dục, tự sát, và cuối cùng viết câu nói đã thay đổi mọi thứ: “Nếu tôi không thể có cô ấy, sẽ không ai có được cô ấy”.
Điều Zhou không biết là OpenAI có một nhóm xem xét những loại cuộc trò chuyện này khi phát hiện nguy cơ thực sự gây hại cho người khác. Đó không phải là một lần trút giận thoáng qua: một nhân viên phân tích hồ sơ đã mô tả một mô hình diễn tập và lên kế hoạch. Vào tháng 5, những tin nhắn đó đã đến Văn phòng Cảnh sát trưởng Quận Palm Beach, và cuộc điều tra kết thúc bằng việc anh bị bắt và sau đó bị kết án. Cỗ máy mà anh dùng để nói về nỗi ám ảnh của mình cuối cùng lại là thứ ngăn anh thực hiện nó.
