대런 저우는 플로리다에서 금융 분석가로 일하던 25세였을 때, 자신을 드러내게 될 것이라고는 전혀 상상하지 못한 글을 썼다.
그는 6개월간의 관계를 끝냈지만 이를 받아들일 수 없었다. 그는 그녀와 다시 만나야 한다고 거듭 주장했다. 그녀는 거절했다. 그러자 저우는 ChatGPT에 속마음을 털어놓기 시작했고, 3월 그 대화는 어두운 방향으로 흘렀다. 그는 성폭행과 자살에 대해 말했고, 마침내 모든 것을 바꾼 문장을 썼다: 「내가 그녀를 가질 수 없다면, 아무도 가질 수 없어」.
저우가 몰랐던 것은 OpenAI가 타인에게 실제 해를 끼칠 위험을 감지할 때 이런 유형의 대화를 검토하는 팀을 두고 있다는 사실이었다. 그것은 일시적인 감정 표출이 아니었다. 기록을 분석한 담당자는 리허설과 계획의 패턴이 있었다고 설명했다. 5월, 그 메시지들은 팜비치 카운티 보안관 사무소에 전달됐고, 수사는 그의 체포와 이후 유죄 판결로 끝났다. 자신의 집착에 대해 이야기하기 위해 사용했던 기계가 결국 그가 이를 실행에 옮기는 것을 막은 셈이 됐다.
