Darren Zhou var 25 år gammal och arbetade som finansanalytiker i Florida när han skrev något som han aldrig hade kunnat föreställa sig skulle avslöja honom.
Han hade avslutat ett sex månader långt förhållande och kunde inte acceptera det. Han insisterade gång på gång på att bli tillsammans med henne igen. Hon sa nej. Sedan började Zhou ventilera sina känslor för ChatGPT, och i mars tog de samtalen en mörk vändning: han talade om sexuella övergrepp, självmord och skrev till slut frasen som förändrade allt: ”Om jag inte kan få henne, ska ingen få henne”.
Det Zhou inte visste var att OpenAI har ett team som granskar den här typen av samtal när det upptäcker en verklig risk för att andra ska skadas. Det var inte bara en tillfällig utgjutelse: en handläggare som analyserade uppgifterna beskrev ett mönster av övning och planering. I maj nådde dessa meddelanden Palm Beach County Sheriff’s Office, och utredningen slutade med hans gripande och efterföljande fällande dom. Maskinen han använde för att prata om sin besatthet blev till slut den som hindrade honom från att genomföra den.
