曾在 OpenAI 工作三年、之後又任職於 Anthropic 的 27 歲英國研究員 Jacob Coxon，決定離開人工智慧產業，並發出了一項引發警鐘的警告。
Coxon 從 Anthropic 辭職後不久，在 X 上發文表示，兩家公司都沒有負責任地行事，而且都在全速朝著自我改進的超級智慧前進。
他的擔憂更加極端：他聲稱，開發這些技術的人真心相信，先進的 AI 可能在這十年結束前殺死全人類。
Coxon 表示，這些系統可能遠遠超越人類的能力、駭入電腦系統、徹底改變整個領域，並取得現實世界中的資源與權力。
但讓他的言論格外引人注目的是，他表示自己曾聽到高階主管與研究人員私下表達出遠比公開說法更深的恐懼。
而且，有一項回應讓他的話更具分量。
Anthropic 研究員、也是 Coxon 前上司的 Evan Hubinger 公開回應表示，「我們確實相信」 AI 可能殺死全人類，儘管他估計自己認為這項風險低於 10%。他也承認，Anthropic 目前仍沒有解決未來超級智慧安全問題的計畫。
Coxon 認為，問題在於公司之間的競賽：即使是了解風險的人，也覺得自己必須在競爭對手之前繼續前進。
而這也留下了他的警告所提出的問題：如果正是建造這項技術的人相信它可能變得危險，我們是否走得太快了？