OpenAIで3年間働き、その後Anthropicでも働いた27歳の英国人研究者Jacob Coxonは、警鐘を鳴らす警告を発し、人工知能業界を去ることを決めた。
Anthropicを辞任して間もなく、CoxonはXに、どちらの企業も責任ある行動を取っておらず、両社が自己改善型の超知能に向けて全速力で競争していると投稿した。
彼の懸念はさらに極端なものだ。彼は、こうした技術を開発している人々が、高度なAIはこの10年が終わる前に人類全員を殺す可能性があると心から信じていると主張した。
Coxonによれば、こうしたシステムは人間の能力をはるかに上回り、コンピューターシステムに侵入し、分野全体に革命を起こし、現実世界の資源や権力にアクセスできる可能性がある。
しかし、彼の発言が特に印象的なのは、幹部や研究者が公の場で表明する懸念をはるかに上回る恐れを、内々に語るのを聞いたことがあると述べている点だ。
そして、彼の言葉にさらに重みを与える反応があった。
Anthropicの研究者でCoxonの元上司でもあるEvan Hubingerは、公に、「私たちは本当に信じている」――AIが人類全員を殺す可能性があると回答した。ただし、彼自身はそのリスクを10%未満と見積もっているとも述べた。また、Anthropicには将来の超知能の安全性問題を解決する計画がまだないことも認めた。
Coxonは、問題は企業間の競争にあると主張している。リスクを理解している人々でさえ、競合他社より先に進むために開発を進めなければならないと感じているのだ。
そして、彼の警告が投げかけた問いが残る。まさにその技術を構築している人々が、それが危険なものになり得ると考えているのなら、私たちはあまりにも速く進みすぎているのだろうか？