OpenAI에서 3년간 근무한 뒤 Anthropic에서도 일했던 27세의 영국인 연구원 Jacob Coxon은 경종을 울리는 경고와 함께 인공지능 업계를 떠나기로 했다.
Anthropic을 사임한 직후 Coxon은 X에 어느 회사도 책임감 있게 행동하지 않고 있으며, 두 회사 모두 스스로 개선되는 초지능을 향해 전속력으로 질주하고 있다고 게시했다.
그의 우려는 더욱 극단적이다. 그는 이 기술을 개발하는 사람들이 고도로 발전한 AI가 이번 10년이 끝나기 전에 모든 인간을 죽일 수 있다고 진심으로 믿고 있다고 주장했다.
Coxon에 따르면 이러한 시스템은 인간의 능력을 훨씬 뛰어넘고, 컴퓨터 시스템을 해킹하며, 전체 분야를 혁신하고, 현실 세계의 자원과 권력에 접근할 수 있다.
하지만 그의 발언이 특히 눈길을 끄는 이유는 그가 임원들과 연구원들이 공개적으로 표명하는 것보다 훨씬 큰 두려움을 사석에서 표현하는 것을 들었다고 말하기 때문이다.
그리고 그의 말에 더욱 무게를 실어 준 반응이 나왔다.
Anthropic의 연구원이자 Coxon의 전 상사인 Evan Hubinger는 공개적으로 「우리는 정말로 믿는다」—AI가 모든 인간을 죽일 수 있다고, 다만 자신은 개인적으로 그 위험을 10% 미만으로 본다고 추정했다. 그는 또한 Anthropic에 미래의 초지능이라는 안전 문제를 해결할 계획이 아직 없다는 점도 인정했다.
Coxon은 문제가 기업들 간의 경쟁에 있다고 주장한다. 위험을 이해하는 사람들조차 경쟁자보다 먼저 나아가야 한다고 느낀다는 것이다.
그리고 그의 경고가 던진 질문은 이것이다. 기술을 개발하는 바로 그 사람들이 기술이 위험해질 수 있다고 믿는다면, 우리는 너무 빠르게 나아가고 있는 것일까?