Jacob Coxon, peneliti Inggris berusia 27 tahun yang bekerja selama tiga tahun di OpenAI dan kemudian di Anthropic, memutuskan untuk meninggalkan industri kecerdasan buatan dengan peringatan yang memicu alarm.
Tak lama setelah mengundurkan diri dari Anthropic, Coxon menulis di X bahwa tidak satu pun dari kedua perusahaan itu bertindak secara bertanggung jawab dan bahwa keduanya berpacu dengan kecepatan penuh menuju superinteligensi yang mampu mengembangkan dirinya sendiri.
Kekhawatirannya bahkan lebih ekstrem: ia mengklaim bahwa mereka yang mengembangkan teknologi ini sungguh-sungguh percaya bahwa AI canggih dapat membunuh semua manusia sebelum akhir dekade ini.
Menurut Coxon, sistem-sistem ini dapat jauh melampaui kemampuan manusia, meretas sistem komputer, merevolusi seluruh bidang, serta memperoleh akses ke sumber daya dan kekuasaan di dunia nyata.
Namun, yang membuat pernyataannya sangat mencolok adalah bahwa ia mengatakan telah mendengar para eksekutif dan peneliti secara pribadi mengungkapkan kekhawatiran yang jauh lebih besar daripada yang mereka sampaikan di depan publik.
Dan ada tanggapan yang membuat ucapannya semakin berbobot.
Evan Hubinger, peneliti Anthropic dan mantan atasan Coxon, menanggapi secara terbuka bahwa “kami benar-benar percaya” bahwa AI dapat membunuh semua manusia, meskipun ia memperkirakan bahwa secara pribadi ia menganggap risiko tersebut berada di bawah 10%. Ia juga mengakui bahwa Anthropic masih belum memiliki rencana untuk mengatasi masalah keamanan superinteligensi di masa depan.
Coxon berpendapat bahwa masalahnya adalah perlombaan antarperusahaan: bahkan mereka yang memahami risikonya merasa harus terus maju sebelum para pesaing mereka.
Dan hal itu menyisakan pertanyaan yang ditimbulkan oleh peringatannya: jika orang-orang yang justru membangun teknologi ini percaya bahwa teknologi tersebut dapat menjadi berbahaya, apakah kita bergerak terlalu cepat?