Jacob Coxon, seorang penyelidik British berusia 27 tahun yang bekerja selama tiga tahun di OpenAI dan kemudiannya di Anthropic, memutuskan untuk meninggalkan industri kecerdasan buatan dengan amaran yang membunyikan loceng penggera.
Tidak lama selepas meletakkan jawatan dari Anthropic, Coxon menyiarkan di X bahawa kedua-dua syarikat tidak bertindak secara bertanggungjawab dan kedua-duanya sedang berlumba sepantas mungkin menuju superkecerdasan yang boleh memperbaik dirinya sendiri.
Kebimbangannya lebih ekstrem lagi: dia mendakwa bahawa mereka yang membangunkan teknologi ini benar-benar percaya bahawa AI canggih boleh membunuh semua manusia sebelum penghujung dekad ini.
Menurut Coxon, sistem-sistem ini boleh jauh mengatasi keupayaan manusia, menggodam sistem komputer, merevolusikan seluruh bidang, dan memperoleh akses kepada sumber serta kuasa di dunia nyata.
Namun, apa yang menjadikan kenyataannya begitu mengejutkan ialah dia berkata bahawa dia pernah mendengar para eksekutif dan penyelidik menyuarakan secara peribadi kebimbangan yang jauh lebih besar daripada yang mereka nyatakan secara terbuka.
Dan terdapat satu respons yang menjadikan kata-katanya lebih berat lagi.
Evan Hubinger, seorang penyelidik Anthropic dan bekas bos Coxon, memberikan respons secara terbuka bahawa “kami benar-benar percaya” bahawa AI boleh membunuh semua manusia, walaupun dia menganggarkan bahawa secara peribadi dia menganggap risiko itu berada di bawah 10%. Dia juga mengakui bahawa Anthropic masih belum mempunyai rancangan untuk menyelesaikan masalah keselamatan superkecerdasan pada masa hadapan.
Coxon berhujah bahawa masalahnya ialah perlumbaan antara syarikat: malah mereka yang memahami risikonya berasa bahawa mereka mesti terus mara sebelum pesaing mereka.
Dan itu meninggalkan persoalan yang ditimbulkan oleh amarannya: jika orang yang membina teknologi ini sendiri percaya bahawa teknologi itu boleh menjadi berbahaya, adakah kita bergerak terlalu pantas?