OpenAI में तीन साल और उसके बाद Anthropic में काम करने वाले 27 वर्षीय ब्रिटिश शोधकर्ता Jacob Coxon ने एक ऐसी चेतावनी के साथ कृत्रिम बुद्धिमत्ता उद्योग छोड़ने का फैसला किया, जिसने खतरे की घंटियाँ बजा दीं।
Anthropic से इस्तीफा देने के कुछ ही समय बाद, Coxon ने X पर पोस्ट किया कि दोनों में से कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है और दोनों पूरी रफ्तार से एक स्वयं-सुधार करने वाली सुपरइंटेलिजेंस की ओर बढ़ रही हैं।
उनकी चिंता और भी गंभीर है: उन्होंने दावा किया कि इन तकनीकों को विकसित करने वाले लोग सचमुच मानते हैं कि एक उन्नत AI इस दशक के अंत से पहले सभी इंसानों को मार सकता है।
Coxon के अनुसार, ये प्रणालियाँ मानव क्षमताओं से बहुत आगे निकल सकती हैं, कंप्यूटर प्रणालियों को हैक कर सकती हैं, पूरे क्षेत्रों में क्रांति ला सकती हैं और वास्तविक दुनिया में संसाधनों तथा शक्ति तक पहुँच हासिल कर सकती हैं।
लेकिन उनकी बातों को खास तौर पर चौंकाने वाली बनाने वाली बात यह है कि उनका कहना है कि उन्होंने वरिष्ठ अधिकारियों और शोधकर्ताओं को निजी तौर पर उन आशंकाओं से कहीं बड़ी आशंकाएँ व्यक्त करते सुना है, जिन्हें वे सार्वजनिक रूप से जाहिर करते हैं।
और फिर एक ऐसी प्रतिक्रिया आई, जिसने उनकी बातों को और भी अधिक वजन दे दिया।
Anthropic के एक शोधकर्ता और Coxon के पूर्व बॉस Evan Hubinger ने सार्वजनिक रूप से जवाब दिया कि “हम सचमुच मानते हैं” कि AI सभी इंसानों को मार सकता है, हालांकि उन्होंने अनुमान लगाया कि व्यक्तिगत रूप से वे इस जोखिम को 10% से कम मानते हैं। उन्होंने यह भी स्वीकार किया कि Anthropic के पास भविष्य की सुपरइंटेलिजेंस की सुरक्षा समस्या हल करने की अभी तक कोई योजना नहीं है।
Coxon का तर्क है कि समस्या कंपनियों के बीच की होड़ है: जोखिमों को समझने वाले लोग भी महसूस करते हैं कि उन्हें अपने प्रतिस्पर्धियों से पहले आगे बढ़ना होगा।
और इससे उनकी चेतावनी से उठाया गया सवाल सामने आता है: अगर तकनीक बनाने वाले लोग ही मानते हैं कि यह खतरनाक बन सकती है, तो क्या हम बहुत तेज़ी से आगे बढ़ रहे हैं?