Coxon، باحث بريطاني عندو 27 عام خدم ثلاثة سنين فـ OpenAI ومن بعد فـ Anthropic، قرر يخلي مجال الذكاء الاصطناعي بواحد التحذير اللي دق ناقوس الخطر.
وقت قصير من بعد ما استقال من Anthropic، كتب Coxon فـ X بلي لا وحدة فيهم كتتصرف بمسؤولية، وبجوجهم كيتسابقو بأقصى سرعة نحو ذكاء فائق كيقدر يطوّر راسو.
والمخاوف ديالو كتتجاوز هاد الشي بكتير: كيقول بلي الناس اللي كيطوّرو هاد التقنيات كيآمنو فعلاً باللي الذكاء الاصطناعي المتطور يقدر يقتل البشر كاملين قبل ما يسالي هاد العقد.
وحسب Coxon، هاد الأنظمة يقدرو يفوتو القدرات البشرية بزاف، ويخترقو أنظمة الحواسيب، ويقلبو مجالات كاملة، ويوصلو للموارد وللنفوذ فالعالم الحقيقي.
ولكن اللي كيزيد كيخلّي كلامو لافت هو أنه كيقول سمع مديرين وباحثين كيعبروا فالسّر على مخاوف أكبر بزاف من داكشي اللي كيقولو علانية.
وكان واحد الرد اللي عطى لكلامو وزن أكبر.
Evan Hubinger، باحث فـ Anthropic وكان هو المسؤول على Coxon من قبل، جاوب علناً وقال بلي «حنا بالصح كنآمنو» باللي الذكاء الاصطناعي يقدر يقتل البشر كاملين، مع أنه قدّر باللي هو شخصياً كيشوف هاد الخطر أقل من 10%. واعترف حتى هو بلي Anthropic مازال ما عندها حتى خطة باش تحل مشكل السلامة ديال ذكاء فائق فالمستقبل.
Coxon كيشوف بلي المشكل هو السباق بين الشركات: حتى الناس اللي فاهمين المخاطر كيحسو بلي خاصهم يتقدمو قبل المنافسين ديالهم.
ومن هنا كيبقى السؤال اللي طرحو التحذير ديالو: إلا كانو نفس الناس اللي كيبنيو هاد التكنولوجيا كيآمنو بلي تقدر تولّي خطيرة، واش ما كنمشيوش بسرعة بزاف؟