OpenAI’da üç yıl boyunca, ardından Anthropic’te çalışan 27 yaşındaki Britanyalı araştırmacı Jacob Coxon, tehlike çanlarını çaldıran bir uyarıyla yapay zekâ sektöründen ayrılmaya karar verdi.
Anthropic’ten istifa ettikten kısa süre sonra Coxon, X’te her iki şirketin de sorumlu davranmadığını ve ikisinin de kendi kendini geliştiren bir süper zekâ yönünde tam gaz ilerlediğini yazdı.
Endişesi daha da ileri boyutta: Coxon, bu teknolojileri geliştirenlerin ileri düzey bir yapay zekânın bu on yılın sonundan önce tüm insanları öldürebileceğine gerçekten inandıklarını iddia etti.
Coxon’a göre bu sistemler insan yeteneklerini açık ara aşabilir, bilgisayar sistemlerine sızabilir, tüm alanlarda devrim yaratabilir ve gerçek dünyadaki kaynaklara ve güce erişebilir.
Ancak onun açıklamalarını özellikle çarpıcı kılan, yöneticilerin ve araştırmacıların kamuoyu önünde dile getirdiklerinden çok daha büyük korkuları özel olarak dile getirdiklerini duyduğunu söylemesi.
Ve sözlerine daha da fazla ağırlık kazandıran bir yanıt geldi.
Anthropic’te araştırmacı ve Coxon’un eski patronu Evan Hubinger, kamuoyuna verdiği yanıtta «gerçekten inanıyoruz» ki yapay zekâ tüm insanları öldürebilir, ancak kendi değerlendirmesine göre bu riskin 10% altında olduğunu belirtti. Anthropic’in gelecekteki bir süper zekânın güvenlik sorununu çözmeye yönelik hâlâ bir planı olmadığını da kabul etti.
Coxon, sorunun şirketler arasındaki yarış olduğunu savunuyor: riskleri anlayanlar bile rakiplerinden önce ilerlemek zorunda olduklarını hissediyor.
Ve bu da onun uyarısının gündeme getirdiği şu soruyu ortaya çıkarıyor: bu teknolojiyi geliştirenlerin ta kendileri onun tehlikeli hâle gelebileceğine inanıyorsa, çok mu hızlı ilerliyoruz?