Jacob Coxon, un cercetător britanic în vârstă de 27 de ani care a lucrat timp de trei ani la OpenAI și ulterior la Anthropic, a decis să părăsească industria inteligenței artificiale cu un avertisment care a tras un semnal de alarmă.
La scurt timp după ce și-a dat demisia de la Anthropic, Coxon a publicat pe X că niciuna dintre companii nu acționează responsabil și că ambele se îndreaptă cu toată viteza către o superinteligență care se auto-îmbunătățește.
Îngrijorarea sa este și mai extremă: el a susținut că cei care dezvoltă aceste tehnologii cred cu sinceritate că o IA avansată ar putea ucide toți oamenii înainte de sfârșitul acestui deceniu.
Potrivit lui Coxon, aceste sisteme ar putea depăși cu mult capacitățile umane, ar putea sparge sistemele informatice, ar putea revoluționa domenii întregi și ar putea obține acces la resurse și putere în lumea reală.
Însă ceea ce face declarațiile sale deosebit de tulburătoare este că spune că i-a auzit pe directori și cercetători exprimând în privat temeri mult mai mari decât cele pe care le exprimă public.
Iar apoi a existat un răspuns care a dat și mai multă greutate cuvintelor sale.
Evan Hubinger, cercetător la Anthropic și fostul șef al lui Coxon, a răspuns public că „chiar credem” că IA ar putea ucide toți oamenii, deși a estimat că, personal, consideră că acest risc este sub 10%. El a recunoscut, de asemenea, că Anthropic încă nu are niciun plan pentru a rezolva problema siguranței unei viitoare superinteligențe.
Coxon susține că problema este cursa dintre companii: chiar și cei care înțeleg riscurile simt că trebuie să meargă mai departe înaintea concurenților lor.
Iar asta lasă întrebarea ridicată de avertismentul său: dacă tocmai oamenii care construiesc tehnologia cred că aceasta ar putea deveni periculoasă, nu ne mișcăm prea repede?