Jacob Coxon, 27-letni brytyjski badacz, który przez trzy lata pracował w OpenAI, a następnie w Anthropic, postanowił odejść z branży sztucznej inteligencji z ostrzeżeniem, które wzbudziło alarm.
Krótko po rezygnacji z Anthropic Coxon opublikował na X wpis, że żadna z firm nie działa odpowiedzialnie i że obie pędzą pełną parą ku samodoskonalącej się superinteligencji.
Jego obawa jest jeszcze bardziej skrajna: twierdził, że osoby rozwijające te technologie szczerze wierzą, że zaawansowana AI może zabić wszystkich ludzi przed końcem tej dekady.
Według Coxona systemy te mogłyby znacznie przewyższyć ludzkie możliwości, włamywać się do systemów komputerowych, zrewolucjonizować całe dziedziny i uzyskać dostęp do zasobów oraz władzy w realnym świecie.
Jednak tym, co sprawia, że jego wypowiedzi są szczególnie uderzające, jest to, że twierdzi, iż słyszał, jak dyrektorzy i badacze prywatnie wyrażają obawy o wiele większe niż te, o których mówią publicznie.
I pojawiła się odpowiedź, która nadała jego słowom jeszcze większą wagę.
Evan Hubinger, badacz Anthropic i były przełożony Coxona, odpowiedział publicznie, że „naprawdę wierzymy”, że AI może zabić wszystkich ludzi, chociaż oszacował, że osobiście uważa to ryzyko za mniejsze niż 10%. Przyznał również, że Anthropic wciąż nie ma planu rozwiązania problemu bezpieczeństwa związanego z przyszłą superinteligencją.
Coxon twierdzi, że problemem jest wyścig między firmami: nawet ci, którzy rozumieją zagrożenia, czują, że muszą działać dalej, zanim zrobią to ich konkurenci.
I pozostaje pytanie wywołane jego ostrzeżeniem: jeśli sami twórcy tej technologii wierzą, że może stać się niebezpieczna, czy nie posuwamy się zbyt szybko?