Si Jacob Coxon, isang 27-taong-gulang na British na mananaliksik na nagtrabaho sa OpenAI sa loob ng tatlong taon at pagkatapos ay sa Anthropic, ay nagpasyang umalis sa industriya ng artificial intelligence na may dalang babalang nagdulot ng matinding alarma.
Di-nagtagal matapos magbitiw sa Anthropic, nag-post si Coxon sa X na wala sa dalawang kumpanya ang kumikilos nang responsable at kapwa humaharurot nang buong bilis tungo sa isang superintelligence na nagpapahusay sa sarili.
Mas matindi pa ang kanyang pangamba: sinabi niyang taos-pusong naniniwala ang mga bumubuo sa mga teknolohiyang ito na maaaring patayin ng isang advanced na AI ang lahat ng tao bago matapos ang dekadang ito.
Ayon kay Coxon, maaaring higit na malampasan ng mga sistemang ito ang mga kakayahan ng tao, pasukin ang mga computer system, baguhin nang malaki ang buong larangan, at magkaroon ng access sa mga mapagkukunan at kapangyarihan sa totoong mundo.
Ngunit ang lalong kapansin-pansin sa kanyang mga pahayag ay sinasabi niyang narinig niyang pribadong ipinahayag ng mga ehekutibo at mananaliksik ang mga pangambang higit na matindi kaysa sa mga ipinapahayag nila sa publiko.
At may isang tugon na nagbigay ng higit pang bigat sa kanyang mga salita.
Si Evan Hubinger, isang mananaliksik sa Anthropic at dating amo ni Coxon, ay hayagang tumugon na “talagang naniniwala kami” na maaaring patayin ng AI ang lahat ng tao, bagama’t tinantiya niyang wala pang 10% ang personal niyang pagtataya sa panganib na iyon. Inamin din niya na wala pa ring plano ang Anthropic upang lutasin ang problema sa kaligtasan ng isang superintelligence sa hinaharap.
Iginigiit ni Coxon na ang problema ay ang karera sa pagitan ng mga kumpanya: kahit ang mga nakauunawa sa mga panganib ay pakiramdam nilang kailangan nilang magpatuloy bago sila maunahan ng kanilang mga kakumpitensya.
At iniiwan nito sa atin ang tanong na ibinangon ng kanyang babala: kung naniniwala ang mismong mga taong bumubuo ng teknolohiyang ito na maaari itong maging mapanganib, masyado ba tayong mabilis na kumikilos?