Jacob Coxon นักวิจัยชาวอังกฤษวัย 27 ปี ผู้ทำงานที่ OpenAI เป็นเวลาสามปีและต่อมาทำงานที่ Anthropic ตัดสินใจออกจากวงการปัญญาประดิษฐ์พร้อมคำเตือนที่ส่งสัญญาณเตือนภัยไปทั่ว
ไม่นานหลังจากลาออกจาก Anthropic Coxon โพสต์บน X ว่าทั้งสองบริษัทไม่ได้ดำเนินการอย่างมีความรับผิดชอบ และทั้งคู่กำลังเร่งเต็มกำลังมุ่งไปสู่ปัญญาเหนือมนุษย์ที่พัฒนาตัวเองได้
ความกังวลของเขารุนแรงยิ่งกว่านั้น: เขาอ้างว่าผู้ที่กำลังพัฒนาเทคโนโลยีเหล่านี้เชื่ออย่างจริงใจว่า AI ขั้นสูงอาจฆ่ามนุษย์ทุกคนได้ก่อนสิ้นทศวรรษนี้
ตามคำกล่าวของ Coxon ระบบเหล่านี้อาจก้าวล้ำขีดความสามารถของมนุษย์ไปไกลมาก เจาะระบบคอมพิวเตอร์ ปฏิวัติทั้งสาขา และเข้าถึงทรัพยากรและอำนาจในโลกแห่งความเป็นจริงได้
แต่สิ่งที่ทำให้คำกล่าวของเขาสะดุดใจเป็นพิเศษคือ เขาบอกว่าเคยได้ยินผู้บริหารและนักวิจัยแสดงความหวาดกลัวเป็นการส่วนตัวว่ารุนแรงกว่าที่พวกเขาแสดงออกต่อสาธารณะอย่างมาก
และก็มีคำตอบหนึ่งที่ทำให้คำพูดของเขาดูมีน้ำหนักมากยิ่งขึ้น
Evan Hubinger นักวิจัยของ Anthropic และอดีตเจ้านายของ Coxon ออกมาตอบต่อสาธารณะว่า “เราเชื่อจริง ๆ” ว่า AI อาจฆ่ามนุษย์ทุกคนได้, แม้ว่าเขาจะประเมินว่า โดยส่วนตัวแล้วเขามองว่าความเสี่ยงดังกล่าวต่ำกว่า 10% เขายังยอมรับด้วยว่า Anthropic ยังไม่มีแผนแก้ไขปัญหาด้านความปลอดภัยของปัญญาเหนือมนุษย์ในอนาคต
Coxon โต้แย้งว่าปัญหาอยู่ที่การแข่งขันระหว่างบริษัทต่าง ๆ: แม้แต่ผู้ที่เข้าใจความเสี่ยงก็รู้สึกว่าตนต้องเดินหน้าต่อก่อนคู่แข่ง
และนั่นก็ทิ้งคำถามที่คำเตือนของเขาตั้งขึ้นไว้ว่า: หากผู้คนที่กำลังสร้างเทคโนโลยีนี้เองเชื่อว่ามันอาจกลายเป็นอันตราย เรากำลังเดินหน้าเร็วเกินไปหรือไม่?