Jacob Coxon, một nhà nghiên cứu người Anh 27 tuổi từng làm việc trong ba năm tại OpenAI và sau đó tại Anthropic, đã quyết định rời khỏi ngành trí tuệ nhân tạo với một lời cảnh báo khiến hồi chuông báo động vang lên.
Ngay sau khi từ chức tại Anthropic, Coxon đăng trên X rằng cả hai công ty đều không hành động có trách nhiệm và đang tăng tốc hết mức hướng tới một siêu trí tuệ có khả năng tự cải thiện.
Mối lo ngại của ông còn cực đoan hơn: ông tuyên bố rằng những người phát triển các công nghệ này thực sự tin rằng một hệ thống AI tiên tiến có thể giết chết toàn bộ nhân loại trước khi thập kỷ này kết thúc.
Theo Coxon, các hệ thống này có thể vượt xa năng lực con người, xâm nhập các hệ thống máy tính, cách mạng hóa toàn bộ các lĩnh vực và giành quyền tiếp cận các nguồn lực cũng như quyền lực trong thế giới thực.
Nhưng điều khiến những phát biểu của ông đặc biệt gây chú ý là ông nói rằng mình đã nghe các giám đốc điều hành và nhà nghiên cứu bày tỏ trong các cuộc trao đổi riêng những nỗi lo lớn hơn nhiều so với những gì họ nói công khai.
Và đã có một phản hồi khiến những lời của ông càng thêm sức nặng.
Evan Hubinger, một nhà nghiên cứu của Anthropic và là sếp cũ của Coxon, đã công khai phản hồi rằng “chúng tôi thực sự tin” rằng AI có thể giết chết toàn bộ nhân loại, mặc dù ông ước tính rằng cá nhân ông đánh giá rủi ro đó ở mức dưới 10%. Ông cũng thừa nhận rằng Anthropic vẫn chưa có kế hoạch giải quyết vấn đề an toàn của một siêu trí tuệ trong tương lai.
Coxon cho rằng vấn đề nằm ở cuộc đua giữa các công ty: ngay cả những người hiểu rõ các rủi ro cũng cảm thấy họ phải tiến lên trước các đối thủ cạnh tranh.
Và điều đó để lại câu hỏi được đặt ra bởi lời cảnh báo của ông: nếu chính những người xây dựng công nghệ này tin rằng nó có thể trở nên nguy hiểm, liệu chúng ta có đang đi quá nhanh?