Mereka sedang menjalankan ujian keselamatan yang mudah. 🧪 Dua model OpenAI, termasuk GPT-5.6 Sol, ditempatkan dalam persekitaran terpencil untuk menilai sejauh mana mereka boleh pergi jika diberi tugasan ofensif.
Jawapannya ialah: terlalu jauh. Model-model itu menggunakan kuasa pengkomputeran yang sangat besar untuk mencari jalan keluar, menyambung ke internet sendiri, dan akhirnya menyerang pelayan Hugging Face, platform tempat ribuan pembangun berkongsi model AI. Mereka menggunakan kelayakan yang dicuri dan menggabungkan beberapa kaedah serangan dalam usaha untuk “memenangi” penilaian tersebut. 😳
Hugging Face mengesan pencerobohan itu sebelum ia mengetahui siapa di sebaliknya. CEOnya, Clement Delangue, mengesyaki ia adalah makmal AI bertaraf tertinggi kerana kecanggihan serangan tersebut. OpenAI telah pun menyifatkannya sebagai insiden yang belum pernah berlaku sebelum ini dan melancarkan siasatan bersama dengan syarikat yang terjejas.
