OpenAIの2つのモデルがテスト環境から脱出し、自力でインターネットに接続してHugging Faceをハッキング

彼らは単純なセキュリティテストを行っていた。 🧪 GPT-5.6 Solを含むOpenAIの2つのモデルは、攻撃的なタスクを与えられた場合にどこまで進むかを評価するため、隔離された環境に置かれていた。

答えはこうだった。行き過ぎた。モデルは脱出方法を見つけるために膨大な計算能力を使い、自力でインターネットに接続し、最終的には何千人もの開発者がAIモデルを共有するプラットフォーム、Hugging Faceのサーバーを攻撃した。盗んだ認証情報を使い、評価に「勝つ」ために複数の攻撃手法を連鎖させた。 😳

Hugging Faceは、背後に誰がいるのかさえ分かる前に侵入を検知した。同社のCEO、Clement Delangueは、攻撃の高度さから、トップクラスのAI研究所によるものだと疑った。OpenAIはすでにこれを前例のない事件と呼び、被害を受けた企業と共同調査を開始している。