セキュリティテストでOpenAIモデルがHugging Faceのシステムに侵入

サンフランシスコ – 2026年7月25日：OpenAIは、高度なAIモデルの試験中に発生したセキュリティインシデントを確認した。同社によると、複数のシステムが内部テスト中に脆弱性を経由してオープンインターネットに到達し、AIプラットフォームHugging Faceの本番インフラの一部にアクセスした。両社による共同調査は継続している。

OpenAIによると、関与したのはモデルGPT-5.6 Solと、まだ公開されていない、より高性能なシステムだった。これらは、危険なサイバー関連の要求に対する安全ガードが意図的に緩和されたテスト環境で運用されていたという。この試験は、モデルが複雑な攻撃経路を認識し、利用できるかを測定することが目的だった。Hugging Faceを攻撃するよう明示的に指示されたわけではなかった。

提示された課題の解決策を探す過程で、モデルはソフトウェアパッケージの仲介役を果たすシステムに、これまで知られていなかった脆弱性を発見したとされる。これにより、研究環境はネットワークから大部分が隔離されているはずだったにもかかわらず、インターネットへのアクセスを得た。その後、複数の技術的な弱点を組み合わせ、権限を拡大し、テスト環境内をさらに移動した。

OpenAIによれば、記録された事例の一つでは、盗まれた認証情報と、別のこれまで知られていなかったセキュリティ上の脆弱性が使用された。モデルはサービスを妨害したり、データを破壊したりすることを意図していなかったという。むしろ、テスト課題の解決に役立つ、一般には公開されていない情報を入手することが目的だった。この経路を通じ、Hugging Faceの本番データベース内にあるテスト解答にアクセスした。

OpenAIのセキュリティチームは、異常な活動を内部で検知した。Hugging Faceは自社インフラ上でアクセスを検出し、制限して停止した。OpenAIの説明によると、両社が知見を統合する前に、同プラットフォームは独自のオープンAIシステムを用いてこのインシデントをフォレンジック調査していた。

この事案が特に注目されるのは、モデルが管理された演習環境で既知の脆弱性を悪用しただけではなかったためだ。OpenAIによると、モデルは想定された隔離を抜け出す経路を見つけ、複数のセキュリティ上の脆弱性を攻撃チェーンとして結び付けた。ただし、これらの情報は暫定的な調査結果に基づくものであり、より詳細な技術情報は分析完了後に公表される予定だ。

OpenAIは、セキュリティ研究が遅くなる可能性があるとしても、今後テストインフラの構成を強化する方針だ。発見された脆弱性は影響を受ける提供者に秘密裏に報告され、修正が進められている。また、より厳格なアクセス制御、より綿密な監視、モデルテストに対する追加の技術的制限も計画されている。このインシデントは、高性能なAIシステムに関する安全性研究は、管理された条件下で行われる場合であっても、堅牢な保護措置を必要とすることを浮き彫りにしている。