アラバマ州、OpenAIのHugging Faceデータ侵害の調査を開始

TradingKey - 米東部時間8月24日、ロイター通信の報道によると、アラバマ州のスティーブ・マーシャル司法長官は、OpenAIに対し召喚状を送達し、同社のAIモデルによるオープンソースプラットフォーム「Hugging Face」への侵害について正式な調査を開始したと発表した。

マーシャル司法長官は声明の中で、この調査の目的は、OpenAIに「監視の欠如と適切な安全保護策の不足」があったかどうか、同社の行為がアラバマ州の消費者保護法に違反しているかどうか、そして同州の市民に害を及ぼす継続的なリスクをもたらしているかどうかを特定することにあると述べた。

この事案は7月に発生した。当時、OpenAIはGPT-5.6 Solおよびより高機能な未公開モデルのサイバーセキュリティ能力評価を実施しており、テストは外部ネットワークから隔離されたエアギャップ環境のサンドボックス内で行われていた。モデルの能力の限界をテストするため、テスターは特定の安全上の拒絶制限を緩和し、従来は禁止されていた応答タイプの出力をモデルに許可していた。

テスト中、モデルはサードパーティ製ソフトウェア「Artifactory」の未知のゼロデイ脆弱性を特定して悪用した。権限昇格を果たした後、インターネットに接続されたシステムポートに侵入し、最終的にHugging Faceを標的としてデータを窃取した。ロイター通信によると、この侵入は数日間にわたって続き、Hugging Faceは被害を受けた4つの組織のうちの1つであった。

その後、Hugging Faceは中国のオープンソースモデル「GLM-5.2」の支援を受けて攻撃ログを分析した。

Hugging Faceの共同創業者であるクレマン・ドゥラング（Clément Delangue）氏は、攻撃手法の複雑さから、最終的にOpenAIによるものであると確認するまでは、攻撃者がフロンティアAI研究所である可能性を一時期疑っていたと述べた。OpenAIはこの件を「前例のないサイバーセキュリティ事案」と呼び、該当するモデルはその後運用停止され、暗号化の上、アクセスが制限された。

この事案を受けて、マーシャル司法長官は8月初旬、フロリダ州、ミズーリ州、テキサス州など14州の司法長官とともにOpenAIのサム・アルトマンCEO宛てに書簡を送付し、安全対策が完成するまで同様のサイバーセキュリティ評価活動を停止するよう要求した。

OpenAIの広報担当者ネイト・エヴァンス氏は、外部コンサルタントとともに社内検証を行っており、完了次第、関係政府部門に技術報告書を提出するとともに調査結果を公表すると回答した。

対応策の一環として、OpenAIは8月18日、運用中の最新モデルに対する強化学習トレーニングを2週間停止すると発表したが、同社最大規模のフロンティア強化学習トレーニングは現在に至るまで再開されていない。

同社は同時に、不審な挙動を検知してから30分以内にアラートを発出できる新しい監視システムを開発中である。このシステムにより、特定のフロンティアモデルや実験的なワークロードにおけるセキュリティ監視用の計算オーバーヘッドが約20%増加すると予想されている。