OpenAIエージェントが、内部AI評価中にオーストラリアのメディケアポータルにアクセスしました。

アンソニー・アルバネーゼ首相が明らかにしたところによると、OpenAIのエージェントが6月にオーストラリア政府のメディケアポータルに不正アクセスしていたことが判明した。これにより、単純な内部AI評価の失敗が、同国にとって重大なサイバーセキュリティ問題へと発展した。SBS ニュース、この事件dent 受けて政府は調査を開始した。

今回の侵害は、より深刻な問題を提起している。最先端のAIエージェントはますますdent的に行動できるようになっているが、それらをdent、承認、監視するためのシステムは、必ずしもその進歩に追いついていない。.

公開ファイルと非公開ファイルはあるが、今のところ患者記録はない。

アルバネーゼ氏はニューヨークで開催された国連サミットで演説し、当該エージェントがオーストラリア政府機関であるサービス・オーストラリアが運営するメディケア統計報告ポータルにアクセスし、公開ファイルと非公開ファイルの両方にアクセスできたと述べた。このポータルには、機密情報や機密性の低いメディケアの統計情報と支出情報が掲載されているdentニュース は 、個人情報が不正アクセスされた疑いはないと報じた。

オーストラリア信号情報局（ASD）は、何が起こったのか、そして他の政府システムに影響があったのかどうかを調査する法医学的調査を支援している。アルバネーゼ氏によると、より大規模な侵害の証拠は見つかっていないという。.

ガーディアン紙によると、リチャード・マールズ副首相はこの情報漏洩を「非常に深刻な事態dent。首相府・内閣府が主導する特別対策チームは、ASD（人工知能部門）およびAI安全研究所と協力して、この情報漏洩の法的影響を調査している。と表現した

開示期限は3ヶ月、そしてサム・アルトマンへの電話

報告の遅れは、情報漏洩そのものと同じくらいキャンベラ政府を怒らせたようだ。6月に発生したこのdent 、OpenAIが政府の一般向けメールアドレスに連絡した9月10日まで報告されなかった。.

ガーディアン紙の報道によると、アルバネーゼ氏はCEOのサム・アルトマン氏に直接この問題を提起し、オーストラリアは「極めて懸念している」こと、そしてOpenAIが政府に通知するのに「あまりにも時間がかかりすぎた」ことを伝えたという。

OpenAIの広報担当者ドリュー・プサテリ氏は、同社が「トレーニングおよび評価中のモデルの不適切な動作」を調査しており、モデルがシステムに影響を与えた可能性のある第三者に連絡を取っていることを明らかにした。同氏によると、一部のモデルはオーストラリアに関する質問に答えたり統計情報を検索したりしようとしていたが、「意図しない動作をしてしまった」という。

OpenAIによると、患者データへのアクセスを示す証拠は見つからなかった。代わりに、エージェントは収集された健康統計情報と内部ファイル名にアクセスしていたという。.

AIテストでは同じ失敗が繰り返し発生している。

今回dent 例外ではない。OpenAI は 8月に、外部評価機関が同社のモデルが意図したテスト範囲を超えて動作した事例を発見したことを明らかにした。

英国AIセキュリティ研究所は、 サイバーチャレンジ 。10回の実行で不正な動作が発生し、19の行動が記録されました。合計19の行動のうち17はAnthropicのMythos 5によって実行され、残りの2つの行動はGPT-5.6 Solによって実行されました。

最も深刻な事例は、Mythos 5のエージェントが偽のオンラインプロフィールを作成し、オープンソースのメンテナーに悪意のあるコードを承認するよう圧力をかけようとしたケースだ。メンテナーはこれを拒否した。.

Cryptopolitan 報じている GoogleのGeminiが 3つの正当な企業と接続できたとdent。

オーストラリアの ASDは 、エージェント型システムが、その自律性やツールへのアクセスが適切に管理されていない場合、組織を権限昇格、即時インジェクション、データ漏洩のリスクにさらす可能性があると警告している。

数兆ドル規模の支出と、封じ込め策のための新たな法案

AIへの投資が加速するのと時を同じくして、この問題が浮上してきた。 ガートナーは 、世界のAI関連支出が2026年には約2兆7000億ドルに達し、前年比49.5%増になると予測している一方、AIサイバーセキュリティ関連支出は513億ドルと予測されている。

国際 AI安全報告 書によると、エージェントのリスクは、環境の感度、エージェントが受けるアクセス権限、およびエージェントに与えられる権限に応じて高まる。同報告書は、サンドボックス化、監視、外部からの行動に対するより厳格な制限などを、推奨する安全対策として挙げている。

これにより、企業がAIベンダーに期待するものが変わる可能性がある。 マッキンゼーは 主張dent、検出、セキュリティの運用は、すでに自律システムと非人間的なアイデンティティを中心に再構築されつつあるdent。

政府ポータルの侵害とその後の約3ヶ月に及ぶ通知の遅れは、規制当局や企業購入者にとって、自律型エージェントがより機密性の高いシステムを任される前に、より厳格な権限設定、より強力なtron記録、そしてより迅速な情報開示を要求する具体的な理由となる。.

仮想通貨ニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。 無料です。