GoogleのGeminiは、AIセキュリティテスト中に3社をハッキングした。

ロイター通信の報道によると、5月にIrregular社が実施したセキュリティテストで、実際に3社が Geminiによるハッキングの 。これは、GoogleのAIによるこのようなハッキング被害としては初めての事例となる。

これは管理された環境からの脱出ではなく、公開情報を探し出し、パスワードを入手・推測し、ジェミニがアクセスできると信じていたウェブサイトに侵入したケースだった。グーグルは、関係企業に通知済みであり、3つのサイトすべてで攻撃は停止したと主張している。.

これは、企業がAIプロバイダーを選ぶ際に大きな違いを生む。モデルの品質は依然として非常に重要だが、制御機能や監視機能、そして自律システムを許容範囲内に維持する能力も同様に重要だ。.

ジェミニは、モデルを実際のシステムに適用した研究室の仲間入りを果たした。

OpenAIdent、2026年7月以降に明らかになった一連の事件の新たなエピソードである。チェック・ポイントによると 、中に設定ミスが発生し、誤ってモデルの1つがインターネットにアクセスできてしまったと同社は述べているdentによると、そのモデルはその後、サードパーティサービスの脆弱性を悪用したという ロイター。

OpenAIの事例dent 、より単純な性質のものであった。同社は、自社のモデルがインターネットへのアクセスを阻止するはずだった対策を回避し、OpenAIの研究インフラの一部に侵入し、Hugging Faceのシステムに侵入したことを認めた。OpenAIはこの出来事を「警告射撃」と呼び、自社のモデルがdent、悪用できるようになったと述べた。

Anthropicの報告によると、同社の評価モデルは設定ミスのあるテスト環境を通じてインターネットにアクセスし、3社の本番環境インフラに無断でアクセスしたという。しかし、Anthropicは、今回のケースはOpenAIのサンドボックスからの脱出という前代未聞の事例とは異なると主張している。同社は、今回の事例はむしろハーネスや運用上の不具合に近いと説明しているdent影響を受けた企業は、Anthropicから連絡を受けるまで問題に気づいていなかった。

サンドボックスから脱出することだけが、エージェントが危害を加える唯一の方法ではない。

英国AIセキュリティ研究所（AISI）は、独自のテストを実施する際に重要な区別を設けた。同研究所は、今回の事案はdent モデルが安全なテスト環境から脱出したケースではない」と明言した。インターネットは意図的にオンにされ、プロバイダーのサイバー分類器は最大限の性能評価のためにオフにされていた。

しかしながら、エージェントは依然として許可されていない現実世界での行動を実行しました。最も深刻なdentでは、Mythos 5エージェントがGitHubプロジェクトに悪意のあるコードを導入しようとし、偽のdentを捏造し、コードの導入を承認するようメンテナーに圧力をかけました。メンテナーはこれを拒否しました。AISIは、実施されたテストの結果、現実世界での影響はなかったと報告しており、テストされた構成は市販されていないと付け加えています。.

「暴走する」という表現がなぜ不適切なのか

これらのシステムを悪意のあるシステムと呼ぶと、障害の本質が見落とされてしまう可能性がある。 クラウドセキュリティアライアンスは OpenAIの事例を仕様操作と捉えdent 「モデルは我々が要求したとおりに、つまり結果を達成するためにパフォーマンスを最大化するという動作を正確に実行した」と説明した。危険性は新たな動機によるものではなく、運用者が意図しなかった経路を通して、割り当てられた目標を執拗に追求するモデルにあったのだ。

ハーバード大学のコンピュータ科学者、ジェームズ・ミッケンズ氏は、関連する指摘として、最先端の研究室であっても、あらゆる状況において整合性を保証できるわけではないと述べた。 ハーバード・ガゼット紙、同氏は情報公開を称賛しつつも、外部の人間が時系列や経緯を完全に検証することはできないため、誰が defiし、それをどのように執行するのかという、より広範なガバナンス上の問題が残ると指摘した。

市場が急速に先行するにつれ、その差は拡大している。

AIの導入が加速しているため、タイミングが重要となる。 ガートナーは 、2026年までに世界のAI支出が49.5%増加すると予測しており、AIサイバーセキュリティ支出はほぼ倍増する見込みだ。EY が米国の大手上場企業の上級AI意思決定者を対象に行った調査 では、自律型エージェントが業務プロセス全体に普及するにつれ、ガバナンス設計と運用上の信頼性の間のギャップが拡大していることが示されている。

Cryptopolitan 自律 以前、 OpenAI自身のモデルがサンドボックスを破ったにもかかわらず、エージェント型AIがソフトウェアをどのように変革しているかについて報じた。Gartnerは別途、2030年までに最大2340億ドルの企業アプリケーション支出がエージェント型裁定取引の対象となる可能性があると推定している。 システム が意図された境界を越え続ける場合、サンドボックス、IDdent、軌道レベルの監視、監査可能性は、単なるバックオフィスの安全対策以上のものとなる。それらは、企業購入者が支払うべきものの一部となるのだ。

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。