Googleは、AIチャットボット「Gemini」が大規模な「蒸留攻撃」に直面していると発表している。

GoogleのAIチャットボット「Gemini」が大規模な情報窃盗の標的となり、攻撃者はその動作を模倣しようと、システムに大量の質問を浴びせかけている。ある攻撃では、チャットボットに10万件以上の質問が送信され、その知性を高める秘密のパターンを抽出しようとした。.

同社は木曜日、いわゆる「蒸留攻撃」が悪化していると発表しました。悪意のある攻撃者は、ジェミニの応答の背後にあるロジックを解明しようと、次々と質問を送りつけます。彼らの目的はシンプルです。Googleの技術を盗み、数十億ドルの開発費を費やすことなく、独自のAIシステムを構築または改良することです。.

Googleは、攻撃者の大半は民間企業か、労力をかけずに成功を狙う研究者だと考えている。同社の報告書。Googleの脅威インテリジェンスグループを率いるジョン・ハルトキスト氏は、カスタムAIツールを使用している中小企業も近いうちに同様の攻撃に直面する可能性が高いと述べた。

テクノロジー企業はAIチャットボットの開発に数十億ドルを投じてきました。これらのシステムの内部構造は、まるで王冠の宝石のように扱われています。こうした攻撃を阻止するための防御策が講じられていたとしても、インターネットにアクセスできる人なら誰でもAIに話しかけることができるため、主要なAIシステムは依然として容易な標的となっています。.

昨年、OpenAIは中国企業DeepSeekを非難し、同社が蒸留技術を用いてモデルを改良していると主張した。Cryptopolitan Cryptopolitan 1月30日、OpenAIが中国企業が蒸留技術を用いてAIモデルを盗用したと非難したことを受け、イタリアとアイルランドがDeepSeekを禁止したと報じた。この技術により、企業は高価な技術をわずかなコストで模倣することができる。.

攻撃者はなぜこれを行っているのでしょうか?

経済状況は厳しい。最先端のAIモデルを構築するには、数億ドル、あるいは数十億ドルもの費用がかかる。業界レポートによると、DeepSeekは蒸留法を用いてR1モデルを約600万ドルで構築したと報じられており、ChatGPT-5の開発には20億ドル以上が費やされた。モデルのロジックを盗めば、その巨額の投資はほぼゼロになる。.

グーグルによると、ジェミニへの攻撃の多くは、ジェミニが情報を「推論」または処理するのに役立つアルゴリズムを標的としていた。100年分の取引戦略や顧客情報といった機密データを使って自社のAIシステムを訓練している企業も、今や同じ脅威に直面している。.

「あなたの法学修士課程の受講生が、トレード手法に関する100年にわたる秘密の思考を習得しているとしましょう。理論的には、その一部を抽出することも可能です」とハルトキスト氏は説明した。.

国家レベルのハッカーが狩りに加わる

問題は金に飢えた企業だけにとどまらない。2024年3月に米国による制裁を受けた中国政府系ハッカー集団APT31は、昨年末にジェミニを利用して米国組織に対する実際のサイバー攻撃。

このグループは、150以上のセキュリティプログラムを実行できるオープンソースのハッキングツール「Hexstrike」とGeminiを組み合わせた。Googleの報告によると、彼らはリモートコード実行の脆弱性、ウェブセキュリティの回避方法、SQLインジェクション攻撃などを分析し、いずれも米国の特定の標的を狙ったものだった。.

Cryptopolitan以前、同様のAIセキュリティ上の懸念を取り上げ、警告していました。APT31の事例は、これらの警告が正鵠を射ていたことを示しています。

ハルトキスト氏は、2つの大きな懸念を指摘した。それは、攻撃者が最小限の人的介入で侵入プロセス全体を実行すること、そして攻撃ツールの開発を自動化することだ。「これらは、攻撃者が最小限の人的介入で大きな優位性を獲得し、侵入サイクルを進むことができる2つの方法だ」と彼は述べた。.

ソフトウェアの脆弱性が発見されてから修正が適用されるまでの期間、いわゆる「パッチギャップ」は、maticに拡大する可能性があります。組織が防御策を導入するには、多くの場合数週間かかります。AIエージェントが脆弱性をmaticに発見・テストすることで、攻撃者ははるかに迅速に行動できるようになります。.

「我々はAIの利点を活用し、人間をループからどんどん排除して、機械のスピードで対応できるようにする必要がある」とハルトクイスト氏はレジスター紙に語った。.

金銭的な損失は莫大です。IBMの2024年データ侵害レポートによると、知的財産の盗難による組織への損害はレコード1件あたり173ドルに達し、知的財産を標的とした侵害は前年比27%増加しています。AIモデルの重み付けは、この地下経済において最も価値の高い標的であり、盗まれたフロンティアモデル1つが闇市場で数億ドルの値がつく可能性があります。.

Googleはこれらのキャンペーンに関連するアカウントを閉鎖しましたが、攻撃は「世界中」から引き続き行われているとハルトキスト氏は述べています。AIがさらに強力になり、より多くの企業がAIを活用するようになるにつれて、このデジタルゴールドラッシュは激化することが予想されます。問題は、さらなる攻撃が行われるかどうかではなく、防御側が対応できるかどうかです。.

メンターシップと毎日のアイデアで戦略を磨きましょう - 当社のトレーディングプログラム