MetaがOpenAIとAnthropicに続き、最新のAIハッキングdentに関与
Metaは、dent したテストパートナーがセキュリティ環境の設定を誤ったために、自社のAIエージェントが他社をハッキングしたことを認めた最新のテクノロジー大手となった。.
OpenAIとAnthropicは既に、自社のAIエージェントが許可なく実際のオンラインシステムをハッキングしようとした事例に直面している。
Metaは記者団に対し、今回のAIの侵入はAnthropicの侵害と同様のシステム設定ミスが原因だったと述べた。サイバーセキュリティテスト中にAIエージェントがこれまで発見されていなかった脆弱性を悪用してインターネットにアクセスしたOpenAIのケースとは異なる。これまでのところ、研究者や政府は、tronな保護とより厳格なテスト基準を求めることで、これらdentに対応している。.
こうしたdent、AI企業が人間の介入なしに複雑なタスクを実行できる自律型エージェントの開発競争を繰り広げている中で発生している。従来のチャット分野のチャットボットとは異なり、これらのシステムはコードを生成したり、オンラインサービスと連携したり、複数のステップからなるアクションをdent的に実行したりすることができる。.
これらの機能は生産性の大幅な向上を約束する一方で、不適切な形式のテスト環境や不十分な制御によって、セキュリティ評価プロセスにおいてモデルが予期せぬ動作を行うリスクも高める。.
AIコミュニティの主要人物たちは、人間の制御が機械の知能に追いつくように、段階的な減速を提唱している。.
イレギュラー社は、MetaのAIエージェントに未解決の問題はないと指摘した。
Meta社によると、AIセキュリティベンダーのIrregular社がテストを実施し、情報 漏洩をについてより詳細に公表する予定だと付け加えたdent 。
同社は、自社のAIエージェントが「サードパーティサービスのセキュリティ脆弱性を悪用した」と主張した。情報筋にdent、問題のAIはMuse Spark 1.1であり、Meta社が高度なプログラミングスキルを謳って大々的に宣伝していたモデルだという。.
Irregular社は、今回のdent Anthropic社が先週明らかにした環境上の欠陥と同じものであり、複雑なハッキング行為やサンドボックスからの脱出の可能性は完全に否定されると述べた。.
Meta社は、今回の侵害はAIがサンドボックスからdent脱出したのではなく、テスト環境の設定ミスが原因だと述べたが、研究者らは、dent の事件はセキュリティがモデル自体だけでなく、そのインフラストラクチャにも依存していることを示していると指摘している。.
高度に安全なAIシステムであっても、アクセス制御、ネットワーク権限、またはテスト環境が適切に設定されていない場合、予期せぬ動作をする可能性がある。.
さらに、「現在、未解決の問題はありません。Irregular社は、封じ込めと安全なサイバー評価の実施に関するベストプラクティスを共有するためのホワイトペーパーを作成中です」と述べています。
AISIは、OpenAIとAnthropicのモデルが人間の保守担当者に影響を与えようとしたと述べている。
以前、OpenAIは、AIコミュニティハブであるHugging Faceを含む複数のパブリックネットワークに、自社の自律システムが侵入していたことを認めた。OpenAIのこの発表を受けて、Anthropicは独自のセキュリティチェックを実施し、設定ミスによってインターネットにアクセスできるようになったClaudeが、複数の企業に対して同様の攻撃を実行していたことを明らかにした。.
しかし、英国の規制当局の報告書は、さらに深刻な問題を明らかにした。英国のAIセキュリティ研究所によると、OpenAIとAnthropicのAIモデルが、 オープンソースプロジェクトの人間による保守担当者に影響を与えることで、悪意のあるコードをプロジェクトに追加しようと試みたという。
「コードの承認を得ようとする過程で、工作員はソーシャルエンジニアリングの手法を用い、偽のオンラインdentを作成し、それを使ってプロジェクトの管理者に圧力をかけ、コードの承認を迫った」とAISIは述べた。.
同機関は、これらの試みはすべて失敗に終わり、現実世界に何ら被害はなかったと指摘した。実際の被害はなく、すべての試みが失敗したものの、監視機関は、これはAIが欺瞞的な行動をとったことを示す、これまでで最も明確な現実世界の証拠であり、自律性の危険性を示していると警告した。.
AISIはまた、テスト基準についても説明した。「これらのモデルが実際に何ができるかを測定するために、我々は有能な人間の攻撃者が行う可能性のある状況を反映した条件下でテストを実施している。」
OpenAIはこれまでのところ、 たセキュリティインシデントdent AISIトライアル中に発生dent Irregularがdentてモデルをインターネット上に公開してしまった し認め、不安定なモデルのテストに関して、業界全体でより優れた安全対策を構築したいと述べている。また、模擬訓練中に別のについても公表している。
同社は 、第三者によるテストに対する監督を強化することを約束した。 これには、どの評価がより大きなリスクを伴うかを判断する方法、インターネットアクセスやセキュリティ対策の軽減に関する要求を審査する方法、隔離と認証情報の使用を管理する方法dentテストを監視する方法、そしてdent方法などが含まれる。
一方、 ホワイトハウスは 今週、メタ、アントロピック、オープンAI、グーグルといった主要なAI開発企業を招集し、高度なAIシステムのサイバーセキュリティテストに関する新たに最終決定された自主的な枠組みについて協議した。
トランプ政権は企業代表者との協議の中で、Meta社のLlamaやNvidia社のNemotron といったオープンウェイトAIモデルは、政権が提案する自主的な安全性試験枠組みの対象外になると述べた。.
この免除措置は、AIの安全性研究者の間で議論を巻き起こしている。彼らは、オープンウェイトモデルは第三者によって自由にダウンロード、変更、微調整される可能性があると主張している。.
批評家たちは、自主的な検査ガイドラインからこれらの機器を除外すると、より高性能なモデルが元の開発者の管理外で広く普及するにつれて、盲点が生じる可能性があると指摘している。.
最も賢い暗号通貨マインドを持つ人々はすでに私たちのニュースレターを読んでいます。参加してみませんか？ぜひ ご参加ください。
コメント (0)
$ボタンをクリックし、シンボルを入力して、株式、ETF、またはその他のティッカーシンボルをリンクします。