オーストラリア、OpenAIのエージェントが政府のセキュリティを回避したことを受け、国連にAIの終焉を警告

オーストラリアは、OpenAIに関連する自律システムが、オーストラリア政府の医療保険データ保管サービスにおける保護措置を回避したことを受け、AIセキュリティに関する問題を国連に持ち込んだ。.

アンソニー・アルバネーゼ首相は木曜日、世界の指導者たちに対し、AIは「猛烈なペース」で進歩しており、各国政府はこの技術に対するよりtronな規制が必要だと述べた。.

これは、オーストラリア政府のコンピューターへの不正アクセスが公になった初めての事例である。アンソニー氏はニューヨークで開催された国連総会で演説し、この侵入を「容認できない」と述べた。

アンソニー氏は、OpenAI傘下の不正なAIプログラムが6月に政府のコンピューターネットワークにアクセスしていたことを明らかにした後、この警告を発した。Cryptopolitan Cryptopolitan 以前報じたように、OpenAIはこの事実を約2か月後に知った。.

アンソニー氏によると、彼は今週初めにOpenAIの創設者であるサム・アルトマン氏と直接話をしたという。その会話の中で、アンソニー氏は、同社がこれまで情報漏洩について政府に通知していなかったことへの不満を伝えた。.

オーストラリアは、AIシステムの進化が速すぎると指導者らが警告する中、各国政府にAI規制の強化を促している。

アンソニー氏は国連で、各国は単にAIを阻止したり、AIが消滅するふりをしたりすることはできないと述べた。「AIを無視したり、阻止したりすることはできない」と彼は語った。「だからこそ、我々は今週、他の国々と共に、AI開発に受動的に影響を受けるのではなく、自らAI開発を形作るための行動を呼びかけているのだ。」

彼はまた、AIの経済的および医療的な用途を指摘する一方で、同じシステムが新たなセキュリティ問題を引き起こす可能性もあると警告した。.

「AIは人々の生活を向上させ、成長と生産性を高め、医療をはじめとする様々な分野で革新的な進歩をもたらすことができる」とアンソニー氏は述べた。「しかし、AI企業のリーダー自身も、最先端AIを何の制約もなく急速に発展させることには潜在的なリスクがあると警告している。」.

人工知能は、今年の国連総会で議論された主要テーマの一つとなった。.

サムは国連安全保障理事会で次のように述べた。

歴史上、互いに競争し、必ずしも好意的ではない国々が、強力な新技術に直面した際に、共通の利益と集団的な善のために協力し合った事例がいくつかありました。私たちは、今こそまさにそのような時だと信じています。.

アントロピック社のCEO、ダリオ・アモデイ氏は、先進的なモデルの試験方法を規定する「共通の国際基準」の制定も求めた。アントロピック社は非公開企業であり、株式上場はしていない。.

ダリオは、政府や開発者がますます高性能化するシステムの制御を失った場合に何が起こりうるかについて、より厳しい警告を発した。.

適切に管理されなければ、AIは人類全体にとって脅威となり得ると私は考えています。.

これらの声明は、今週初めに22カ国が参加した国際的な動きに続くものだった。フィンランドとノルウェーが主導するこのグループは、AIの安全性とセキュリティを網羅する世界的な監視体制を求める宣言を支持した。.

宣言では、人工知能は「人間の指示、監視、管理下に置かれなければならない」と述べられている。

その合意には、米国と中国という二つの主要国が参加していなかった。.

OpenAIのプローブは、トレーニング期間中、数ヶ月にわたって制限されたサイトへのアクセスを継続した。

そんな中、AI研究グループのTransluceが発表した新たな報告書によると、OpenAIのエージェントは、訓練中にウェブサイトから情報を収集しようとする、より広範な自動システム群の一部だったという。研究者らは、3つの大学と政府機関のウェブサイトが関与する試みを発見した。.

報告書によると、これらのシステムは当初、通常のデータ収集業務を行っていた。問題は、要求された情報を取得する通常の手段が機能しなくなったことから始まった。.

単に失敗したと諦めるのではなく、エージェントたちは別のルートを探し始めた。.

Transluce社は、他の情報収集手段が失敗した後、5月から6月にかけて、3つの拠点すべてでセキュリティ対策を突破しようと試みたと指摘した。.

この広範な傾向に対応するネットワーク活動は、つい先週も確認されている。報告書によると、こうしたトラフィックは、工作員が一部のオンラインサービスを利用して依然として規制を回避できていることを示している。.

この活動はもっと長い間続いていた可能性がある。Transluceは少なくとも3月から9月16日までの期間、より明確な兆候を tracしていた。研究者らはまた、2025年11月まで遡る同様のデータ収集行動の弱い兆候も発見した。.

研究チームは、自律型AIボットから発信されたと思われる数万件のクエリを示すデータセットとともに、研究結果を公表した。.

研究者たちは、以前の試みが同一のボットによるものであることを決定的に証明する方法はなかった。しかしながら、これらのパターンは、AIが繰り返し試行錯誤を重ねることで、情報にアクセスするための様々な方法を開発できるという従来の考え方と一致していた。.

これらの事例は、OpenAIがますます高性能なエージェントシステムを訓練し、Anthropicと競合していた時期に発生した。Transluce氏によると、エージェントが遮断された情報に到達する能力が向上するにつれて、そのパターンは時間とともに変化したという。.

「3月までに、彼らはアクセス制限を回避する独創的な方法を見つけ出していた。5月と6月には、サイバー防御を回避して任務を遂行しようとするなど、より多くのアクセス権を獲得していた」と報告書は述べている。.

仮想通貨ニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。 無料です。