国防総省はOpenAIとAnthropicに対し、機密軍事AIツールへの制限緩和を要求

国防総省は、大手人工知能企業に対し、機密システム内のツールへの米軍のアクセスを許可するよう本格的な圧力をかけている。.

当局が求めているのは、単なる基本的なアクセスではない。企業がユーザーに課す通常の制限を一切かけずに、これらのAIモデルが機能することを望んでいるのだ。.

火曜日のホワイトハウスでの会議で、国防総省の最高技術責任者であるエミル・マイケル氏は技術リーダーらに対し、軍は機密ネットワークと非機密ネットワークの両方でこれらのAIモデルを稼働させたいと考えていると語った。.

協議に近い当局者は、政府は現在、いわゆる「最先端AI能力」をあらゆるレベルの軍事利用に取り入れることを決めていると語ったとされる。.

国防総省は安全なネットワークを介した制限のないアクセスを要求

この動きは、将来の戦闘におけるAIの活用方法に関するより大規模な議論の一環だ。戦争は既にドローンの群れ、ロボット、そして絶え間ないサイバー攻撃によって形作られている。国防総省は、テクノロジー業界が許容範囲を定めている間に、追いつこうとしているわけではない。.

現在、軍と提携している企業のほとんどは、モデルの簡略版を提供しています。これらは、事務作業に使用されるオープンで非機密扱いのシステムでのみ動作します。Anthropicは唯一の例外です。

同社のチャットボット「Claude」は、一部の機密設定で利用可能ですが、サードパーティのプラットフォーム経由でのみ利用可能です。その場合でも、政府機関のユーザーはAnthropicのルールに従う必要があります。.

国防総省が求めているのは、極めて機密性の高い機密ネットワークへの直接アクセスです。これらのシステムは、ミッションの計画や標的の特定などに利用されています。ClaudeやChatGPTのようなチャットボットがこれらのネットワークにいつ、どのように導入されるかは不明ですが、それが目標です。.

当局は、AIが膨大なデータを処理し、意思決定者に迅速に提供できると考えている。しかし、もしこれらのツールが偽情報を生成すると、そして実際にそうなれば、人々が命を落とす可能性がある。研究者たちはまさにそのことについて警告している。.

OpenAIは今週、国防総省と契約を締結しました。ChatGPTは今後、genai.milと呼ばれる非機密ネットワークで使用される予定です。このネットワークは既に国防総省全体で300万人以上の職員に利用されています。

契約の一環として、OpenAIは通常の使用制限の多くを撤廃しました。依然としていくつかの制限は残っていますが、国防総省はほぼ望みどおりの成果を上げました。.

同社の広報担当者は述べた。グーグルとイーロン・マスクのxAIは過去にも同様の契約を結んでいる。

AI研究者は辞職し、リスクを訴えている

アントロピックとの交渉は容易ではなかった。同社の幹部は国防総省に対し、自社の技術が米国内の人々の自動matic 化やスパイ活動に利用されることを望まないと伝えた。.

クロードはすでにいくつかの国家安全保障任務に使用されているにもかかわらず、同社の幹部は抵抗している。広報担当者は声明の中で次のように述べた。

「アントロピックは、米国のAIにおける優位性を守り、兵士に最先端のAI機能へのアクセスを提供することで米国政府が外国の脅威に対抗できるよう支援することに尽力しています。」

同社によると、クロードはすでに使用されており、同社は現在「戦争省」と呼ばれる組織と緊密に連携しているという。ドナルド・トランプdent は最近、国防総省にこの名称を採用するよう命じたが、議会の承認はまだ得られていない。.

こうした事態が続く中、これらの企業の研究者の多くが辞職している。アンスロピック社のセーフガード研究のトップ研究者の一人は、「世界は危機に瀕している」と述べて辞任した。OpenAIの研究者も辞職し、この技術は「私たちが理解する手段もなく、ましてや防ぐことなどできない方法でユーザーを操作する可能性がある」と述べた。

退職する人の中には、静かに辞任する人さえいる。彼らは、事態があまりにも急速に進み、リスクが軽視されていると警告している。OpenAIで2年間働いていたゾーイ・ヒッツィグ氏は今週退職した。.

彼女はエッセイの中で、同社が広告をどのように導入しようとしているのかについて「深い懸念」を抱いていると述べた。また、ChatGPTは人々の個人データ、例えば「医学的な不安、人間関係の問題、神や死後の世界に関する信念」などを保管しているとも述べた。

人々はチャットボットを信頼し、そこに何か隠された動機があるとは思っていないため、これは大きな問題だと彼女は述べた。.

ほぼ同時期に、テクノロジーサイト「Platformer」は、OpenAIがミッション調整チームを解散したと報じました。このチームは、全人類を支援するAIを構築するという同社の目標が実際に意味のあるものであることを確認するために、2024年に設立されました。.

最も賢い暗号通貨マインドを持つ人々はすでに私たちのニュースレターを読んでいます。参加してみませんか？ぜひご参加ください。