エクスクルーシブ-米国防総省、軍事AI利用をめぐりAnthropic社と衝突との情報筋

Deepa Seetharaman　David Jeans　Jeffrey Dastin

［ワシントン／サンフランシスコ　１月３０日　ロイター］ - 米国防総省は、人工知能開発企業であるAnthropic社との間で、 政府が同社の技術を 自律的に兵器の照準を合わせたり 、米国内の監視を行ったりすることを防ぐ セーフガードを巡って対立して いると、この問題に詳しい3人の関係者がロイターに語った。

この協議は、長年の緊張の末にワシントンのご機嫌をとっているシリコンバレーが、米軍や諜報機関が戦場でますます強力になるAIをどのように配備するかを左右できるかどうかの初期のテストケースとなる。

米国防総省とAnthropic社は、最大2億ドル（(link)）相当の契約に基づく広範な協議の末、膠着状態にあると、この件に詳しい6人の関係者が匿名を条件に語った。

同社のAIツールの使用方法に関する同社の立場は、同社とトランプ政権との間の意見の相違を激化させており、その詳細は これまで報じられていない。

トランプ政権が「戦争省」と改名した国防総省の広報担当者は、コメントの要請にすぐには応じなかった。

Anthropic社は、同社のAIは "米国政府による国家安全保障の任務のために広範囲に使用されており、その仕事を継続する方法について戦争省と生産的な話し合いを行っている "と述べた。

Anthropicの国防総省でのビジネスを脅かす可能性のあるこの喧嘩は、同社にとって微妙な時期に来ている。

サンフランシスコを拠点とする新興企業は、株式公開の準備を進めている。また、米国の国家安全保障ビジネスに多大なリソースを費やし、政府のAI政策形成に積極的な役割を求めている。

Anthropicは、昨年国防総省から契約を獲得した数少ない大手AI開発企業のひとつだ。他には、アルファベットのグーグルGOOGL.O、イーロン・マスクのxAI、オープンＡＩがある。

武器の標的化

政府高官との話し合いの中で、Anthropicの代表者は、そのツールがアメリカ人をスパイしたり、十分な人間の監視なしに武器の標的化を支援するために使われる可能性があるという懸念を示した。

国防総省は同社のガイドラインに憤慨している。 情報筋によると、１月９日のAI戦略に関する同省のメモに沿って 、国防総省当局は、米国法を遵守している限り、企業の使用方針に関係なく、商業的なAI技術を導入することができるはずだと主張しているという。

それでも、国防総省当局は今後、Anthropic社の協力を必要とする可能性が高い。そのモデルは、危害につながる可能性のある行動を避けるように訓練されており、国防総省のためにそのAIを再調整するのは、Anthropicのスタッフだろう、と情報筋の何人かは語った。

Anthropicの慎重 さは以前にもトランプ政権との対立を引き起こしている。 Semaforは (link) (link) を報告している。

Anthropicのダリオ・アモデイCEOは今週、個人ブログのエッセイで、AIは "独裁的な敵対国のようになるものを除けば、あらゆる方法で "国防をサポートすべきだと警告した。

アモデイはAnthropicの共同設立者の一人で、ミネアポリスで入国審査の執行に抗議する米市民が射殺された事件については批判的で、Xへの投稿では「恐怖」と表現した。 (link)

この死は、シリコンバレーの一部の人々の間で、政府が自分たちのツールを潜在的な暴力行為に利用することへの懸念を増幅させている。