米国政府は安全保障上の懸念から、Anthropic社に対し、最も強力なAIモデルを停止するよう強制した。

アントロピック社は、米国商務省からの輸出規制命令を受け、6月12日（金）に同社の最高性能AIモデル2機種を停止した。これは、政府が最先端のAI技術の商業化に介入するという異例の事例だった。.

アントロピック社の声明によると、ハワード・ルトニック米商務長官は、金曜日の午後5時21分（米国東部時間）に、アントロピック社のCEOであるダリオ・アモデイ氏に対し、『クロード・フェイブル5』と『クロード・ミトス5』へのアクセスを制限するよう命じた。.

この指令は、米国内外を問わず、すべての外国人個人に適用され、アントロピック社の外国生まれの従業員も含まれる。.

Anthropic社は、国籍に基づく制限を効果的に実施できないため、該当モデルの利用を停止したと発表した。他のClaudeモデルは引き続き利用可能である。.

商務省がアントロピック社の最新モデルに対して措置を講じる

報道機関Axiosは、政権関係者の話として、この指示は、Fable 5の安全システムの一部を回避できる技術について、ある匿名の企業から警告を受けたことを受けて出されたと報じた。.

Anthropic社は、わずか3日前の6月9日にこの2つのモデルをリリースしていた。Fable 5は一般公開されていたが、Mythos 5はProject Glasswingの下、一部のサイバーセキュリティパートナーのみに限定されていた。.

これ以前に、トランプ政権は同社に対し発売延期を説得しようと協議を重ねていたが、アントロピック社は計画を強行した。.

ホワイトハウス当局者は、国が連邦政府の安全保障インフラを強化する間、モデルを非公開にしておくことが重要だと感じたと述べ、それには数週間かかるだろうとの見方を示した。.

この指令に基づき、米国でいずれかのモデルを輸出、再輸出、または移転しようとする者は、商務省の許可を取得する必要がある。Anthropic社も個別に承認された許可を申請しなければならない。Axiosの報道によると、これに従わない場合は、金銭的および民事上の罰則が科される可能性がある。.

アントロピック社は、脱獄リスクは誇張されていると述べている。

アントロピック社はこの指示に反論し、問題となっている脱獄は限定的なものであり、モデルの安全システムを全面的に回避するものではないと述べた。.

同社はこの技術について、モデルに特定のコードベースをレビューさせ、ソフトウェアの欠陥をdentものだと説明した。Anthropic社は、この手法のデモンストレーションを検証した結果、既知の軽微な脆弱性しか検出されなかったと述べた。.

「我々は、他の公開されているモデルでも、迂回手段を必要とせずにそれらを発見できることを発見した」とAnthropicは書き、OpenAIのGPT-5.5をその一例として挙げた。.

Anthropic社はまた、発売前に米国政府、英国AI安全研究所、および民間団体と協力して、数千時間に及ぶレッドチーム演習を実施したと述べた。.

同社によると、これらのテストでは普遍的な脱獄方法は見つからなかった、つまり、多くの機能にわたってモデルの安全制御を広範囲に回避できる単一の方法は見つからなかったということだ。.

「ごくわずかな潜在的な脱獄の可能性が判明しただけで、数億人もの人々に展開されている商用モデルを回収すべきだという意見には同意できない」とアントロピック社は述べている。「もしこの基準が業界全体に適用されれば、あらゆる最先端モデルプロバイダーによる新規モデルの展開が事実上停止してしまうだろう。」

Fable 5はすでに批判に直面していた

今回のサービス停止は、アントロピックにとって波乱に満ちた発売週の締めくくりとなった。.

『Fable 5』は6月9日に発売されたが、サイバーセキュリティ、生物学、化学、AI研究といった機密性の高いクエリを、以前のモデルであるClaude Opus 4.8にルーティングするフィルターが搭載されていた。これらのフィルターは、制限が厳しすぎるとして、発売直後から批判を浴びた。.

Cryptopolitanの以前のレポートによると、ユーザーらは、このモデルが細胞膜やmRNAワクチンに関する基本的な生物学の問題に苦戦していると述べていた。.

もう一つの論争は、Anthropic社の319ページに及ぶシステムカードに関するもので、そこにはFable 5が最先端のAI研究に関連する質問に対して、ユーザーに警告することなくmaticに出力品質を低下させると記載されていた。.

アントロピック社は、研究者らが、隠された安全対策によってAIの能力が少数の企業に集中する可能性があると指摘したことを受け、6月10日にその方針を変更した。同社は謝罪し、今後の安全対策はユーザーに見えるようにすると述べた。.

The Vergeの報道によると、マイクロソフトは、AnthropicがMythosクラスのモデルに対して30日間のデータ保持を義務付けているため、従業員によるFable 5の使用を制限したという。.

このポリシーに基づき、プロンプトと出力は信頼性と安全性の確保のため30日間保存され、フラグが立てられたコンテンツは最長2年間保持される。.

アントロピック社は操業停止の解除に向けて取り組んでいると述べている。

アントロピック社は、政府の措置は誤解に基づくものであり、問題解決に向けて関係当局と協力していると述べた。同社は24時間以内に詳細情報を提供する予定だという。.

今回の事業停止は、アントロピックにとって極めて重要な時期に発生した。ロイター通信によるdent、同社は先月末に9650億ドルの企業価値で650億ドルを調達した後、今月初めに米国での新規株式公開（IPO）に向けた機密文書を提出していた。.

アントロピック社は現在、2つの方面からプレッシャーを受けている。規制当局は同社の最先端モデルの安全性に疑問を呈しており、投資家は同社が商業収益を伸ばし続ける能力に賭けている。.

Claudeの公式アカウント（X）は、新規セッションでは選択したモデルまたはOpus 4.8がデフォルトとなることをユーザーに通知した。既存のFable 5セッションはエラーで終了し、開発者には他のClaudeモデルへの統合を更新するよう勧告した。.

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。