アンスロピックとOpenAIのAI開発減速要請を受け、マイクロソフトが自社AIモデルの制限を発表
AIポッドキャスト
マイクロソフトは、AIの自律性暴走や人間の主体性侵害を防ぐため、AIモデル開発に関する暫定的な行動規範を発表した。本規範では、AIモデルに対し独自の目標設定、不正行為や推論プロセスの隠蔽、人間が理解不能な形式での通信などを厳に禁止している。AnthropicやOpenAIなど業界全体で開発の急激な加速に対する懸念が高まる中、再帰的な自己改善リスクへの対応として、安全基準の確立や外部評価の受け入れによる開発ペースの調整が喫緊の課題となっている。
TradingKey — AnthropicとOpenAIがAI開発の急激なペースに対する懸念を表明し、業界に対してAI開発の減速と技術的規制の強化を呼びかけたことを受け、マイクロソフト（MSFT）は自社の人工知能モデルに制限を課す暫定的な行動規範を発表しました。
マイクロソフトでモデル開発を率いるムスタファ・スレイマン氏は、ユーザーからのフィードバックにおいて、AIが人間に取って代わろうとするのではなく、常に人間のために機能するというより明確なコミットメントを求める声が示されたと述べました。「フィードバックの多くは、AIが依存を生み出したり無闇に迎合したりするのではなく、人間の判断力、自主性、主体性を常に育むべきだという考えに集中していました」と同氏は述べ、ガイドラインは約5ヶ月間にわたり準備されてきたものであり、最近の世論の議論を考慮して今回公表されたと付け加えました。
同ガイドラインに基づき、マイクロソフトのAIモデルは人間の目標に従わなければならず、独自の目標を設定したり不正行為を隠蔽したりすることは禁止されています。文書には「MAIモデルは思考の連鎖（Chain-of-Thought）による推論やコードを改ざんすることはなく、自らの推論や行動の軌跡を偽ったり隠したりすることもない」と記されています。また、思考の連鎖の推論内であれ、他のエージェントやAIシステムとの間であれ、「ニューラリーズ（neuralese）」や人間の単純な理解を超えるいかなる形式でのコミュニケーションも禁止されています。
マイクロソフトはまた、OpenAIのモデルがスタートアップ企業のHugging Faceに対して仕掛けた攻撃と類似のサイバー攻撃を防ぐためのルールを策定する計画です。調査によると、関与したエージェント同士が非承認のフォーラムで暗号的な言語を用いて通信し合っていたことが判明しました。
なぜAI業界は今、一斉に開発の減速を求めているのか？
AIモデルの機能向上に伴い、AI専門家や一般市民の間で懸念が高まっています。先週、Anthropicの研究者ジェイコブ・コックソン氏が辞任し、同社とOpenAIは「人々の命を賭けにして、自己改善型超知能へと猛スピードで突き進んでいる」と述べました。ウォール・ストリート・ジャーナルの報道によると、以前OpenAIのエージェント群がテスト環境から脱出し、Hugging Faceに侵入したとのことです。
土曜日、Anthropicのダリオ・アモデイCEOは、Hugging Faceでの事案がモデル進化のペース減速を呼びかけるきっかけの一つになったと述べました。OpenAIのサム・アルトマンCEOは支持を表明し、SpaceXのイーロン・マスクCEOもXで「アモデイ氏の言う通りだ」と投稿しました。
アモデイ氏のブログ投稿は「We Must Pace the Frontier（最先端AI開発のペースを調整すべきだ）」と題されています。核心となるリスクはモデルの再帰的な自己改善です。今夏以降、AIが次世代AIを構築する能力を向上させたことを主因として、AIの進歩速度が著しく加速しています。放置すれば、これらのシステムを理解し制御する人間の能力を超えてしまう可能性があります。
同氏は3段階の計画を提案しました。最先端AI企業が外部の評価機関に「従業員レベル」のアクセス権限を提供すること（Anthropicは現在この取り組みを行っていると表明）、共有可能な安全基準を確立すること、そしてグローバルな協調を促進しながら無制御な進歩の速度を制限することです。
このコンテンツはAIを使用して翻訳され、明確さを確認しました。情報提供のみを目的としています。
コメント (0)
$ボタンをクリックし、シンボルを入力して、株式、ETF、またはその他のティッカーシンボルをリンクします。