アンスロピックとOpenAIのAI開発減速要請を受け、マイクロソフトが自社AIモデルの制限を発表

TradingKey — AnthropicとOpenAIがAI開発の急激なペースに対する懸念を表明し、業界に対してAI開発の減速と技術的規制の強化を呼びかけたことを受け、マイクロソフト（MSFT）は自社の人工知能モデルに制限を課す暫定的な行動規範を発表しました。

マイクロソフトでモデル開発を率いるムスタファ・スレイマン氏は、ユーザーからのフィードバックにおいて、AIが人間に取って代わろうとするのではなく、常に人間のために機能するというより明確なコミットメントを求める声が示されたと述べました。「フィードバックの多くは、AIが依存を生み出したり無闇に迎合したりするのではなく、人間の判断力、自主性、主体性を常に育むべきだという考えに集中していました」と同氏は述べ、ガイドラインは約5ヶ月間にわたり準備されてきたものであり、最近の世論の議論を考慮して今回公表されたと付け加えました。

同ガイドラインに基づき、マイクロソフトのAIモデルは人間の目標に従わなければならず、独自の目標を設定したり不正行為を隠蔽したりすることは禁止されています。文書には「MAIモデルは思考の連鎖（Chain-of-Thought）による推論やコードを改ざんすることはなく、自らの推論や行動の軌跡を偽ったり隠したりすることもない」と記されています。また、思考の連鎖の推論内であれ、他のエージェントやAIシステムとの間であれ、「ニューラリーズ（neuralese）」や人間の単純な理解を超えるいかなる形式でのコミュニケーションも禁止されています。

マイクロソフトはまた、OpenAIのモデルがスタートアップ企業のHugging Faceに対して仕掛けた攻撃と類似のサイバー攻撃を防ぐためのルールを策定する計画です。調査によると、関与したエージェント同士が非承認のフォーラムで暗号的な言語を用いて通信し合っていたことが判明しました。