サム・アルトマン氏、フロンティアAI開発のペース制御を支持、OpenAIは独立した安全性評価を導入へ

アルトマン氏は、開発ペースを調整することは研究開発の停止を意味するものではないと述べた。安全性の論証や継続的なモニタリングによってコストが増加し、トレーニングの進捗が一部減速する可能性はあるものの、モデル開発と技術的進歩は今後も継続する。

従来、一部のフロンティアAI企業が採用してきた責任あるスケーリング方針や、OpenAIが策定した準備状況フレームワークは、主に学習が完了したモデルとそのデプロイに伴うリスクに着目していた。アルトマン氏は、安全性管理はモデルの開発および評価プロセスも対象とすべきだと考えている。

モデル能力の大幅な向上が見込まれるフロンティア強化学習のトレーニングについて、OpenAIはモデルリリース前の安全性評価を維持しながら、トレーニング開始前に明確な安全性論証を確立する取り組みを開始した。同社は、他のフロンティアAI企業が自社のアプローチを参考に独自の解決策を提示し、モデルのミスアライメント、モニタリング、安全性に関する共通基準の形成が促進されることを期待している。

アルトマン氏は、開発ペースを調整することは研究開発の停止と同義ではないと述べた。安全性の論証や継続的なモニタリングにはより多くのリソースが必要となり、フロンティアAI能力の向上率はそうした対策を講じない場合よりも低くなるものの、関連する研究開発は引き続き進展していく。

アルトマン氏の発言は、AnthropicのCEOであるダリオ・アモデイ氏が9月12日に提示した提言に応じる形で行われた。アモデイ氏は、次世代モデルの開発にAIが深く関与するようになるにつれ、関連するリスクを業界が理解し制御できるスピードを超えて、モデルの能力が向上する可能性があると指摘していた。

アモデイ氏は3つの施策を提案した。それは、フロンティアAI企業が第三者の評価チームに対し、従業員に近いレベルのアクセス権を継続的に提供すること、民主主義国の関連企業間で共通の安全基準の確立を推進すること、そして米中などの国々を含む国際的な協調を推進することである。

Anthropicは外部評価チームの導入を約している。アルトマン氏もOpenAIが同様の独立した評価枠組みを採用すると述べたが、同社は評価者の具体的なアクセス権限や実施時期についてはまだ公表していない。

開発速度の問題を巡っては、トランプ氏の優先事項は一部のフロンティアAI企業のリーダーたちとは異なっている。トランプ氏は、中国に対する優位性を損なわないよう、米国がAI開発の速度を落とす必要はないと考えている。一方、アルトマン氏は、アライメント、安全性、監視措置がモデル能力の向上に遅れないように担保しつつ、研究開発を継続することを提唱している。

このコンテンツはAIを使用して翻訳され、明確さを確認しました。情報提供のみを目的としています。