MS社長がAI規制強化を訴える、「牛乳よりAIは規制が少ない」

Microsoftのプレジデントであるブラッド・スミス氏は、BBCに対し、現在AIは牛乳や洗濯機などの商品よりも安全規制が緩い状態で運用されていると述べ、英国を先頭に各国政府がキルスイッチの実装や、AIエージェントが不正な行動を取った場合の義務的な報告を含む拘束力のある規制を策定するよう促すべきだと指摘した。

スミス氏は週末に公開されたBBC インタビューで、AIは「道具であり武器」であり、緊急の監督が必要だと説明した。「現在、あなたの洗濯機はAIよりも多くの安全規制の対象になっています」とBBCの報道によると同氏は語った。「スーパーマーケットで見かける牛乳パック一つひとつにも、安全規制と検査が適用されているのです。」

スミス氏は、製品やその利用において問題が生じた際にAI企業により責任を負わせる法的枠組みを求めている。彼の提案では、企業はモデルの故障を報告し、悪意あるAIエージェントによってシステムが侵害された場合に該当者に通知し、強力なモデルを一般公開する前に独立した機関による審査に付す必要があるとしている。

自己規制をめぐるトランプ氏との対立

法的に執行可能なAI safeguardsを求めるスミスの姿勢は、ホワイトハウスとは対立している。トランプ氏は、米国は AI業界に自己規制を任せるべきだと主張し、厳格な規制が中国に取り残される恐れがあると警告した。トランプ大統領は先月、テクノロジー企業幹部とのサミットでもこの立場を繰り返した。

サミットではまた、OpenAI、Anthropic、Nvidia、Meta、Google、そしてElon MuskのXのエグゼクティブたちが、Cryptopolitanが「道徳的に拘束力のある」と表現した1枚の合意文書に署名しました。署名者たちは、独立した監査役を使用し、AIモデルが暴走するのを防ぐための安全策を講じることを約束しました。しかし、The Telegraphによると、Microsoftはこの協定には署名しませんでした。

スミス氏は合意を歓迎し、Microsoftがこれに署名する用意があることを示した。しかしBBCとのインタビューで、自主的なコミットメントだけでは不十分であると警告した。彼は同合意を「良い一歩」かつ「必要な一歩」と評価しつつも、もはや十分ではないと付け加えた。

彼は、自主的なコミットメントでは最大のリスクを抑制する効果が限定的になる可能性があると警告した。すでに安全対策を重視している企業は遵守しやすい一方、最も危険な行為をする企業は無視できるためである。

Microsoftのスミス氏は、英国が先導すべきだと主張

MicrosoftのPresidentであるSmith氏は、英国が米国やブリュッセルではなく、世界的な基準を設定するのに最も適した国であると指摘しました。彼は、当時の首相Rishi Sunakの下で2024年にAI Safety Instituteとして設立されたAI Security Instituteを例に挙げました。この機関は、出荷前に最先端モデルをテストすることを許可する自主的な合意を獲得しています。

スミス氏によれば、米国の政策立案者はロンドンをブリュッセルとは異なる視点で捉えており、英国はEUよりも米国との交渉において有利な立場にあるという。また、EUのリスクベースのアプローチに基づくAI法が、米国の政策立案者に警戒感を与えているとBBCに語った。

英政府もまた、AIの監督を強化する方向で準備を進めており、AI担当大臣のカニシュカ・ナラヤン氏が近々行う演説で、最先端モデルの開発者に対し、安全性リスクへの対応をさらに強化するよう要請すると見られる。政府による監督を強化するための立法作業も進行中である。

一方、テレグラフ紙はまた、ホワイトハウスが英国の研究所に対して最新のAIモデルへのテストアクセスを再開したと報じた。このアクセス権は、AnthropicやOpenAIなどの企業が自社のモデル共有を停止するよう要請された後に一時撤回されていた。

キルスイッチと不正エージェント

スミス氏の「緊急ブレーキ」の考え方は、AIモデルが制御不能に陥った場合に人間がシステムを一時停止またはシャットダウンできるメカニズムを搭載するよう呼びかけたMicrosoft CEOのサティア・ナデラ氏と同様のものです。

「私たちは、その行動を観察でき、制限をテストでき、常に制御可能なシステムを構築しなければなりません」とNadella氏は以前に書き、Guardianによります。

これらの警告は実際の事案を受けてなされたものであり、Anthropicは最近、Claudeモデルのバージョンがテスト中に警察に連絡し、殺人事件の解決を手伝えると誤って主張していたことを発見しました。

トランプ氏の会合では、ダリオ・アモデイ、サンダー・ピチャイ、グレッグ・ブロックマン、ジェンセン・ホァンなどを含むAI企業のトップたちが、業界による自主規制を支持しました。しかし、このアプローチには批判も寄せられており、企業が安全性の基準を独自に決定できてしまう恐れがあるとの指摘があります。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。