アントロピックのトップ安全研究者が辞任を公表

アントロピックの主任安全研究者であるムリナンク・シャルマ氏は、今週Xの投稿で同社を辞任すると発表した。シャルマ氏のこの決断は、AIと世界の現状に対する懸念から生まれたものと思われる。

ムリナンク・シャルマ氏は、著名なAI企業であるアンスロピックのセーフガード研究チームChatGPT。シャルマ氏の退任は、セーフガード研究チームが正式に発足したばかりの昨年2月に、かなり突然のものでした。チームの主な焦点は、 Claudeのようなアンスロピックが導入したAIシステムに関連するリスクをdent

米国最大級のAI企業におけるトップクラスの安全性研究者の突然の辞任は、ソーシャルメディア上で大きな論争を巻き起こしました。辞任書、シャルマ氏が「世界は危機に瀕している」と不可解な警告を発した部分でしょう。シャルマ氏はこれを「AIや生物兵器だけでなく、今まさに展開している一連の相互に関連した危機」に起因するものと説明しました。これは、AIの進歩に伴う実存的リスクへの警告だと多くの人が解釈しました。シャルマ氏の辞任は、最近AI企業における著名人の辞任という、より大規模で懸念すべき、そして加速しているトレンドの一環をなすものです。

シャルマ氏の辞任書の解釈

ムリナンク・シャルマ氏は手紙の冒頭で、自身の経歴と、特に「困難な決断を下し、善のために立ち上がる意志」といった自身の原動力について簡潔に述べた。また、アントロピックへの貢献についても触れ、「AI支援型バイオテロのリスクを軽減する」ための防御策の開発と展開、そして最初のAIセーフティケースの一つの執筆などについても語った。彼の最終プロジェクトは、「AIアシスタントがどのように私たちを人間らしさを失わせ、人間性を歪めるのかを理解すること」だった。

しかし、彼の書簡で最も懸念を招いたのは3段落目だった。アントロピックの不正行為を直接非難したり、AIが人類を滅ぼすなどと露骨に述べたりはしなかったものの、辞任の理由を説明する際に哲学的な言葉を多用した。「私たちは、世界に影響を与える能力と同等の知恵を持たなければならないという限界点に達しつつあるようだ。そうでなければ、その結果に直面することになる」と述べた。さらに、「私たちの価値観が真に行動を律することがいかに難しいかを、私は何度も見てきた」と記した。また、彼は脚注で、世界は相互に関連した一連の危機によって危機に瀕しており、それを「メタ危機」に支えられた「ポリ危機」と表現した。

この表現は、彼がアントロピックのは、社内紛争といった類のものではなく、むしろ哲学的な意見の相違がきっかけだったことを示唆している。シャルマ氏は、現在の状況を「メタクライシス」に支えられた「ポリクライシス」と表現することで、社会、ひいてはAI開発が直面する、はるかに大きな構造的問題を指摘しているように思える。技術は集合知よりも速いペースで進歩しており、その発展を管理し、影響を与える現在のシステムや権力は、現状の世界情勢において、適切な対応ができていないのだ。

シャルマ氏の手紙から得られる大きな教訓

シャルマ氏の辞任書から得られる大きな教訓は、多面的かつ実存的なものだ。一方で、彼は、競争システムの中で加速するAI開発をテクノロジー企業がどう乗り越えていくかという点に根本的な問題があると考えているようだ。世界の大国はAIをはじめとする技術革新において互いに凌駕しようと熾烈な競争を繰り広げており、世界のテクノロジー支出は2026年には5兆6000億ドルに達すると予想されている。これは、AI企業が単に革新を起こし製品を開発しているだけでなく、地政学的紛争の重要な構成要素となっていることを意味する。さらに、これらの企業は株主に対して良好な業績を上げるという受託者責任を負っており、技術革新において競合他社を凌駕するインセンティブを生み出している。

これにより、安全原則と手順が市場の圧力、国家競争力、そして投資家の期待とも整合しなければならない環境が生まれます。しかしながら、AI企業が急速に拡大し、能力を進化させるにつれて、それに伴うリスクをdent、理解し、軽減する必要があります。シャルマ氏が指摘している問題は、AI企業が事業を展開する現在のシステムが、安全性や倫理的配慮よりも成長を当然優先しているという点です。この力学がもたらす影響は実存的に深刻であり、大きな懸念材料となっています。シャルマ氏のような誠実さを体現しているように見える人物であっても、自身の価値観を妥協することなくこのシステムの中で事業を継続することは不可能であり、彼はシステムから完全に撤退するに至りました。.

COCAでお支払いいただくと、USDCで8%のCASH無料カードをご注文ください。