ヴィタリック：人類はASI移行において「ナイーブとナイーブの二乗」という選択肢の間で行き詰まっている

Ethereum 共同創設者であるヴィタリック・ブテリン氏は、高度なAIをめぐる世間の議論の多くは、双方が実際には共有していない前提に基づいていることから生じていると主張している。. 

ブテリン氏が提唱した、すべてのAIアプリケーションを無効化する「キルスイッチ」案は批判を浴びており、テクノロジー業界ではAIの進歩速度とそれが労働力に及ぼす影響について、またしても議論が巻き起こっている。. 

AI論争の原動力は何なのか？ 

、 Ethereum 「AI 2040」シナリオの支持者と批判者の間の対立は、AIの進歩がどれほど速く、どれほど重要なものになるかという点に尽きると述べた。 共同創設者であるヴィタリック・ブテリン氏は、 Xへの投稿で

AI 2040構想は、tronな対策が講じられない限り、2040年までに何らかの超知能が出現するという前提に基づいている。一方、批判派は、AI 2040の支持者たちは人間の協調能力を過小評価し、自由を脅かしていると考えているが、超知能そのものを権力集中のリスクとは見ていない。.

ブテリン氏は、どちらのシナリオが現実に近いのか分からないと認めた。「（現在の）AIが通常の技術だとdent なら、私はtrac派の立場を取るだろう。2030年には超知能が必然的に実現するdent なら、私はAI 2040派に近い立場を取るだろう」と彼は書いている。. 

しかし、共同創業者は、リスクが重大になった場合には、AI開発を減速または一時停止する可能性も否定しない姿勢を示している。.

この討論会には、AI研究者のヤン・ルカン氏、作家のダニエル・ジェフリーズ氏、政策アナリストのアダム・ティエラー氏が参加した。. 

Meta（NASDAQ: META）のチーフAIサイエンティストであるヤン・ルカン氏は、AIの安全性は 根本的に工学的な問題 、ジェットエンジンの信頼性向上と同様に、慎重な反復設計によって解決できると主張している。 

ルカン氏は、航空機の安全性を真に確保するのに「50年かかった」と指摘し、人間レベルの知能を持つシステムがまだ開発されていない現状では、AIへの恐怖は時期尚早だと述べた。彼は一貫して、大規模な言語モデルは推論能力や因果関係の理解を欠いた、限定的な「自動補完マシン」に過ぎないと主張してきた。. 

@hhawkというアカウントで投稿したハリー・ホーク氏は、ヤン・ルカン氏の考えに賛同し、将来のAIシステムは航空機のように安全性を重視して設計されるだろうと述べた。また、AIやロボットがすべてを担うようになり、仕事や雇用がなくなるという事態は想定していないとも述べた。.

ブテリン氏は、その見解は「AI単独であらゆるタスクを実行できるほど強力なAI」の存在を否定するものだと反論した。彼はそれをASI（超知能指数）と呼んでいる。.

強力なAIシステムはどのように制御できるのか？

ブテリン氏は「プランA」を提案した。これは、誰もが自分が何を作っているのかを公表することを義務付ける広範な規則と、危険な状況になった場合に大規模なAIトレーニングを減速または停止できる緊急停止スイッチを提案するものだ。.

彼はさらに、どのAI利用が許容され、どれが許容されないかを選り好みできると考えている「ナイーブで善意のある知識人」が、この計画に反発するだろうと付け加えた。. 

ブテリン氏の一連の発言のきっかけを作ったロメオ・ディーン氏は、 このアプローチを 「かなり合理的」だとしながらも、自身の世界観ではその発動が遅すぎると述べた。また、批評家たちがプランAに指摘する「大きな欠点」は理解できないとも付け加えた。

ブテリン氏は、完璧な解決策は存在しないことを認めた。「ASIへの移行に対処するための計画で、ナイーブなもの以外は一切見当たらない」と彼は書いている。「おそらく人類は、ナイーブかナイーブの二乗かの選択を迫られているのだろう。」

「AI 2040：プランA」というレポートは、元OpenAI社員のダニエル・ココタイロ氏が率いるAIフューチャーズ・プロジェクトによるものです。. 

報告書によると、米国と 中国は 協力して超知能の実現を2040年まで遅らせるべきだという。両国はすべての研究成果をオープンに共有する必要がある。また、核戦争の論理に基づいたシステムも含まれており、必要に応じて両国が互いの計算能力を破壊できる仕組みになっている。彼らはこれを「相互確証破壊（MCD）」と呼んでいる。

AI研究者のリチャード・ンゴ氏は、この報告書はAIの到来が間近であることを過度に懸念していると述べた。また、AIが各国で引き起こす可能性のある政治的混乱について十分に考慮されていないとも指摘した。.

オープンソースモデルは解決策となるのか？

この議論の根底にあるのは、オープンソースモデルの現状だ。ルカン氏は7月9日、AIの最大の危険は少数の有力企業への「権力の集中」だと指摘した。さらに、「AIの主権を実現する唯一の解決策は、オープンソースの基盤モデルだ」とも述べている。彼の投稿は2,900件以上の「いいね！」と430件以上のリポストを集めた。.

同じ日に執筆した著者ダニエル・ジェフリーズは 、オープンソースモデルがアメリカのテクノロジーの基盤となっていると述べ、それを制限しようとする「近視眼的な安全主義者やタカ派」に警告を発した。 

政策アナリストであり、Rストリート研究所の上級研究員で、下院AIタスクフォースへの著名な報告書提出者の一人でもあるアダム・ティエラー氏は、 米国のAIガバナンス は「重大な岐路」に立たされていると警告している。 

彼は、議会が現在、AIの審査にずさんで無秩序かつ秘密主義的なプロセスを採用していると指摘した 。そして、この非公式なシステムが拡大し、特別な承認によって進歩が阻害されるようになれば、オープンソースAIは崩壊すると警告した。 

ティエラー氏は、厳しい規制の代わりに、「許可不要のイノベーション」というアプローチを提案している。これは、人々が自由にAIを開発・公開できるという考え方だ。彼は、必要に応じて既存の法律を用いて危害を罰するべきだと提言するとともに、新しいAIのためのテストゾーンの設置、一部のモデルの公開義務化、AI研究への資金投入拡大といった施策を支持している。. 

仮想通貨ニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。 無料です。