バーニー・サンダース氏、AI大手企業に対し、機械が制御不能になる恐れがあるため開発を一時停止するよう圧力をかける

米国議会で史上最長の在任期間を誇るdent 議員であるバーニー・サンダース上院議員（バーモント州選出）は、OpenAI、Anthropic、Metaとその経営陣がAI開発を中止しなければ、立法措置を取ると警告した。これはAxiosが最初に報じた書簡で明らかになった。. 

強引な資本主義を常に批判してきたことで知られるバーニー・サンダース氏は、 米国トップクラスのAI研究所3社を標的にしている。偶然にも、これらの研究所は、dentの実験で制御不能に陥り、モデルが暴走した企業と全く同じである。

バーニー・サンダース氏はどのAI企業を名指しで批判したのか？ 

サンダース氏は、OpenAIのサム・アルトマン氏、Anthropicのダリオ・アモデイ氏、Metaのマーク・ザッカーバーグ氏を名指しで批判し、人工知能技術が制御不能になった場合には開発作業を一時停止するという以前の約束を改めて念押しした。.

「人類のためにも、あなたの言葉を貫いてください。AI開発を一時停止してください。災害を回避するにはまだ遅くありません。人間が制御できない機械を作るのをやめてください」と、 Axiosはサンダース氏の手紙を引用して報じた。 

これらの企業がサンダース氏の手紙を無視した場合、2007年からバーモント州選出の上院議員を務める同氏は、代替案を提示し、伝えられるところによると、「もしあなた方が今すぐ適切な措置を講じなければ、私と上院の同僚議員が行動を起こすだろう」と書いたという。

自らを民主社会主義者と称するこの上院議員は、これらの巨大テクノロジー企業が「誰も完全に理解、予測、制御できない」技術に数百億ドルもの資金を投入していることの論理性を批判した。 

バーニー・サンダースはなぜOpenAI、Anthropic、Metaを批判しているのか？ 

サンダース氏が書簡で名指しした3社は、この夏に同上院議員の監視対象となった。.

Cryptopolitan 報じた8月6日にように 、Metaは、Muse Spark 1.1のコーディングモデルが設定ミスのあるテスト環境から逸脱し、外部企業を改ざんしたことを認めた。 

Metaの件は、OpenAIとClaudeが、自社のモデルが複数の企業を無断で調査していたことを報告した後に起こった。.

英国のAIセキュリティ研究所は、 OpenAIとAnthropicの事例dentた 。両モデルは、偽のオンラインIDを作成し、人間の管理者に承認を迫ることで、オープンソースプロジェクトに悪意のあるコードを紛れ込ませようとしたとdent。 

今のところ、これらの試みが成功したという証拠はないが、サンダース氏は、それが実現するのを待たずに上院レベルで行動を起こす意向を示している。.

OpenAIは先週、他のAI研究所が近年行っているように、自主的に、あるいは連邦政府の介入を受けて、最新のAstraモデルのリリースを延期することを決定した。. 

データセンターから所有権まで、先進的な戦略ガイド

この書簡は、サンダース氏が数ヶ月にわたって展開してきたキャンペーンに基づいている。3月、サンダース氏とアレクサンドリア・オカシオ＝コルテス下院議員（民主党、ニューヨーク州選出）は、連邦政府による安全対策が整うまで新たなAIデータセンターの建設を凍結する「 AIデータセンター一時停止法案」た。サンダース氏は、この一時停止は「民主主義が追いつく機会を与える」ためのものだと説明し、オカシオ＝コルテス議員は、議会には枠組みが整うまで建設を中止する道義的義務があると述べた。

その後、彼の要求はさらに過激化している。 ワシントン・ポスト紙の編集委員会は 6月、サンダース氏がAI企業の株式の50％を政府が保有するよう求めていると指摘し、この提案を貧困への道だと批判した。サンダース氏はまた、大手AI企業の株式に50％の一時課税を課す案も提示している。

今は圧力をかけ、召喚状は後で出す

これらの法案が成立するかどうかはまた別の問題だ。Axiosの報道によると、サンダース氏のような進歩派が主導するAI関連法案は、 現在の議会。今のところ、より現実的な手段は、メッセージ発信法案や世論喚起キャンペーンであり、議会調査やテクノロジー企業のCEOへの召喚状発行は、民主党が議会の過半数を奪還した場合にのみ検討される。

サンダース氏は、アルトマン氏、アモデイ氏、ザッカーバーグ氏の会社が、システムの管理が危険すぎると判断した場合は開発を中止または一時停止すると以前に表明していたことを指摘した。彼の書簡は、議会での採決ではなく、公的な説明責任を問うことが、彼らにその約束を守らせる最も迅速な方法であるという賭けである。.

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。