OpenAIのアルトマン氏は、生物兵器の悪用報告が増えるにつれ、AIの発展が鈍化する可能性があると述べている。

OpenAIのスタッフは今週、AI研究所がAIの最先端分野における研究開発のペースを緩める可能性もあると伝えられた。サム・アルトマン氏は、同様の提案をAnthropicを含むAIの競合企業にも行った。Anthropicもまた、国家機関と関係のある科学者が同社のClaudeモデルを生物兵器研究に利用しようとしたことを暴露した報告書の中で、AI開発に伴うリスクを認めている。. 

OpenAIは、安全上の懸念から、既に一部の社内トレーニングを一時停止し、モデル開発の一部を緩和したと発表した。.

相次ぐ情報開示は、業界が 新規株式公開に向けて急ぎすぎている、と両社は引き続き示唆している。

アルトマンはなぜAI開発のペースを遅らせたいのか？

OpenAIの最高経営責任者であるサム・アルトマン氏は、全社的な会議で、同AI研究所が他の同意を得た研究所とともに、最先端モデルのリリースペースを遅らせる可能性があることを出席者に伝えた。.

ブルームバーグが引用した情報筋によると、アルトマン氏は、こうした取り決めは任意であるため、すべての企業がこの計画に賛同するとは限らないと認めた。.

こうした懐疑的な見方にはdentがある。3年前の2023年3月、イーロン・マスク、スティーブ・ウォズニアック、その他1000人以上が、高度なAI開発を6ヶ月間停止するよう求める公開書簡に署名した。.

当時報道されたように、研究所は共同で合意した一時停止措置を実際には履行しなかった。

AIのリスクに関する警告は、OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏が9月6日に投稿した記事でも示されており、同氏はAI企業に対し「必要に応じて今後の開発を遅らせる」よう連携を求めている。パチョツキ氏は、自主的な開発減速が「共通の安全基準が確立されるまで一般的になる」ことを期待していると述べた。

アルトマン氏は7月、AI開発を抑制する必要性についてホワイトハウス関係者に伝えたと述べた。アルトマン氏は以前、アントロピック社のCEOであるダリオ・アモデイ氏とともに、 AIは社会規模の絶滅リスクであると宣言する一行の声明にも署名している。

AIモデルは生物兵器の開発に利用できるのか？

AIモデルは、生物兵器研究を支援できる段階にまで進歩している。つい先日、OpenAIは、議論の余地はあるものの、自社のモデルがナビエ・ストークス方程式の問題を解決したと発表した。.

アントロピック研究所が 154ページに及ぶ脅威情報報告書は、研究者たちがクロードの能力を利用して生物兵器開発を支援しようとした事例を5つ詳細に記しており、この議論に新たな材料を提供した。

アントロピック社は、「支援を受けていない地域」からの試みは、位置情報の制限を回避し、研究の目的を偽装しようとするものだったと述べた。同研究所は該当アカウントを削除したと発表したが、国名や機関名は明らかにしなかった。.

AIのリスクは、もはやメリットを上回ってしまったのだろうか？

これらの報告は、研究所内部からの一連の警鐘が鳴り響く中で届いた。9月8日、研究者のジェイコブ・コックスン氏は辞職し、 OpenAIとAnthropic の両社を「我々の命を賭けている」と非難。同僚たちは、この技術が「今世紀末までに我々全員を死に至らしめる可能性がある」と考えており、2030年までに人類が絶滅する可能性があると警告していると述べた。

彼の投稿は1億5000万回以上閲覧された。その2日後の9月10日、AnthropicとGoogleのDeepMindの元従業員らが同様の懸念を表明し、より一層の透明性を求めた。.

7月下旬に提出された、AI開発のペースを遅らせるための仕組みを作ることを求める請願書には、主要なAI企業に所属する1000人以上の従業員から署名が集まった。.

OpenAIは現在、テスト、dent した評価、サイバーセキュリティ、dent 報告を網羅する、能力に基づいた義務的な安全規則を議会に求めている。「AIによって加速されるAI開発の見通しは、自主的な取り組み以上のものを要求する」と、最高グローバル担当責任者のクリス・レハネ氏は述べている。.

カリフォルニア州が先陣を切った。ギャビン・ニューサム知事は水曜日、AIを活用した生物学的脅威から身を守ることを目的とした関連法案であるAB 1864とともに、SB 813とAB 1405に署名した。.

ワシントンでは、バーニー・サンダース上院議員が高度なAIの開発を一時停止し、人工超知能を禁止する法案を提出し、 BBCに対し 、科学者の警告を無視する者は「愚か者」だと述べた。

ドナルド・トランプdent はこれに反論し、木曜日に「もし我々がAIで勝てなければ、非常に不利な立場に置かれることになるだろう」と懸念を表明した。

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。