OpenAIはNvidiaの推論ハードウェアに満足していないと述べ、現在はAMD、Cerebras、Groqを検討中

OpenAIは、特にユーザーへの応答速度に関して、NvidiaのAIチップに満足しなくなっています。同社は昨年から他の選択肢を模索し始め、現在はAMD、Cerebras、そしてGroqとも交渉を進めていましたが、Groqは閉鎖される前にも交渉していました。.

この緊張が現実のものとなり始めたのは、OpenAI が、Nvidia のチップがコードの記述やソフトウェア間のタスクの処理といった特定の作業には速度が足りないことに気付いたときだった。.

ある関係者によると、OpenAIは今後、推論処理の少なくとも10%を新しいチップで処理したいと考えているという。これはAIがユーザーに応答する部分であり、学習する部分ではない。.

OpenAIはコーディングとユーザーからの返信のためにより高速なチップを求めている

OpenAI の現在の作業のほとんどはまだ Nvidia 上で実行されていますが、舞台裏ではすべてを高速化できるチップをテストしています。.

これにはSRAMを搭載したチップも含まれます。SRAMはプロセッサのすぐ隣にメモリを配置することで動作速度を向上させます。しかし、NvidiaとAMDは依然としてチップ外にメモリを配置しており、これが動作速度の低下につながっています。.

OpenAI内部の関係者は、コード生成ツールであるCodexが速度低下の最大の要因だと指摘した。中には、パフォーマンスの低さはNVIDIAのハードウェアのせいだとするスタッフもいた。1月30日の記者会見で、OpenAIのCEOサム・アルトマン氏は「当社のコーディングモデルを利用する顧客は、コーディング作業においてスピードを非常に重視するようになるだろう」と述べた。

サム氏は、ChatGPTの一般ユーザーは速度をそれほど気にしないが、開発者や企業にとっては一秒一秒が重要だと付け加えた。OpenAIは、処理速度向上のため、Cerebrasと契約を結んだばかりだとサム氏は述べた。.

同時に、AnthropicやGoogleといった企業は、自社製チップを用いてより良い結果を得ています。GoogleのTPUは、この種の推論ニーズに特化して開発されており、特にClaudeやGeminiのようなモデルにおいて、応答速度が向上しています。.

OpenAIとGroqの交渉はNvidiaのライセンス契約後に打ち切られた

OpenAIは、高速チップを開発する別のスタートアップ企業Groqとも交渉を行っていましたが、進展はありませんでした。Nvidiaが介入し、Groqと200億ドルのライセンス契約を締結しました。これにより、NvidiaはGroqの設計にアクセスでき、OpenAIとの協業計画は頓挫しました。.

事情に詳しい情報筋によると、GroqのチップはまさにOpenAIのニーズに合わせて開発されたという。しかし、NVIDIAが契約を締結した途端、その扉は閉ざされた。ライセンスは非独占的だったものの、Groqは現在クラウドベースのソフトウェアに注力しており、NVIDIAはGroqのチップ設計者の一部を自社に引き抜いた。.

一方、セレブラスはNVIDIAによる買収提案を断り、OpenAIとの独自契約を締結しました。Groqも投資提案を受けており、その評価額は140億ドル程度とされていましたが、NVIDIAとの提携によりその水準は変動しています。.

OpenAIはNvidiaから完全に撤退したわけではありません。広報担当者は公式声明で、「当社は推論システムの大部分をNvidiaに依存しています」と述べ、同社の1ドルあたりのパフォーマンスは市場最高だと述べました。また、Nvidiaは「当社は大規模な環境で最高のパフォーマンスと総所有コストを実現しているため、お客様は推論システムとして引き続きNvidiaを選んでいます」と述べています。

NVIDIAの1000億ドルの投資契約は依然として宙に浮いたまま

昨年、NVIDIAはOpenAIに最大1000億ドルを投資する計画を発表しました。この cash OpenAIがより高度なチップを購入するための資金となり、その見返りとしてNVIDIAはOpenAIの株式を取得することになりました。ロイター通信によると、この取引は数週間以内に完了する予定でしたが、まだ完了していません。.

この取引が停滞している間、OpenAIはAMDをはじめとする企業と契約を結び、NVIDIAのチップと直接競合する可能性のあるチップのテストを進めていた。しかし、OpenAIが製品計画を変更すると、必要なハードウェアの種類も変化した。事情に詳しい人物によると、これが交渉をさらに遅らせたという。.

土曜日、NVIDIAのCEOであるジェンスン・フアン氏は、この摩擦について問われ、「そんな馬鹿げた話はない」と述べ、NVIDIAは依然としてOpenAIへの大規模投資を計画していると主張した。しかし、水面下では双方が選択肢を模索していることは明らかだ。.

同時に、NVIDIAは新たなチップのアイデアを模索していました。CerebrasとGroqの両社に買収の意思があるかどうか打診しましたが、Cerebrasはこれを断り、OpenAIとの契約を倍増させました。.

現在、OpenAIはサービスのほとんどにGPT4oを採用しています。しかし、現状では、近い将来、少なくとも一部の作業はAMDまたはCerebrasのチップ上で実行されるでしょう。OpenAIはNVIDIAを完全に排除しようとしているわけではありませんが、システムの動作速度をより細かく制御したいと考えているのは明らかです。.

重要な場面で注目を集めましょう。Cryptopolitan に広告を掲載しCryptopolitan通貨業界の最も有能な投資家や構築者にリーチしましょう。