OpenAI、初の独自チップ「Jalapeno」のサンプルを出荷　一部のテストでエヌビディアの既存製品を凌駕

TradingKey - OpenAIは水曜日、ブロードコム（AVGO）と共同開発した初のカスタムチップ「Jalapeno」のエンジニアリングサンプルが納入され、現在研究室でテストが行われていることを明らかにした。ブロードコムのホック・タンCEOは、初期結果によると、一般的なAIワークロード下でJalapenoの運用コストは通常のAI向けGPUと比較して約50%削減できる可能性があると述べた。

Jalapenoは主に大規模言語モデルの推論、つまりモデルの学習後にシステムがユーザーのリクエストに応答しタスクを実行する段階向けに設計されている。OpenAIのハードウェア責任者であるリチャード・ホー氏は、同チップがスループットと応答速度のバランスを実現しており、高いリアルタイム応答性が求められるタスクの待ち時間を短縮しながら、より低いコストでより多くのユーザーに対応できるようになると語った。同チップの定格消費電力は約700ワットで、データセンターの電気代削減が期待されている。

OpenAIによると、Jalapenoは社内テストで高いワット当たり性能を示し、一部のテストではエヌビディアの既存製品を上回ったという。しかし、これらの結果は初期の社内テストの公表にとどまり、大規模な商用展開による検証はまだ行われていない。同チップはエヌビディアの最新世代「Vera Rubin」と比較テストされておらず、AIモデルの学習にも使用されないため、短期的には学習分野でエヌビディア製品を代替することはない。

このニュースを受けて、ブロードコムの株価は取引序盤に1%以上上昇した後、上げ幅を縮小して0.66%高の361.13ドルで取引された。

ブロードコム株価チャート、出所：TradingView

計画によると、Jalapenoの最終バージョンは今年後半以降、マイクロソフトやその他のパートナーのデータセンターに導入される予定だ。ブロードコムは以前、来年に約1.3ギガワット分の同チップを導入すると見込んでいたが、タンCEOは需要が拡大し続けているため、実際の規模はその目標を超える可能性があると述べた。両社はまた複数世代にわたるチップのロードマップを策定しており、次世代製品は2028年に投入され、その後も継続的なアップデートが行われる見通しだ。

この提携は、OpenAIにとってチップの調達先を拡大し、インフラコストを削減するための重要な一歩となる。OpenAIはエヌビディア製品の大量購入を継続するほか、AMDやCerebrasなどのチップメーカーとも提携しており、チップ、メモリ、ネットワーク、データセンターシステム全般にわたる統制を強化する計画だ。同社は今年初め、チップ、データセンター、人材への投資に向けて約1,220億ドルを調達した。ただし、OpenAIが大規模なチップ注文の支払いをどのようにまかなうかについては、今後の資金調達次第となっている。