Max A. Cherney/Krystal Hu/Deepa Seetharaman
路透舊金山2月3日 - 八位熟悉內情的消息人士稱,OpenAI 對Nvidia(輝達/英偉達)的部分最新人工智能芯片不滿意,自去年以來一直在尋求替代方案,這可能會使人工智能熱潮中最受矚目的兩家公司之間的關係複雜化。
ChatGPT 製造商的戰略轉變(詳情在此首次報導)是由於越來越重視用於執行特定人工智能推理要素的芯片,即人工智能模型(如支持 ChatGPT 應用程序的模型)響應客戶詢問和請求的過程。在用於訓練大型人工智能模型的芯片方面,Nvidia(輝達/英偉達)仍占據主導地位,而推理已成為競爭的新戰線。
OpenAI和其他 (link),決定在推理芯片市場尋找替代品,這標誌著對Nvidia人工智能主導地位的重大考驗,同時也正值兩家公司進行投資談判之際。
今年9月,Nvidia表示打算向OpenAI (link) 投資多達1000億美元,作為交易的一部分,該芯片製造商將獲得這家初創公司的股份,並為OpenAI提供購買先進芯片所需的現金。
據路透報導,這筆交易原本有望在幾周內完成。然而,談判卻拖了幾個月。在此期間,OpenAI與AMDAMD.O等公司達成了交易,購買可與Nvidia媲美的GPU。但一位熟悉內情的人士說,OpenAI不斷變化的產品路線圖也改變了它所需的計算資源種類,並使與Nvidia的談判陷入僵局。
上周六,英偉達首席執行官黃仁勛撇清了與OpenAI關係緊張的報導,稱這是 "無稽之談", (link),英偉達計劃對OpenAI進行巨額投資。
"Nvidia在一份聲明中說:"客戶繼續選擇NVIDIA進行推理,因為我們提供了最佳的性能和大規模總體擁有成本。
OpenAI 的一位發言人在另一份聲明中表示,該公司的絕大多數推理設備都依靠 Nvidia 提供動力,Nvidia 為推理提供了最佳的每美元性能。
路透的報導發表後,OpenAI 首席執行官山姆-阿爾特曼(Sam Altman)在 X 上發文稱,Nvidia 製造了 "世界上最好的 AI 芯片",OpenAI 希望在 "很長一段時間內 "都是 Nvidia 的 "大客戶"。
七名消息人士稱,OpenAI 對 Nvidia 硬件向 ChatGPT 用戶提供特定類型問題(如軟件開發和人工智能與其他軟件通信)答案的速度並不滿意。其中一位消息人士告訴路透,OpenAI 需要新的硬件,最終能滿足 OpenAI 未來約 10% 的推理計算需求。
兩位消息人士說,這家 ChatGPT 製造商已經與包括 Cerebras 和 Groq 在內的初創公司討論過合作事宜,以提供用於更快推理的芯片。但其中一位消息人士告訴路透,Nvidia 與 Groq 達成了一項價值 200 億美元的授權協議,從而終止了 OpenAI 的談判。
(link) 芯片行業高管表示,Nvidia決定收購Groq的關鍵人才 (link),看起來是為了加強技術組合,以便在瞬息萬變的人工智能行業中更好地競爭。Nvidia在一份聲明中表示,Groq的知識產權與Nvidia的產品路線圖高度互補。
英偉達的替代產品
Nvidia的圖形處理芯片非常適合訓練大型人工智能模型(如ChatGPT)所需的大規模數據運算,迄今為止,全球人工智能的爆炸式增長離不開這些模型的支撐。但是,人工智能的進步越來越多地集中在使用訓練好的模型進行推理和推理,這可能是人工智能的一個新的、更大的階段,激勵著 OpenAI 的努力。
自去年以來,ChatGPT 製造商一直在尋找 GPU 的替代品,重點關注那些將大量內存嵌入到與芯片其他部分相同的硅片(稱為 SRAM)中的公司。在每塊芯片上盡可能多地嵌入成本高昂的 SRAM,可以為聊天機器人和其他人工智能系統提供速度優勢,因為它們可以處理來自數百萬用戶的請求。
推理需要比訓練更多的內存,因為芯片需要從內存中獲取數據的時間相對多於執行數學運算的時間。Nvidia 和 AMD GPU 技術依賴于外部內存,這就增加了處理時間,降低了用戶與聊天機器人交互的速度。
其中一位消息人士補充說,在OpenAI內部,這個問題在其用於創建計算機代碼的產品Codex中變得尤為明顯,該公司一直在積極推廣該產品。一位消息人士說,OpenAI的員工將Codex的一些弱點歸咎於Nvidia基於GPU的硬件。
Altman 在 1 月 30 日與記者的通話中表示,使用 OpenAI 編碼模型的客戶將 "非常重視編碼工作的速度"。
Altman 說,OpenAI 將通過最近與 Cerebras 達成的協議來滿足這一需求,並補充說,對於 ChatGPT 的休閑用戶來說,速度並不是那麼重要。
Anthropic的Claude和谷歌的Gemini等競爭產品都受益於更多依賴谷歌自制芯片的部署,這些芯片被稱為張量處理單元(TPU),專為推理所需的計算而設計,與Nvidia(輝達/英偉達)設計的GPU等通用人工智能芯片相比具有性能優勢。
移動中的英偉達
上述人士表示,隨著OpenAI明確表示對Nvidia技術持保留態度,Nvidia就潛在收購事宜與包括Cerebras和Groq在內的研發SRAM芯片的公司進行了接觸。Cerebras 拒絕了,並在上個月與 OpenAI 達成了商業協議。Cerebras 拒絕發表評論。
據熟悉討論情況的人士稱,Groq與OpenAI就提供計算能力的交易進行了談判,並獲得了投資者以大約140億美元的估值資助該公司的興趣。Groq 拒絕對此發表評論。
但消息人士稱,到12月,Nvidia(輝達/英偉達)以非排他性的全現金交易方式獲得了Groq的技術許可。儘管該交易將允許其他公司獲得 Groq 的技術許可,但由於 Nvidia 聘走了 Groq 的芯片設計師,該公司目前正專注于銷售基於雲的軟件。