
OpenAI 對英偉達的 AI 芯片不再滿意,尤其是在響應用戶需求的速度方面。該公司去年就開始尋找其他方案,目前正在與 AMD 和 Cerebras 洽談,甚至在 Groq 關閉之前也曾與其接觸過。.
當 OpenAI 意識到英偉達的芯片速度不夠快,無法完成編寫代碼和處理軟件間通信等特定任務時,這種緊張關係開始變得真實起來。.
據稱,一位內部人士透露,OpenAI希望新的芯片能夠處理未來至少10%的推理需求。這部分指的是AI回覆用戶的問題,而不是學習新知識。.
OpenAI 目前的大部分工作仍然在英偉達平臺上運行,但實際上,它正在測試一些能夠讓一切運行得更快的芯片。.
這包括採用SRAM的芯片,SRAM將內存直接放置在處理器旁邊,從而加快運行速度。而英偉達和AMD仍然使用位於芯片外部的內存,這會降低運行速度。.
OpenAI內部人士指出,代碼編寫工具Codex是速度緩慢的最大問題所在。一些員工甚至將性能不佳歸咎於英偉達的硬件。1月30日,OpenAI首席執行官Sam Altman在新聞發佈會上表示:“使用我們編碼模型的客戶非常重視編碼速度。”
Sam補充說,ChatGPT的普通用戶並不太在意速度,但對開發者和公司來說,每一秒都至關重要。他還提到,OpenAI剛剛與Cerebras簽署了一項協議,旨在提升速度。.
與此同時,像 Anthropic 和 Google 這樣的公司利用自研芯片取得了更好的結果。Google 的 TPU 專爲滿足推理工作需求而設計,這使得它們的響應速度更快,尤其適用於 Claude 和 Gemini 等模型。.
OpenAI也曾與另一家研發高速芯片的初創公司Groq進行過洽談,但這些洽談並未取得實質性進展。英偉達介入並與Groq簽署了一份價值200億美元的授權協議。這使得英偉達能夠獲得Groq的設計,也扼殺了OpenAI與其合作的計劃。.
一位知情人士透露,Groq 的芯片正是爲 OpenAI 量身打造的。但英偉達敲定交易後,這條路就走不通了。儘管授權並非獨家,但 Groq 現在專注於雲端軟件,而英偉達也挖走了 Groq 的一些芯片設計師。.
另一方面,Cerebras拒絕了英偉達的收購請求,轉而與OpenAI達成了合作協議。Groq也曾收到過估值約140億美元的投資邀約,但由於與英偉達的合作,估值有所下降。.
OpenAI並未完全放棄Nvidia。一位發言人在公開聲明中表示:“我們依賴Nvidia的顯卡來驅動我們絕大多數的推理集羣”,並稱其性價比在市場上首屈一指。Nvidia也表示:“客戶之所以繼續選擇Nvidia的顯卡進行推理,是因爲我們能夠大規模地提供最佳的性能和總體擁有成本。”
去年,英偉達宣佈計劃向OpenAI投資高達1000億美元。這筆 cash 旨在幫助OpenAI購買更先進的芯片,作爲回報,英偉達將獲得OpenAI的股份。路透社報道稱,這筆交易原本應該在幾周內完成,但至今仍未達成。.
儘管那筆交易陷入僵局,OpenAI 還是與 AMD 和其他公司簽署了協議,測試能夠直接與英偉達競爭的芯片。但隨着 OpenAI 產品計劃的調整,其所需的硬件類型也隨之改變。一位知情人士透露,這進一步拖慢了談判進程。.
週六,英偉達首席執行官黃仁勳被問及雙方的摩擦。他表示“這純屬無稽之談”,並堅稱英偉達仍計劃對OpenAI進行大規模投資。但私下裏,雙方顯然都在權衡各種可能性。.
與此同時,英偉達一直在尋找新的芯片方案。它曾聯繫過 Cerebras 和 Groq,詢問他們是否願意被收購。Cerebras 拒絕了收購,並加倍投入與 OpenAI 的合作。.
目前,OpenAI 的大部分服務都使用 GPT4o 來驅動。但照此發展下去,不久的將來,至少部分工作將在 AMD 或 Cerebras 的芯片上運行。該公司並非要完全放棄英偉達,但顯然它希望更好地控制系統運行速度。.
不要只是閱讀加密貨幣新聞,要理解它。訂閱我們的新聞簡報,完全免費。