
Max A. Cherney/Krystal Hu/Deepa Seetharaman
路透旧金山2月3日 - 八位熟悉内情的消息人士称,OpenAI 对Nvidia(辉达/英伟达)的部分最新人工智能芯片不满意,自去年以来一直在寻求替代方案,这可能会使人工智能热潮中最受瞩目的两家公司之间的关系复杂化。
ChatGPT 制造商的战略转变(详情在此首次报道)是由于越来越重视用于执行特定人工智能推理要素的芯片,即人工智能模型(如支持 ChatGPT 应用程序的模型)响应客户询问和请求的过程。在用于训练大型人工智能模型的芯片方面,Nvidia(辉达/英伟达)仍占据主导地位,而推理已成为竞争的新战线。
OpenAI和其他 (link),决定在推理芯片市场寻找替代品,这标志着对Nvidia人工智能主导地位的重大考验,同时也正值两家公司进行投资谈判之际。
今年9月,Nvidia表示打算向OpenAI (link) 投资多达1000亿美元,作为交易的一部分,该芯片制造商将获得这家初创公司的股份,并为OpenAI提供购买先进芯片所需的现金。
据路透报道,这笔交易原本有望在几周内完成。然而,谈判却拖了几个月。在此期间,OpenAI与AMDAMD.O等公司达成了交易,购买可与Nvidia媲美的GPU。但一位熟悉内情的人士说,OpenAI不断变化的产品路线图也改变了它所需的计算资源种类,并使与Nvidia的谈判陷入僵局。
上周六,英伟达首席执行官黄仁勋撇清了与OpenAI关系紧张的报道,称这是 "无稽之谈", (link),英伟达计划对OpenAI进行巨额投资。
"Nvidia在一份声明中说:"客户继续选择NVIDIA进行推理,因为我们提供了最佳的性能和大规模总体拥有成本。
OpenAI 的一位发言人在另一份声明中表示,该公司的绝大多数推理设备都依靠 Nvidia 提供动力,Nvidia 为推理提供了最佳的每美元性能。
路透的报道发表后,OpenAI 首席执行官山姆-阿尔特曼(Sam Altman)在 X 上发文称,Nvidia 制造了 "世界上最好的 AI 芯片",OpenAI 希望在 "很长一段时间内 "都是 Nvidia 的 "大客户"。
七名消息人士称,OpenAI 对 Nvidia 硬件向 ChatGPT 用户提供特定类型问题(如软件开发和人工智能与其他软件通信)答案的速度并不满意。其中一位消息人士告诉路透,OpenAI 需要新的硬件,最终能满足 OpenAI 未来约 10% 的推理计算需求。
两位消息人士说,这家 ChatGPT 制造商已经与包括 Cerebras 和 Groq 在内的初创公司讨论过合作事宜,以提供用于更快推理的芯片。但其中一位消息人士告诉路透,Nvidia 与 Groq 达成了一项价值 200 亿美元的授权协议,从而终止了 OpenAI 的谈判。
(link) 芯片行业高管表示,Nvidia决定收购Groq的关键人才 (link),看起来是为了加强技术组合,以便在瞬息万变的人工智能行业中更好地竞争。Nvidia在一份声明中表示,Groq的知识产权与Nvidia的产品路线图高度互补。
英伟达的替代产品
Nvidia的图形处理芯片非常适合训练大型人工智能模型(如ChatGPT)所需的大规模数据运算,迄今为止,全球人工智能的爆炸式增长离不开这些模型的支撑。但是,人工智能的进步越来越多地集中在使用训练好的模型进行推理和推理,这可能是人工智能的一个新的、更大的阶段,激励着 OpenAI 的努力。
自去年以来,ChatGPT 制造商一直在寻找 GPU 的替代品,重点关注那些将大量内存嵌入到与芯片其他部分相同的硅片(称为 SRAM)中的公司。在每块芯片上尽可能多地嵌入成本高昂的 SRAM,可以为聊天机器人和其他人工智能系统提供速度优势,因为它们可以处理来自数百万用户的请求。
推理需要比训练更多的内存,因为芯片需要从内存中获取数据的时间相对多于执行数学运算的时间。Nvidia 和 AMD GPU 技术依赖于外部内存,这就增加了处理时间,降低了用户与聊天机器人交互的速度。
其中一位消息人士补充说,在OpenAI内部,这个问题在其用于创建计算机代码的产品Codex中变得尤为明显,该公司一直在积极推广该产品。一位消息人士说,OpenAI的员工将Codex的一些弱点归咎于Nvidia基于GPU的硬件。
Altman 在 1 月 30 日与记者的通话中表示,使用 OpenAI 编码模型的客户将 "非常重视编码工作的速度"。
Altman 说,OpenAI 将通过最近与 Cerebras 达成的协议来满足这一需求,并补充说,对于 ChatGPT 的休闲用户来说,速度并不是那么重要。
Anthropic的Claude和谷歌的Gemini等竞争产品都受益于更多依赖谷歌自制芯片的部署,这些芯片被称为张量处理单元(TPU),专为推理所需的计算而设计,与Nvidia(辉达/英伟达)设计的GPU等通用人工智能芯片相比具有性能优势。
移动中的英伟达
上述人士表示,随着OpenAI明确表示对Nvidia技术持保留态度,Nvidia就潜在收购事宜与包括Cerebras和Groq在内的研发SRAM芯片的公司进行了接触。Cerebras 拒绝了,并在上个月与 OpenAI 达成了商业协议。Cerebras 拒绝发表评论。
据熟悉讨论情况的人士称,Groq与OpenAI就提供计算能力的交易进行了谈判,并获得了投资者以大约140亿美元的估值资助该公司的兴趣。Groq 拒绝对此发表评论。
但消息人士称,到12月,Nvidia(辉达/英伟达)以非排他性的全现金交易方式获得了Groq的技术许可。尽管该交易将允许其他公司获得 Groq 的技术许可,但由于 Nvidia 聘走了 Groq 的芯片设计师,该公司目前正专注于销售基于云的软件。