将Gemini架构直接写入硅片!谷歌全新AI推理芯片“Frozen v2”技术细节曝光,单位功耗处理量最高提升10倍
TradingKey - 据The Information援引两名知情人士消息,谷歌(GOOGL)正在研发一款全新服务器芯片,可将Gemini大模型的底层架构直接固化进芯片硬件,以此大幅提升面向用户提供AI服务的运行效率。这款AI推理芯片的内部代号为“Frozen v2”,直指谷歌当前AI算力严重短缺的痛点。知情人士透露,算力缺口已引发内部资源矛盾,甚至迫使谷歌云拒绝了不少外部客户订单。研发团队测算,该芯片正式落地后,单位功耗可处理的Token数量,将达到谷歌现有自研AI芯片最新一代产品的6至10倍。