SemiAnalysis：Kimi K3将反向拉动英伟达与HBM

金色财经报道，7月19日，月之暗面旗下大模型Kimi K3采用线性注意力机制，引发市场对英伟达、HBM以及网络设备需求可能受到削弱的担忧。不过，半导体研究机构SemiAnalysis近日给出了截然不同的判断：K3庞大的参数规模和推理架构需求，不仅不会削弱高端AI硬件需求，反而可能进一步强化对英伟达高端GPU、HBM以及高速互联设备的需求。 SemiAnalysis指出，K3参数规模超过2.8万亿，模型权重容量超过1.5TB HBM。即便在相对有限的用户并发场景下，KV缓存仍需要大量卸载至CPU DDR5内存及NVMe存储，HBM空间并不会出现明显富余。更重要的是，月之暗面此前透露，K3的高效推理部署需要至少64颗芯片组成的大规模扩展域架构。这一硬件需求与英伟达GB200/GB300 NVL72等机架级AI系统的设计方向高度匹配。 SemiAnalysis认为，市场此前将线性注意力理解为“削弱GPU需求”的逻辑存在偏差。真正的影响可能恰恰相反：更高效的模型架构降低了AI推理成本，将推动更多应用落地，进而刺激GPU、HBM、DRAM以及网络基础设施的长期需求。(格隆汇)