SemiAnalysis：Kimi K3將反向拉動英偉達與HBM

金色財經報道，7月19日，月之暗面旗下大模型Kimi K3採用線性注意力機制，引發市場對英偉達、HBM以及網絡設備需求可能受到削弱的擔憂。不過，半導體研究機構SemiAnalysis近日給出了截然不同的判斷：K3龐大的參數規模和推理架構需求，不僅不會削弱高端AI硬件需求，反而可能進一步強化對英偉達高端GPU、HBM以及高速互聯設備的需求。 SemiAnalysis指出，K3參數規模超過2.8萬億，模型權重容量超過1.5TB HBM。即便在相對有限的用戶併發場景下，KV緩存仍需要大量卸載至CPU DDR5內存及NVMe存儲，HBM空間並不會出現明顯富餘。更重要的是，月之暗面此前透露，K3的高效推理部署需要至少64顆芯片組成的大規模擴展域架構。這一硬件需求與英偉達GB200/GB300 NVL72等機架級AI系統的設計方向高度匹配。 SemiAnalysis認爲，市場此前將線性注意力理解爲“削弱GPU需求”的邏輯存在偏差。真正的影響可能恰恰相反：更高效的模型架構降低了AI推理成本，將推動更多應用落地，進而刺激GPU、HBM、DRAM以及網絡基礎設施的長期需求。(格隆匯)