【券商聚焦】華泰證券：推理算力需求增長或快於算力單位成本下降

金吾財訊 | 華泰證券表示，總算力支出受到算力需求與成本的共同影響。隨AI應用用戶數量的不斷增長及Agent的滲透不斷提升，推理端算力需求不斷上升；同時，由於硬件的迭代與infra算法的不斷改進，模型推理的單位成本不斷下降，模型推理價格目前已下降到2023年初的1/100以下，目前市場對未來推理端算力支出節奏存在分歧。本報告旨在提供一個推理算力需求從用戶滲透到Token調用、再到硬件支出的分析框架，該機構通過對Google與微軟（OpenAI）未來Token調用量、算力總需求和未來硬件支出節奏的測算，得出結論：推理算力需求增長速度快於單位算力成本的降低。該機構持續看好推理端算力需求的加速增長。