華爲正式發佈AI推理創新技術UCM（推理記憶數據管理器）

金吾財訊 | 據人民財訊消息，華爲正式發佈AI推理創新技術UCM（推理記憶數據管理器）。據瞭解，作爲一款以KV Cache爲中心的推理加速套件，UCM融合了多類型緩存加速算法工具，分級管理推理過程中產生的KV Cache記憶數據，可擴大推理上下文窗口，實現高吞吐、低時延的推理體驗，降低每Token推理成本。