英偉達實驗室:用內核設計智能體優化Kimi線性注意力,提速達2.96倍
金色財經報道,9月27日,據NVIDIA Labs博客《KDA²》,其內核設計智能體(KDAgent)已能自主優化Moonshot AI的Kimi Delta Attention(KDAttn)算子。在英偉達B300、8,192 tokens下,相對官方FlashKDA基線:TIRx版幾何平均加速2.96倍、CAKE-PTX版2.94倍、CuTe-DSL版2.85倍;同時新內核將8k tokens最終狀態的相對誤差由FlashKDA的3.45%降至0.22%(CuTe)與0.29%(TIRx),約爲其十分之一。內核已開源。
免責聲明:本網站提供的資訊僅供教育和參考之用,不應視為財務或投資建議。
讚











