光電融合芯片有望讓Token成本降50% 國產算力集羣或成降本關鍵
金色財經報道,7月19日,當前,隨着AI智能體在各行業的應用深入,Token的調用量一直保持着高速增長態勢。未來如何能讓算力成本進一步下降,成爲各方發力的重點。業內人士介紹,他們正通過算力平臺來協調多個主流大模型的使用,綜合降低詞元成本。同時,還在全國範圍加快大規模算力集羣的建設。而國產算力芯片支撐的超大規模算力集羣,被業內視作是下一步降本的關鍵。此外,未來三五年內,光芯片等更前沿的新技術落地,也有望成爲降低算力成本的另一探索方向。“光電融合的芯片相比電芯片的話,核心在於它的計算延遲更低、功耗也會更低。每單位Token成本會相應下降50%,甚至更多。”(金十)
免責聲明:本網站提供的資訊僅供教育和參考之用,不應視為財務或投資建議。
讚







