我國科研人員研發出類腦脈衝大模型

金吾財訊 | 據央視新聞報道，記者今天從中國科學院自動化研究所獲悉，近日，該研究所李國齊、徐波團隊與相關單位合作，成功研發出類腦脈衝大模型“瞬悉1.0”（SpikingBrain-1.0）。與當前主流大模型架構（Transformer架構）不同，“瞬悉1.0”借鑑大腦神經元內部工作機制，清晰地展示了一條不斷提升模型複雜度和性能的新型可行路徑。該模型僅需約主流模型2%的數據量，就能在多項語言理解和推理任務中達到媲美衆多主流模型的性能。這是我國首次提出大規模類腦線性基礎模型架構，並首次在國產GPU算力集羣上構建類腦脈衝大模型的訓練和推理框架。其超長序列處理能力在法律與醫學文檔分析、複雜多智能體模擬、高能粒子物理實驗、DNA序列分析、分子動力學軌跡等超長序列任務建模場景中具有顯著的潛在效率優勢。本次發佈的大模型爲新一代人工智能發展提供了非Transformer架構的新技術路線，並將啓迪更低功耗的下一代神經形態計算理論和芯片設計。