谷歌提出Titans：突破算力限制，擴展上下文

金色財經報道，谷歌研究院發佈一項新的研究Titans。通過引入全新的神經長期記憶模塊，三頭協同架構與硬件優化設計等模塊，在算力僅增加1.8倍的情況下，將大模型的上下文窗口擴展至200萬token。Titans不僅解決了Transformer模型在長上下文處理中的算力瓶頸，更通過仿生學設計模擬人類記憶系統的分層機制，首次實現了200萬token超長上下文的精準推理。