推理成本暴降90%！輝達聯手LangChain定義Agent標準，搶奪AI應用新入口
AI 播客
7月8日，輝達與LangChain發布NeMoClaw Deep Agents藍圖，標誌輝達從算力供應商向企業級AI代理生態平台轉型。該方案通過開放架構解決企業部署智能體的治理與安全痛點，並強調軟硬協同優化。數據顯示，該藍圖結合Blackwell架構可顯著提升推理效率，並將推理成本降低逾10倍。此舉旨在透過軟體生態獲取更高毛利率與客戶黏性，鞏固輝達在AI應用時代的技術壁壘與核心產業地位，進一步拓寬長期增長空間。
TradingKey - 7月8日，輝達（NVDA）與AI開發框架LangChain聯合發布NVIDIA NeMoClaw Deep Agents藍圖，這一舉措意味著輝達從單純的AI算力供應商，向定義企業級Agent開發標準的生態平台全面延伸，為軟體業務打開新的增長空間。
該藍圖為企業提供一套開放、可定制且具備治理能力的AI智能體參考架構，旨在破解企業在智能體部署中面臨的可控性、治理與持續演進等核心難題。
相比單純提升模型能力，這一藍圖更強調企業級Agent的軟體工程能力，官方數據顯示，該方案不僅在多項基準測試中取得領先表現，還可將Agent推理成本降低超過10倍，與Blackwell推理平台形成軟硬體協同，進一步壓縮AI應用部署成本。
隨著生成式AI從內容生成邁向自主執行任務，Agent正成為企業AI應用的核心形態，但企業部署過程中始終面臨安全、可控和與業務流程融合困難等挑戰。
此次推出的藍圖，核心並非打造一個新的Agent框架，而是提供一套完整的企業級參考架構。基於與LangChain的合作，該藍圖採用開放架構設計，企業可以完全掌控底層系統，自定義Agent能力，並隨著業務發展持續迭代，而不是依賴封閉平台。
聚焦Agent治理，破解企業級部署痛點
相比強調Agent"能完成什麼任務"，輝達此次推出的方案更關注Agent如何被治理、監控、審計和持續優化。這種能力對於金融、醫療、政府等強監管行業尤為關鍵，也降低了企業大規模部署Agent的門檻。
LangChain聯合創始人兼首席執行官Harrison Chase表示："打造更優秀代理的關鍵，在於持續改善模型周邊的系統。當團隊能同步調校記憶、工具使用、評估與模型行為時，這些能力將產生協同效應。我們與NVIDIA的合作顯示，企業不但能透過開放堆疊取得強大效能，同時也能對其所建構的代理系統保持掌控權。"
隨著Agent承擔越來越高風險的工作，從回答問題的助理轉變為能在核心系統中採取行動的執行主體，企業對AI系統的可控性和安全性要求日益提升。
NeMoClaw藍圖提供的開放架構，讓企業能夠端到端擁有完整技術棧，可依據自身獨特的專業優勢進行客製化、持續改善，並在任何環境中執行，包括自有基礎設施、自有雲端與自有治理框架。
軟硬協同降本
成本控制一直是 AI 大規模商業化落地的核心瓶頸，NeMoClaw 藍圖在這方面展現出顯著優勢。
據 LangChain 公布的評測數據，搭載 Deep Agents 套件的 Nemotron 3 Ultra 模型綜合得分達 0.86，單任務推理成本僅 4.48 美元，而性能最接近的競品模型成本高達 43.48 美元，降幅約 90%。這一成果並非來自模型本身的重新訓練，而是通過優化工具調用策略、上下文管理機制和中間推理流程實現的。
在硬體層面，輝達 Blackwell 架構已通過架構升級將單 Token 推理成本降至上一代平台的約 1/35，大幅提升了推理吞吐效率。
NeMoClaw 藍圖則從軟體層面進一步挖掘硬體潛力，通過對 Agent 任務規劃、工具調用、上下文管理及推理路徑的系統性優化，讓相同算力能承載更多任務，實現軟硬體協同的最大化效能。
此次發布是輝達完善 NeMo 軟體生態的關鍵一步，補齊了 Agent 開發層的短板。近年來，輝達圍繞 CUDA、TensorRT、NIM、NeMo 構建完整 AI 軟體棧，目標是成為覆蓋模型訓練、推理部署和企業應用開發的全鏈路平台。
隨著 Agent 成為 AI 應用的核心載體，開發框架正成為新的生態入口，與 LangChain 的合作讓輝達能借助主流框架將自身能力嵌入企業 AI 流程，在基礎設施之外爭奪 Agent 時代的話語權。
對於資本市場而言，這一戰略布局意義重大，當前 AI 基礎設施競爭日趨成熟，單純依靠 GPU 銷售難以支撐估值持續擴張，而軟體和平台服務具備更高毛利率和客戶黏性。
通過完善 NeMo 生態並向 Agent 標準延伸，輝達正從硬體提供商向全棧 AI 生態平台演進，為未來獲取更多軟體收入和生態溢價奠定基礎。
目前已有 Abridge、Amdocs、Box 等企業將專用代理嵌入自身平台，安永等系統整合商也在圍繞 NeMoClaw 藍圖擴展輝達技術部署能力，協助客戶在高價值工作流程中定制、評估和治理智能體。
從長遠來看，輝達此次布局不僅是為了搶占 Agent 時代的市場份額，更是在構建一個難以撼動的 AI 生態壁壘。
通過軟硬體協同的全棧解決方案，輝達將客戶牢牢綁定在自身技術體系內，鞏固其在 AI 產業鏈中的核心地位，為迎接即將到來的 AI 應用爆發期做好充分準備。
本內容經由 AI 翻譯並經人工審閱，僅供參考與一般資訊用途，不構成投資建議。
