Chi phí suy luận giảm mạnh 90%. Nvidia hợp tác với LangChain để thiết lập tiêu chuẩn AI Agent, chiếm lĩnh cổng kết nối mới cho các ứng dụng AI

Thay vì nhấn mạnh vào "những tác vụ mà một Agent có thể hoàn thành", giải pháp được NVIDIA giới thiệu lần này tập trung nhiều hơn vào cách các Agent được quản trị, giám sát, kiểm toán và tối ưu hóa liên tục. Khả năng này đặc biệt quan trọng đối với các ngành chịu sự quản lý nghiêm ngặt như tài chính, y tế và chính phủ, đồng thời cũng hạ thấp rào cản để các doanh nghiệp triển khai Agent trên quy mô lớn.

Harrison Chase, đồng sáng lập kiêm Giám đốc điều hành của LangChain, cho biết: "Chìa khóa để xây dựng các agent tốt hơn là sự cải tiến liên tục của các hệ thống xung quanh mô hình. Khi các đội ngũ có thể đồng thời tinh chỉnh bộ nhớ, việc sử dụng công cụ, đánh giá và hành vi của mô hình, những khả năng này sẽ tạo ra các hiệu ứng cộng hưởng. Sự hợp tác của chúng tôi với NVIDIA cho thấy các doanh nghiệp không chỉ có thể đạt được hiệu suất mạnh mẽ thông qua một ngăn xếp mở mà còn duy trì quyền kiểm soát đối với các hệ thống agent mà họ xây dựng."

Khi các Agent đảm nhận các tác vụ ngày càng có rủi ro cao, chuyển đổi từ những trợ lý trả lời câu hỏi thành các thực thể thực thi có khả năng hành động trong các hệ thống cốt lõi, yêu cầu của doanh nghiệp đối với khả năng kiểm soát và tính bảo mật của các hệ thống AI ngày càng tăng lên.

Kiến trúc mở do bản thiết kế NeMo Guardrails cung cấp cho phép các doanh nghiệp sở hữu toàn bộ ngăn xếp công nghệ từ đầu đến cuối, cho phép họ tùy chỉnh và liên tục cải tiến dựa trên các lợi thế chuyên môn độc đáo của mình, đồng thời thực thi trong mọi môi trường, bao gồm cả cơ sở hạ tầng riêng, đám mây tư nhân và các khung quản trị độc quyền của họ.

Kiểm soát chi phí luôn là nút thắt cốt lõi đối với việc thương mại hóa AI trên quy mô lớn, và bản thiết kế NeMoClaw cho thấy lợi thế đáng kể về mặt này.

Theo dữ liệu đánh giá do LangChain công bố, mô hình Nemotron 3 Ultra được trang bị bộ công cụ Deep Agents đã đạt điểm số toàn diện là 0,86, với chi phí suy luận cho một tác vụ duy nhất chỉ là 4,48 USD, trong khi mô hình đối thủ cạnh tranh gần nhất có chi phí lên tới 43,48 USD – tương đương với mức giảm khoảng 90%. Thành tựu này không xuất phát từ việc đào tạo lại chính mô hình, mà được thực hiện bằng cách tối ưu hóa chiến lược gọi công cụ, cơ chế quản lý ngữ cảnh và quy trình lập luận trung gian.

Ở cấp độ phần cứng, kiến trúc Blackwell của Nvidia đã giảm chi phí suy luận cho mỗi token xuống còn khoảng 1/35 so với nền tảng thế hệ trước thông qua các nâng cấp về kiến trúc, giúp cải thiện đáng kể hiệu suất thông lượng suy luận.

Bản thiết kế NeMoClaw tiếp tục khai thác tiềm năng phần cứng từ cấp độ phần mềm. Thông qua việc tối ưu hóa có hệ thống việc lập kế hoạch tác vụ của tác nhân (agent), gọi công cụ, quản lý ngữ cảnh và các đường dẫn lập luận, nó cho phép cùng một năng lượng tính toán có thể hỗ trợ nhiều tác vụ hơn, đạt được hiệu quả tối đa thông qua sự phối hợp giữa phần mềm và phần cứng.

Đợt phát hành này là một bước đi then chốt của Nvidia trong việc hoàn thiện hệ sinh thái phần mềm NeMo của mình, lấp đầy khoảng trống trong lớp phát triển tác nhân. Trong những năm gần đây, Nvidia đã xây dựng một ngăn xếp phần mềm AI hoàn chỉnh xung quanh CUDA, TensorRT, NIM và NeMo, nhằm mục đích trở thành một nền tảng liên kết toàn diện bao gồm đào tạo mô hình, triển khai suy luận và phát triển ứng dụng doanh nghiệp.

Khi các tác nhân trở thành phương tiện cốt lõi cho các ứng dụng AI, các khung phát triển đang nổi lên như những cổng hệ sinh thái mới. Mối quan hệ hợp tác với LangChain cho phép Nvidia tích hợp các khả năng của mình vào quy trình làm việc AI của doanh nghiệp thông qua các khung chính thống, cạnh tranh giành vị thế thống trị trong kỷ nguyên tác nhân vượt ra ngoài phạm vi hạ tầng đơn thuần.

Đối với thị trường vốn, cách bố trí chiến lược này có ý nghĩa vô cùng to lớn. Sự cạnh tranh hiện tại trong hạ tầng AI đang dần bão hòa, và việc chỉ dựa vào doanh số bán GPU sẽ khó có thể duy trì việc mở rộng định giá, trong khi các dịch vụ phần mềm và nền tảng mang lại tỷ suất lợi nhuận gộp và mức độ gắn kết của khách hàng cao hơn.

Bằng cách hoàn thiện hệ sinh thái NeMo và mở rộng sang các tiêu chuẩn tác nhân, Nvidia đang phát triển từ một nhà cung cấp phần cứng thành một nền tảng hệ sinh thái AI toàn diện, đặt nền móng để thu về nhiều doanh thu phần mềm và phí bảo hiểm hệ sinh thái hơn trong tương lai.

Hiện tại, các công ty như Abridge, Amdocs và Box đã tích hợp các tác nhân chuyên dụng vào nền tảng của họ, trong khi các nhà tích hợp hệ thống như EY đang mở rộng khả năng triển khai công nghệ Nvidia xung quanh bản thiết kế NeMoClaw để hỗ trợ khách hàng tùy chỉnh, đánh giá và quản trị các tác nhân trong các quy trình làm việc có giá trị cao.

Về lâu dài, bước đi của Nvidia không chỉ nhằm mục đích giành thị phần trong kỷ nguyên tác nhân, mà còn là xây dựng một rào cản hệ sinh thái AI không thể lay chuyển.

Thông qua giải pháp toàn diện mang tính phối hợp giữa phần mềm và phần cứng, Nvidia đang giữ chân khách hàng một cách chắc chắn trong hệ sinh thái công nghệ của mình, củng cố vị thế cốt lõi trong chuỗi ngành AI và chuẩn bị đầy đủ cho sự bùng nổ sắp tới của các ứng dụng AI.

Nội dung này được dịch bằng trí tuệ nhân tạo và đã được hiệu đính cho dễ hiểu hơn. Chỉ mang tính chất tham khảo.