OpenAI hợp tác với Broadcom phát triển chip Jalapeño: Canh bạc 'thoát khỏi Nvidia', liệu có thành công?

Jalapeño là một loại chip được thiết kế dành riêng cho quá trình suy luận AI. Trong quy trình tính toán AI, có hai giai đoạn chính: 'huấn luyện' và 'suy luận'. Quá trình huấn luyện sử dụng lượng dữ liệu khổng lồ để 'dạy' một mô hình, trong khi quá trình suy luận là khi mô hình đưa ra câu trả lời sau khi nhận được yêu cầu từ người dùng. Jalapeño được thiết kế hướng tới mục tiêu cụ thể là giai đoạn suy luận.

Khác với các GPU đa dụng của Nvidia, Jalapeño được tối ưu hóa cho một việc duy nhất: vận hành các mô hình ngôn ngữ lớn một cách nhanh chóng và tiết kiệm năng lượng. Con chip này không cần phải cân bằng các tác vụ khác như dựng hình đồ họa, từ đó cho phép đạt hiệu suất cao hơn và chi phí thấp hơn đối với các tác vụ suy luận. Richard Ho, Trưởng bộ phận phần cứng của OpenAI, tiết lộ rằng đội ngũ phát triển đã tùy chỉnh sâu hệ thống tính toán cốt lõi, truyền tải bộ nhớ và kiến trúc mạng, nhằm mục tiêu giúp mọi phản hồi từ các sản phẩm như ChatGPT trở nên rẻ hơn và nhanh hơn.

Richard Ho cho biết Jalapeño mang lại cho OpenAI quyền kiểm soát hoàn toàn từ các mô hình đến sản phẩm, và xa hơn là các con chip và trung tâm dữ liệu. Điều này có nghĩa là OpenAI không còn chỉ là một công ty phần mềm thuê năng lực tính toán của Nvidia, mà đang chuyển đổi thành một công ty cơ sở hạ tầng tính toán.

Khác với con đường mở rộng của các công ty internet truyền thống, có một logic rõ ràng đằng sau Jalapeño: các mô hình tốt hơn có thể hỗ trợ thiết kế các con chip tốt hơn, các con chip tốt hơn có thể làm giảm chi phí vận hành của các mô hình thế hệ tiếp theo, và chi phí thấp hơn lại có thể hỗ trợ nhiều người dùng và sản phẩm hơn. Một khi vòng lặp khép kín này được thiết lập thành công, ý tưởng về việc Nvidia chuyển từ một nhà cung cấp cốt lõi thành một lựa chọn thay thế sẽ không còn chỉ là lời cảnh báo thái quá.

Lựa chọn mảng suy luận làm điểm xuất phát. Thay vì đối đầu trực tiếp trong lĩnh vực đào tạo vốn là thế mạnh lớn nhất của Nvidia, OpenAI đã chọn mục tiêu là các kịch bản suy luận — bước tính toán khi người dùng đưa ra câu lệnh cho ChatGPT và mô hình tạo ra phản hồi.

Đây là một điểm xuất phát thực tế hơn. Quá trình đào tạo đòi hỏi mật độ tính toán và tính linh hoạt cực kỳ cao, những lĩnh vực mà GPU của Nvidia nắm giữ lợi thế cấu trúc. Ngược lại, quá trình suy luận xử lý lượng yêu cầu khổng lồ theo các kiến trúc mô hình đã được thiết lập sẵn, giúp các chip chuyên dụng dễ dàng vượt trội hơn các GPU đa năng về cả hiệu suất lẫn chi phí.

Quan trọng hơn, chi phí suy luận là khoản chi phí phát sinh hàng ngày đối với OpenAI. CEO Hock Tan của Broadcom tiết lộ rằng chi phí suy luận của chip Jalapeño có thể thấp hơn khoảng 50% so với các dòng GPU AI phổ thông, trong khi hiệu suất gần như tương đương với các chip Blackwell của Nvidia.

Thiết kế có sự hỗ trợ của AI, hoàn tất quá trình tape-out trong chín tháng. Trong khi các dòng chip cao cấp truyền thống thường mất từ hai đến ba năm từ khâu thiết kế kiến trúc đến khi tape-out, thì Jalapeño đã đạt được điều này chỉ trong chín tháng.

Yếu tố then chốt đằng sau thành công này là việc OpenAI đã tận dụng các mô hình của riêng mình để đẩy nhanh quy trình thiết kế chip. AI không còn chỉ là bên tiêu thụ chip; bản thân nó đang bắt đầu tự thiết kế chip — một thực tế cực kỳ thuyết phục.

Không chỉ dừng lại ở một con chip đơn lẻ, mà là cả một lộ trình toàn diện. Jalapeño mới chỉ là bước đi đầu tiên. OpenAI và Broadcom đã vạch ra lộ trình phát triển chip qua nhiều thế hệ, hướng tới mục tiêu triển khai công suất tính toán của chip tùy biến đạt 10 gigawatt vào năm 2029. Broadcom dự báo doanh thu liên quan đến AI của hãng sẽ vượt mốc 100 tỷ USD vào năm tài chính 2027.

OpenAI không hề đơn độc. Google ( GOOGL ), Amazon ( AMZN ), Microsoft ( MSFT ), Meta ( META) đều đang tự phát triển chip nội bộ, và Anthropic cũng đã bắt đầu tiến hành các đánh giá đối với chip silicon tùy biến. Xu hướng thúc đẩy phát triển chip tùy biến đang chuyển dịch từ những thử nghiệm riêng lẻ của từng công ty thành một xu thế chung rộng lớn của toàn ngành.

1. Lợi thế quy mô của Nvidia vẫn vô cùng to lớn

Broadcom kỳ vọng doanh thu chip AI sẽ vượt 100 tỷ USD trong năm tài chính 2027, một con số có vẻ rất ấn tượng. Tuy nhiên, chỉ riêng doanh thu mảng trung tâm dữ liệu của Nvidia trong quý 1 năm tài chính 2027 đã đạt 75,2 tỷ USD, tăng 92% so với cùng kỳ năm ngoái. Nói cách khác, lượng phần cứng AI mà Nvidia bán ra trong một quý duy nhất đã vượt qua mức doanh thu chip AI dự kiến cho cả năm của Broadcom. Khoảng cách về quy mô giữa hai bên vẫn còn vô cùng lớn.

2. Hệ sinh thái phần mềm CUDA là rào cản khó vượt qua

Lợi thế cạnh tranh thực sự của Nvidia không phải là phần cứng GPU, mà là CUDA và hệ sinh thái phần mềm đi kèm, vốn hỗ trợ hơn 7.000 ứng dụng và được hỗ trợ bởi một chuỗi công cụ mà hàng triệu nhà phát triển đã phụ thuộc vào từ lâu.

Là một chip ASIC, Jalapeño không hỗ trợ CUDA, cũng như không có kế hoạch tương thích. Nhưng điểm mấu chốt là OpenAI không cần phải bán Jalapeño ra bên ngoài; họ chỉ cần tối ưu hóa nó cho các tác vụ suy luận của riêng mình. Mặc dù chiến lược này có thể vượt qua CUDA, nhưng nó vẫn chưa đủ để làm lung lay vị thế thống trị của CUDA trong cộng đồng phát triển AI rộng lớn hơn.

3. Công suất ngắn hạn hạn chế, mang tính bổ sung nhiều hơn là thay thế

OpenAI đã làm rõ rằng Jalapeño là một sự bổ sung cho năng lực tính toán hiện có, chứ không phải là sự thay thế. Brockman thẳng thắn tuyên bố rằng công ty đơn giản là không thể có được năng lực tính toán đủ nhanh.

Ngoài ra còn có một bối cảnh dễ bị bỏ qua: khoảng chín tháng trước, Nvidia vừa hoàn tất khoản đầu tư chiến lược trị giá 30 tỷ USD vào OpenAI. Jensen Huang đã phát biểu vào thời điểm đó rằng "đây có thể là lần cuối cùng", cho thấy Nvidia đã lường trước từ lâu về dự án Jalapeño. Hai bên vẫn duy trì mối quan hệ cộng sinh.

Một đánh giá thận trọng hơn cho rằng lợi thế cạnh tranh của Nvidia đang bị bào mòn, nhưng vẫn còn lâu mới sụp đổ.

Thị trường suy luận đang chuyển dịch từ sự thống trị của GPU sang một cục diện đa dạng, nơi GPU đồng tồn tại với nhiều loại chip ASIC khác nhau. Nếu lộ trình phát triển chip nhiều thế hệ của OpenAI tiến triển thuận lợi, các tác vụ suy luận sẽ tăng tốc chuyển dịch từ GPU sang ASIC. Tuy nhiên, đối với Nvidia, các rào cản trong thị trường huấn luyện, sự gắn kết hệ sinh thái của CUDA và lợi thế quy mô của hãng vẫn khó bị lung lay trong ngắn hạn.

Câu trả lời cho việc Jalapeño cuối cùng có thể tiến xa đến đâu có thể sẽ không được hé lộ cho đến khi có dữ liệu triển khai trong hai năm nữa.

Hỏi: Khi nào chip Jalapeño sẽ chính thức được thương mại hóa?

Đáp: Hiện tại, chip này vẫn đang trong giai đoạn thử nghiệm kỹ thuật. OpenAI dự kiến sẽ công bố một báo cáo kỹ thuật chi tiết hơn trong những tháng tới, và mốc thời gian cụ thể cho việc sản xuất quy mô lớn cũng như triển khai vẫn chưa được công bố.

Hỏi: Liệu Jalapeño có thay thế GPU của Nvidia không?

Đáp: Không phải trong ngắn hạn. OpenAI đã làm rõ rằng đây là giải pháp bổ sung cho năng lực tính toán chứ không phải sự thay thế, và việc huấn luyện các mô hình nền tảng thế hệ mới vẫn phụ thuộc rất lớn vào GPU của Nvidia.

Hỏi: Liệu chi phí suy luận của Jalapeño có thực sự giảm được 50%?

Đáp: Con số này bắt nguồn từ các phát biểu công khai của CEO Broadcom Hock Tan, nhưng nó dựa trên các chỉ số thử nghiệm ban đầu, và hiệu suất thực tế sau khi tiến hành sản xuất quy mô lớn chính thức vẫn cần phải được xác minh thêm.

Nội dung này được dịch bằng trí tuệ nhân tạo và đã được hiệu đính cho dễ hiểu hơn. Chỉ mang tính chất tham khảo.