Sản phẩm bom tấn tại GTC của Jensen Huang gặp trở ngại. Nvidia Kyber NVL144 bị trì hoãn đến năm 2028, liệu PCB có phải là nút thắt cổ chai quyết định?

SemiAnalysis chỉ ra rằng nguyên nhân trực tiếp dẫn đến sự chậm trễ của Kyber NVL144 nằm ở điểm nghẽn trong quy trình sản xuất tấm trung gian PCB (midplane). Thành phần then chốt này, được NVIDIA gọi là "backplane trực giao", là cốt lõi để đạt được sự kết nối hiệu quả giữa 144 GPU trong một tủ rack đơn lẻ.

Khác với bố cục nằm ngang được các máy chủ truyền thống áp dụng, kiến trúc Kyber sử dụng thiết kế xếp chồng thẳng đứng. Thông qua tấm trung gian này, hệ thống đạt được sự kết nối dọc 90 độ giữa các khay tính toán (compute tray) và khay chuyển mạch (switch tray), loại bỏ hoàn toàn các vấn đề về suy giảm tín hiệu và chiếm dụng không gian do cáp truyền thống gây ra.

Tuy nhiên, bảng mạch có vẻ bình thường này lại đại diện cho giới hạn cực độ của các quy trình sản xuất PCB hiện tại. Theo phân tích kỹ thuật, tấm trung gian này sử dụng vật liệu hỗn hợp gồm laminate phủ đồng cấp M9 + vải thạch anh + PTFE, với số lớp lên tới 78 lớp (được sản xuất bằng cách ép ba tấm 26 lớp lại với nhau), cùng chiều rộng/khoảng cách đường truyền ≤25μm, nhằm đáp ứng các yêu cầu về tính toàn vẹn tín hiệu tốc độ siêu cao dưới tốc độ SerDes 448G+.

Mặc dù thiết kế này về mặt lý thuyết có thể đạt được mật độ tính toán cao hơn, nhưng nó phải đối mặt với một loạt thách thức trong sản xuất thực tế, chẳng hạn như kiểm soát hiệu suất thu hồi (yield), tính nhất quán của trở kháng và thiết kế nhiệt.

Các nguồn tin trong ngành cho biết hiện có rất ít nhà sản xuất trên toàn thế giới có khả năng sản xuất hàng loạt loại PCB mật độ siêu cao này, và chi phí sản xuất là cực kỳ lớn.

Đối mặt với những khó khăn trong khâu sản xuất Kyber, Nvidia đã cố gắng phát triển một giải pháp chuyển tiếp—kiến trúc tủ rack đấu lưng (back-to-back) NVL72x2. Giải pháp này đặt hai tủ rack Oberon đấu lưng vào nhau, mở rộng phạm vi quy mô thông qua các kết nối NVLink bằng đồng nguyên chất nhằm vượt qua các nút thắt cổ chai trong sản xuất tấm nền trung gian (midplane) Kyber.

Tuy nhiên, kế hoạch này cuối cùng đã bị hủy bỏ do sự phản đối mạnh mẽ từ các nhà cung cấp dịch vụ đám mây (CSP) và các nhà vận hành trung tâm dữ liệu quy mô siêu lớn (hyperscaler). Họ cho rằng thiết kế như vậy không chỉ phức tạp về mặt cấu trúc mà còn gánh chịu chi phí vận hành và bảo trì cực kỳ cao, khiến nó khó có thể triển khai trong các môi trường trung tâm dữ liệu quy mô lớn.

Để mọi chuyện tồi tệ hơn, phiên bản Rubin Ultra với 4 chip tính toán ban đầu được Nvidia lên kế hoạch cũng đã bị hủy bỏ, chỉ còn lại phiên bản 2 chip tính toán nhỏ hơn, với hiệu suất thực tế chỉ bằng khoảng một nửa so với phiên bản trước.

Điều này có nghĩa là ngay cả khi các tủ rack Kyber cuối cùng được bàn giao đúng tiến độ, thì mức trần sức mạnh tính toán trên mỗi tủ rack cũng đã bị hạ thấp đáng kể.

Bên cạnh Kyber NVL144, sự không chắc chắn cũng đang bao trùm lên hệ thống NVL576 quy mô lớn hơn của Nvidia. Giải pháp này tích hợp tám tủ rack thành một cụm máy tính hiệu năng cao hơn nhờ sử dụng công nghệ CPO (Co-Packaged Optics - đóng gói quang học chung). Tuy nhiên, SemiAnalysis chỉ ra rằng trước những thách thức hiện tại mà công nghệ CPO phải đối mặt, NVL576 cũng có thể bị trì hoãn hoặc giới hạn ở các lô hàng quy mô nhỏ.

Công nghệ CPO được coi là chìa khóa cho các kết nối trung tâm dữ liệu thế hệ tiếp theo, nhưng khả năng sẵn sàng sản xuất hàng loạt của nó vẫn cần phải được kiểm chứng. Nvidia có kế hoạch ứng dụng công nghệ này vào nền tảng Feynman thế hệ tiếp theo của mình.

Chuỗi trì hoãn và hủy bỏ này đã mang lại cơ hội bắt kịp cho các đối thủ cạnh tranh là AMD và Google. SemiAnalysis lưu ý rằng Nvidia hiện đang thiếu một giải pháp đã được chứng minh để mở rộng phạm vi nâng cấp (scale-up) của Rubin Ultra, điều này tạo cơ hội cho các sản phẩm như MI500X của AMD hoặc TPUv8i Broadfly của Google vượt qua Rubin Ultra về khả năng nâng cấp.

Khi Nvidia chậm lại trong việc phát triển cơ sở hạ tầng AI cấp độ tủ rack, các đối thủ cạnh tranh đã sẵn sàng chiếm lĩnh thêm thị phần trong thị trường đào tạo AI phân khúc cao cấp.

Nội dung này được dịch bằng trí tuệ nhân tạo và đã được hiệu đính cho dễ hiểu hơn. Chỉ mang tính chất tham khảo.