Cơ hội lưu trữ cho các trung tâm dữ liệu AI nhỏ hơn nhiều so với máy chủ: Bernstein

2244958

Trong khi các mô hình tập trung vào hình ảnh và video cần dung lượng lưu trữ cao hơn do bộ dữ liệu lớn hơn, nhu cầu lưu trữ tổng thể trong các trung tâm dữ liệu AI vẫn thua xa các thành phần khác, như máy chủ, công ty cho biết. 

Bernstein cũng lưu ý rằng việc lựa chọn một nhà cung cấp dịch vụ lưu trữ liên quan đến việc cân bằng các tính năng với chi phí. 

Họ giải thích rằng Lambda đã chọn làm việc với các nhà cung cấp như DDN, Vast và WEKA, dựa trên nhu cầu của khách hàng, đồng thời bỏ qua các giải pháp từ NetApp (NASDAQ:NTAP), Dell (NYSE:DELL) và Pure Storage (NYSE:PSTG), với lý do các nhà cung cấp khác mang lại tính năng toàn diện hơn​.

Trong cuộc thảo luận, Hall cũng đề cập đến tuổi thọ và nâng cấp GPU. Theo Bernstein, Hall cho biết các GPU hiện nay có tuổi thọ từ 7-9 năm, có nghĩa là ngay cả những chip đã khấu hao hoàn toàn vẫn có thể mang lại giá trị sử dụng​.

Hall nhấn mạnh rằng GPU mới của dòng Blackwell cải thiện hiệu suất từ 60-200% so với dòng Hopper của Nvidia, với mức giá tăng thêm 30-40%. Tuy nhiên, không phải tất cả các tác vụ đều cần công nghệ mới nhất—nhiều công việc vẫn có thể thực hiện bằng các GPU thế hệ cũ như Ampere hoặc dòng P-series​

Bernstein cho biết hội thảo trên web nhấn mạnh hơn nữa sự thống trị của Nvidia (NASDAQ:NVDA) trong lớp phần mềm thông qua CUDA và CuDNN, một điểm khác biệt chính trong không gian AI. 

Mặc dù các công ty khởi nghiệp mới nổi với GPU tùy chỉnh có thể làm mất thị phần của Nvidia, công ty cho biết phần mềm này vẫn rất quan trọng để thành công. 

Họ lưu ý rằng lớp phần mềm sẽ là "thành phần quan trọng nhất" trong việc xác định bối cảnh cạnh tranh cho GPU.