Mỗi khi có tin tức có vẻ tích cực về nguồn cung lưu trữ và bộ nhớ – ví dụ như việc tăng cung từ Trung Quốc – tôi lại không khỏi nghĩ “đúng, nhưng ngành AI sẽ tiêu thụ hết”. Nhu cầu không chỉ vô hạn mà còn có những đột phá mới khiến việc sử dụng bộ nhớ tăng lên. Ví dụ điển hình hiện nay là Nvidia Rubin.
Như SE Daily đưa tin, công nghệ lưu trữ bộ nhớ ngữ cảnh (CMX) mới của Nvidia, dự kiến sẽ xuất hiện cùng các máy chủ Rubin vào cuối năm nay, sẽ tiêu tốn một lượng NAND khổng lồ.
“Nvidia’s CMX is equipped with 576 SSDs, providing a total storage capacity of 9,600 TB. The industry anticipates that the demand for NAND required for CMX will surge from 35 million TB this year to over 100 million TB next year.” – Analyst Jukan on X
Original tweet
CMX về cơ bản nằm ở vị trí giữa bộ nhớ băng thông cao (HBM) của bộ tăng tốc AI và các ổ đĩa lưu trữ thông thường. Bạn có thể tưởng tượng mối quan hệ của nó với HBM giống như RAM so với bộ nhớ đệm của CPU và ổ SSD. CMX có thể được chia sẻ giữa các bộ tăng tốc AI khác nhau và truy cập nhanh hơn rất nhiều so với lưu trữ lâu dài vì nó kết nối qua “Spectrum‑X Ethernet”.
Điều này chắc chắn là tin tốt cho các nhà sản xuất NAND như Samsung, vì nhu cầu lưu trữ sẽ tăng lên. Tuy nhiên, đối với người tiêu dùng như chúng ta, ít nhất trong khoảng ngắn và trung hạn, đây không phải là lợi thế. Khi nhu cầu NAND hoặc DRAM từ ngành AI – với các hợp đồng quy mô lớn – được ưu tiên, thị trường tiêu dùng thường sẽ bị bỏ lại phía sau.
Có một vài lãnh đạo trong ngành bộ nhớ đã bày tỏ lo ngại về giá cho người tiêu dùng (theo nguồn tin), nhưng tôi vẫn hoài nghi liệu những lo lắng này có thực sự thay đổi dòng cung từ các máy chủ AI sang tay người dùng gia đình hay không.
Nvidia, CMX, NAND
