Nvidia mời một nhóm khoảng mười‑hai nhà báo tới trụ sở công ty để tìm hiểu sâu hơn về Vera CPU và vị trí của nó trong hệ thống rack Vera Rubin NVL72 rộng hơn – trung tâm của nền tảng AI thực thể thế hệ kế tiếp của Nvidia.

Đó không phải là một trung tâm dữ liệu thực thụ, hay ít nhất là một trung tâm dữ liệu chưa tối ưu. Nvidia nhấn mạnh rằng Engineering SuperLab được xây dựng cho các kỹ sư, cho phép họ nhanh chóng lắp đặt và hoán đổi rack để quan sát phần cứng hoạt động. Không khó nhận thấy một chút lo lắng trong không khí: nếu Nvidia đang xây dựng một trung tâm dữ liệu thực, nó sẽ không trông như thế này. Lab này là nơi các kỹ sư làm việc, và khi bạn ở cùng một nhóm kỹ sư có rất nhiều phần cứng để “chơi”, bạn sẽ thấy môi trường không phải lúc nào cũng gọn gàng như trong một trung tâm dữ liệu tiêu chuẩn.

Credit: Nvidia

Credit: Tom’s Hardware

Nvidia Vera Rubin NVL72 running in the flesh

Credit: Tom’s Hardware

Vera Rubin đã đi vào sản xuất đầy đủ, và chúng tôi đã xem một số video ngắn về các rack được dựng lên trong trung tâm dữ liệu. Đây là lần đầu tiên chúng tôi thấy một rack chạy workload thực tế. Nvidia cho biết các rack này đang thực thi một số workload cho OpenAI, và từ hình ảnh trên có thể nhận ra một vài khay đang chạy mô hình GPT‑Rosalind của OpenAI.

Mặt trước mỗi khay có hai cổng NIC ConnectX‑9 và một Bluefield‑4 DPU ở giữa. Phía sau là khung xương NVLink của Nvidia – một cấu trúc gần như “trung cổ” với các chốt nhọn nối các khay lại với nhau. Hệ thống chứa khoảng 5 000 cáp đồng, tổng độ dài hơn 3,2 km, cung cấp tới 3,6 TB/s băng thông cho mỗi GPU và 260 TB/s băng thông mở rộng cho toàn bộ rack, dựa trên NVLink thế hệ sáu của Nvidia.

Mỗi rack Vera Rubin NVL72 chứa 18 khay tính toán và 9 khay chuyển mạch NVLink; các khay này phối hợp giao tiếp để hoạt động như một hệ thống thống nhất. Nvidia trình diễn thiết kế MGX NVL – một rack tham chiếu duy nhất với 72 GPU Rubin và 36 CPU Vera. Thiết kế MGX ETL thay thế khung xương NVLink bằng khung xương Ethernet Spectrum‑X hoặc khung xương chip‑to‑chip trực tiếp, cho phép mở rộng lên tới 256 GPU.

Bí mật: Apple iOS 26.5 hiện đang trong giai đoạn beta

Phần “kinh doanh” nằm ở phía sau rack. Mặc dù phía sau không còn cáp vì khung xương NVLink, việc cấp nguồn và làm mát vẫn là những yếu tố quan trọng. Hình ảnh hỗn loạn có tổ chức của ống dẫn và cáp dưới đây minh họa mức độ công sức cần để dựng ngay cả một rack duy nhất.

Credit: Tom’s Hardware

Các rack NVL72 thế hệ trước (GB200 và GB300) của Nvidia sử dụng làm mát lai, trong khi các khay Vera Rubin được làm mát hoàn toàn bằng chất lỏng. Không có quạt, điều này có thể làm cho trung tâm dữ liệu yên tĩnh hơn. Trong phòng thí nghiệm, mức tiếng ồn dao động khoảng 80‑90 dB – lớn hơn máy điều hòa nhưng nhỏ hơn tiếng mô tô.

Credit: Tom’s Hardware

Khay Vera Rubin sử dụng quy trình “làm mát khô”. Khi nhiệt độ đầu vào của chất làm mát ≤ 45 °C, Nvidia cho biết hệ thống có thể được làm mát hoàn toàn chỉ bằng một bộ trao đổi nhiệt, nhờ đó có tiềm năng loại bỏ hoàn toàn các chiller tốn kém. Chất làm mát (thường là dung dịch chống đông hoặc nước khử ion) được bơm lên trên, chảy qua dưới, và các khay tự động kết nối vào vòng làm mát qua các đầu vào. Nvidia đã chuẩn hoá rack này theo Open Compute Project (OCP), thậm chí tới các thông số vận chuyển. Công ty khẳng định chỉ mất 47 phút từ khi xe tải tới nơi cho đến khi rack được bật nguồn.

800 VDC power for next‑gen AI infrastructure

Credit: Tom’s Hardware

Nvidia cũng cho thấy một “sidecar” cung cấp 800 VDC đang hoạt động. Hệ thống này giảm thiểu lãng phí khi chuyển đổi AC → DC và đáp ứng nhu cầu công suất khổng lồ của các rack AI hiện đại mà không phải đưa dòng điện lên tới hàng nghìn ampe.

Bí mật: Apple iPhone 17 Pro

Một rack Vera Rubin NVL72 có thể tiêu thụ hơn 200 kW, một thách thức lớn đối với hạ tầng nguồn truyền thống. Các rack thường chuyển đổi nguồn 415 V/480 V AC thành 48 V/54 V DC để phân phối, dẫn đến dòng cao hơn, bus dày hơn và hiệu suất giảm. Với 800 VDC, điện áp được nâng lên trong khi dòng điện không thay đổi, cho phép mật độ tính toán cao hơn và hiệu suất năng lượng tốt hơn.

Credit: Tom’s Hardware

Sidecar hoạt động như một rack “retrofit” nguồn: 415 V/480 V AC được đưa vào cơ sở, đi qua sidecar, sau đó chuyển thành 800 VDC và cấp cho các rack lân cận. Cách tiếp cận này cũng đang được các công ty khác (Google, Meta, Microsoft) nghiên cứu, nhưng bản thực thi của Nvidia cung cấp một góc nhìn cụ thể về công nghệ đang được sử dụng.

Nvidia’s next‑gen AI infrastructure laid out

Credit: Tom’s Hardware

Khay Vera Rubin NVL72 tự thân nằm cạnh một khay GB300. Cả hai đều là thiết kế DGX, được Nvidia lắp ráp và tích hợp toàn bộ. Khay Vera Rubin chỉ có hai dây cáp, không có ống dẫn, không có quạt. Ở phía sau, một cánh tay giữ cho phép hai bo mạch Super Chip trượt vào/ra trong vòng vài giây.

Credit: Tom’s Hardware

Midplane của khay thay thế các quạt trong thiết kế GB300, tạo kênh giao tiếp giữa hai NIC ConnectX‑9 và Bluefield‑4 DPU ở mặt trước khay.

Credit: Tom’s Hardware

Phiên bản chỉ có CPU của khay Vera Rubin NVL72 bao gồm tám chip Vera, cho phép lên tới 256 chip trong một rack. Phiên bản này giới thiệu hệ thống bộ nhớ SOCAMM2 LPDDR5X — các mô-đun 128 GB từ Micron chạy ở 6400 MT/s.

Bí mật: Các tính năng Siri của Apple được nhìn thấy tại WWDC 2026

Credit: Tom’s Hardware

Các switch NVLink trong khay xử lý giao tiếp mở rộng, trong khi các khay switch Spectrum‑X CPO (co‑packaged optics) thực hiện giao tiếp mở rộng qua các NIC ConnectX‑9.

Credit: Tom’s Hardware

Credit: Tom’s Hardware

Credit: Tom’s Hardware

Kích thước của khay switch mở rộng tỷ lệ với độ rộng của hạ tầng mở rộng; Nvidia cũng trình diễn một khay Spectrum‑X CPO nhỏ gọn hơn cho các triển khai quy mô vừa phải.

Kết luận – Vera Rubin hiện đã vào sản xuất và sẽ được triển khai trong nửa cuối năm 2026, đánh dấu nền tảng AI thế hệ kế tiếp của Nvidia dựa trên khay tính toán làm mát bằng chất lỏng, mật độ cao, sidecar nguồn 800 VDC và các liên kết NVLink và Spectrum‑X tiên tiến.

Nvidia, AI hardware, Data center