NVIDIA Vera Rubin nâng cao hiệu suất trên mỗi Watt, mang lại chi phí Token thấp nhất cho các đối tác trên toàn thế giới

NVIDIA vừa công bố nền tảng điện toán AI thế hệ mới mang tên Vera Rubin đã chính thức bước vào giai đoạn sản xuất quy mô lớn. Đây được xem là bước nhảy vọt tiếp theo sau thế hệ Grace Blackwell, hướng đến mục tiêu tối ưu hiệu năng trên mỗi watt điện tiêu thụ và giảm mạnh chi phí xử lý mỗi triệu token cho các trung tâm dữ liệu AI trên toàn cầu.

Được hơn 300 đối tác toàn cầu triển khai

Các rack Vera Rubin NVL72 hiện đã được đưa vào vận hành tại nhiều đối tác lớn của NVIDIA như CoreWeave, Google Cloud, Microsoft Azure và Oracle Cloud Infrastructure. Chuỗi cung ứng phục vụ cho việc sản xuất nền tảng này trải dài hơn 350 nhà máy tại 30 quốc gia, được NVIDIA mô tả là chuỗi cung ứng rack-scale lớn và trưởng thành nhất mà hãng từng xây dựng.

Kết quả benchmark đầu tiên do CoreWeave thực hiện trên mô hình DeepSeek-R1 cho thấy Vera Rubin NVL72 đạt thông lượng cao gấp 10 lần trên mỗi megawatt so với thế hệ Grace Blackwell NVL72 trước đó. Đây là chỉ số then chốt đối với các trung tâm dữ liệu AI đang bị giới hạn bởi nguồn cung điện năng, bởi càng nhiều token xử lý được trên mỗi đơn vị điện năng thì chi phí vận hành AI càng giảm.

Thiết kế đồng bộ toàn hệ thống, từ chip đến hạ tầng mạng

Điểm khác biệt lớn nhất của Vera Rubin nằm ở triết lý thiết kế đồng bộ (extreme co-design), trong đó bảy loại chip và năm khay rack khác nhau, gồm Vera Rubin NVL72, Vera CPU rack, Groq 3 LPX, Spectrum-6 SPX và Vera BlueField-4 STX, được phát triển như một hệ thống thống nhất thay vì lắp ráp từ các linh kiện rời rạc.

Trung tâm của nền tảng là CPU Vera CPU mới, được xây dựng riêng cho kỷ nguyên AI tác tử (agentic AI). Với nhân Olympus tùy chỉnh, CPU này mang lại hiệu năng đơn luồng gấp đôi, băng thông giữa các nhân cao gấp ba lần và độ trễ truy xuất bộ nhớ thấp hơn 40% so với các thiết kế chiplet cạnh tranh, giúp nó trở thành lựa chọn hiệu quả cho các tác vụ AI dạng tác tử vốn đòi hỏi khả năng điều phối liên tục.

Về hạ tầng mạng, kết nối NVLink thế hệ thứ sáu cho thông lượng cao hơn gấp đôi, độ trễ thấp hơn ba lần và tốc độ xử lý gói tin cao gấp mười lần so với Ethernet thông thường trên các tác vụ phức tạp. Ở lớp mở rộng quy mô, hệ thống Spectrum-X Ethernet kết hợp switch Spectrum-6 tốc độ 102.4 Tb/s, SuperNIC ConnectX-9 tốc độ 1.6 Tb/s cùng các công nghệ định tuyến thích ứng, kiểm soát tắc nghẽn và giám sát mạng nâng cao, mang lại băng thông RDMA cao hơn 1.6 lần so với Ethernet thông thường.

Công nghệ quang học tích hợp trực tiếp trên switch (co-packaged optics) mà NVIDIA giới thiệu lần đầu ở quy mô sản xuất công nghiệp giúp giảm 5 lần điện năng tiêu thụ và tăng 10 lần độ bền so với các bộ chuyển đổi quang rời truyền thống. Ngoài ra, công nghệ Spectrum-XGS Ethernet còn cho phép mở rộng hiệu năng giữa nhiều địa điểm đặt trung tâm dữ liệu khác nhau, với thông lượng đa điểm cao hơn 1.9 lần.

Tiết kiệm thời gian lắp đặt và nguồn nước làm mát

Nhờ ba thế hệ thiết kế rack-scale liên tiếp, hệ thống Vera Rubin NVL72 loại bỏ hoàn toàn dây cáp, quạt và ống dẫn rời trong khay máy, giúp rút ngắn thời gian lắp ráp mỗi khay từ vài giờ xuống còn khoảng một phút.

Thiết kế làm mát bằng chất lỏng với nhiệt độ đầu vào lên tới 45 độ C cho phép vận hành theo cơ chế dry-cooler mà không cần đến hệ thống chiller truyền thống. Đối với các trung tâm dữ liệu AI mới xây dựng, giải pháp làm mát nhiệt độ cao kết hợp hệ thống tuần hoàn khép kín này giúp tiết kiệm hàng triệu gallon nước mỗi năm cho mỗi megawatt công suất vận hành.

Nền tảng cho hệ sinh thái mô hình mở tại châu Âu

Vera Rubin cũng là nền tảng tính toán cho một thỏa thuận hợp tác mở rộng giữa Microsoft và Mistral AI nhằm đưa AI tiên tiến đến khu vực châu Âu. Sự kết hợp giữa các mô hình mở do châu Âu phát triển với hạ tầng đám mây và môi trường do khách hàng tự kiểm soát cho phép các cơ quan chính phủ và ngành công nghiệp chịu quản lý chặt như tài chính, y tế triển khai AI theo đúng các tiêu chuẩn về chủ quyền dữ liệu của khu vực.

Theo NVIDIA, so với thế hệ GB200 NVL72 trước đó, Vera Rubin NVL72 mang lại thông lượng token cao hơn tới 10 lần trên mỗi megawatt trong khi chi phí xử lý mỗi triệu token chỉ còn bằng khoảng một phần mười.

Được ứng dụng thực tế cho huấn luyện AI quy mô lớn

Google Cloud đã cho ra mắt instance A5X đầu tiên chạy trên nền tảng Vera Rubin NVL72, hiện đang được startup Ineffable Intelligence có trụ sở tại London sử dụng để phát triển các hệ thống AI học tăng cường quy mô lớn, có khả năng tự học liên tục thông qua tương tác với môi trường mô phỏng thay vì chỉ dựa vào dữ liệu tĩnh.

Trong khi đó, nền tảng đám mây DeepInfra, đơn vị xử lý gần năm nghìn tỷ token mỗi tuần, đã tự thực hiện benchmark độc lập trên hạ tầng AI agent sản xuất thực tế của mình. Kết quả cho thấy Vera CPU hỗ trợ tới 1.6 lần số lượng AI agent hoạt động đồng thời ở cùng mức chất lượng dịch vụ, đồng thời tăng tốc độ điều phối tác vụ (orchestration) lên tới 2.2 lần so với các dòng CPU khác, qua đó cải thiện đáng kể hiệu quả sử dụng hạ tầng và chi phí vận hành.

Kết luận

Với việc đồng bộ hóa thiết kế từ chip xử lý, CPU, hệ thống mạng cho đến giải pháp làm mát, NVIDIA Vera Rubin đang đặt ra một chuẩn mực mới cho hạ tầng AI quy mô lớn, nơi hiệu năng trên mỗi watt điện và chi phí trên mỗi token trở thành thước đo quan trọng hàng đầu. Việc được hàng trăm đối tác lớn trên toàn cầu như CoreWeave, Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure và Mistral AI đồng loạt triển khai cho thấy nền tảng này nhiều khả năng sẽ trở thành xương sống cho làn sóng AI tác tử và siêu học (superlearning) trong giai đoạn tới.

Nếu bạn cần tìm kiếm về PC AI High-end phục vụ các workstation nặng, đa nhiệm. Tham khảo ngay PC AI của Nguyễn Công PC, được phân loại theo nhiều nhu cầu sử dụng cho từng mục tiêu riêng biệt.

Nguồn tham khảo: NVIDIA Blog

XEM THÊM:

Cấu Hình PC Chạy AI : Hướng Dẫn Chọn Linh Kiện Theo Nhu Cầu Và Ngân Sách Thực Tế