Cùng chiêm ngưỡng hệ thống siêu máy tính ASUS NVIDIA GB200 NVL72

Hệ thống siêu máy chủ GB200 NVL72 vừa qua đã được NVIDIA và ASUS giới thiệu tại triển lãm công nghệ quốc tế Computex 2024, bao gồm 36 GB200 Grace Blackwell Superchip, tức là 36 CPU NVIDIA Grace kết hợp với 72 GPU NVIDIA Blackwell.

Siêu máy chủ NVIDIA GB200 NVL72 mạnh mẽ như thế nào?

Trong quý 1 vừa qua, NVIDIA đã giới thiệu hàng loạt công nghệ mới, bao gồm NVLink-C2C (NVLink Chip-to-Chip) và thế hệ GPU mạnh mẽ nhất - NVIDIA Blackwell Tensor Core. Đặc biệt, sự kết hợp giữa GPU NVIDIA Blackwell Tensor Core và CPU NVIDIA Grace thông qua kết nối siêu tốc NVLink Chip-to-Chip đã tạo nên tổ hợp xử lý và tính toán ưu việt nhất - NVIDIA GB200 Grace Blackwell Superchip. Siêu chip này được cấu thành từ một CPU NVIDIA Grace và hai GPU NVIDIA Blackwell.

NVIDIA công bố GB200 Grace Blackwell Superchip 

Không chỉ dừng lại ở việc tạo ra một tổ hợp tính toán xuất sắc với GB200 Grace Blackwell Superchip, NVIDIA còn ghép nhiều siêu chip này lại với nhau để làm việc đồng thời, tạo ra một siêu máy chủ hiệu năng cao mang tên NVIDIA GB200 NVL72. Hệ thống này vừa qua đã được giới thiệu tại triển lãm công nghệ quốc tế Computex 2024, bao gồm 36 GB200 Grace Blackwell Superchip, tức là 36 CPU NVIDIA Grace kết hợp với 72 GPU NVIDIA Blackwell. Tất cả đều được tích hợp trong một tủ rack và làm mát bằng chất lỏng.

NVIDIA đã áp dụng công nghệ kết nối tiên tiến NVLink thế hệ thứ 5 để liên kết các GB200 Grace Blackwell Superchip, tạo ra một domain 72-GPU NVLink. Do đó, cả tủ rack này hoạt động như một siêu chip, cho phép tăng tốc độ lên 30 lần cho các suy luận trên các mô hình ngôn ngữ siêu lớn (LLM) với hàng nghìn tỷ tham số trong thời gian thực, đạt hiệu suất 1,4 exaflop cho các suy luận AI thời gian thực, đồng thời làm nền tảng cho việc xây dựng DGX SuperPOD mạnh nhất hiện nay.

Mặt trước...

...Và mặt sau của ASUS NVIDIA GB200 NVL72

Để tối ưu hóa không gian khi lắp đặt các Compute Node vào tủ rack GB200 NVL72, mỗi khay Blackwell Compute Node (GB200 Compute Node) sẽ tích hợp hai GB200 Grace Blackwell Superchip. Điều này có nghĩa là mỗi khay sẽ bao gồm 2 CPU NVIDIA Grace và 4 GPU NVIDIA Blackwell. Vì vậy, một hệ thống GB200 NVL72 sẽ có 18 khay Blackwell Compute Node.

Hình ảnh chi tiết của một chiếc NVIDIA Blackwell Compute Node hay còn hiểu là GB200 Compute Node

Theo đó, một tủ rack của NVIDIA GB200 NVL72 sẽ gồm những thành phần sau:

1. Top Of Rack của Rack sẽ là cặp Switch TOR.
2. Các Card cấp nguồn được lắp đặt tại ngay bên dưới cặp Switch TOR ở phía trên, và phần dưới cùng của tủ Rack.
3. Các Tray Blackwell Compute Node (GB200 Compute Node) được chia thành 2 cụm, 10 Tray Blackwell Compute Node (GB200 Compute Node), sẽ được lắp phía trên, tiếp đến là 09 NVSwitch và tiếp theo là 8 Tray Blackwell Compute Node (GB200 Compute Node). 09 NVSwitch sẽ cung cấp kết nối NVLink tốc độ siêu cao cho toàn bộ 36 GB200 Grace Blackwell Superchip.

Bảng thông số cấu hình phần cứng chi tiết của NVIDIA GB200 NVL72 và GB200 Grace Blackwell Superchip:

Siêu máy chủ NVIDIA GB200 NVL72 có khả năng xử lý real time nhanh gấp 30 lần so với HGX H100

Mở ra một tương lai đầy triển vọng cho mô hình Real-Time-Trillion Parameter

Nâng cao xử lý ngôn ngữ tự nhiên (NLP)

NVIDIA GB200 NVL72 nổi bật trong các nhiệm vụ NLP phức tạp như dịch thuật, trả lời câu hỏi, tóm tắt văn bản và cải thiện khả năng thông thạo ngôn ngữ.

Cải thiện hiểu biết theo ngữ cảnh

Những hệ thống này có khả năng duy trì bối cảnh trong các cuộc trò chuyện dài, mang lại những cải tiến đáng kể cho chatbot và công nghệ trợ lý ảo.

Ứng dụng đa phương thức

Bằng cách tích hợp ngôn ngữ, hình ảnh và âm thanh, các mô hình này mở ra những khả năng mới trong việc hiểu và tương tác với thế giới xung quanh.

ASUS NVIDIA GB200 NVL72 được trưng bày tại Computex 2024

AI sáng tạo và tạo sinh

Từ việc tự sáng tác truyện và thơ cho đến viết mã, các mô hình này đang mở ra một kỷ nguyên mới cho các ứng dụng AI sáng tạo.

Đột phá khoa học

Ứng dụng của chúng trong các lĩnh vực như gấp protein và khám phá thuốc đang thúc đẩy nghiên cứu và đổi mới khoa học.

Cá nhân hóa nâng cao

Những mô hình với hàng nghìn tỷ tham số có khả năng phát triển các tính cách độc đáo và ghi nhớ bối cảnh của từng người dùng, mang lại trải nghiệm cá nhân hóa hơn bao giờ hết.

@nguyencongpc.vn PC AI dùng để training trị giá 150 tỷ … #nguyencongpc #pcai #trainingai #computex2024 @Tống Vân @Nguyễn Công PC HCM ♬ Old school cutting guitar(1321065) - OVER-Q

Nguyễn Công PC được trực tiếp "trên tay" NVIDIA GB200 NVL72 tại Computex 2024

Tạm kết

Với việc ra mắt GB200 NVL72, NVIDIA tiếp tục khẳng định vị thế dẫn đầu trong lĩnh vực AI và tính toán hiệu năng cao. GB200 NVL72 không chỉ là một bước đột phá trong công nghệ GPU mà còn là một giải pháp toàn diện cho các doanh nghiệp và trung tâm dữ liệu đang tìm kiếm hiệu suất cao và khả năng mở rộng cho các nhiệm vụ AI phức tạp. Với khả năng suy luận nhanh hơn và hiệu quả hơn cho các mô hình ngôn ngữ lớn, NVIDIA GB200 NVL72 mang đến những khả năng mới cho việc xử lý và phân tích dữ liệu lớn. Đây chắc chắn là một trong những cỗ máy chủ mạnh mẽ nhất hiện nay, đánh dấu kỷ nguyên mới trong tính toán hiệu năng cao và trí tuệ nhân tạo.

Xem thêm:

Loạt sản phẩm PC Copilot+ mới sẽ sớm được Microsoft tung ra trong năm nay

ASUS ra mắt dải sản phẩm laptop AI mới tại sự kiện Computex 2024