NVIDIA phá vỡ điểm chuẩn MLPerf với GPU H100 và chứng minh công ty không cạnh tranh của thị trường AI

Hà Văn Công 09-11-2023, 10:12 am

GPU H100 của NVIDIA đứng đầu về AI và công ty đã một lần nữa lập kỷ lục mới về điểm chuẩn MLPerf.

Vị trí dẫn đầu về AI của NVIDIA tiếp tục khi GPU Hopper H100 đạt được hiệu suất AI tạo MLPerf phá kỷ lục

Trong các điểm chuẩn MLPerf mới nhất do NVIDIA công bố, công ty nhấn mạnh rằng họ đã thiết lập một số kỷ lục mới, trong đó siêu máy tính Eos đã hoàn thành điểm chuẩn huấn luyện dựa trên mô hình GPT-3 với 175 tỷ tham số được đào tạo trên một tỷ mã thông báo chỉ trong 3,9 phút. Đây là mức tăng khổng lồ so với kỷ lục trước đó, khi siêu máy tính đã hoàn thành điểm chuẩn tương tự trong 10,9 phút, đánh dấu mức tăng gấp 3 lần.

>> Xem ngay: Loongson của Trung Quốc có kế hoạch sản xuất GPU vào quý 3 năm 2024 tương đương với RX 550 6 năm tuổi của AMD

Nói một cách đơn giản, kiến trúc GPU Hopper tiên tiến của NVIDIA được kết hợp với các tài nguyên phần mềm được tinh chỉnh tốt. Siêu máy tính Eos hiện sử dụng 10.752 GPU NVIDIA H100 Tensor Core, thay thế cho những chiếc A100 khá cũ, đó là lý do tại sao ngay từ đầu xảy ra sự thay đổi lớn về hiệu suất. Hơn nữa, thông qua các tài nguyên phần mềm được phát triển tốt như NeMo của NVIDIA , hỗ trợ đào tạo LLM, Team Green đã cố gắng khai thác được sức mạnh đặc biệt từ nền tảng của mình.

Hơn nữa, một thành tựu kỷ lục khác của NVIDIA được đề cập trong bài viết là những tiến bộ đạt được trong "mở rộng quy mô hệ thống", trong đó nhờ sự trợ giúp của nhiều cách tối ưu hóa phần mềm khác nhau, công ty đã thành công khi đạt được tỷ lệ hiệu quả 93%. 10.752 GPU H100 đã vượt xa quy mô đào tạo AI vào tháng 6, khi NVIDIA sử dụng 3.584 GPU Hopper. Tầm quan trọng của việc mở rộng quy mô hiệu quả là rất lớn trong ngành, vì để đạt được sức mạnh tính toán cao đòi hỏi phải sử dụng nhiều tài nguyên phần cứng hơn và nếu không có sự hỗ trợ phần mềm đầy đủ thì hiệu quả của hệ thống sẽ bị ảnh hưởng ở mức độ lớn hơn.

Vai trò của NVIDIA trong ngành AI có ý nghĩa to lớn vì công ty có khả năng cung cấp các GPU AI mạnh mẽ nhất mà nhân loại từng biết đến, ít nhất là ở thời điểm hiện tại. Đặt khía cạnh tài chính sang một bên, Team Green đã nhanh chóng phát triển các tài nguyên phần mềm của họ, cùng với việc cộng tác với khách hàng để đảm bảo rằng danh mục sản phẩm của họ mang lại hiệu suất tối ưu, bằng cách duy trì tính hiệu quả và ổn định.

Nguồn: Wccftech

>> Xem thêm các bài viết liên quan:

CEO Intel Pat Gelsinger thẳng thắn tiết lộ điểm yếu của Intel trong những năm gần đây

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế

So sánh Intel Core Ultra 5 245K và AMD Ryzen 5 9600X: Đội xanh hay đội đỏ?

04-11-2024, 10:21 am

Trong bài viết này, mình sẽ phân tích về thông số kỹ thuật và hiệu suất của cả Core Ultra 5 245K và Ryzen 5 9600X để giúp bạn có cái nhìn rõ ràng hơn cũng như có thể đưa ra được quyết định chọn lựa phù hợp nhất nhé!

Đánh giá Intel Core Ultra 5 245K: Cân bằng giữa giá thành và hiệu năng

23-10-2024, 11:31 am

Trong bài viết này, Nguyễn Công PC sẽ đánh giá chi tiết về CPU Intel Core Ultra 5 245K, để xem nó có thể kế thừa được những gì mà Core i5-13600K hay 14600K để lại hay không nhé!

Đánh giá Intel Core Ultra 7 265K: Có đáng để nâng cấp hay không?

23-10-2024, 8:59 am

Intel Core Ultra 7 265K là một trong những bộ vi xử lý mạnh mẽ nhất thuộc dòng sản phẩm Arrow Lake-S mới của Intel, được thiết kế cho các hệ thống máy tính để bàn, hướng tới những người dùng cần hiệu suất cao. Dưới đây là đánh giá chi tiết của Nguyễn Công PC về hiệu suất của vi xử lý Intel Core Ultra 7 265K.

Đánh giá Intel Core Ultra 9 285K: Mạnh nhưng vẫn còn thiếu gì đó

22-10-2024, 4:52 pm

Bài viết này của Nguyễn Công PC sẽ cung cấp cái nhìn tổng quan nhất tới bạn về Intel Core Ultra 9 285K, trong đó bao gồm thông số kỹ thuật, các tính năng nổi bật và đánh giá hiệu năng thực tế, giúp bạn dễ dàng cân nhắc liệu sản phẩm này có đáng để đầu tư hay không.

MSI xác nhận Core Ultra 9 285K 'ăn' ít điện và cho ra nhiệt độ thấp hơn Core i9-14900K

15-10-2024, 10:06 am

Thông tin rò rỉ từ leaker HardwareLuxx đã cho chúng ta thấy được những slide thuyết trình bị cấm của MSI về nền tảng CPU mới của cả Intel và AMD. Đây chính là những xác nhận đầu tiên về hiệu suất của AMD Ryzen 9000X3D cũng như Intel Core Ultra 200S.

Intel vô tình để lộ thông tin về mẫu CPU Core Ultra 9 295K hay chỉ là lỗi đánh máy?

14-10-2024, 11:17 am

Liệu đây có phải là mẫu CPU đầu bảng của Intel có mức xung nhịp và hiệu năng cao nhất trong dòng vi xử lý Arrow Lake-S năm nay, vượt qua cả 285K không hay chỉ là một nhầm lẫn?

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế

08-11-2023, 2:36 pm

Điểm kỳ dị của AI được định nghĩa là một ngưỡng kỷ nguyên trong đó trí tuệ nhân tạo (AI) vượt xa trí thông minh của con người một cách rõ ràng, mở ra cõi niết bàn về năng suất trong quá trình này. Giờ đây, với việc phát hành GPT-4 Turbo của OpenAI, nhân loại đã tiến một bước đáng kể gần hơn đến việc hiện thực hóa giấc mơ không tưởng cuối cùng này.

Microsoft đã tích hợp Excel vào Bing Chat AI và đây là cách sử dụng tính năng này

07-11-2023, 11:05 am

Mới đây, Microsoft đã chính thức tích hợp Excel vào trong chatbot AI Bing Chat của mình với rất nhiều tính năng vô tiện lợi, và đây là cách để bạn sử dụng tính năng này.

ChatGPT đã chính thức được hỗ trợ tại Việt Nam, đăng ký hoàn toàn miễn phí

03-11-2023, 12:04 pm

Mới đây, OpenAI đã chính thức hỗ trợ chatbot ChatGPT tại thị trường Việt Nam. Người dùng chúng ta giờ đây đã có thể đăng ký tài khoản ChatGPT hoàn toàn miễn phí mà không cần phải dùng đến bất kỳ một thủ thuật nào khác như trước đây.

CPU AMD Ryzen 8040U dành cho thiết bị di động và PC được phát hành

30-10-2023, 8:59 am

Đã có một cuộc thảo luận liên quan đến danh pháp phức tạp được sử dụng cho CPU di động Ryzen 7000. Với việc ra mắt dòng sản phẩm này, AMD đã kết hợp nhiều kiến trúc vào một dòng sản phẩm duy nhất, bao gồm Zen2, Zen3+, Zen4, RDNA2 và RDNA3. Dòng 8000 sắp ra mắt sẽ duy trì thông lệ này, như đã được chứng thực bởi một rò rỉ gần đây...

Lộ diện những mẫu smartphone được lên đời HyperOS mới của Xiaomi

28-10-2023, 2:28 pm

Danh sách những mẫu smartphone Xiaomi chuẩn bị được "lên đời" hệ điều hành HyperOS đã chính thức xuất hiện, tuy nhiên danh sách này có vẻ ít hơn dự kiến bạn đầu.

ASUS ra mắt card đồ họa GeForce RTX 4060 Ti với khe cắm mở rộng SSD M.2

28-10-2023, 1:52 pm

Mặt sau của card đồ họa này tích hợp khe cắm M.2 có tốc độ PCIe 5.0, dành cho các thiết bị lưu trữ NVMe hiệu suất cao dài tới 80 mm—và SSD truyền nhiệt trực tiếp đến tản nhiệt của chính thẻ bằng cách sử dụng một miếng đệm nhiệt, mang lại một giải pháp cực kỳ nhỏ gọn và gọn gàng.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC