NVIDIA phá vỡ điểm chuẩn MLPerf với GPU H100 và chứng minh công ty không cạnh tranh của thị trường AI

Hà Văn Công 09-11-2023, 10:12 am

GPU H100 của NVIDIA đứng đầu về AI và công ty đã một lần nữa lập kỷ lục mới về điểm chuẩn MLPerf.

Vị trí dẫn đầu về AI của NVIDIA tiếp tục khi GPU Hopper H100 đạt được hiệu suất AI tạo MLPerf phá kỷ lục

Trong các điểm chuẩn MLPerf mới nhất do NVIDIA công bố, công ty nhấn mạnh rằng họ đã thiết lập một số kỷ lục mới, trong đó siêu máy tính Eos đã hoàn thành điểm chuẩn huấn luyện dựa trên mô hình GPT-3 với 175 tỷ tham số được đào tạo trên một tỷ mã thông báo chỉ trong 3,9 phút. Đây là mức tăng khổng lồ so với kỷ lục trước đó, khi siêu máy tính đã hoàn thành điểm chuẩn tương tự trong 10,9 phút, đánh dấu mức tăng gấp 3 lần.

>> Xem ngay: Loongson của Trung Quốc có kế hoạch sản xuất GPU vào quý 3 năm 2024 tương đương với RX 550 6 năm tuổi của AMD

Nói một cách đơn giản, kiến trúc GPU Hopper tiên tiến của NVIDIA được kết hợp với các tài nguyên phần mềm được tinh chỉnh tốt. Siêu máy tính Eos hiện sử dụng 10.752 GPU NVIDIA H100 Tensor Core, thay thế cho những chiếc A100 khá cũ, đó là lý do tại sao ngay từ đầu xảy ra sự thay đổi lớn về hiệu suất. Hơn nữa, thông qua các tài nguyên phần mềm được phát triển tốt như NeMo của NVIDIA , hỗ trợ đào tạo LLM, Team Green đã cố gắng khai thác được sức mạnh đặc biệt từ nền tảng của mình.

Hơn nữa, một thành tựu kỷ lục khác của NVIDIA được đề cập trong bài viết là những tiến bộ đạt được trong "mở rộng quy mô hệ thống", trong đó nhờ sự trợ giúp của nhiều cách tối ưu hóa phần mềm khác nhau, công ty đã thành công khi đạt được tỷ lệ hiệu quả 93%. 10.752 GPU H100 đã vượt xa quy mô đào tạo AI vào tháng 6, khi NVIDIA sử dụng 3.584 GPU Hopper. Tầm quan trọng của việc mở rộng quy mô hiệu quả là rất lớn trong ngành, vì để đạt được sức mạnh tính toán cao đòi hỏi phải sử dụng nhiều tài nguyên phần cứng hơn và nếu không có sự hỗ trợ phần mềm đầy đủ thì hiệu quả của hệ thống sẽ bị ảnh hưởng ở mức độ lớn hơn.

Vai trò của NVIDIA trong ngành AI có ý nghĩa to lớn vì công ty có khả năng cung cấp các GPU AI mạnh mẽ nhất mà nhân loại từng biết đến, ít nhất là ở thời điểm hiện tại. Đặt khía cạnh tài chính sang một bên, Team Green đã nhanh chóng phát triển các tài nguyên phần mềm của họ, cùng với việc cộng tác với khách hàng để đảm bảo rằng danh mục sản phẩm của họ mang lại hiệu suất tối ưu, bằng cách duy trì tính hiệu quả và ổn định.

Nguồn: Wccftech

>> Xem thêm các bài viết liên quan:

CEO Intel Pat Gelsinger thẳng thắn tiết lộ điểm yếu của Intel trong những năm gần đây

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

So sánh Intel Core Ultra 5 245K và AMD Ryzen 5 9600X: Đội xanh hay đội đỏ?

04-11-2024, 10:21 am

Trong bài viết này, mình sẽ phân tích về thông số kỹ thuật và hiệu suất của cả Core Ultra 5 245K và Ryzen 5 9600X để giúp bạn có cái nhìn rõ ràng hơn cũng như có thể đưa ra được quyết định chọn lựa phù hợp nhất nhé!

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế

08-11-2023, 2:36 pm

Điểm kỳ dị của AI được định nghĩa là một ngưỡng kỷ nguyên trong đó trí tuệ nhân tạo (AI) vượt xa trí thông minh của con người một cách rõ ràng, mở ra cõi niết bàn về năng suất trong quá trình này. Giờ đây, với việc phát hành GPT-4 Turbo của OpenAI, nhân loại đã tiến một bước đáng kể gần hơn đến việc hiện thực hóa giấc mơ không tưởng cuối cùng này.

Microsoft đã tích hợp Excel vào Bing Chat AI và đây là cách sử dụng tính năng này

07-11-2023, 11:05 am

Mới đây, Microsoft đã chính thức tích hợp Excel vào trong chatbot AI Bing Chat của mình với rất nhiều tính năng vô tiện lợi, và đây là cách để bạn sử dụng tính năng này.

ChatGPT đã chính thức được hỗ trợ tại Việt Nam, đăng ký hoàn toàn miễn phí

03-11-2023, 12:04 pm

Mới đây, OpenAI đã chính thức hỗ trợ chatbot ChatGPT tại thị trường Việt Nam. Người dùng chúng ta giờ đây đã có thể đăng ký tài khoản ChatGPT hoàn toàn miễn phí mà không cần phải dùng đến bất kỳ một thủ thuật nào khác như trước đây.

CPU AMD Ryzen 8040U dành cho thiết bị di động và PC được phát hành

30-10-2023, 8:59 am

Đã có một cuộc thảo luận liên quan đến danh pháp phức tạp được sử dụng cho CPU di động Ryzen 7000. Với việc ra mắt dòng sản phẩm này, AMD đã kết hợp nhiều kiến trúc vào một dòng sản phẩm duy nhất, bao gồm Zen2, Zen3+, Zen4, RDNA2 và RDNA3. Dòng 8000 sắp ra mắt sẽ duy trì thông lệ này, như đã được chứng thực bởi một rò rỉ gần đây...

Lộ diện những mẫu smartphone được lên đời HyperOS mới của Xiaomi

28-10-2023, 2:28 pm

Danh sách những mẫu smartphone Xiaomi chuẩn bị được "lên đời" hệ điều hành HyperOS đã chính thức xuất hiện, tuy nhiên danh sách này có vẻ ít hơn dự kiến bạn đầu.

ASUS ra mắt card đồ họa GeForce RTX 4060 Ti với khe cắm mở rộng SSD M.2

28-10-2023, 1:52 pm

Mặt sau của card đồ họa này tích hợp khe cắm M.2 có tốc độ PCIe 5.0, dành cho các thiết bị lưu trữ NVMe hiệu suất cao dài tới 80 mm—và SSD truyền nhiệt trực tiếp đến tản nhiệt của chính thẻ bằng cách sử dụng một miếng đệm nhiệt, mang lại một giải pháp cực kỳ nhỏ gọn và gọn gàng.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC