NVIDIA phá vỡ điểm chuẩn MLPerf với GPU H100 và chứng minh công ty không cạnh tranh của thị trường AI

Hà Văn Công 09-11-2023, 10:12 am

GPU H100 của NVIDIA đứng đầu về AI và công ty đã một lần nữa lập kỷ lục mới về điểm chuẩn MLPerf.

Vị trí dẫn đầu về AI của NVIDIA tiếp tục khi GPU Hopper H100 đạt được hiệu suất AI tạo MLPerf phá kỷ lục

Trong các điểm chuẩn MLPerf mới nhất do NVIDIA công bố, công ty nhấn mạnh rằng họ đã thiết lập một số kỷ lục mới, trong đó siêu máy tính Eos đã hoàn thành điểm chuẩn huấn luyện dựa trên mô hình GPT-3 với 175 tỷ tham số được đào tạo trên một tỷ mã thông báo chỉ trong 3,9 phút. Đây là mức tăng khổng lồ so với kỷ lục trước đó, khi siêu máy tính đã hoàn thành điểm chuẩn tương tự trong 10,9 phút, đánh dấu mức tăng gấp 3 lần.

>> Xem ngay: Loongson của Trung Quốc có kế hoạch sản xuất GPU vào quý 3 năm 2024 tương đương với RX 550 6 năm tuổi của AMD

Nói một cách đơn giản, kiến trúc GPU Hopper tiên tiến của NVIDIA được kết hợp với các tài nguyên phần mềm được tinh chỉnh tốt. Siêu máy tính Eos hiện sử dụng 10.752 GPU NVIDIA H100 Tensor Core, thay thế cho những chiếc A100 khá cũ, đó là lý do tại sao ngay từ đầu xảy ra sự thay đổi lớn về hiệu suất. Hơn nữa, thông qua các tài nguyên phần mềm được phát triển tốt như NeMo của NVIDIA , hỗ trợ đào tạo LLM, Team Green đã cố gắng khai thác được sức mạnh đặc biệt từ nền tảng của mình.

Hơn nữa, một thành tựu kỷ lục khác của NVIDIA được đề cập trong bài viết là những tiến bộ đạt được trong "mở rộng quy mô hệ thống", trong đó nhờ sự trợ giúp của nhiều cách tối ưu hóa phần mềm khác nhau, công ty đã thành công khi đạt được tỷ lệ hiệu quả 93%. 10.752 GPU H100 đã vượt xa quy mô đào tạo AI vào tháng 6, khi NVIDIA sử dụng 3.584 GPU Hopper. Tầm quan trọng của việc mở rộng quy mô hiệu quả là rất lớn trong ngành, vì để đạt được sức mạnh tính toán cao đòi hỏi phải sử dụng nhiều tài nguyên phần cứng hơn và nếu không có sự hỗ trợ phần mềm đầy đủ thì hiệu quả của hệ thống sẽ bị ảnh hưởng ở mức độ lớn hơn.

Vai trò của NVIDIA trong ngành AI có ý nghĩa to lớn vì công ty có khả năng cung cấp các GPU AI mạnh mẽ nhất mà nhân loại từng biết đến, ít nhất là ở thời điểm hiện tại. Đặt khía cạnh tài chính sang một bên, Team Green đã nhanh chóng phát triển các tài nguyên phần mềm của họ, cùng với việc cộng tác với khách hàng để đảm bảo rằng danh mục sản phẩm của họ mang lại hiệu suất tối ưu, bằng cách duy trì tính hiệu quả và ổn định.

Nguồn: Wccftech

>> Xem thêm các bài viết liên quan:

CEO Intel Pat Gelsinger thẳng thắn tiết lộ điểm yếu của Intel trong những năm gần đây

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế

Phát hiện lỗ hổng bảo mật Wifi khiến tin tặc có thể đánh cắp thông tin người dùng

20-05-2024, 4:23 pm

Theo thông tin từ TechRadar, một lỗ hổng bảo mật nghiêm trọng đã được phát hiện trong chuẩn Wi-Fi IEEE 802.11, có thể bị tin tặc lợi dụng để xâm nhập và thực hiện việc lén theo dõi mạng của người dùng một cách dễ dàng.

Điểm lại 6 tính năng gây thất vọng nhất của hệ điều hành Windows

06-05-2024, 10:25 am

Không phải tất cả mọi người đều hưởng ứng tích cực với các phần mềm được tích hợp vào hệ điều hành Windows của Microsoft. Thực tế, một số tính năng đã gây ra sự chia rẽ và tranh luận giữa người dùng. Dưới đây là 6 tính năng gây thất vọng và đáng quên nhất mà Microsoft đã quyết định loại bỏ khỏi hệ điều hành Windows.

Các ứng dụng bàn phím tồn tại lỗ hổng khiến hơn 1 tỷ người dùng có nguy cơ bị truy cập trái phép

04-05-2024, 10:10 am

Ngay lúc này, bạn hãy hết sức cảnh giác với những ứng dụng bàn phím bởi những app này đang chứa những lỗ hổng khiến hơn 1 tỷ người dùng có nguy cơ bị truy cập trái phép.

Hướng dẫn cách lọc bạn bè ít tương tác trên Facebook đơn giản

03-05-2024, 11:30 am

Trong bài viết này, Nguyễn Công PC sẽ chia sẻ tới bạn cách để có thể lọc được bạn bè ít hoặc không có tương tác trên Facebook một cách đơn giản và nhanh chóng nhất.

Hé lộ cấu hình yêu cầu để PC có thể chạy được Windows 11 AI Explorer

20-04-2024, 10:51 am

Không phải chiếc PC bình thường nào cũng có thể chạy được Windows 11 AI Explorer và đây là cấu hình yêu cầu dành cho phiên bản Windows 11 tích hợp AI này.

TOP 5 mainboard PCIe 4.0 giá tốt đáng mua nhất đầu năm 2024

11-04-2024, 2:14 pm

Mặc dù các dòng mainboard mới ra mắt gần đây đều đã hỗ trợ chuẩn giao tiếp PCIe 5.0 mới nhất, tuy nhiên các dòng mainboard sử dụng chuẩn PCIe 4.0 vẫn giữ được sức hút bởi mức giá phù hợp và thừa khả năng đáp ứng mạnh mẽ cho các card đồ họa cũng như ổ cứng ngày nay.

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế

08-11-2023, 2:36 pm

Điểm kỳ dị của AI được định nghĩa là một ngưỡng kỷ nguyên trong đó trí tuệ nhân tạo (AI) vượt xa trí thông minh của con người một cách rõ ràng, mở ra cõi niết bàn về năng suất trong quá trình này. Giờ đây, với việc phát hành GPT-4 Turbo của OpenAI, nhân loại đã tiến một bước đáng kể gần hơn đến việc hiện thực hóa giấc mơ không tưởng cuối cùng này.

Microsoft đã tích hợp Excel vào Bing Chat AI và đây là cách sử dụng tính năng này

07-11-2023, 11:05 am

Mới đây, Microsoft đã chính thức tích hợp Excel vào trong chatbot AI Bing Chat của mình với rất nhiều tính năng vô tiện lợi, và đây là cách để bạn sử dụng tính năng này.

ChatGPT đã chính thức được hỗ trợ tại Việt Nam, đăng ký hoàn toàn miễn phí

03-11-2023, 12:04 pm

Mới đây, OpenAI đã chính thức hỗ trợ chatbot ChatGPT tại thị trường Việt Nam. Người dùng chúng ta giờ đây đã có thể đăng ký tài khoản ChatGPT hoàn toàn miễn phí mà không cần phải dùng đến bất kỳ một thủ thuật nào khác như trước đây.

CPU AMD Ryzen 8040U dành cho thiết bị di động và PC được phát hành

30-10-2023, 8:59 am

Đã có một cuộc thảo luận liên quan đến danh pháp phức tạp được sử dụng cho CPU di động Ryzen 7000. Với việc ra mắt dòng sản phẩm này, AMD đã kết hợp nhiều kiến trúc vào một dòng sản phẩm duy nhất, bao gồm Zen2, Zen3+, Zen4, RDNA2 và RDNA3. Dòng 8000 sắp ra mắt sẽ duy trì thông lệ này, như đã được chứng thực bởi một rò rỉ gần đây...

Lộ diện những mẫu smartphone được lên đời HyperOS mới của Xiaomi

28-10-2023, 2:28 pm

Danh sách những mẫu smartphone Xiaomi chuẩn bị được "lên đời" hệ điều hành HyperOS đã chính thức xuất hiện, tuy nhiên danh sách này có vẻ ít hơn dự kiến bạn đầu.

ASUS ra mắt card đồ họa GeForce RTX 4060 Ti với khe cắm mở rộng SSD M.2

28-10-2023, 1:52 pm

Mặt sau của card đồ họa này tích hợp khe cắm M.2 có tốc độ PCIe 5.0, dành cho các thiết bị lưu trữ NVMe hiệu suất cao dài tới 80 mm—và SSD truyền nhiệt trực tiếp đến tản nhiệt của chính thẻ bằng cách sử dụng một miếng đệm nhiệt, mang lại một giải pháp cực kỳ nhỏ gọn và gọn gàng.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC