Chi trong 4 năm, AMD đã làm ra CPU AI mới với hiệu năng tốt hơn gần 30 lần so với thế hệ cũ

Quân 13-12-2024, 10:14 am

Sự kết hợp giữa dòng EPYC 9005-series và Instinct MI300X không chỉ khẳng định vị thế công nghệ hàng đầu của AMD mà còn đặt ra tiêu chuẩn mới về hiệu suất năng lượng, hướng đến một ngành công nghệ bền vững hơn trong tương lai.

Những bước nhảy và thành tựu kỳ diệu của AMD

Hiệu suất năng lượng là yếu tố cốt lõi trong việc cải thiện hiệu năng cho các bộ xử lý AI và HPC. Đây cũng là sân chơi mà AMD cùng các công ty công nghệ hàng đầu khác liên tục cạnh tranh qua từng thế hệ sản phẩm. Vào năm 2021, AMD đã đặt ra mục tiêu tăng hiệu suất năng lượng của dòng vi xử lý EPYC và bộ tăng tốc Instinct lên 30 lần so với năm 2020 vào năm 2025. Tuy nhiên, nhờ những tiến bộ với các sản phẩm EPYC 9005-series "Turin" và Instinct MI300X, AMD gần như đã hoàn thành mục tiêu này trước thời hạn một năm.

AMD đã tiến hành thử nghiệm mô hình Llama3.1-70B bằng một hệ thống mạnh mẽ gồm hai CPU EPYC 9575F, mỗi CPU có 64 nhân, tám bộ tăng tốc Instinct MI300X và 2.304 GB RAM DDR5. Trong thử nghiệm này (vLLM 0.6.1.post2, TP8 Parallel, FP8, continuous batching), hệ thống mới cho thấy hiệu suất năng lượng cao gấp 28,3 lần so với một hệ thống từ năm 2020 mà AMD không tiết lộ chi tiết.

Dù cấu hình cụ thể của hệ thống cũ không được công bố, có thể giả định rằng nó sử dụng CPU EPYC 7002-series với kiến trúc Zen 2 và bộ tăng tốc Instinct MI100 dựa trên CDNA 1.

Khoảng cách hiệu năng giữa hai thế hệ sản phẩm là rất lớn. MI300X hỗ trợ FP8 ngang bằng với INT8, trong khi MI100 không có khả năng hỗ trợ FP8. MI300X đạt hiệu suất INT8 lên tới 2.615 TOPS (5.230 TOPS khi sử dụng sparsity), vượt xa MI100 với chỉ 184,6 TOPS. Ngoài ra, bộ nhớ HBM3 192 GB với tốc độ 5,30 GB/s của MI300X cũng vượt trội hoàn toàn so với HBM2 32 GB với tốc độ 1,20 GB/s của MI100.

AMD cho biết rằng bên cạnh việc cải tiến phần cứng, những tiến bộ trong kiến trúc và tối ưu hóa phần mềm đã đóng vai trò quan trọng trong việc nâng cao hiệu suất năng lượng. Gần đây, công ty đã ra mắt bộ tăng tốc Instinct MI325X sử dụng kiến trúc CDNA 3 và bộ nhớ HBM3E dung lượng 288 GB. Đến năm 2025, AMD dự kiến sẽ giới thiệu MI355X với kiến trúc CDNA 4, cải thiện hiệu suất FP8 và FP16 lên khoảng 80% so với MI325X. Bộ tăng tốc này còn hỗ trợ định dạng FP4 và FP6, đạt hiệu năng tối đa 9,2 PetaFLOPS (FP4), một tính năng rất phù hợp cho các mô hình ngôn ngữ lớn.

Sam Naffziger - Phó Chủ tịch cấp cao kiêm Kiến trúc sư Công nghệ Sản phẩm của AMD đã chia sẻ rắng:

"Nhờ cách tiếp cận tích hợp giữa phần cứng và phần mềm, chúng tôi tin tưởng vào khả năng vượt qua mục tiêu 30x25 và rất lạc quan về những cơ hội phía trước. Chúng tôi dự đoán hiệu suất năng lượng sẽ có bước tiến vượt bậc trong những năm tới".

Xem thêm:

AMD Ryzen 9 9950X3D sẽ ra mắt vào cuối tháng 1/2025

AMD đạt mức kỷ lục về thị phần CPU để bàn trong Q3/2024

Hướng Dẫn Mua Bản Quyền Microsoft Office Chính Hãng: Đừng Để “Tiền Mất Tật Mang” Vì Key Giá Rẻ

14-05-2026, 9:58 am

Mệt mỏi vì lỗi "Unlicensed Product" giữa lúc deadline? Đừng đánh cược dữ liệu với bản crack. Xem ngay hướng dẫn mua bản quyền Office chuẩn để làm việc mượt mà và bảo mật tuyệt đối từ Nguyễn Công PC!

Hướng dẫn mua bản quyền Windows: Chọn đúng loại, mua đúng chỗ, kích hoạt đúng cách

13-05-2026, 11:26 am

Bài viết phân tích các loại bản quyền Windows (OEM, Retail, Digital), so sánh Windows 10 và 11, cùng hướng dẫn mua, kích hoạt. Giải pháp tiết kiệm và tiện lợi nhất là mua Windows kèm PC build sẵn.

Hướng Dẫn Đu Trend Ảnh Mặt Nạ Gỗ MTP Bằng ChatGPT Đẹp, Nhanh Và Cực Chất

12-05-2026, 5:59 pm

Sở hữu bộ ảnh mặt nạ gỗ MTP "vạn người mê" cực dễ với ChatGPT. Không cần studio, chỉ cần vài mẹo "đúng bài" từ Nguyễn Công PC, bạn sẽ có ngay những poster phim ma mị, chất lừ để đu trend triệu view ngay lập tức!

Top 6 PC Văn Phòng Ngon – Bổ – Rẻ Cho Doanh Nghiệp

11-05-2026, 5:56 pm

Chấm dứt tình trạng giật lag khi xử lý đa nhiệm với top 6 PC văn phòng giá rẻ tại Nguyễn Công PC. Những cấu hình này được tối ưu để cân bằng hoàn hảo giữa hiệu suất thực tế và chi phí đầu tư thấp nhất.

Top 10 Phần Mềm Đồ Họa Kiến Trúc & Xây Dựng Chuyên Nghiệp

11-05-2026, 3:31 pm

Chọn đúng phần mềm kiến trúc giúp bạn nâng tầm bản vẽ và tiết kiệm 70% thời gian thiết kế. Khám phá ngay Top 10 công cụ đồ họa chuyên nghiệp nhất 2026 để hiện thực hóa mọi ý tưởng 2D/3D siêu thực cùng Nguyễn Công PC.

Chọn nguồn máy tính như thế nào cho đúng? Hướng dẫn chọn PSU build PC chuẩn nhất

05-05-2026, 11:11 am

Hướng dẫn chọn PSU: tính công suất (TDP CPU + GPU) x 1.2, ưu tiên 80 Plus Gold và hãng uy tín. Bài cũng cảnh báo nguồn kém, dấu hiệu thiếu điện và phân tích loại Full Modular.

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

So sánh Intel Core Ultra 5 245K và AMD Ryzen 5 9600X: Đội xanh hay đội đỏ?

04-11-2024, 10:21 am

Trong bài viết này, mình sẽ phân tích về thông số kỹ thuật và hiệu suất của cả Core Ultra 5 245K và Ryzen 5 9600X để giúp bạn có cái nhìn rõ ràng hơn cũng như có thể đưa ra được quyết định chọn lựa phù hợp nhất nhé!