Chi trong 4 năm, AMD đã làm ra CPU AI mới với hiệu năng tốt hơn gần 30 lần so với thế hệ cũ

Quân 13-12-2024, 10:14 am

Sự kết hợp giữa dòng EPYC 9005-series và Instinct MI300X không chỉ khẳng định vị thế công nghệ hàng đầu của AMD mà còn đặt ra tiêu chuẩn mới về hiệu suất năng lượng, hướng đến một ngành công nghệ bền vững hơn trong tương lai.

Những bước nhảy và thành tựu kỳ diệu của AMD

Hiệu suất năng lượng là yếu tố cốt lõi trong việc cải thiện hiệu năng cho các bộ xử lý AI và HPC. Đây cũng là sân chơi mà AMD cùng các công ty công nghệ hàng đầu khác liên tục cạnh tranh qua từng thế hệ sản phẩm. Vào năm 2021, AMD đã đặt ra mục tiêu tăng hiệu suất năng lượng của dòng vi xử lý EPYC và bộ tăng tốc Instinct lên 30 lần so với năm 2020 vào năm 2025. Tuy nhiên, nhờ những tiến bộ với các sản phẩm EPYC 9005-series "Turin" và Instinct MI300X, AMD gần như đã hoàn thành mục tiêu này trước thời hạn một năm.

AMD đã tiến hành thử nghiệm mô hình Llama3.1-70B bằng một hệ thống mạnh mẽ gồm hai CPU EPYC 9575F, mỗi CPU có 64 nhân, tám bộ tăng tốc Instinct MI300X và 2.304 GB RAM DDR5. Trong thử nghiệm này (vLLM 0.6.1.post2, TP8 Parallel, FP8, continuous batching), hệ thống mới cho thấy hiệu suất năng lượng cao gấp 28,3 lần so với một hệ thống từ năm 2020 mà AMD không tiết lộ chi tiết.

Dù cấu hình cụ thể của hệ thống cũ không được công bố, có thể giả định rằng nó sử dụng CPU EPYC 7002-series với kiến trúc Zen 2 và bộ tăng tốc Instinct MI100 dựa trên CDNA 1.

Khoảng cách hiệu năng giữa hai thế hệ sản phẩm là rất lớn. MI300X hỗ trợ FP8 ngang bằng với INT8, trong khi MI100 không có khả năng hỗ trợ FP8. MI300X đạt hiệu suất INT8 lên tới 2.615 TOPS (5.230 TOPS khi sử dụng sparsity), vượt xa MI100 với chỉ 184,6 TOPS. Ngoài ra, bộ nhớ HBM3 192 GB với tốc độ 5,30 GB/s của MI300X cũng vượt trội hoàn toàn so với HBM2 32 GB với tốc độ 1,20 GB/s của MI100.

AMD cho biết rằng bên cạnh việc cải tiến phần cứng, những tiến bộ trong kiến trúc và tối ưu hóa phần mềm đã đóng vai trò quan trọng trong việc nâng cao hiệu suất năng lượng. Gần đây, công ty đã ra mắt bộ tăng tốc Instinct MI325X sử dụng kiến trúc CDNA 3 và bộ nhớ HBM3E dung lượng 288 GB. Đến năm 2025, AMD dự kiến sẽ giới thiệu MI355X với kiến trúc CDNA 4, cải thiện hiệu suất FP8 và FP16 lên khoảng 80% so với MI325X. Bộ tăng tốc này còn hỗ trợ định dạng FP4 và FP6, đạt hiệu năng tối đa 9,2 PetaFLOPS (FP4), một tính năng rất phù hợp cho các mô hình ngôn ngữ lớn.

Sam Naffziger - Phó Chủ tịch cấp cao kiêm Kiến trúc sư Công nghệ Sản phẩm của AMD đã chia sẻ rắng:

"Nhờ cách tiếp cận tích hợp giữa phần cứng và phần mềm, chúng tôi tin tưởng vào khả năng vượt qua mục tiêu 30x25 và rất lạc quan về những cơ hội phía trước. Chúng tôi dự đoán hiệu suất năng lượng sẽ có bước tiến vượt bậc trong những năm tới".

Xem thêm:

AMD Ryzen 9 9950X3D sẽ ra mắt vào cuối tháng 1/2025

AMD đạt mức kỷ lục về thị phần CPU để bàn trong Q3/2024

PC RTX 4070 - Hiệu năng đồ họa mạnh mẽ, lựa chọn tối ưu cho dân thiết kế và game thủ

30-10-2025, 3:23 pm

VGA RTX 4070 là dòng GPU thuộc kiến trúc Ada Lovelace của NVIDIA, mang lại hiệu năng mạnh mẽ trong tầm giá trung cao. Sản phẩm tối ưu cho các tác vụ đồ họa như dựng hình 3D, chỉnh sửa video 4K và chơi game AAA ở mức thiết lập cao. PC RTX 4070 tại Nguyễn Công PC được thiết kế tối ưu hiệu năng, tản nhiệt và độ ổn định cho cả làm việc lẫn giải trí.

Nguyễn Công PC đồng hành cùng Chào Tân Sinh viên 2025 – Đại học Dược Hà Nội

30-10-2025, 9:33 am

Sự kiện được mong chờ nhất của sinh viên Dược Hà Nội, “Chào Tân Sinh viên 2025”, đã diễn ra thành công rực rỡ vào ngày 26/10/2025 tại Sân trường Đại học Dược Hà Nội. Đây là một ngày hội rực rỡ sắc màu, nơi các Tân Sinh viên được hòa mình vào không khí sôi động, nhiệt huyết và tràn đầy năng lượng của tuổi trẻ.

Khám phá VGA Laptop: Nâng tầm hiệu năng, biến mọi tác vụ trở nên mượt mà

29-10-2025, 5:17 pm

VGA laptop là bộ phận quan trọng quyết định khả năng xử lý đồ họa và hiệu suất tổng thể của máy tính xách tay. Hiểu rõ về VGA giúp người dùng lựa chọn dòng card phù hợp cho nhu cầu học tập, làm việc hay chơi game. Bài viết dưới đây của Nguyễn Công PC sẽ giúp bạn nắm rõ khái niệm VGA laptop và gợi ý những mẫu VGA hiệu năng cao đáng sở hữu.

Cách ẩn cột trong Excel nhanh chóng và đơn giản cho dân văn phòng

28-10-2025, 12:29 pm

Ẩn cột trong Excel là thao tác cơ bản giúp người dùng quản lý dữ liệu gọn gàng và chuyên nghiệp hơn. Chỉ với vài bước đơn giản, bạn có thể ẩn hoặc hiện lại các cột mà không làm mất dữ liệu. Bài viết dưới đây của Nguyễn Công PC sẽ hướng dẫn chi tiết các cách ẩn cột nhanh nhất, phù hợp cho mọi phiên bản Excel.

Windows tắt tính năng xem trước File Explorer đối với các tệp tải về nguy hiểm

27-10-2025, 2:57 pm

Microsoft cho biết kể từ bản cập nhật bảo mật phát hành từ ngày 14/10/2025, File Explorer sẽ tự động vô hiệu hóa chế độ xem trước cho các tệp được đánh dấu “Mark of the Web” – tức là tải từ Internet hoặc qua email. Việc này nhằm khắc phục lỗ hổng có thể bị khai thác để rò rỉ NTLM hash khi người dùng chỉ “xem trước” tệp mà không mở hẳn.

Hàm AVERAGE trong Excel: Cách sử dụng, cú pháp và ví dụ chi tiết

25-10-2025, 6:04 pm

Hàm AVERAGE trong Excel là công cụ giúp tính giá trị trung bình của một nhóm số liệu nhanh chóng và chính xác. Chỉ với vài thao tác đơn giản, người dùng có thể phân tích dữ liệu hiệu quả hơn trong học tập và công việc. Bài viết dưới đây của Nguyễn Công PC sẽ hướng dẫn chi tiết cú pháp, cách dùng và những lưu ý quan trọng khi áp dụng hàm này.

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

So sánh Intel Core Ultra 5 245K và AMD Ryzen 5 9600X: Đội xanh hay đội đỏ?

04-11-2024, 10:21 am

Trong bài viết này, mình sẽ phân tích về thông số kỹ thuật và hiệu suất của cả Core Ultra 5 245K và Ryzen 5 9600X để giúp bạn có cái nhìn rõ ràng hơn cũng như có thể đưa ra được quyết định chọn lựa phù hợp nhất nhé!

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC

Game

Sự kiện