Mini PC AI GB10 dùng để làm gì? Những việc thực tế máy làm tốt

Trần Mạnh G 05-11-2026, 5:30 pm

Mini PC AI GB10 hợp nhất với những việc cần bộ nhớ lớn: chạy thử mô hình ngôn ngữ cỡ lớn tại chỗ, tinh chỉnh mô hình, dựng và thử ứng dụng AI trước khi triển khai, và xử lý dữ liệu nội bộ mà bạn không muốn gửi lên đám mây. Máy không nhắm tới việc làm mọi thứ, nên bài này đi qua những việc máy làm được, dựa trên thông tin của NVIDIA và các bài thử công khai, để bạn xem công việc của mình có nằm trong số đó không.

Chạy mô hình lớn ngay trên bàn làm việc

Đây là việc dễ thấy nhất. Theo NVIDIA, một máy 128 GB chạy suy luận được mô hình tới khoảng 200 tỷ tham số, và hai máy ghép lại tới khoảng 400 tỷ tham số. Với người muốn tự thử các mô hình mã nguồn mở lớn mà không thuê máy chủ, đó là lợi thế rõ ràng. Tốc độ thì không nhanh: LMSYS đo mô hình 20B khoảng 49,7 token/giây, còn Classmethod ghi Nemotron 3 Super 120B khoảng 17,9 token/giây.

ASUS Ascent GX10 GX10-GG0012BN, mẫu GB10 của ASUS tại Nguyễn Công PC

Tinh chỉnh mô hình riêng

NVIDIA nêu mức tinh chỉnh tới khoảng 70 tỷ tham số trên máy 128 GB. Trong bài thử của Classmethod, việc tinh chỉnh FLUX.1 bằng Dreambooth LoRA dùng khoảng 71 GB bộ nhớ GPU, một lượng mà card rời phổ thông khó đáp ứng. Nếu bạn cần huấn luyện mô hình theo phong cách hoặc dữ liệu riêng, bộ nhớ lớn giúp bạn làm được mà không phải thuê dịch vụ ngoài.

Dựng và thử ứng dụng AI trước khi triển khai

LMSYS nhận xét máy hợp với việc làm mẫu thử và phát triển hơn là phục vụ tải lớn. Vì máy chạy hệ điều hành DGX OS nền Ubuntu với công cụ NVIDIA, bạn có thể dựng thử ứng dụng, kiểm tra mô hình rồi đưa lên hạ tầng lớn hơn khi đã ổn. Ngoài ra LMSYS ghi nhận khi chạy nhiều yêu cầu cùng lúc, tổng lượng chữ sinh ra tăng đáng kể, như mô hình Llama 3.1 8B từ 20,5 lên 368 token/giây ở batch 32, nên máy vẫn hữu ích cho các tác vụ xử lý hàng loạt.

MSI EdgeXpert MS-C931 trên tay, cho thấy kích thước nhỏ gọn

Xử lý dữ liệu nội bộ, không gửi ra ngoài

Khi mô hình chạy ngay trong máy, dữ liệu như tài liệu công ty, mã nguồn hay hồ sơ khách hàng không phải rời khỏi bàn bạn. Đây là lý do nhiều đơn vị quan tâm đến máy tính AI cục bộ. Bạn nên tự đánh giá yêu cầu bảo mật của đơn vị mình, vì máy chỉ cung cấp nơi chạy chứ không thay thế quy trình an toàn thông tin.

Ghép nhiều máy khi cần mô hình lớn hơn

Máy có cổng ConnectX-7 200 Gbps để ghép nhiều máy. Hai máy cho tổng 256 GB, bốn máy cho 512 GB nhưng cần thêm switch 200 GbE theo NVIDIA. Theo số đo của Classmethod, ghép máy giúp nạp mô hình lớn hơn chứ không làm tốc độ sinh chữ tăng, nên chỉ đáng làm khi mô hình không nằm vừa một máy.

Mặt sau Gigabyte AI TOP ATOM ATAGB10-9000 với các cổng kết nối

Những việc máy không hợp

Máy chạy Linux trên chip Arm, không có Windows, nên các phần mềm chỉ có bản Windows hoặc x86 sẽ gặp khó. Game, dựng phim và thiết kế đồ họa cũng không phải thế mạnh. Với mô hình cỡ nhỏ và vừa, card rời như RTX 5000 hay bộ PC chạy AI thường nhanh hơn, còn nhu cầu chạy trợ lý tự động có thể xem Agent Computer.

Công việc của bạn hợp với máy nào?

Công việc	Có hợp với GB10 không	Ghi chú
Chạy thử mô hình hàng chục đến hàng trăm tỷ tham số	Hợp	Bộ nhớ 128 GB là thế mạnh
Tinh chỉnh mô hình đến khoảng 70B	Hợp	Theo mức NVIDIA công bố
Dựng mẫu thử ứng dụng AI	Hợp	LMSYS đánh giá máy hợp với phát triển mẫu thử
Xử lý dữ liệu nội bộ	Hợp	Dữ liệu ở lại trong máy
Phục vụ nhiều người dùng cùng lúc	Hạn chế	Băng thông bộ nhớ là điểm nghẽn
Chạy phần mềm Windows, chơi game	Không hợp	Chip Arm, hệ điều hành Linux