Card đồ họa chạy DeepSeek: cần bao nhiêu VRAM và chọn dòng RTX nào?

Muốn chạy DeepSeek ngay trên máy tính của mình, thứ quyết định đầu tiên là dung lượng VRAM của card đồ họa. Các bản DeepSeek-R1 chưng cất nhỏ như 7B và 8B vừa với card 8GB, bản 14B cần card 12GB hoặc 16GB. Bản 32B nặng 20GB nên cần card nhiều VRAM hơn 16GB, trong các card nêu ở bài là RTX 5090 32GB. Bản DeepSeek-R1 đầy đủ 671B và dòng DeepSeek V4 mới thì không chạy nổi trên một card đồ họa thông thường. Bài này đi qua từng bản, dung lượng thực tế của chúng và cách chọn card RTX tương ứng.

Chạy DeepSeek trên máy cá nhân gồm những bản nào?

Tên DeepSeek đang gộp nhiều mô hình khác nhau, nên cùng một câu hỏi "card nào chạy được" sẽ có nhiều đáp án. Theo danh sách trên Ollama, DeepSeek-R1 có các bản chưng cất (distill) 1.5B, 7B, 8B, 14B, 32B, 70B, dựa trên nền Qwen và Llama theo tên các tag, cùng bản 671B đầy đủ. Các bản distill nhỏ là thứ người dùng cá nhân chạy được. DeepSeek V4 là thế hệ mới hơn, có hai bản Flash và Pro, mà phần dưới sẽ nói riêng.

Các bản DeepSeek-R1 nặng bao nhiêu GB?

Dung lượng tệp mô hình là mốc đầu tiên để chọn card. Bảng dưới là dung lượng tải về của từng bản ở mức nén 4-bit (Q4_K_M) trên Ollama. Con số này là phần trọng số, chưa gồm bộ nhớ cho ngữ cảnh hội thoại.

Nguồn: Ollama, trang Tags của deepseek-r1.

Khi bạn tăng độ chính xác lên 8-bit hoặc 16-bit, dung lượng cũng tăng theo. Chẳng hạn bản 14B ở 8-bit là 16GB và bản 32B ở 8-bit là 35GB theo cùng trang Ollama. Bài lấy mức 4-bit làm mốc so sánh vì đây là mức Ollama liệt kê cho các bản trong bảng; mức cao hơn đòi hỏi nhiều VRAM hơn.

Cách ước tính VRAM cần cho DeepSeek

Quy tắc đơn giản là VRAM của card phải lớn hơn dung lượng tệp mô hình, vì còn cần chỗ cho bộ nhớ ngữ cảnh khi bạn trò chuyện. Ngữ cảnh càng dài thì phần chiếm thêm càng lớn. Nếu mô hình vừa khít với VRAM thì máy có thể phải đẩy một phần sang RAM và chạy chậm đi. Cách tính chi tiết hơn bạn xem ở bài VRAM bao nhiêu để chạy AI.

Chọn card RTX nào để chạy DeepSeek?

Bảng dưới là gợi ý của Nguyễn Công PC theo dung lượng VRAM, kèm thông số do NVIDIA công bố. Cột cuối chọn bản DeepSeek-R1 distill lớn nhất mà dung lượng tệp 4-bit trong bảng trên vẫn nằm trong VRAM và còn chỗ cho ngữ cảnh.

Nguồn: NVIDIA RTX 5060 family, RTX 5070 family, RTX 5080, RTX 5090. NVIDIA ghi các thông số này cho bản Founders Edition hoặc thiết kế tham chiếu, bản của hãng khác có thể khác.

Nếu chỉ thử DeepSeek và dùng làm trợ lý cá nhân, RTX 5060 hoặc RTX 5060 Ti đã chạy được các bản 7B và 8B. Muốn lên bản 14B với ngữ cảnh thoải mái, bạn nên chọn card 16GB như RTX 5060 Ti 16GB, RTX 5070 Ti hoặc RTX 5080. Còn RTX 5070 12GB đủ cho 14B nhưng còn ít chỗ hơn. Để chạy bản 32B trên một card, bạn cần RTX 5090 32GB. Toàn bộ các dòng đang bán có tại mục card NVIDIA RTX 5000 Series.

VRAM mới là con số quyết định, nhưng băng thông bộ nhớ cũng ảnh hưởng đến tốc độ trả lời. Bảng trên cho thấy RTX 5060 Ti có bus 128-bit trong khi RTX 5070 Ti và RTX 5080 có 256-bit. Bài không so sánh định lượng tốc độ giữa các card.

Bản 671B và DeepSeek V4 có chạy được trên một card không?

Không. Theo Ollama, bản DeepSeek-R1 671B ở 4-bit nặng 404GB, gấp hơn mười hai lần dung lượng của RTX 5090. Dòng V4 cũng thuộc nhóm mô hình rất lớn. Theo DeepSeek, DeepSeek-V4-Flash có 284B tham số tổng và 13B tham số hoạt động, còn DeepSeek-V4-Pro có 1,6T tham số tổng và 49B tham số hoạt động, cả hai hỗ trợ ngữ cảnh 1M token và có trọng số mở trên Hugging Face.

Nguồn: DeepSeek, thông báo ra mắt DeepSeek V4.

Trang của DeepSeek không đưa ra hướng dẫn cấu hình để chạy cục bộ. Chỉ số tham số hoạt động thấp không có nghĩa là cần ít bộ nhớ, vì toàn bộ trọng số vẫn phải được nạp khi chạy. Nếu chiếu theo tỉ lệ của bản 671B (404GB ở 4-bit), V4-Flash vẫn ước tính khoảng 170GB (con số tự suy ra của bài, không phải số DeepSeek công bố), vượt xa VRAM của một card thông thường. Muốn chạy các mô hình cỡ này, bạn cần máy trạm nhiều bộ nhớ như bộ PC chạy AI hoặc API của DeepSeek. Bài 128GB RAM có đủ cho AI không giải thích rõ hơn khi nào RAM giúp được và khi nào phải thêm VRAM.

Dùng công cụ nào để chạy DeepSeek trên card đồ họa?

Hai công cụ phổ biến là Ollama và LM Studio. Các tag DeepSeek-R1 và dung lượng trong bài này đều lấy từ thư viện Ollama, nên nếu bạn muốn khớp với bảng, hãy bắt đầu với Ollama. Bạn xem hướng dẫn ở bài cài đặt Ollama trên Windows và Mac, và bài LM Studio và Ollama khác nhau thế nào nếu còn phân vân giữa hai công cụ.

Chạy DeepSeek trên máy cá nhân khác gì dùng DeepSeek trên web?

Khi chạy cục bộ, mô hình nằm và xử lý ngay trên máy của bạn. Bạn không phụ thuộc vào đường truyền và chọn được bản mô hình nhỏ phù hợp với card. Đổi lại, các bản distill nhỏ là mô hình riêng, không phải DeepSeek-R1 671B đầy đủ trên dịch vụ của họ. Nếu bạn mới làm quen với DeepSeek, bài DeepSeek là gì giải thích cách đăng ký và dùng trên web.

Gợi ý ba bộ PC chạy DeepSeek theo mức VRAM

Ba bộ PC dưới đây nằm trong danh mục của Nguyễn Công PC, xếp theo VRAM tăng dần để khớp các nhóm ở bảng trên. Chúng là cấu hình gợi ý theo VRAM; bạn nên hỏi cửa hàng về tình trạng hàng và cấu hình hiện tại trước khi mua.

Bộ PC Đồ Họa Core i5 14600K, RAM 32GB DDR4, RTX 5060 Ti 8GB

Với 8GB VRAM, bộ PC Đồ Họa Core i5 14600K, RAM 32GB DDR4, RTX 5060 Ti 8GB chứa trọn bản DeepSeek-R1 7B (4,7GB) và 8B (5,2GB) ở 4-bit. Đây là điểm vào cho người học, thử nghiệm DeepSeek và dùng trợ lý cá nhân.

Bộ PC Đồ Hoạ Intel Core Ultra 9 285K, RAM 32GB, RTX 5060 Ti 16GB

Card 16GB của bộ PC Đồ Hoạ Intel Core Ultra 9 285K, RAM 32GB, RTX 5060 Ti 16GB chạy được bản 14B (9,0GB) với nhiều chỗ cho ngữ cảnh. Đây là mức hợp lý cho lập trình viên muốn dùng DeepSeek hỗ trợ viết code trên máy riêng.

Bộ PC GIGABYTE AI TOP 500 TRX50, Threadripper PRO 7965WX, RAM 768GB, RTX 5090 32GB

Bộ PC GIGABYTE AI TOP 500 TRX50, Threadripper PRO 7965WX, RAM 768GB, RTX 5090 32GB có card 32GB chạy trọn bản 32B (20GB) và lượng RAM 768GB rất lớn để nạp các mô hình vượt VRAM. Chạy mô hình lớn bằng RAM sẽ chậm hơn chạy hoàn toàn trên VRAM. Bạn xem thêm nhóm Agent Computer nếu cần máy chuyên cho AI.

Câu hỏi thường gặp

Card 8GB chạy được DeepSeek bản nào?

Card 8GB như RTX 5060 hoặc RTX 5060 Ti 8GB chạy được DeepSeek-R1 distill 7B (4,7GB) và 8B (5,2GB) ở 4-bit theo dung lượng trên Ollama. Bản 14B nặng 9,0GB nên không nằm trọn trong 8GB.

RTX 5090 chạy được DeepSeek 70B không?

Không nằm trọn trong một card. Bản DeepSeek-R1 distill 70B ở 4-bit nặng 43GB trong khi RTX 5090 có 32GB VRAM theo NVIDIA. RTX 5090 chạy tốt bản 32B (20GB).

12GB VRAM chạy được DeepSeek bản nào?

Card 12GB như RTX 5070 chạy được bản 14B ở 4-bit (9,0GB) nhưng còn ít chỗ cho ngữ cảnh dài. Bản 32B (20GB) không vừa.

Có chạy được DeepSeek V4 trên máy cá nhân không?

Với một card thông thường thì không. DeepSeek-V4-Flash có 284B tham số tổng và V4-Pro có 1,6T theo DeepSeek, quá lớn so với VRAM của card phổ thông.

Chạy DeepSeek bằng CPU và RAM được không?

Về nguyên tắc có thể đẩy mô hình sang RAM, nhưng sẽ chậm hơn chạy trên VRAM. Muốn trải nghiệm trò chuyện mượt, bạn nên chọn card có VRAM lớn hơn dung lượng mô hình.

Nên chọn card nào để mua mới chạy DeepSeek?

Nếu chỉ chạy bản 7B và 8B, RTX 5060 Ti hoặc RTX 5060 là đủ. Muốn bản 14B thoải mái, chọn card 16GB như RTX 5060 Ti 16GB, RTX 5070 Ti hoặc RTX 5080. Muốn bản 32B, chọn RTX 5090.

Kết luận

Chọn card chạy DeepSeek chủ yếu là chọn VRAM theo bản mô hình. Card 8GB cho bản 7B và 8B, card 12GB và 16GB cho bản 14B, và RTX 5090 32GB cho bản 32B. Bản 671B và DeepSeek V4 nằm ngoài tầm của một card đơn. Nếu bạn muốn so sánh thêm các card theo nhu cầu AI, hãy xem bảng xếp hạng GPU chạy AI.

Xem thêm: Card đồ họa chạy Llama: cần bao nhiêu VRAM và chọn dòng RTX nào

Xem thêm: VRAM bao nhiêu đủ chạy model 14B? Chọn card cho local LLM