Machine Learning là gì? Vì sao học máy cần GPU

Machine Learning (học máy) là cách để máy tính tự rút ra quy luật từ dữ liệu rồi dùng quy luật đó dự đoán cho dữ liệu mới, thay vì lập trình từng luật bằng tay. Việc học này gồm hàng loạt phép tính ma trận lặp đi lặp lại, nên GPU với kiến trúc xử lý song song thường được dùng để rút ngắn thời gian huấn luyện. Bài này giải thích học máy hoạt động ra sao, vì sao GPU được ưu tiên và nên chọn phần cứng thế nào nếu bạn muốn tự thử trên máy của mình.

Machine Learning là gì?

Theo NVIDIA, học máy là nhánh con của trí tuệ nhân tạo, dùng thuật toán và mô hình thống kê để máy học từ dữ liệu, tìm ra mẫu và đưa ra dự đoán mà không cần viết sẵn từng quy tắc. Cách làm này linh hoạt hơn hệ thống dựa trên luật khi dữ liệu thay đổi. Nếu bạn muốn nhìn rộng hơn về AI, bài ChatGPT là gì giới thiệu một ứng dụng quen thuộc của nhóm công nghệ này.

Các nhóm học máy chính

Trong thực tế, nhiều hệ thống dùng đến mạng nơ-ron nhiều lớp, tức deep learning. Chuỗi quan hệ mà NVIDIA mô tả là AI chứa học máy, học máy chứa deep learning.

Huấn luyện và suy luận khác nhau ra sao?

NVIDIA chia vòng đời mô hình thành hai giai đoạn. Huấn luyện (training) là lúc dữ liệu đi qua nhiều lớp mạng, mỗi lớp chỉnh trọng số theo phản hồi đúng sai và lặp lại cho tới khi mô hình hội tụ. Suy luận (inference) là lúc mô hình đã học được dùng để xử lý dữ liệu mới và trả kết quả. Suy luận không thể diễn ra nếu thiếu huấn luyện.

Huấn luyện là phần nặng nhất. NVIDIA nêu ví dụ huấn luyện mô hình Llama 3.1 405 tỷ tham số cần khoảng 3,8 x 10^25 phép toán. Với mô hình ngôn ngữ lớn, bước suy luận gồm mã hóa đầu vào thành token, xử lý toàn bộ đầu vào (prefill), sinh đầu ra từng token một (decode) rồi chuyển token thành nội dung cho người dùng.

Vì sao học máy cần GPU?

Huấn luyện chủ yếu là các phép nhân ma trận rất lớn lặp lại hàng triệu lần. NVIDIA giải thích GPU có kiến trúc xử lý song song với hàng nghìn nhân nhỏ, phù hợp khi phải làm nhiều tác vụ cùng lúc, trong khi CPU mạnh ở các tác vụ tuần tự phức tạp. Bộ công cụ RAPIDS của NVIDIA chạy cả quy trình khoa học dữ liệu trên GPU, giữ dữ liệu trong bộ nhớ GPU để giảm thời gian chuyển qua lại. Nếu bạn chưa rõ GPU khác CPU thế nào, bài GPU là gì đi qua phần cơ bản.

Chọn phần cứng nào để học và thử học máy?

Người mới chỉ cần một card NVIDIA đủ VRAM để chạy các ví dụ cỡ nhỏ và vừa. Dòng card NVIDIA RTX 5000 Series như RTX 5060 hay RTX 5070 phù hợp để làm quen, còn khi cần nạp mô hình lớn hơn hoặc huấn luyện nghiêm túc thì cân nhắc card máy trạm như RTX PRO 6000 Blackwell. Nếu không muốn tự ghép, các bộ PC chạy AI của Nguyễn Công đã cân đối sẵn CPU, RAM và card, còn Agent Computer dành cho nhu cầu chạy tác tử AI. Với RAM, bạn có thể xem thêm RAM DDR5 để đủ dung lượng nạp dữ liệu.

Quy tắc dễ nhớ: VRAM của card quyết định mô hình có chạy được hay không, còn tốc độ card quyết định chạy nhanh hay chậm. Thông số VRAM, băng thông và công suất của từng card bạn nên đối chiếu trên trang sản phẩm và trang của NVIDIA.

Từ trái sang: PC AI Threadripper PRO 9985WX, PC AI Ryzen 9 9950X với RTX PRO 5000 Blackwell, card Colorful GeForce RTX 5060 Ti Gaming Duo 16GB

Câu hỏi thường gặp

Machine Learning là gì, nói ngắn gọn?

Là cách máy tính học quy luật từ dữ liệu để dự đoán cho dữ liệu mới, không cần lập trình từng quy tắc. Đây là một nhánh của trí tuệ nhân tạo.

Machine Learning khác AI thế nào?

AI là khái niệm rộng hơn. Theo NVIDIA, học máy là nhánh con của AI và deep learning là nhánh con của học máy.

Học máy có mấy loại?

Bốn nhóm thường gặp: có giám sát, không giám sát, bán giám sát và tăng cường.

Training và inference khác nhau thế nào?

Training là giai đoạn mô hình học từ dữ liệu. Inference là lúc mô hình đã học được dùng để xử lý dữ liệu mới và trả kết quả.

Vì sao học máy cần GPU?

Huấn luyện gồm rất nhiều phép tính lặp lại, GPU có hàng nghìn nhân nhỏ xử lý song song nên phù hợp hơn xử lý tuần tự trên CPU.

Không có GPU rời có học máy được không?

Vẫn chạy được các mô hình nhỏ trên CPU, nhưng thời gian huấn luyện lâu hơn. Với mô hình lớn thì GPU gần như cần thiết.

VRAM quan trọng thế nào?

VRAM quyết định cỡ mô hình và lượng dữ liệu nạp cùng lúc. Thiếu VRAM thì mô hình có thể không chạy được dù card nhanh.

Nên chọn card NVIDIA hay AMD để học máy?

NVIDIA cung cấp nhiều bộ công cụ như RAPIDS cho học máy trên GPU, nên người mới thường chọn card NVIDIA để dễ tìm hướng dẫn. Bạn nên kiểm tra thư viện mình định dùng có hỗ trợ card nào.

RAPIDS là gì?

Là bộ công cụ của NVIDIA chạy toàn bộ quy trình khoa học dữ liệu trên GPU, từ chuẩn bị dữ liệu đến huấn luyện mô hình.

Cần bao nhiêu RAM để học máy?

Tùy bộ dữ liệu. RAM hệ thống chứa dữ liệu trước khi đưa vào GPU, nên dữ liệu càng lớn càng cần nhiều RAM. Bạn xem trang RAM DDR5 để chọn dung lượng phù hợp.

Máy chạy AI lắp sẵn có đáng mua không?

Nếu bạn không muốn tự cân đối CPU, RAM và card thì bộ PC chạy AI lắp sẵn tiết kiệm thời gian chọn linh kiện. Nhu cầu nhẹ thì chỉ cần một card RTX 5000 Series.

Machine Learning dùng vào việc gì?

NVIDIA nêu các ví dụ như dự đoán nguy cơ bệnh nhân trong y tế, gợi ý sản phẩm trong bán lẻ, phát hiện gian lận trong tài chính và bảo trì dự đoán trong sản xuất.