Bất ngờ với bộ PC 30 năm tuổi vẫn chạy mượt mô hình AI đời mới

Quân 01-01-2025, 4:49 pm

Mặc dù chỉ sở hữu một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây.

Kỳ lạ hệ thống PC 30 năm tuổi vẫn chạy được mô hình AI hiện đại

Trong một thử nghiệm bất ngờ, một chiếc máy tính cổ chạy Windows 98, sử dụng vi xử lý Pentium II với tốc độ chỉ 350 MHz và 128MB RAM, đã được chọn để vận hành mô hình ngôn ngữ lớn (LLM). Thử nghiệm này được thực hiện bởi EXO Labs, tổ chức nghiên cứu do các nhà khoa học từ Đại học Oxford thành lập.

Điều đáng chú ý là mô hình Llama 2 LLM không chỉ chạy được trên hệ thống đã gần 30 năm tuổi này mà còn tạo ra văn bản ở tốc độ khá ổn định. Thử nghiệm không chỉ nhằm mục đích giải trí mà còn mang theo một thông điệp quan trọng: AI có thể hoạt động hiệu quả mà không cần dựa vào các trung tâm dữ liệu quy mô lớn hay phần cứng hiện đại, đắt đỏ.

Từ máy tính cổ đến cuộc cách mạng AI

EXO Labs, với sứ mệnh "dân chủ hóa AI" đã khẳng định rằng sự độc quyền của các tập đoàn lớn đối với AI có thể gây nguy hiểm cho văn hóa, sự thật và các giá trị xã hội. Họ tập trung vào việc phát triển các công cụ giúp mọi người đều có thể tiếp cận AI, ngay cả trên các thiết bị cũ hoặc có cấu hình hạn chế.

Trong thử nghiệm mới nhất, họ đã biến một chiếc máy tính Windows 98 mua trên eBay thành minh chứng sống động. Bằng cách sử dụng giao thức FTP để truyền dữ liệu vào hệ thống, nhóm nghiên cứu đã biên dịch mô hình Llama 2 với sự hỗ trợ từ mã nguồn "llama2.c" của Andrej Karpathy, một chuyên gia AI từng làm việc tại Tesla và OpenAI. Nhờ trình biên dịch Borland C++ 5.02, mô hình AI hiện đại này đã chạy mượt mà trên phần cứng cũ kỹ, và điều này dã chứng minh một điều đó là AI không cần thiết phải sử dụng đến các thiết bị tiên tiến, đắt tiền và có cấu hình quá khủng.

Hiệu suất ấn tượng vượt xa mong đợi

Dù chạy trên máy tính chỉ có một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây. Tuy nhiên, khi thử nghiệm với các mô hình lớn hơn như Llama 3.2 1B thì tốc độ xử lý sẽ bị giảm đi đáng kể nhưng điều này không làm mất đi giá trị cốt lõi của cuộc nghiên cứu, đó là: AI có thể hoạt động ngay cả trên những hệ thống phần cứng giới hạn nghiêm trọng.

Không dừng lại ở đây, EXO Labs hiện đang phát triển BitNet – một kiến trúc AI hoàn toàn mới sử dụng trọng số tam phân. Cách tiếp cận này giúp tối ưu hóa đáng kể yêu cầu về bộ nhớ và hiệu năng phần cứng. Theo thông tin từ EXO, một mô hình BitNet với 7 tỷ tham số chỉ cần 1,38GB dung lượng lưu trữ. Tức là nó vượt trội về độ gọn nhẹ so với các mô hình thông thường hiện nay.

Điểm đặc biệt của BitNet là nó được tối ưu để chạy trên CPU thay vì GPU, giúp giảm chi phí và mở rộng khả năng tiếp cận AI. Theo EXO, BitNet có hiệu suất cao hơn 50% so với các mô hình AI truyền thống với khả năng xử lý tới 100 tỷ tham số chỉ bằng một CPU, đạt tốc độ đọc gần như tương đương con người.

Không chỉ muốn chứng minh sức mạnh công nghệ, EXO Labs còn mong muốn thay đổi cách tiếp cận và sử dụng AI. Họ mời gọi cộng đồng từ nhà phát triển chuyên nghiệp đến người yêu thích công nghệ tham gia vào dự án này. Đồng thời, EXO đã mở kênh Discord mang tên Retro, nơi mọi người có thể thảo luận và chia sẻ kinh nghiệm chạy AI trên các thiết bị cổ như Gameboy, Raspberry Pi hay các máy Mac đời cũ.

Xem thêm:

ChatGPT sẽ sớm đặt dấu chấm hết cho 4 loại trang web này

AI Llama 3.2 là gì? Vì sao nên sử dụng Llama thay cho ChatGPT?

Top PC Đồ họa tầm trung với hiệu năng mạnh mẽ, giá tốt tối ưu

24-12-2025, 7:17 pm

Top PC đồ họa tầm trung tập trung vào hiệu năng ổn định cho thiết kế 2D/3D, render và dựng video bán chuyên. Cấu hình thường gồm CPU đa nhân, GPU tầm trung mạnh và bộ nhớ đủ lớn để làm việc mượt mà. Đây là phân khúc cân bằng tốt nhất giữa hiệu suất và chi phí cho đa số người dùng sáng tạo.

Sắc Lệnh Mission Genesis Và Cuộc Đua AI Toàn Cầu: Cú Hích Đẩy Giá RAM Và SSD Lên Ngưỡng Kỷ Lục

23-12-2025, 2:25 pm

Trong những tuần cuối cùng của năm 2025, thị trường linh kiện và thiết bị công nghệ đang chứng kiến những biến động chưa từng có trong lịch sử. Theo các số liệu phân tích và diễn biến địa chính trị mới nhất, xu hướng tăng giá của các mặt hàng như RAM, SSD, HDD cho đến các thiết bị cuối như máy tính và điện thoại dự kiến sẽ còn tiếp diễn trong ít nhất 3 đến 4 năm tới.

Top 30+ Hình Nền 2K 4K Tết Nguyên Đán Bính Ngọ 2026 Cực Hot

19-12-2025, 11:46 am

Bài viết giới thiệu bộ sưu tập hơn 30 hình nền Tết Nguyên Đán Bính Ngọ 2026 với độ phân giải 2K và 4K sắc nét. Nội dung tập trung vào các chủ đề truyền thống như hoa mai, hoa đào, linh vật Ngọ và không khí xuân rộn ràng. Đây là lựa chọn lý tưởng để trang trí màn hình PC, laptop và điện thoại dịp đầu năm mới.

Vì sao Veo 3.1 được cộng đồng người dùng đánh giá cao hơn các phiên bản trước?

18-12-2025, 9:27 am

Veo 3.1 là phiên bản nâng cấp với nhiều cải tiến về hiệu năng, độ ổn định và khả năng ứng dụng thực tế. Các tính năng mới được tối ưu nhằm đáp ứng tốt hơn nhu cầu sử dụng chuyên sâu lẫn phổ thông. Nhờ đó, Veo 3.1 trở thành lựa chọn đáng cân nhắc trong phân khúc công nghệ hiện nay.

Top Mainboard trắng đẹp - mạnh mẽ đáng mua nhất thị trường hiện nay

16-12-2025, 10:49 am

Mainboard trắng không chỉ gây ấn tượng bởi thiết kế sang trọng mà còn được trang bị nhiều công nghệ hiện đại, đáp ứng tốt nhu cầu gaming và làm việc. Các mẫu mainboard trắng nổi bật hiện nay sở hữu khả năng hỗ trợ CPU thế hệ mới, RAM tốc độ cao và kết nối đa dạng.

NGUYỄN CÔNG PC - NHÀ TÀI TRỢ KIM CƯƠNG CHÀO TÂN SINH VIÊN ĐẠI HỌC KIẾN TRÚC HÀ NỘI 2025

15-12-2025, 10:09 am

Máy tính Nguyễn Công tiếp tục khẳng định vị thế là đối tác tin cậy hàng đầu khi vinh dự trở thành Nhà Tài Trợ Kim Cương liên tục trong 7 năm (2019 – 2025) cho chương trình Chào Tân Sinh Viên của Đại học Kiến Trúc Hà Nội (HAU).

TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE

13-12-2024, 11:29 am

Chương trình khuyến mại "TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE" diễn ra duy nhất trong khung giờ từ 9h00 - 12h00 (ngày 16/12 đến 21/12).

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC

Game

Sự kiện