Bất ngờ với bộ PC 30 năm tuổi vẫn chạy mượt mô hình AI đời mới

Quân 01-01-2025, 4:49 pm

Mặc dù chỉ sở hữu một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây.

Kỳ lạ hệ thống PC 30 năm tuổi vẫn chạy được mô hình AI hiện đại

Trong một thử nghiệm bất ngờ, một chiếc máy tính cổ chạy Windows 98, sử dụng vi xử lý Pentium II với tốc độ chỉ 350 MHz và 128MB RAM, đã được chọn để vận hành mô hình ngôn ngữ lớn (LLM). Thử nghiệm này được thực hiện bởi EXO Labs, tổ chức nghiên cứu do các nhà khoa học từ Đại học Oxford thành lập.

Điều đáng chú ý là mô hình Llama 2 LLM không chỉ chạy được trên hệ thống đã gần 30 năm tuổi này mà còn tạo ra văn bản ở tốc độ khá ổn định. Thử nghiệm không chỉ nhằm mục đích giải trí mà còn mang theo một thông điệp quan trọng: AI có thể hoạt động hiệu quả mà không cần dựa vào các trung tâm dữ liệu quy mô lớn hay phần cứng hiện đại, đắt đỏ.

Từ máy tính cổ đến cuộc cách mạng AI

EXO Labs, với sứ mệnh "dân chủ hóa AI" đã khẳng định rằng sự độc quyền của các tập đoàn lớn đối với AI có thể gây nguy hiểm cho văn hóa, sự thật và các giá trị xã hội. Họ tập trung vào việc phát triển các công cụ giúp mọi người đều có thể tiếp cận AI, ngay cả trên các thiết bị cũ hoặc có cấu hình hạn chế.

Trong thử nghiệm mới nhất, họ đã biến một chiếc máy tính Windows 98 mua trên eBay thành minh chứng sống động. Bằng cách sử dụng giao thức FTP để truyền dữ liệu vào hệ thống, nhóm nghiên cứu đã biên dịch mô hình Llama 2 với sự hỗ trợ từ mã nguồn "llama2.c" của Andrej Karpathy, một chuyên gia AI từng làm việc tại Tesla và OpenAI. Nhờ trình biên dịch Borland C++ 5.02, mô hình AI hiện đại này đã chạy mượt mà trên phần cứng cũ kỹ, và điều này dã chứng minh một điều đó là AI không cần thiết phải sử dụng đến các thiết bị tiên tiến, đắt tiền và có cấu hình quá khủng.

Hiệu suất ấn tượng vượt xa mong đợi

Dù chạy trên máy tính chỉ có một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây. Tuy nhiên, khi thử nghiệm với các mô hình lớn hơn như Llama 3.2 1B thì tốc độ xử lý sẽ bị giảm đi đáng kể nhưng điều này không làm mất đi giá trị cốt lõi của cuộc nghiên cứu, đó là: AI có thể hoạt động ngay cả trên những hệ thống phần cứng giới hạn nghiêm trọng.

Không dừng lại ở đây, EXO Labs hiện đang phát triển BitNet – một kiến trúc AI hoàn toàn mới sử dụng trọng số tam phân. Cách tiếp cận này giúp tối ưu hóa đáng kể yêu cầu về bộ nhớ và hiệu năng phần cứng. Theo thông tin từ EXO, một mô hình BitNet với 7 tỷ tham số chỉ cần 1,38GB dung lượng lưu trữ. Tức là nó vượt trội về độ gọn nhẹ so với các mô hình thông thường hiện nay.

Điểm đặc biệt của BitNet là nó được tối ưu để chạy trên CPU thay vì GPU, giúp giảm chi phí và mở rộng khả năng tiếp cận AI. Theo EXO, BitNet có hiệu suất cao hơn 50% so với các mô hình AI truyền thống với khả năng xử lý tới 100 tỷ tham số chỉ bằng một CPU, đạt tốc độ đọc gần như tương đương con người.

Không chỉ muốn chứng minh sức mạnh công nghệ, EXO Labs còn mong muốn thay đổi cách tiếp cận và sử dụng AI. Họ mời gọi cộng đồng từ nhà phát triển chuyên nghiệp đến người yêu thích công nghệ tham gia vào dự án này. Đồng thời, EXO đã mở kênh Discord mang tên Retro, nơi mọi người có thể thảo luận và chia sẻ kinh nghiệm chạy AI trên các thiết bị cổ như Gameboy, Raspberry Pi hay các máy Mac đời cũ.

Xem thêm:

ChatGPT sẽ sớm đặt dấu chấm hết cho 4 loại trang web này

AI Llama 3.2 là gì? Vì sao nên sử dụng Llama thay cho ChatGPT?

RAM và SSD Tăng Giá Điên Đảo: Khi Cơn Sóng AI Tạo Ra Sự Biến Động Thị Trường

28-11-2025, 3:15 pm

Trong bối cảnh thị trường phần cứng toàn cầu đang chứng kiến sự biến động giá mạnh mẽ đối với các mô-đun bộ nhớ (RAM) và ổ cứng thể rắn (SSD), Nguyễn Công PC cung cấp góc nhìn đa chiều, vượt ra khỏi quy luật cung – cầu thông thường. Nội dung sẽ làm rõ các yếu tố vĩ mô và vi mô đang định hình lại cơ cấu giá linh kiện hiện tại.

Intel Core Ultra 300 Panther Lake Sẽ Ra Mắt Tại CES 2026

22-11-2025, 2:46 pm

Intel vừa xác nhận thời điểm ra mắt chính thức cho dòng vi xử lý thế hệ tiếp theo của mình, Core Ultra Series 3, với tên mã Panther Lake. Đây là thông tin được chờ đợi rộng rãi trong cộng đồng công nghệ.

PC Xeon là gì? Dòng máy này phù hợp với đối tượng người dùng nào tối ưu nhất?

15-11-2025, 5:00 pm

PC Xeon là dòng máy tính sử dụng CPU Intel Xeon, nổi bật về độ ổn định, khả năng xử lý đa nhiệm và làm việc liên tục. Đây là lựa chọn lý tưởng cho các tác vụ chuyên sâu như dựng phim, render 3D, ảo hóa hay vận hành máy chủ. Người dùng chuyên nghiệp, doanh nghiệp và kỹ sư kỹ thuật sẽ hưởng lợi nhiều nhất từ dòng PC này.

Sản phẩm công nghệ mới: Steam Machine của Valve mạnh gấp 6 lần Steam Deck

14-11-2025, 6:16 pm

Steam Machine mới của Valve được nâng cấp mạnh mẽ với hiệu năng vượt trội, đạt mức gấp 6 lần Steam Deck. Thiết bị hứa hẹn mang đến trải nghiệm gaming chất lượng cao, ổn định và mượt mà hơn. Đây được xem là bước tiến lớn trong dòng sản phẩm phần cứng gaming của Valve.

Samsung xác nhận ra mắt RAM LPDDR6 tốc độ 10.7 Gbps tại CES 2026

12-11-2025, 11:19 am

Samsung vừa chính thức xác nhận sẽ trình làng RAM LPDDR6 thế hệ mới tại CES 2026, đánh dấu bước tiến lớn trong lĩnh vực bộ nhớ di động hiệu năng cao. Theo công bố, dòng LPDDR6 đầu tiên của hãng sẽ được sản xuất trên tiến trình 12nm, đạt tốc độ lên tới 10.7 Gbps mỗi pin, và dự kiến thương mại hóa trong năm 2026.

Khám phá dòng MacBook - sản phẩm công nghệ chất lượng từ ông lớn Apple

09-11-2025, 6:04 pm

MacBook là dòng laptop cao cấp của Apple nổi tiếng với hiệu năng mạnh mẽ, thiết kế sang trọng và độ bền vượt trội. Dòng sản phẩm này được trang bị chip Apple Silicon hiện đại, mang lại trải nghiệm mượt mà và tiết kiệm năng lượng.

TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE

13-12-2024, 11:29 am

Chương trình khuyến mại "TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE" diễn ra duy nhất trong khung giờ từ 9h00 - 12h00 (ngày 16/12 đến 21/12).

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC

Game

Sự kiện