Bất ngờ với bộ PC 30 năm tuổi vẫn chạy mượt mô hình AI đời mới

Quân 01-01-2025, 4:49 pm

Mặc dù chỉ sở hữu một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây.

Kỳ lạ hệ thống PC 30 năm tuổi vẫn chạy được mô hình AI hiện đại

Trong một thử nghiệm bất ngờ, một chiếc máy tính cổ chạy Windows 98, sử dụng vi xử lý Pentium II với tốc độ chỉ 350 MHz và 128MB RAM, đã được chọn để vận hành mô hình ngôn ngữ lớn (LLM). Thử nghiệm này được thực hiện bởi EXO Labs, tổ chức nghiên cứu do các nhà khoa học từ Đại học Oxford thành lập.

Điều đáng chú ý là mô hình Llama 2 LLM không chỉ chạy được trên hệ thống đã gần 30 năm tuổi này mà còn tạo ra văn bản ở tốc độ khá ổn định. Thử nghiệm không chỉ nhằm mục đích giải trí mà còn mang theo một thông điệp quan trọng: AI có thể hoạt động hiệu quả mà không cần dựa vào các trung tâm dữ liệu quy mô lớn hay phần cứng hiện đại, đắt đỏ.

Từ máy tính cổ đến cuộc cách mạng AI

EXO Labs, với sứ mệnh "dân chủ hóa AI" đã khẳng định rằng sự độc quyền của các tập đoàn lớn đối với AI có thể gây nguy hiểm cho văn hóa, sự thật và các giá trị xã hội. Họ tập trung vào việc phát triển các công cụ giúp mọi người đều có thể tiếp cận AI, ngay cả trên các thiết bị cũ hoặc có cấu hình hạn chế.

Trong thử nghiệm mới nhất, họ đã biến một chiếc máy tính Windows 98 mua trên eBay thành minh chứng sống động. Bằng cách sử dụng giao thức FTP để truyền dữ liệu vào hệ thống, nhóm nghiên cứu đã biên dịch mô hình Llama 2 với sự hỗ trợ từ mã nguồn "llama2.c" của Andrej Karpathy, một chuyên gia AI từng làm việc tại Tesla và OpenAI. Nhờ trình biên dịch Borland C++ 5.02, mô hình AI hiện đại này đã chạy mượt mà trên phần cứng cũ kỹ, và điều này dã chứng minh một điều đó là AI không cần thiết phải sử dụng đến các thiết bị tiên tiến, đắt tiền và có cấu hình quá khủng.

Hiệu suất ấn tượng vượt xa mong đợi

Dù chạy trên máy tính chỉ có một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây. Tuy nhiên, khi thử nghiệm với các mô hình lớn hơn như Llama 3.2 1B thì tốc độ xử lý sẽ bị giảm đi đáng kể nhưng điều này không làm mất đi giá trị cốt lõi của cuộc nghiên cứu, đó là: AI có thể hoạt động ngay cả trên những hệ thống phần cứng giới hạn nghiêm trọng.

Không dừng lại ở đây, EXO Labs hiện đang phát triển BitNet – một kiến trúc AI hoàn toàn mới sử dụng trọng số tam phân. Cách tiếp cận này giúp tối ưu hóa đáng kể yêu cầu về bộ nhớ và hiệu năng phần cứng. Theo thông tin từ EXO, một mô hình BitNet với 7 tỷ tham số chỉ cần 1,38GB dung lượng lưu trữ. Tức là nó vượt trội về độ gọn nhẹ so với các mô hình thông thường hiện nay.

Điểm đặc biệt của BitNet là nó được tối ưu để chạy trên CPU thay vì GPU, giúp giảm chi phí và mở rộng khả năng tiếp cận AI. Theo EXO, BitNet có hiệu suất cao hơn 50% so với các mô hình AI truyền thống với khả năng xử lý tới 100 tỷ tham số chỉ bằng một CPU, đạt tốc độ đọc gần như tương đương con người.

Không chỉ muốn chứng minh sức mạnh công nghệ, EXO Labs còn mong muốn thay đổi cách tiếp cận và sử dụng AI. Họ mời gọi cộng đồng từ nhà phát triển chuyên nghiệp đến người yêu thích công nghệ tham gia vào dự án này. Đồng thời, EXO đã mở kênh Discord mang tên Retro, nơi mọi người có thể thảo luận và chia sẻ kinh nghiệm chạy AI trên các thiết bị cổ như Gameboy, Raspberry Pi hay các máy Mac đời cũ.

Xem thêm:

ChatGPT sẽ sớm đặt dấu chấm hết cho 4 loại trang web này

AI Llama 3.2 là gì? Vì sao nên sử dụng Llama thay cho ChatGPT?

GIGABYTE - MÀN HÌNH CHẤT, BẢO HÀNH 1 ĐỔI 1

07-11-2025, 2:47 pm

Trải nghiệm màn hình GIGABYTE & AORUS chất lượng đỉnh cao với chính sách bảo hành đẳng cấp 1 ĐỔI 1 trong 12 tháng, tổng bảo hành 3 năm. Mua hàng chính hãng từ 01/11/2025 để nhận ưu đãi giá tốt nhất!

Pin Laptop là gì? Cách kiểm tra và khắc phục tình trạng chai pin laptop chi tiết nhất

06-11-2025, 6:23 pm

Pin laptop là bộ phận cung cấp năng lượng giúp thiết bị hoạt động khi không cắm sạc. Việc kiểm tra định kỳ tình trạng pin giúp người dùng phát hiện sớm dấu hiệu chai pin, tránh gián đoạn công việc. Bài viết hướng dẫn chi tiết cách kiểm tra pin trên Windows và các giải pháp hiệu quả khi laptop bị chai pin.

PC RTX 4070 - Hiệu năng đồ họa mạnh mẽ, lựa chọn tối ưu cho dân thiết kế và game thủ

30-10-2025, 3:23 pm

VGA RTX 4070 là dòng GPU thuộc kiến trúc Ada Lovelace của NVIDIA, mang lại hiệu năng mạnh mẽ trong tầm giá trung cao. Sản phẩm tối ưu cho các tác vụ đồ họa như dựng hình 3D, chỉnh sửa video 4K và chơi game AAA ở mức thiết lập cao. PC RTX 4070 tại Nguyễn Công PC được thiết kế tối ưu hiệu năng, tản nhiệt và độ ổn định cho cả làm việc lẫn giải trí.

Nguyễn Công PC đồng hành cùng Chào Tân Sinh viên 2025 – Đại học Dược Hà Nội

30-10-2025, 9:33 am

Sự kiện được mong chờ nhất của sinh viên Dược Hà Nội, “Chào Tân Sinh viên 2025”, đã diễn ra thành công rực rỡ vào ngày 26/10/2025 tại Sân trường Đại học Dược Hà Nội. Đây là một ngày hội rực rỡ sắc màu, nơi các Tân Sinh viên được hòa mình vào không khí sôi động, nhiệt huyết và tràn đầy năng lượng của tuổi trẻ.

Khám phá VGA Laptop: Nâng tầm hiệu năng, biến mọi tác vụ trở nên mượt mà

29-10-2025, 5:17 pm

VGA laptop là bộ phận quan trọng quyết định khả năng xử lý đồ họa và hiệu suất tổng thể của máy tính xách tay. Hiểu rõ về VGA giúp người dùng lựa chọn dòng card phù hợp cho nhu cầu học tập, làm việc hay chơi game. Bài viết dưới đây của Nguyễn Công PC sẽ giúp bạn nắm rõ khái niệm VGA laptop và gợi ý những mẫu VGA hiệu năng cao đáng sở hữu.

Cách ẩn cột trong Excel nhanh chóng và đơn giản cho dân văn phòng

28-10-2025, 12:29 pm

Ẩn cột trong Excel là thao tác cơ bản giúp người dùng quản lý dữ liệu gọn gàng và chuyên nghiệp hơn. Chỉ với vài bước đơn giản, bạn có thể ẩn hoặc hiện lại các cột mà không làm mất dữ liệu. Bài viết dưới đây của Nguyễn Công PC sẽ hướng dẫn chi tiết các cách ẩn cột nhanh nhất, phù hợp cho mọi phiên bản Excel.

TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE

13-12-2024, 11:29 am

Chương trình khuyến mại "TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE" diễn ra duy nhất trong khung giờ từ 9h00 - 12h00 (ngày 16/12 đến 21/12).

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC

Game

Sự kiện