Bất ngờ với bộ PC 30 năm tuổi vẫn chạy mượt mô hình AI đời mới

Quân 01-01-2025, 4:49 pm

Mặc dù chỉ sở hữu một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây.

Kỳ lạ hệ thống PC 30 năm tuổi vẫn chạy được mô hình AI hiện đại

Trong một thử nghiệm bất ngờ, một chiếc máy tính cổ chạy Windows 98, sử dụng vi xử lý Pentium II với tốc độ chỉ 350 MHz và 128MB RAM, đã được chọn để vận hành mô hình ngôn ngữ lớn (LLM). Thử nghiệm này được thực hiện bởi EXO Labs, tổ chức nghiên cứu do các nhà khoa học từ Đại học Oxford thành lập.

Điều đáng chú ý là mô hình Llama 2 LLM không chỉ chạy được trên hệ thống đã gần 30 năm tuổi này mà còn tạo ra văn bản ở tốc độ khá ổn định. Thử nghiệm không chỉ nhằm mục đích giải trí mà còn mang theo một thông điệp quan trọng: AI có thể hoạt động hiệu quả mà không cần dựa vào các trung tâm dữ liệu quy mô lớn hay phần cứng hiện đại, đắt đỏ.

Từ máy tính cổ đến cuộc cách mạng AI

EXO Labs, với sứ mệnh "dân chủ hóa AI" đã khẳng định rằng sự độc quyền của các tập đoàn lớn đối với AI có thể gây nguy hiểm cho văn hóa, sự thật và các giá trị xã hội. Họ tập trung vào việc phát triển các công cụ giúp mọi người đều có thể tiếp cận AI, ngay cả trên các thiết bị cũ hoặc có cấu hình hạn chế.

Trong thử nghiệm mới nhất, họ đã biến một chiếc máy tính Windows 98 mua trên eBay thành minh chứng sống động. Bằng cách sử dụng giao thức FTP để truyền dữ liệu vào hệ thống, nhóm nghiên cứu đã biên dịch mô hình Llama 2 với sự hỗ trợ từ mã nguồn "llama2.c" của Andrej Karpathy, một chuyên gia AI từng làm việc tại Tesla và OpenAI. Nhờ trình biên dịch Borland C++ 5.02, mô hình AI hiện đại này đã chạy mượt mà trên phần cứng cũ kỹ, và điều này dã chứng minh một điều đó là AI không cần thiết phải sử dụng đến các thiết bị tiên tiến, đắt tiền và có cấu hình quá khủng.

Hiệu suất ấn tượng vượt xa mong đợi

Dù chạy trên máy tính chỉ có một lõi xử lý, mô hình Llama 2 kích thước 260K vẫn đạt tốc độ xử lý 35,9 từ mỗi giây. Tuy nhiên, khi thử nghiệm với các mô hình lớn hơn như Llama 3.2 1B thì tốc độ xử lý sẽ bị giảm đi đáng kể nhưng điều này không làm mất đi giá trị cốt lõi của cuộc nghiên cứu, đó là: AI có thể hoạt động ngay cả trên những hệ thống phần cứng giới hạn nghiêm trọng.

Không dừng lại ở đây, EXO Labs hiện đang phát triển BitNet – một kiến trúc AI hoàn toàn mới sử dụng trọng số tam phân. Cách tiếp cận này giúp tối ưu hóa đáng kể yêu cầu về bộ nhớ và hiệu năng phần cứng. Theo thông tin từ EXO, một mô hình BitNet với 7 tỷ tham số chỉ cần 1,38GB dung lượng lưu trữ. Tức là nó vượt trội về độ gọn nhẹ so với các mô hình thông thường hiện nay.

Điểm đặc biệt của BitNet là nó được tối ưu để chạy trên CPU thay vì GPU, giúp giảm chi phí và mở rộng khả năng tiếp cận AI. Theo EXO, BitNet có hiệu suất cao hơn 50% so với các mô hình AI truyền thống với khả năng xử lý tới 100 tỷ tham số chỉ bằng một CPU, đạt tốc độ đọc gần như tương đương con người.

Không chỉ muốn chứng minh sức mạnh công nghệ, EXO Labs còn mong muốn thay đổi cách tiếp cận và sử dụng AI. Họ mời gọi cộng đồng từ nhà phát triển chuyên nghiệp đến người yêu thích công nghệ tham gia vào dự án này. Đồng thời, EXO đã mở kênh Discord mang tên Retro, nơi mọi người có thể thảo luận và chia sẻ kinh nghiệm chạy AI trên các thiết bị cổ như Gameboy, Raspberry Pi hay các máy Mac đời cũ.

Xem thêm:

ChatGPT sẽ sớm đặt dấu chấm hết cho 4 loại trang web này

AI Llama 3.2 là gì? Vì sao nên sử dụng Llama thay cho ChatGPT?

Giới Thiệu Phần Mềm Stable Diffusion - Ưu Điểm, Hạn Chế, Tính Năng Và Gợi Ý Cấu Hình Phù Hợp

18-08-2025, 6:17 pm

Stable Diffusion là phần mềm AI giúp biến văn bản thành hình ảnh sáng tạo chỉ trong vài giây. Để trải nghiệm mượt mà, người dùng cần PC có cấu hình mạnh, đặc biệt ở GPU và RAM. Nguyễn Công PC giới thiệu 6 lựa chọn cấu hình tối ưu cho nhiều nhu cầu khác nhau.

Mở Rộng Khả Năng Sáng Tạo 3D Với Cinema 4D Và Khám Phá 5 Cấu Hình PC Hot Nhất Hiện Nay

16-08-2025, 1:49 pm

Cinema 4D là phần mềm dựng hình và thiết kế 3D nổi bật với hiệu năng mạnh mẽ, dễ sử dụng cho cả người mới lẫn chuyên gia. Nguyễn Công PC gợi ý 5 cấu hình máy tính chuyên dụng, tối ưu từ phổ thông đến cao cấp, giúp bạn làm việc hiệu quả và mượt mà.

Go Global: Borderless By Design - Cùng Doanh Nghiệp Việt Vươn Tầm Quốc Tế

12-08-2025, 3:29 pm

Sự kiện Go Global: Borderless By Design đã chính thức khép lại, để lại nhiều dấu ấn sâu sắc và nguồn cảm hứng bất tận cho cộng đồng doanh nghiệp Việt. Với sứ mệnh kết nối và tiếp sức cho hành trình vươn ra thế giới, sự kiện đã mang đến một ngày trọn vẹn với những chia sẻ giá trị từ các nhà sáng lập và chuyên gia đầu ngành.

Top 5 Cấu Hình Máy Tính Tối Ưu Cho Phần Mềm MicroStation Tại Nguyễn Công PC

10-08-2025, 5:19 pm

MicroStation là phần mềm thiết kế CAD/BIM mạnh mẽ, được sử dụng rộng rãi trong ngành kiến trúc, xây dựng và hạ tầng. Cùng Nguyễn Công PC tìm hiểu 5 cấu hình tối ưu giúp bạn làm việc hiệu quả với MicroStation.

Hướng Dẫn Build PC Dưới 20 Triệu Đồng Cho Sinh Viên Kiến Trúc Trong 2025

04-08-2025, 4:16 pm

Năm học mới sắp bắt đầu, và câu hỏi "Nên build PC như thế nào để phục vụ tốt cho việc học?" là mối quan tâm hàng đầu của nhiều bạn tân sinh viên kiến trúc, xây dựng, mỹ thuật công nghiệp và các ngành liên quan đến đồ họa - diễn họa. Bài viết này Nguyễn Công PC sẽ cung cấp một cấu hình PC tối ưu, giúp các bạn dễ dàng đưa ra quyết định đúng đắn nhất với ngân sách dưới 20 triệu đồng.

Đánh giá nhanh VGA RTX 5080: Bước nhảy vọt hay chỉ là bình mới rượu cũ?

31-07-2025, 11:13 am

RTX 5080 được xây dựng trên kiến trúc Blackwell mới của NVIDIA, cụ thể là GPU GB203. Mặc dù không "khủng" như người anh RTX 5090 (với GPU GB202), RTX 5080 vẫn mang đến những cải tiến đáng kể về hiệu năng và công nghệ.

TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE

13-12-2024, 11:29 am

Chương trình khuyến mại "TUẦN LỄ DEAL KHỦNG TẠI KHUNG GIỜ SIÊU SALE" diễn ra duy nhất trong khung giờ từ 9h00 - 12h00 (ngày 16/12 đến 21/12).

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC

Game

Sự kiện