Mẫu CPU AI này có hiệu năng mạnh gấp 20 lần so với H100 của NVIDIA

Quân 28-06-2024, 10:30 am

Mẫu chip AI mới mang tên Sohu do Startup Etched, có trụ sở tại San Francisco, phát triển, có hiệu năng vượt trội gấp 20 lần so với H100 của Nvidia.

Theo công ty Etched, Sohu là một loại mạch tích hợp dành riêng cho ứng dụng (ASIC) và có khả năng vượt trội hơn GPU H100 của Nvidia về khả năng suy luận trong các mô hình ngôn ngữ lớn (LLM). Một hệ thống với 8 chip Sohu có thể đạt hiệu suất tương đương với 160 H100.

Etched cũng cho biết, các hệ thống tăng tốc AI hiện nay, bao gồm cả CPU và GPU, đều được thiết kế để làm việc với nhiều kiến trúc AI khác nhau như Mạng bộ nhớ ngắn hạn (Short-term Memory Network), Mạng thần kinh tích chập (Convolution Neural Network), hay mô hình không gian trạng thái (State Space Model).

Công ty Etched ước tính rằng chỉ có 3,3% số bóng bán dẫn trên GPU H100 của Nvidia được sử dụng cho tác vụ chính, trong khi 96,7% còn lại được dành cho các tác vụ khác. Điều này là cần thiết đối với các chip AI đa năng nhưng lại gây ra sự lãng phí tài nguyên đáng kể.

Do đó, startup Etched đã tích hợp Kiến trúc AI biến áp (Transformer architecture) vào chip Sohu nhằm phân bổ một lượng lớn bóng bán dẫn hơn cho các tính toán AI trên chip. Họ tập trung vào việc tạo ra chip tối ưu hóa cho một loại mô hình AI cụ thể, thay vì phục vụ cho tất cả các kiến trúc AI riêng lẻ. Trên thực tế, kiến trúc Transformer cũng là nền tảng của GPT (Generative Pre-trained Transformer), giống như các hệ thống AI của các công ty công nghệ lớn như Sora, Gemini, Stable Diffusion và Dall-E.

Etched đã đặt cược lớn vào kiến trúc Transformer. Nếu Transformer không còn phổ biến, công ty này sẽ gặp khó khăn, nhưng nếu tiếp tục phát triển, Etched có tiềm năng trở thành một trong những công ty hàng đầu trong ngành.

Giá của Sohu chưa được tiết lộ, trong khi Nvidia H100 hiện có giá 40.000 USD. Theo Tom's Hardware, nếu Sohu đáp ứng được kỳ vọng, nó sẽ giúp các trung tâm dữ liệu tiết kiệm hàng tỷ USD cả về chi phí ban đầu và chi phí vận hành. Sản phẩm này thậm chí có thể đe dọa vị thế dẫn đầu của Nvidia, nhưng chỉ khi chip của Etched được triển khai thành công.

Xem thêm:

AMD Ryzen 9000X3D dự kiến sẽ ra mắt trong tháng 9, trước cả Intel Arrow Lake

Lộ diện card đồ họa RTX 4070 Ti Super của Gigabyte với thiết kế ẩn đi cổng PCIe

Meta AI chính thức 'đặt chân' tới Việt Nam, cạnh tranh trực tiếp với ChatGPT và Gemini

05-12-2024, 10:45 am

Một tin vui dành cho những ai đang chờ đợi mô hình trí tuệ nhân tạo từ Meta, đó chính là Meta AI đã có thể sử dụng tại Việt Nam bắt đầu từ hôm nay.

Inno3D xác nhận dòng card đồ họa RTX 50 sẽ ra mắt tại CES 2025

30-11-2024, 2:53 pm

Trong một buổi phát trực tiếp đặc biệt do Pichau tổ chức, khán giả đã được thưởng thức một phiên thảo luận kéo dài 11 giờ với sự góp mặt của nhiều khách mời. Trong số đó, đại diện của Inno3D Brazil đã vô tình tiết lộ thông tin liên quan đến tin đồn về dòng RTX 50.

NVIDIA chuẩn bị ra mắt CPU có GPU tích hợp mạnh ngang RTX 4070 dành cho laptop

17-11-2024, 10:48 am

Gần đây, đã có nhiều báo cáo cho rằng NVIDIA đang chuẩn bị cho ra mắt một mẫu CPU mới có tích hợp nhân đồ họa với hiệu năng có thể sánh ngang với GPU RTX 4070 dành cho laptop.

Cách phát hiện và phòng tránh các file EXE nguy hiểm, độc hại

16-11-2024, 5:28 pm

Tội phạm mạng thường dùng các file EXE nguy hiểm để phân tán phần mềm độc hại bao gồm malware, ransomware hoặc spyware. Vì thế, việc nhận diện và tránh xa các file có khả năng gây hại là rất quan trọng để bảo vệ thiết bị khỏi nguy cơ lây nhiễm. Nếu bạn nghi ngờ rằng một file không an toàn, có nhiều cách để kiểm tra trước khi sử dụng.

Micron trình làng ổ SSD 60TB Gen 5 đầu tiên trên thế giới

14-11-2024, 11:47 am

Mới đây, Micron đã vừa âm thầm cho ra mắt mẫu ổ cứng SSD PCIe Gen 5 với dung lượng 60TB siêu lớn đầu tiên trên thế giới nhưng chưa tiết lộ mức giá bán.

So sánh Intel Core Ultra 5 245K và AMD Ryzen 5 9600X: Đội xanh hay đội đỏ?

04-11-2024, 10:21 am

Trong bài viết này, mình sẽ phân tích về thông số kỹ thuật và hiệu suất của cả Core Ultra 5 245K và Ryzen 5 9600X để giúp bạn có cái nhìn rõ ràng hơn cũng như có thể đưa ra được quyết định chọn lựa phù hợp nhất nhé!

Cách tạo ra bài hát của riêng bạn chỉ từ văn bản bằng Suno AI

25-06-2024, 11:19 am

Trong bài viết này, Nguyễn Công PC sẽ hướng dẫn bạn trở thành một producer bằng cách sử dụng Suno AI. Đây là một trí tuệ nhân tạo giúp chuyển văn bản thành bài hát chỉ trong một nốt nhạc. Bắt đầu nào!

Xuất hiện AI dịch được tiếng động vật giúp con người và thú nuôi hiểu được nhau hơn

24-06-2024, 11:34 am

Mới đây đã xuất hiện một trí tuệ nhân tạo (AI) có khả năng dịch được tiếng động vật giúp con người có thể hiểu được, từ đó tăng khả năng kết nối giữa người và thú nuôi.

Hướng dẫn sử dụng Viggle AI để biến ảnh tĩnh thành video trong tích tắc

10-06-2024, 3:31 pm

Trong bài viết này, Nguyễn Công PC sẽ hướng dẫn bạn cách sử dụng Viggle AI để "hô biến" ảnh tĩnh thành video chỉ trong nháy mắt.

Intel Lunar Lake sẽ 'vùi dập' tham vọng của ARM với chip x86

07-06-2024, 11:27 am

Sau một thời gian dài chờ đợi, Intel cuối cùng cũng đã chính thức giới thiệu CPU Lunar Lake tại sự kiện Computex 2024 ở Đài Loan. Sản phẩm này được xem như lời đáp trả của Intel đối với kiến trúc ARM, với kỳ vọng sẽ xóa bỏ những định kiến về việc "ngốn năng lượng" liên quan đến kiến trúc x86.

COOLER MASTER X COMPUTEX 2024 – MỘT COOLER MASTER HOÀN TOÀN MỚI MẺ TẠI COMPUTEX 2024

05-06-2024, 5:39 pm

Hãy cùng với Cooler Master tại sự kiện COMPUTEX 2024 với mục đích tìm hiểu thêm về những cải tiến mới nhất về công nghệ.

TOP 5 điều cần lưu ý khi chọn mua CPU

05-06-2024, 11:34 am

Việc lựa chọn bộ vi xử lý phù hợp trong năm 2024 đòi hỏi bạn phải tỉnh táo trước các chiêu trò tiếp thị, sự phức tạp của bảng thông số kỹ thuật và xu hướng ưu tiên một số thương hiệu. Hướng dẫn này sẽ hỗ trợ bạn thực hiện quy trình chọn CPU tốt nhất cho năm 2024 một cách dễ dàng nhất có thể.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC