Etched's Sohu ASIC: Một lời thách thức mới cho NVIDIA?

Etched's Sohu ASIC: Một lời thách thức mới cho NVIDIA?

Mục lục:

1. Etched và Sohu ASIC: Cú nhảy vọt trong AI
2. Hiệu suất vượt trội: Sohu ASIC so với Blackwell và Hopper
3. Cơ chế hoạt động và điểm mạnh của Sohu ASIC
4. Hỗ trợ đa dạng mô hình AI
5. Etched: Từ startup đến đối thủ cạnh tranh

1. Etched và Sohu ASIC: Cú nhảy vọt trong AI

Startup Etched đã gây chú ý trong lĩnh vực AI khi giới thiệu Sohu ASIC - một con chip chuyên dụng dành riêng cho AI, với tuyên bố mang đến hiệu suất vượt trội và chi phí thấp hơn so với các GPU Blackwell B200 thế hệ mới của NVIDIA.

2. Hiệu suất vượt trội: Sohu ASIC so với Blackwell và Hopper

Theo Etched, Sohu ASIC có khả năng xử lý nhanh hơn 10 lần so với Blackwell và 20 lần so với Hopper AI GPU của NVIDIA. Công ty này cũng đưa ra số liệu cụ thể: một Sohu ASIC có thể xử lý hơn 500.000 token Llama 70B mỗi giây, tương đương với 160 đơn vị H100 của NVIDIA.

3. Cơ chế hoạt động và điểm mạnh của Sohu ASIC

Sohu ASIC đạt được hiệu suất ấn tượng nhờ sử dụng kiến trúc Transformer Engine, một kiến trúc mạng nơ-ron được sử dụng trong các mô hình AI nổi tiếng như ChatGPT của OpenAI và Llama của Meta. Etched tập trung vào tối ưu hóa cho Transformer Engine, phân bổ nhiều transistor hơn cho nhiệm vụ xử lý Transformer, trái ngược với NVIDIA, nơi ưu tiên cho khả năng lập trình. Nhờ đó, Sohu ASIC đạt được tỷ lệ sử dụng FLOPS (Floating-point Operations Per Second) lên tới 90%, gấp đôi so với thị trường.

4. Hỗ trợ đa dạng mô hình AI

Sohu ASIC có khả năng hỗ trợ mọi mô hình AI hiện đại, từ Llama của Meta đến Anthropic của Google. Etched cũng cam kết điều chỉnh và nâng cấp liên tục để đảm bảo khả năng tích hợp rộng rãi của ASIC.

5. Etched: Từ startup đến đối thủ cạnh tranh

Etched khẳng định vị thế dẫn đầu trong cuộc đua ASIC, và đã thu hút được sự quan tâm lớn từ ngành công nghiệp. Công ty đã hợp tác với TSMC để sản xuất Sohu ASIC với quy trình 4nm, đồng thời huy động được 120 triệu đô la vốn đầu tư. Etched đặt mục tiêu đưa xử lý AI thời gian thực trở thành tiêu chuẩn, thay vì là một rào cản.

Kết luận:

Sự xuất hiện của Sohu ASIC là một lời thách thức lớn đối với NVIDIA, nhà sản xuất chip AI hàng đầu hiện nay. Với hiệu suất vượt trội và mức giá cạnh tranh, Etched đang tạo dựng vị thế của mình trong thị trường AI đầy tiềm năng. Thời gian sẽ cho biết liệu Sohu ASIC có thể thay đổi cục diện cuộc chơi và trở thành tiêu chuẩn mới trong lĩnh vực xử lý AI hay không.