Amazon Phát Triển Chip AI Riêng Để Cạnh Tranh Với NVIDIA

Amazon Phát Triển Bộ Vi Xử Lý AI Riêng Để Cạnh Tranh Với NVIDIA

Mục lục:

1. Amazon Phát Triển Bộ Vi Xử Lý AI Riêng Để Giảm Chi Phí Và Phụ Thuộc Vào NVIDIA
2. Amazon Đầu Tư Vào Vi Xử Lý Tự Chế Từ Năm 2015
3. Amazon Sử Dụng Trainium2 Cho Anthropic
4. Các Công Ty Khác Cũng Đang Phát Triển Vi Xử Lý AI Riêng
5. Google Ra Mắt TPU Mới, Trillium

1. Amazon Phát Triển Bộ Vi Xử Lý AI Riêng Để Giảm Chi Phí Và Phụ Thuộc Vào NVIDIA

Theo một báo cáo từ Financial Times, Amazon đang phát triển chip trí tuệ nhân tạo tùy chỉnh để giảm sự phụ thuộc vào NVIDIA. Công ty đã phát triển nhiều loại bộ vi xử lý nội bộ để chạy các khối lượng công việc trung tâm dữ liệu, và động thái mới nhất này là một phần trong khoản đầu tư của họ vào một công ty khởi nghiệp thiết kế chip vào năm 2015. Dự kiến Amazon sẽ cung cấp thêm thông tin về bộ vi xử lý AI tùy chỉnh của mình vào tháng tới như một phần của các thông báo liên quan đến dòng chip Trainium của công ty.

2. Amazon Đầu Tư Vào Vi Xử Lý Tự Chế Từ Năm 2015

Các chip này được phát triển bởi Annapurna Labs của Amazon, và đang được sử dụng bởi Anthropic, đối thủ của OpenAI được hỗ trợ bởi Microsoft. Anthropic là đối tác AI chính của Amazon, và cung cấp cho gã khổng lồ thương mại điện tử và điện toán đám mây quyền truy cập vào mô hình AI cơ bản Claude.

3. Amazon Sử Dụng Trainium2 Cho Anthropic

Báo cáo hôm nay chỉ là một trong số nhiều báo cáo cho thấy sự thúc đẩy trong ngành công nghệ lớn để giảm sự phụ thuộc vào NVIDIA cho các bộ vi xử lý trí tuệ nhân tạo mạnh mẽ nhất. GPU của NVIDIA là sản phẩm hàng đầu và có hiệu suất cao nhất trong việc chạy khối lượng công việc AI. Do đó, nhu cầu cao và nguồn cung hạn chế đã khiến chúng trở thành một trong những sản phẩm được tìm kiếm nhiều nhất và đắt tiền nhất trên thế giới.

4. Các Công Ty Khác Cũng Đang Phát Triển Vi Xử Lý AI Riêng

Đối với Amazon, việc phát triển chip AI nội bộ là một nỗ lực để giảm sự phụ thuộc vào sản phẩm của NVIDIA và đồng thời giảm chi phí, Financial Times báo cáo. Công ty không thiếu kinh nghiệm khi phát triển chip tùy chỉnh. Việc mua lại công ty khởi nghiệp thiết kế chip Annapurna đã cho phép Amazon tung ra một dòng sản phẩm bộ vi xử lý ổn định để giảm chi phí sử dụng sản phẩm của AMD và Intel cho các khối lượng công việc trung tâm dữ liệu truyền thống.

5. Google Ra Mắt TPU Mới, Trillium

Các chip này, được gọi là bộ vi xử lý Graviton, được bổ sung bởi bộ vi xử lý AI tùy chỉnh của Amazon, được gọi là Trainium. Trainium được thiết kế để hoạt động với các mô hình ngôn ngữ lớn, và Amazon đã giới thiệu Trainium2 một năm trước vào tháng 11 năm 2023.

Theo FT, Annapurna cũng dẫn đầu nỗ lực phát triển các chip sẽ giảm sự phụ thuộc của Amazon vào GPU của NVIDIA. Mặc dù báo cáo của FT chia sẻ rất ít chi tiết về các chip này, nhưng nó cho thấy rằng Amazon có thể cung cấp thông tin chi tiết về chúng vào tháng tới tại sự kiện của mình liên quan đến chip Trainium2. Mặc dù Trainium2 được ra mắt vào năm 2023, nhưng các hạn chế về nguồn cung đã hạn chế việc áp dụng của nó. FT báo cáo rằng Anthropic, đối tác AI của Amazon, đang sử dụng Trainium2.

Chip của Amazon được thiết kế bằng cách sử dụng công nghệ từ công ty Đài Loan Alchip. Chúng được sản xuất bởi Taiwan Semiconductor Manufacturing Company (TSMC), và Amazon đã chia sẻ vào năm ngoái rằng hơn 50.000 khách hàng AWS đang sử dụng chip Graviton của mình.

Cùng với Amazon, các công ty có vốn hóa thị trường khổng lồ khác, bao gồm Alphabet, công ty mẹ của Google, và Meta, công ty sở hữu Facebook, cũng tự phát triển chip AI. Các công ty trong ngành như Apple sử dụng chip của Google, và Meta đã công bố bộ tăng tốc đào tạo và suy luận Meta (MTIA) thế hệ thứ hai đầu năm nay. Cả hai điều này đều làm giảm sự phụ thuộc vào GPU của NVIDIA, và OpenAI được hỗ trợ bởi Microsoft cũng được cho là đang xem xét phát triển chip nội bộ.

Google đã công bố đơn vị xử lý tensor (TPU) chip AI mới nhất của mình, Trillium, đầu tháng này. Theo công ty, các chip này cung cấp hiệu suất đào tạo AI nhanh hơn gấp bốn lần và hiệu suất suy luận nhanh hơn gấp ba lần so với các phiên bản tiền nhiệm.