NVIDIA Ra mắt Generative AI-in-a-Box

Mục lục:

Tương lai của máy tính: Tạo dữ liệu thay vì truy xuất
NVIDIA NIM: AI-in-a-Box cho mọi doanh nghiệp
Hiệu quả tối ưu hóa cơ sở hạ tầng
Ứng dụng trong lĩnh vực khoa học đời sống
Hệ sinh thái đối tác
Kết luận

1. Tương lai của máy tính: Tạo dữ liệu thay vì truy xuất

Jensen Huang, người sáng lập và CEO của NVIDIA, đã tuyên bố trong bài phát biểu chính tại COMPUTEX Taipei rằng việc tạo ra dữ liệu, thay vì truy xuất, sẽ thống trị lĩnh vực máy tính trong tương lai. Ông cho biết: Trong tương lai, máy tính của bạn sẽ tạo ra càng nhiều càng tốt và chỉ truy xuất những gì cần thiết. Lý do là vì dữ liệu được tạo ra cần ít năng lượng hơn để lấy thông tin.

2. NVIDIA NIM: AI-in-a-Box cho mọi doanh nghiệp

Tuy nhiên, không phải mọi doanh nghiệp đều có đội ngũ các nhà nghiên cứu AI để xây dựng các công cụ AI tạo dữ liệu riêng của họ. Đó là lý do NVIDIA ra mắt NIM - NVIDIA Inference Microservices. NVIDIA NIM là các dịch vụ vi mô suy luận cung cấp các mô hình dưới dạng container tối ưu hóa có thể được triển khai trên đám mây, trung tâm dữ liệu hoặc máy trạm. Điều này cho phép các nhà phát triển dễ dàng xây dựng các ứng dụng AI tạo dữ liệu cho trợ lý ảo, chatbot và nhiều hơn nữa, chỉ trong vài phút thay vì vài tuần. Huang gọi NIM là một loại phần mềm mới: một mô hình được đào tạo sẵn về cơ bản là AI-in-a-box. Bên trong container này là CUDA, TensorRT, Triton dành cho Dịch vụ Suy luận. Nó là bản địa đám mây để bạn có thể tự động mở rộng trong môi trường Kubernetes. Nó có chuỗi quản lý và móc để bạn có thể theo dõi AI của mình. Nó có API chung - API tiêu chuẩn - để bạn có thể trò chuyện trực tiếp với hộp này.

3. Hiệu quả tối ưu hóa cơ sở hạ tầng

NVIDIA cho biết NIM cũng giúp các doanh nghiệp tối đa hóa đầu tư vào cơ sở hạ tầng của họ. Ví dụ, chạy Meta Llama 3-8B - mô hình ngôn ngữ lớn hiện đại của Meta - trong NIM tạo ra nhiều token AI tạo dữ liệu gấp 3 lần trên cơ sở hạ tầng được tăng tốc so với không có NIM. Điều này cho phép các doanh nghiệp tăng cường hiệu quả và sử dụng cùng một lượng cơ sở hạ tầng máy tính để tạo ra nhiều phản hồi hơn. Các doanh nghiệp có thể triển khai các ứng dụng AI trong sản xuất với NIM thông qua nền tảng phần mềm NVIDIA AI Enterprise. Bắt đầu từ tháng sau, các thành viên của Chương trình Nhà phát triển NVIDIA có thể truy cập NIM miễn phí để nghiên cứu, phát triển và thử nghiệm trên cơ sở hạ tầng ưa thích của họ.

4. Ứng dụng trong lĩnh vực khoa học đời sống

Theo NVIDIA, hơn 40 mô hình NVIDIA và cộng đồng có sẵn để trải nghiệm dưới dạng điểm cuối NIM trên ai.nvidia.com, bao gồm Databricks DBRX, mô hình mở Gemma của Google, Meta Llama 3, Microsoft Phi-3, Mistral Large, Mixtral 8x22B và Snowflake Arctic. Các công ty công nghệ sinh học và dược phẩm, cùng với các nhà cung cấp nền tảng khoa học đời sống, sử dụng NVIDIA NIM cho việc tạo sinh học, hóa học và dự đoán phân tử. Với NIM Llama 3 dành cho trợ lý thông minh và NIM NVIDIA BioNeMo dành cho sinh học kỹ thuật số, các nhà nghiên cứu có thể xây dựng và mở rộng các quy trình làm việc trọn gói để khám phá thuốc và thử nghiệm lâm sàng.

Deloitte đang thúc đẩy hiệu quả cho việc thu thập thông tin dựa trên dữ liệu từ gen đến chức năng cho các trợ lý nghiên cứu, khai thác nghiên cứu khoa học, dự đoán thuộc tính hóa học và tái tạo thuốc với bộ tăng tốc khám phá thuốc Atlas AI của mình, được cung cấp bởi NVIDIA BioNeMo, NeMo và NIM Llama 3. Transcripta Bio tận dụng Llama 3 và BioNeMo để đẩy nhanh việc khám phá thuốc thông minh. Bộ mô hình trí tuệ nhân tạo độc quyền của nó, Conductor AI, sử dụng Atlas Dược phẩm - Gen của nó để giúp khám phá và dự đoán tác động của các loại thuốc mới ở quy mô bản ghi.

5. Hệ sinh thái đối tác

Các nhà cung cấp nền tảng bao gồm Canonical, Red Hat, Nutanix và VMware (được mua lại bởi Broadcom) đang hỗ trợ NIM trên KServe mã nguồn mở hoặc các giải pháp doanh nghiệp. Các công ty ứng dụng AI Hippocratic AI, Glean, Kinetica và Redis cũng đang triển khai NIM để cung cấp năng lượng cho việc suy luận AI tạo dữ liệu. Các công cụ AI hàng đầu và đối tác MLOps - bao gồm Amazon SageMaker, Microsoft Azure AI, Dataiku, DataRobot, deepset, Domino Data Lab, LangChain, Llama Index, Replicate, Run.ai, Saturn Cloud, Securiti AI và Weights & Biases - cũng đã nhúng NIM vào nền tảng của họ để cho phép các nhà phát triển xây dựng và triển khai các ứng dụng AI tạo dữ liệu cụ thể cho từng lĩnh vực với việc suy luận tối ưu hóa.

Các tích hợp hệ thống toàn cầu và đối tác cung cấp dịch vụ Accenture, Deloitte, Infosys, Latentview, Quantiphi, SoftServe, Tata Consultancy Services (TCS) và Wipro đã tạo ra các năng lực NIM để giúp các doanh nghiệp trên thế giới nhanh chóng phát triển và triển khai các chiến lược AI sản xuất.

6. Kết luận

NVIDIA NIM là một giải pháp đột phá giúp các doanh nghiệp dễ dàng kết hợp sức mạnh của AI tạo dữ liệu vào các ứng dụng của họ. Với khả năng mở rộng, hiệu quả và sự hỗ trợ từ một hệ sinh thái đối tác mạnh mẽ, NIM hứa hẹn sẽ cách mạng hóa cách thức các doanh nghiệp phát triển và triển khai các giải pháp AI.

NVIDIA Ra mắt Generative AI-in-a-Box