NVIDIA AI Foundry Mở Ra Kỷ Nguyên Mới Cho Mô Hình AI Thế Hệ Tiếp Theo

NVIDIA AI Foundry Mở Ra Kỷ Nguyên Mới Cho Mô Hình AI Thế Hệ Tiếp Theo

Mục lục:

1. NVIDIA AI Foundry: Công cụ Tạo Mô Hình AI Tùy Chỉnh
2. Llama 3.1: Bước Tiến Mới Cho AI Mở Nguồn
3. NVIDIA NIM Microservices: Nâng Tốc Triển Khai AI
4. Accenture Tiên Phong Sử Dụng NVIDIA AI Foundry
5. NVIDIA Nemotron: Tăng Cường Khả Năng Tùy Chỉnh Mô Hình
6. Doanh Nghiệp Hàng Đầu Nâng Cấp AI với NVIDIA và Llama
7. NeMo Retriever RAG Microservices: Nâng Cao Độ Chính Xác
8. Hệ Sinh Thái Doanh Nghiệp Chuẩn Bị Cho Triển Khai Llama 3.1 và NeMo Retriever NIM

1. NVIDIA AI Foundry: Công cụ Tạo Mô Hình AI Tùy Chỉnh

NVIDIA vừa công bố dịch vụ NVIDIA AI Foundry và NVIDIA NIM™ inference microservices, nhằm tăng cường sức mạnh cho AI thế hệ tiếp theo cho các doanh nghiệp toàn cầu với bộ sưu tập mô hình Llama 3.1 công khai, cũng được giới thiệu cùng ngày. Với NVIDIA AI Foundry, các doanh nghiệp và quốc gia giờ đây có thể tạo ra các siêu mô hình tùy chỉnh cho các trường hợp sử dụng ngành cụ thể bằng cách sử dụng Llama 3.1 và phần mềm, tính toán và chuyên môn của NVIDIA. Các doanh nghiệp có thể huấn luyện các siêu mô hình này với dữ liệu độc quyền cũng như dữ liệu tổng hợp được tạo ra từ Llama 3.1 405B và mô hình NVIDIA Nemotron™ Reward.

NVIDIA AI Foundry được cung cấp bởi nền tảng AI NVIDIA DGX™ Cloud, được đồng phát triển với các đám mây công cộng hàng đầu thế giới, để mang đến cho các doanh nghiệp nguồn lực tính toán đáng kể có thể dễ dàng mở rộng khi nhu cầu AI thay đổi.

2. Llama 3.1: Bước Tiến Mới Cho AI Mở Nguồn

Các dịch vụ mới được tung ra vào thời điểm các doanh nghiệp, cũng như các quốc gia đang phát triển các chiến lược AI chủ quyền, muốn xây dựng các mô hình ngôn ngữ lớn tùy chỉnh với kiến thức cụ thể cho các ứng dụng AI thế hệ tiếp theo phản ánh doanh nghiệp hoặc văn hóa độc đáo của họ.

Các mô hình Llama 3.1 công khai của Meta đánh dấu một thời khắc quan trọng cho việc áp dụng AI thế hệ tiếp theo trong các doanh nghiệp trên toàn cầu, Jensen Huang, nhà sáng lập và Giám đốc điều hành của NVIDIA cho biết. Llama 3.1 mở ra cánh cửa cho mọi doanh nghiệp và ngành nghề để xây dựng các ứng dụng AI thế hệ tiếp theo tiên tiến. NVIDIA AI Foundry đã tích hợp Llama 3.1 xuyên suốt và sẵn sàng giúp các doanh nghiệp xây dựng và triển khai các siêu mô hình Llama tùy chỉnh.

Các mô hình Llama 3.1 mới là một bước tiến rất quan trọng cho AI mã nguồn mở, Mark Zuckerberg, nhà sáng lập và Giám đốc điều hành của Meta cho biết. Với NVIDIA AI Foundry, các công ty có thể dễ dàng tạo và tùy chỉnh các dịch vụ AI tiên tiến mà mọi người mong muốn và triển khai chúng với NVIDIA NIM. Tôi rất vui mừng khi đưa điều này vào tay mọi người.

3. NVIDIA NIM Microservices: Nâng Tốc Triển Khai AI

Để tăng cường sức mạnh cho việc triển khai các mô hình Llama 3.1 của doanh nghiệp cho AI sản xuất, các dịch vụ vi mô suy luận NVIDIA NIM cho các mô hình Llama 3.1 giờ đây đã có sẵn để tải xuống từ ai.nvidia.com. NIM microservices là cách nhanh nhất để triển khai các mô hình Llama 3.1 trong sản xuất và tăng cường hiệu suất lên đến 2,5 lần so với chạy suy luận mà không có NIM.

Các doanh nghiệp có thể kết hợp các dịch vụ vi mô NIM của Llama 3.1 với các dịch vụ vi mô NVIDIA NeMo Retriever NIM mới để tạo ra các đường ống thu hồi tiên tiến cho các trợ lý AI, trợ lý và hóa thân kỹ thuật số của con người.

4. Accenture Tiên Phong Sử Dụng NVIDIA AI Foundry

Công ty dịch vụ chuyên nghiệp toàn cầu Accenture là công ty đầu tiên áp dụng NVIDIA AI Foundry để xây dựng các mô hình Llama 3.1 tùy chỉnh bằng cách sử dụng khung Accenture AI Refinery™, cả cho mục đích riêng của họ cũng như cho các khách hàng muốn triển khai các ứng dụng AI thế hệ tiếp theo phản ánh văn hóa, ngôn ngữ và ngành của họ.

Các doanh nghiệp hàng đầu thế giới nhận thấy AI thế hệ tiếp theo đang chuyển đổi mọi ngành nghề và rất muốn triển khai các ứng dụng được hỗ trợ bởi các mô hình tùy chỉnh, Julie Sweet, Chủ tịch và Giám đốc điều hành của Accenture cho biết. Accenture đã hợp tác với các dịch vụ vi mô suy luận NVIDIA NIM cho các ứng dụng AI nội bộ của chúng tôi, và giờ đây, bằng cách sử dụng NVIDIA AI Foundry, chúng tôi có thể giúp khách hàng nhanh chóng tạo và triển khai các mô hình Llama 3.1 tùy chỉnh để cung cấp năng lượng cho các ứng dụng AI mang tính chuyển đổi cho ưu tiên kinh doanh của riêng họ.

5. NVIDIA Nemotron: Tăng Cường Khả Năng Tùy Chỉnh Mô Hình

NVIDIA AI Foundry cung cấp một dịch vụ trọn gói để nhanh chóng xây dựng các siêu mô hình tùy chỉnh. Nó kết hợp phần mềm, cơ sở hạ tầng và chuyên môn của NVIDIA với các mô hình cộng đồng mở, công nghệ và hỗ trợ từ hệ sinh thái AI của NVIDIA.

Với NVIDIA AI Foundry, các doanh nghiệp có thể tạo các mô hình tùy chỉnh bằng cách sử dụng các mô hình Llama 3.1 và nền tảng NVIDIA NeMo - bao gồm mô hình NVIDIA Nemotron-4 340B Reward, được xếp hạng đầu tiên trên Hugging Face RewardBench.

Sau khi các mô hình tùy chỉnh được tạo, các doanh nghiệp có thể tạo các dịch vụ vi mô suy luận NVIDIA NIM để chạy chúng trong sản xuất bằng cách sử dụng các nền tảng MLOps và AIOps ưa thích của họ trên các nền tảng đám mây ưa thích và NVIDIA-Certified Systems™ từ các nhà sản xuất máy chủ toàn cầu.

Các chuyên gia của NVIDIA AI Enterprise và các đối tác tích hợp hệ thống toàn cầu làm việc với khách hàng của AI Foundry để đẩy nhanh toàn bộ quy trình, từ phát triển đến triển khai.

6. Doanh Nghiệp Hàng Đầu Nâng Cấp AI với NVIDIA và Llama

Các doanh nghiệp trong ngành chăm sóc sức khỏe, năng lượng, dịch vụ tài chính, bán lẻ, vận tải và viễn thông hiện đã hợp tác với các dịch vụ vi mô NVIDIA NIM cho Llama. Aramco, AT&T và Uber là những công ty đầu tiên được truy cập các dịch vụ vi mô NIM mới cho Llama 3.1.

Được đào tạo trên hơn 16.000 GPU NVIDIA H100 Tensor Core và được tối ưu hóa cho tính toán và phần mềm tăng tốc của NVIDIA - trong trung tâm dữ liệu, trên đám mây và cục bộ trên các máy trạm với GPU NVIDIA RTX™ hoặc PC với GPU GeForce RTX - bộ sưu tập LLM đa ngôn ngữ Llama 3.1 là một bộ sưu tập các mô hình AI thế hệ tiếp theo với kích thước 8B-, 70B- và 405B tham số.

7. NeMo Retriever RAG Microservices: Nâng Cao Độ Chính Xác

Bằng cách sử dụng các dịch vụ vi mô suy luận NVIDIA NeMo Retriever NIM mới cho việc tạo ra được hỗ trợ thu hồi (RAG), các tổ chức có thể nâng cao độ chính xác của phản hồi khi triển khai các siêu mô hình Llama được tùy chỉnh và các dịch vụ vi mô NIM của Llama trong sản xuất.

Kết hợp với các dịch vụ vi mô suy luận NVIDIA NIM cho Llama 3.1 405B, các dịch vụ vi mô NeMo Retriever NIM mang lại độ chính xác thu hồi câu hỏi và câu trả lời văn bản mở và thương mại cao nhất cho các đường ống RAG.

8. Hệ Sinh Thái Doanh Nghiệp Chuẩn Bị Cho Triển Khai Llama 3.1 và NeMo Retriever NIM

Hàng trăm đối tác NVIDIA NIM cung cấp các nền tảng doanh nghiệp, dữ liệu và cơ sở hạ tầng giờ đây có thể tích hợp các dịch vụ vi mô mới vào các giải pháp AI của họ để tăng cường sức mạnh cho AI thế hệ tiếp theo cho cộng đồng NVIDIA gồm hơn 5 triệu nhà phát triển và 19.000 công ty khởi nghiệp.

Hỗ trợ sản xuất cho các dịch vụ vi mô NIM của Llama 3.1 và NeMo Retriever NIM có sẵn thông qua NVIDIA AI Enterprise. Các thành viên của Chương trình Nhà phát triển NVIDIA sẽ sớm có thể truy cập các dịch vụ vi mô NIM miễn phí cho mục đích nghiên cứu, phát triển và thử nghiệm trên cơ sở hạ tầng ưa thích của họ.

`