NVIDIA Ra Mắt Dịch vụ Vi mô NIM cho Trí tuệ Nhân tạo Thế hệ Mới tại Nhật Bản và Đài Loan

NVIDIA Ra Mắt Dịch vụ Vi mô NIM cho Trí tuệ Nhân tạo Thế hệ Mới tại Nhật Bản và Đài Loan

NVIDIA vừa công bố ra mắt 4 dịch vụ vi mô NVIDIA NIM mới, nhằm hỗ trợ các nhà phát triển xây dựng và triển khai ứng dụng trí tuệ nhân tạo thế hệ mới (Generative AI) hiệu quả hơn. Những dịch vụ này đặc biệt nhắm đến việc thúc đẩy AI chủ quyền (Sovereign AI), giúp các quốc gia phát triển các hệ thống AI dựa trên cơ sở hạ tầng, dữ liệu, nguồn nhân lực và mạng lưới kinh doanh riêng của mình, đảm bảo sự phù hợp với các giá trị, luật pháp và lợi ích địa phương.

Trong bối cảnh AI thế hệ mới đang bùng nổ, thị trường phần mềm AI thế hệ mới tại khu vực châu Á - Thái Bình Dương dự kiến ​​sẽ đạt mức doanh thu 48 tỷ USD vào năm 2030, tăng từ 5 tỷ USD hiện nay (theo ABI Research). NVIDIA nhận thấy nhu cầu cấp thiết về các mô hình ngôn ngữ lớn (LLM) được đào tạo trên dữ liệu địa phương để nâng cao hiệu quả của AI trong việc hiểu và phản hồi văn hóa và ngôn ngữ bản địa một cách chính xác hơn.

Bốn dịch vụ vi mô NIM mới được NVIDIA giới thiệu bao gồm:

• Llama-3-Swallow-70B: Đào tạo trên dữ liệu tiếng Nhật, giúp hiểu sâu hơn về luật pháp, quy định và phong tục địa phương.
• Llama-3-Taiwan-70B: Được đào tạo trên dữ liệu tiếng Mandarin, cung cấp khả năng hiểu biết về văn hóa và ngôn ngữ Đài Loan.
• RakutenAI 7B (Chat & Instruct): Được xây dựng dựa trên Mistral-7B và được đào tạo trên tập dữ liệu tiếng Anh và tiếng Nhật, đạt điểm số cao trong bảng xếp hạng LM Evaluation Harness benchmark cho các mô hình ngôn ngữ tiếng Nhật mở.

Các mô hình này mang đến hiệu suất vượt trội so với các LLM cơ bản như Llama 3 trong việc hiểu ngôn ngữ tiếng Nhật và tiếng Mandarin, xử lý các nhiệm vụ pháp lý khu vực, trả lời câu hỏi, dịch và tóm tắt ngôn ngữ.

NVIDIA NIM hỗ trợ các nhà phát triển dễ dàng triển khai các mô hình AI chủ quyền, được đóng gói dưới dạng dịch vụ vi mô, vào sản xuất với hiệu suất được tối ưu hóa. Dịch vụ vi mô này có sẵn với NVIDIA AI Enterprise và được tối ưu hóa cho quá trình suy luận với thư viện mã nguồn mở NVIDIA TensorRT-LLM.

Với NVIDIA NIM, các tổ chức có thể xây dựng các ứng dụng AI như trợ lý ảo, chatbot và các hệ thống AI hỗ trợ chuyên nghiệp, đáp ứng nhu cầu địa phương một cách hiệu quả. Ví dụ, Viện Công nghệ Tokyo đã sử dụng Llama-3-Swallow 70B để phát triển một mô hình chuyên ngành y tế, được đào tạo trên tập dữ liệu y tế tiếng Nhật độc quyền, đạt điểm số cao trong kỳ thi tuyển chọn bác sĩ quốc gia Nhật Bản.

Bên cạnh đó, NVIDIA AI Foundry cung cấp một giải pháp trọn gói để tạo ra các mô hình cơ bản tùy chỉnh, được đóng gói dưới dạng dịch vụ vi mô NIM. Nền tảng này kết hợp các mô hình cơ bản phổ biến, NVIDIA NeMo để tinh chỉnh mô hình và sức mạnh tính toán chuyên dụng trên NVIDIA DGX Cloud, giúp các nhà phát triển nhanh chóng xây dựng và triển khai các dịch vụ vi mô NIM ngôn ngữ khu vực tùy chỉnh của riêng mình.

Sự ra mắt của các dịch vụ vi mô NIM dành cho AI chủ quyền là một bước tiến quan trọng của NVIDIA trong việc thúc đẩy sự phát triển của AI tại Nhật Bản, Đài Loan và các quốc gia khác trên thế giới. Bằng cách cung cấp các công cụ và dịch vụ cần thiết để xây dựng và triển khai các ứng dụng AI hiệu quả, NVIDIA hỗ trợ các doanh nghiệp, cơ quan chính phủ và các trường đại học tạo ra các giải pháp AI phù hợp với văn hóa và ngôn ngữ địa phương, góp phần thúc đẩy sự phát triển kinh tế và xã hội.