Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất

Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất

Mục lục:

1. Mô hình Cohere Command R và R+ mới
2. Mô hình Meta Llama 3 mới với khả năng tinh chỉnh
3. API và Playground Chat của OCI Generative AI
4. Kết luận

1. Mô hình Cohere Command R và R+ mới:

Oracle Cloud Infrastructure (OCI) Generative AI hiện cung cấp hai mô hình mới: Cohere Command R và Cohere Command R+. Cả hai mô hình đều có sẵn cho việc lưu trữ theo yêu cầu và dành riêng.

Theo Cohere, Command R hướng đến loại mô hình có khả năng mở rộng, cân bằng hiệu quả cao với độ chính xác mạnh mẽ, cho phép các công ty vượt qua giai đoạn thử nghiệm và đưa vào sản xuất. Nó được thiết kế cho các ứng dụng RAG và trường hợp sử dụng doanh nghiệp.

Mô hình Cohere Command R có những lợi thế sau so với mô hình Cohere ban đầu trên dịch vụ Generative AI:

• Độ trễ thấp hơn và thông lượng cao hơn
• Cửa sổ ngữ cảnh dài hơn 16k
• Khả năng nâng cao trên 10 ngôn ngữ chính

Cửa sổ ngữ cảnh là phạm vi văn bản mà LLM có thể xử lý khi tạo thông tin. Việc tăng cửa sổ ngữ cảnh cho phép một loạt trường hợp sử dụng rộng hơn và độ chính xác ngữ cảnh được cải thiện. Nâng cấp này, cùng với các ngôn ngữ chính được hỗ trợ - tiếng Anh, tiếng Pháp, tiếng Tây Ban Nha, tiếng Ý, tiếng Đức, tiếng Bồ Đào Nha Brazil, tiếng Nhật, tiếng Hàn, tiếng Trung giản thể và tiếng Ả Rập - làm cho các mô hình của Cohere trở nên tập trung vào doanh nghiệp hơn bao giờ hết.

Bạn có thể sử dụng mô hình Command R cho các cuộc trò chuyện đa năng và nhiều ứng dụng khác nhau, chẳng hạn như dịch vụ khách hàng, tạo nội dung và dịch thuật ngôn ngữ. Tinh chỉnh cho Command R sẽ có sẵn trong bản phát hành sắp tới của OCI Generative AI.

OCI Generative AI hiện cũng hỗ trợ mô hình Cohere Command R+. Giống như Command R, Command R+ có cửa sổ ngữ cảnh dài hơn 128k và hỗ trợ cùng 10 ngôn ngữ chính. Command R+ là một phiên bản nâng cao của mô hình, với khả năng hiểu ngôn ngữ sâu sắc hơn và khả năng tạo phản hồi tinh tế và phù hợp với ngữ cảnh hơn. Command R+ được thiết kế cho các trường hợp sử dụng phức tạp và chuyên biệt hơn đòi hỏi sự hiểu biết sâu sắc về ngôn ngữ, chẳng hạn như tạo nội dung dài, tóm tắt, trả lời câu hỏi và tạo ngôn ngữ cho các lĩnh vực hoặc ngành cụ thể. Nó phù hợp nhất cho các quy trình công việc RAG phức tạp và sử dụng công cụ nhiều bước.

2. Mô hình Meta Llama 3 mới với khả năng tinh chỉnh:

Dịch vụ OCI Generative AI hiện cũng hỗ trợ mô hình Meta Llama 3 có 70 tỷ tham số trong bản phát hành chung. Mô hình này cung cấp khả năng nâng cao về lập luận, tạo mã và hướng dẫn so với Llama 2.

Ngoài các mô hình Cohere Command, giờ đây bạn có thể tinh chỉnh các mô hình Llama 3 bằng dữ liệu đào tạo của riêng mình. Mô hình Llama 3 được đào tạo trước hỗ trợ phương pháp tinh chỉnh Low-Rank Adaptation (LoRA), giúp việc tinh chỉnh các mô hình lớn hiệu quả hơn. Khi tinh chỉnh mô hình bằng phương pháp LoRA, bạn không cần cập nhật tất cả các tham số gốc của mô hình. Thay vào đó, LoRA thêm các ma trận nhỏ hơn vào mô hình để biến đổi đầu vào và đầu ra. Chỉ những ma trận nhỏ hơn này được cập nhật trong quá trình tinh chỉnh, giúp cải thiện độ chính xác đồng thời sử dụng ít bộ nhớ hơn. Các tham số mô hình gốc vẫn bị đóng băng và bạn có thể hợp nhất các ma trận nhỏ, được điều chỉnh lại vào mô hình gốc hoặc giữ chúng riêng biệt nếu bạn muốn tinh chỉnh cho các trường hợp sử dụng khác mà không quên các tác vụ trước đó.

3. API và Playground Chat của OCI Generative AI:

OCI Generative AI cũng giới thiệu một trải nghiệm trò chuyện mới, cho phép tích hợp liền mạch vào Cohere Command R, Cohere Command R+ và các mô hình Meta Llama 3 có 70 tỷ tham số. Chúng tôi đã thêm các khả năng trò chuyện vào API OCI Generative AI phù hợp với những gì các đối tác mô hình của chúng tôi cung cấp ngay lập tức, bao gồm cả Tool Use khi làm việc với các mô hình Cohere Command R và R+. Với Tool Use, giờ đây bạn có thể tạo các tải trọng API (JSON với các tham số cụ thể) dựa trên tương tác của người dùng và lịch sử trò chuyện. Bạn có thể sử dụng các tải trọng này để hướng dẫn các ứng dụng hoặc công cụ khác. Ví dụ: bạn có thể hướng dẫn một ứng dụng tự động phân loại và chuyển hướng các vé hỗ trợ đến cá nhân phù hợp.

4. Kết luận:

Cảnh quan tạo ra đang thay đổi nhanh chóng. Chúng tôi cam kết cung cấp các tính năng mới nhất để đảm bảo khách hàng của chúng tôi có được các khả năng mới nhất. Giờ đây, bạn có thể sử dụng API trò chuyện OCI Generative AI để dễ dàng tạo trải nghiệm tương tự như chatbot với các mô hình AI như Command R, R+ và Llama 3 mới. Bạn cũng có thể tinh chỉnh các mô hình Llama 3 bằng dữ liệu đào tạo của mình, cho phép tùy chỉnh mô hình tốt hơn để giải quyết các thách thức kinh doanh của mình.

Để bắt đầu ngay hôm nay với các mô hình mới này trong một trải nghiệm Chat Playground, hãy xem Chat trong OCI Generative AI!

Để biết thêm thông tin, hãy xem các tài nguyên sau:

• Truy cập tài liệu dịch vụ OCI Generative AI.
• Đọc qua mô tả về API dịch vụ OCI Generative AI.
• Đọc về các tính năng chính trên tour sản phẩm OCI Generative AI.
• Kiểm tra bài đăng trên blog First Principles về việc khám phá chiều sâu của OCI Generative AI.