Oracle Cloud Infrastructure Generative AI: Những tính năng mới nhất

Oracle Cloud Infrastructure Generative AI: Những tính năng mới nhất

Mục lục:

1. Mô hình Cohere Command R và R+
2. Mô hình Meta Llama 3 và khả năng tinh chỉnh
3. Giao diện Chat API và Playground
4. Kết luận

1. Mô hình Cohere Command R và R+

Oracle Cloud Infrastructure (OCI) Generative AI hiện đã cung cấp hai mô hình ngôn ngữ lớn mới: Cohere Command R và Cohere Command R+. Cả hai mô hình đều được thiết kế để nâng cao hiệu quả và độ chính xác, cho phép các công ty chuyển đổi từ giai đoạn thử nghiệm sang sản xuất.

Cohere Command R là một mô hình hiệu quả và chính xác, lý tưởng cho các ứng dụng RAG (Retrieval-Augmented Generation) và các trường hợp sử dụng doanh nghiệp. Nó có những lợi thế sau:

• Độ trễ thấp hơn và thông lượng cao hơn
• Cửa sổ ngữ cảnh dài hơn (16k)
• Khả năng cải thiện trên 10 ngôn ngữ chính

Cohere Command R+ là một phiên bản nâng cao của Command R, có cửa sổ ngữ cảnh dài hơn (128k) và cung cấp khả năng hiểu ngôn ngữ sâu sắc hơn. Nó phù hợp với các trường hợp sử dụng phức tạp và chuyên biệt, bao gồm tạo nội dung dài, tóm tắt, trả lời câu hỏi và tạo ngôn ngữ cho các lĩnh vực cụ thể.

2. Mô hình Meta Llama 3 và khả năng tinh chỉnh

OCI Generative AI cũng hỗ trợ mô hình Meta Llama 3 với 70 tỷ tham số. Mô hình này mang đến những cải tiến đáng kể về khả năng suy luận, tạo mã và hướng dẫn so với Llama 2.

Bạn có thể tinh chỉnh các mô hình Llama 3 với dữ liệu đào tạo của riêng mình, tận dụng phương pháp tinh chỉnh Low-Rank Adaptation (LoRA). Phương pháp này giúp tinh chỉnh hiệu quả các mô hình lớn bằng cách thêm các ma trận nhỏ vào mô hình mà không cần cập nhật tất cả các tham số ban đầu.

3. Giao diện Chat API và Playground

OCI Generative AI giới thiệu trải nghiệm trò chuyện mới, cho phép tích hợp liền mạch với Cohere Command R, Cohere Command R+ và Meta Llama 3. API trò chuyện cung cấp các chức năng phù hợp với những gì các đối tác mô hình cung cấp, bao gồm Tool Use khi làm việc với Cohere Command R và R+.

Chức năng Tool Use cho phép tạo các payload API (JSON với các tham số cụ thể) dựa trên tương tác của người dùng và lịch sử trò chuyện. Những payload này có thể được sử dụng để hướng dẫn các ứng dụng hoặc công cụ khác. Ví dụ: bạn có thể hướng dẫn một ứng dụng tự động phân loại và định tuyến vé hỗ trợ đến cá nhân phù hợp.

4. Kết luận

Lĩnh vực công nghệ tạo sinh đang phát triển nhanh chóng. Oracle cam kết cung cấp các tính năng mới nhất để đảm bảo khách hàng có được các khả năng tiên tiến.

Với API trò chuyện của OCI Generative AI, bạn có thể dễ dàng tạo trải nghiệm tương tự chatbot với các mô hình AI như Command R, R+ và Llama 3 mới. Khả năng tinh chỉnh mô hình Llama 3 cũng cho phép bạn tùy chỉnh mô hình để giải quyết các thách thức kinh doanh của mình.