Together.ai: Cách mạng hóa tìm kiếm doanh nghiệp với API Rerank và Salesforce LlamaRank

Together.ai: Cách mạng hóa tìm kiếm doanh nghiệp với API Rerank và Salesforce LlamaRank

Together.ai vừa công bố ra mắt API Together Rerank không cần server và quyền truy cập độc quyền vào mô hình LlamaRank của Salesforce, nâng cao khả năng tìm kiếm doanh nghiệp và hệ thống Tạo Nội dung được hỗ trợ bởi Truy vấn (RAG).

Cách mạng hóa tìm kiếm doanh nghiệp

API Together Rerank mới là một điểm cuối không cần server được thiết kế để tích hợp liền mạch với các ứng dụng doanh nghiệp. API này đơn giản hóa quy trình cho các nhà phát triển, cho phép kết hợp các mô hình reranker được hỗ trợ với mã tối thiểu. Các tính năng chính của API bao gồm:

• Hỗ trợ hàng đầu cho mô hình LlamaRank của Salesforce
• Hỗ trợ dữ liệu JSON và bảng
• Bối cảnh dài 8K cho mỗi tài liệu
• Độ trễ thấp cho các truy vấn tìm kiếm nhanh
• Khả năng tương thích với API Rerank của Cohere

Truy cập độc quyền vào LlamaRank

LlamaRank, được phát triển bởi Salesforce AI Research, đã thể hiện hiệu suất vượt trội so với các mô hình rerank hàng đầu khác như Cohere Rerank v3 và Mistral-7B. Mô hình này nâng cao khả năng xếp hạng tài liệu, do đó cải thiện độ chính xác và hiệu quả của việc truy xuất thông tin trong cả hệ thống RAG và tìm kiếm truyền thống. LlamaRank hỗ trợ các tài liệu có độ dài lên tới 8.000 token và đặc biệt hiệu quả đối với dữ liệu bán cấu trúc như JSON, email, bảng và mã.

Mô hình Reranker là gì?

Reranker là một mô hình chuyên biệt giúp cải thiện tính liên quan của tìm kiếm bằng cách đánh giá lại và sắp xếp lại một tập hợp tài liệu dựa trên tính liên quan của chúng với một truy vấn nhất định. Ví dụ, trong kịch bản hỗ trợ kỹ thuật, một truy vấn của người dùng về việc đặt lại mật khẩu sẽ dẫn đến reranker ưu tiên các tài liệu liên quan nhất, do đó nâng cao kết quả tìm kiếm.

Cách reranking cải thiện tìm kiếm và RAG

Reranking là một thành phần quan trọng trong các hệ thống tìm kiếm và RAG hiện đại, đóng vai trò như một bộ lọc chất lượng đánh giá lại các tài liệu được truy xuất ban đầu. Bước này nâng cao chất lượng thông tin được cung cấp cho các mô hình ngôn ngữ, giảm khả năng xảy ra kết quả không chính xác hoặc không liên quan. Các reranker đặc biệt có giá trị trong các thiết lập doanh nghiệp, nơi khối lượng dữ liệu lớn ở nhiều định dạng yêu cầu việc truy xuất chính xác và chính xác cho việc ra quyết định.

Salesforce LlamaRank: Mô hình Reranker doanh nghiệp chính xác hơn

Mô hình LlamaRank của Salesforce là một phiên bản được tinh chỉnh của Llama3-8B-Instruct, được đào tạo bằng cả dữ liệu tổng hợp và dữ liệu được dán nhãn bằng con người từ các nhà phân tích dữ liệu nội bộ của Salesforce. Mô hình này xuất sắc trong việc xếp hạng cả tài liệu chung và mã, khiến nó rất hữu ích cho nhiều ứng dụng doanh nghiệp. Salesforce đã đánh giá LlamaRank trên các bộ dữ liệu công khai như SQuAD, TriviaQA, Neural Code Search và TrailheadQA, nơi nó thể hiện hiệu suất vượt trội.

API Together Rerank

API Together Rerank được thiết kế để cung cấp trải nghiệm nhà phát triển liền mạch cho việc xây dựng các ứng dụng RAG. Nó cho phép các nhà phát triển dễ dàng tích hợp các mô hình reranker được hỗ trợ vào các ứng dụng doanh nghiệp của họ. API nhận một truy vấn và một tập hợp tài liệu, trả về điểm số liên quan và chỉ mục sắp xếp cho mỗi tài liệu. Nó cũng có thể lọc các phản hồi để chỉ hiển thị các tài liệu liên quan nhất.

Cách bắt đầu

Để bắt đầu, các nhà phát triển có thể tạo khóa API với Together AI và làm theo các bước trong tài liệu khởi động nhanh để thử mô hình LlamaRank của Salesforce. Đối với việc triển khai quy mô sản xuất, các doanh nghiệp được khuyến khích liên hệ với nhóm bán hàng của Together.ai.

Kết luận

API Together Rerank và quyền truy cập độc quyền vào LlamaRank đánh dấu một bước tiến đáng kể trong lĩnh vực tìm kiếm doanh nghiệp và RAG. Với khả năng reranking nâng cao, các doanh nghiệp giờ đây có thể truy xuất thông tin chính xác và hiệu quả hơn, dẫn đến ra quyết định nhanh chóng và sáng suốt hơn.