Snowflake Hợp Tác Cùng Meta Tối Ưu Hóa Dòng Mô Hình Mới Trong Snowflake Cortex AI

Snowflake Hợp Tác Cùng Meta Tối Ưu Hóa Dòng Mô Hình Mới Trong Snowflake Cortex AI

Mục lục

1. Snowflake và Meta: Hợp tác mang tính đột phá
2. Llama 3.1 405B: Sức mạnh vượt trội
3. Tối ưu hóa cho hiệu suất tối đa
4. Cam kết với nguồn mở và cộng đồng
5. Lợi ích cho doanh nghiệp
6. Lời kết

Snowflake và Meta: Hợp tác mang tính đột phá

Snowflake đã công bố hợp tác với Meta để triển khai bộ sưu tập mô hình ngôn ngữ lớn (LLM) Llama 3.1 đa ngôn ngữ, mã nguồn mở trong Snowflake Cortex AI. Sự kết hợp này nhằm mục đích trao quyền cho các tổ chức khai thác và xây dựng các ứng dụng AI mạnh mẽ trên quy mô lớn.

Llama 3.1 405B: Sức mạnh vượt trội

Dẫn đầu trong bộ sưu tập này là Llama 3.1 405B, LLM mã nguồn mở lớn nhất của Meta. Snowflake đã phát triển và mã nguồn mở hệ thống suy luận cho phép suy luận thông lượng cao, thời gian thực, đồng thời tiếp tục dân chủ hóa các ứng dụng xử lý và tạo ngôn ngữ tự nhiên.

Tối ưu hóa cho hiệu suất tối đa

Nhóm nghiên cứu AI của Snowflake đã tối ưu hóa Llama 3.1 405B cho cả suy luận và tinh chỉnh. Nó hỗ trợ cửa sổ ngữ cảnh 128K, đồng thời cho phép suy luận thời gian thực với độ trễ đầu cuối thấp hơn tới ba lần và thông lượng cao hơn 1,4 lần so với các giải pháp mã nguồn mở hiện có. Điều này hứa hẹn sẽ cho phép tinh chỉnh mô hình chỉ bằng một nút GPU duy nhất - loại bỏ chi phí và sự phức tạp cho các nhà phát triển và người dùng trong Cortex AI.

Cam kết với nguồn mở và cộng đồng

Cùng với việc ra mắt Llama 3.1 405B, Nhóm nghiên cứu AI của Snowflake hiện đang mã nguồn mở Hệ thống tối ưu hóa tinh chỉnh và suy luận LLM của mình với sự hợp tác của DeepSpeed, Hugging Face, vLLM và cộng đồng AI rộng lớn hơn.

Lợi ích cho doanh nghiệp

Kevin Niparko, Phó chủ tịch chiến lược sản phẩm và công nghệ của Twilio Segment, nhấn mạnh tầm quan trọng của việc truy cập dữ liệu phù hợp để tạo thông điệp phù hợp cho đúng đối tượng vào đúng thời điểm. Snowflake Cortex AI trao quyền cho khách hàng tạo thông tin chi tiết thông minh do AI điều khiển và dễ dàng kích hoạt chúng trong các công cụ.

Matthew Scullion, Giám đốc điều hành và đồng sáng lập của Matillion, nhận xét rằng việc bổ sung Llama 3.1 mang đến cho nhóm của họ và người dùng nhiều lựa chọn hơn nữa để truy cập các mô hình ngôn ngữ lớn phù hợp nhất với các trường hợp sử dụng và luôn đi đầu trong đổi mới AI.

Lời kết

Sự hợp tác giữa Snowflake và Meta đánh dấu một bước tiến quan trọng trong việc làm cho AI trở nên dễ tiếp cận và mạnh mẽ hơn cho các doanh nghiệp. Với khả năng xử lý ngôn ngữ tự nhiên tiên tiến và cam kết với nguồn mở, Llama 3.1 trong Snowflake Cortex AI hứa hẹn sẽ cách mạng hóa cách các tổ chức khai thác dữ liệu và thúc đẩy đổi mới.