Groq Cung Cấp Mô Hình Llama 3.1 Cho Công Chúng, Tăng Tốc Khả Năng AI

Groq Cung Cấp Mô Hình Llama 3.1 Cho Công Chúng, Tăng Tốc Khả Năng AI

Mục lục:

1. Groq hợp tác với Meta để cung cấp mô hình Llama 3.1 cho cộng đồng.
2. Llama 3.1: Mở rộng tiềm năng của AI.
3. GroqCloud: Nền tảng AI nhanh chóng và hiệu quả.
4. Groq: Chuyên gia về công nghệ suy luận AI.

Groq hợp tác với Meta để cung cấp mô hình Llama 3.1 cho cộng đồng.

Groq, một công ty hàng đầu trong lĩnh vực suy luận AI nhanh chóng, đã công bố ra mắt các mô hình Llama 3.1 được hỗ trợ bởi công nghệ suy luận AI LPU của họ. Groq tự hào hợp tác với Meta trong việc ra mắt quan trọng này và chạy các mô hình Llama 3.1 mới nhất, bao gồm 405B Instruct, 70B Instruct và 8B Instruct, với tốc độ của Groq. Ba mô hình này có sẵn trên GroqCloud Dev Console, một cộng đồng hơn 300.000 nhà phát triển đang xây dựng trên hệ thống Groq, và trên GroqChat cho công chúng.

Jonathan Ross, Giám đốc điều hành và Người sáng lập của Groq, cho biết: Meta đang tạo ra hệ điều hành mở cho AI, tương đương với Linux - không chỉ cho Groq LPU cung cấp suy luận AI nhanh chóng mà còn cho toàn bộ hệ sinh thái. Trong công nghệ, mở luôn chiến thắng và với việc phát hành Llama 3.1 này, Meta đã bắt kịp các mô hình độc quyền tốt nhất. Với tốc độ này, chỉ là vấn đề thời gian trước khi chúng vượt qua các mô hình đóng kín. Với mỗi bản phát hành mới từ Meta, chúng tôi thấy sự gia tăng đáng kể các nhà phát triển tham gia nền tảng của mình. Trong năm tháng qua, chúng tôi đã phát triển từ chỉ một số ít nhà phát triển lên hơn 300.000 người, được thu hút bởi chất lượng và tính cởi mở của Llama, cũng như tốc độ đáng kinh ngạc của nó trên Groq LPU.

Llama 3.1: Mở rộng tiềm năng của AI.

Các mô hình Llama 3.1 là một bước tiến đáng kể về khả năng và chức năng. Là mô hình ngôn ngữ lớn có sẵn công khai lớn nhất và có khả năng nhất cho đến nay, Llama 3.1 405B sánh ngang với các mô hình nguồn đóng dẫn đầu ngành. Lần đầu tiên, các doanh nghiệp, công ty khởi nghiệp, nhà nghiên cứu và nhà phát triển có thể truy cập vào một mô hình có quy mô và khả năng này mà không có hạn chế độc quyền, tạo điều kiện cho sự hợp tác và đổi mới chưa từng có. Với Groq, các nhà đổi mới AI hiện có thể khai thác tiềm năng to lớn của Llama 3.1 405B chạy với tốc độ chưa từng có trên GroqCloud để xây dựng các ứng dụng phức tạp và mạnh mẽ hơn.

Với Llama 3.1, bao gồm các mô hình 405B, 70B và 8B Instruct, cộng đồng AI có quyền truy cập vào độ dài ngữ cảnh tăng lên tới 128K và hỗ trợ trên tám ngôn ngữ. Llama 3.1 405B là một đẳng cấp riêng biệt, với khả năng linh hoạt, kiểm soát và khả năng tiên tiến chưa từng có về kiến thức chung, khả năng điều khiển, toán học, sử dụng công cụ và dịch thuật đa ngôn ngữ. Llama 3.1 405B sẽ mở khóa các khả năng mới, chẳng hạn như tạo dữ liệu tổng hợp và chưng cất mô hình, cũng như cung cấp các công cụ bảo mật và an toàn mới để thúc đẩy cam kết chung của Meta và Groq trong việc xây dựng một hệ sinh thái AI mở và có trách nhiệm.

GroqCloud: Nền tảng AI nhanh chóng và hiệu quả.

Với tốc độ suy luận chưa từng có đối với các mô hình lớn có sẵn công khai như Llama 3.1 405B, các nhà phát triển có thể mở khóa các trường hợp sử dụng mới dựa vào quy trình làm việc của đại lý để cung cấp phản hồi liền mạch, cá nhân hóa và giống con người cho các trường hợp sử dụng như: phối hợp và chăm sóc bệnh nhân; định giá động bằng cách phân tích nhu cầu thị trường và điều chỉnh giá theo thời gian thực; bảo trì dự đoán sử dụng dữ liệu cảm biến thời gian thực; và dịch vụ khách hàng bằng cách trả lời các câu hỏi của khách hàng và giải quyết các vấn đề trong vài giây.

GroqCloud đã phát triển lên hơn 300.000 nhà phát triển trong năm tháng, nhấn mạnh tầm quan trọng của tốc độ khi nói đến việc xây dựng thế hệ ứng dụng AI tiếp theo với chi phí thấp hơn nhiều so với GPU.

Groq: Chuyên gia về công nghệ suy luận AI.

Groq xây dựng công nghệ suy luận AI nhanh chóng. Công nghệ suy luận AI Groq LPU là một nền tảng phần cứng và phần mềm cung cấp tốc độ tính toán AI, chất lượng và hiệu quả năng lượng vượt trội. Groq, có trụ sở tại Thung lũng Silicon, cung cấp các giải pháp đám mây và tại chỗ ở quy mô cho các ứng dụng AI. LPU và các hệ thống liên quan được thiết kế, sản xuất và lắp ráp ở Bắc Mỹ. Thử tốc độ Groq tại www.groq.com.

`