Meta và Groq hợp tác thúc đẩy hệ sinh thái phát triển phần mềm nguồn mở với sự ra mắt của Llama 3.2
Groq dẫn đầu về khả năng suy luận AI tốc độ cao
Tin tức mới đây cho thấy sự hợp tác chặt chẽ giữa Meta và Groq đang tiếp tục tạo nên bước tiến đáng kể cho hệ sinh thái phát triển phần mềm nguồn mở trong lĩnh vực trí tuệ nhân tạo. Sự kiện trọng tâm là việc Meta ra mắt Llama 3.2, một bước tiến vượt bậc được hỗ trợ bởi công nghệ suy luận AI tốc độ cao của Groq.
Từ khi ra mắt phiên bản Llama đầu tiên vào tháng 2 năm 2023, Groq đã thiết lập tiêu chuẩn mới cho khả năng suy luận AI tốc độ cao đối với các mô hình nguồn mở. Công nghệ LPU™ (Low Power Unit) của Groq đã mang lại hiệu suất xử lý hàng đầu. Hợp tác với Meta, Groq tiếp tục duy trì vị thế dẫn đầu này bằng việc hỗ trợ Meta phát triển và phổ biến các mô hình và phương thức mới cho cộng đồng nguồn mở.
Llama 3.2, được Meta công bố gần đây, bao gồm các mô hình ngôn ngữ lớn (LLM) tầm nhìn nhỏ và trung bình (11B và 90B tham số), cùng với các mô hình chỉ xử lý văn bản (1B và 3B tham số). Điều này đánh dấu một bước tiến quan trọng trong việc đa dạng hóa các khả năng của Llama.
Ahmad Al-Dahle, Trưởng bộ phận GenAI tại Meta, chia sẻ: “Tại Meta, chúng tôi cam kết cung cấp cho các nhà phát triển và doanh nghiệp những mô hình AI tiên tiến nhất, sẵn có công khai, để mở ra những đột phá sáng tạo mới. Sự hợp tác với Groq là vô cùng quan trọng đối với sứ mệnh này, vì công nghệ suy luận tốc độ cao của họ cho phép triển khai các mô hình này một cách liền mạch, mang lại tốc độ, sự nhanh nhẹn và khả năng mở rộng cần thiết cho việc xây dựng thế hệ ứng dụng AI thế hệ tiếp theo.”
Đây là lần thứ hai Groq và Meta hợp tác trong một sự kiện ra mắt LLM quan trọng, thể hiện cam kết chung của cả hai bên trong việc xây dựng một hệ sinh thái AI nguồn mở, hiệu quả về chi phí, có thể tùy chỉnh và tiên tiến. Sự hợp tác này đảm bảo các nhà phát triển luôn ở tuyến đầu của đổi mới và tạo điều kiện cho mọi người đạt được những đột phá sáng tạo, hữu ích và thay đổi cuộc sống bằng AI thế hệ mới.
Groq hiện đang cung cấp bản xem trước của một số mô hình trong bộ Llama 3.2, với các mô hình khác sẽ sớm được phát hành trên GroqCloud™ Dev Console. Llama 3.2, cùng với các mô hình khác mà Groq đang tối ưu hóa hiệu năng suy luận, hỗ trợ đa dạng phương thức, bao gồm văn bản, âm thanh (Whisper) và hình ảnh (Llava). Llama 3.2 mở rộng khả năng xử lý hình ảnh và được tích hợp đầy đủ vào các mô hình tầm nhìn Llama 11B và 90B.
Hai mô hình lớn nhất trong bộ Llama 3.2 (11B và 90B) hỗ trợ các trường hợp sử dụng suy luận hình ảnh, trong khi các mô hình nhẹ hơn (1B và 3B) chỉ xử lý văn bản. Hiện tại, các nhà phát triển có thể truy cập llama-3.2-1b-preview, llama-3.2-3b-preview, llama-3.2-11b-text-preview và llama-3.2-90b-text-preview trên Groq.
Với bản phát hành này, Meta cũng công bố bản phân phối chính thức đầu tiên của Llama Stack. Llama Stack minh chứng cho việc Meta luôn đặt nhà phát triển lên hàng đầu khi xây dựng hệ sinh thái nguồn mở, và cho phép các nhà cung cấp như Groq cung cấp thêm tài nguyên và phối hợp chặt chẽ với cộng đồng.
Sunny Madra, Giám đốc GroqCloud, cho biết: “Với gần nửa triệu nhà phát triển đã sử dụng GroqCloud trong năm nay, chúng tôi nhận thấy nhu cầu lớn của các nhà phát triển đối với một hệ sinh thái nguồn mở. Chúng tôi rất vui mừng khi một công ty hàng đầu trong ngành công nghiệp lớn và đáng tin cậy như Meta tạo cơ hội hợp tác với các công ty khởi nghiệp như Groq để xây dựng nền tảng cho hệ sinh thái đó, phục vụ cả nhà phát triển và doanh nghiệp.”
Trong năm nay, Llama đã đạt được mức tăng trưởng 10 lần, và tiếp tục là một trong những LLM nguồn mở hàng đầu trong ngành. Kết hợp với tốc độ suy luận nhanh chóng của Groq, tốc độ tạo ra các ứng dụng AI giờ đây đang thực sự thúc đẩy tốc độ đổi mới.
Đối với các nhà phát triển, chỉ cần ba bước đơn giản để bắt đầu với Groq: Thay thế khóa API tiêu chuẩn hiện tại bằng khóa API Groq miễn phí, đặt URL cơ sở và chạy. Truy cập GroqCloud Dev Console và bắt đầu xây dựng ngay hôm nay!
0 comments Blogger 0 Facebook
Đăng nhận xét