Gemma 2: Mở Rộng Khả Năng AI cho Nghiên Cứu và Phát Triển

Gemma 2: Mở Rộng Khả Năng AI cho Nghiên Cứu và Phát Triển

Mục lục:

1. Giới thiệu Gemma 2
2. Tiêu Chuẩn Mẫu Mở Mới cho Hiệu Quả và Hiệu Suất
3. Được Xây Dựng cho Nhà Phát Triển và Nhà Nghiên Cứu
4. Phát Triển AI Trách Nhiệm
5. Các Dự Án Được Xây Dựng Bằng Gemma
6. Bắt Đầu Sử Dụng

1. Giới thiệu Gemma 2

Gemma 2, phiên bản nâng cấp của dòng mô hình mở Gemma, đã chính thức ra mắt toàn cầu, mang đến cho các nhà nghiên cứu và nhà phát triển những khả năng mới đầy tiềm năng. Có sẵn trong hai kích cỡ 9 tỷ (9B) và 27 tỷ (27B) tham số, Gemma 2 hoạt động hiệu quả hơn và nhanh hơn so với thế hệ trước, đồng thời tích hợp các tính năng bảo mật nâng cao.

2. Tiêu Chuẩn Mẫu Mở Mới cho Hiệu Quả và Hiệu Suất

Gemma 2 được xây dựng trên nền tảng kiến trúc được thiết kế lại, tối ưu cho cả hiệu suất và hiệu quả suy luận.

• Hiệu suất vượt trội: Phiên bản 27B đạt hiệu suất hàng đầu trong phân khúc, thậm chí còn cạnh tranh với những mô hình lớn hơn gấp đôi kích thước. Phiên bản 9B cũng thể hiện hiệu suất dẫn đầu, vượt trội so với Llama 3 8B và các mô hình mở khác trong cùng phân khúc.
• Hiệu quả và tiết kiệm chi phí chưa từng có: Phiên bản 27B được thiết kế để chạy suy luận hiệu quả với độ chính xác đầy đủ trên một máy chủ Google Cloud TPU, NVIDIA A100 80GB Tensor Core GPU hoặc NVIDIA H100 Tensor Core GPU, giảm đáng kể chi phí mà vẫn giữ hiệu suất cao.
• Suy luận cực nhanh trên nhiều phần cứng: Gemma 2 được tối ưu hóa để chạy nhanh chóng trên nhiều loại phần cứng, từ máy tính xách tay chơi game mạnh mẽ và máy tính để bàn cao cấp đến các thiết lập dựa trên đám mây.

3. Được Xây Dựng cho Nhà Phát Triển và Nhà Nghiên Cứu

Gemma 2 không chỉ mạnh mẽ hơn mà còn được thiết kế để dễ dàng tích hợp vào quy trình làm việc của bạn:

• Mở và dễ truy cập: Giống như các mô hình Gemma ban đầu, Gemma 2 có sẵn theo giấy phép Gemma thân thiện với thương mại, cho phép nhà phát triển và nhà nghiên cứu chia sẻ và thương mại hóa những sáng tạo của họ.
• Khả năng tương thích với nhiều khung: Dễ dàng sử dụng Gemma 2 với các công cụ và quy trình làm việc ưa thích của bạn nhờ khả năng tương thích với các khung AI chính như Hugging Face Transformers và JAX, PyTorch và TensorFlow thông qua Keras 3.0, vLLM, Gemma.cpp, Llama.cpp và Ollama bản địa.
• Triển khai dễ dàng: Bắt đầu từ tháng sau, khách hàng của Google Cloud sẽ có thể dễ dàng triển khai và quản lý Gemma 2 trên Vertex AI. Khám phá Gemma Cookbook mới, tập hợp các ví dụ và công thức thực tế để hướng dẫn bạn xây dựng các ứng dụng riêng và tinh chỉnh các mô hình Gemma 2 cho các tác vụ cụ thể.

4. Phát Triển AI Trách Nhiệm

Google cam kết cung cấp cho nhà phát triển và nhà nghiên cứu các nguồn lực cần thiết để xây dựng và triển khai AI một cách có trách nhiệm, bao gồm cả bộ công cụ AI thế hệ mới có trách nhiệm.

• Công cụ LLM Comparator: Giúp đánh giá chuyên sâu các mô hình ngôn ngữ.
• Công nghệ đánh dấu văn bản SynthID: Đang được phát triển để mã nguồn mở cho các mô hình Gemma.
• Kiểm tra an toàn nghiêm ngặt: Gemma 2 được đào tạo theo các quy trình an toàn nội bộ mạnh mẽ, lọc dữ liệu đào tạo trước và thực hiện thử nghiệm và đánh giá nghiêm ngặt dựa trên một bộ tiêu chí toàn diện để xác định và giảm thiểu các nguy cơ tiềm ẩn.

5. Các Dự Án Được Xây Dựng Bằng Gemma

Phiên bản đầu tiên của Gemma đã dẫn đến hơn 10 triệu lượt tải xuống và vô số dự án truyền cảm hứng. Navarasa, ví dụ, đã sử dụng Gemma để tạo ra một mô hình dựa trên sự đa dạng ngôn ngữ của Ấn Độ. Gemma 2 sẽ giúp các nhà phát triển thực hiện những dự án tham vọng hơn, mở ra những cấp độ hiệu suất và tiềm năng mới trong các tác phẩm AI của họ.

6. Bắt Đầu Sử Dụng

Gemma 2 hiện có sẵn trong Google AI Studio, cho phép bạn thử nghiệm đầy đủ khả năng hiệu suất của nó ở mức 27B mà không cần yêu cầu phần cứng. Bạn cũng có thể tải xuống trọng số mô hình của Gemma 2 từ Kaggle và Hugging Face Models, với Vertex AI Model Garden sắp ra mắt.

Để mở rộng quyền truy cập cho nghiên cứu và phát triển, Gemma 2 cũng có sẵn miễn phí thông qua Kaggle hoặc thông qua mức miễn phí cho các sổ ghi chép Colab. Khách hàng lần đầu tiên của Google Cloud có thể đủ điều kiện nhận 300 đô la tín dụng. Các nhà nghiên cứu học thuật có thể nộp đơn vào Chương trình Nghiên cứu Học thuật Gemma 2 để nhận tín dụng Google Cloud nhằm thúc đẩy nghiên cứu của họ với Gemma 2. Nộp đơn ứng tuyển đang mở từ bây giờ đến ngày 9 tháng 8.