230 Triệu Người Dùng Trí Tuệ Nhân Tạo Thế Hệ Mới tại Trung Quốc

<p><strong>Mục lục</strong></p> <ol> <li>Số lượng người dùng GenAI khổng lồ</li> <li>Ernie Bot dẫn đầu thị trường GenAI nội địa</li> <li>Ứng dụng đa dạng của GenAI và LLM</li> <li>Sự bùng nổ của các sản phẩm GenAI tại Trung Quốc</li> <li>Thách thức đối với các công ty AI Trung Quốc</li> </ol> <p><strong>1. Số lượng người dùng GenAI khổng lồ</strong></p> <p>Theo số liệu chính phủ Trung Quốc, đến cuối tháng 6 năm 2024, đã có 230 triệu người dùng trí tuệ nhân tạo thế hệ mới (GenAI) tại Trung Quốc. Con số này chiếm khoảng 1/6 tổng số người dùng internet tại thị trường internet lớn nhất thế giới. Thông tin này được công bố trong báo cáo của Trung tâm Thông tin Mạng Internet Trung Quốc (CNNIC) vào cuối tuần.</p> <p><strong>2. Ernie Bot dẫn đầu thị trường GenAI nội địa</strong></p> <p>Báo cáo của CNNIC chỉ ra rằng Ernie Bot của gã khổng lồ công nghệ Baidu (được biết đến với tên gọi Văn Tự Ngôn - Wenxiaoyan trong tiếng Trung) là sản phẩm GenAI được sử dụng phổ biến nhất trong nước, chiếm 11,5% thị phần. Theo sau là ChatGPT của OpenAI và Gemini của Google, với lần lượt 7% và 3,8% thị phần. Tuy nhiên, cần lưu ý rằng hai dịch vụ của Mỹ này hiện chưa được cung cấp chính thức tại Trung Quốc đại lục.</p> <p><strong>3. Ứng dụng đa dạng của GenAI và LLM</strong></p> <p>Gần 2/3 người dùng GenAI tại Trung Quốc sử dụng các dịch vụ LLM để trả lời câu hỏi, trong khi 1/3 còn lại sử dụng chúng như trợ lý làm việc, tạo bản ghi và slide họp.</p> <p><strong>4. Sự bùng nổ của các sản phẩm GenAI tại Trung Quốc</strong></p> <p>Tính đến tháng 11 năm 2024, hơn 309 sản phẩm GenAI đã đăng ký LLM của họ với cơ quan quản lý internet Trung Quốc. Bắc Kinh chiếm 96 sản phẩm và Thượng Hải chiếm 84 sản phẩm. Trong số các dịch vụ đã đăng ký, hơn 190 sản phẩm đã được phê duyệt và cung cấp dịch vụ thương mại cho công chúng tính đến tháng 7 năm 2024 (theo dữ liệu từ cơ quan giám sát internet Cyberspace Administration of China, được trích dẫn trong báo cáo của CNNIC).</p> <p>Số lượng người dùng GenAI khổng lồ tại Trung Quốc cho thấy sự gia tăng nhanh chóng việc áp dụng LLM tại nền kinh tế lớn thứ hai thế giới. Các công ty trong nước đang nỗ lực để thu hẹp khoảng cách với Mỹ sau khi OpenAI tạo nên cơn sốt toàn cầu với ChatGPT vào năm 2022. Tất cả các công ty công nghệ lớn ở Trung Quốc đều đã tung ra LLM của riêng mình cho cả người tiêu dùng và doanh nghiệp. Sự nổi lên của các công ty khởi nghiệp, bao gồm bốn "con hổ AI" là Baichuan, Zhipu AI, Moonshot AI và MiniMax, đang thu hút sự chú ý ngày càng tăng từ người dùng và nhà đầu tư. Gần 200 LLM thương mại tại Trung Quốc đã thu hút hơn 600 triệu người dùng đăng ký (theo thống kê của một quan chức Bộ Công nghiệp và Công nghệ thông tin Trung Quốc vào tháng 10 năm 2024).</p> <img alt="Ảnh người dùng đang thử nghiệm Ernie Bot" src="https://cdn.i-scmp.com/sites/default/files/styles/1020x680/public/d8/images/canvas/2024/12/02/cf60b627-3294-4024-b9b3-9b3773a076ea_feb80918.jpg?itok=kIq79ife&v=1733129359"> <p><strong>5. Thách thức đối với các công ty AI Trung Quốc</strong></p> <p>Các công ty AI Trung Quốc phải đối mặt với những hạn chế về phần cứng do chính phủ Mỹ áp đặt các biện pháp hạn chế đối với các nhà cung cấp Mỹ như Nvidia trong việc bán các đơn vị xử lý đồ họa tiên tiến cho Trung Quốc.</p> <img alt="Ảnh minh họa về người dùng GenAI" src="https://img.i-scmp.com/cdn-cgi/image/fit=contain,width=1024,format=auto/sites/default/files/d8/images/canvas/2024/12/02/a9e78622-f63c-4c25-ab35-be06bf8fe697_3466fe1e.jpg">

230 Triệu Người Dùng Trí Tuệ Nhân Tạo Thế Hệ Mới tại Trung Quốc

Mục lục Số lượng người dùng GenAI khổng lồ Ernie Bot dẫn đầu thị trường GenAI nội địa Ứng dụng đa dạng của GenAI và LLM Sự bùng nổ của ...

Read more »

Google ra mắt Gemini 2.0: Mô hình AI mạnh mẽ cho kỷ nguyên tác động

<p><strong>Mục lục</strong></p> <ol> <li>Lời nhắn từ CEO Google</li> <li>Giới thiệu Gemini 2.0</li> <li>Gemini 2.0 Flash</li> <li>Trải nghiệm tác động với Gemini 2.0: Project Astra, Project Mariner và Jules</li> <li>Xây dựng có trách nhiệm</li> </ol> <hr /> <h2>1. Lời nhắn từ CEO Google</h2> <p><img alt="SundarPichai_2x.jpg" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/images/SundarPichai_2x.max-208x156.format-webp.webp" /></p> <p><strong>Sundar Pichai, CEO của Google và Alphabet, chia sẻ:</strong></p> <p>Thông tin là nền tảng của tiến bộ nhân loại. Đó là lý do trong hơn 26 năm qua, chúng tôi luôn tập trung vào sứ mệnh sắp xếp thông tin toàn cầu, làm cho nó dễ truy cập và hữu ích. Và đó cũng là lý do chúng tôi liên tục thúc đẩy ranh giới của AI để sắp xếp thông tin trên mọi đầu vào và làm cho nó có thể truy cập thông qua bất kỳ đầu ra nào, để nó thực sự hữu ích cho bạn.</p> <p>Đó là tầm nhìn của chúng tôi khi chúng tôi giới thiệu Gemini 1.0 vào tháng 12 năm ngoái. Là mô hình đầu tiên được xây dựng để đa phương thức, Gemini 1.0 và 1.5 đã thúc đẩy những tiến bộ lớn về khả năng đa phương thức và ngữ cảnh dài để hiểu thông tin trên văn bản, video, hình ảnh, âm thanh và mã, cũng như xử lý nhiều thông tin hơn.</p> <p>Hiện tại, hàng triệu nhà phát triển đang xây dựng với Gemini. Và nó đang giúp chúng tôi tái thiết kế lại tất cả các sản phẩm của mình — bao gồm cả 7 sản phẩm với 2 tỷ người dùng — và tạo ra những sản phẩm mới. NotebookLM là một ví dụ tuyệt vời về những gì đa phương thức và ngữ cảnh dài có thể mang lại cho mọi người, và lý do tại sao nó được rất nhiều người yêu thích.</p> <p>Trong năm qua, chúng tôi đã đầu tư vào việc phát triển các mô hình tác động nhiều hơn, có nghĩa là chúng có thể hiểu rõ hơn về thế giới xung quanh bạn, suy nghĩ trước nhiều bước và hành động thay mặt bạn, dưới sự giám sát của bạn.</p> <p>Hôm nay, chúng tôi rất vui mừng ra mắt kỷ nguyên tiếp theo của các mô hình được xây dựng cho kỷ nguyên tác động mới này: giới thiệu Gemini 2.0, mô hình mạnh mẽ nhất của chúng tôi cho đến nay. Với những tiến bộ mới về đa phương thức — như đầu ra hình ảnh và âm thanh gốc — và việc sử dụng công cụ gốc, nó sẽ cho phép chúng tôi xây dựng các tác nhân AI mới đưa chúng ta đến gần hơn với tầm nhìn về một trợ lý toàn diện.</p> <p>Chúng tôi đang cung cấp Gemini 2.0 cho các nhà phát triển và những người thử nghiệm đáng tin cậy ngay hôm nay. Và chúng tôi đang làm việc nhanh chóng để đưa nó vào các sản phẩm của mình, bắt đầu với Gemini và Tìm kiếm. Bắt đầu từ hôm nay, mô hình thử nghiệm Gemini 2.0 Flash sẽ có sẵn cho tất cả người dùng Gemini. Chúng tôi cũng đang ra mắt một tính năng mới có tên là Deep Research, sử dụng khả năng lập luận nâng cao và ngữ cảnh dài để hoạt động như một trợ lý nghiên cứu, khám phá các chủ đề phức tạp và biên soạn báo cáo thay cho bạn. Nó hiện có sẵn trong Gemini Advanced ngay hôm nay.</p> <p>Chưa có sản phẩm nào được chuyển đổi nhiều hơn bởi AI hơn Tìm kiếm. Tổng quan AI của chúng tôi hiện tiếp cận 1 tỷ người, cho phép họ đặt ra các loại câu hỏi hoàn toàn mới — nhanh chóng trở thành một trong những tính năng Tìm kiếm phổ biến nhất của chúng tôi từ trước đến nay. Là bước tiếp theo, chúng tôi đang đưa khả năng lập luận nâng cao của Gemini 2.0 vào Tổng quan AI để giải quyết các chủ đề phức tạp hơn và các câu hỏi nhiều bước, bao gồm cả các phương trình toán học nâng cao, truy vấn đa phương thức và mã hóa. Chúng tôi đã bắt đầu thử nghiệm giới hạn vào tuần này và sẽ triển khai rộng rãi hơn vào đầu năm tới. Và chúng tôi sẽ tiếp tục đưa Tổng quan AI đến nhiều quốc gia và ngôn ngữ hơn trong năm tới.</p> <p>Những tiến bộ của Gemini 2.0 dựa trên những khoản đầu tư kéo dài hàng thập kỷ vào cách tiếp cận toàn diện khác biệt của chúng tôi đối với đổi mới AI. Nó được xây dựng trên phần cứng tùy chỉnh như Trillium, TPU thế hệ thứ sáu của chúng tôi. TPU đã cung cấp sức mạnh cho 100% quá trình huấn luyện và suy luận của Gemini 2.0, và hôm nay Trillium đã được cung cấp rộng rãi cho khách hàng để họ cũng có thể xây dựng với nó.</p> <p>Nếu Gemini 1.0 là về việc sắp xếp và hiểu thông tin, thì Gemini 2.0 là về việc làm cho nó hữu ích hơn nhiều. Tôi không thể chờ đợi để xem kỷ nguyên tiếp theo này mang lại điều gì.</p> <p>-Sundar</p> <hr /> <h2>2. Giới thiệu Gemini 2.0</h2> <p><img alt="Demis_headshot" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/images/Demis_headshot.max-244x184.format-webp.webp" /> <img alt="koray" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/images/koray.max-244x184.format-webp.webp" /></p> <p><strong>Demis Hassabis, CEO của Google DeepMind và Koray Kavukcuoglu, CTO của Google DeepMind thay mặt cho nhóm Gemini:</strong></p> <p>Trong năm qua, chúng tôi đã tiếp tục đạt được những tiến bộ đáng kinh ngạc trong lĩnh vực trí tuệ nhân tạo. Hôm nay, chúng tôi đang phát hành mô hình đầu tiên trong nhóm mô hình Gemini 2.0: một phiên bản thử nghiệm của Gemini 2.0 Flash. Đây là mô hình làm việc chính của chúng tôi với độ trễ thấp và hiệu năng được nâng cao ở vị trí hàng đầu của công nghệ của chúng tôi, ở quy mô lớn.</p> <p>Chúng tôi cũng đang chia sẻ những tiến bộ của nghiên cứu tác động của mình bằng cách trưng bày các nguyên mẫu được hỗ trợ bởi khả năng đa phương thức gốc của Gemini 2.0.</p> <hr /> <h2>3. Gemini 2.0 Flash</h2> <p>Gemini 2.0 Flash được xây dựng dựa trên thành công của 1.5 Flash, mô hình phổ biến nhất của chúng tôi cho các nhà phát triển cho đến nay, với hiệu năng được nâng cao ở thời gian phản hồi nhanh tương tự. Đáng chú ý, 2.0 Flash thậm chí còn vượt trội hơn 1.5 Pro trên các điểm chuẩn chính, với tốc độ gấp đôi. 2.0 Flash cũng đi kèm với các khả năng mới. Ngoài hỗ trợ đầu vào đa phương thức như hình ảnh, video và âm thanh, 2.0 Flash hiện hỗ trợ đầu ra đa phương thức như hình ảnh được tạo gốc kết hợp với văn bản và giọng nói được điều khiển (TTS) âm thanh đa ngôn ngữ. Nó cũng có thể gọi các công cụ như Tìm kiếm Google, thực thi mã cũng như các hàm do người dùng xác định của bên thứ ba.</p> <p><img alt="A chart comparing Gemini models and their capabilities" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/original_images/gemini_benchmarks_narrow_light2x.gif" /></p> <p>Mục tiêu của chúng tôi là đưa các mô hình của mình vào tay mọi người một cách an toàn và nhanh chóng. Trong tháng qua, chúng tôi đã chia sẻ các phiên bản thử nghiệm ban đầu của Gemini 2.0, nhận được phản hồi tuyệt vời từ các nhà phát triển.</p> <p>Gemini 2.0 Flash hiện có sẵn dưới dạng mô hình thử nghiệm cho các nhà phát triển thông qua API Gemini trong Google AI Studio và Vertex AI với đầu vào đa phương thức và đầu ra văn bản có sẵn cho tất cả các nhà phát triển, và tạo hình ảnh gốc và văn bản-thành-giọng nói có sẵn cho các đối tác truy cập sớm. Khả năng sử dụng chung sẽ tiếp theo vào tháng Giêng, cùng với nhiều kích thước mô hình hơn. Để giúp các nhà phát triển xây dựng các ứng dụng năng động và tương tác, chúng tôi cũng đang phát hành một API Trực tiếp Đa phương thức mới có đầu vào âm thanh, video phát trực tuyến thời gian thực và khả năng sử dụng nhiều công cụ kết hợp. Thông tin thêm về 2.0 Flash và API Trực tiếp Đa phương thức có thể được tìm thấy trong blog dành cho nhà phát triển của chúng tôi.</p> <p><strong>Gemini 2.0 có sẵn trong ứng dụng Gemini, trợ lý AI của chúng tôi:</strong></p> <p>Bắt đầu từ hôm nay, người dùng Gemini trên toàn cầu có thể truy cập phiên bản thử nghiệm 2.0 Flash được tối ưu hóa cho trò chuyện bằng cách chọn nó trong trình đơn thả xuống mô hình trên máy tính để bàn và web di động và nó sẽ sớm có sẵn trong ứng dụng di động Gemini. Với mô hình mới này, người dùng có thể trải nghiệm trợ lý Gemini hữu ích hơn nữa.</p> <p>Vào đầu năm tới, chúng tôi sẽ mở rộng Gemini 2.0 sang nhiều sản phẩm Google hơn.</p> <hr /> <h2>4. Trải nghiệm tác động với Gemini 2.0: Project Astra, Project Mariner và Jules</h2> <p>Khả năng hành động giao diện người dùng gốc của Gemini 2.0 Flash, cùng với các cải tiến khác như lập luận đa phương thức, khả năng hiểu ngữ cảnh dài, làm theo hướng dẫn phức tạp và lập kế hoạch, gọi hàm tổng hợp, sử dụng công cụ gốc và độ trễ được cải thiện, tất cả đều hoạt động cùng nhau để tạo ra một lớp trải nghiệm tác động mới.</p> <p>Ứng dụng thực tế của các tác nhân AI là một lĩnh vực nghiên cứu đầy những khả năng thú vị. Chúng tôi đang khám phá ranh giới mới này với một loạt các nguyên mẫu có thể giúp mọi người hoàn thành các nhiệm vụ và hoàn thành công việc. Chúng bao gồm bản cập nhật cho Project Astra, nguyên mẫu nghiên cứu của chúng tôi khám phá các khả năng trong tương lai của một trợ lý AI toàn diện; Project Mariner mới, khám phá tương lai của tương tác giữa người và tác nhân, bắt đầu từ trình duyệt của bạn; và Jules, một tác nhân mã được hỗ trợ bởi AI có thể giúp các nhà phát triển.</p> <p>Chúng tôi vẫn đang trong giai đoạn phát triển ban đầu, nhưng chúng tôi rất hào hứng khi thấy những người thử nghiệm đáng tin cậy sử dụng các khả năng mới này và những bài học mà chúng ta có thể học được, để chúng ta có thể làm cho chúng có sẵn rộng rãi hơn trong các sản phẩm trong tương lai.</p> <h3>Project Astra: các tác nhân sử dụng sự hiểu biết đa phương thức trong thế giới thực</h3> <p>Kể từ khi chúng tôi giới thiệu Project Astra tại I/O, chúng tôi đã học hỏi từ những người thử nghiệm đáng tin cậy sử dụng nó trên điện thoại Android. Phản hồi quý báu của họ đã giúp chúng tôi hiểu rõ hơn về cách một trợ lý AI toàn diện có thể hoạt động trong thực tế, bao gồm cả những ảnh hưởng đến an toàn và đạo đức. Những cải tiến trong phiên bản mới nhất được xây dựng với Gemini 2.0 bao gồm:</p> <ul> <li><strong>Hội thoại tốt hơn:</strong> Project Astra giờ đây có khả năng trò chuyện bằng nhiều ngôn ngữ và bằng nhiều ngôn ngữ hỗn hợp, với khả năng hiểu tốt hơn về giọng điệu và các từ không phổ biến.</li> <li><strong>Sử dụng công cụ mới:</strong> Với Gemini 2.0, Project Astra có thể sử dụng Tìm kiếm Google, Lens và Bản đồ, làm cho nó hữu ích hơn như một trợ lý trong cuộc sống hàng ngày của bạn.</li> <li><strong>Bộ nhớ được cải thiện:</strong> Chúng tôi đã cải thiện khả năng ghi nhớ của Project Astra trong khi vẫn giữ cho bạn quyền kiểm soát. Giờ đây, nó có bộ nhớ trong phiên lên tới 10 phút và có thể nhớ nhiều cuộc trò chuyện hơn mà bạn đã có với nó trong quá khứ, vì vậy nó được cá nhân hóa tốt hơn cho bạn.</li> <li><strong>Độ trễ được cải thiện:</strong> Với các khả năng phát trực tuyến mới và khả năng hiểu âm thanh gốc, tác nhân có thể hiểu ngôn ngữ ở độ trễ xấp xỉ như tốc độ trò chuyện của con người.</li> </ul> <p>Chúng tôi đang làm việc để đưa các loại khả năng này vào các sản phẩm Google như ứng dụng Gemini, trợ lý AI của chúng tôi, và vào các yếu tố hình thức khác như kính. Và chúng tôi đang bắt đầu mở rộng chương trình thử nghiệm đáng tin cậy của mình cho nhiều người hơn, bao gồm cả một nhóm nhỏ sẽ sớm bắt đầu thử nghiệm Project Astra trên các mẫu kính.</p> <h3>Project Mariner: các tác nhân có thể giúp bạn hoàn thành các nhiệm vụ phức tạp</h3> <p>Project Mariner là một nguyên mẫu nghiên cứu ban đầu được xây dựng bằng Gemini 2.0, khám phá tương lai của tương tác giữa người và tác nhân, bắt đầu từ trình duyệt của bạn. Là một nguyên mẫu nghiên cứu, nó có thể hiểu và lập luận trên các thông tin trên màn hình trình duyệt của bạn, bao gồm cả pixel và các yếu tố web như văn bản, mã, hình ảnh và biểu mẫu, và sau đó sử dụng thông tin đó thông qua tiện ích mở rộng Chrome thử nghiệm để hoàn thành các nhiệm vụ cho bạn.</p> <p>Khi được đánh giá trên điểm chuẩn WebVoyager, đánh giá hiệu suất của tác nhân đối với các nhiệm vụ web thực tế trên toàn bộ quá trình, Project Mariner đã đạt được kết quả tốt nhất là 83,5% khi hoạt động dưới dạng thiết lập tác nhân đơn.</p> <p>Vẫn còn sớm, nhưng Project Mariner cho thấy rằng về mặt kỹ thuật, việc điều hướng bên trong trình duyệt đang trở nên khả thi, mặc dù nó không phải lúc nào cũng chính xác và chậm trong việc hoàn thành các nhiệm vụ hiện nay, điều này sẽ được cải thiện nhanh chóng theo thời gian.</p> <p>Để xây dựng điều này một cách an toàn và có trách nhiệm, chúng tôi đang tiến hành nghiên cứu tích cực về các loại rủi ro và giải pháp giảm thiểu mới, đồng thời giữ cho con người trong vòng lặp. Ví dụ: Project Mariner chỉ có thể nhập, cuộn hoặc nhấp vào tab đang hoạt động trên trình duyệt của bạn và nó yêu cầu người dùng xác nhận cuối cùng trước khi thực hiện một số hành động nhạy cảm nhất định, chẳng hạn như mua thứ gì đó.</p> <p>Những người thử nghiệm đáng tin cậy đang bắt đầu thử nghiệm Project Mariner bằng cách sử dụng tiện ích mở rộng Chrome thử nghiệm ngay bây giờ, và chúng tôi đang bắt đầu các cuộc trò chuyện với hệ sinh thái web song song.</p> <h3>Jules: tác nhân dành cho nhà phát triển</h3> <p>Tiếp theo, chúng tôi đang khám phá cách các tác nhân AI có thể hỗ trợ các nhà phát triển với Jules — một tác nhân mã được hỗ trợ bởi AI thử nghiệm tích hợp trực tiếp vào quy trình làm việc của GitHub. Nó có thể giải quyết một vấn đề, phát triển một kế hoạch và thực hiện nó, tất cả đều dưới sự hướng dẫn và giám sát của nhà phát triển. Nỗ lực này là một phần trong mục tiêu dài hạn của chúng tôi là xây dựng các tác nhân AI hữu ích trong tất cả các lĩnh vực, bao gồm cả mã hóa.</p> <p>Thông tin thêm về thí nghiệm đang diễn ra này có thể được tìm thấy trong bài đăng trên blog dành cho nhà phát triển của chúng tôi.</p> <p> <video controls=""> <source src="https://storage.googleapis.com/gweb-uniblog-publish-prod/original_videos/Jules_GIF_3D_10_1.mp4" type="video/mp4"></source> Your browser does not support the video tag. </video> </p> <h3>Tác nhân trong trò chơi và các lĩnh vực khác</h3> <p>Google DeepMind có lịch sử lâu dài về việc sử dụng trò chơi để giúp các mô hình AI trở nên giỏi hơn trong việc tuân theo các quy tắc, lập kế hoạch và logic. Chỉ tuần trước, ví dụ, chúng tôi đã giới thiệu Genie 2, mô hình AI của chúng tôi có thể tạo ra vô số thế giới 3D có thể chơi được — tất cả từ một hình ảnh duy nhất. Xây dựng trên truyền thống này, chúng tôi đã xây dựng các tác nhân sử dụng Gemini 2.0 có thể giúp bạn điều hướng thế giới ảo của trò chơi điện tử. Nó có thể lập luận về trò chơi dựa hoàn toàn trên hành động trên màn hình và đưa ra các đề xuất về những việc cần làm tiếp theo trong cuộc trò chuyện thời gian thực.</p> <p>Chúng tôi đang hợp tác với các nhà phát triển trò chơi hàng đầu như Supercell để khám phá cách các tác nhân này hoạt động, kiểm tra khả năng diễn giải quy tắc và thách thức của họ trên nhiều trò chơi đa dạng, từ các tựa game chiến lược như “Clash of Clans” đến các trình mô phỏng nông trại như “Hay Day”.</p> <p>Ngoài việc đóng vai trò là bạn đồng hành chơi game ảo, những tác nhân này thậm chí còn có thể khai thác Tìm kiếm Google để kết nối bạn với kho kiến thức trò chơi trên web.</p> <p>Ngoài việc khám phá các khả năng tác động trong thế giới ảo, chúng tôi đang thử nghiệm với các tác nhân có thể giúp đỡ trong thế giới vật lý bằng cách áp dụng khả năng lập luận không gian của Gemini 2.0 vào robot học. Mặc dù vẫn còn sớm, nhưng chúng tôi rất hào hứng với tiềm năng của các tác nhân có thể hỗ trợ trong môi trường vật lý.</p> <p>Bạn có thể tìm hiểu thêm về các nguyên mẫu và thử nghiệm nghiên cứu này tại labs.google.</p> <hr /> <h2>5. Xây dựng có trách nhiệm trong kỷ nguyên tác động</h2> <p>Gemini 2.0 Flash và các nguyên mẫu nghiên cứu của chúng tôi cho phép chúng tôi kiểm tra và lặp lại các khả năng mới ở vị trí hàng đầu của nghiên cứu AI, cuối cùng sẽ giúp các sản phẩm Google trở nên hữu ích hơn.</p> <p>Khi phát triển những công nghệ mới này, chúng tôi nhận ra trách nhiệm mà nó mang lại và những câu hỏi mà các tác nhân AI đặt ra đối với an toàn và bảo mật. Đó là lý do tại sao chúng tôi đang thực hiện một cách tiếp cận khám phá và dần dần đối với sự phát triển, tiến hành nghiên cứu trên nhiều nguyên mẫu, lặp đi lặp lại việc thực hiện đào tạo an toàn, làm việc với những người thử nghiệm đáng tin cậy và các chuyên gia bên ngoài và thực hiện đánh giá rủi ro, đánh giá an toàn và bảo đảm toàn diện.</p> <p>Ví dụ:</p> <ul> <li>Là một phần của quy trình an toàn của mình, chúng tôi đã làm việc với Ủy ban Trách nhiệm và An toàn (RSC), nhóm xem xét nội bộ lâu năm của chúng tôi, để xác định và hiểu các rủi ro tiềm ẩn.</li> <li>Khả năng lập luận của Gemini 2.0 đã cho phép những tiến bộ lớn trong cách tiếp cận nhóm đỏ được hỗ trợ bởi AI của chúng tôi, bao gồm cả khả năng vượt ra ngoài việc chỉ phát hiện rủi ro để giờ đây tự động tạo ra các đánh giá và dữ liệu đào tạo để giảm thiểu chúng. Điều này có nghĩa là chúng ta có thể tối ưu hóa mô hình cho sự an toàn ở quy mô lớn một cách hiệu quả hơn.</li> <li>Khi tính đa phương thức của Gemini 2.0 làm tăng độ phức tạp của đầu ra tiềm năng, chúng tôi sẽ tiếp tục đánh giá và đào tạo mô hình trên đầu vào và đầu ra hình ảnh và âm thanh để giúp cải thiện độ an toàn.</li> <li>Với Project Astra, chúng tôi đang khám phá các giải pháp giảm thiểu tiềm năng đối với việc người dùng vô tình chia sẻ thông tin nhạy cảm với tác nhân, và chúng tôi đã tích hợp các điều khiển quyền riêng tư giúp người dùng dễ dàng xóa các phiên. Chúng tôi cũng đang tiếp tục nghiên cứu các cách để đảm bảo các tác nhân AI hoạt động như nguồn thông tin đáng tin cậy và không thực hiện các hành động ngoài ý muốn thay mặt bạn.</li> <li>Với Project Mariner, chúng tôi đang làm việc để đảm bảo mô hình học cách ưu tiên các hướng dẫn của người dùng hơn các nỗ lực của bên thứ ba đối với việc tiêm lời nhắc, để nó có thể xác định các hướng dẫn có khả năng gây hại từ các nguồn bên ngoài và ngăn ngừa việc sử dụng sai mục đích. Điều này ngăn người dùng bị phơi bày trước gian lận và nỗ lực lừa đảo thông qua những thứ như các hướng dẫn độc hại được ẩn trong email, tài liệu hoặc trang web.</li> </ul> <p>Chúng tôi tin tưởng vững chắc rằng cách duy nhất để xây dựng AI là phải có trách nhiệm ngay từ đầu và chúng tôi sẽ tiếp tục ưu tiên việc làm cho an toàn và trách nhiệm trở thành một yếu tố quan trọng trong quy trình phát triển mô hình của mình khi chúng tôi nâng cao các mô hình và tác nhân của mình.</p> <hr />

Google ra mắt Gemini 2.0: Mô hình AI mạnh mẽ cho kỷ nguyên tác động

Mục lục Lời nhắn từ CEO Google Giới thiệu Gemini 2.0 Gemini 2.0 Flash Trải nghiệm tác động với Gemini 2.0: Project Astra, Project Marin...

Read more »

Mô hình kiểm duyệt AI nhỏ gọn nhưng hiệu quả cao: Llama Guard 3-1B-INT4 của Meta

<p><strong>Mục lục</strong></p> <ol> <li>Giới thiệu</li> <li>Thách thức trong việc triển khai mô hình kiểm duyệt</li> <li>Llama Guard 3-1B-INT4: Giải pháp đột phá</li> <li>Phương pháp tối ưu hóa</li> <li>Hiệu suất và đánh giá</li> <li>Kết luận</li> </ol> <p><img alt="Hình ảnh 1" src="https://lh7-rt.googleusercontent.com/docsz/AD_4nXeBPlHVvw4zRBUFqm2R3Xp_zHe6PuCNtmPU3YvSkIXSUt75bpb3O8RAchdk-5QclO6JUkeHQjDWM8Jqsj0j7wRs3ZPYm085CGZYuTFcHTzgzE3W46LquTAAnJACL8lvPJk8PDWFuw?key=1zSKJUDuMgaR_j3VEY_w-7DA"></p> <p><strong>1. Giới thiệu</strong></p> <p>Công nghệ trí tuệ nhân tạo (AI) thế hệ mới, đặc biệt là các hệ thống AI tạo sinh, đã cách mạng hóa cách con người tương tác với công nghệ. Khả năng xử lý ngôn ngữ tự nhiên và tạo nội dung tiên tiến của chúng mang lại nhiều lợi ích. Tuy nhiên, rủi ro đi kèm cũng không nhỏ, đặc biệt là khả năng tạo ra nội dung không an toàn hoặc vi phạm chính sách. Để giải quyết vấn đề này, các công cụ kiểm duyệt tiên tiến là cần thiết để đảm bảo đầu ra an toàn và tuân thủ các nguyên tắc đạo đức. Các công cụ này phải hiệu quả và tiết kiệm tài nguyên, đặc biệt khi được triển khai trên các thiết bị có tài nguyên hạn chế như thiết bị di động.</p> <p><strong>2. Thách thức trong việc triển khai mô hình kiểm duyệt</strong></p> <p>Một thách thức dai dẳng trong việc triển khai các mô hình kiểm duyệt an toàn là kích thước và yêu cầu tính toán của chúng. Các mô hình ngôn ngữ lớn (LLM) mạnh mẽ và chính xác thường đòi hỏi bộ nhớ và sức mạnh xử lý đáng kể, khiến chúng không phù hợp với các thiết bị có khả năng phần cứng hạn chế. Việc triển khai các mô hình này trên thiết bị di động có thể dẫn đến tắc nghẽn thời gian chạy hoặc lỗi do bộ nhớ truy cập ngẫu nhiên (DRAM) hạn chế, làm giảm đáng kể khả năng sử dụng của chúng. Do đó, các nhà nghiên cứu đã tập trung vào việc nén LLM mà không làm giảm hiệu suất.</p> <p><strong>3. Llama Guard 3-1B-INT4: Giải pháp đột phá</strong></p> <p>Meta đã giới thiệu Llama Guard 3-1B-INT4, một mô hình kiểm duyệt an toàn được thiết kế để giải quyết các thách thức này. Được công bố tại Meta Connect 2024, mô hình này chỉ có kích thước 440MB, nhỏ hơn bảy lần so với người tiền nhiệm, Llama Guard 3-1B. Điều này đạt được nhờ các kỹ thuật nén tiên tiến như cắt tỉa khối giải mã, cắt tỉa ở cấp độ neuron và huấn luyện nhận biết lượng tử. Các nhà nghiên cứu cũng sử dụng kỹ thuật chưng cất từ mô hình Llama Guard 3-8B lớn hơn để phục hồi chất lượng bị mất trong quá trình nén. Đáng chú ý, mô hình đạt được thông lượng ít nhất 30 token mỗi giây với thời gian đến token đầu tiên dưới 2,5 giây trên CPU di động Android tiêu chuẩn.</p> <p><img alt="Hình ảnh 2" src="https://lh7-rt.googleusercontent.com/docsz/AD_4nXfkCCrcc61fDIn_jJHnYZJg-qK3Fr-v5syMKm0Xt6BYgrinW7hVQFt0gi-8OY5DdIeyJT3mHAvBtblp9b93cTQWbrF-paRQu0dV3YeEgQoj1eZbg2tqD3DFiIZg7kwVrT4jUws?key=1zSKJUDuMgaR_j3VEY_w-7DA"></p> <p><strong>4. Phương pháp tối ưu hóa</strong></p> <p>Một số phương pháp chính hỗ trợ những tiến bộ kỹ thuật trong Llama Guard 3-1B-INT4 bao gồm:</p> <ul> <li><strong>Cắt tỉa:</strong> Kỹ thuật cắt tỉa đã giảm số khối giải mã của mô hình từ 16 xuống 12 và kích thước ẩn MLP từ 8192 xuống 6400, đạt được số lượng tham số 1,1 tỷ, giảm từ 1,5 tỷ.</li> <li><strong>Lượng tử hóa:</strong> Lượng tử hóa tiếp tục nén mô hình bằng cách giảm độ chính xác của trọng số xuống INT4 và kích hoạt xuống INT8, giảm kích thước của nó xuống gấp bốn lần so với mức cơ sở 16 bit.</li> <li><strong>Cắt tỉa lớp nhúng ngược:</strong> Cắt tỉa lớp nhúng ngược đã giảm kích thước lớp đầu ra bằng cách chỉ tập trung vào 20 token cần thiết trong khi vẫn duy trì khả năng tương thích với các giao diện hiện có.</li> </ul> <p><strong>5. Hiệu suất và đánh giá</strong></p> <p>Llama Guard 3-1B-INT4 đạt điểm F1 là 0,904 đối với nội dung tiếng Anh, vượt trội hơn người tiền nhiệm Llama Guard 3-1B (điểm 0,899). Đối với khả năng đa ngôn ngữ, mô hình hoạt động ngang bằng hoặc tốt hơn các mô hình lớn hơn ở năm trong số tám ngôn ngữ không phải tiếng Anh được thử nghiệm, bao gồm tiếng Pháp, tiếng Tây Ban Nha và tiếng Đức. So với GPT-4 (trong cài đặt zero-shot), Llama Guard 3-1B-INT4 cho thấy điểm kiểm duyệt an toàn cao hơn ở bảy ngôn ngữ. Kích thước nhỏ gọn và hiệu suất tối ưu của nó làm cho nó trở thành một giải pháp thực tế cho việc triển khai trên thiết bị di động, và nó đã được chứng minh là hoạt động thành công trên điện thoại Moto-Razor.</p> <p><img alt="Hình ảnh 3" src="https://www.marktechpost.com/wp-content/uploads/2024/11/Screenshot-2024-11-30-at-6.49.18%E2%80%AFPM-1-1024x334.png"></p> <p><strong>6. Kết luận</strong></p> <p>Llama Guard 3-1B-INT4 thể hiện một bước tiến đáng kể trong việc kiểm duyệt an toàn cho AI tạo sinh. Mô hình này giải quyết các thách thức quan trọng về kích thước, hiệu quả và hiệu suất, cung cấp một mô hình nhỏ gọn cho việc triển khai trên thiết bị di động nhưng đủ mạnh mẽ để đảm bảo các tiêu chuẩn an toàn cao. Thông qua các kỹ thuật nén sáng tạo và tinh chỉnh cẩn thận, các nhà nghiên cứu đã tạo ra một công cụ vừa có thể mở rộng và đáng tin cậy, mở đường cho các hệ thống AI an toàn hơn trong nhiều ứng dụng khác nhau.</p>

Mô hình kiểm duyệt AI nhỏ gọn nhưng hiệu quả cao: Llama Guard 3-1B-INT4 của Meta

Mục lục Giới thiệu Thách thức trong việc triển khai mô hình kiểm duyệt Llama Guard 3-1B-INT4: Giải pháp đột phá Phương pháp tối ưu hóa ...

Read more »

FastSwitch: Tối ưu hóa hiệu suất phục vụ Mô hình Ngôn ngữ Lớn (LLM)

<p><strong>Mục lục</strong></p> <ol> <li>Giới thiệu</li> <li>Thách thức trong hệ thống phục vụ LLM</li> <li>FastSwitch: Giải pháp đột phá</li> <li>Ba tối ưu hóa chính của FastSwitch</li> <li>Đánh giá hiệu suất</li> <li>Kết luận</li> </ol> <p><strong>1. Giới thiệu</strong></p> <p>Mô hình ngôn ngữ lớn (LLM) đã cách mạng hóa các ứng dụng trí tuệ nhân tạo (AI), hỗ trợ các tác vụ như dịch ngôn ngữ, trợ lý ảo và tạo mã. Tuy nhiên, việc cung cấp dịch vụ chất lượng cao cho nhiều người dùng đồng thời đặt ra những thách thức đáng kể về quản lý tài nguyên, đặc biệt là GPU có băng thông bộ nhớ cao. Việc phân bổ hiệu quả các tài nguyên hạn chế này là rất quan trọng để đáp ứng các mục tiêu mức độ dịch vụ (SLO) cho các chỉ số nhạy cảm với thời gian, đảm bảo hệ thống có thể phục vụ nhiều người dùng hơn mà không ảnh hưởng đến hiệu suất.</p> <p><strong>2. Thách thức trong hệ thống phục vụ LLM</strong></p> <p>Một vấn đề dai dẳng trong các hệ thống phục vụ LLM là đạt được sự phân phối tài nguyên công bằng đồng thời duy trì hiệu quả. Các hệ thống hiện tại thường ưu tiên thông lượng, bỏ qua các yêu cầu về tính công bằng như cân bằng độ trễ giữa các người dùng. Các cơ chế lập lịch ưu tiên, điều chỉnh động ưu tiên yêu cầu, giải quyết vấn đề này. Tuy nhiên, các cơ chế này lại dẫn đến chi phí chuyển đổi ngữ cảnh, chẳng hạn như thời gian nhàn rỗi của GPU và sử dụng I/O không hiệu quả, làm giảm các chỉ số hiệu suất chính như Thời gian đến Token đầu tiên (TTFT) và Thời gian giữa các Token (TBT). Ví dụ, thời gian ngừng hoạt động do ưu tiên trong các kịch bản áp lực cao có thể lên tới 59,9% độ trễ P99, dẫn đến sự suy giảm đáng kể trải nghiệm người dùng.</p> <p><img alt="Hình ảnh minh họa thách thức trong hệ thống phục vụ LLM" src="https://www.marktechpost.com/wp-content/uploads/2024/12/Screenshot-2024-12-01-at-12.22.44%E2%80%AFAM-1-1024x711.png"></p> <p>Các giải pháp hiện tại, chẳng hạn như vLLM, dựa vào quản lý bộ nhớ dựa trên phân trang để giải quyết các hạn chế về bộ nhớ GPU bằng cách hoán đổi dữ liệu giữa bộ nhớ GPU và CPU. Mặc dù các phương pháp này cải thiện thông lượng, nhưng chúng vẫn gặp phải những hạn chế. Các vấn đề như phân bổ bộ nhớ bị phân mảnh, sử dụng băng thông I/O thấp và truyền dữ liệu dư thừa trong các cuộc hội thoại nhiều lượt vẫn tồn tại, làm suy yếu hiệu quả của chúng. Ví dụ, kích thước khối cố định 16 token của vLLM dẫn đến độ chi tiết không tối ưu, làm giảm hiệu quả băng thông PCIe và tăng độ trễ trong quá trình chuyển đổi ngữ cảnh ưu tiên.</p> <p><strong>3. FastSwitch: Giải pháp đột phá</strong></p> <p>Các nhà nghiên cứu từ Đại học Purdue, Viện Thượng Hải Kỳ Chí và Đại học Thanh Hoa đã phát triển FastSwitch, một hệ thống phục vụ LLM có nhận thức về tính công bằng giải quyết sự không hiệu quả trong việc chuyển đổi ngữ cảnh. FastSwitch giới thiệu ba tối ưu hóa cốt lõi: trình quản lý nhóm khối động, trình quản lý hoán đổi đa luồng và cơ chế tái sử dụng bộ nhớ cache KV.</p> <p><strong>4. Ba tối ưu hóa chính của FastSwitch</strong></p> <ul> <li><strong>Trình quản lý nhóm khối động:</strong> Tối ưu hóa việc phân bổ bộ nhớ bằng cách nhóm các khối liền kề, tăng độ chi tiết truyền. Phương pháp này giảm độ trễ lên đến 3,11 lần so với các phương pháp hiện có.</li> <li><strong>Trình quản lý hoán đổi đa luồng:</strong> Nâng cao hiệu quả tạo token bằng cách cho phép hoán đổi không đồng bộ, giảm thiểu thời gian nhàn rỗi của GPU. Nó tích hợp đồng bộ chi tiết để tránh xung đột giữa các yêu cầu đang diễn ra và các yêu cầu mới, đảm bảo hoạt động liền mạch trong quá trình chồng chéo.</li> <li><strong>Cơ chế tái sử dụng bộ nhớ cache KV:</strong> Giữ lại dữ liệu hợp lệ một phần trong bộ nhớ CPU, giảm độ trễ ưu tiên bằng cách tránh truyền dữ liệu bộ nhớ cache KV dư thừa.</li> </ul> <p><img alt="Hình ảnh minh họa kiến trúc FastSwitch" src="https://lh7-rt.googleusercontent.com/docsz/AD_4nXc7skqsC8wmQpgY9vD1uH9z5OilWX8FT0CCIk7cqsDPk_UTLHQeLpxU281Mcy7j0Om0qslDbnhjENI11uCfAuovjUQfQqN2zbWiyF2FD8lVffIGAld6QobJtKQkwN-fojU-KUz2?key=RvVHjUsR8mQ5bFyhfuaus7SK"></p> <p><img alt="Hình ảnh minh họa so sánh hiệu suất FastSwitch và vLLM" src="https://www.marktechpost.com/wp-content/uploads/2024/12/Screenshot-2024-12-01-at-12.23.09%E2%80%AFAM-1-1024x568.png"></p> <p><strong>5. Đánh giá hiệu suất</strong></p> <p>Các nhà nghiên cứu đã đánh giá FastSwitch bằng cách sử dụng các mô hình LLaMA-8B và Qwen-32B trên các GPU như NVIDIA A10 và A100. Các kịch bản thử nghiệm bao gồm các cập nhật ưu tiên tần số cao và các cuộc hội thoại nhiều lượt được lấy từ bộ dữ liệu ShareGPT, trung bình 5,5 lượt mỗi cuộc hội thoại. FastSwitch đã vượt trội so với vLLM trên nhiều chỉ số khác nhau. Nó đạt được tốc độ tăng lên 4,3-5,8 lần ở P95 TTFT và 3,6-11,2 lần ở P99,9 TBT cho các mô hình và khối lượng công việc khác nhau. Hơn nữa, FastSwitch đã cải thiện thông lượng lên đến 1,44 lần, chứng minh khả năng xử lý khối lượng công việc phức tạp một cách hiệu quả. Hệ thống cũng đã giảm đáng kể chi phí chuyển đổi ngữ cảnh, cải thiện việc sử dụng I/O lên 1,3 lần và GPU lên 1,42 lần so với vLLM.</p> <p><strong>6. Kết luận</strong></p> <p>FastSwitch giải quyết những thiếu hiệu quả cơ bản trong việc phục vụ LLM bằng cách giới thiệu các tối ưu hóa sáng tạo cân bằng tính công bằng và hiệu quả. Việc giảm chi phí chuyển đổi ngữ cảnh và nâng cao việc sử dụng tài nguyên đảm bảo việc cung cấp dịch vụ chất lượng cao, khả năng mở rộng cho các môi trường đa người dùng. Những tiến bộ này làm cho nó trở thành một giải pháp chuyển đổi cho việc triển khai LLM hiện đại.</p>

FastSwitch: Tối ưu hóa hiệu suất phục vụ Mô hình Ngôn ngữ Lớn (LLM)

Mục lục Giới thiệu Thách thức trong hệ thống phục vụ LLM FastSwitch: Giải pháp đột phá Ba tối ưu hóa chính của FastSwitch Đánh giá hiệ...

Read more »

Mô hình ngôn ngữ mở OLMo 2: Một bước tiến vượt bậc trong cộng đồng AI mã nguồn mở

<p><strong>Mục lục</strong></p> <ol> <li>Giới thiệu OLMo 2</li> <li>Hiệu suất vượt trội của OLMo 2</li> <li>Tập trung vào sự ổn định và hiệu quả</li> <li>Minh bạch và khả năng truy cập hoàn toàn</li> <li>Kết luận</li> </ol> <p><strong>1. Giới thiệu OLMo 2</strong></p> <p>Ai2 vừa ra mắt OLMo 2, một mô hình ngôn ngữ cơ sở mã nguồn mở hàng đầu hiện nay. Với các phiên bản 7B và 13B tham số, được huấn luyện trên tới 5 nghìn tỷ token, OLMo 2 đạt được hiệu quả và hiệu suất hàng đầu trong nhiều điểm chuẩn khác nhau. OLMo 2 nổi bật với sự minh bạch tuyệt đối khi công khai toàn bộ trọng số, dữ liệu, mã huấn luyện và công thức. Điều này giúp thu hẹp khoảng cách giữa các mô hình mã nguồn mở và mô hình độc quyền.</p> <p><img alt="OLMo 2 Performance" src="https://www.startuphub.ai/wp-content/uploads/output1-optimized.png"></p> <p><strong>2. Hiệu suất vượt trội của OLMo 2</strong></p> <p>OLMo 2 thể hiện hiệu suất vượt trội so với các đối thủ cạnh tranh trong nhiều bài kiểm tra đánh giá, bao gồm cả các điểm chuẩn quen thuộc như ARC Challenge và HellaSwag, cũng như các chỉ số đánh giá mới như AGIEval và GSM8k. Một số kết quả đáng chú ý:</p> <ul> <li><strong>OLMo-2-7B</strong> ngang ngửa hoặc vượt trội các mô hình lớn hơn, chứng tỏ hiệu quả cao về mặt tính toán.</li> <li><strong>OLMo-2-13B</strong>, được tinh chỉnh cho các tác vụ hướng dẫn, vượt trội các đối thủ cạnh tranh như Qwen-2.5-14B trong các tác vụ làm theo hướng dẫn và lập luận.</li> </ul> <p>Cụ thể hơn, so sánh với các mô hình khác như Llama-3.1-8B và Qwen-2.5-7B, OLMo 2 đạt được điểm số cao hơn đáng kể trên các bài kiểm tra:</p> <ul> <li><strong>ARC Challenge (lập luận thường thức):</strong> OLMo-2-13B đạt 83.5 điểm, vượt trội Llama-3.1-8B (79.5) và Qwen-2.5-7B (67.4).</li> <li><strong>MMLU (hiểu biết ngôn ngữ đa nhiệm quy mô lớn):</strong> OLMo-2-13B đạt 67.5 điểm, cao hơn Qwen-2.5-7B (64.4) và Llama-3.1-8B (66.9).</li> <li><strong>GSM8k (bài toán toán học bằng lời):</strong> OLMo-2-13B đạt 75.1 điểm, vượt trội đáng kể Llama-3.1-8B (51.3) và Qwen-2.5-7B (63).</li> <li><strong>TriviaQA (khôi phục kiến thức):</strong> OLMo-2-13B đạt 81.9 điểm, tương đương Qwen-2.5-7B (81.5) và cao hơn Llama-3.1-8B (80.3).</li> </ul> <p><strong>3. Tập trung vào sự ổn định và hiệu quả</strong></p> <p>Hiệu suất được cải thiện của OLMo 2 xuất phát từ những cải tiến lặp đi lặp lại trong quá trình huấn luyện mô hình và các quy trình sau huấn luyện:</p> <ul> <li><strong>Sự ổn định trong các quá trình huấn luyện dài:</strong> OLMo 2 giới thiệu các kỹ thuật để ổn định gradient và duy trì tiến độ huấn luyện nhất quán, giải quyết các thách thức như hiện tượng đột biến mất mát có thể làm giảm hiệu suất mô hình.</li> <li><strong>Huấn luyện chương trình dàn xếp:</strong> Phương pháp huấn luyện tiền xử lý hai giai đoạn bắt đầu với các tập dữ liệu đa dạng, quy mô lớn như OLMo-Mix-1124 và chuyển sang các tập dữ liệu chuyên ngành chất lượng cao được tuyển chọn ở giai đoạn thứ hai. Điều này đảm bảo khả năng tổng quát hóa mạnh mẽ và chuyên môn về lĩnh vực.</li> <li><strong>Các kỹ thuật tinh chỉnh nâng cao:</strong> Sử dụng các phương pháp từ họ mô hình Tülu 3 mới được phát hành, OLMo 2 tích hợp tinh chỉnh có giám sát, mô hình ưu tiên và học tăng cường để nâng cao khả năng làm theo hướng dẫn. Họ mô hình Tülu 3 cũng được Ai2 phát hành mã nguồn mở, cung cấp một nền tảng mã mở rộng cho các kỹ thuật như tinh chỉnh có giám sát (SFT), tối ưu hóa ưu tiên trực tiếp (DPO) và học tăng cường với phần thưởng có thể kiểm chứng (RLVR), cùng với bộ đánh giá chuẩn hóa.</li> </ul> <p><strong>4. Minh bạch và khả năng truy cập hoàn toàn</strong></p> <p>OLMo 2 không chỉ nổi bật về hiệu suất mà còn bởi cam kết về tính minh bạch. Không giống như nhiều mô hình trọng số mở khác chỉ phát hành các điểm kiểm tra cuối cùng, OLMo 2 cung cấp quyền truy cập đầy đủ vào trọng số, tập dữ liệu, các điểm kiểm tra trung gian và công thức huấn luyện. Mức độ mở này cho phép các nhà nghiên cứu và nhà phát triển kiểm tra, sao chép và xây dựng trên công việc một cách đầy đủ.</p> <p><strong>5. Kết luận</strong></p> <p>Với việc phát hành OLMo 2, hệ sinh thái AI mở đã tiến thêm một bước dài, đặc biệt là về mặt minh bạch. OLMo 2 minh chứng cho tiềm năng của các mô hình ngôn ngữ mở nguồn mở, đạt được hiệu suất cạnh tranh với các mô hình độc quyền và đồng thời thúc đẩy sự phát triển cộng đồng và đổi mới trong lĩnh vực AI.</p>

Mô hình ngôn ngữ mở OLMo 2: Một bước tiến vượt bậc trong cộng đồng AI mã nguồn mở

Mục lục Giới thiệu OLMo 2 Hiệu suất vượt trội của OLMo 2 Tập trung vào sự ổn định và hiệu quả Minh bạch và khả năng truy cập hoàn toàn ...

Read more »

Trí tuệ nhân tạo (AI) đã giúp tôi học tập như thế nào?

<p><strong>Mục lục:</strong></p> <ol> <li>Giới thiệu</li> <li>Perplexity AI: Công cụ tìm kiếm kết hợp chatbot AI</li> <li>ChatGPT và Google Gemini: Trợ lý đa năng dựa trên mô hình ngôn ngữ lớn (LLM)</li> <li>Otter AI: Trợ lý ghi chép và tóm tắt cuộc họp trực tuyến</li> <li>Gamma AI: Công cụ tạo bài thuyết trình PowerPoint</li> <li>Grammarly: Kiểm tra ngữ pháp và khả năng đọc</li> <li>Lời kết</li> </ol> <p><strong>1. Giới thiệu</strong></p> <p>Thị trường AI đang bùng nổ. Hàng loạt công cụ hỗ trợ AI ra đời với số liệu thống kê sử dụng đạt mức cao kỷ lục. Trong số hàng nghìn công cụ, ChatGPT và Google Gemini được cho là hai công cụ AI được sử dụng rộng rãi và phổ biến nhất. Tuy nhiên, vẫn còn rất nhiều công cụ AI khác có thể hữu ích cho bạn. Là một sinh viên, tôi sử dụng rất nhiều công cụ AI. Những công cụ này không chỉ giúp tôi học tập mà còn tăng năng suất tổng thể nếu được sử dụng đúng cách.</p> <p>Bài viết này dành cho những bạn sinh viên như tôi, những người muốn tìm hiểu về các công cụ AI hàng đầu có thể hỗ trợ học tập hiệu quả nhất. Kể từ khi công cụ AI LLM đầu tiên, ChatGPT, ra mắt, tôi đã sử dụng nhiều công cụ AI khác nhau và trong bài viết này, tôi đã tổng hợp danh sách 6 công cụ và nền tảng AI hàng đầu đã giúp tôi trong việc học tập. Bạn cũng nên thử những công cụ này và có thể nhận được lợi ích tuyệt vời từ chúng.</p> <p><strong>2. Perplexity AI: Công cụ tìm kiếm kết hợp chatbot AI</strong></p> <p>Perplexity AI là một công cụ tìm kiếm kết hợp với chatbot AI, và nó là một trong những công cụ AI yêu thích nhất của tôi từ trước đến nay. Bất cứ khi nào tôi cần tìm tài liệu cho bài tập, hoặc chỉ để nghiên cứu, tôi luôn sử dụng Perplexity AI.</p> <p><img alt="Perplexity AI Screenshot" src="https://www.ytechb.com/wp-content/uploads/2024/11/ai-tools-for-studies-1.webp"></p> <p>Công cụ này đảm bảo tôi nhận được câu trả lời chính xác cho câu hỏi của mình cùng với nguồn tham khảo phù hợp và lời giải thích chi tiết. Các công cụ tìm kiếm thông thường chỉ cung cấp các bài viết và tài liệu liên quan đến truy vấn tìm kiếm của bạn, tuy nhiên, Perplexity AI cung cấp cho bạn các câu trả lời chi tiết do AI tạo ra cho truy vấn của bạn, điều này có thể rất hữu ích trong nhiều trường hợp.</p> <p><a href="https://www.perplexity.ai/">Perplexity AI</a></p> <p><strong>3. ChatGPT và Google Gemini: Trợ lý đa năng dựa trên mô hình ngôn ngữ lớn (LLM)</strong></p> <p>Tất nhiên, khi nói về công cụ AI tập trung vào tính hữu dụng tổng thể hơn là một nhiệm vụ cụ thể, thì ChatGPT hoặc Gemini luôn là lựa chọn yêu thích của tôi. Cả hai đều là chatbot AI đa năng dựa trên LLM, mà bạn có thể sử dụng cho nhiều tác vụ khác nhau.</p> <p><img alt="ChatGPT and Google Gemini Screenshots" src="https://www.ytechb.com/wp-content/uploads/2024/11/ai-tools-for-studies-2.webp"></p> <p>Bạn có thể sử dụng các chatbot này để tóm tắt ghi chú PDF của mình hoặc tạo mã cho script Python. Bạn cũng có thể sử dụng chúng để đặt câu hỏi chung hoặc để giải thích một số chủ đề nhất định trong chương trình học của bạn. Tôi sử dụng ChatGPT để đặt câu hỏi liên quan đến chương trình học và Gemini cho mục đích nghiên cứu.</p> <p><a href="https://chatgpt.com/">ChatGPT</a> | <a href="https://gemini.google.com/?hl=en-US">Google Gemini</a></p> <p><strong>4. Otter AI: Trợ lý ghi chép và tóm tắt cuộc họp trực tuyến</strong></p> <p>Có thể bạn mới nghe đến công cụ này lần đầu. Nó không phổ biến như ChatGPT hay Gemini, nhưng hãy tin tôi, nó rất hữu ích. Giáo sư của tôi thỉnh thoảng vẫn tổ chức các lớp học trực tuyến để giải thích một số chủ đề.</p> <p><img alt="Otter AI Screenshot" src="https://www.ytechb.com/wp-content/uploads/2024/11/ai-tools-for-studies-4.webp"></p> <p>Trong trường hợp đó, Otter AI là người bạn đồng hành hoàn hảo của tôi. Bạn có thể dán liên kết của cuộc họp vào Otter AI và bot của nó sẽ tham gia cuộc họp và cung cấp cho bạn bản ghi và tóm tắt những gì đã diễn ra trong lớp học trực tuyến. Nó tương thích với Google Meet, Microsoft Teams và Zoom. Và trong quá trình sử dụng, tôi thấy nó khá chính xác.</p> <p><a href="https://otter.ai/">Otter AI</a></p> <p><strong>5. Gamma AI: Công cụ tạo bài thuyết trình PowerPoint</strong></p> <p>Đây cũng là một trong những công cụ AI mạnh mẽ nhất mà tôi từng sử dụng. Gamma AI dành riêng cho việc tạo bài thuyết trình PowerPoint. Là một sinh viên đại học, tôi phải chuẩn bị bài thuyết trình PowerPoint gần như mỗi tháng một lần cho các môn học của mình, vì đó là một phần trong chương trình học. Điều này cũng đúng với hầu hết các trường trung học và đại học. Vì vậy, nếu bạn cũng muốn tạo một bài thuyết trình PowerPoint đẹp mắt, thì bạn chắc chắn có thể sử dụng công cụ Gamma AI này.</p> <p><img alt="Gamma AI Screenshot" src="https://www.ytechb.com/wp-content/uploads/2024/11/ai-tools-for-studies-5.webp"></p> <p>Gamma miễn phí sử dụng và không yêu cầu bất kỳ chuyên môn nào. Chỉ cần nhập lời nhắc và số lượng slide cần thiết, và nó sẽ cung cấp cho bạn đầu ra cuối cùng. Tuy nhiên, bạn có thể thấy rằng "nội dung" bên trong PPT bị thiếu hoặc không đầy đủ, vì vậy trong những trường hợp như vậy, bạn có thể chỉnh sửa lại PPT để thêm chi tiết và các nội dung khác. Nhưng nó sẽ giúp bạn hoàn thành được 70% công việc trong hầu hết các trường hợp.</p> <p><a href="https://gamma.app/">Gamma App</a></p> <p><strong>6. Grammarly: Kiểm tra ngữ pháp và khả năng đọc</strong></p> <p>Grammarly là một công cụ khá phổ biến. Tôi sử dụng công cụ này để kiểm tra ngữ pháp và các lỗi về khả năng đọc trong các bài thuyết trình, luận văn và bài phát biểu mà tôi phải trình bày trong lớp. Phiên bản miễn phí của nó gần như hoàn hảo đối với một sinh viên như tôi.</p> <p><img alt="Grammarly Screenshot" src="https://www.ytechb.com/wp-content/uploads/2024/11/ai-tools-for-studies-6.webp"></p> <p>Tất cả những gì bạn phải làm là sao chép hoặc viết văn bản vào nền tảng và nó sẽ tự động xác định tất cả các lỗi. Không chỉ vậy, bạn cũng có thể sửa những lỗi đó chỉ bằng cách nhấp vào các từ được gạch chân. Sử dụng Grammarly đảm bảo rằng tất cả các bài tập và nhiệm vụ của tôi đều không có lỗi.</p> <p><a href="https://www.grammarly.com/">Grammarly</a></p> <p><strong>7. Lời kết</strong></p> <p>Trên đây là danh sách các công cụ AI mà tôi sử dụng trong cuộc sống hàng ngày với tư cách là một sinh viên. Những công cụ này không chỉ giúp việc học của tôi dễ dàng hơn mà còn giúp tôi năng suất hơn. Bạn cũng có thể thử những công cụ AI này và chắc chắn bạn sẽ thích chúng.</p> <p>Tuy nhiên, với tư cách là một sinh viên, điều quan trọng là không nên quá phụ thuộc vào những công cụ này. Bạn có thể sử dụng những công cụ này để bổ sung cho công việc của mình. Nói tóm lại, nếu bạn biết cách sử dụng những công cụ này một cách đúng đắn, thì chắc chắn bạn sẽ vượt trội hơn những sinh viên khác.</p> <p><img alt="YTECHB Logo" src="https://www.ytechb.com/wp-content/uploads/2021/05/logo.webp"> <img alt="Main Image" src="https://www.ytechb.com/wp-content/uploads/2024/11/ai-tools-for-studies.webp"></p>

Trí tuệ nhân tạo (AI) đã giúp tôi học tập như thế nào?

Mục lục: Giới thiệu Perplexity AI: Công cụ tìm kiếm kết hợp chatbot AI ChatGPT và Google Gemini: Trợ lý đa năng dựa trên mô hình ngôn ng...

Read more »