Cuộc đua trí tuệ nhân tạo tại nơi làm việc: Mỹ đang tụt hậu

<p><strong>Mục lục:</strong></p> <ol> <li>Sự bùng nổ của AI thế hệ mới trong môi trường làm việc</li> <li>Thế giới đang sử dụng AI thế hệ mới như thế nào?</li> <li>Mỹ: Đất nước của công nghệ hàng đầu nhưng lại tụt hậu về áp dụng AI</li> <li>Kết luận: Cơ hội và thách thức cho tương lai</li> </ol> <hr> <p><strong>1. Sự bùng nổ của AI thế hệ mới trong môi trường làm việc</strong></p> <p>Trí tuệ nhân tạo (AI) thế hệ mới, đặc biệt là các mô hình ngôn ngữ lớn (LLM) như ChatGPT của OpenAI và Llama của Meta, đang nhanh chóng thâm nhập vào môi trường làm việc toàn cầu. Một khảo sát gần đây của Microsoft và LinkedIn cho thấy, 75% người lao động trí thức trên toàn thế giới hiện đang sử dụng AI thế hệ mới trong công việc. Điều đáng chú ý là, sự áp dụng này thường xuất phát từ chính người lao động chứ không phải do các công ty chủ động triển khai. Ở nhiều quốc gia, đặc biệt là Trung Quốc và Mỹ, nhiều nhân viên thường xuyên sử dụng các công cụ AI thế hệ mới ngay cả khi công ty không cung cấp.</p> <p><strong>2. Thế giới đang sử dụng AI thế hệ mới như thế nào?</strong></p> <p>Thực tế cho thấy, tốc độ áp dụng AI thế hệ mới không đồng đều trên toàn cầu. Các quốc gia có thu nhập trung bình như Ấn Độ, Indonesia và Brazil đang chứng kiến tốc độ áp dụng nhanh nhất. Điều này cho thấy rằng, lực lượng lao động trẻ, năng động và am hiểu công nghệ ở các nước đang phát triển đang đóng vai trò quan trọng trong việc thu hẹp khoảng cách kỹ thuật số toàn cầu.</p> <p><img alt="Bản đồ thể hiện tỷ lệ người lao động toàn cầu sử dụng AI thế hệ mới tại nơi làm việc" src="https://fortune.com/img-assets/wp-content/uploads/2024/11/map_ai_featured_112524.png?w=1440&q=75"></p> <p><strong>3. Mỹ: Đất nước của công nghệ hàng đầu nhưng lại tụt hậu về áp dụng AI</strong></p> <p>Mặc dù Mỹ là quê hương của những nền tảng AI hàng đầu thế giới, nhưng lại đang tụt hậu so với các quốc gia có thu nhập trung bình về tỷ lệ áp dụng AI thế hệ mới. Điều này đặt ra câu hỏi về khả năng thích ứng và tận dụng công nghệ tiên tiến của chính quốc gia tiên phong trong lĩnh vực này. Có thể, sự chênh lệch này bắt nguồn từ nhiều yếu tố, trong đó bao gồm: chính sách công nghệ, sự sẵn sàng tiếp nhận công nghệ mới của các doanh nghiệp, cũng như sự hiểu biết và khả năng tiếp cận công nghệ của người lao động.</p> <p><strong>4. Kết luận: Cơ hội và thách thức cho tương lai</strong></p> <p>Sự phổ biến nhanh chóng của AI thế hệ mới tại nơi làm việc mang lại cả cơ hội và thách thức. Các quốc gia có tốc độ áp dụng cao có thể tận dụng AI để tăng năng suất lao động, thúc đẩy kinh tế và cải thiện cuộc sống người dân. Tuy nhiên, cần có các chính sách hỗ trợ, đào tạo và điều chỉnh để đảm bảo sự chuyển đổi này diễn ra một cách công bằng và bền vững. Đối với Mỹ, việc tụt hậu trong áp dụng AI là một thách thức lớn, đòi hỏi phải có sự đầu tư mạnh mẽ vào giáo dục, nghiên cứu và phát triển, cũng như chính sách hỗ trợ doanh nghiệp và người lao động thích ứng với công nghệ mới. Cuộc đua AI không chỉ là cuộc đua công nghệ, mà còn là cuộc đua về nguồn nhân lực và khả năng thích ứng với tương lai.</p>

Cuộc đua trí tuệ nhân tạo tại nơi làm việc: Mỹ đang tụt hậu

Mục lục: Sự bùng nổ của AI thế hệ mới trong môi trường làm việc Thế giới đang sử dụng AI thế hệ mới như thế nào? Mỹ: Đất nước của công n...

Read more »

NASA và Microsoft hợp tác tạo ra chatbot AI cho các nhà nghiên cứu

<p><strong>Mục lục</strong></p> <ol> <li>Giới thiệu</li> <li>Earth Copilot: Chatbot AI của NASA và Microsoft</li> <li>Khả năng của Earth Copilot</li> <li>Sáng kiến Khoa học Mở của NASA</li> <li>Tương lai của Earth Copilot</li> <li>Kết luận</li> </ol> <p><strong>1. Giới thiệu</strong></p> <p>Tin tức công nghệ gần đây đã chứng kiến sự hợp tác đầy hứa hẹn giữa NASA và Microsoft trong lĩnh vực trí tuệ nhân tạo (AI). Hai gã khổng lồ này cùng nhau phát triển một chatbot AI tiên tiến, hứa hẹn sẽ cách mạng hóa cách các nhà nghiên cứu tiếp cận và phân tích dữ liệu khoa học khổng lồ.</p> <p><strong>2. Earth Copilot: Chatbot AI của NASA và Microsoft</strong></p> <p>Sản phẩm của sự hợp tác này là <em>Earth Copilot</em>, một chatbot AI mạnh mẽ được xây dựng trên nền tảng Azure OpenAI Service của Microsoft. Earth Copilot được thiết kế để truy xuất và tổng hợp thông tin khoa học địa không gian khổng lồ của NASA, cung cấp cho người dùng khả năng tương tác trực tiếp với kho dữ liệu đồ sộ này thông qua các truy vấn ngôn ngữ tự nhiên.</p> <p><strong>3. Khả năng của Earth Copilot</strong></p> <p>Khả năng chính của Earth Copilot là khả năng trả lời các câu hỏi phức tạp về Trái Đất một cách nhanh chóng và hiệu quả. Thay vì phải tìm kiếm thủ công qua hàng terabyte dữ liệu, người dùng chỉ cần đặt câu hỏi bằng ngôn ngữ thông thường. Ví dụ, họ có thể hỏi: “Tác động của bão Ian đối với đảo Sanibel là gì?” hoặc “Đại dịch COVID-19 ảnh hưởng đến chất lượng không khí ở Mỹ như thế nào?”. Earth Copilot sẽ tự động tìm kiếm và tổng hợp dữ liệu liên quan, cung cấp câu trả lời chính xác và dễ hiểu.</p> <p><img alt="Image" src="https://blogs.microsoft.com/wp-content/uploads/prod/2024/11/NASA-Earth-Image-1.png"></p> <p><em>Bảng điều khiển EARTHDATA VEDA của NASA.</em></p> <p><strong>4. Sáng kiến Khoa học Mở của NASA</strong></p> <p>Việc phát triển Earth Copilot phù hợp với sáng kiến Khoa học Mở của NASA, nhằm mục đích tăng tính minh bạch, bao trùm và hợp tác trong nghiên cứu khoa học. Bằng cách cung cấp một công cụ dễ sử dụng và dễ tiếp cận, Earth Copilot giúp cho nhiều nhà nghiên cứu hơn có thể tham gia vào quá trình khám phá khoa học, bất kể trình độ chuyên môn của họ.</p> <p><strong>5. Tương lai của Earth Copilot</strong></p> <p>Hiện tại, Earth Copilot đang trong giai đoạn thử nghiệm nội bộ tại NASA. Sau khi đánh giá kỹ lưỡng, nhóm NASA IMPACT dự kiến sẽ tích hợp chatbot này vào nền tảng VEDA, mở rộng khả năng truy cập dữ liệu của cơ quan này. Việc tích hợp này sẽ giúp cho các nhà khoa học và nghiên cứu viên có thể tiếp cận và sử dụng dữ liệu NASA một cách hiệu quả hơn.</p> <p><strong>6. Kết luận</strong></p> <p>Sự hợp tác giữa NASA và Microsoft trong việc tạo ra Earth Copilot đánh dấu một bước tiến quan trọng trong việc ứng dụng AI vào nghiên cứu khoa học. Với khả năng truy xuất và tổng hợp dữ liệu khổng lồ một cách dễ dàng, Earth Copilot hứa hẹn sẽ thúc đẩy những khám phá khoa học mới, hỗ trợ ra quyết định chính sách và góp phần giải quyết các thách thức toàn cầu.</p> <div class="duet--article--article-body-component"> <div class="duet--article--article-body-component"> <p><iframe title="Earth Copilot: NASA's new AI tool" width="696" height="522" src="https://www.youtube.com/embed/YJs6kU4BtR4?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen=""></iframe></p> </div> </div> <p><img alt="Image" src="https://iblnews.org/wp-content/uploads/2024/11/nasaai.jpg"></p> <p><em>Hình ảnh minh họa về Earth Copilot.</em></p>

NASA và Microsoft hợp tác tạo ra chatbot AI cho các nhà nghiên cứu

Mục lục Giới thiệu Earth Copilot: Chatbot AI của NASA và Microsoft Khả năng của Earth Copilot Sáng kiến Khoa học Mở của NASA Tương lai...

Read more »

Trường học với gia sư AI: Gần hơn bạn nghĩ

<p><strong>Mục lục:</strong></p> <ol> <li>Một bước đột phá: Gia sư AI có thể thay đổi cục diện</li> <li>Gia sư AI: Xu hướng tương lai?</li> <li>Lợi ích của gia sư AI đối với học sinh</li> <li>Những phản đối của giáo viên đối với gia sư AI</li> <li>Gia sư AI: Hỗ trợ, không thay thế giáo viên</li> <li>Công nghệ tạo ra cách tiếp cận mới cho giáo dục</li> </ol> <hr> <ol> <li><strong>Một bước đột phá: Gia sư AI có thể thay đổi cục diện</strong></li> </ol> <p>Trí tuệ nhân tạo (AI) đã mang đến cho chúng ta nhiều công nghệ tuyệt vời - hãy nghĩ đến việc tạo nghệ thuật bằng AI hoặc xây dựng toàn bộ trò chơi một cách dễ dàng. Giờ đây, AI đang bước vào lớp học. David Game College, một trường tư thục ở London, đã thiết lập một lớp học được hỗ trợ bởi AI, nơi 20 học sinh sẽ chuẩn bị cho kỳ thi GCSE với sự trợ giúp ảo. Đây có phải là dấu hiệu của điều gì đó tuyệt vời, hay nó vẽ nên một tương lai ảm đạm nơi những gì chúng ta học được đến từ một cỗ máy?</p> <p><img alt="Pixel art of a robot teacher." src="https://static1.howtogeekimages.com/wordpress/wp-content/uploads/2024/11/pixel-art-of-a-robot-teacher.png"></p> <ol start="2"> <li><strong>Gia sư AI: Xu hướng tương lai?</strong></li> </ol> <p>Hệ thống AI sẽ theo dõi cách mỗi học sinh học tập và những điểm họ gặp khó khăn, cung cấp hỗ trợ cá nhân hóa hơn ở những nơi cần thiết nhất. Giống như có một gia sư luôn sẵn sàng 24/7, tập trung vào việc giúp các học sinh này đạt được tiềm năng tối đa của họ trong một trong những kỳ thi quan trọng nhất đời họ.</p> <p>Tuy nhiên, không phải ai cũng tin rằng đây là cách tốt nhất để tiến về phía trước. Mặc dù tác động của AI đối với các ngành công nghiệp như bán lẻ và giải trí khá lớn, nhưng vẫn có mối lo ngại rằng nó có thể lấy đi việc làm trong giáo dục hoặc dẫn dắt học sinh đi sai hướng. Đây là trọng tâm của cuộc tranh luận về việc liệu gia sư AI cuối cùng có thể thay thế giáo viên trong lớp học hay không.</p> <ol start="3"> <li><strong>Lợi ích của gia sư AI đối với học sinh</strong></li> </ol> <p>Với gia sư AI, việc học tập không bao giờ phải dừng lại. Nếu bạn có câu hỏi vào giữa đêm hoặc trước một bài kiểm tra lớn, AI sẽ ở đó để giúp đỡ - bất kể thời gian. Chắc chắn, một số giáo viên có sẵn ngoài giờ học, nhưng luôn có rủi ro là họ có thể bận rộn với công việc của riêng mình. Còn gia sư AI thì sao? Luôn luôn hoạt động.</p> <p><img alt="A ChatGPT AI tutor robot helping a boy." src="https://static1.howtogeekimages.com/wordpress/wp-content/uploads/2024/07/a-chatgpt-ai-tutor-robot-helping-a-boy.jpg"></p> <p>Bạn có bao giờ cảm thấy mình không có đủ thời gian hướng dẫn riêng với giáo viên không? Gia sư AI là hoàn hảo cho điều này. Lớp học nhỏ hơn có thể dẫn đến học sinh năng động hơn. Họ có thể thích ứng với phong cách và nhu cầu học tập của từng học sinh, tập trung vào các lĩnh vực mà bạn có thể đang gặp khó khăn. Giống như có một gia sư liên tục điều chỉnh cách tiếp cận của họ để giúp bạn.</p> <p>Học bằng cách làm thường là cách tốt nhất để nắm bắt một điều gì đó. Gia sư AI có thể tạo ra các bài học tương tác cho phép học sinh nhìn thấy các khái niệm hoạt động như thế nào. Khi kết hợp với thực tế ảo (VR), điều này sẽ đưa mọi thứ lên một tầm cao mới - học sinh có thể thực sự trải nghiệm những gì họ đang học trong một môi trường ảo.</p> <ol start="4"> <li><strong>Những phản đối của giáo viên đối với gia sư AI</strong></li> </ol> <p>Mối lo ngại lớn ở đây là AI cuối cùng có thể thay thế giáo viên. Chúng ta đã thấy điều này xảy ra ở các ngành công nghiệp khác, nơi việc làm được tự động hóa, khiến người lao động mất việc. Các nhà giáo dục không quá hào hứng với ý tưởng bị thay thế, và họ cũng lo lắng về chất lượng học tập mà AI có thể cung cấp.</p> <p><img alt="An AI-generated imaged of a 3D-printed exclamation mark" src="https://static1.howtogeekimages.com/wordpress/wp-content/uploads/2024/08/an-ai-generated-imaged-of-a-3d-printed-exclamation-mark.png"></p> <p>Một vấn đề là AI không hoàn hảo - nó vẫn được biết là "ảo tưởng" và bịa đặt sự thật. Nếu học sinh nhận được thông tin từ một AI không chính xác 100%, họ có thể bị dẫn dắt sai hướng. Với rất nhiều người đã lo lắng về tính chính xác của thông tin, điều này chỉ khiến việc phân biệt sự thật với hư cấu càng khó khăn hơn. AI rất tuyệt, nhưng nó sẽ càng tốt hơn nếu nó hoạt động cùng với các giáo viên thay vì thay thế họ.</p> <ol start="5"> <li><strong>Gia sư AI: Hỗ trợ, không thay thế giáo viên</strong></li> </ol> <p>Kịch bản lý tưởng? Gia sư AI làm việc cùng với các giáo viên. Học sinh được hưởng lợi từ sự trợ giúp luôn có sẵn, trong khi giáo viên có thể can thiệp khi cần thiết để làm rõ những hiểu lầm hoặc cung cấp các lời giải thích sâu sắc hơn. Thêm vào đó, AI có thể giúp giáo viên bằng cách cung cấp phản hồi về hiệu quả học tập của học sinh và chỉ ra những lĩnh vực mà học sinh đang gặp khó khăn, giúp toàn bộ quá trình giảng dạy hiệu quả hơn.</p> <ol start="6"> <li><strong>Công nghệ tạo ra cách tiếp cận mới cho giáo dục</strong></li> </ol> <p>Chúng ta chắc chắn đang ở ngưỡng cửa của một điều gì đó lớn lao khi nói đến AI trong giáo dục. Nhưng liệu việc thay thế giáo viên bằng gia sư AI có phải là bước đi đúng đắn? Có lẽ là không. Thí nghiệm tại David Game College là một cách tốt để kiểm tra xem AI có thể phù hợp với lớp học như thế nào mà không cần thay thế hoàn toàn giáo viên, và tôi sẽ theo dõi kết quả lâu dài với sự quan tâm.</p> <p>Với sự kết hợp của VR và AI, chúng ta có thể thấy một tương lai nơi việc học tập trở nên tương tác, cá nhân hóa và hiệu quả hơn. Ai biết được? Đây có thể là bước nhảy vọt tiếp theo cho giáo dục, giống như internet đã từng làm được. Có lẽ một ngày nào đó, học sinh sẽ nhảy vào các lớp học ảo, giống như trong <em>Ready Player One</em>. Tương lai của việc học tập có thể chỉ ở đây.</p> <hr>

Trường học với gia sư AI: Gần hơn bạn nghĩ

Mục lục: Một bước đột phá: Gia sư AI có thể thay đổi cục diện Gia sư AI: Xu hướng tương lai? Lợi ích của gia sư AI đối với học sinh Nhữ...

Read more »

230 Triệu Người Dùng Trí Tuệ Nhân Tạo Thế Hệ Mới tại Trung Quốc

<p><strong>Mục lục</strong></p> <ol> <li>Số lượng người dùng GenAI khổng lồ</li> <li>Ernie Bot dẫn đầu thị trường GenAI nội địa</li> <li>Ứng dụng đa dạng của GenAI và LLM</li> <li>Sự bùng nổ của các sản phẩm GenAI tại Trung Quốc</li> <li>Thách thức đối với các công ty AI Trung Quốc</li> </ol> <p><strong>1. Số lượng người dùng GenAI khổng lồ</strong></p> <p>Theo số liệu chính phủ Trung Quốc, đến cuối tháng 6 năm 2024, đã có 230 triệu người dùng trí tuệ nhân tạo thế hệ mới (GenAI) tại Trung Quốc. Con số này chiếm khoảng 1/6 tổng số người dùng internet tại thị trường internet lớn nhất thế giới. Thông tin này được công bố trong báo cáo của Trung tâm Thông tin Mạng Internet Trung Quốc (CNNIC) vào cuối tuần.</p> <p><strong>2. Ernie Bot dẫn đầu thị trường GenAI nội địa</strong></p> <p>Báo cáo của CNNIC chỉ ra rằng Ernie Bot của gã khổng lồ công nghệ Baidu (được biết đến với tên gọi Văn Tự Ngôn - Wenxiaoyan trong tiếng Trung) là sản phẩm GenAI được sử dụng phổ biến nhất trong nước, chiếm 11,5% thị phần. Theo sau là ChatGPT của OpenAI và Gemini của Google, với lần lượt 7% và 3,8% thị phần. Tuy nhiên, cần lưu ý rằng hai dịch vụ của Mỹ này hiện chưa được cung cấp chính thức tại Trung Quốc đại lục.</p> <p><strong>3. Ứng dụng đa dạng của GenAI và LLM</strong></p> <p>Gần 2/3 người dùng GenAI tại Trung Quốc sử dụng các dịch vụ LLM để trả lời câu hỏi, trong khi 1/3 còn lại sử dụng chúng như trợ lý làm việc, tạo bản ghi và slide họp.</p> <p><strong>4. Sự bùng nổ của các sản phẩm GenAI tại Trung Quốc</strong></p> <p>Tính đến tháng 11 năm 2024, hơn 309 sản phẩm GenAI đã đăng ký LLM của họ với cơ quan quản lý internet Trung Quốc. Bắc Kinh chiếm 96 sản phẩm và Thượng Hải chiếm 84 sản phẩm. Trong số các dịch vụ đã đăng ký, hơn 190 sản phẩm đã được phê duyệt và cung cấp dịch vụ thương mại cho công chúng tính đến tháng 7 năm 2024 (theo dữ liệu từ cơ quan giám sát internet Cyberspace Administration of China, được trích dẫn trong báo cáo của CNNIC).</p> <p>Số lượng người dùng GenAI khổng lồ tại Trung Quốc cho thấy sự gia tăng nhanh chóng việc áp dụng LLM tại nền kinh tế lớn thứ hai thế giới. Các công ty trong nước đang nỗ lực để thu hẹp khoảng cách với Mỹ sau khi OpenAI tạo nên cơn sốt toàn cầu với ChatGPT vào năm 2022. Tất cả các công ty công nghệ lớn ở Trung Quốc đều đã tung ra LLM của riêng mình cho cả người tiêu dùng và doanh nghiệp. Sự nổi lên của các công ty khởi nghiệp, bao gồm bốn "con hổ AI" là Baichuan, Zhipu AI, Moonshot AI và MiniMax, đang thu hút sự chú ý ngày càng tăng từ người dùng và nhà đầu tư. Gần 200 LLM thương mại tại Trung Quốc đã thu hút hơn 600 triệu người dùng đăng ký (theo thống kê của một quan chức Bộ Công nghiệp và Công nghệ thông tin Trung Quốc vào tháng 10 năm 2024).</p> <img alt="Ảnh người dùng đang thử nghiệm Ernie Bot" src="https://cdn.i-scmp.com/sites/default/files/styles/1020x680/public/d8/images/canvas/2024/12/02/cf60b627-3294-4024-b9b3-9b3773a076ea_feb80918.jpg?itok=kIq79ife&v=1733129359"> <p><strong>5. Thách thức đối với các công ty AI Trung Quốc</strong></p> <p>Các công ty AI Trung Quốc phải đối mặt với những hạn chế về phần cứng do chính phủ Mỹ áp đặt các biện pháp hạn chế đối với các nhà cung cấp Mỹ như Nvidia trong việc bán các đơn vị xử lý đồ họa tiên tiến cho Trung Quốc.</p> <img alt="Ảnh minh họa về người dùng GenAI" src="https://img.i-scmp.com/cdn-cgi/image/fit=contain,width=1024,format=auto/sites/default/files/d8/images/canvas/2024/12/02/a9e78622-f63c-4c25-ab35-be06bf8fe697_3466fe1e.jpg">

230 Triệu Người Dùng Trí Tuệ Nhân Tạo Thế Hệ Mới tại Trung Quốc

Mục lục Số lượng người dùng GenAI khổng lồ Ernie Bot dẫn đầu thị trường GenAI nội địa Ứng dụng đa dạng của GenAI và LLM Sự bùng nổ của ...

Read more »

Google ra mắt Gemini 2.0: Mô hình AI mạnh mẽ cho kỷ nguyên tác động

<p><strong>Mục lục</strong></p> <ol> <li>Lời nhắn từ CEO Google</li> <li>Giới thiệu Gemini 2.0</li> <li>Gemini 2.0 Flash</li> <li>Trải nghiệm tác động với Gemini 2.0: Project Astra, Project Mariner và Jules</li> <li>Xây dựng có trách nhiệm</li> </ol> <hr /> <h2>1. Lời nhắn từ CEO Google</h2> <p><img alt="SundarPichai_2x.jpg" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/images/SundarPichai_2x.max-208x156.format-webp.webp" /></p> <p><strong>Sundar Pichai, CEO của Google và Alphabet, chia sẻ:</strong></p> <p>Thông tin là nền tảng của tiến bộ nhân loại. Đó là lý do trong hơn 26 năm qua, chúng tôi luôn tập trung vào sứ mệnh sắp xếp thông tin toàn cầu, làm cho nó dễ truy cập và hữu ích. Và đó cũng là lý do chúng tôi liên tục thúc đẩy ranh giới của AI để sắp xếp thông tin trên mọi đầu vào và làm cho nó có thể truy cập thông qua bất kỳ đầu ra nào, để nó thực sự hữu ích cho bạn.</p> <p>Đó là tầm nhìn của chúng tôi khi chúng tôi giới thiệu Gemini 1.0 vào tháng 12 năm ngoái. Là mô hình đầu tiên được xây dựng để đa phương thức, Gemini 1.0 và 1.5 đã thúc đẩy những tiến bộ lớn về khả năng đa phương thức và ngữ cảnh dài để hiểu thông tin trên văn bản, video, hình ảnh, âm thanh và mã, cũng như xử lý nhiều thông tin hơn.</p> <p>Hiện tại, hàng triệu nhà phát triển đang xây dựng với Gemini. Và nó đang giúp chúng tôi tái thiết kế lại tất cả các sản phẩm của mình — bao gồm cả 7 sản phẩm với 2 tỷ người dùng — và tạo ra những sản phẩm mới. NotebookLM là một ví dụ tuyệt vời về những gì đa phương thức và ngữ cảnh dài có thể mang lại cho mọi người, và lý do tại sao nó được rất nhiều người yêu thích.</p> <p>Trong năm qua, chúng tôi đã đầu tư vào việc phát triển các mô hình tác động nhiều hơn, có nghĩa là chúng có thể hiểu rõ hơn về thế giới xung quanh bạn, suy nghĩ trước nhiều bước và hành động thay mặt bạn, dưới sự giám sát của bạn.</p> <p>Hôm nay, chúng tôi rất vui mừng ra mắt kỷ nguyên tiếp theo của các mô hình được xây dựng cho kỷ nguyên tác động mới này: giới thiệu Gemini 2.0, mô hình mạnh mẽ nhất của chúng tôi cho đến nay. Với những tiến bộ mới về đa phương thức — như đầu ra hình ảnh và âm thanh gốc — và việc sử dụng công cụ gốc, nó sẽ cho phép chúng tôi xây dựng các tác nhân AI mới đưa chúng ta đến gần hơn với tầm nhìn về một trợ lý toàn diện.</p> <p>Chúng tôi đang cung cấp Gemini 2.0 cho các nhà phát triển và những người thử nghiệm đáng tin cậy ngay hôm nay. Và chúng tôi đang làm việc nhanh chóng để đưa nó vào các sản phẩm của mình, bắt đầu với Gemini và Tìm kiếm. Bắt đầu từ hôm nay, mô hình thử nghiệm Gemini 2.0 Flash sẽ có sẵn cho tất cả người dùng Gemini. Chúng tôi cũng đang ra mắt một tính năng mới có tên là Deep Research, sử dụng khả năng lập luận nâng cao và ngữ cảnh dài để hoạt động như một trợ lý nghiên cứu, khám phá các chủ đề phức tạp và biên soạn báo cáo thay cho bạn. Nó hiện có sẵn trong Gemini Advanced ngay hôm nay.</p> <p>Chưa có sản phẩm nào được chuyển đổi nhiều hơn bởi AI hơn Tìm kiếm. Tổng quan AI của chúng tôi hiện tiếp cận 1 tỷ người, cho phép họ đặt ra các loại câu hỏi hoàn toàn mới — nhanh chóng trở thành một trong những tính năng Tìm kiếm phổ biến nhất của chúng tôi từ trước đến nay. Là bước tiếp theo, chúng tôi đang đưa khả năng lập luận nâng cao của Gemini 2.0 vào Tổng quan AI để giải quyết các chủ đề phức tạp hơn và các câu hỏi nhiều bước, bao gồm cả các phương trình toán học nâng cao, truy vấn đa phương thức và mã hóa. Chúng tôi đã bắt đầu thử nghiệm giới hạn vào tuần này và sẽ triển khai rộng rãi hơn vào đầu năm tới. Và chúng tôi sẽ tiếp tục đưa Tổng quan AI đến nhiều quốc gia và ngôn ngữ hơn trong năm tới.</p> <p>Những tiến bộ của Gemini 2.0 dựa trên những khoản đầu tư kéo dài hàng thập kỷ vào cách tiếp cận toàn diện khác biệt của chúng tôi đối với đổi mới AI. Nó được xây dựng trên phần cứng tùy chỉnh như Trillium, TPU thế hệ thứ sáu của chúng tôi. TPU đã cung cấp sức mạnh cho 100% quá trình huấn luyện và suy luận của Gemini 2.0, và hôm nay Trillium đã được cung cấp rộng rãi cho khách hàng để họ cũng có thể xây dựng với nó.</p> <p>Nếu Gemini 1.0 là về việc sắp xếp và hiểu thông tin, thì Gemini 2.0 là về việc làm cho nó hữu ích hơn nhiều. Tôi không thể chờ đợi để xem kỷ nguyên tiếp theo này mang lại điều gì.</p> <p>-Sundar</p> <hr /> <h2>2. Giới thiệu Gemini 2.0</h2> <p><img alt="Demis_headshot" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/images/Demis_headshot.max-244x184.format-webp.webp" /> <img alt="koray" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/images/koray.max-244x184.format-webp.webp" /></p> <p><strong>Demis Hassabis, CEO của Google DeepMind và Koray Kavukcuoglu, CTO của Google DeepMind thay mặt cho nhóm Gemini:</strong></p> <p>Trong năm qua, chúng tôi đã tiếp tục đạt được những tiến bộ đáng kinh ngạc trong lĩnh vực trí tuệ nhân tạo. Hôm nay, chúng tôi đang phát hành mô hình đầu tiên trong nhóm mô hình Gemini 2.0: một phiên bản thử nghiệm của Gemini 2.0 Flash. Đây là mô hình làm việc chính của chúng tôi với độ trễ thấp và hiệu năng được nâng cao ở vị trí hàng đầu của công nghệ của chúng tôi, ở quy mô lớn.</p> <p>Chúng tôi cũng đang chia sẻ những tiến bộ của nghiên cứu tác động của mình bằng cách trưng bày các nguyên mẫu được hỗ trợ bởi khả năng đa phương thức gốc của Gemini 2.0.</p> <hr /> <h2>3. Gemini 2.0 Flash</h2> <p>Gemini 2.0 Flash được xây dựng dựa trên thành công của 1.5 Flash, mô hình phổ biến nhất của chúng tôi cho các nhà phát triển cho đến nay, với hiệu năng được nâng cao ở thời gian phản hồi nhanh tương tự. Đáng chú ý, 2.0 Flash thậm chí còn vượt trội hơn 1.5 Pro trên các điểm chuẩn chính, với tốc độ gấp đôi. 2.0 Flash cũng đi kèm với các khả năng mới. Ngoài hỗ trợ đầu vào đa phương thức như hình ảnh, video và âm thanh, 2.0 Flash hiện hỗ trợ đầu ra đa phương thức như hình ảnh được tạo gốc kết hợp với văn bản và giọng nói được điều khiển (TTS) âm thanh đa ngôn ngữ. Nó cũng có thể gọi các công cụ như Tìm kiếm Google, thực thi mã cũng như các hàm do người dùng xác định của bên thứ ba.</p> <p><img alt="A chart comparing Gemini models and their capabilities" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/original_images/gemini_benchmarks_narrow_light2x.gif" /></p> <p>Mục tiêu của chúng tôi là đưa các mô hình của mình vào tay mọi người một cách an toàn và nhanh chóng. Trong tháng qua, chúng tôi đã chia sẻ các phiên bản thử nghiệm ban đầu của Gemini 2.0, nhận được phản hồi tuyệt vời từ các nhà phát triển.</p> <p>Gemini 2.0 Flash hiện có sẵn dưới dạng mô hình thử nghiệm cho các nhà phát triển thông qua API Gemini trong Google AI Studio và Vertex AI với đầu vào đa phương thức và đầu ra văn bản có sẵn cho tất cả các nhà phát triển, và tạo hình ảnh gốc và văn bản-thành-giọng nói có sẵn cho các đối tác truy cập sớm. Khả năng sử dụng chung sẽ tiếp theo vào tháng Giêng, cùng với nhiều kích thước mô hình hơn. Để giúp các nhà phát triển xây dựng các ứng dụng năng động và tương tác, chúng tôi cũng đang phát hành một API Trực tiếp Đa phương thức mới có đầu vào âm thanh, video phát trực tuyến thời gian thực và khả năng sử dụng nhiều công cụ kết hợp. Thông tin thêm về 2.0 Flash và API Trực tiếp Đa phương thức có thể được tìm thấy trong blog dành cho nhà phát triển của chúng tôi.</p> <p><strong>Gemini 2.0 có sẵn trong ứng dụng Gemini, trợ lý AI của chúng tôi:</strong></p> <p>Bắt đầu từ hôm nay, người dùng Gemini trên toàn cầu có thể truy cập phiên bản thử nghiệm 2.0 Flash được tối ưu hóa cho trò chuyện bằng cách chọn nó trong trình đơn thả xuống mô hình trên máy tính để bàn và web di động và nó sẽ sớm có sẵn trong ứng dụng di động Gemini. Với mô hình mới này, người dùng có thể trải nghiệm trợ lý Gemini hữu ích hơn nữa.</p> <p>Vào đầu năm tới, chúng tôi sẽ mở rộng Gemini 2.0 sang nhiều sản phẩm Google hơn.</p> <hr /> <h2>4. Trải nghiệm tác động với Gemini 2.0: Project Astra, Project Mariner và Jules</h2> <p>Khả năng hành động giao diện người dùng gốc của Gemini 2.0 Flash, cùng với các cải tiến khác như lập luận đa phương thức, khả năng hiểu ngữ cảnh dài, làm theo hướng dẫn phức tạp và lập kế hoạch, gọi hàm tổng hợp, sử dụng công cụ gốc và độ trễ được cải thiện, tất cả đều hoạt động cùng nhau để tạo ra một lớp trải nghiệm tác động mới.</p> <p>Ứng dụng thực tế của các tác nhân AI là một lĩnh vực nghiên cứu đầy những khả năng thú vị. Chúng tôi đang khám phá ranh giới mới này với một loạt các nguyên mẫu có thể giúp mọi người hoàn thành các nhiệm vụ và hoàn thành công việc. Chúng bao gồm bản cập nhật cho Project Astra, nguyên mẫu nghiên cứu của chúng tôi khám phá các khả năng trong tương lai của một trợ lý AI toàn diện; Project Mariner mới, khám phá tương lai của tương tác giữa người và tác nhân, bắt đầu từ trình duyệt của bạn; và Jules, một tác nhân mã được hỗ trợ bởi AI có thể giúp các nhà phát triển.</p> <p>Chúng tôi vẫn đang trong giai đoạn phát triển ban đầu, nhưng chúng tôi rất hào hứng khi thấy những người thử nghiệm đáng tin cậy sử dụng các khả năng mới này và những bài học mà chúng ta có thể học được, để chúng ta có thể làm cho chúng có sẵn rộng rãi hơn trong các sản phẩm trong tương lai.</p> <h3>Project Astra: các tác nhân sử dụng sự hiểu biết đa phương thức trong thế giới thực</h3> <p>Kể từ khi chúng tôi giới thiệu Project Astra tại I/O, chúng tôi đã học hỏi từ những người thử nghiệm đáng tin cậy sử dụng nó trên điện thoại Android. Phản hồi quý báu của họ đã giúp chúng tôi hiểu rõ hơn về cách một trợ lý AI toàn diện có thể hoạt động trong thực tế, bao gồm cả những ảnh hưởng đến an toàn và đạo đức. Những cải tiến trong phiên bản mới nhất được xây dựng với Gemini 2.0 bao gồm:</p> <ul> <li><strong>Hội thoại tốt hơn:</strong> Project Astra giờ đây có khả năng trò chuyện bằng nhiều ngôn ngữ và bằng nhiều ngôn ngữ hỗn hợp, với khả năng hiểu tốt hơn về giọng điệu và các từ không phổ biến.</li> <li><strong>Sử dụng công cụ mới:</strong> Với Gemini 2.0, Project Astra có thể sử dụng Tìm kiếm Google, Lens và Bản đồ, làm cho nó hữu ích hơn như một trợ lý trong cuộc sống hàng ngày của bạn.</li> <li><strong>Bộ nhớ được cải thiện:</strong> Chúng tôi đã cải thiện khả năng ghi nhớ của Project Astra trong khi vẫn giữ cho bạn quyền kiểm soát. Giờ đây, nó có bộ nhớ trong phiên lên tới 10 phút và có thể nhớ nhiều cuộc trò chuyện hơn mà bạn đã có với nó trong quá khứ, vì vậy nó được cá nhân hóa tốt hơn cho bạn.</li> <li><strong>Độ trễ được cải thiện:</strong> Với các khả năng phát trực tuyến mới và khả năng hiểu âm thanh gốc, tác nhân có thể hiểu ngôn ngữ ở độ trễ xấp xỉ như tốc độ trò chuyện của con người.</li> </ul> <p>Chúng tôi đang làm việc để đưa các loại khả năng này vào các sản phẩm Google như ứng dụng Gemini, trợ lý AI của chúng tôi, và vào các yếu tố hình thức khác như kính. Và chúng tôi đang bắt đầu mở rộng chương trình thử nghiệm đáng tin cậy của mình cho nhiều người hơn, bao gồm cả một nhóm nhỏ sẽ sớm bắt đầu thử nghiệm Project Astra trên các mẫu kính.</p> <h3>Project Mariner: các tác nhân có thể giúp bạn hoàn thành các nhiệm vụ phức tạp</h3> <p>Project Mariner là một nguyên mẫu nghiên cứu ban đầu được xây dựng bằng Gemini 2.0, khám phá tương lai của tương tác giữa người và tác nhân, bắt đầu từ trình duyệt của bạn. Là một nguyên mẫu nghiên cứu, nó có thể hiểu và lập luận trên các thông tin trên màn hình trình duyệt của bạn, bao gồm cả pixel và các yếu tố web như văn bản, mã, hình ảnh và biểu mẫu, và sau đó sử dụng thông tin đó thông qua tiện ích mở rộng Chrome thử nghiệm để hoàn thành các nhiệm vụ cho bạn.</p> <p>Khi được đánh giá trên điểm chuẩn WebVoyager, đánh giá hiệu suất của tác nhân đối với các nhiệm vụ web thực tế trên toàn bộ quá trình, Project Mariner đã đạt được kết quả tốt nhất là 83,5% khi hoạt động dưới dạng thiết lập tác nhân đơn.</p> <p>Vẫn còn sớm, nhưng Project Mariner cho thấy rằng về mặt kỹ thuật, việc điều hướng bên trong trình duyệt đang trở nên khả thi, mặc dù nó không phải lúc nào cũng chính xác và chậm trong việc hoàn thành các nhiệm vụ hiện nay, điều này sẽ được cải thiện nhanh chóng theo thời gian.</p> <p>Để xây dựng điều này một cách an toàn và có trách nhiệm, chúng tôi đang tiến hành nghiên cứu tích cực về các loại rủi ro và giải pháp giảm thiểu mới, đồng thời giữ cho con người trong vòng lặp. Ví dụ: Project Mariner chỉ có thể nhập, cuộn hoặc nhấp vào tab đang hoạt động trên trình duyệt của bạn và nó yêu cầu người dùng xác nhận cuối cùng trước khi thực hiện một số hành động nhạy cảm nhất định, chẳng hạn như mua thứ gì đó.</p> <p>Những người thử nghiệm đáng tin cậy đang bắt đầu thử nghiệm Project Mariner bằng cách sử dụng tiện ích mở rộng Chrome thử nghiệm ngay bây giờ, và chúng tôi đang bắt đầu các cuộc trò chuyện với hệ sinh thái web song song.</p> <h3>Jules: tác nhân dành cho nhà phát triển</h3> <p>Tiếp theo, chúng tôi đang khám phá cách các tác nhân AI có thể hỗ trợ các nhà phát triển với Jules — một tác nhân mã được hỗ trợ bởi AI thử nghiệm tích hợp trực tiếp vào quy trình làm việc của GitHub. Nó có thể giải quyết một vấn đề, phát triển một kế hoạch và thực hiện nó, tất cả đều dưới sự hướng dẫn và giám sát của nhà phát triển. Nỗ lực này là một phần trong mục tiêu dài hạn của chúng tôi là xây dựng các tác nhân AI hữu ích trong tất cả các lĩnh vực, bao gồm cả mã hóa.</p> <p>Thông tin thêm về thí nghiệm đang diễn ra này có thể được tìm thấy trong bài đăng trên blog dành cho nhà phát triển của chúng tôi.</p> <p> <video controls=""> <source src="https://storage.googleapis.com/gweb-uniblog-publish-prod/original_videos/Jules_GIF_3D_10_1.mp4" type="video/mp4"></source> Your browser does not support the video tag. </video> </p> <h3>Tác nhân trong trò chơi và các lĩnh vực khác</h3> <p>Google DeepMind có lịch sử lâu dài về việc sử dụng trò chơi để giúp các mô hình AI trở nên giỏi hơn trong việc tuân theo các quy tắc, lập kế hoạch và logic. Chỉ tuần trước, ví dụ, chúng tôi đã giới thiệu Genie 2, mô hình AI của chúng tôi có thể tạo ra vô số thế giới 3D có thể chơi được — tất cả từ một hình ảnh duy nhất. Xây dựng trên truyền thống này, chúng tôi đã xây dựng các tác nhân sử dụng Gemini 2.0 có thể giúp bạn điều hướng thế giới ảo của trò chơi điện tử. Nó có thể lập luận về trò chơi dựa hoàn toàn trên hành động trên màn hình và đưa ra các đề xuất về những việc cần làm tiếp theo trong cuộc trò chuyện thời gian thực.</p> <p>Chúng tôi đang hợp tác với các nhà phát triển trò chơi hàng đầu như Supercell để khám phá cách các tác nhân này hoạt động, kiểm tra khả năng diễn giải quy tắc và thách thức của họ trên nhiều trò chơi đa dạng, từ các tựa game chiến lược như “Clash of Clans” đến các trình mô phỏng nông trại như “Hay Day”.</p> <p>Ngoài việc đóng vai trò là bạn đồng hành chơi game ảo, những tác nhân này thậm chí còn có thể khai thác Tìm kiếm Google để kết nối bạn với kho kiến thức trò chơi trên web.</p> <p>Ngoài việc khám phá các khả năng tác động trong thế giới ảo, chúng tôi đang thử nghiệm với các tác nhân có thể giúp đỡ trong thế giới vật lý bằng cách áp dụng khả năng lập luận không gian của Gemini 2.0 vào robot học. Mặc dù vẫn còn sớm, nhưng chúng tôi rất hào hứng với tiềm năng của các tác nhân có thể hỗ trợ trong môi trường vật lý.</p> <p>Bạn có thể tìm hiểu thêm về các nguyên mẫu và thử nghiệm nghiên cứu này tại labs.google.</p> <hr /> <h2>5. Xây dựng có trách nhiệm trong kỷ nguyên tác động</h2> <p>Gemini 2.0 Flash và các nguyên mẫu nghiên cứu của chúng tôi cho phép chúng tôi kiểm tra và lặp lại các khả năng mới ở vị trí hàng đầu của nghiên cứu AI, cuối cùng sẽ giúp các sản phẩm Google trở nên hữu ích hơn.</p> <p>Khi phát triển những công nghệ mới này, chúng tôi nhận ra trách nhiệm mà nó mang lại và những câu hỏi mà các tác nhân AI đặt ra đối với an toàn và bảo mật. Đó là lý do tại sao chúng tôi đang thực hiện một cách tiếp cận khám phá và dần dần đối với sự phát triển, tiến hành nghiên cứu trên nhiều nguyên mẫu, lặp đi lặp lại việc thực hiện đào tạo an toàn, làm việc với những người thử nghiệm đáng tin cậy và các chuyên gia bên ngoài và thực hiện đánh giá rủi ro, đánh giá an toàn và bảo đảm toàn diện.</p> <p>Ví dụ:</p> <ul> <li>Là một phần của quy trình an toàn của mình, chúng tôi đã làm việc với Ủy ban Trách nhiệm và An toàn (RSC), nhóm xem xét nội bộ lâu năm của chúng tôi, để xác định và hiểu các rủi ro tiềm ẩn.</li> <li>Khả năng lập luận của Gemini 2.0 đã cho phép những tiến bộ lớn trong cách tiếp cận nhóm đỏ được hỗ trợ bởi AI của chúng tôi, bao gồm cả khả năng vượt ra ngoài việc chỉ phát hiện rủi ro để giờ đây tự động tạo ra các đánh giá và dữ liệu đào tạo để giảm thiểu chúng. Điều này có nghĩa là chúng ta có thể tối ưu hóa mô hình cho sự an toàn ở quy mô lớn một cách hiệu quả hơn.</li> <li>Khi tính đa phương thức của Gemini 2.0 làm tăng độ phức tạp của đầu ra tiềm năng, chúng tôi sẽ tiếp tục đánh giá và đào tạo mô hình trên đầu vào và đầu ra hình ảnh và âm thanh để giúp cải thiện độ an toàn.</li> <li>Với Project Astra, chúng tôi đang khám phá các giải pháp giảm thiểu tiềm năng đối với việc người dùng vô tình chia sẻ thông tin nhạy cảm với tác nhân, và chúng tôi đã tích hợp các điều khiển quyền riêng tư giúp người dùng dễ dàng xóa các phiên. Chúng tôi cũng đang tiếp tục nghiên cứu các cách để đảm bảo các tác nhân AI hoạt động như nguồn thông tin đáng tin cậy và không thực hiện các hành động ngoài ý muốn thay mặt bạn.</li> <li>Với Project Mariner, chúng tôi đang làm việc để đảm bảo mô hình học cách ưu tiên các hướng dẫn của người dùng hơn các nỗ lực của bên thứ ba đối với việc tiêm lời nhắc, để nó có thể xác định các hướng dẫn có khả năng gây hại từ các nguồn bên ngoài và ngăn ngừa việc sử dụng sai mục đích. Điều này ngăn người dùng bị phơi bày trước gian lận và nỗ lực lừa đảo thông qua những thứ như các hướng dẫn độc hại được ẩn trong email, tài liệu hoặc trang web.</li> </ul> <p>Chúng tôi tin tưởng vững chắc rằng cách duy nhất để xây dựng AI là phải có trách nhiệm ngay từ đầu và chúng tôi sẽ tiếp tục ưu tiên việc làm cho an toàn và trách nhiệm trở thành một yếu tố quan trọng trong quy trình phát triển mô hình của mình khi chúng tôi nâng cao các mô hình và tác nhân của mình.</p> <hr />

Google ra mắt Gemini 2.0: Mô hình AI mạnh mẽ cho kỷ nguyên tác động

Mục lục Lời nhắn từ CEO Google Giới thiệu Gemini 2.0 Gemini 2.0 Flash Trải nghiệm tác động với Gemini 2.0: Project Astra, Project Marin...

Read more »

Mô hình kiểm duyệt AI nhỏ gọn nhưng hiệu quả cao: Llama Guard 3-1B-INT4 của Meta

<p><strong>Mục lục</strong></p> <ol> <li>Giới thiệu</li> <li>Thách thức trong việc triển khai mô hình kiểm duyệt</li> <li>Llama Guard 3-1B-INT4: Giải pháp đột phá</li> <li>Phương pháp tối ưu hóa</li> <li>Hiệu suất và đánh giá</li> <li>Kết luận</li> </ol> <p><img alt="Hình ảnh 1" src="https://lh7-rt.googleusercontent.com/docsz/AD_4nXeBPlHVvw4zRBUFqm2R3Xp_zHe6PuCNtmPU3YvSkIXSUt75bpb3O8RAchdk-5QclO6JUkeHQjDWM8Jqsj0j7wRs3ZPYm085CGZYuTFcHTzgzE3W46LquTAAnJACL8lvPJk8PDWFuw?key=1zSKJUDuMgaR_j3VEY_w-7DA"></p> <p><strong>1. Giới thiệu</strong></p> <p>Công nghệ trí tuệ nhân tạo (AI) thế hệ mới, đặc biệt là các hệ thống AI tạo sinh, đã cách mạng hóa cách con người tương tác với công nghệ. Khả năng xử lý ngôn ngữ tự nhiên và tạo nội dung tiên tiến của chúng mang lại nhiều lợi ích. Tuy nhiên, rủi ro đi kèm cũng không nhỏ, đặc biệt là khả năng tạo ra nội dung không an toàn hoặc vi phạm chính sách. Để giải quyết vấn đề này, các công cụ kiểm duyệt tiên tiến là cần thiết để đảm bảo đầu ra an toàn và tuân thủ các nguyên tắc đạo đức. Các công cụ này phải hiệu quả và tiết kiệm tài nguyên, đặc biệt khi được triển khai trên các thiết bị có tài nguyên hạn chế như thiết bị di động.</p> <p><strong>2. Thách thức trong việc triển khai mô hình kiểm duyệt</strong></p> <p>Một thách thức dai dẳng trong việc triển khai các mô hình kiểm duyệt an toàn là kích thước và yêu cầu tính toán của chúng. Các mô hình ngôn ngữ lớn (LLM) mạnh mẽ và chính xác thường đòi hỏi bộ nhớ và sức mạnh xử lý đáng kể, khiến chúng không phù hợp với các thiết bị có khả năng phần cứng hạn chế. Việc triển khai các mô hình này trên thiết bị di động có thể dẫn đến tắc nghẽn thời gian chạy hoặc lỗi do bộ nhớ truy cập ngẫu nhiên (DRAM) hạn chế, làm giảm đáng kể khả năng sử dụng của chúng. Do đó, các nhà nghiên cứu đã tập trung vào việc nén LLM mà không làm giảm hiệu suất.</p> <p><strong>3. Llama Guard 3-1B-INT4: Giải pháp đột phá</strong></p> <p>Meta đã giới thiệu Llama Guard 3-1B-INT4, một mô hình kiểm duyệt an toàn được thiết kế để giải quyết các thách thức này. Được công bố tại Meta Connect 2024, mô hình này chỉ có kích thước 440MB, nhỏ hơn bảy lần so với người tiền nhiệm, Llama Guard 3-1B. Điều này đạt được nhờ các kỹ thuật nén tiên tiến như cắt tỉa khối giải mã, cắt tỉa ở cấp độ neuron và huấn luyện nhận biết lượng tử. Các nhà nghiên cứu cũng sử dụng kỹ thuật chưng cất từ mô hình Llama Guard 3-8B lớn hơn để phục hồi chất lượng bị mất trong quá trình nén. Đáng chú ý, mô hình đạt được thông lượng ít nhất 30 token mỗi giây với thời gian đến token đầu tiên dưới 2,5 giây trên CPU di động Android tiêu chuẩn.</p> <p><img alt="Hình ảnh 2" src="https://lh7-rt.googleusercontent.com/docsz/AD_4nXfkCCrcc61fDIn_jJHnYZJg-qK3Fr-v5syMKm0Xt6BYgrinW7hVQFt0gi-8OY5DdIeyJT3mHAvBtblp9b93cTQWbrF-paRQu0dV3YeEgQoj1eZbg2tqD3DFiIZg7kwVrT4jUws?key=1zSKJUDuMgaR_j3VEY_w-7DA"></p> <p><strong>4. Phương pháp tối ưu hóa</strong></p> <p>Một số phương pháp chính hỗ trợ những tiến bộ kỹ thuật trong Llama Guard 3-1B-INT4 bao gồm:</p> <ul> <li><strong>Cắt tỉa:</strong> Kỹ thuật cắt tỉa đã giảm số khối giải mã của mô hình từ 16 xuống 12 và kích thước ẩn MLP từ 8192 xuống 6400, đạt được số lượng tham số 1,1 tỷ, giảm từ 1,5 tỷ.</li> <li><strong>Lượng tử hóa:</strong> Lượng tử hóa tiếp tục nén mô hình bằng cách giảm độ chính xác của trọng số xuống INT4 và kích hoạt xuống INT8, giảm kích thước của nó xuống gấp bốn lần so với mức cơ sở 16 bit.</li> <li><strong>Cắt tỉa lớp nhúng ngược:</strong> Cắt tỉa lớp nhúng ngược đã giảm kích thước lớp đầu ra bằng cách chỉ tập trung vào 20 token cần thiết trong khi vẫn duy trì khả năng tương thích với các giao diện hiện có.</li> </ul> <p><strong>5. Hiệu suất và đánh giá</strong></p> <p>Llama Guard 3-1B-INT4 đạt điểm F1 là 0,904 đối với nội dung tiếng Anh, vượt trội hơn người tiền nhiệm Llama Guard 3-1B (điểm 0,899). Đối với khả năng đa ngôn ngữ, mô hình hoạt động ngang bằng hoặc tốt hơn các mô hình lớn hơn ở năm trong số tám ngôn ngữ không phải tiếng Anh được thử nghiệm, bao gồm tiếng Pháp, tiếng Tây Ban Nha và tiếng Đức. So với GPT-4 (trong cài đặt zero-shot), Llama Guard 3-1B-INT4 cho thấy điểm kiểm duyệt an toàn cao hơn ở bảy ngôn ngữ. Kích thước nhỏ gọn và hiệu suất tối ưu của nó làm cho nó trở thành một giải pháp thực tế cho việc triển khai trên thiết bị di động, và nó đã được chứng minh là hoạt động thành công trên điện thoại Moto-Razor.</p> <p><img alt="Hình ảnh 3" src="https://www.marktechpost.com/wp-content/uploads/2024/11/Screenshot-2024-11-30-at-6.49.18%E2%80%AFPM-1-1024x334.png"></p> <p><strong>6. Kết luận</strong></p> <p>Llama Guard 3-1B-INT4 thể hiện một bước tiến đáng kể trong việc kiểm duyệt an toàn cho AI tạo sinh. Mô hình này giải quyết các thách thức quan trọng về kích thước, hiệu quả và hiệu suất, cung cấp một mô hình nhỏ gọn cho việc triển khai trên thiết bị di động nhưng đủ mạnh mẽ để đảm bảo các tiêu chuẩn an toàn cao. Thông qua các kỹ thuật nén sáng tạo và tinh chỉnh cẩn thận, các nhà nghiên cứu đã tạo ra một công cụ vừa có thể mở rộng và đáng tin cậy, mở đường cho các hệ thống AI an toàn hơn trong nhiều ứng dụng khác nhau.</p>

Mô hình kiểm duyệt AI nhỏ gọn nhưng hiệu quả cao: Llama Guard 3-1B-INT4 của Meta

Mục lục Giới thiệu Thách thức trong việc triển khai mô hình kiểm duyệt Llama Guard 3-1B-INT4: Giải pháp đột phá Phương pháp tối ưu hóa ...

Read more »