5 Điểm Nhấn Từ Nghiên Cứu về Tác động của AI trong Trải Nghiệm Mua Sắm

<h1></h1> <p><strong>Mục lục:</strong></p> <ol> <li>Giới thiệu</li> <li>Khảo sát của Attest</li> <li>5 Điểm nhấn chính từ nghiên cứu<ul> <li>Khách hàng vẫn hoài nghi về khả năng cải thiện trải nghiệm mua sắm của AI</li> <li>Khách hàng sẵn sàng sử dụng chatbot AI</li> <li>Khách hàng đang sử dụng AI để nghiên cứu trước khi mua hàng</li> <li>Mối lo ngại của khách hàng về việc mất việc làm do AI</li> <li>Khách hàng muốn nội dung do AI tạo ra được gắn nhãn rõ ràng</li> </ul> </li> <li>Kết luận</li> </ol> <p><strong>1. Giới thiệu</strong></p> <p>Ngày nay, người tiêu dùng thường xuyên tiếp xúc với trí tuệ nhân tạo (AI) trong quá trình tìm kiếm sản phẩm và mua sắm. Sự phổ biến của AI chỉ có thể tăng lên từ mức hiện tại. Bài viết này sẽ phân tích những điểm chính từ một nghiên cứu gần đây về tác động của công nghệ AI đối với trải nghiệm mua sắm của người tiêu dùng.</p> <p><strong>2. Khảo sát của Attest</strong></p> <p>Đầu năm nay, Attest, một nền tảng nghiên cứu người tiêu dùng, đã tiến hành một nghiên cứu để khám phá tác động của công nghệ AI đối với người tiêu dùng. Nghiên cứu này đã khảo sát 9.500 người tiêu dùng trong độ tuổi lao động tại tám quốc gia: Mỹ, Canada, Mexico, Úc, Anh, Đức, Pháp và Hà Lan. Khảo sát đánh giá mức độ cởi mở của người tiêu dùng đối với AI, và cố gắng tìm hiểu điều gì làm họ hào hứng và điều gì làm họ lo lắng về AI.</p> <p><strong>3. 5 Điểm nhấn chính từ nghiên cứu</strong></p> <p>Dựa trên khảo sát của Attest, đây là 5 điểm nhấn chính:</p> <p><strong>3.1 Khách hàng vẫn hoài nghi về khả năng cải thiện trải nghiệm mua sắm của AI</strong></p> <p>Mức độ hoài nghi về lợi ích của AI khá đáng ngạc nhiên. Chỉ có 27,3% số người được hỏi tin rằng AI có thể nâng cao trải nghiệm mua sắm, và chỉ 26% tin rằng nó có thể dẫn đến trải nghiệm cá nhân hóa hơn. Sự hoài nghi này xuất phát từ nhận thức rằng AI trong bán lẻ vẫn đang trong giai đoạn đầu. Cho đến nay, mọi người vẫn chưa thấy AI mang lại lợi ích hữu hình cho khách hàng. Người mua sắm có thể vẫn thích sự tương tác của con người và dịch vụ cá nhân hóa, điều mà AI hiện tại chưa cung cấp.</p> <p><strong>3.2 Khách hàng sẵn sàng sử dụng chatbot AI</strong></p> <p>Mặc dù có mức độ hoài nghi cao về AI, 52% số người được hỏi cho biết họ có thể sẽ sử dụng chatbot để lấy thông tin từ trang web của công ty. Người tiêu dùng thuộc thế hệ Millennials (25-34 tuổi) là những người dễ tiếp nhận nhất với tỷ lệ 60,2%. Điều này cho thấy người tiêu dùng thấy giá trị của chatbot AI trong việc thu thập thông tin nhanh chóng và hỗ trợ khách hàng.</p> <img alt="Robot hỗ trợ mua sắm" src="https://specials-images.forbesimg.com/imageserve/67421422924cebe79ec189e2/robot-shopping-helper-assisting-a-female-customer/960x0.jpg?fit=scale" /> <p>Một ví dụ về chatbot như vậy là Rufus, trợ lý mua sắm của Amazon. Rufus sử dụng thông tin từ internet, danh sách sản phẩm, đánh giá của khách hàng và Câu hỏi & Trả lời của cộng đồng để trả lời câu hỏi và giúp người mua sắm so sánh sản phẩm.</p> <p><strong>3.3 Khách hàng đang sử dụng AI để nghiên cứu trước khi mua hàng</strong></p> <p>41% số người được hỏi cho biết họ có thể sẽ sử dụng công cụ AI như ChatGPT để nghiên cứu sản phẩm trước khi mua, con số này tăng lên 50,1% đối với người tiêu dùng thuộc thế hệ Gen Z. Người tiêu dùng cũng có xu hướng tin tưởng thông tin họ nhận được từ các công cụ AI này. 39,9% cho biết họ sẽ tin tưởng thông tin từ các công cụ AI, so với 28,8% không tin tưởng.</p> <p>Điều này cho thấy sự thay đổi trong hành vi của người tiêu dùng. Các công cụ AI đang trở thành một phần quan trọng trong việc nghiên cứu trước khi mua hàng, có lẽ vì chúng có thể cung cấp phương pháp khám phá sản phẩm cá nhân hóa và mục tiêu hơn so với công cụ tìm kiếm truyền thống.</p> <p><strong>3.4 Mối lo ngại của khách hàng về việc mất việc làm do AI</strong></p> <p>Hơn 59% người tiêu dùng lo ngại rằng việc sử dụng AI ngày càng tăng sẽ dẫn đến mất việc làm. Lo ngại này không phải là không có cơ sở; theo Quỹ Tiền tệ Quốc tế (IMF), 40% công việc trên toàn thế giới sẽ bị ảnh hưởng bởi AI. Nghiên cứu không làm rõ liệu họ có lo lắng về việc mất việc làm trong lĩnh vực bán lẻ, mất việc làm của chính họ hay tác động tổng thể của AI đối với việc làm hay không. Khách hàng cũng lo lắng về việc mất đi "sự tương tác của con người" trong các tương tác dịch vụ khách hàng.</p> <p><strong>3.5 Khách hàng muốn nội dung do AI tạo ra được gắn nhãn rõ ràng</strong></p> <p>Đa số chatbot hiện nay hoạt động kém đến nỗi không thể nhầm lẫn với con người. Tuy nhiên, điều đó đang thay đổi nhanh chóng. Người mua sắm lo ngại về các tương tác AI không thể dễ dàng phân biệt với tương tác của con người. 83% số người được hỏi tin rằng cần phải có quy định về mặt pháp lý yêu cầu tất cả nội dung do AI tạo ra phải được gắn nhãn rõ ràng. 74,8% cho biết việc tạo ra deepfake nên bị coi là bất hợp pháp.</p> <p>Yêu cầu về tính minh bạch và quy định này cho thấy mối quan ngại lớn của người tiêu dùng về khả năng AI tạo ra nội dung gây hiểu lầm hoặc lừa đảo. Việc phân biệt nội dung thực và nội dung do AI tạo ra đang ngày càng khó khăn hơn, đặc biệt là đối với hình ảnh và video. Một mối quan ngại khác có thể là lỗi của AI hoặc "ảo giác". Mọi người đang học cách hoài nghi về câu trả lời do AI tạo ra cho các câu hỏi, bất kể chúng có hợp lý đến đâu.</p> <p><strong>4. Kết luận</strong></p> <p>Nghiên cứu này cho thấy người tiêu dùng đang có hai thái độ trái ngược nhau đối với AI. Họ thấy những lợi ích tiềm năng, đặc biệt là trong các lĩnh vực như tìm kiếm và hỗ trợ khách hàng. Tuy nhiên, người mua sắm cũng thận trọng với những tác động của AI đối với quyền riêng tư, an ninh việc làm và tính xác thực.</p> <p>Các thương hiệu sẽ cần giải quyết những mối lo ngại này một cách thẳng thắn khi họ triển khai AI. Họ cần ưu tiên tính minh bạch, thực tiễn dữ liệu có đạo đức và phương pháp tiếp cận lấy con người làm trung tâm để triển khai AI. Những thương hiệu làm được điều đó sẽ xây dựng lòng tin của khách hàng và vượt trội hơn những thương hiệu khác khi đưa AI trở thành một phần trong trải nghiệm mua sắm của họ.</p> <p><br /></p>

5 Điểm Nhấn Từ Nghiên Cứu về Tác động của AI trong Trải Nghiệm Mua Sắm

Mục lục: Giới thiệu Khảo sát của Attest 5 Điểm nhấn chính từ nghiên cứu Khách hàng vẫn hoài nghi về khả năng cải thiện trải nghiệm mua...

Read more »

Khám phá Claude AI: Trợ lý AI đa năng cho mọi nhiệm vụ

<h1></h1> <p><strong>Mục lục:</strong></p> <ol> <li>Giới thiệu về Claude AI</li> <li>Cách sử dụng Claude AI</li> <li>Claude AI có ứng dụng di động không?</li> <li>Claude AI là gì?</li> </ol> <h2>1. Giới thiệu về Claude AI</h2> <p>Bài viết này hướng dẫn bạn bắt đầu sử dụng Claude AI, một chatbot AI đa năng, có thể truy cập trên web, máy tính để bàn và thiết bị di động. Claude có thể giúp bạn trong nhiều việc như: phát triển ý tưởng, viết lại văn bản, tạo câu chuyện, viết và chạy mã, dịch ngôn ngữ, phân tích hình ảnh và nhiều hơn nữa.</p> <h2>2. Cách sử dụng Claude AI</h2> <p>Dưới đây là hướng dẫn sử dụng phiên bản web của chatbot này để trả lời các câu hỏi về một tệp:</p> <ol> <li><p><strong>Truy cập Claude.ai:</strong> Truy cập <a href="https://claude.ai/">Claude.ai</a> và đăng nhập bằng địa chỉ email của bạn.</p> <p> <img alt="Truy cập Claude.ai" src="https://www.lifewire.com/thmb/mLSocHaM3UuOW-mbaaPQ4KANiU8=/1500x0/filters:no_upscale():max_bytes(150000):strip_icc()/claude-question-0bafb69ce022465a9f609c4c346fdd3d.png" /></p> </li> <li><p><strong>Tải tệp lên:</strong> Chọn biểu tượng đính kèm bên dưới hộp văn bản để tìm và tải tệp lên cuộc trò chuyện. Claude hỗ trợ nhiều định dạng tệp, bao gồm PDF, DOCX, EPUB, HTML, JS và PY.</p> <p> <img alt="Biểu tượng đính kèm" src="https://www.lifewire.com/thmb/mLSocHaM3UuOW-mbaaPQ4KANiU8=/1500x0/filters:no_upscale():max_bytes(150000):strip_icc()/claude-question-0bafb69ce022465a9f609c4c346fdd3d.png" /></p> <p> <strong>Mẹo:</strong> Nhiều định dạng tệp được hỗ trợ, bao gồm PDF, DOCX, EPUB, HTML, JS và PY.</p> </li> <li><p><strong>Gửi lệnh:</strong> Sử dụng hộp văn bản để gửi lệnh của bạn và nhấn nút mũi tên để gửi.</p> <p> <img alt="Gửi lệnh" src="https://www.lifewire.com/thmb/mLSocHaM3UuOW-mbaaPQ4KANiU8=/1500x0/filters:no_upscale():max_bytes(150000):strip_icc()/claude-question-0bafb69ce022465a9f609c4c346fdd3d.png" /></p> </li> <li><p><strong>Nhận câu trả lời:</strong> Sau vài giây (hoặc lâu hơn, tùy thuộc vào yêu cầu của bạn), Claude sẽ trả về câu trả lời. Nếu bạn không hài lòng với câu trả lời hoặc muốn thêm thông tin, hãy sử dụng hộp văn bản ở cuối màn hình để viết thêm nội dung.</p> <p> <img alt="Câu trả lời của Claude" src="https://www.lifewire.com/thmb/CT78O4zVJZf3Xq4CPatq8ZOamfA=/1500x0/filters:no_upscale():max_bytes(150000):strip_icc()/claude-reply-e77d3f331554491cb003b1c847c5a306.png" /></p> </li> <li><p><strong>Bắt đầu cuộc trò chuyện mới:</strong> Cuộc trò chuyện với Claude được chia thành các chủ đề riêng biệt. Bạn không cần phải mở một cuộc trò chuyện mới cho mỗi chủ đề, nhưng điều này sẽ giúp chatbot tập trung vào nhiệm vụ và sắp xếp cuộc trò chuyện của bạn. Chọn "Bắt đầu cuộc trò chuyện mới" ở bên trái để bắt đầu một chủ đề mới.</p> <p> <img alt="Bắt đầu cuộc trò chuyện mới" src="https://www.lifewire.com/thmb/owAJAa3PTa7ZZAFo0Vdj2GUcmbA=/1500x0/filters:no_upscale():max_bytes(150000):strip_icc()/Claude-AI-01-42d3b049b97f46f78ba59d885d51023e.jpg" /></p> <p> <strong>Mẹo:</strong> Menu bên này là nơi bạn truy cập các cuộc trò chuyện gần đây. Để đánh dấu một cuộc trò chuyện, hãy nhấp vào ngôi sao ở đầu cuộc trò chuyện.</p> </li> </ol> <h2>3. Claude AI có ứng dụng di động không?</h2> <p>Có, bạn có thể tải ứng dụng Claude AI về thiết bị Android, iPhone hoặc iPad. Bạn cũng có thể truy cập Claude qua website <a href="https://claude.ai/">Claude.ai</a> hoặc tải ứng dụng máy tính để bàn cho Windows và macOS để dễ dàng sử dụng Claude bằng phím tắt. Claude cũng có thể truy cập thông qua API và ứng dụng Slack.</p> <p><a href="https://claude.ai/download">Tải xuống Claude</a></p> <h2>4. Claude AI là gì?</h2> <p>Anthropic, công ty đứng sau họ mô hình ngôn ngữ lớn (LLM) này, mô tả Claude là một trợ lý AI thế hệ tiếp theo được xây dựng để hữu ích, trung thực và vô hại. Nó có thể xử lý các cuộc trò chuyện và nhiệm vụ liên quan đến viết, nghiên cứu, lập trình và toán học thông qua các phản hồi hiểu biết ngữ cảnh.</p> <p><img alt="Logo Claude AI" src="https://www.lifewire.com/thmb/ppA64cF8JnzTxSPb2GBJNMfBjU8=/1500x0/filters:no_upscale():max_bytes(150000):strip_icc()/claude-logo-smartphone-b77b49ecceef466f8877915b28360c20.jpg" /></p> <p>Claude không phải là công cụ tìm kiếm web như Google. Nó không thể truy cập thông tin thời gian thực như thời tiết hiện tại hoặc tin tức mới nhất. Hạn chế này là do <a href="https://support.anthropic.com/en/articles/8114494-how-up-to-date-is-claude-s-training-data">ngày cắt</a> (ngày kết thúc dữ liệu đào tạo của nó). Nó cũng không thể đọc URL hoặc video. Tuy nhiên, nó có thể tóm tắt và trả lời các câu hỏi về văn bản bạn cung cấp, chẳng hạn như bài báo gần đây hoặc bản ghi video.</p> <p>Phiên bản cơ bản của Claude là miễn phí nhưng hạn chế số lượng tin nhắn bạn có thể gửi. Bạn có thể nâng cấp lên gói Pro để sử dụng nhiều hơn gấp năm lần, băng thông ưu tiên, dự án (để tổ chức các cuộc trò chuyện) và truy cập vào các mô hình và tính năng mới nhất. Nó cũng có các gói Team và Enterprise.</p> <p><br /></p>

Khám phá Claude AI: Trợ lý AI đa năng cho mọi nhiệm vụ

Mục lục: Giới thiệu về Claude AI Cách sử dụng Claude AI Claude AI có ứng dụng di động không? Claude AI là gì? 1. Giới thiệu về Claud...

Read more »

Tìm kiếm thông minh: AI mang đến tiện ích hay rắc rối?

<h1></h1> <p><strong>Mục lục</strong></p> <ol> <li><a href="#google-s-ai-overviews-3">Tìm kiếm hỗ trợ AI của Google: Tổng quan và những hạn chế</a></li> <li><a href="#ai-search-engine-alternatives-3">Các công cụ tìm kiếm AI thay thế</a></li> <li><a href="#the-benefits-of-ai-in-search-3">Lợi ích của AI trong tìm kiếm</a></li> <li><a href="#balancing-ai-with-user-control-3">Cân bằng giữa AI và quyền kiểm soát của người dùng</a></li> </ol> <br /> <h2>Tìm kiếm hỗ trợ AI của Google: Tổng quan và những hạn chế</h2> <p>Công nghệ AI đã làm thay đổi cách chúng ta tìm kiếm thông tin trực tuyến. Với việc cung cấp kết quả chính xác hơn và phù hợp ngữ cảnh hơn, các công cụ tìm kiếm hỗ trợ AI như Google, SearchGPT và Perplexity hướng đến việc giúp người dùng tìm kiếm thông tin nhanh chóng và dễ dàng hơn.</p> <p><img alt="Google Chrome on Android" src="https://cdn.mos.cms.futurecdn.net/v2/t:0,l:0,cw:0,ch:0,q:80,w:320/bRUTJPUj2LUfW75duoMqF.jpg" /></p> <p>Tuy nhiên, nhiều người dùng vẫn thích sự đơn giản của phương pháp tìm kiếm truyền thống. Tin tốt là, nếu bạn muốn quay lại với danh sách các liên kết màu xanh quen thuộc, bạn có thể dễ dàng tắt tính năng AI trong kết quả tìm kiếm Google. <a href="https://www.tomsguide.com/ai/how-to-block-google-ai-overviews-from-appearing-in-your-search-results">Hướng dẫn tắt AI trong Google</a></p> <p>Nhưng trước khi bạn làm điều đó, hãy cùng tìm hiểu những ưu điểm và nhược điểm của các tính năng tìm kiếm AI và cách tùy chỉnh trải nghiệm tìm kiếm sao cho phù hợp với sở thích của bạn.</p> <p>Google đã giới thiệu tổng quan do AI tạo ra trong kết quả tìm kiếm, với các bản tóm tắt cô đọng thông tin từ nhiều nguồn. Phương pháp này nhằm mục đích cung cấp cho người dùng câu trả lời nhanh chóng bằng cách làm nổi bật các điểm chính.</p> <p><img alt="Google search on a phone screen" src="https://cdn.mos.cms.futurecdn.net/fA3c8hnWnBtciQFpfdSUwh-320-80.jpg" /></p> <p>Đối với những người bận rộn, tính năng này có thể đủ dùng. Tuy nhiên, nó cũng có những hạn chế. Bản tóm tắt dựa trên cách diễn giải của AI, đôi khi dẫn đến thiếu chính xác hoặc đơn giản hóa quá mức. Đối với những người dùng thích sự chi tiết và sắc thái khi tự mình khám phá kết quả tìm kiếm, bản tóm tắt của AI có thể cảm thấy hạn chế, thậm chí không chính xác đôi khi.</p> <p>Mặc dù bạn không thể tắt hoàn toàn tổng quan AI, nhưng có một số thủ thuật để loại bỏ nó khỏi tìm kiếm của bạn. Bạn có thể chọn chế độ xem "chỉ web" cho từng tìm kiếm riêng lẻ để bỏ qua các tóm tắt AI hoặc chỉ cần thêm “-A” vào ô tìm kiếm sau từ khóa của bạn. Những chỉnh sửa nhỏ này giúp bạn vẫn kiểm soát được cách tương tác với Google.</p> <h2>Các công cụ tìm kiếm AI thay thế</h2> <p>Có thể cách tiếp cận của Google không phù hợp với phong cách tìm kiếm của bạn. Vì lý do đó, có rất nhiều công cụ tìm kiếm AI đáng để khám phá, có thể phù hợp hơn với sở thích của bạn. Các nền tảng như Perplexity, You.com và Bing AI có cách tiếp cận tìm kiếm độc đáo, mỗi nền tảng đều có những ưu điểm riêng.</p> <p><img alt="OpenAI SearchGPT interface on purple background" src="https://cdn.mos.cms.futurecdn.net/mhoShXCADurGJK3HD4VTD9-320-80.jpg" /></p> <p>Bing AI tích hợp công nghệ GPT-4 của OpenAI, mang đến cho người dùng trải nghiệm tìm kiếm mang tính hội thoại. Bạn có thể đặt câu hỏi chi tiết cho Bing và nó sẽ tạo ra các phản hồi tự nhiên, phù hợp với ngữ cảnh.</p> <p>Perplexity tập trung vào việc cung cấp các câu trả lời ngắn gọn với nguồn đáng tin cậy. Cách tiếp cận minh bạch của nó hấp dẫn những người dùng coi trọng độ chính xác và rõ ràng. Công cụ tìm kiếm này đặc biệt hữu ích cho nghiên cứu học thuật hoặc kỹ thuật, vì nó trích dẫn nguồn trực tiếp trong phản hồi tìm kiếm.</p> <p>Google Learn About cung cấp các phản hồi chi tiết, mang tính hội thoại, tập trung vào giáo dục và học tập. Nếu bạn đang làm bài luận nghiên cứu hoặc chỉ muốn tìm hiểu thêm về một chủ đề nào đó, nền tảng tìm kiếm này có thể vừa tiết kiệm thời gian vừa giúp bạn mở rộng kiến thức.</p> <p>SearchGPT có mức phí thuê bao, nhưng nếu bạn muốn có câu trả lời nhanh chóng và ngắn gọn, công cụ tìm kiếm này có thể là thứ bạn cần. Nền tảng tương tác như một cuộc hội thoại và khả năng ghi nhớ các tìm kiếm trước đó có thể giúp tăng năng suất và tạo ra quy trình làm việc liền mạch.</p> <h2>Lợi ích của AI trong tìm kiếm</h2> <p>Bất chấp một số lo ngại, AI trong các công cụ tìm kiếm mang lại những lợi ích không thể phủ nhận. Đầu tiên, AI mang đến sự cá nhân hóa cho tìm kiếm của bạn bằng cách phân tích sở thích và hành vi trước đây của người dùng. Điều này có nghĩa là kết quả tìm kiếm của bạn sẽ ngày càng phù hợp với bạn hơn khi bạn sử dụng các nền tảng hỗ trợ AI.</p> <p><img alt="Perplexity logo on a smartphone display" src="https://cdn.mos.cms.futurecdn.net/gu8YwNpThWDRkBpDRLh2k7-320-80.jpg" /></p> <p>Vì AI tiên tiến rất giỏi trong việc hiểu ngôn ngữ tự nhiên và dự đoán ý định của người dùng, bạn có thể thấy rằng nó có thể xử lý các tìm kiếm phức tạp nhanh hơn và hiệu quả hơn. Bạn sẽ tiết kiệm thời gian bằng cách nhận được những thông tin quan trọng nhất mà không cần phải sàng lọc qua nhiều nguồn. Và như một lợi ích bổ sung, các nguồn được liệt kê, vì vậy nếu bạn muốn, bạn vẫn có thể tự tìm hiểu chúng.</p> <p>Giao diện hội thoại của các công cụ tìm kiếm AI và tích hợp dữ liệu thời gian thực rất hữu ích để tạo ra trải nghiệm tìm kiếm thân thiện với người dùng hơn và tương tác hơn. Điều này có thể hữu ích, đặc biệt nếu bạn đang nghiên cứu một chủ đề nhàm chán hoặc khó hiểu.</p> <h2>Cân bằng giữa AI và quyền kiểm soát của người dùng</h2> <p>Các công cụ tìm kiếm hỗ trợ AI đang không thể phủ nhận đang định hình lại cách chúng ta tương tác với thông tin. Chúng mang lại sự tiện lợi, hiệu quả và cá nhân hóa, biến chúng thành những công cụ vô giá. Tuy nhiên, sự phát triển của những công cụ này cũng đồng nghĩa với việc người dùng có sự lựa chọn, đảm bảo rằng AI nâng cao — thay vì thay thế — khả năng khám phá và hiểu thông tin của chúng ta.</p> <p>Khi AI tiếp tục phát triển, chúng ta có thể sẽ thấy nhiều khả năng tìm kiếm tinh vi hơn nữa. Hiện tại, cho dù bạn thuộc nhóm ủng hộ AI hay nhóm ủng hộ tìm kiếm truyền thống, bạn đều có thể kiểm soát cách mình tìm kiếm và nhận thông tin.</p> <p><br /></p>

Tìm kiếm thông minh: AI mang đến tiện ích hay rắc rối?

Mục lục Tìm kiếm hỗ trợ AI của Google: Tổng quan và những hạn chế Các công cụ tìm kiếm AI thay thế Lợi ích của AI trong tìm kiếm Cân b...

Read more »

Nhà nghiên cứu Trung Quốc ra mắt LLaVA-o1 để thách thức mô hình o1 của OpenAI

<h1></h1> <p><strong>Mục lục:</strong></p> <ol> <li>Giới thiệu về LLaVA-o1 và mô hình o1 của OpenAI</li> <li>Vấn đề của mô hình VLM hiện tại</li> <li>Phương pháp lập luận đa giai đoạn của LLaVA-o1</li> <li>Huấn luyện LLaVA-o1</li> <li>Hiệu quả của LLaVA-o1</li> <li>Kết luận</li> </ol> <h2>1. Giới thiệu về LLaVA-o1 và mô hình o1 của OpenAI</h2> <p>Mô hình o1 của OpenAI đã chứng minh rằng việc mở rộng quy mô thời gian suy luận – sử dụng nhiều khả năng tính toán hơn trong quá trình suy luận – có thể cải thiện đáng kể khả năng lập luận của mô hình ngôn ngữ lớn. LLaVA-o1, một mô hình mới được phát triển bởi các nhà nghiên cứu từ nhiều trường đại học ở Trung Quốc, áp dụng mô hình này vào các mô hình ngôn ngữ và thị giác nguồn mở (VLM).</p> <h2>2. Vấn đề của mô hình VLM hiện tại</h2> <p>Các mô hình VLM nguồn mở ban đầu thường sử dụng phương pháp dự đoán trực tiếp, tạo ra câu trả lời mà không cần lập luận về lời nhắc và các bước cần thiết để giải quyết lời nhắc đó. Thiếu quá trình lập luận có cấu trúc, chúng kém hiệu quả hơn trong các tác vụ đòi hỏi khả năng lập luận logic. Các kỹ thuật nhắc nhở nâng cao như nhắc nhở "chuỗi suy nghĩ" (CoT), khuyến khích mô hình tạo ra các bước lập luận trung gian, mang lại một số cải tiến nhỏ. Tuy nhiên, các VLM thường mắc lỗi hoặc bị ảo giác.</p> <h2>3. Phương pháp lập luận đa giai đoạn của LLaVA-o1</h2> <p>Các nhà nghiên cứu nhận thấy rằng một vấn đề then chốt là quá trình lập luận trong các VLM hiện có không đủ hệ thống và có cấu trúc. Các mô hình không tạo ra chuỗi lập luận và thường bị mắc kẹt trong các quá trình lập luận mà chúng không biết mình đang ở giai đoạn nào và phải giải quyết vấn đề cụ thể nào.</p> <p>"Chúng tôi nhận thấy rằng các VLM thường bắt đầu phản hồi mà không tổ chức đầy đủ vấn đề và thông tin có sẵn," các nhà nghiên cứu viết. "Hơn nữa, chúng thường lệch khỏi một lập luận logic hướng tới kết luận, thay vì đưa ra kết luận sớm và sau đó cố gắng biện minh cho nó. Do các mô hình ngôn ngữ tạo ra phản hồi từng token một, một khi kết luận sai lầm được đưa ra, mô hình thường tiếp tục theo một con đường lập luận sai lầm."</p> <p>OpenAI o1 sử dụng mở rộng quy mô thời gian suy luận để giải quyết vấn đề lập luận có hệ thống và có cấu trúc, cho phép mô hình tạm dừng và xem xét kết quả của nó khi nó dần dần giải quyết vấn đề. Mặc dù OpenAI chưa công bố nhiều chi tiết về cơ chế cơ bản của o1, nhưng kết quả của nó cho thấy các hướng đầy hứa hẹn để cải thiện khả năng lập luận của các mô hình nền tảng.</p> <p>Lấy cảm hứng từ o1, các nhà nghiên cứu đã thiết kế LLaVA-o1 để thực hiện lập luận từng giai đoạn. Thay vì tạo ra một chuỗi lập luận trực tiếp, LLaVA-o1 phân chia quá trình lập luận thành bốn giai đoạn riêng biệt:</p> <ul> <li><strong>Tóm tắt:</strong> Mô hình đầu tiên đưa ra một tóm tắt cấp cao về câu hỏi, phác thảo vấn đề cốt lõi mà nó cần giải quyết.</li> <li><strong>Mô tả hình ảnh:</strong> Nếu có hình ảnh, mô hình sẽ mô tả các phần liên quan, tập trung vào các yếu tố liên quan đến câu hỏi. </li> <li><strong>Lập luận:</strong> Xây dựng dựa trên tóm tắt, mô hình thực hiện lập luận logic có cấu trúc để đưa ra câu trả lời sơ bộ.</li> <li><strong>Kết luận:</strong> Cuối cùng, mô hình trình bày một bản tóm tắt ngắn gọn về câu trả lời dựa trên quá trình lập luận trước đó.</li> </ul> <p>Chỉ giai đoạn kết luận mới hiển thị cho người dùng; ba giai đoạn còn lại đại diện cho quá trình lập luận nội bộ của mô hình, tương tự như dấu vết lập luận ẩn của o1. Phương pháp có cấu trúc này cho phép LLaVA-o1 tự quản lý quá trình lập luận của mình, dẫn đến hiệu suất được cải thiện trong các tác vụ phức tạp.</p> <p>"Phương pháp có cấu trúc này cho phép mô hình tự quản lý quá trình lập luận của mình, cải thiện khả năng thích ứng và hiệu suất trong các tác vụ lập luận phức tạp," các nhà nghiên cứu viết.</p> <p><img alt="Stage-level beam search (right) vs other inference-time scaling techniques Source: arXiv" src="https://venturebeat.com/wp-content/uploads/2024/11/stage-level-beam-search.jpg?w=800" /></p> <p>LLaVA-o1 cũng giới thiệu một kỹ thuật mở rộng quy mô thời gian suy luận mới gọi là "tìm kiếm chùm tia cấp độ giai đoạn". Tìm kiếm chùm tia cấp độ giai đoạn tạo ra nhiều đầu ra ứng viên ở mỗi giai đoạn lập luận. Sau đó, nó chọn ứng viên tốt nhất ở mỗi giai đoạn để tiếp tục quá trình tạo. Điều này trái ngược với phương pháp best-of-N cổ điển, trong đó mô hình được nhắc nhở tạo ra nhiều phản hồi hoàn chỉnh trước khi chọn một phản hồi.</p> <p>"Đặc biệt, chính thiết kế đầu ra có cấu trúc của LLaVA-o1 làm cho phương pháp này khả thi, cho phép xác minh hiệu quả và chính xác ở mỗi giai đoạn," các nhà nghiên cứu viết. "Điều này xác nhận hiệu quả của đầu ra có cấu trúc trong việc cải thiện việc mở rộng quy mô thời gian suy luận."</p> <h2>4. Huấn luyện LLaVA-o1</h2> <p>Để huấn luyện LLaVA-o1, các nhà nghiên cứu đã biên soạn một bộ dữ liệu mới gồm khoảng 100.000 cặp hình ảnh-câu hỏi-câu trả lời thu được từ một số bộ dữ liệu VQA được sử dụng rộng rãi. Bộ dữ liệu này bao gồm nhiều loại tác vụ, từ trả lời câu hỏi nhiều lượt đến diễn giải biểu đồ và lập luận hình học.</p> <p>Các nhà nghiên cứu đã sử dụng GPT-4o để tạo ra các quá trình lập luận bốn giai đoạn chi tiết cho mỗi ví dụ, bao gồm các giai đoạn tóm tắt, chú thích, lập luận và kết luận.</p> <p>Sau đó, các nhà nghiên cứu đã tinh chỉnh Llama-3.2-11B-Vision-Instruct trên bộ dữ liệu này để thu được mô hình LLaVA-o1 cuối cùng. Các nhà nghiên cứu chưa phát hành mô hình nhưng dự định sẽ phát hành bộ dữ liệu, được gọi là LLaVA-o1-100k.</p> <p><img alt="LLaVA-o1 training data is annotated with GPT-4o Source: arXiv" src="https://venturebeat.com/wp-content/uploads/2024/11/Llava-o1-training-data.jpg?w=800" /></p> <h2>5. Hiệu quả của LLaVA-o1</h2> <p>Các nhà nghiên cứu đã đánh giá LLaVA-o1 trên một số điểm chuẩn lập luận đa phương thức. Mặc dù chỉ được huấn luyện trên 100.000 ví dụ, LLaVA-o1 đã cho thấy những cải thiện hiệu suất đáng kể so với mô hình Llama cơ bản, với điểm chuẩn trung bình tăng 6,9%.</p> <p><img alt="LLaVA-o1 vs other open and closed models Source: arXiv" src="https://venturebeat.com/wp-content/uploads/2024/11/LLaVA-o1-results.jpg?w=770" /></p> <p>Hơn nữa, tìm kiếm chùm tia cấp độ giai đoạn đã dẫn đến những cải tiến hiệu suất bổ sung, chứng minh hiệu quả của việc mở rộng quy mô thời gian suy luận. Do bị hạn chế về tài nguyên tính toán, các nhà nghiên cứu chỉ có thể thử nghiệm kỹ thuật này với kích thước chùm tia là 2. Họ dự đoán sẽ có những cải tiến lớn hơn nữa với kích thước chùm tia lớn hơn.</p> <p>Ấn tượng hơn, LLaVA-o1 không chỉ vượt trội hơn các mô hình nguồn mở khác cùng kích thước hoặc lớn hơn mà còn vượt trội cả một số mô hình nguồn đóng như GPT-4-o-mini và Gemini 1.5 Pro.</p> <p>"LLaVA-o1 thiết lập một tiêu chuẩn mới cho lập luận đa phương thức trong VLM, mang lại hiệu suất và khả năng mở rộng mạnh mẽ, đặc biệt là về thời gian suy luận," các nhà nghiên cứu viết. "Công trình của chúng tôi mở đường cho nghiên cứu trong tương lai về lập luận có cấu trúc trong VLM, bao gồm cả khả năng mở rộng với các trình xác minh bên ngoài và việc sử dụng học tăng cường để nâng cao hơn nữa khả năng lập luận đa phương thức phức tạp."</p> <h2>6. Kết luận</h2> <p>Bài báo trình bày mô hình LLaVA-o1, một bước tiến đáng kể trong lĩnh vực mô hình ngôn ngữ và thị giác nguồn mở. Việc kết hợp phương pháp lập luận đa giai đoạn và tìm kiếm chùm tia cấp độ giai đoạn đã giúp LLaVA-o1 đạt được hiệu suất vượt trội so với các mô hình khác, mở ra hướng đi mới cho nghiên cứu về khả năng lập luận phức tạp trong VLM.</p> <p><br /></p>

Nhà nghiên cứu Trung Quốc ra mắt LLaVA-o1 để thách thức mô hình o1 của OpenAI

Mục lục: Giới thiệu về LLaVA-o1 và mô hình o1 của OpenAI Vấn đề của mô hình VLM hiện tại Phương pháp lập luận đa giai đoạn của LLaVA-o1...

Read more »

Tương Lai Trách Nhiệm của Trí Tuệ Nhân Tạo: Cuộc Đối Thoại với Google

<h1></h1> <p><strong>Mục lục:</strong></p> <ol> <li>Giới thiệu và Bối cảnh</li> <li>Khía cạnh bị bỏ sót của Trí tuệ nhân tạo (AI)</li> <li>Thách thức trong việc điều tiết AI</li> <li>Khung Khổ Điều Tiết AI hiệu quả: FAB (Tập trung, Thống nhất, Cân bằng)</li> <li>Tác động của AI lên thị trường lao động và tương lai công việc</li> </ol> <hr /> <h2>1. Giới thiệu và Bối cảnh</h2> <p>Trong vòng 18 tháng qua, trí tuệ nhân tạo (AI) đã được ứng dụng rộng rãi trên toàn cầu bởi các cá nhân, doanh nghiệp, nhà khoa học, bác sĩ và nhiều người khác. Bài viết này trình bày cuộc phỏng vấn giữa Martin Ford và Kent Walker, Chủ tịch phụ trách Quan hệ Quốc tế tại Google và Alphabet, xoay quanh những vấn đề quan trọng nhất trong việc khai thác công nghệ mới này. Làm thế nào để duy trì sự phát triển năng động của AI, và quan trọng hơn, AI sẽ hỗ trợ sự phát triển của con người như thế nào?</p> <hr /> <h2>2. Khía cạnh bị bỏ sót của Trí tuệ nhân tạo (AI)</h2> <p><strong>Câu hỏi (Martin Ford):</strong> Trong năm qua, hầu hết các cuộc thảo luận về AI tập trung vào các hệ thống chatbot như Gemini. Theo ông, khía cạnh nào của AI bị bỏ sót nhiều nhất?</p> <p><strong>Câu trả lời (Kent Walker):</strong> Chatbot chỉ là bề nổi của tảng băng. AI không chỉ là một bước đột phá khoa học; nó là một bước đột phá trong cách chúng ta tạo ra những đột phá. Hãy xem ví dụ về AlphaFold, công nghệ mô hình hóa protein, nơi chúng ta đang đạt được những tiến bộ vượt bậc trong các công cụ được sử dụng bởi các nhà nghiên cứu y tế trên toàn thế giới. Đây chỉ là một trong nhiều ví dụ về cách AI sẽ đẩy nhanh tiến trình khoa học, cho dù đó là trong khoa học vật liệu, năng lượng mới, máy tính lượng tử, chăm sóc sức khỏe hay khử muối nước.</p> <hr /> <h2>3. Thách thức trong việc điều tiết AI</h2> <p><strong>Câu hỏi (Ford):</strong> Ông thấy những xu hướng nào đang nổi lên trong việc điều tiết AI? Có bất kỳ sự phát triển nào khiến ông lo ngại và có thể cản trở công nghệ này không?</p> <p><strong>Câu trả lời (Walker):</strong> Như tôi đã đề cập trong số báo trước của Dialogues, AI quá quan trọng để không được điều tiết nhưng cũng quá quan trọng để không được điều tiết tốt. Chúng ta đã thấy nhiều chính phủ và các cá nhân trên toàn thế giới đã thực hiện những bước đi quan trọng và nhìn nhận vấn đề này một cách mang tính xây dựng. Có một khái niệm được gọi là nghịch lý Collingridge, từ cuốn sách <em>Kiểm soát xã hội đối với công nghệ</em> của David Collingridge, chỉ ra rằng có thể điều tiết một công nghệ mới quá muộn, khi nó đã ăn sâu vào xã hội, nhưng cũng có thể điều tiết quá sớm, trước khi hiểu được đầy đủ tiềm năng và rủi ro của nó. Thách thức là tìm ra điểm cân bằng để điều tiết một công nghệ phát triển nhanh chóng theo những cách đúng đắn, ghi nhận tiềm năng tiến bộ khoa học của nó đồng thời xem xét các rủi ro như phân biệt đối xử, các ứng dụng không an toàn hoặc sự thay thế lao động. Đó là một sự cân bằng quan trọng cần đạt được.</p> <hr /> <h2>4. Khung Khổ Điều Tiết AI hiệu quả: FAB (Tập trung, Thống nhất, Cân bằng)</h2> <p><img alt="Image" src="https://cdn.theatlantic.com/assets/marketing/prod/lead-imgs/2024/11/dialogues2024-responsible_ai-3968-social_1200x628.jpg" /></p> <p>Khái niệm <strong>FAB</strong> bao gồm:</p> <ul> <li><p><strong>Tập trung:</strong> Nhận ra rằng AI là một công nghệ đa năng, giống như điện hơn là một công cụ đặc thù. Chúng ta không có một cơ quan duy nhất cho tất cả các công dụng của điện hoặc một đạo luật duy nhất điều chỉnh tất cả các loại động cơ trong xã hội. Thay vào đó, chúng ta tiếp cận nó từng trường hợp một. Các vấn đề trong ngân hàng sẽ khác với các vấn đề trong chăm sóc sức khỏe hoặc vận tải. Các cơ quan quản lý truyền thống trong những lĩnh vực này có nhiều năm kinh nghiệm, nhưng họ cần làm quen với AI để có thể hiểu những thách thức mới trong lĩnh vực của họ. Mỗi cơ quan cần trở thành một cơ quan AI.</p> </li> <li><p><strong>Thống nhất:</strong> Nói đến sự cần thiết phải có sự nhất quán giữa các nhóm khác nhau đang làm việc về những vấn đề này - cho dù đó là G7, Liên hợp quốc, Hoa Kỳ hay các quốc gia khác. Mặc dù các quy định không cần phải giống hệt nhau, nhưng chúng nên nhất quán về cơ bản để cho phép việc áp dụng rộng rãi các công cụ này, kể cả ở các nước thuộc nhóm Nam bán cầu và các nước đang phát triển.</p> </li> <li><p><strong>Cân bằng:</strong> Đánh giá rủi ro tương đối của các loại ứng dụng khác nhau. Việc sử dụng AI trong kết quả tìm kiếm khác với việc sử dụng AI trong các ứng dụng có rủi ro cao như chăm sóc sức khỏe hoặc vận tải. Bạn cần các chế độ điều tiết khác nhau cho các thiết lập khác nhau. Điều quan trọng cũng cần nhớ rằng các ứng dụng có rủi ro cao thường mang lại giá trị cao, chẳng hạn như tiềm năng cứu sống trong y học. Ngay cả khi chúng ta điều tiết những lĩnh vực này, chúng ta vẫn muốn đảm bảo rằng chúng ta không làm chậm tiến độ cứu sống và giải quyết vấn đề.</p> </li> </ul> <hr /> <h2>5. Tác động của AI lên thị trường lao động và tương lai công việc</h2> <p><strong>Câu hỏi (Ford):</strong> Ông nghĩ AI sẽ tác động đến thị trường lao động và bản chất của công việc như thế nào?</p> <p><strong>Câu trả lời (Walker):</strong> Mặc dù chúng ta biết rằng AI sẽ có tác động, nhưng rất khó để dự đoán chính xác như thế nào. Nó có thể thay đổi không chỉ cách chúng ta làm việc mà cả cách chúng ta chuẩn bị cho công việc. Chúng ta có thể thấy sự chuyển đổi từ một bằng cấp bốn năm duy nhất sang nhiều chương trình ngắn hơn, tập trung vào kỹ năng được trải rộng trong suốt sự nghiệp. AI thường tự động hóa các nhiệm vụ hơn là toàn bộ công việc, vì vậy tác động khác nhau tùy thuộc vào công việc. Chúng tôi đang cố gắng dân chủ hóa quyền truy cập vào các công cụ AI thông qua các sáng kiến ​​như khóa học AI Essentials của chúng tôi, giúp mọi người học cách sử dụng các công cụ này một cách hiệu quả.</p> <p><strong>Câu hỏi (Ford):</strong> Ông có sử dụng AI trong công việc của mình không, và nó đã thay đổi mọi thứ như thế nào đối với ông?</p> <p><strong>Câu trả lời (Walker):</strong> Tôi có! Hiện tại, tôi đang sử dụng nó để chắt lọc các bài báo dài thành các điểm then chốt, giống như có một người tóm tắt cá nhân. Tôi cũng đang thực hiện một dự án để cho một AI đọc tất cả email của tôi trong 18 năm qua tại Google và sau đó học cách trả lời bằng giọng nói của tôi, giúp tôi nhanh chóng tạo ra bản nháp đầu tiên mà sau đó tôi có thể chỉnh sửa và cải thiện. Càng nhiều việc thường nhật được AI đảm nhiệm, tôi càng có nhiều thời gian để tập trung vào những phần không thường nhật và bổ ích của công việc. Và tôi nghĩ, giống như tôi, nhiều người sẽ đánh giá cao cách AI giúp họ giải phóng khỏi những công việc lặp đi lặp lại để tập trung vào những vấn đề phức tạp, suy nghĩ về những gì tiếp theo và tập trung vào tất cả những điều thú vị làm cho công việc của họ trở nên ý nghĩa.</p> <p><img alt="Google logo" src="https://cdn.theatlantic.com/assets/marketing/prod/logos/2021/03/Google_2015_logo.svg" /></p> <p><br /></p>

Tương Lai Trách Nhiệm của Trí Tuệ Nhân Tạo: Cuộc Đối Thoại với Google

Mục lục: Giới thiệu và Bối cảnh Khía cạnh bị bỏ sót của Trí tuệ nhân tạo (AI) Thách thức trong việc điều tiết AI Khung Khổ Điều Tiết A...

Read more »

Mô hình ngôn ngữ nhỏ Hymba 1.5B của NVIDIA: Vượt trội so với Llama 3.2 và SmolLM v2

<h1></h1> <p><strong>Mục lục</strong></p> <ol> <li>Giới thiệu</li> <li>Kiến trúc Hymba: Sự kết hợp độc đáo</li> <li>Chi tiết kỹ thuật</li> <li>Hiệu quả, hiệu năng và tính linh hoạt</li> <li>Kết luận</li> <li>Thông tin tác giả</li> </ol> <p><strong>1. Giới thiệu</strong></p> <p>Các mô hình ngôn ngữ lớn (LLM) như GPT-4 và Llama-2 rất mạnh mẽ nhưng đòi hỏi tài nguyên tính toán đáng kể, khiến chúng không thực tế đối với các thiết bị nhỏ hơn. Đặc biệt, các mô hình transformer dựa trên cơ chế attention có nhu cầu bộ nhớ cao và độ phức tạp tính toán bậc hai, hạn chế hiệu quả của chúng. Các Mô hình không gian trạng thái (SSMs), chẳng hạn như Mamba, cung cấp một giải pháp thay thế với độ phức tạp thấp hơn, nhưng khả năng ghi nhớ hạn chế của chúng cản trở hiệu suất trong các tác vụ phức tạp. Các mô hình lai hiện có kết hợp tuần tự các lớp transformer và SSM thường thiếu sự phối hợp cần thiết để đạt hiệu suất tối ưu.</p> <p><strong>2. Kiến trúc Hymba: Sự kết hợp độc đáo</strong></p> <p>NVIDIA đã giới thiệu Hymba, một họ mô hình ngôn ngữ nhỏ mới với kiến trúc lai kết hợp Mamba và các đầu attention hoạt động song song. Mô hình này, với 1,5 tỷ tham số, nhằm mục đích giải quyết các thách thức về hiệu quả và hiệu năng mà các mô hình NLP nhỏ hơn gặp phải, được huấn luyện trên 1,5 nghìn tỷ token.</p> <p>Các mô hình Hymba của NVIDIA có kiến trúc song song lai kết hợp cơ chế attention của transformer với SSM để tăng cường hiệu quả. Kiến trúc này cho phép các đầu attention và các đầu SSM xử lý dữ liệu đầu vào song song, kết hợp sức mạnh của cả hai phương pháp. Các đầu attention cung cấp khả năng ghi nhớ độ phân giải cao, trong khi các đầu SSM cho phép tóm tắt ngữ cảnh hiệu quả.</p> <p>Hymba cũng giới thiệu các meta token có thể học được, được đặt trước mỗi lời nhắc đầu vào để giúp lưu trữ thông tin quan trọng và giảm tải cho các cơ chế attention. Kiến trúc của mô hình được tối ưu hóa hơn nữa với việc chia sẻ khóa-giá trị (KV) giữa các lớp và attention cửa sổ trượt một phần để duy trì kích thước bộ nhớ cache nhỏ gọn, giải quyết hiệu quả các hạn chế về bộ nhớ.</p> <p><strong>3. Chi tiết kỹ thuật</strong></p> <p>Mô hình Hymba-1.5B kết hợp Mamba và các đầu attention chạy song song với các meta token để tăng cường hiệu quả. Thiết lập này giảm tải tính toán của các transformer mà không ảnh hưởng đến khả năng ghi nhớ. Hymba bao gồm 16 trạng thái SSM và 3 lớp attention đầy đủ, trong khi phần còn lại sử dụng attention cửa sổ trượt để cân bằng hiệu quả với độ phân giải bộ nhớ. Nó cũng có tính năng FlexAttention từ PyTorch 2.5, thêm tính linh hoạt cho việc huấn luyện và suy luận của mô hình.</p> <p>Một tính năng quan trọng của Hymba là khả năng chia sẻ bộ nhớ cache KV giữa nhiều lớp và giữa các đầu trong cùng một lớp, làm giảm đáng kể việc sử dụng bộ nhớ. Sự kết hợp của attention cửa sổ trượt và bộ nhớ cache KV được chia sẻ giúp giảm thiểu độ phức tạp tính toán, làm cho Hymba hiệu quả hơn so với các mô hình khác có kích thước tương tự.</p> <p><strong>4. Hiệu quả, hiệu năng và tính linh hoạt</strong></p> <p>Hymba chứng minh rằng các mô hình ngôn ngữ nhỏ có thể đạt được hiệu năng cạnh tranh trong khi vẫn hiệu quả về mặt tính toán. Trong các bài kiểm tra chuẩn, mô hình Hymba-1.5B-Base đã vượt trội so với tất cả các mô hình công khai dưới 2B và vượt qua Llama-3.2-3B với độ chính xác trung bình cao hơn 1,32%, giảm kích thước bộ nhớ cache 11,67 lần và tăng tốc độ xử lý 3,49 lần. Điều này làm cho Hymba phù hợp để triển khai trên phần cứng nhỏ hơn, kém khả năng hơn.</p> <p>Thiết lập attention lai và SSM của Hymba cải thiện hiệu năng trên nhiều tác vụ, bao gồm cả các bài kiểm tra chuẩn chung và các tác vụ tập trung vào khả năng ghi nhớ. Tốc độ xử lý của nó khoảng 664 token mỗi giây, cao hơn đáng kể so với các mô hình khác như SmolLM2 hoặc Llama-3.2-3B, gặp phải sự cố hết bộ nhớ trong các kịch bản thử nghiệm tương tự. Các số liệu này nhấn mạnh tính phù hợp của Hymba đối với các kịch bản triển khai thực tế, nơi cả tốc độ và hiệu quả bộ nhớ đều rất cần thiết.</p> <p><strong>5. Kết luận</strong></p> <p>Họ mô hình ngôn ngữ nhỏ Hymba của NVIDIA đại diện cho một bước tiến đáng kể trong hiệu quả và tính linh hoạt của các công nghệ NLP. Bằng cách kết hợp attention của transformer và các mô hình không gian trạng thái thông qua kiến trúc song song lai, Hymba cung cấp một con đường để triển khai các khả năng NLP hiệu quả trên các thiết bị có tài nguyên hạn chế. Yêu cầu bộ nhớ giảm, tốc độ xử lý tăng và việc sử dụng sáng tạo các meta token và chia sẻ KV giữa các lớp làm cho nó trở thành một lựa chọn đầy hứa hẹn cho các ứng dụng mô hình ngôn ngữ trong tương lai, nơi cả hiệu quả và độ chính xác đều rất quan trọng.</p> <p><strong>6. Thông tin tác giả</strong></p> <p>Asif Razzaq là CEO của Marktechpost Media Inc. Là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Công việc gần đây nhất của ông là ra mắt nền tảng truyền thông Trí tuệ nhân tạo, Marktechpost, nổi bật với sự bao quát sâu rộng về tin tức máy học và học sâu, vừa chính xác về mặt kỹ thuật vừa dễ hiểu đối với nhiều đối tượng khán giả. Nền tảng này tự hào có hơn 2 triệu lượt xem mỗi tháng, minh chứng cho sự phổ biến của nó trong số khán giả.</p> <p><img alt="Logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg"></p>

Mô hình ngôn ngữ nhỏ Hymba 1.5B của NVIDIA: Vượt trội so với Llama 3.2 và SmolLM v2

Mục lục Giới thiệu Kiến trúc Hymba: Sự kết hợp độc đáo Chi tiết kỹ thuật Hiệu quả, hiệu năng và tính linh hoạt Kết luận Thông tin tá...

Read more »