FuriosaAI ra mắt chip AI suy luận mới

<h2 id="section-0">FuriosaAI ra mắt chip AI suy luận mới</h2> <p><strong>FuriosaAI, một công ty bán dẫn AI mới nổi, đã ra mắt bộ tăng tốc AI RNGD tại Hội nghị Hot Chips 2024.</strong> Chip RNGD được định vị là bộ tăng tốc trung tâm dữ liệu hiệu quả cho suy luận mô hình ngôn ngữ lớn (LLM) và đa phương thức hiệu suất cao.</p> <p>Thành lập vào năm 2017 bởi ba kỹ sư có kinh nghiệm tại AMD, Qualcomm và Samsung, công ty đã theo đuổi một chiến lược tập trung vào đổi mới nhanh chóng và cung cấp sản phẩm, dẫn đến việc công bố và phát triển nhanh chóng của RNGD.</p> <p>Furiosa đã hoàn thành việc đưa RNGD vào hoạt động đầy đủ sau khi nhận được các mẫu silicon đầu tiên từ đối tác của họ, TSMC. Với con chip thế hệ đầu tiên, được giới thiệu vào năm 2021, Furiosa đã có thể gửi kết quả điểm chuẩn MLPerf đầu tiên của họ trong vòng 3 tuần sau khi nhận được silicon và đạt được hiệu suất tăng 113% trong lần gửi tiếp theo thông qua các cải tiến của trình biên dịch.</p> <p>Các thử nghiệm ban đầu của RNGD đã cho thấy kết quả đầy hứa hẹn với các mô hình ngôn ngữ lớn như GPT-J và Llama 3.1. Một thẻ PCIe RNGD duy nhất mang lại hiệu suất thông lượng từ 2.000 đến 3.000 token mỗi giây (tùy thuộc vào độ dài ngữ cảnh) cho các mô hình có khoảng 10 tỷ tham số.</p> <p>“Việc ra mắt RNGD là kết quả của nhiều năm đổi mới, dẫn đến thành công về silicon một lần và quy trình đưa vào hoạt động cực kỳ nhanh chóng. RNGD là một giải pháp tính toán AI bền vững và có thể truy cập được, đáp ứng nhu cầu thực tế của ngành đối với suy luận,” June Paik, Đồng sáng lập và Giám đốc điều hành của FuriosaAI, cho biết. "Với phần cứng của chúng tôi giờ đây bắt đầu chạy LLM ở hiệu suất cao, chúng tôi đang bước vào một giai đoạn tiến bộ liên tục đầy thú vị. Tôi vô cùng tự hào và biết ơn đội ngũ vì sự chăm chỉ và cống hiến không ngừng của họ."</p> <p><strong>RNGD có các đổi mới chính bao gồm:</strong></p> <ul> <li>Kiến trúc dựa trên Bộ xử lý co rút Tensor (TCP) không phải matmul, cho phép sự cân bằng hoàn hảo giữa hiệu quả, khả năng lập trình và hiệu suất.</li> <li>Khả năng lập trình thông qua trình biên dịch mạnh mẽ được đồng thiết kế để tối ưu hóa cho TCP, xử lý toàn bộ mô hình như các thao tác hợp nhất duy nhất.</li> <li>Hiệu quả, với TDP là 150W so với 1000W+ cho các GPU hàng đầu.</li> <li>Hiệu suất cao, với bộ nhớ HBM3 48GB cung cấp khả năng chạy các mô hình như Llama 3.1 8B hiệu quả trên một thẻ duy nhất.</li> </ul> <p>Con chip hiện đang được cung cấp cho các khách hàng truy cập sớm, với khả năng cung cấp rộng rãi dự kiến vào đầu năm 2025.</p><br /><img alt="Blog post image" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg" />

FuriosaAI ra mắt chip AI suy luận mới

FuriosaAI ra mắt chip AI suy luận mới FuriosaAI, một công ty bán dẫn AI mới nổi, đã ra mắt bộ tăng tốc AI RNGD tại Hội nghị Hot Chips 2024....

Read more »

Amazon ra mắt trợ lý mua sắm thông minh Rufus dựa trên AI tại Ấn Độ

<h2 id="section-0">Amazon ra mắt trợ lý mua sắm thông minh Rufus dựa trên AI tại Ấn Độ</h2> <p><strong>Amazon sắp giới thiệu chatbot Rufus, trợ lý mua sắm thông minh sử dụng công nghệ AI, đến với khách hàng tại Ấn Độ.</strong> Gã khổng lồ thương mại điện tử này đang nỗ lực tích hợp trí tuệ nhân tạo thế hệ mới (Gen AI) vào hoạt động kinh doanh của mình, và Rufus là minh chứng rõ ràng cho chiến lược này. </p> <p>Rufus, theo mô tả của Amazon, là một <strong>trợ lý mua sắm đàm thoại được hỗ trợ bởi AI thế hệ mới.</strong> Chức năng chính của Rufus là <strong>giúp người dùng tìm kiếm sản phẩm, đưa ra lời khuyên, cập nhật thông tin và hiểu rõ nhu cầu cá nhân của họ.</strong> Rufus có thể cung cấp các đề xuất sản phẩm, tư vấn về danh sách mua sắm, so sánh các danh mục sản phẩm, gợi ý quà tặng cho các dịp đặc biệt, và thậm chí trả lời các câu hỏi chi tiết từ khách hàng. </p> <p>Theo Amazon, <strong>Rufus có khả năng trả lời đa dạng các câu hỏi.</strong> Bên cạnh các truy vấn liên quan đến mua sắm, người dùng có thể đặt những câu hỏi không trực tiếp liên quan đến mua bán như "Cần những gì để nấu món dal makhani?". </p> <p><strong>Rufus hiện đang được thử nghiệm beta với một số khách hàng sử dụng ứng dụng Amazon.in trên thiết bị di động.</strong> Dự kiến, Rufus sẽ được cung cấp rộng rãi hơn đến với người dùng tại Ấn Độ trong vài tuần tới.</p> <p>Amazon cũng thừa nhận rằng <strong>Rufus có thể chưa luôn đưa ra được những phản hồi hoàn hảo.</strong> Họ khuyến khích người dùng <strong>để lại phản hồi</strong> sau khi trải nghiệm chatbot để giúp cải thiện hiệu quả của Rufus trong tương lai.</p> <p><strong>Trước đó, Amazon đã triển khai các tính năng dựa trên AI như "Review highlights"</strong> nhằm cung cấp cho người mua hàng cái nhìn tổng quan ngắn gọn về những đánh giá của khách hàng trước khi họ mua sản phẩm.</p> <p>Với việc giới thiệu Rufus, Amazon chứng tỏ sự đầu tư mạnh mẽ vào công nghệ AI để nâng cao trải nghiệm mua sắm cho khách hàng. Rufus hứa hẹn sẽ tạo ra những thay đổi tích cực trong cách người dùng mua sắm trực tuyến tại Ấn Độ và trên toàn thế giới. </p><br><img alt="Blog post image" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">

Amazon ra mắt trợ lý mua sắm thông minh Rufus dựa trên AI tại Ấn Độ

Amazon ra mắt trợ lý mua sắm thông minh Rufus dựa trên AI tại Ấn Độ Amazon sắp giới thiệu chatbot Rufus, trợ lý mua sắm thông minh sử dụng ...

Read more »

Together.ai: Cách mạng hóa tìm kiếm doanh nghiệp với API Rerank và Salesforce LlamaRank

<h2 id="section-0">Together.ai: Cách mạng hóa tìm kiếm doanh nghiệp với API Rerank và Salesforce LlamaRank</h2> <p><strong>Together.ai vừa công bố ra mắt API Together Rerank không cần server và quyền truy cập độc quyền vào mô hình LlamaRank của Salesforce, nâng cao khả năng tìm kiếm doanh nghiệp và hệ thống Tạo Nội dung được hỗ trợ bởi Truy vấn (RAG).</strong></p> <p><strong>Cách mạng hóa tìm kiếm doanh nghiệp</strong></p> <p>API Together Rerank mới là một điểm cuối không cần server được thiết kế để tích hợp liền mạch với các ứng dụng doanh nghiệp. API này đơn giản hóa quy trình cho các nhà phát triển, cho phép kết hợp các mô hình reranker được hỗ trợ với mã tối thiểu. Các tính năng chính của API bao gồm:</p> <ul> <li>Hỗ trợ hàng đầu cho mô hình LlamaRank của Salesforce</li> <li>Hỗ trợ dữ liệu JSON và bảng</li> <li>Bối cảnh dài 8K cho mỗi tài liệu</li> <li>Độ trễ thấp cho các truy vấn tìm kiếm nhanh</li> <li>Khả năng tương thích với API Rerank của Cohere</li> </ul> <p><strong>Truy cập độc quyền vào LlamaRank</strong></p> <p>LlamaRank, được phát triển bởi Salesforce AI Research, đã thể hiện hiệu suất vượt trội so với các mô hình rerank hàng đầu khác như Cohere Rerank v3 và Mistral-7B. Mô hình này nâng cao khả năng xếp hạng tài liệu, do đó cải thiện độ chính xác và hiệu quả của việc truy xuất thông tin trong cả hệ thống RAG và tìm kiếm truyền thống. LlamaRank hỗ trợ các tài liệu có độ dài lên tới 8.000 token và đặc biệt hiệu quả đối với dữ liệu bán cấu trúc như JSON, email, bảng và mã.</p> <p><strong>Mô hình Reranker là gì?</strong></p> <p>Reranker là một mô hình chuyên biệt giúp cải thiện tính liên quan của tìm kiếm bằng cách đánh giá lại và sắp xếp lại một tập hợp tài liệu dựa trên tính liên quan của chúng với một truy vấn nhất định. Ví dụ, trong kịch bản hỗ trợ kỹ thuật, một truy vấn của người dùng về việc đặt lại mật khẩu sẽ dẫn đến reranker ưu tiên các tài liệu liên quan nhất, do đó nâng cao kết quả tìm kiếm.</p> <p><strong>Cách reranking cải thiện tìm kiếm và RAG</strong></p> <p>Reranking là một thành phần quan trọng trong các hệ thống tìm kiếm và RAG hiện đại, đóng vai trò như một bộ lọc chất lượng đánh giá lại các tài liệu được truy xuất ban đầu. Bước này nâng cao chất lượng thông tin được cung cấp cho các mô hình ngôn ngữ, giảm khả năng xảy ra kết quả không chính xác hoặc không liên quan. Các reranker đặc biệt có giá trị trong các thiết lập doanh nghiệp, nơi khối lượng dữ liệu lớn ở nhiều định dạng yêu cầu việc truy xuất chính xác và chính xác cho việc ra quyết định.</p> <p><strong>Salesforce LlamaRank: Mô hình Reranker doanh nghiệp chính xác hơn</strong></p> <p>Mô hình LlamaRank của Salesforce là một phiên bản được tinh chỉnh của Llama3-8B-Instruct, được đào tạo bằng cả dữ liệu tổng hợp và dữ liệu được dán nhãn bằng con người từ các nhà phân tích dữ liệu nội bộ của Salesforce. Mô hình này xuất sắc trong việc xếp hạng cả tài liệu chung và mã, khiến nó rất hữu ích cho nhiều ứng dụng doanh nghiệp. Salesforce đã đánh giá LlamaRank trên các bộ dữ liệu công khai như SQuAD, TriviaQA, Neural Code Search và TrailheadQA, nơi nó thể hiện hiệu suất vượt trội.</p> <p><strong>API Together Rerank</strong></p> <p>API Together Rerank được thiết kế để cung cấp trải nghiệm nhà phát triển liền mạch cho việc xây dựng các ứng dụng RAG. Nó cho phép các nhà phát triển dễ dàng tích hợp các mô hình reranker được hỗ trợ vào các ứng dụng doanh nghiệp của họ. API nhận một truy vấn và một tập hợp tài liệu, trả về điểm số liên quan và chỉ mục sắp xếp cho mỗi tài liệu. Nó cũng có thể lọc các phản hồi để chỉ hiển thị các tài liệu liên quan nhất.</p> <p><strong>Cách bắt đầu</strong></p> <p>Để bắt đầu, các nhà phát triển có thể tạo khóa API với Together AI và làm theo các bước trong tài liệu khởi động nhanh để thử mô hình LlamaRank của Salesforce. Đối với việc triển khai quy mô sản xuất, các doanh nghiệp được khuyến khích liên hệ với nhóm bán hàng của Together.ai.</p> <p><strong>Kết luận</strong></p> <p>API Together Rerank và quyền truy cập độc quyền vào LlamaRank đánh dấu một bước tiến đáng kể trong lĩnh vực tìm kiếm doanh nghiệp và RAG. Với khả năng reranking nâng cao, các doanh nghiệp giờ đây có thể truy xuất thông tin chính xác và hiệu quả hơn, dẫn đến ra quyết định nhanh chóng và sáng suốt hơn. </p><br><img alt="Blog post image" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">

Together.ai: Cách mạng hóa tìm kiếm doanh nghiệp với API Rerank và Salesforce LlamaRank

Together.ai: Cách mạng hóa tìm kiếm doanh nghiệp với API Rerank và Salesforce LlamaRank Together.ai vừa công bố ra mắt API Together Rerank ...

Read more »

Trung Quốc Sẽ Sớm Trở Thành Quốc Gia Hàng Đầu Về Đổi Mới Trí Tuệ Nhân Tạo, Báo Cáo Mới Cho Biết

<h2 id="section-0">Trung Quốc Sẽ Sớm Trở Thành Quốc Gia Hàng Đầu Về Đổi Mới Trí Tuệ Nhân Tạo, Báo Cáo Mới Cho Biết</h2> <p><strong>Bắc Kinh –</strong> Trung Quốc đang tiến bộ nhanh chóng về trí tuệ nhân tạo (AI) và có khả năng sẽ sớm vượt qua Mỹ về đổi mới trong lĩnh vực này. Đây là kết luận của một báo cáo mới được công bố bởi Viện Nghiên cứu Công nghệ Thông tin và Đổi mới (ITIF).</p> <p>Báo cáo "Đổi mới AI của Trung Quốc: Thực trạng và Hướng phát triển" chỉ ra rằng nỗ lực không ngừng nghỉ và đầu tư chiến lược của Trung Quốc vào AI đã tạo ra một hệ sinh thái đổi mới cạnh tranh với Mỹ. Các mô hình AI tiên tiến của Trung Quốc hiện nay đang sánh ngang hoặc thậm chí vượt trội so với các mô hình tương tự trên thế giới.</p> <p>Tác giả báo cáo, Hodan Omaar, chuyên gia chính sách cao cấp tại ITIF, cho biết: “Quan niệm cho rằng Trung Quốc chỉ là một kẻ sao chép là sai lầm và lỗi thời. Trung Quốc đã phát triển một hệ sinh thái đổi mới AI cạnh tranh với Mỹ, tạo ra các mô hình AI tiên tiến vượt trội so với các đối thủ cạnh tranh toàn cầu. Nếu xu hướng này tiếp tục, Mỹ có thể sớm phải đối mặt với tình trạng sao chép Trung Quốc."</p> <p>Mặc dù Mỹ đã thực hiện nhiều nỗ lực nhằm hạn chế quyền truy cập của Trung Quốc vào công nghệ tiên tiến thông qua các biện pháp kiểm soát xuất khẩu, những nỗ lực này lại đạt hiệu quả hạn chế. Trên thực tế, chúng còn có tác dụng ngược, thúc đẩy Trung Quốc phát triển hệ sinh thái nội địa, với các công ty tìm cách lách luật bằng cách đào tạo AI trên các nền tảng điện toán đám mây công cộng hoặc sử dụng các giải pháp điện toán đám mây riêng như sản phẩm "AI-in-a-box" của Huawei.</p> <p><strong>Báo cáo nêu bật một số phát hiện quan trọng:</strong></p> <ul> <li>Trung Quốc dẫn đầu về số lượng bài báo nghiên cứu AI và cạnh tranh mạnh mẽ trong lĩnh vực AI tạo sinh, mặc dù các bài báo của Mỹ có tác động lớn hơn, với nhiều trích dẫn hơn và sự tham gia của khu vực tư nhân nhiều hơn.</li> <li>Đại học Thanh Hoa là trung tâm chính cho các startup AI hàng đầu của Trung Quốc, bao gồm các "con hổ AI" như Zhipu AI, Baichuan AI, Moonshot AI và MiniMax, được thành lập bởi các giảng viên và cựu sinh viên của trường.</li> <li>Các mô hình ngôn ngữ lớn của Trung Quốc đang thu hẹp khoảng cách về hiệu suất với các mô hình của Mỹ, với một số mô hình vượt trội trong các điểm chuẩn song ngữ.</li> <li>Mặc dù đầu tư tư nhân vào AI ở Trung Quốc thấp hơn so với Mỹ, đầu tư nước ngoài, đặc biệt là từ Aramco của Ả Rập Saudi, đang tăng lên trong lĩnh vực AI tạo sinh của Trung Quốc.</li> <li>Các quỹ do nhà nước quản lý và hỗ trợ tài chính hiệu quả hỗ trợ các công ty đầy tiềm năng ở các khu vực chưa được đầu tư đầy đủ của Trung Quốc.</li> </ul> <p>Các startup Trung Quốc thậm chí còn ảnh hưởng đến các tổ chức hàng đầu của phương Tây. Một tranh cãi gần đây tại Đại học Stanford đã tiết lộ rằng mô hình AI của trường, Llama 3-V, rất giống với MiniCPM-Llama3-V 2.5, được phát triển bởi Phòng thí nghiệm Xử lý Ngôn ngữ Tự nhiên của Đại học Thanh Hoa và ModelBest. Liu Zhiyuan, đồng sáng lập của ModelBest, lưu ý rằng có một khoảng cách đáng kể giữa các mô hình AI tạo sinh của Trung Quốc và các dự án phương Tây như GPT-4, nhưng nhấn mạnh rằng Trung Quốc đã nhanh chóng phát triển thành một động lực chính cho đổi mới công nghệ AI chỉ trong hơn một thập kỷ.</p> <p>Để tăng cường phát triển AI và thúc đẩy việc áp dụng AI, Omaar khuyến nghị các nhà hoạch định chính sách của Mỹ:</p> <ul> <li>Thúc đẩy đầu tư tư nhân vào nghiên cứu và phát triển AI.</li> <li>Tái tạo quy trình tài trợ của liên bang cho AI.</li> <li>Tránh các chính sách làm suy yếu vị thế dẫn đầu của Mỹ về AI và củng cố các đối thủ cạnh tranh của Trung Quốc.</li> <li>Phát triển một chiến lược dữ liệu quốc gia để mở rộng đáng kể khả năng tiếp cận dữ liệu cho việc đào tạo các mô hình AI.</li> <li>Tạo ra một lộ trình AI quốc gia cho việc áp dụng.</li> <li>Ưu tiên việc áp dụng AI nhanh chóng trong chính phủ liên bang.</li> <li>Hỗ trợ chuyển đổi kỹ thuật số.</li> <li>Khuyến khích đầu tư vào đào tạo nhân lực AI.</li> </ul> <p>Omaar kết luận: “Mỹ là quốc gia dẫn đầu về phát triển AI trên toàn cầu nhưng phải đối mặt với sự cạnh tranh khốc liệt từ Trung Quốc. Việc tập trung vào việc kìm hãm sự phát triển của Trung Quốc sẽ không thể ngăn chặn tiến bộ của họ trong thời gian dài. Thay vào đó, Mỹ nên tập trung vào việc duy trì, thậm chí là mở rộng vị thế dẫn đầu của mình. Điều quan trọng là Quốc hội và Nhà Trắng phải xây dựng và tài trợ một chiến lược AI quốc gia toàn diện nhằm giải quyết hai mục tiêu song song: tăng cường phát triển và áp dụng AI."</p><br /><img alt="Blog post image" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg" />

Trung Quốc Sẽ Sớm Trở Thành Quốc Gia Hàng Đầu Về Đổi Mới Trí Tuệ Nhân Tạo, Báo Cáo Mới Cho Biết

Trung Quốc Sẽ Sớm Trở Thành Quốc Gia Hàng Đầu Về Đổi Mới Trí Tuệ Nhân Tạo, Báo Cáo Mới Cho Biết Bắc Kinh – Trung Quốc đang tiến bộ nhanh c...

Read more »

NVIDIA Ra Mắt Dịch vụ Vi mô NIM cho Trí tuệ Nhân tạo Thế hệ Mới tại Nhật Bản và Đài Loan

<h2 id="section-0">NVIDIA Ra Mắt Dịch vụ Vi mô NIM cho Trí tuệ Nhân tạo Thế hệ Mới tại Nhật Bản và Đài Loan</h2> <p><strong>NVIDIA vừa công bố ra mắt 4 dịch vụ vi mô NVIDIA NIM mới, nhằm hỗ trợ các nhà phát triển xây dựng và triển khai ứng dụng trí tuệ nhân tạo thế hệ mới (Generative AI) hiệu quả hơn.</strong> Những dịch vụ này đặc biệt nhắm đến việc thúc đẩy AI chủ quyền (Sovereign AI), giúp các quốc gia phát triển các hệ thống AI dựa trên cơ sở hạ tầng, dữ liệu, nguồn nhân lực và mạng lưới kinh doanh riêng của mình, đảm bảo sự phù hợp với các giá trị, luật pháp và lợi ích địa phương.</p> <p><strong>Trong bối cảnh AI thế hệ mới đang bùng nổ, thị trường phần mềm AI thế hệ mới tại khu vực châu Á - Thái Bình Dương dự kiến ​​sẽ đạt mức doanh thu 48 tỷ USD vào năm 2030, tăng từ 5 tỷ USD hiện nay (theo ABI Research).</strong> NVIDIA nhận thấy nhu cầu cấp thiết về các mô hình ngôn ngữ lớn (LLM) được đào tạo trên dữ liệu địa phương để nâng cao hiệu quả của AI trong việc hiểu và phản hồi văn hóa và ngôn ngữ bản địa một cách chính xác hơn. </p> <p><strong>Bốn dịch vụ vi mô NIM mới được NVIDIA giới thiệu bao gồm:</strong></p> <ul> <li><strong>Llama-3-Swallow-70B:</strong> Đào tạo trên dữ liệu tiếng Nhật, giúp hiểu sâu hơn về luật pháp, quy định và phong tục địa phương.</li> <li><strong>Llama-3-Taiwan-70B:</strong> Được đào tạo trên dữ liệu tiếng Mandarin, cung cấp khả năng hiểu biết về văn hóa và ngôn ngữ Đài Loan.</li> <li><strong>RakutenAI 7B (Chat & Instruct):</strong> Được xây dựng dựa trên Mistral-7B và được đào tạo trên tập dữ liệu tiếng Anh và tiếng Nhật, đạt điểm số cao trong bảng xếp hạng LM Evaluation Harness benchmark cho các mô hình ngôn ngữ tiếng Nhật mở.</li> </ul> <p><strong>Các mô hình này mang đến hiệu suất vượt trội so với các LLM cơ bản như Llama 3 trong việc hiểu ngôn ngữ tiếng Nhật và tiếng Mandarin, xử lý các nhiệm vụ pháp lý khu vực, trả lời câu hỏi, dịch và tóm tắt ngôn ngữ.</strong></p> <p><strong>NVIDIA NIM hỗ trợ các nhà phát triển dễ dàng triển khai các mô hình AI chủ quyền, được đóng gói dưới dạng dịch vụ vi mô, vào sản xuất với hiệu suất được tối ưu hóa.</strong> Dịch vụ vi mô này có sẵn với NVIDIA AI Enterprise và được tối ưu hóa cho quá trình suy luận với thư viện mã nguồn mở NVIDIA TensorRT-LLM.</p> <p><strong>Với NVIDIA NIM, các tổ chức có thể xây dựng các ứng dụng AI như trợ lý ảo, chatbot và các hệ thống AI hỗ trợ chuyên nghiệp, đáp ứng nhu cầu địa phương một cách hiệu quả.</strong> Ví dụ, Viện Công nghệ Tokyo đã sử dụng Llama-3-Swallow 70B để phát triển một mô hình chuyên ngành y tế, được đào tạo trên tập dữ liệu y tế tiếng Nhật độc quyền, đạt điểm số cao trong kỳ thi tuyển chọn bác sĩ quốc gia Nhật Bản. </p> <p><strong>Bên cạnh đó, NVIDIA AI Foundry cung cấp một giải pháp trọn gói để tạo ra các mô hình cơ bản tùy chỉnh, được đóng gói dưới dạng dịch vụ vi mô NIM.</strong> Nền tảng này kết hợp các mô hình cơ bản phổ biến, NVIDIA NeMo để tinh chỉnh mô hình và sức mạnh tính toán chuyên dụng trên NVIDIA DGX Cloud, giúp các nhà phát triển nhanh chóng xây dựng và triển khai các dịch vụ vi mô NIM ngôn ngữ khu vực tùy chỉnh của riêng mình.</p> <p><strong>Sự ra mắt của các dịch vụ vi mô NIM dành cho AI chủ quyền là một bước tiến quan trọng của NVIDIA trong việc thúc đẩy sự phát triển của AI tại Nhật Bản, Đài Loan và các quốc gia khác trên thế giới.</strong> Bằng cách cung cấp các công cụ và dịch vụ cần thiết để xây dựng và triển khai các ứng dụng AI hiệu quả, NVIDIA hỗ trợ các doanh nghiệp, cơ quan chính phủ và các trường đại học tạo ra các giải pháp AI phù hợp với văn hóa và ngôn ngữ địa phương, góp phần thúc đẩy sự phát triển kinh tế và xã hội.</p><br><img alt="Blog post image" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">

NVIDIA Ra Mắt Dịch vụ Vi mô NIM cho Trí tuệ Nhân tạo Thế hệ Mới tại Nhật Bản và Đài Loan

NVIDIA Ra Mắt Dịch vụ Vi mô NIM cho Trí tuệ Nhân tạo Thế hệ Mới tại Nhật Bản và Đài Loan NVIDIA vừa công bố ra mắt 4 dịch vụ vi mô NVIDIA N...

Read more »

Character AI: Cuộc gọi thoại giờ đã có mặt trên web!

<h2 id="section-0">Character AI: Cuộc gọi thoại giờ đã có mặt trên web!</h2> <p><strong>Character AI</strong>, nền tảng cho phép người dùng tương tác với các nhân vật AI thông qua cả văn bản và giọng nói, đã mở rộng tính năng cuộc gọi thoại của mình lên web. Trước đây, tính năng này chỉ dành riêng cho thiết bị di động, nhưng vào tháng 6 năm nay, nó đã được phát hành cho web. Cập nhật này cho phép người dùng trò chuyện bằng giọng nói trực tiếp với các nhân vật AI, tạo nên trải nghiệm tương tự như một cuộc gọi điện thoại. Tuy nhiên, ngoài chức năng chính này, không có thêm tính năng nào khác được tích hợp vào trải nghiệm cuộc gọi.</p> <p>Người dùng giờ đây có thể dễ dàng khởi động cuộc gọi thoại thông qua một nút trên giao diện web. Mặc dù đây là một cập nhật đáng chú ý, nhưng nó dường như đã bị bỏ qua bởi phần lớn người dùng. </p> <p><strong>Tương lai của Character AI</strong> vẫn còn nhiều điều chưa chắc chắn, đặc biệt là sau khi các nhà sáng lập của nó quay trở lại Google. Ảnh hưởng của động thái này đối với sự phát triển của nền tảng vẫn chưa rõ ràng, khiến nhiều người đặt câu hỏi về tương lai của dịch vụ này.</p> <p><strong>Character AI</strong> hỗ trợ nhiều ngôn ngữ và hướng đến việc tạo ra những trải nghiệm AI hấp dẫn và cá nhân hóa cho người dùng. Nền tảng này có tiềm năng rất lớn để cách mạng hóa cách chúng ta tương tác với AI.</p> <p><strong>Mặc dù Character AI đang trong quá trình phát triển và có nhiều cải tiến đang được thực hiện, nhưng tính năng cuộc gọi thoại trên web là một bước tiến quan trọng đối với việc đưa AI vào cuộc sống hàng ngày của chúng ta.</strong></p><br><img alt="Blog post image" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">

Character AI: Cuộc gọi thoại giờ đã có mặt trên web!

Character AI: Cuộc gọi thoại giờ đã có mặt trên web! Character AI , nền tảng cho phép người dùng tương tác với các nhân vật AI thông qua cả...

Read more »