Agent.ai.vn

Báo chí thế giới đang nhờ vả AI như thế nào?

<h3>Mục lục</h3>
<ol>
  <li><strong>Mỹ: Tạo nội dung và cá nhân hóa thông tin</strong></li>
  <li><strong>Đức: Dịch thuật, hỗ trợ biên tập và báo chí robot</strong></li>
  <li><strong>Pháp: Tuyển chọn nội dung, kiểm tra thực tế và tương tác với độc giả</strong></li>
  <li><strong>Nga: Phân tích dự đoán, báo cáo tự động và xử lý ngôn ngữ tự nhiên</strong></li>
  <li><strong>Thụy Điển: Tạo tin tức, thông tin độc giả và tìm kiếm nâng cao</strong></li>
  <li><strong>Trung Quốc: Tạo nội dung tự động, luồng tin tức cá nhân hóa và kiểm duyệt nội dung</strong></li>
  <li><strong>Nhật Bản: Nhà báo robot, dịch ngôn ngữ và báo chí dữ liệu</strong></li>
  <li><strong>Hàn Quốc: AI phát thanh viên, cá nhân hóa nội dung và nhận dạng giọng nói</strong></li>
  <li><strong>Singapore: Tổng hợp tin tức thông minh, chatbot và phân tích nội dung</strong></li>
  <li><strong>Ứng dụng AI tổng quát trên các nền tảng tin tức của Trung Quốc</strong></li>
  <li><strong>Kết luận: AI - công cụ hỗ trợ đắc lực cho ngành báo chí</strong></li>
</ol>

<h3>1. Mỹ: Tạo nội dung và cá nhân hóa thông tin</h3>
<p>Trí tuệ nhân tạo (AI) đang cách mạng hóa ngành báo chí-truyền thông toàn cầu, đặc biệt tại Mỹ. Các công cụ AI như GPT-3 được sử dụng để viết các bài báo, đặc biệt là về tin tài chính và thể thao, nơi có dữ liệu phong phú. Hãng tin Bloomberg dùng AI để xử lý các tập dữ liệu lớn, tạo ra các bản tóm tắt nhanh về biến động thị trường, hiệu suất cổ phiếu, dự báo tài chính…; trong khi đó, The Wall Street Journal sử dụng công cụ AI để xử lý báo cáo tài chính, dữ liệu thị trường để sản xuất các bài báo chi tiết. Hãng tin Reuters sử dụng công cụ AI mang tin Reuters News Tracer để lược qua khối lượng lớn bài đăng trên mạng xã hội và dữ liệu tài chính nhằm xác định tin nóng và xu hướng nổi bật, sau đó chuyển chúng thành các bài báo với sự trợ giúp của AI.</p>
<p>Hãng tin AP sử dụng AI để tự động viết tóm tắt các trận đấu bóng chày và nhiều câu chuyện thể thao khác. Họ sử dụng các công cụ như Wordsmith để tạo ra hàng ngàn bài báo thể thao một cách nhanh chóng và chính xác. Trong khi đó, ESPN dùng AI để tạo báo cáo thể thao, đặc biệt là tóm tắt trận đấu và phân tích thống kê. AI giúp sản xuất tin tức cập nhật theo thời gian thực, phân tích chi tiết về các trận đấu.</p>
<p>Báo The Washington Post sử dụng công cụ AI nội bộ của mình, Heliograf, để viết các bài báo về nhiều chủ đề khác nhau, bao gồm thu nhập tài chính và thể thao. Heliograf có thể tạo ra các bài viết ngắn, thông báo và thậm chí đăng cập nhật tin tức trên mạng xã hội X. Trong khi đó, công cụ AI có tên Bertie hỗ trợ các nhà báo của Forbes bằng cách cung cấp các mẫu và đề xuất câu chuyện dựa trên đầu vào dữ liệu.</p>

<h3>2. Đức: Dịch thuật, hỗ trợ biên tập và báo chí robot</h3>
<p>Ở Đức, công cụ dịch thuật AI giúp các báo như Die Welt tiếp cận đối tượng rộng hơn. AI hỗ trợ biên tập viên bằng cách đề xuất tiêu đề và làm nổi bật các chủ đề thịnh hành. Các hãng tin như DPA sử dụng AI để tạo báo cáo và cập nhật về thị trường tài chính.</p>

<h3>3. Pháp: Tuyển chọn nội dung, kiểm tra thực tế và tương tác với độc giả</h3>
<p>Tại Pháp, AI giúp tuyển chọn nội dung cá nhân hóa cho người đọc của các báo như Le Monde… Các công cụ AI được sử dụng để xác minh thông tin và phát hiện tin giả. Chatbot do AI điều khiển sẽ tương tác với người đọc trên các nền tảng như Le Figaro.</p>

<h3>4. Nga: Phân tích dự đoán, báo cáo tự động và xử lý ngôn ngữ tự nhiên</h3>
<p>Nhiều báo, tạp chí Nga sử dụng AI để dự đoán hành vi của độc giả và điều chỉnh chiến lược nội dung của họ. AI tạo ra các báo cáo về thời tiết, thị trường chứng khoán và sự kiện thể thao. AI được sử dụng để xử lý và hiểu văn bản tiếng Nga, nâng cao chức năng tìm kiếm và đề xuất.</p>

<h3>5. Thụy Điển: Tạo tin tức, thông tin độc giả và tìm kiếm nâng cao</h3>
<p>Các hãng tin Thụy Điển sử dụng AI để tạo nội dung, đặc biệt trong thể thao và tài chính. AI phân tích hành vi của độc giả để cung cấp các luồng tin tức cá nhân hóa. AI cải thiện chức năng tìm kiếm trên các trang web báo chí.</p>

<h3>6. Trung Quốc: Tạo nội dung tự động, luồng tin tức cá nhân hóa và kiểm duyệt nội dung</h3>
<p>AI được sử dụng rộng rãi ở Trung Quốc để sản xuất các bài báo nhanh chóng, đặc biệt là về sự kiện thể thao và cập nhật thời tiết. AI tuyển chọn các luồng tin tức dựa trên sở thích cá nhân trên các nền tảng như Tân Hoa Xã, Nhân dân Nhật báo…</p>
<p>Tân Hoa Xã sử dụng các thuật toán AI để phân tích lịch sử duyệt web, các mẫu nhấp chuột và thời gian đọc của người dùng để tuyển chọn các bản tin cá nhân hóa. Nền tảng sử dụng các mô hình học máy để đề xuất bài viết, video và nội dung đa phương tiện khác dựa trên sở thích của người dùng.</p>
<p>Trong khi đó, Nhân dân Nhật báo sử dụng một công cụ cá nhân hóa nội dung do AI điều khiển, theo dõi và phân tích hành vi người dùng trên ứng dụng và trang web của mình. Công cụ này sử dụng xử lý ngôn ngữ tự nhiên (NLP) hiểu bối cảnh và mức độ liên quan của các bài viết để phù hợp với sở thích của người dùng.</p>

<h3>7. Nhật Bản: Nhà báo robot, dịch ngôn ngữ và báo chí dữ liệu</h3>
<p>Các robot AI như AI-Journalist được sử dụng để viết bài cho các báo như Nikkei. AI dịch nội dung giữa tiếng Nhật và các ngôn ngữ khác để mở rộng lượng độc giả. AI phân tích những bộ dữ liệu lớn để sản xuất các bài báo điều tra.</p>

<h3>8. Hàn Quốc: AI phát thanh viên, cá nhân hóa nội dung và nhận dạng giọng nói</h3>
<p>Các phát thanh viên do AI tạo ra trình bày tin tức trên các nền tảng như MBN. AI đề xuất các bài báo và video dựa trên sở thích của người dùng trên các nền tảng như Naver News. Công nghệ nhận dạng giọng nói do AI điều khiển được sử dụng để chuyển đổi các cuộc phỏng vấn và họp báo thành văn bản.</p>

<h3>9. Singapore: Tổng hợp tin tức thông minh, chatbot và phân tích nội dung</h3>
<p>AI tổng hợp tin tức từ nhiều nguồn, cung cấp các luồng tin tức cá nhân hóa cho độc giả. Chatbot do AI điều khiển sẽ cung cấp tin tức cập nhật theo thời gian thực và tương tác với người đọc trên các nền tảng như The Straits Times. AI phân tích hành vi của độc giả để phục vụ ban biên tập ra các quyết định liên quan.</p>

<h3>10. Ứng dụng AI tổng quát trên các nền tảng tin tức của Trung Quốc</h3>
<p>Các công nghệ AI, bao gồm nhận dạng giọng nói và hình ảnh, được sử dụng để nâng cao trải nghiệm người dùng bằng cách cung cấp nội dung đa phương tiện phù hợp với sở thích cá nhân. AI phân tích cảm xúc trên cả nội dung và bình luận của người dùng để đánh giá ý kiến công chúng và tùy chỉnh đề xuất tin tức phù hợp với mô hình phản ứng cảm xúc của họ. AI dự đoán những chủ đề có thể thu hút người dùng dựa trên các chủ đề đang thịnh hành và dữ liệu lịch sử.</p>

<h3>11. Kết luận: AI - công cụ hỗ trợ đắc lực cho ngành báo chí</h3>
<p>Bà Katherine Maher, cựu CEO của Wikimedia Foundation, đã từng khẳng định: AI có sức mạnh để cách mạng hóa báo chí, nâng cao khả năng thu thập, xử lý và phân tích thông tin của chúng ta ở quy mô chưa từng có. Tuy nhiên, điều quan trọng là chúng ta phải sử dụng công nghệ này một cách có trách nhiệm, đảm bảo tính minh bạch, chính xác và công bằng để duy trì niềm tin của công chúng.</p>
<p>AI đang được ứng dụng rộng rãi trong ngành báo chí, góp phần tạo ra nội dung chất lượng cao, cá nhân hóa thông tin, tự động hóa các quy trình và tương tác hiệu quả với độc giả. Tuy nhiên, việc sử dụng AI một cách có trách nhiệm, đảm bảo tính minh bạch, chính xác và công bằng là điều vô cùng quan trọng để duy trì niềm tin của công chúng vào ngành báo chí.</p>

Báo chí thế giới đang nhờ vả AI như thế nào?

Báo chí thế giới đang nhờ vả AI như thế nào? Mục lục Mỹ: Tạo nội dung và cá nhân hóa thông tin Đức: Dịch thuật, hỗ trợ biên tập và...

tháng 6 19, 2024

NV-Embed: Mô hình nhúng văn bản mạnh mẽ của NVIDIA

<h2>NV-Embed: Mô hình nhúng văn bản mạnh mẽ của NVIDIA</h2>
<h3>Mục lục</h3>
<ol>
  <li><strong>Khả năng và Điểm mạnh của NV-Embed</strong></li>
  <li><strong>Kiến trúc của NV-Embed</strong></li>
  <li><strong>Huấn luyện NV-Embed</strong></li>
  <li><strong>Hiệu suất của NV-Embed</strong></li>
  <li><strong>Kết luận</strong></li>
</ol>

<h3>1. Khả năng và Điểm mạnh của NV-Embed</h3>
<p>NV-Embed được thiết kế để chuyển đổi văn bản thành các biểu diễn vectơ, cho phép máy tính hiểu và xử lý văn bản một cách hiệu quả. Mô hình này có khả năng xử lý nhiều nhiệm vụ liên quan đến nhúng văn bản như:</p>
<ul>
  <li><strong>Truy vấn (Retrieval):</strong> Tìm kiếm thông tin liên quan đến truy vấn của người dùng trong một tập hợp dữ liệu văn bản lớn. Ví dụ: tìm kiếm các bài báo khoa học liên quan đến một chủ đề cụ thể.</li>
  <li><strong>Phân loại (Classification):</strong> Phân loại văn bản vào các danh mục cụ thể. Ví dụ: phân loại email là thư rác hay thư chính thống.</li>
  <li><strong>Phân cụm (Clustering):</strong> Nhóm các văn bản có nội dung tương tự nhau. Ví dụ: nhóm các bài báo có cùng chủ đề.</li>
  <li><strong>So sánh ngữ nghĩa (Semantic Similarity):</strong> Xác định mức độ tương tự về ý nghĩa giữa hai đoạn văn bản. Ví dụ: tìm kiếm các đoạn văn bản tương tự với một đoạn văn bản nhất định.</li>
</ul>
<p>NV-Embed nổi bật với hai điểm mạnh:</p>
<ul>
  <li><strong>Hiệu suất vượt trội:</strong> NV-Embed đạt hiệu suất hàng đầu trong các mô hình nhúng văn bản, theo chuẩn mTAP Benchmark. Điều này chứng tỏ khả năng tạo ra các biểu diễn vectơ chính xác và hiệu quả hơn so với nhiều mô hình khác.</li>
  <li><strong>Khả năng xử lý đa nhiệm vụ:</strong> NV-Embed có thể được sử dụng cho nhiều nhiệm vụ khác nhau, tăng tính linh hoạt và ứng dụng rộng rãi trong các lĩnh vực như tìm kiếm thông tin, dịch máy, phân tích dữ liệu, và nhiều ứng dụng khác.</li>
</ul>

<h3>2. Kiến trúc của NV-Embed</h3>
<p>NV-Embed sử dụng hai kỹ thuật kiến trúc độc đáo:</p>
<ul>
  <li><strong>Lớp chú ý tiềm ẩn (Latent Attention Layer):</strong> Thay vì sử dụng phương pháp gộp trung bình (mean pooling) thông thường, NV-Embed sử dụng lớp chú ý tiềm ẩn để thu được các nhúng được gộp lại hiệu quả hơn. Lớp này hoạt động như một dạng chú ý chéo (cross-attention), nơi đầu ra của LLM được sử dụng làm truy vấn (Q) và mảng tiềm ẩn được huấn luyện (trainable) được sử dụng làm khóa-giá trị (K-V) để tính toán chú ý. Phương pháp này giúp thu giữ được thông tin ngữ nghĩa quan trọng hơn từ các cụm từ chính trong văn bản, so với việc đơn giản là lấy trung bình các nhúng của các từ.</li>
  <li><strong>Bỏ lớp che chú ý nguyên nhân (Causal Attention Mask):</strong> Lớp che chú ý nguyên nhân trong LLM được sử dụng để ngăn chặn sự rò rỉ thông tin trong quá trình dự đoán từ tiếp theo. Tuy nhiên, lớp này hạn chế khả năng học biểu diễn của LLM. NV-Embed loại bỏ lớp che này trong quá trình huấn luyện đối kháng (contrastive training), cho phép mô hình học các mối quan hệ giữa các từ trong văn bản một cách hiệu quả hơn.</li>
</ul>

<h3>3. Huấn luyện NV-Embed</h3>
<p>NV-Embed được huấn luyện bằng phương pháp chỉ thị đối kháng hai giai đoạn (Two-stage Contrastive Instruction Tuning):</p>
<ul>
  <li><strong>Giai đoạn 1:</strong> Huấn luyện trên các bộ dữ liệu thu hồi (retrieval), sử dụng kỹ thuật negative in-batch và hard-negative curated.</li>
  <li><strong>Giai đoạn 2:</strong> Kết hợp các bộ dữ liệu phi thu hồi (non-retrieval), như phân loại, phân cụm, và so sánh ngữ nghĩa, vào quá trình huấn luyện. Điều này giúp cải thiện hiệu suất của NV-Embed cho cả nhiệm vụ thu hồi và phi thu hồi.</li>
</ul>

<h3>4. Hiệu suất của NV-Embed</h3>
<p>NV-Embed đạt được điểm số cao nhất trên MTEB (Massive Text Embedding Benchmark), vượt qua các mô hình nhúng văn bản hàng đầu hiện nay. Mô hình này cũng đạt được điểm số cao nhất trên BEIR (Benchmark for Evaluating Information Retrieval), chứng tỏ sự hiệu quả của nó trong các nhiệm vụ thu hồi. Điểm đáng chú ý là NV-Embed đạt được kết quả hàng đầu mà không cần sử dụng dữ liệu tổng hợp từ các mô hình độc quyền như GPT-4. Điều này chứng minh tiềm năng của NV-Embed trong việc huấn luyện từ dữ liệu công khai và có thể được áp dụng rộng rãi trong cộng đồng nghiên cứu.</p>

<h3>5. Kết luận</h3>
<p>NV-Embed là một mô hình nhúng văn bản mạnh mẽ, hiệu quả và linh hoạt, được thiết kế để xử lý đa nhiệm vụ liên quan đến văn bản. Các kỹ thuật kiến trúc và huấn luyện độc đáo của nó giúp NV-Embed đạt được hiệu suất vượt trội, khẳng định vị thế hàng đầu trong lĩnh vực nhúng văn bản hiện nay.</p>

NV-Embed: Mô hình nhúng văn bản mạnh mẽ của NVIDIA

NV-Embed: Mô hình nhúng văn bản mạnh mẽ của NVIDIA Mục lục Khả năng và Điểm mạnh của NV-Embed Kiến trúc của NV-Embed Huấn luyện ...

tháng 6 19, 2024

Nvidia dẫn đầu cuộc đua công nghệ với AI

<h2>Nvidia dẫn đầu cuộc đua công nghệ với AI</h2>
<h3>Mục lục:</h3>
<ol>
  <li>Nvidia thống trị thị trường với giá trị vốn hóa khổng lồ</li>
  <li>Nvidia dẫn đầu cuộc đua AI với nhu cầu chip H100 tăng vọt</li>
  <li>Microsoft và Apple cũng là những người chơi lớn trong lĩnh vực AI</li>
  <li>Nvidia: Hơn cả một nhà sản xuất chip</li>
  <li>Tầm nhìn về tương lai của Nvidia và vai trò của AI</li>
</ol>

<h3>1. Nvidia thống trị thị trường với giá trị vốn hóa khổng lồ</h3>
<p>Nvidia Corp đã chính thức trở thành công ty có giá trị nhất thế giới, vượt qua cả Microsoft và Apple. Giá cổ phiếu của Nvidia đã tăng 3,5% trong ngày thứ Ba, đưa giá trị vốn hóa thị trường lên khoảng 3,3 nghìn tỷ USD. Sự bùng nổ này là kết quả của đà tăng trưởng mạnh mẽ của Nvidia trong lĩnh vực AI, với nhu cầu chip H100 tăng vọt.</p>

<h3>2. Nvidia dẫn đầu cuộc đua AI với nhu cầu chip H100 tăng vọt</h3>
<p>Nvidia được xem là người hưởng lợi lớn nhất từ cuộc cách mạng AI. Các chip của Nvidia được sử dụng để cung cấp năng lượng cho các trung tâm dữ liệu chạy các tác vụ tính toán phức tạp cần thiết cho các ứng dụng AI. Nhu cầu đối với chip H100 của Nvidia đã tăng vọt, giúp doanh thu của công ty tăng hơn 125% trong năm ngoái.</p>

<h3>3. Microsoft và Apple cũng là những người chơi lớn trong lĩnh vực AI</h3>
<p>Microsoft cũng là một người chơi lớn trong lĩnh vực AI với khoản đầu tư và hợp tác với OpenAI, đơn vị tạo ra ChatGPT. Apple cũng đã giới thiệu kế hoạch sử dụng AI của mình, thu hút sự quan tâm của các nhà đầu tư.</p>

<h3>4. Nvidia: Hơn cả một nhà sản xuất chip</h3>
<p>Nvidia không chỉ là một nhà sản xuất chip đơn thuần. Họ cũng cung cấp phần mềm độc quyền và hệ sinh thái phát triển.</p>

<h3>5. Tầm nhìn về tương lai của Nvidia và vai trò của AI</h3>
<p>Nvidia được dự đoán sẽ tiếp tục dẫn đầu trong lĩnh vực AI, với nhu cầu về chip GPU ngày càng tăng. Các chuyên gia nhận định rằng chip GPU của Nvidia đang trở thành vàng đen trong ngành công nghệ, thúc đẩy cuộc cách mạng công nghiệp 4.0.</p>

<img alt="Nvidia logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">
`

Nvidia dẫn đầu cuộc đua công nghệ với AI

Nvidia dẫn đầu cuộc đua công nghệ với AI Mục lục: Nvidia thống trị thị trường với giá trị vốn hóa khổng lồ Nvidia dẫn đầu cuộc đua ...

tháng 6 18, 2024

Nvidia: Từ Chip Game đến Vua Công Nghệ Trí Tuệ Nhân Tạo

<h2>Mục lục:</h2>
  <ul>
    <li><a href='#vươn-lên-vị-trí-đầu-bảng'>Nvidia Vươn Lên Vị Trí Đầu Bảng</a></li>
    <li><a href='#sự-trỗi-dậy-của-nvidia'>Sự Trỗi Dậy của Nvidia: Từ Chip Game đến AI</a></li>
    <li><a href='#nvidia-và-thị-trường-chip-ai'>Nvidia và Thị Trường Chip AI</a></li>
    <li><a href='#tầm-nhìn-và-thành-tựu-của-jensen-huang'>Tầm Nhìn và Thành Tựu Của Jensen Huang</a></li>
  </ul>

<h2 id='vươn-lên-vị-trí-đầu-bảng'>1. Nvidia Vươn Lên Vị Trí Đầu Bảng</h2>

<p>Nvidia, công ty khởi nghiệp đứng sau cuộc cách mạng trí tuệ nhân tạo (AI), đã trở thành công ty giá trị nhất thế giới, vượt qua cả Microsoft. </p>

<p>Vào ngày thứ Ba, vốn hóa thị trường của Nvidia đã đạt mức 3,335 nghìn tỷ đô la khi giá cổ phiếu của nhà sản xuất chip này tăng 3,5% lên 135,58 đô la. Thành tích này diễn ra chỉ vài ngày sau khi Nvidia vượt qua Apple để trở thành công ty giá trị thứ hai trên thế giới.</p>

<p>Trong khi đó, giá cổ phiếu của Microsoft và Apple, lần lượt giữ vị trí thứ hai và thứ ba, đã giảm 0,45% và 1,1%.</p>

<h2 id='sự-trỗi-dậy-của-nvidia'>2. Sự Trỗi Dậy của Nvidia: Từ Chip Game đến AI</h2>

<p>Sự tăng trưởng của Nvidia, đưa chỉ số S&P 500 và Nasdaq lên mức cao kỷ lục, là kết quả của chuỗi thành công liên tiếp của công ty, những sản phẩm GPU của họ đóng vai trò quan trọng trong sự phát triển của AI. </p>

<p>Nhu cầu về chip của Nvidia từ các gã khổng lồ công nghệ như Microsoft, Meta và Google đã tăng vọt. Giá cổ phiếu của công ty đã tăng gần 182% trong năm nay sau khi tăng hơn gấp ba lần vào năm 2023.</p>

<h2 id='nvidia-và-thị-trường-chip-ai'>3. Nvidia và Thị Trường Chip AI</h2>

<p>Nvidia nắm giữ khoảng 80% thị phần chip AI được sử dụng trong các trung tâm dữ liệu, cần thiết để chạy các mô hình AI như ChatGPT của OpenAI. </p>

<p>Kể từ khi ra mắt trên thị trường chứng khoán vào năm 1999, giá cổ phiếu của Nvidia đã tăng vọt 591.078%. Theo bản tin Kobeissi Letter về thị trường vốn, một nhà đầu tư bỏ ra 10.000 đô la cho công ty vào năm 1999 sẽ nắm giữ 59.107.800 đô la cổ phiếu vào ngày hôm nay.</p>

<h2 id='tầm-nhìn-và-thành-tựu-của-jensen-huang'>4. Tầm Nhìn và Thành Tựu Của Jensen Huang</h2>

<p>Được thành lập vào năm 1991, Nvidia đã dành vài thập kỷ đầu tiên tập trung vào việc sản xuất chip cho game máy tính. Tuy nhiên, vào những năm 2000, Giám đốc điều hành Jensen Huang đã chỉ đạo Nvidia đầu tư mạnh vào việc phát triển GPU để sử dụng trong nhiều ứng dụng hơn là game, đặt nền móng cho công ty để tận dụng sự bùng nổ của AI trong tương lai.</p>

<p>Sự tăng trưởng ngoạn mục của công ty đã biến Huang thành một trong những người giàu nhất thế giới, với tài sản ròng ước tính hơn 117 tỷ đô la, theo Forbes.</p>

Nvidia: Từ Chip Game đến Vua Công Nghệ Trí Tuệ Nhân Tạo

Mục lục: Nvidia Vươn Lên Vị Trí Đầu Bảng Sự Trỗi Dậy của Nvidia: Từ Chip Game đến AI Nvidia và Thị Trường Chip AI ...

tháng 6 18, 2024

Xây dựng hệ thống RAG cục bộ với 3 bước đơn giản

<h2>Xây dựng hệ thống RAG cục bộ với 3 bước đơn giản</h2>
<h3>Mục lục</h3>
<ol>
  <li>Giới thiệu</li>
  <li>Bước 1: Ollama - Quản lý mô hình</li>
  <li>Bước 2: Llama 3 - Mô hình ngôn ngữ</li>
  <li>Bước 3: LlamaIndex - Khung RAG</li>
  <li>Kết luận</li>
</ol>
<h3>Giới thiệu</h3>
<p>Bạn muốn có một hệ thống RAG cục bộ với thao tác tối thiểu? Bạn có một lượng tài liệu khổng lồ muốn biến thành cơ sở kiến thức để tăng cường cho mô hình ngôn ngữ? Hay bạn muốn xây dựng một chatbot biết về những gì bạn muốn nó biết?</p>
<p>Bài viết này sẽ hướng dẫn bạn cách dễ nhất để thực hiện điều đó. Hệ thống này có thể không phải là tối ưu nhất về tốc độ suy luận, độ chính xác vector hoặc khả năng lưu trữ, nhưng nó rất đơn giản. Bạn có thể tùy chỉnh nó nếu muốn, nhưng ngay cả khi không, những gì chúng ta làm trong hướng dẫn ngắn này sẽ giúp hệ thống RAG cục bộ của bạn hoạt động đầy đủ. Và vì chúng ta sẽ sử dụng Llama 3, chúng ta cũng có thể hy vọng đạt được kết quả tuyệt vời.</p>
<h3>Bước 1: Ollama - Quản lý mô hình</h3>
<p>Ollama có thể được sử dụng để quản lý và tương tác với các mô hình ngôn ngữ. Hôm nay, chúng ta sẽ sử dụng nó cho cả quản lý mô hình và tương tác gián tiếp, vì LlamaIndex có khả năng tương tác trực tiếp với các mô hình do Ollama quản lý. Điều này sẽ làm cho quá trình tổng thể của chúng ta dễ dàng hơn.</p>
<p>Bạn có thể cài đặt Ollama bằng cách làm theo hướng dẫn cụ thể cho hệ thống của mình trên kho lưu trữ GitHub của ứng dụng. Sau khi cài đặt, bạn có thể khởi chạy Ollama từ thiết bị đầu cuối và chỉ định mô hình bạn muốn sử dụng.</p>
<h3>Bước 2: Llama 3 - Mô hình ngôn ngữ</h3>
<p>Sau khi Ollama được cài đặt và hoạt động, bạn có thể tải xuống bất kỳ mô hình nào được liệt kê trong kho lưu trữ GitHub của nó hoặc tạo mô hình tương thích với Ollama từ các triển khai mô hình ngôn ngữ hiện có khác. Sử dụng lệnh chạy Ollama sẽ tải xuống mô hình đã chỉ định nếu nó không có trên hệ thống của bạn, vì vậy việc tải xuống Llama 3 8B có thể được thực hiện với dòng lệnh sau:</p>
<pre><code>nollama run llama3
</code></pre>
<p>Hãy chắc chắn rằng bạn có đủ dung lượng lưu trữ cục bộ để chứa tệp tải xuống 4,7 GB. Sau khi ứng dụng thiết bị đầu cuối Ollama khởi động với mô hình Llama 3 làm nền tảng, bạn có thể thu nhỏ nó lại. Chúng ta sẽ sử dụng LlamaIndex từ tập lệnh của riêng mình để tương tác.</p>
<h3>Bước 3: LlamaIndex - Khung RAG</h3>
<p>Phần cuối cùng của câu đố là LlamaIndex, khung RAG của chúng ta. Để sử dụng LlamaIndex, bạn cần đảm bảo rằng nó đã được cài đặt trên hệ thống của mình. Vì gói và không gian tên LlamaIndex đã có những thay đổi gần đây, tốt nhất là kiểm tra tài liệu chính thức để cài đặt LlamaIndex vào môi trường cục bộ của bạn.</p>
<p>Sau khi hoạt động, và với Ollama đang chạy với mô hình Llama3 được kích hoạt, bạn có thể lưu đoạn mã sau vào tệp (đã được sửa đổi từ đây):</p>
<pre><code>from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.ollama import Ollama

# Tài liệu cục bộ của tôi
documents = SimpleDirectoryReader(data).load_data()

# Mô hình nhúng
Settings.embed_model = HuggingFaceEmbedding(model_name=BAAI/bge-base-en-v1.5)

# Mô hình ngôn ngữ
Settings.llm = Ollama(model=llama3, request_timeout=360.0)

# Tạo chỉ mục
index = VectorStoreIndex.from_documents(documents)

# Thực hiện truy vấn RAG
query_engine = index.as_query_engine()
response = query_engine.query(What are the 5 stages of RAG?)
print(response)
</code></pre>
<p>Tập lệnh này thực hiện những điều sau:</p>
<ul>
  <li>Các tài liệu được lưu trữ trong thư mục dữ liệu</li>
  <li>Mô hình nhúng được sử dụng để tạo nhúng tài liệu RAG của bạn là biến thể BGE từ Hugging Face</li>
  <li>Mô hình ngôn ngữ là Llama 3 được đề cập ở trên, được truy cập qua Ollama</li>
  <li>Truy vấn được đặt cho dữ liệu của chúng ta (What are the 5 stages of RAG?) phù hợp vì tôi đã đặt một số tài liệu liên quan đến RAG vào thư mục dữ liệu</li>
  <li>Và đầu ra của truy vấn của chúng ta:
    <br>The five key stages within RAG are: Loading, Indexing, Storing, Querying, and Evaluation.</li>
</ul>
<p>Lưu ý rằng chúng ta có thể muốn tối ưu hóa tập lệnh theo một số cách để tạo điều kiện cho tìm kiếm nhanh hơn và duy trì một số trạng thái (ví dụ: nhúng), nhưng tôi sẽ để phần đó cho người đọc quan tâm khám phá.</p>
<h3>Kết luận</h3>
<p>Chúng ta đã làm được. Chúng ta đã quản lý để có được một ứng dụng RAG dựa trên LlamaIndex sử dụng Llama 3 được phục vụ bởi Ollama cục bộ trong 3 bước khá dễ dàng. Bạn có thể làm nhiều hơn với điều này, bao gồm tối ưu hóa, mở rộng, thêm giao diện người dùng, v.v., nhưng thực tế đơn giản là chúng ta đã có thể xây dựng mô hình cơ bản của mình chỉ với một vài dòng mã trên một tập hợp tối thiểu các ứng dụng và thư viện hỗ trợ.</p>
<p>Tôi hy vọng bạn thích quá trình này.</p>
<img alt="Logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">

Xây dựng hệ thống RAG cục bộ với 3 bước đơn giản

Xây dựng hệ thống RAG cục bộ với 3 bước đơn giản Mục lục Giới thiệu Bước 1: Ollama - Quản lý mô hình Bước 2: Llama 3 - Mô hình n...

tháng 6 18, 2024

OpenVLA: Mô hình AI nguồn mở cho robot

<html>
<head>
  <title>OpenVLA: Mô hình AI nguồn mở cho robot</title>
</head>
<body>
  <h1>OpenVLA: Mô hình AI nguồn mở cho robot</h1>

<h2>Mục lục</h2>
  <ul>
    <li><a href='#gioithieu'>Giới thiệu OpenVLA</a></li>
    <li><a href='#khokhan'>Khó khăn trong nghiên cứu robot</a></li>
    <li><a href='#hoatdong'>Cách thức hoạt động của OpenVLA</a></li>
    <li><a href='#ketqua'>Kết quả thử nghiệm</a></li>
    <li><a href='#ungdung'>Khả năng ứng dụng</a></li>
  </ul>

<h2 id='gioithieu'>1. Giới thiệu OpenVLA</h2>
  <p>OpenVLA là một mô hình trí tuệ nhân tạo nguồn mở được phát triển bởi các nhà nghiên cứu từ các trường đại học hàng đầu như Stanford, Berkeley, Google DeepMind, MIT và các phòng thí nghiệm khác. Mô hình này được thiết kế để điều khiển robot dựa trên các hướng dẫn bằng ngôn ngữ tự nhiên.</p>

<h2 id='khokhan'>2. Khó khăn trong nghiên cứu robot</h2>
  <p>Hiện nay, các nghiên cứu về mô hình ngôn ngữ lớn và VLA (Visual Language Action) cho robot thường bị hạn chế bởi các mô hình đóng nguồn. Điều này khiến các nhà nghiên cứu gặp khó khăn trong việc sử dụng và mở rộng mô hình. Sự ra đời của OpenVLA, một mô hình nguồn mở, sẽ là một bước tiến đáng kể cho cộng đồng nghiên cứu.</p>

<h2 id='hoatdong'>3. Cách thức hoạt động của OpenVLA</h2>
  <p>OpenVLA được đào tạo dựa trên mô hình ngôn ngữ VLM Prismatic-7B, kết hợp với bộ mã hóa hình ảnh để phân tích hình ảnh và mô hình ngôn ngữ lớn Llama 2 7B từ Meta. Điều này cho phép OpenVLA hiểu được ngữ cảnh của môi trường xung quanh và thực hiện các tác vụ được yêu cầu bằng ngôn ngữ tự nhiên.</p>

<h2 id='ketqua'>4. Kết quả thử nghiệm</h2>
  <p>OpenVLA được đào tạo trên một tập dữ liệu lớn hơn 970.000 robot manipulation indexes từ OpenX dataset. Qua thử nghiệm, OpenVLA cho thấy hiệu suất vượt trội so với các mô hình đóng nguồn như RT-2-X. Mô hình này có thể thực hiện các tác vụ phức tạp như chọn vật thể, di chuyển vật thể và đặt vật thể lên vị trí khác chỉ bằng cách nhận lệnh bằng ngôn ngữ tự nhiên.</p>

<h2 id='ungdung'>5. Khả năng ứng dụng</h2>
  <p>OpenVLA hứa hẹn sẽ thúc đẩy sự phát triển của lĩnh vực AI cho robot. Mô hình này có tiềm năng ứng dụng trong nhiều lĩnh vực như sản xuất, y tế, dịch vụ và nhiều hơn nữa. Với tính mở nguồn, OpenVLA sẽ tạo điều kiện cho các nhà nghiên cứu và các nhà phát triển dễ dàng tiếp cận và ứng dụng công nghệ này.</p>

<p>Mã nguồn của OpenVLA được công khai trên GitHub, các điểm kiểm tra mô hình được cung cấp trên HuggingFace.</p>

OpenVLA: Mô hình AI nguồn mở cho robot

OpenVLA: Mô hình AI nguồn mở cho robot OpenVLA: Mô hình AI nguồn mở cho robot Mục lục Giới thiệu OpenVLA Khó khă...

tháng 6 18, 2024

Báo chí thế giới đang nhờ vả AI như thế nào?

NV-Embed: Mô hình nhúng văn bản mạnh mẽ của NVIDIA

Nvidia dẫn đầu cuộc đua công nghệ với AI

Nvidia: Từ Chip Game đến Vua Công Nghệ Trí Tuệ Nhân Tạo

Xây dựng hệ thống RAG cục bộ với 3 bước đơn giản

OpenVLA: Mô hình AI nguồn mở cho robot

Bài đăng phổ biến

Labels