Agent.ai.vn

Google Home chào đón kỷ nguyên mới với Trí tuệ Gemini

<h2>Google Home chào đón kỷ nguyên mới với Trí tuệ Gemini</h2>

<h3>Mục lục:</h3>
<ol>
  <li><a href='#assistant'>Trợ lý ảo Google Assistant thông minh hơn</a></li>
  <li><a href='#camera'>Camera an ninh Nest: Không chỉ nhìn mà còn hiểu</a></li>
  <li><a href='#automation'>Tự động hóa ngôi nhà dễ dàng hơn bao giờ hết</a></li>
  <li><a href='#voice'>Giọng nói mới mẻ cho Trợ lý Google</a></li>
  <li><a href='#future'>Tương lai cho ngôi nhà thông minh</a></li>
</ol>

<p>Trong nỗ lực không ngừng để đơn giản hóa và nâng cao trải nghiệm người dùng, Google đã công bố ba tính năng mới được hỗ trợ bởi trí tuệ nhân tạo Gemini cho nền tảng nhà thông minh Google Home. Những cải tiến này tập trung vào việc nâng cao khả năng của trợ lý ảo Google Assistant, camera an ninh Nest và khả năng tự động hóa ngôi nhà.</p>

<h3 id='assistant'>1. Trợ lý ảo Google Assistant thông minh hơn</h3>

<p>Google cam kết mang đến một Trợ lý Google tốt hơn, thông minh hơn và hữu ích hơn. Thay vì thay thế hoàn toàn, Google sẽ triển khai trí tuệ Gemini hoạt động như hậu phương đắc lực cho Google Assistant trên các thiết bị như loa thông minh và màn hình thông minh Nest.</p>

<h3 id='camera'>2. Camera an ninh Nest: Không chỉ nhìn mà còn hiểu</h3>

<p>Với sự trợ giúp của trí tuệ Gemini, camera Nest có thể hiểu được những gì chúng nhìn thấy và nghe thấy, sau đó cung cấp cho bạn những thông tin quan trọng nhất. Ví dụ, thay vì chỉ nhận được thông báo phát hiện người hoặc phát hiện gói hàng, Google Home sẽ cung cấp mô tả chi tiết về những gì camera ghi lại được.</p>

<p>Chẳng hạn, camera có thể cung cấp chú thích chi tiết như: Một người trẻ tuổi mặc trang phục thường ngày, đang đứng cạnh một chiếc SUV màu đen đang đỗ. Họ đang mang theo túi đựng đồ tạp hóa. Chiếc xe đang đỗ một phần trong gara và khu vực xung quanh có vẻ yên tĩnh.</p>

<p>Không chỉ cung cấp thông tin hữu ích, khả năng hiểu ngữ cảnh này còn mở ra tiềm năng tự động hóa ngôi nhà thông minh hơn. Ví dụ: nếu camera phát hiện một con vật và hiểu rằng con chó đang đào trong vườn, bước tiếp theo có thể là tạo tự động hóa để bật vòi phun nước.</p>

<p>Ngoài ra, bạn có thể sử dụng văn bản để tìm kiếm các sự kiện cụ thể trong đoạn phim được lưu trữ. Ví dụ: bạn có thể yêu cầu hiển thị lần cuối cùng camera phát hiện con mèo thay vì phải cuộn qua tất cả các video được gắn thẻ động vật để tìm nó.</p>

<p>Tính năng Giúp tôi tạo mới trong ứng dụng Google Home cho phép bạn mô tả những gì bạn muốn thực hiện, chẳng hạn như khóa cửa và tắt đèn khi đi ngủ và ứng dụng sẽ tự động tạo quy trình thực hiện.</p>

<p>Mặc dù hiện tại chỉ có thể sử dụng văn bản hoặc giọng nói trong ứng dụng Home trên điện thoại (chưa hoạt động qua loa Nest), nhưng Google khẳng định tính năng này sẽ có đầy đủ khả năng của ứng dụng Google Home hiện tại, bao gồm tất cả các trình khởi động, điều kiện và hành động hiện có, cộng với quyền truy cập vào mọi thiết bị được kết nối với Google Home, bao gồm cả thiết bị Matter.</p>

<h3 id='voice'>4. Giọng nói mới mẻ cho Trợ lý Google</h3>

<p>Bên cạnh việc tự động hóa dễ dàng hơn và camera thông minh hơn, Google cho biết họ đang cải thiện trải nghiệm cốt lõi của Trợ lý Google - chẳng hạn như phát nhạc và đặt hẹn giờ - trên tất cả các loa thông minh và màn hình thông minh Nest hiện tại.</p>

<p>Hơn nữa, Google Assistant còn được bổ sung thêm các giọng nói mới với nhiều phong cách, tông giọng và trọng âm khác nhau. Google đã phát hành bản demo về giọng nói mới đầu tiên tham gia vào cuộc trò chuyện tương tác. Giọng nói mới này vẫn giữ được giọng nữ nhưng nghe nhẹ nhàng và tự nhiên hơn.</p>

<p>Google Assistant không chỉ nghe tự nhiên hơn mà còn giao tiếp tự nhiên hơn. Google cho biết nó sẽ không cần những câu lệnh cụ thể để thực hiện những gì bạn muốn, có thể xử lý các khoảng dừng, âm ừm và à và trả lời các câu hỏi tiếp theo.</p>

<h3 id='future'>5. Tương lai cho ngôi nhà thông minh</h3>

<p>Những thay đổi này được thiết kế để đưa trợ lý giọng nói kỹ thuật số đến gần hơn với tầm nhìn mà Google và các đối thủ cạnh tranh đã hướng tới trong nhiều năm: một trợ lý kỹ thuật số thực sự hữu ích.</p>

<p>Mặc dù việc quản lý ngôi nhà thông minh với nhiều thiết bị và tình huống phức tạp là một thách thức lớn đối với máy tính, nhưng có vẻ như Amazon, Google và Apple hiện đang chạy đua hướng tới tương lai mà ngôi nhà của chúng ta có một trợ lý thông minh, nhận biết ngữ cảnh có thể đáp ứng nhu cầu của chúng ta một cách hiệu quả. Sẽ rất thú vị để xem điều này diễn ra như thế nào.</p>

Google Home chào đón kỷ nguyên mới với Trí tuệ Gemini

Google Home chào đón kỷ nguyên mới với Trí tuệ Gemini Mục lục: Trợ lý ảo Google Assistant thông minh hơn Camera an ninh Nest...

tháng 8 07, 2024

Wix - Đối tác tiên phong tích hợp Gemini của Google vào nền tảng website

<h2>Wix - Đối tác tiên phong tích hợp Gemini của Google vào nền tảng website</h2>

<nav>
  <ul>
    <li>
      <strong>Mục lục</strong>
    </li>
    <li><a href="#wix-tiên-phong">1. Wix tiên phong trong việc tích hợp Gemini</a></li>
    <li><a href="#lợi-ích">2. Lợi ích từ sự hợp tác Wix và Google</a></li>
    <li><a href="#gemini-công-cụ">3. Gemini - Công cụ AI đột phá cho hiệu suất vượt trội</a></li>
    <li><a href="#nỗ-lực">4. Nỗ lực mở rộng phạm vi tiếp cận Gemini của Google</a></li>
    <li><a href="#xu-hướng">5. Xu hướng ứng dụng AI trong lĩnh vực thương mại điện tử</a></li>
  </ul>
</nav>

<article>
  <p>Yuval Dvir, Giám đốc cấp cao về kênh trực tuyến và đối tác tại Google, chia sẻ trong thông cáo báo chí hôm thứ Hai (5/8) rằng Wix đã trở thành đối tác đầu tiên cung cấp Gemini, giải pháp AI tạo sinh tốt nhất trên thị trường, cho phép người dùng nâng cao hiệu suất làm việc. </p>

<p>Gemini tích hợp liền mạch với các ứng dụng Google Workspace như Gmail, Drive, Docs, Sheets và Meet, cho phép người dùng soạn thảo văn bản, thiết kế bài thuyết trình, viết và tóm tắt email cũng như quản lý dự án hiệu quả.</p>

<p id="lợi-ích">Sự hợp tác này là minh chứng cho mối quan hệ đối tác chiến lược ngày càng sâu rộng giữa Wix và Google, nhấn mạnh cam kết chung của hai bên trong việc đổi mới và cung cấp cho người dùng những công cụ mới nhất, từ đó giúp họ sắp xếp công việc một cách hợp lý. Ông Itay Shmool, Chủ tịch mảng dịch vụ cao cấp và thanh toán của Wix, khẳng định: Bằng cách tích hợp Gemini Workspace vào nền tảng Wix, chúng tôi đang tạo điều kiện để người dùng đạt được hiệu suất và khả năng sáng tạo ở một tầm cao mới.</p>

<p id="gemini-công-cụ">Hợp tác này diễn ra ngay sau khi Google tung ra các bản nâng cấp đáng kể cho Gemini, nâng cao khả năng và mở rộng phạm vi tiếp cận của công cụ này. Gà khổng lồ công nghệ đang triển khai Gemini 1.5 Flash, phiên bản nhanh hơn và mạnh mẽ hơn, cho người dùng gói miễn phí tại hơn 230 quốc gia và vùng lãnh thổ. </p>

<p>Bản cập nhật này mở rộng cửa sổ ngữ cảnh lên gấp 4 lần, đạt 32.000 mã thông báo, cho phép các cuộc hội thoại dài hơn và các truy vấn phức tạp hơn. Ngoài ra, Google cũng giới thiệu một tính năng mới nhằm chống lại ảo giác AI bằng cách hiển thị các liên kết nội dung có liên quan trong phản hồi của Gemini.</p>

<p id="nỗ-lực">Google cũng đang hướng đến mục tiêu tiếp cận người dùng rộng rãi hơn bằng cách mở rộng Gemini sang Khu vực Kinh tế Châu Âu, Vương quốc Anh và Thụy Sĩ.  Đồng thời, hãng cũng đang nỗ lực thu hút người dùng trẻ tuổi bằng cách mở rộng quyền truy cập Gemini cho thanh thiếu niên trên toàn cầu với hơn 40 ngôn ngữ.</p>

<p id="xu-hướng">Tháng trước, Wix cho biết họ đang bổ sung một loạt công cụ hỗ trợ AI để xây dựng và quản lý trang web.  Đây là một phần trong chuỗi các dịch vụ tương tự được phát triển gần đây nhằm hỗ trợ người bán tiếp cận khách hàng.  </p>

<p>Chẳng hạn, nền tảng thương mại điện tử Shopify cho biết vào tháng 7 rằng họ sẽ sớm ra mắt trợ lý chatbot hỗ trợ AI có tên Sidekick, được thiết kế để hỗ trợ người bán với mọi câu hỏi liên quan đến cửa hàng của họ, chẳng hạn như doanh số bán hàng và xu hướng đặt hàng. </p>
  <img alt="logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg" /> 
</article>

Wix - Đối tác tiên phong tích hợp Gemini của Google vào nền tảng website

Wix - Đối tác tiên phong tích hợp Gemini của Google vào nền tảng website Mục lục 1. Wix tiên phong trong việc tí...

tháng 8 07, 2024

Google Gemini: Trợ lý AI thế hệ mới sắp có mặt trên tai nghe Pixel Buds và Spotify?

<h2>Google Gemini: Trợ lý AI thế hệ mới sắp có mặt trên tai nghe Pixel Buds và Spotify?</h2>

<p>Google đang ráo riết mở rộng phạm vi hoạt động cho trợ lý AI thế hệ mới của mình - Gemini, và có vẻ như tai nghe Pixel Buds cùng nền tảng nghe nhạc Spotify sẽ là những điểm đến tiếp theo.</p>

<h3>1. Gemini tiến quân lên tai nghe Pixel Buds</h3>

<p>Sự kiện Made by Google sắp diễn ra vào ngày 13 tháng 8 tới được dự đoán sẽ là sân khấu ra mắt của bộ đôi Pixel 9 và Pixel Buds Pro 2.  Điều thú vị là, một phân tích phần mềm từ 9to5Google cho thấy Gemini có thể sẽ được tích hợp sẵn trên dòng Pixel Buds mới.  Cụ thể, dòng mã 'Trợ lý AI mới của bạn đã có mặt trên tai nghe' và 'Bạn có thể sử dụng Gemini trên tai nghe' đã phần nào khẳng định cho suy đoán này.</p>

<p>Đây không phải lần đầu tiên Google úp mở về việc mang AI lên tai nghe. Hồi tháng 2, nhiều nguồn tin cho biết hãng đang ấp ủ kế hoạch này như một phần trong chiến lược bành trướng hệ sinh thái AI, và Pixel Buds Pro 2 chính là ứng cử viên sáng giá nhất.</p>

<h3>2. Spotify cũng không nằm ngoài cuộc chơi</h3>

<p>Bên cạnh YouTube Music, Spotify nhiều khả năng sẽ là bến đỗ tiếp theo của Gemini trong lĩnh vực nghe nhạc trực tuyến. Trang Android Authority mới đây đã phát hiện ra một tiện ích mở rộng Spotify mới hỗ trợ phát cả nhạc và podcast trong quá trình mổ xẻ ứng dụng Google.</p>

<p>Thực tế, Android Authority còn tiến hành thử nghiệm kết nối Gemini với Spotify và kết quả cho thấy cách thức hoạt động tương tự như trên YouTube Music. Người dùng chỉ cần đưa yêu cầu qua chatbot của Gemini, một thẻ thông tin YouTube Music sẽ hiện lên trong giây lát trước khi chuyển sang ứng dụng Spotify để phát nhạc.</p>

<h3>3. Tương lai rộng mở cho Gemini</h3>

<p>Sau sự kiện Made by Google, giới công nghệ đang rất nóng lòng chờ xem Google sẽ đưa Gemini - con cưng AI mới -  đi xa đến đâu. Hiện tại, hãng vẫn đang trong quá trình phát triển rất nhiều tiện ích mở rộng khác cho Gemini, bao gồm tích hợp với Google Home và ứng dụng Điện thoại.</p>

<p>Rõ ràng Google đang ấp ủ tham vọng biến Gemini trở thành ngôi sao sáng nhất trong mọi mặt của cuộc sống người dùng.</p>

Google Gemini: Trợ lý AI thế hệ mới sắp có mặt trên tai nghe Pixel Buds và Spotify?

Google Gemini: Trợ lý AI thế hệ mới sắp có mặt trên tai nghe Pixel Buds và Spotify? Google đang ráo riết mở rộng phạm vi hoạt động cho tr...

tháng 8 07, 2024

Thách thức trong việc cân chỉnh AI Chatbot cho người dùng toàn cầu

<h2>Thách thức trong việc cân chỉnh AI Chatbot cho người dùng toàn cầu</h2>

<ul>
  <li><a href='#giới-thiệu'>Giới thiệu</a></li>
  <li><a href='#sự-lệch-lạc-văn-hóa-trong-ai'>Sự lệch lạc văn hóa trong AI</a></li>
  <li><a href='#ảnh-hưởng-của-ngôn-ngữ-và-văn-hóa-đến-ai'>Ảnh hưởng của ngôn ngữ và văn hóa đến AI</a></li>
  <li><a href='#nghiên-cứu-về-sự-khác-biệt-văn-hóa-trong-ai'>Nghiên cứu về sự khác biệt văn hóa trong AI</a></li>
  <li><a href='#nguyên-nhân-và-giải-pháp-cho-vấn-đề-lệch-lạc-văn-hóa'>Nguyên nhân và giải pháp cho vấn đề lệch lạc văn hóa</a></li>
  <li><a href='#kết-luận'>Kết luận</a></li>
</ul>

<h3 id='giới-thiệu'>Giới thiệu</h3>

<p>Cân chỉnh trong thế giới trí tuệ nhân tạo (AI) là quá trình điều chỉnh chatbot để phù hợp với giá trị và mong muốn của người dùng. Mục tiêu là tạo ra các mô hình ngôn ngữ lớn (LLM) hữu ích và dễ tiếp cận với mọi người dùng trên toàn cầu. Tuy nhiên, nghiên cứu mới của Đại học Stanford cho thấy quá trình này đang vô tình hướng nhiều LLM theo hướng tập trung vào phương Tây, gây ra những hệ lụy không mong muốn cho người dùng ở các khu vực khác.</p>

<h3 id='sự-lệch-lạc-văn-hóa-trong-ai'>Sự lệch lạc văn hóa trong AI</h3>

<p>Giáo sư Diyi Yang, tác giả chính của nghiên cứu, đặt câu hỏi: Vấn đề thực sự của việc cân chỉnh là gì? Chúng ta đang điều chỉnh LLM theo sở thích của ai và quan trọng hơn, ai là người bị bỏ sót trong quá trình đó?</p>

<p>Nghiên cứu chỉ ra rằng việc cân chỉnh theo một nhóm người dùng cụ thể có thể gây ra tác động tiêu cực đến những người dùng có giá trị khác biệt. Ví dụ, một chatbot được huấn luyện chủ yếu bằng dữ liệu từ người dùng phương Tây có thể gặp khó khăn trong việc hiểu và phản hồi chính xác các yêu cầu từ người dùng ở châu Á hoặc châu Phi.</p>

<h3 id='ảnh-hưởng-của-ngôn-ngữ-và-văn-hóa-đến-ai'>Ảnh hưởng của ngôn ngữ và văn hóa đến AI</h3>

<p>Ngôn ngữ là tấm gương phản chiếu bối cảnh xã hội, dẫn đến sự đa dạng về ngữ pháp, chủ đề, thậm chí cả hệ thống giá trị đạo đức và văn hóa. Sự đa dạng này tạo ra thách thức lớn cho các LLM hiện nay.</p>

<p>Michael Ryan, nghiên cứu sinh tại Stanford và là tác giả đầu tiên của bài báo, cho biết: Sự lệch lạc này có thể biểu hiện theo hai cách. Cách sử dụng từ ngữ và cú pháp khác nhau có thể khiến LLM hiểu sai truy vấn của người dùng và tạo ra kết quả sai lệch hoặc không tối ưu. Mặt khác, ngay cả khi LLM phân tích cú pháp truy vấn một cách chính xác, câu trả lời thu được vẫn có thể thiên về quan điểm và giá trị phương Tây, không phù hợp với người dùng ở các quốc gia ngoài phương Tây, đặc biệt là khi chủ đề gây tranh cãi.</p>

<h3 id='nghiên-cứu-về-sự-khác-biệt-văn-hóa-trong-ai'>Nghiên cứu về sự khác biệt văn hóa trong AI</h3>

<p>Nhóm nghiên cứu đã kiểm tra ảnh hưởng của việc cân chỉnh đối với người dùng toàn cầu trong ba bối cảnh khác nhau:</p>

<ul>
  <li><strong>Biến thể đa ngôn ngữ:</strong>  Nghiên cứu sự khác biệt về ngôn ngữ trên chín ngôn ngữ.</li>
  <li><strong>Biến thể tiếng Anh theo khu vực:</strong> So sánh tiếng Anh của người Mỹ, Ấn Độ và Nigeria.</li>
  <li><strong>Sự thay đổi giá trị:</strong>  Nghiên cứu sự khác biệt về giá trị đạo đức và văn hóa ở bảy quốc gia.</li>
</ul>

<p>Kết quả cho thấy sự khác biệt về ngôn ngữ và văn hóa có thể ảnh hưởng đáng kể đến hiệu suất của LLM. Ví dụ, chatbot có thể gặp khó khăn khi hiểu người Nigeria mô tả gà là món ăn kèm với cơm jollof vào dịp Giáng sinh, trong khi người Mỹ mô tả nó là món ăn nhanh có thể được cắt thành miếng dài.</p>

<h3 id='nguyên-nhân-và-giải-pháp-cho-vấn-đề-lệch-lạc-văn-hóa'>Nguyên nhân và giải pháp cho vấn đề lệch lạc văn hóa</h3>

<p>Ryan cho rằng một trong những nguyên nhân chính của vấn đề là dữ liệu huấn luyện LLM chủ yếu đến từ các quốc gia nói tiếng Anh, dẫn đến việc đưa vào nhiều giá trị phương Tây.</p>

<p>Để giải quyết vấn đề này, nhóm nghiên cứu đề xuất một số giải pháp, bao gồm:</p>

<ul>
  <li><strong>Đa dạng hóa dữ liệu huấn luyện:</strong> Sử dụng dữ liệu từ nhiều nguồn khác nhau, bao gồm cả các quốc gia không nói tiếng Anh.</li>
  <li><strong>Phát triển các kỹ thuật cân chỉnh mới:</strong>  Tạo ra các kỹ thuật cân chỉnh  nhạy cảm hơn với sự khác biệt về văn hóa.</li>
  <li><strong>Tăng cường nhận thức về vấn đề:</strong>  Nâng cao nhận thức của các nhà phát triển AI về tầm quan trọng của việc cân chỉnh văn hóa.</li>
</ul>

<p>Việc cân chỉnh chatbot AI cho người dùng toàn cầu là một thách thức lớn. Nghiên cứu của Đại học Stanford đã nêu bật tầm quan trọng của việc giải quyết vấn đề lệch lạc văn hóa trong AI. Bằng cách đa dạng hóa dữ liệu huấn luyện, phát triển các kỹ thuật cân chỉnh mới và nâng cao nhận thức về vấn đề, chúng ta có thể tạo ra các LLM thực sự hữu ích và dễ tiếp cận với người dùng trên toàn cầu.</p>

Thách thức trong việc cân chỉnh AI Chatbot cho người dùng toàn cầu

Thách thức trong việc cân chỉnh AI Chatbot cho người dùng toàn cầu Giới thiệu Sự lệch lạc văn hóa trong AI Ảnh hưởng của ngôn ng...

tháng 8 07, 2024

Cách con người thực sự sử dụng AI Chatbot

<h2>Cách con người thực sự sử dụng AI Chatbot</h2>

<h3>Nghiên cứu của The Washington Post</h3>

<p>Nhằm tìm ra câu trả lời cho câu hỏi trên, The Washington Post đã tiến hành phân tích dữ liệu từ gần 200.000 đoạn hội thoại bằng tiếng Anh trích xuất từ WildChat Dataset - cơ sở dữ liệu chứa hơn 1 triệu đoạn hội thoại thực tế của người dùng với ChatGPT.</p>

<p>Kết quả nghiên cứu cho thấy:</p>

<ul>
  <li><strong>Hỗ trợ viết lách sáng tạo và nhập vai:</strong> Khá bất ngờ khi mục đích sử dụng phổ biến nhất của AI chatbot là hỗ trợ viết lách sáng tạo và nhập vai, chiếm tới 21% tổng số các cuộc hội thoại. </li>
  <li><strong>Hỗ trợ học tập:</strong> Giới trẻ đang tận dụng AI chatbot như một công cụ hỗ trợ đắc lực cho việc học tập. 18% các cuộc hội thoại được thực hiện nhằm tìm kiếm sự trợ giúp từ chatbot cho các bài tập về nhà và dự án.</li>
  <li><strong>Tìm kiếm thông tin:</strong> Giống như cách chúng ta vẫn sử dụng các công cụ tìm kiếm truyền thống như Google, 17% người dùng sử dụng ChatGPT để tìm kiếm và truy vấn thông tin.</li>
</ul>

<p>Bên cạnh những kết quả có phần dễ đoán như trên, nghiên cứu cũng cho thấy một số kết quả khá bất ngờ:</p>

<ul>
  <li>Chỉ 15% các cuộc hội thoại liên quan đến công việc và kinh doanh.</li>
  <li>Chỉ 7% liên quan đến lập trình và viết mã.</li>
  <li>Chỉ 6% người dùng sử dụng chatbot cho mục đích tạo hình ảnh.</li>
  <li>Một thông tin đáng chú ý là hơn 7% các cuộc trò chuyện có nội dung liên quan đến tình dục, bao gồm cả nhập vai bị cấm với trẻ em và yêu cầu tạo hình ảnh khiêu dâm.</li>
</ul>

<p>Nghiên cứu của The Washington Post đã mang đến cái nhìn sâu sắc về cách con người thực sự tương tác và sử dụng AI chatbot. Mặc dù được kỳ vọng sẽ cách mạng hóa nhiều lĩnh vực, nhưng có vẻ như người dùng vẫn đang khai thác chatbot chủ yếu cho mục đích giải trí, học tập và tìm kiếm thông tin. Tuy nhiên, bên cạnh đó, vẫn còn tồn tại nhiều vấn đề nhạy cảm cần được quan tâm và giải quyết để đảm bảo chatbot được sử dụng một cách an toàn và hiệu quả.</p>

Cách con người thực sự sử dụng AI Chatbot

Cách con người thực sự sử dụng AI Chatbot Nghiên cứu của The Washington Post Nhằm tìm ra câu trả lời cho câu hỏi trên, The Washington P...

tháng 8 07, 2024

AI Chatbots: Không Chỉ Là Trò Chuyện, Mà Còn Hơn Thế

<h2>AI Chatbots: Không Chỉ Là Trò Chuyện, Mà Còn Hơn Thế Nữa</h2>

**Mục Lục**

<ul>
  <li>Sự Bùng Nổ Của AI Chatbots</li>
  <li>Nghiên Cứu Của The Washington Post: Cách Con Người Sử Dụng AI Chatbots
    <ul>
      <li>Viết Sáng Tạo & Nhập Vai</li>
      <li>Hỗ Trợ Học Tập</li>
      <li>Công Cụ Tìm Kiếm Mới</li>
      <li>Ứng Dụng Trong Công Việc & Lập Trình</li>
      <li>Những Mục Đích Sử Dụng Khác</li>
    </ul>
  </li>
  <li>Kết Luận</li>
</ul>

<p>Trong thời đại công nghệ 4.0, trí tuệ nhân tạo (AI) đang len lỏi vào mọi ngóc ngách của cuộc sống. Nổi bật trong số đó là sự bùng nổ của AI chatbots - những trợ lý ảo thông minh có khả năng giao tiếp và hỗ trợ con người hiệu quả. Các ông lớn công nghệ như OpenAI, Microsoft và Amazon đang tích cực phát triển và ứng dụng AI chatbots vào nhiều lĩnh vực, từ giải đáp thông tin đến hỗ trợ mua sắm.</p>

<p>Vậy thực tế con người sử dụng AI chatbots như thế nào? Nghiên cứu mới nhất của The Washington Post đã phần nào hé lộ câu trả lời. Bài báo phân tích dữ liệu từ gần 200.000 cuộc trò chuyện bằng tiếng Anh từ WildChat Dataset - cơ sở dữ liệu chứa hơn 1 triệu cuộc hội thoại thực tế giữa người dùng và ChatGPT.</p>

<p>Không ngạc nhiên khi mục đích sử dụng phổ biến nhất của AI chatbots là hỗ trợ viết sáng tạo và nhập vai, chiếm đến 21% tổng số cuộc trò chuyện.  Rất nhiều người dùng đã tìm đến ChatGPT như một công cụ hỗ trợ đắc lực để khơi nguồn cảm hứng, phát triển ý tưởng hoặc xây dựng kịch bản cho các tác phẩm của mình. </p>

<p>Thế hệ trẻ đang là những người tiên phong trong việc ứng dụng AI chatbots vào học tập. Nghiên cứu chỉ ra 18% cuộc trò chuyện trên ChatGPT liên quan đến việc tìm kiếm sự hỗ trợ cho bài tập về nhà và các dự án học thuật.</p>

<p>Với 17% lượng truy cập, tìm kiếm thông tin là mục đích sử dụng phổ biến thứ ba của ChatGPT. Điều này cho thấy AI chatbots đang dần chứng minh được tiềm năng trở thành một công cụ tìm kiếm hiệu quả bên cạnh các công cụ truyền thống như Google.</p>

<h3>Ứng Dụng Trong Công Việc & Lập Trình</h3>

<p>Mặc dù được kỳ vọng sẽ tạo ra bước đột phá trong lĩnh vực công việc và lập trình, số liệu nghiên cứu cho thấy tỷ lệ sử dụng AI chatbots cho các mục đích này còn khá khiêm tốn, lần lượt chỉ chiếm 15% và 7%.</p>

<h3>Những Mục Đích Sử Dụng Khác</h3>

<p>Bên cạnh những hạng mục chính được đề cập, nghiên cứu của The Washington Post cũng chỉ ra một số mục đích sử dụng khác của AI chatbots như tạo hình ảnh (6%) và đáng chú ý là các nội dung mang tính chất nhạy cảm (hơn 7%). </p>

<p>AI chatbots đang ngày càng khẳng định vị thế và vai trò quan trọng trong cuộc sống hiện đại. Từ hỗ trợ sáng tạo, học tập đến tìm kiếm thông tin, AI chatbots đang dần trở thành một phần không thể thiếu, mở ra nhiều tiềm năng phát triển trong tương lai. Tuy nhiên, bên cạnh những lợi ích thiết thực, việc sử dụng AI chatbots cũng đặt ra những vấn đề cần được quan tâm như kiểm soát nội dung, đảm bảo an ninh thông tin và định hướng người dùng, đặc biệt là trẻ em, sử dụng đúng mục đích, tránh lạm dụng và phụ thuộc.</p>

AI Chatbots: Không Chỉ Là Trò Chuyện, Mà Còn Hơn Thế

AI Chatbots: Không Chỉ Là Trò Chuyện, Mà Còn Hơn Thế Nữa **Mục Lục** Sự Bùng Nổ Của AI Chatbots Nghiên Cứu Của The Washington Post...

tháng 8 07, 2024

Laptop và Cuộc xâm lăng của AI: Khi công nghệ vượt xa nhu cầu

<h2>Laptop và Cuộc xâm lăng của AI: Khi công nghệ vượt xa nhu cầu</h2>

<div>
  <h3>Mục lục:</h3>
  <ol>
    <li>Sức mạnh mới cho Laptop, nhưng cái giá phải trả?</li>
    <li>NPU - Bộ não AI thừa thãi?</li>
    <li>Người dùng quay lưng với làn sóng AI</li>
    <li>Tiếp thị ảo và thực tế phũ phàng</li>
    <li>Lời kết: Tương lai nào cho AI trên Laptop?</li>
  </ol>
</div>

<p>Laptop ngày nay đang ngày càng mạnh mẽ, hiệu năng sánh ngang với các dòng máy tính để bàn. Tuy nhiên, ẩn sau sức mạnh ấy là sự xuất hiện của các con chip AI chuyên dụng (NPU), vốn đang gây nhiều tranh cãi về hiệu quả thực tế.</p>

<p>Mặc dù được quảng cáo là bước đột phá, nhưng NPU trên laptop vẫn chưa thực sự phát huy tác dụng. Khác với GPU - trái tim cho trải nghiệm đồ họa, vai trò của NPU trên laptop vẫn còn khá mờ nhạt. Trong khi đó, gã khổng lồ Apple đã chứng minh được hiệu quả của NPU trên các thiết bị iPhone, iPad và Mac với hàng loạt tính năng hỗ trợ người dùng.</p>

<p>Sự thiếu hụt ứng dụng thực tế khiến NPU trên laptop trở nên thừa thãi. Thêm vào đó, Windows - hệ điều hành phổ biến trên laptop, vẫn chưa được tối ưu hóa để khai thác hết tiềm năng của NPU. </p>

<p>Không chỉ dừng lại ở đó, làn sóng AI còn khiến người dùng e dè. Nhiều người cảm thấy khó chịu với những tính năng AI thiếu tính ứng dụng thực tế, thậm chí gây phiền toái. Kết quả nghiên cứu từ Đại học Washington cho thấy, việc lạm dụng thuật ngữ AI trong quảng cáo sản phẩm khiến người dùng ít có khả năng mua hàng hơn.</p>

<p>Tóm lại, việc tích hợp AI vào laptop đang tạo ra khoảng cách lớn giữa thực tế và quảng cáo. Liệu đây có phải là một bước đi sai lầm của các nhà sản xuất? Câu trả lời có lẽ phải chờ ở tương lai.</p>

<img alt="Hình ảnh minh họa" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">
`

Laptop và Cuộc xâm lăng của AI: Khi công nghệ vượt xa nhu cầu

Laptop và Cuộc xâm lăng của AI: Khi công nghệ vượt xa nhu cầu Mục lục: Sức mạnh mới cho Laptop, nhưng cái giá phải trả? N...

tháng 8 07, 2024

Thấu Hiểu Trí Tuệ Nhân Tạo: Từ Thuật Ngữ Đến Ứng Dụng Thiết Thực

<h2>Thấu Hiểu Trí Tuệ Nhân Tạo: Từ Thuật Ngữ Đến Ứng Dụng Thiết Thực</h2>

<ul>
  <li>Giới thiệu</li>
  <li>Trí tuệ nhân tạo tạo sinh (GenAI) và Trí tuệ nhân tạo phân biệt: Hiểu rõ sự khác biệt</li>
  <li>Cơ chế đằng sau AI: Học máy
    <ul>
      <li>Học có giám sát</li>
      <li>Học không giám sát</li>
      <li>Học tăng cường</li>
    </ul>
  </li>
  <li>Khoa học dữ liệu: Giao điểm của AI và phân tích</li>
  <li>AI đã trở thành xu hướng chủ đạo</li>
  <li>Kết luận</li>
</ul>

<h2>Giới thiệu</h2>
<p>Những cuộc trò chuyện về trí tuệ nhân tạo (AI) thường xoay quanh các quan điểm như: AI không phải là mới, có nhiều loại AI khác nhau và thuật ngữ GenAI hay AI tạo sinh đang là xu hướng hiện nay. Tuy nhiên, những cuộc thảo luận này có thể khiến nhiều người cảm thấy bối rối và khó hiểu về bản chất của AI. Bài viết này sẽ đi sâu vào phân tích các khía cạnh cốt lõi của AI, học máy và khoa học dữ liệu, giúp bạn đọc hiểu rõ hơn về tiềm năng và hạn chế của công nghệ mang tính cách mạng này.</p>

<h2>Trí tuệ nhân tạo tạo sinh (GenAI) và Trí tuệ nhân tạo phân biệt: Hiểu rõ sự khác biệt</h2>
<p>Có hai loại AI chính: AI tạo sinh (GenAI) và AI phân biệt. GenAI được thiết kế để tạo ra dữ liệu, chẳng hạn như văn bản, hình ảnh, âm nhạc, dựa trên dữ liệu đầu vào mà nó được huấn luyện. Các ví dụ phổ biến của GenAI bao gồm chatbot như ChatGPT, Gemini, Claude và các công cụ tạo hình ảnh như DALL-E, Midjourney. Ngược lại, AI phân biệt tập trung vào việc phân biệt các loại dữ liệu khác nhau, phân loại dữ liệu đầu vào thành các danh mục được xác định trước. Hệ thống đề xuất như Waze, Netflix, YouTube, nguồn cấp tin tức Facebook và kết quả tìm kiếm Google đều dựa heavily vào AI phân biệt để phân tích hành vi và sở thích của người dùng.</p>

<h2>Cơ chế đằng sau AI: Học máy</h2>
<p>Cả GenAI và AI phân biệt đều dựa trên học máy (ML), cơ chế cho phép AI học hỏi từ dữ liệu và cải thiện theo thời gian. Quá trình này bao gồm việc huấn luyện các thuật toán trên các bộ dữ liệu lớn để nhận dạng patterns, đưa ra quyết định và dự đoán kết quả.</p>

<h3>Học có giám sát</h3>
<p>Mô hình được huấn luyện trên tập dữ liệu được gắn nhãn, trong đó kết quả chính xác đã được biết trước. Phương pháp này thường được sử dụng trong các tác vụ phân loại và hồi quy, ví dụ như nhận diện khuôn mặt, phân loại hình ảnh mèo và chó hoặc dự báo doanh số bán hàng.</p>

<h3>Học không giám sát</h3>
<p> Xử lý dữ liệu không được gắn nhãn, thuật toán tự tìm kiếm patterns ẩn hoặc cấu trúc bên trong dữ liệu. Phân cụm và liên kết là những tác vụ học không giám sát phổ biến, được sử dụng để phân đoạn dân số, kết nối sản phẩm với khách hàng và xác định bất thường để phát hiện gian lận.</p>

<h3>Học tăng cường</h3>
<p>Huấn luyện tác tử đưa ra chuỗi quyết định bằng cách thưởng cho hành động mong muốn và phạt hành động không mong muốn. Phương pháp này thường được sử dụng trong robot và trò chơi. Ví dụ điển hình là AlphaGo đánh bại kỳ thủ cờ vây hàng đầu thế giới Lee Sedol.</p>

<h2>Khoa học dữ liệu: Giao điểm của AI và phân tích</h2>
<p>Khoa học dữ liệu là lĩnh vực bao gồm AI, học máy và phân tích, sử dụng phương pháp thống kê, công cụ tính toán và kiến thức chuyên môn để trích xuất thông tin chi tiết từ dữ liệu. Nói cách khác, khoa học dữ liệu là xương sống của AI, cung cấp các kỹ thuật và quy trình cần thiết để xây dựng và tinh chỉnh các mô hình AI.</p>

<h2>AI đã trở thành xu hướng chủ đạo</h2>
<p>Sự xuất hiện của các công cụ GenAI dễ sử dụng mà không cần lập trình đã đưa AI trở thành xu hướng chủ đạo. Điều này có nghĩa là AI không chỉ dành riêng cho các nhà khoa học dữ liệu mà còn cần thiết cho mọi ngành nghề. GenAI có tiềm năng trở thành kỹ năng bắt buộc trong mọi CV, bên cạnh xử lý văn bản, bảng tính và internet.</p>

<h2>Kết luận</h2>
<p>Việc hiểu rõ các khía cạnh cốt lõi của AI, học máy và khoa học dữ liệu là chìa khóa để chúng ta nắm bắt được tiềm năng và hạn chế của công nghệ này. Nhờ đó, chúng ta có thể đánh giá được tác động của AI đối với cuộc sống hàng ngày, từ việc cá nhân hóa đề xuất trên các dịch vụ phát trực tuyến đến chatbot hỗ trợ khách hàng tiên tiến.</p>

Thấu Hiểu Trí Tuệ Nhân Tạo: Từ Thuật Ngữ Đến Ứng Dụng Thiết Thực

Thấu Hiểu Trí Tuệ Nhân Tạo: Từ Thuật Ngữ Đến Ứng Dụng Thiết Thực Giới thiệu Trí tuệ nhân tạo tạo sinh (GenAI) và Trí tuệ nhân tạo p...

tháng 8 07, 2024

Từ Bỏ ChatGPT, Chuyển Sang Claude: 3 Lý Do Thuyết Phục

<h2>Từ Bỏ ChatGPT, Chuyển Sang Claude: 3 Lý Do Thuyết Phục</h2>

<h3>Mục lục:</h3>
<ul>
  <li>Claude Hiểu Ý Người Dùng Hơn</li>
  <li>Trải Nghiệm Lập Trình Tương Tác Vượt Trội với Claude</li>
  <li>Claude Hỗ Trợ Xem Trước Tài Liệu</li>
</ul>

<p>ChatGPT là công cụ mạnh mẽ, nhưng đối với nhu cầu sử dụng hàng ngày, tôi nhận thấy Claude phù hợp hơn. Bài viết này sẽ đưa ra 3 lý do chính khiến tôi quyết định chia tay ChatGPT để đến với Claude.</p>

<h3>1. Claude Hiểu Ý Người Dùng Hơn</h3>

<p>Là người dùng ở trình độ trung bình, tôi hiểu rõ kết quả mong muốn nhưng không phải lúc nào cũng biết cách diễn đạt thành prompt hoàn hảo. ChatGPT thường khiến tôi cảm thấy mình cần phải học hỏi thêm về kỹ thuật viết prompt hoặc sử dụng GPT chuyên dụng để có được phản hồi như ý.</p>

<p>Ngược lại, Claude gây ấn tượng mạnh với khả năng  nắm bắt ý tưởng của người dùng một cách tự nhiên. Tôi không cần phải viết những prompt dài dòng hay yêu cầu nó nhập vai  mới nhận được câu trả lời ưng ý. Claude hiện là lựa chọn hàng đầu của tôi khi cần soạn thảo email hoặc thực hiện các tác vụ viết sáng tạo khác.</p>

<h3>2. Trải Nghiệm Lập Trình Tương Tác Vượt Trội với Claude</h3>

<p>Tính năng Artifact của Claude mang đến môi trường lập trình tương tác tuyệt vời. Ví dụ, nếu muốn tạo trò chơi Tic-tac-toe đơn giản bằng JavaScript, ChatGPT chỉ cung cấp đoạn mã, buộc tôi sao chép và dán vào môi trường riêng để xem kết quả. </p>

<p>Claude lại mang đến trải nghiệm liền mạch hơn hẳn. Tôi có thể xem trước trò chơi trực tiếp trong cửa sổ Artifact, đồng thời yêu cầu Claude thay đổi thông báo chiến thắng, thêm nút đặt lại hoặc sửa đổi logic trò chơi. Việc chuyển đổi giữa chế độ xem trước và mã nguồn cũng rất dễ dàng, giúp kiểm tra mã trước khi sử dụng trong dự án. </p>

<p>Sự tương tác thời gian thực này không chỉ hữu ích cho việc lập trình mà còn giúp hiểu rõ cách các phần khác nhau của mã hoạt động cùng nhau. Claude sẵn sàng giải thích bất kỳ phần nào của mã và hiển thị ngay lập tức tác động của những thay đổi.</p>

<h3>3. Claude Hỗ Trợ Xem Trước Tài Liệu</h3>

<p>Khi cần xuất bản tóm tắt cuộc trò chuyện dưới dạng PDF hoặc doc để tham khảo, ChatGPT yêu cầu tôi tải xuống tệp rồi mới mở được nội dung.  </p>

<p>Claude thì khác, thay vì chỉ cung cấp liên kết tải xuống, Claude cho phép xem trước tệp ngay trong cửa sổ Artifact.  Hơn nữa, tôi có thể yêu cầu Claude thêm chi tiết vào phần cụ thể và nó sẽ tạo phiên bản tài liệu mới ngay lập tức. Khả năng xem trước và tinh chỉnh tài liệu mà không cần rời khỏi cửa sổ trò chuyện giúp tiết kiệm đáng kể thời gian và là lý do chính khiến tôi gắn bó với Claude.</p>

<p>Mặc dù Claude vẫn có những hạn chế nhất định, nhưng Claude đã chứng minh đây là lựa chọn phù hợp hơn cho nhu cầu sử dụng hàng ngày của tôi. Claude hiểu rõ sắc thái trong yêu cầu, mang đến trải nghiệm lập trình tương tác hơn và hợp lý hóa cách tôi nắm bắt và sắp xếp ý tưởng.</p>

Từ Bỏ ChatGPT, Chuyển Sang Claude: 3 Lý Do Thuyết Phục

Từ Bỏ ChatGPT, Chuyển Sang Claude: 3 Lý Do Thuyết Phục Mục lục: Claude Hiểu Ý Người Dùng Hơn Trải Nghiệm Lập Trình Tương Tác Vượt ...

tháng 8 07, 2024

Khơi Nở Tiềm Năng Trẻ Tư Duy Mới: GAI - Công Cụ Hay Thách Thức?

<h2>Khơi Nở Tiềm Năng Trẻ Tư Duy Mới: GAI - Công Cụ Hay Thách Thức?</h2>

<ol>
  <li><a href='#nang-niu'>Nâng Niu Trí Tưởng Tượng Bay Xa</a></li>
  <li><a href='#han-che'>Hạn Chế Của Hệ Thống Giáo Dục Truyền Thống</a></li>
  <li><a href='#the-gioi'>Thế Giới Mở Ra Nhờ Công Nghệ AI</a></li>
  <li><a href='#cai-bua'>Cái Búa AI: Từ Thách Thức Đến Cơ Hội</a></li>
  <li><a href='#thi-nghiem'>Thí Nghiệm Cái Búa và 101 Khả Năng</a></li>
  <li><a href='#nguyen-ly'>Nguyên Lý Thế Giới Khép Kín: Sáng Tạo Từ Hạn Chế</a></li>
  <li><a href='#vai-tro'>Vai Trò Của Giáo Viên Trong Thời Đại AI</a></li>
  <li><a href='#tuong-lai'>Tương Lai Giáo Dục Cho Trẻ Tư Duy Mới: Bài Toán Còn Bỏ Ngỏ</a></li>
</ol>

<h3 id='nang-niu'>1. Nâng Niu Trí Tưởng Tượng Bay Xa</h3>

<p>Câu chuyện về Mika, cô học trò 12 tuổi với bức tranh khu vườn kỳ lạ bị điểm kém, phản ánh thực trạng chung của việc giáo dục trẻ có năng khiếu. Trí tưởng tượng phong phú, sáng tạo vượt ra khỏi khuôn khổ khiến các em khó thích nghi với những đánh giá, bài tập rập khuôn trong trường học.</p>

<h3 id='han-che'>2. Hạn Chế Của Hệ Thống Giáo Dục Truyền Thống</h3>

<p>Chương trình học hiện tại thường thiếu không gian cho sự sáng tạo, đổi mới. Giáo viên, do thiếu kinh nghiệm, kỹ năng và sự đào tạo bài bản về giáo dục trẻ năng khiếu, thường vô tình kìm hãm tiềm năng của các em.</p>

<p>Sự xuất hiện của trí tuệ nhân tạo (AI) mở ra những cơ hội mới cho giáo dục. Công nghệ này có thể hỗ trợ giáo viên, giúp các em tiếp cận kiến thức đa dạng và phát triển năng lực sáng tạo.</p>

<h3 id='cai-bua'>4. Cái Búa AI: Từ Thách Thức Đến Cơ Hội</h3>

<p>Sự ra đời của chatbot AI như ChatGPT (OpenAI) hay Claude (Anthropic) tạo nên nhiều ý kiến trái chiều. Tuy nhiên, không thể phủ nhận AI là một phần tất yếu của giáo dục hiện đại.</p>

<h3 id='thi-nghiem'>5. Thí Nghiệm Cái Búa và 101 Khả Năng</h3>

<p>Một thí nghiệm nhỏ với chatbot Claude cho thấy khả năng mở rộng tư duy sáng tạo của AI. Từ việc tìm ra 101 công dụng khác của cái búa (không phải đóng đinh), Claude đã minh chứng cho khái niệm khả năng liền kề - sự kết nối, sáng tạo không giới hạn.</p>

<h3 id='nguyen-ly'>6. Nguyên Lý Thế Giới Khép Kín: Sáng Tạo Từ Hạn Chế</h3>

<p>Ngược lại với việc suy nghĩ vượt giới hạn, Nguyên lý Thế Giới Khép Kín cho rằng sự tập trung vào vấn đề trong một khuôn khổ nhất định có thể tạo ra nhiều ý tưởng sáng tạo hơn. Tuy nhiên, việc áp dụng nguyên lý này với AI vẫn chưa cho thấy nhiều kết quả khả quan.</p>

<h3 id='vai-tro'>7. Vai Trò Của Giáo Viên Trong Thời Đại AI</h3>

<p>Giáo viên đóng vai trò quan trọng trong việc hướng dẫn học sinh sử dụng AI hiệu quả, tránh việc lạm dụng hoặc đi chệch hướng. Nuôi dưỡng sự sáng tạo của trẻ vẫn là nhiệm vụ cao cả của con người.</p>

<h3 id='tuong-lai'>8. Tương Lai Giáo Dục Cho Trẻ Tư Duy Mới: Bài Toán Còn Bỏ Ngỏ</h3>

<p>Công nghệ AI liên tục phát triển với tốc độ chóng mặt. Điều này đòi hỏi sự nghiên cứu, thử nghiệm và cởi mở để khai thác tối đa tiềm năng của AI trong giáo dục. Hy vọng rằng, với sự hỗ trợ của AI, những đứa trẻ tài năng như Mika sẽ có thể tự do sáng tạo và phát huy tối đa tiềm năng của mình.</p>

Khơi Nở Tiềm Năng Trẻ Tư Duy Mới: GAI - Công Cụ Hay Thách Thức?

Khơi Nở Tiềm Năng Trẻ Tư Duy Mới: GAI - Công Cụ Hay Thách Thức? Mục lục: Nâng Niu Trí Tưởng Tượng Bay Xa Hạn Chế Của Hệ Thống Giá...

tháng 8 07, 2024

Âm Nhạc AI: Cuộc Chiến Bản Quyền Nảy Lửa và Trận Đấu Khốc Liệt Trên Thị Trường Truyền Hình Trả Tiền

<h2>Âm Nhạc AI: Cuộc Chiến Bản Quyền Nảy Lửa và Trận Đấu Khốc Liệt Trên Thị Trường Truyền Hình Trả Tiền</h2>

<h3>Mục Lục:</h3>
<ul>
  <li><a href='#am-nhac-ai'>Âm nhạc AI: Liệu có phải là ăn cắp chất xám?</a></li>
  <li><a href='#vu-kien-chong-doc-quyen'>Vụ kiện chống độc quyền: Fubo đối đầu gã khổng lồ Disney</a></li>
</ul>

<p>Nữ ca sĩ nhạc đồng quê Tift Merritt đã không giấu nổi sự thất vọng khi nghe bản nhạc Holy Grounds do trang web âm nhạc AI Udio tạo ra theo phong cách của cô. Mặc dù được ca ngợi là bản ballad với ca từ về những cung đường xưa và cánh đồng, bầu trời chuyển động, Merritt khẳng định nó không đủ tiêu chuẩn cho bất kỳ album nào của tôi.</p>

<p>Đây không chỉ là quan điểm cá nhân của Merritt, người vốn là một người đấu tranh cho quyền nghệ sĩ. Vào tháng 4, cô cùng hàng loạt tên tuổi lớn như Billie Eilish, Nicki Minaj, Stevie Wonder... đã ký vào một lá thư ngỏ bày tỏ lo ngại về việc âm nhạc AI có thể phá hoại sự sáng tạo và đẩy nghệ sĩ vào thế yếu.</p>

<p>Các hãng đĩa lớn cũng không đứng ngoài cuộc. Sony Music, Universal Music Group và Warner Music đã đệ đơn kiện Udio và một công ty AI âm nhạc khác là Suno vì hành vi sao chép bản quyền. Họ cho rằng Suno và Udio có thể tái tạo các yếu tố âm nhạc từ các bài hát của Mariah Carey, James Brown... và bắt chước giọng hát của ABBA, Bruce Springsteen... chứng tỏ việc sử dụng trái phép kho nhạc bản quyền để huấn luyện hệ thống AI.</p>

<p>Mitch Glazier, CEO của Hiệp hội Công nghiệp Ghi âm Hoa Kỳ (RIAA), nhận định: AI có tiềm năng lớn, nhưng chỉ khi nó được xây dựng trên nền tảng có trách nhiệm, được cấp phép và hợp pháp.</p>

<h3 id='vu-kien-chong-doc-quyen'>Vụ kiện chống độc quyền: Fubo đối đầu gã khổng lồ Disney</h3>

<p>Phiên điều trần quan trọng về vụ kiện chống độc quyền giữa Fubo và Disney, Fox, Warner Bros. Discovery đã diễn ra tại Tòa án Quận Hoa Kỳ. Fubo đang tìm kiếm lệnh cấm sơ bộ nhằm trì hoãn việc ra mắt Venu Sports - liên doanh phát trực tuyến thể thao mới của ba ông lớn trên.</p>

<p>Fubo cho rằng Venu Sports, với mức giá 43 USD/tháng cho 15 kênh truyền hình, sẽ gây thiệt hại không thể khắc phục cho hoạt động kinh doanh truyền hình trả tiền của họ. Luật sư của Fubo, Mark Hansen, lập luận rằng các nhà cung cấp dịch vụ truyền hình luôn chặn nỗ lực cung cấp gói chỉ dành cho thể thao với mức giá thấp hơn.</p>

<p>Tuy nhiên, Disney, Fox và Warner Bros. Discovery phản bác rằng họ đang hoạt động trong khuôn khổ thị trường tự do. Luật sư của Disney, Wes Earnhardt, khẳng định phán quyết có lợi cho Fubo sẽ gây bất lợi cho người tiêu dùng khi ngăn chặn một đơn vị mới có giá cả cạnh tranh.</p>

<p>James Trautman, chuyên gia từ Bortz Media & Sports Group, cho rằng Venu Sports, với mức giá 43 USD/tháng, đang nhắm vào đại dương cơ hội nằm giữa phân khúc dịch vụ phát trực tuyến giá rẻ (Netflix, Disney+) và truyền hình cáp/kỹ thuật số truyền hình trả tiền (Comcast, YouTube TV).</p>

<p>Vụ kiện này có thể tạo ra tác động lớn đến ngành công nghiệp truyền hình trả tiền, đặc biệt trong bối cảnh cạnh tranh ngày càng gay gắt giữa các dịch vụ phát trực tuyến.</p>

Âm Nhạc AI: Cuộc Chiến Bản Quyền Nảy Lửa và Trận Đấu Khốc Liệt Trên Thị Trường Truyền Hình Trả Tiền

Âm Nhạc AI: Cuộc Chiến Bản Quyền Nảy Lửa và Trận Đấu Khốc Liệt Trên Thị Trường Truyền Hình Trả Tiền Mục Lục: Âm nhạc AI: Liệu có phải...

tháng 8 07, 2024

Jeff Bezos: Từ đế chế thương mại điện tử đến làn sóng đầu tư AI

<h2>Jeff Bezos: Từ đế chế thương mại điện tử đến làn sóng đầu tư AI</h2>

<h3>Mục lục:</h3>
<ul>
  <li>Biến động thị trường không làm chùn bước nhà đầu tư</li>
  <li>Bezos Expeditions và trọng tâm mới - Trí tuệ nhân tạo</li>
  <li>Những chú kỳ lân AI trong tay Bezos: Perplexity AI và Skikd AI</li>
</ul>

<p>Mặc dù gần đây chứng kiến khối tài sản sụt giảm mạnh do biến động thị trường chứng khoán, Jeff Bezos dường như không hề nao núng. Thay vì thu hẹp chi tiêu, ông vẫn duy trì lối sống xa hoa và tiếp tục đầu tư mạnh tay, đặc biệt vào lĩnh vực công nghệ.</p>

<p>Theo CNBC, Bezos Expeditions, công ty quản lý tài sản gia đình của Bezos, đang tập trung nguồn lực vào các công ty AI tiềm năng. Được thành lập từ năm 2005, Bezos Expeditions từ lâu đã nổi tiếng với việc rót vốn vào mảng công nghệ (chiếm đến 70% danh mục đầu tư). Tuy nhiên, động thái mới nhất cho thấy sự quan tâm đặc biệt của Bezos dành cho lĩnh vực AI đầy hứa hẹn.</p>

<p>Một trong những khoản đầu tư đáng chú ý nhất của Bezos là Perplexity AI, công ty phát triển công cụ tìm kiếm AI. Tháng 4 vừa qua, Perplexity AI đã gọi vốn thành công 63 triệu USD, nâng mức định giá lên con số 1 tỷ USD và chính thức gia nhập hàng ngũ kỳ lân công nghệ.  Tuy nhiên, Perplexity AI cũng vướng phải một số lùm xùm liên quan đến vấn đề bản quyền. Để xoa dịu tình hình, công ty đã triển khai chương trình hợp tác, chia sẻ doanh thu quảng cáo cho các nhà xuất bản nội dung gốc.</p>

<p>Bên cạnh Perplexity AI, Skikd AI là cái tên tiếp theo được Bezos chọn mặt gửi vàng.  Skikd AI chuyên phát triển hệ điều hành cho robot đa năng, ứng dụng trong nhiều lĩnh vực từ xây dựng, sản xuất đến đời sống gia đình. Bezos Expeditions cùng với Coatue, Lightspeed Venture Partners và SoftBank Group đã rót tổng cộng 300 triệu USD vào Skikd AI, qua đó nâng mức định giá của công ty lên 1.5 tỷ USD.</p>

<p>Việc Jeff Bezos liên tục rót vốn vào các startup AI cho thấy tầm nhìn xa và niềm tin mãnh liệt của ông vào tiềm năng phát triển đột phá của lĩnh vực này trong tương lai.</p>

Jeff Bezos: Từ đế chế thương mại điện tử đến làn sóng đầu tư AI

Jeff Bezos: Từ đế chế thương mại điện tử đến làn sóng đầu tư AI Mục lục: Biến động thị trường không làm chùn bước nhà đầu tư Bezos...

tháng 8 07, 2024

Từ bỏ Cuộc đua Vũ trang AI: Lời kêu gọi cho một tương lai bền vững

<h2>Từ bỏ Cuộc đua Vũ trang AI: Lời kêu gọi cho một tương lai bền vững</h2>

<h3>Mục lục</h3>
<ul>
  <li>Vấn đề về tính bền vững của AI</li>
  <li>Lời giải từ cựu lãnh đạo IBM</li>
  <li>Thay đổi mô hình, hướng tới tương lai</li>
</ul>

<p>Theo Seth Dobrin, cựu giám đốc AI toàn cầu của IBM và hiện là nhà đầu tư mạo hiểm, ngành công nghệ cần chấm dứt cuộc đua vũ trang trong việc phát triển các mô hình ngôn ngữ lớn (LLM) như GPT-4 của OpenAI hay Claude của Anthropic. Ông cho rằng đây là chìa khóa để giải quyết vấn đề về tính bền vững của trí tuệ nhân tạo (AI).</p>

<p>Dobrin lập luận rằng mô hình phát triển LLM hiện tại, tập trung vào việc tạo ra những mô hình ngày càng lớn và phức tạp hơn, đang gây ra những hệ lụy về môi trường. Việc huấn luyện và vận hành những mô hình AI khổng lồ này đòi hỏi một lượng năng lượng khổng lồ, từ đó gián tiếp tạo ra lượng khí thải carbon đáng kể.</p>

<p>Ông kêu gọi ngành công nghệ thay đổi cách tiếp cận, chuyển từ việc chạy đua theo kích thước sang tập trung vào hiệu quả và tính bền vững. Thay vì xây dựng những siêu AI ngốn năng lượng, trọng tâm nên được chuyển sang phát triển các mô hình AI nhỏ gọn, hiệu quả hơn và ít tác động đến môi trường.</p>

<p>Lời kêu gọi của Dobrin được đưa ra trong bối cảnh ngành công nghệ ngày càng quan tâm đến vấn đề tác động của AI đến môi trường. Nhiều chuyên gia cho rằng việc phát triển AI bền vững là điều cần thiết để đảm bảo công nghệ này mang lại lợi ích cho xã hội mà không gây ra những hậu quả tiêu cực lâu dài.</p>

Từ bỏ Cuộc đua Vũ trang AI: Lời kêu gọi cho một tương lai bền vững

Từ bỏ Cuộc đua Vũ trang AI: Lời kêu gọi cho một tương lai bền vững Mục lục Vấn đề về tính bền vững của AI Lời giải từ cựu lãnh đạo...

tháng 8 07, 2024

Ba Tư Tưởng Quan Trọng Nhất Trong 900 Bài Viết Trên Forbes Của Tôi

<h2>Ba Tư Tưởng Quan Trọng Nhất Trong 900 Bài Viết Trên Forbes Của Tôi</h2>

<ol>
  <li><strong>Khơi Gợi Sự Tự Tin Ở Người Khác</strong></li>
  <li><strong>Quản Lý Quá Trình Hội Nhập Của Lãnh Đạo Qua 7 Giai Đoạn</strong></li>
  <li><strong>Chuyển Đổi Chiến Lược, Tổ Chức Và Vận Hành Tại Các Điểm Bứt Phá</strong></li>
  <li><strong>Những Ý Tưởng Mới Lạ?</strong>
    <ul>
      <li>Bảy Giai Đoạn Hội Nhập Của Lãnh Đạo</li>
      <li>Khung Năng Lực Lãnh Đạo BRAVE</li>
      <li>Khung Tư Duy Tốt Nhất Hiện Tại (CBT) Cho Phát Triển Sự Nghiệp</li>
      <li>Sáu Cấp Độ Uỷ Quyền</li>
    </ul>
  </li>
  <li><strong>Kết Luận</strong></li>
</ol>

<p>Theo Perplexity AI, ba ý tưởng quan trọng nhất xuất hiện trong hơn 900 bài viết của tôi trên Forbes trong 13 năm qua là:</p>

<h3>1. Khơi Gợi Sự Tự Tin Ở Người Khác:</h3>

<p>Là một nhà lãnh đạo, công việc của bạn là truyền cảm hứng, tạo điều kiện và trao quyền cho người khác để họ cùng nhau phát huy hết khả năng, hướng đến mục tiêu chung ý nghĩa và xứng đáng. Nhà lãnh đạo giỏi chú trọng xây dựng sự tự tin trong cách họ uỷ quyền, hiểu rằng con người được thúc đẩy bởi việc làm điều tốt cho người khác, vượt trội ở lĩnh vực của họ và làm điều tốt cho chính mình. Lãnh đạo hiệu quả không phải là về bạn, mà là về cách bạn khơi gợi sự tự tin ở người khác để đạt được điều quan trọng nhất.</p>

<h3>2. Quản Lý Quá Trình Hội Nhập Của Lãnh Đạo Qua 7 Giai Đoạn:</h3>

<p>Bảy giai đoạn hội nhập của lãnh đạo bao gồm: tiếp thị, bán hàng, mua hàng, chuẩn bị, hội tụ, phát triển và điều chỉnh – theo thứ tự: 1) trước lần tiếp xúc đầu tiên, 2) giữa lần tiếp xúc đầu tiên và lời đề nghị, 3) tại thời điểm đề nghị, 4) trong giai đoạn Fuzzy Front End giữa chấp nhận và bắt đầu, 5) trong những ngày đầu, 6) tại thời điểm chuyển đổi từ hội tụ sang phát triển và 7) khi mọi thứ thay đổi.</p>

<p>Perplexity lưu ý rằng các giai đoạn này trải dài từ tự đánh giá trước khi tiếp xúc đến điều hướng những thay đổi sau khi gia nhập. Các khía cạnh chính bao gồm hiểu rõ điểm mạnh và sở thích của bản thân, nắm vững quy trình phỏng vấn, thẩm định kỹ lưỡng, lập kế hoạch hành động 100 ngày, xây dựng mối quan hệ, đồng sáng tạo hướng đi tương lai với đội ngũ nòng cốt và thích ứng với thay đổi.</p>

<h3>3. Chuyển Đổi Chiến Lược, Tổ Chức Và Vận Hành Tại Các Điểm Bứt Phá:</h3>

<p>Nhận ra và lãnh đạo thông qua các điểm bứt phá chiến lược - những thời điểm then chốt thay đổi cơ bản cách chúng ta suy nghĩ và hành động. Áp dụng cách tiếp cận toàn diện đối với các điểm uốn này, đồng thời đánh giá lại và điều chỉnh chiến lược, cơ cấu tổ chức và hoạt động của bạn. Khung BRAVE (Hành vi, Mối quan hệ, Thái độ, Giá trị, Môi trường) có thể giúp bạn điều hướng những thời điểm quan trọng này.</p>

<h3>4. Những Ý Tưởng Mới Lạ?</h3>

<p>Tôi đã hỏi Perplexity xem ý tưởng nào của tôi là mới trên thế giới. Nó đã né tránh câu hỏi đó, nhưng có thể nêu bật một số khung có vẻ là đóng góp độc đáo hoặc là sự điều chỉnh đáng kể từ các khái niệm hiện có. Theo Perplexity, chúng bao gồm:</p>

<ul>
  <li><strong>Bảy Giai Đoạn Hội Nhập Của Lãnh Đạo:</strong> Mặc dù các quy trình hội nhập đã được thảo luận trong tài liệu quản lý trước đây, nhưng Perplexity cho rằng khung bảy giai đoạn cụ thể (tiếp thị, bán hàng, mua hàng, chuẩn bị, hội tụ, phát triển và điều chỉnh) dường như là một cách tiếp cận độc đáo và toàn diện đối với quá trình chuyển đổi của lãnh đạo. Khung này cung cấp lộ trình chi tiết trải dài từ trước khi tiếp xúc đến điều chỉnh sau khi bắt đầu, rộng hơn nhiều so với các mô hình hội nhập truyền thống.</li>
  <li><strong>Khung Năng Lực Lãnh Đạo BRAVE:</strong> Khung BRAVE (Hành vi, Mối quan hệ, Thái độ, Giá trị, Môi trường) để điều hướng các điểm uốn chiến lược là một cách tiếp cận đặc biệt đối với khả năng lãnh đạo trong thời kỳ thay đổi đáng kể. Perplexity cho rằng Khung này dường như là sự tổng hợp độc đáo của các khái niệm lãnh đạo khác nhau được áp dụng cụ thể cho các điểm uốn.</li>
  <li><strong>Khung Tư Duy Tốt Nhất Hiện Tại (CBT) Cho Phát Triển Sự Nghiệp:</strong> Mặc dù khung CBT ban đầu được Roger Neill thiết kế cho việc giải quyết vấn đề, nhưng Perplexity cho rằng việc điều chỉnh khung này cho phát triển sự nghiệp cá nhân dường như là một ứng dụng mới lạ. Nó cho biết cách tiếp cận kết hợp giữa các khả năng trong tương lai, đánh giá thực tế hiện tại và giải quyết vấn đề thu hẹp khoảng cách cho kế hoạch nghề nghiệp cá nhân là một đóng góp độc đáo cho lĩnh vực phát triển cá nhân.</li>
  <li><strong>Sáu Cấp Độ Uỷ Quyền:</strong> Khung sáu cấp độ để uỷ quyền, từ Tự mình làm tốt đến Không bao giờ làm, cung cấp cách tiếp cận chi tiết cho việc phân bổ nhiệm vụ và trao quyền lãnh đạo. Mặc dù các khái niệm uỷ quyền đã tồn tại trong tài liệu quản lý, nhưng Perplexity cho rằng khung sáu cấp độ cụ thể dường như là một đóng góp độc đáo cho lĩnh vực này.</li>
</ul>

<h4>Sáu Cấp Độ Uỷ Quyền:</h4>

<ol>
  <li>Tự mình làm tốt - Lĩnh vực tập trung chính của người đóng góp cá nhân.</li>
  <li>Tự mình làm, nhưng chỉ cần đủ tốt - Người đóng góp cá nhân.</li>
  <li>Uỷ quyền và giám sát - Lĩnh vực của người quản lý.</li>
  <li>Uỷ quyền và tin tưởng - Truyền cảm hứng, tạo điều kiện và trao quyền cho người khác.</li>
  <li>Làm sau - Hạ thấp mức độ ưu tiên, tiết kiệm thời gian cho người khác ngay bây giờ.</li>
  <li>Không bao giờ làm - Hạ thấp mức độ ưu tiên tối đa, tiết kiệm thời gian và sự chú ý cho người khác.</li>
</ol>

<p>Perplexity lưu ý rằng mặc dù các khung này có thể kết hợp các yếu tố từ lý thuyết quản lý và lãnh đạo hiện có, nhưng các công thức cụ thể, ứng dụng và cách tiếp cận toàn diện đối với các chủ đề này dường như là những đóng góp ban đầu cho lĩnh vực lãnh đạo điều hành và chiến lược tổ chức. Sự mới lạ nằm ở cách các khái niệm khác nhau được tổng hợp, áp dụng vào các bối cảnh cụ thể như hội nhập của lãnh đạo và biến thành các khung thực tế, có thể hành động để các nhà lãnh đạo noi theo.</p>

<p>Mặc dù không chắc chắn về việc Perplexity có thể nắm bắt được những ý tưởng và khung quan trọng nhất chỉ trong năm bài viết trong số hơn 900 bài viết của tôi hay không, nhưng ít nhất vẫn có điều đáng để đọc.</p>

<p>Để biết danh sách phân loại các bài viết của tôi trên Forbes, hãy nhấp vào <a href='#'>đây</a>.</p>

<p>Theo dõi tôi trên Twitter và xem trang web của tôi.</p>

Ba Tư Tưởng Quan Trọng Nhất Trong 900 Bài Viết Trên Forbes Của Tôi

Ba Tư Tưởng Quan Trọng Nhất Trong 900 Bài Viết Trên Forbes Của Tôi Khơi Gợi Sự Tự Tin Ở Người Khác Quản Lý Quá Trình Hội Nhập Của L...

tháng 8 07, 2024

Google Vẫn Thống Trị Thị Trường Tìm Kiếm Dù Đối Mặt Sóng Gió Từ AI

<h2>Google Vẫn Thống Trị Thị Trường Tìm Kiếm Dù Đối Mặt Sóng Gió Từ AI</h2>

<h3>Mục lục</h3>
<ul>
  <li>Số liệu cho thấy Google vẫn tăng trưởng</li>
  <li>Lượng truy cập và người dùng áp đảo</li>
  <li>Tương lai nào cho Google?</li>
</ul>

<p>Mặc dù sự trỗi dậy của các công cụ tìm kiếm AI mới như ChatGPT của OpenAI, Copilot của Microsoft và các công cụ tìm kiếm chuyên biệt khác, dữ liệu mới cho thấy Google vẫn chưa bị ảnh hưởng đáng kể.</p>

<h3>Số liệu cho thấy Google vẫn tăng trưởng</h3>

<p>Theo phân tích của Sonata Insights dựa trên dữ liệu từ Datos' clickstream panel, lưu lượng truy cập Google có thể đã tăng 1,4% từ tháng 5/2023 đến tháng 5/2024. </p>

<p>Rand Fishkin, chuyên gia tại Sparktoro, cho biết: Vào tháng 5/2024, lượng truy cập trên máy tính để bàn của Google nhỉnh hơn một chút so với cùng kỳ năm 2023 (+1,4%), trong khi công cụ tìm kiếm AI lớn nhất theo số liệu này (Perplexity) là 15,69 (+42% so với năm trước).</p>

<h3>Lượng truy cập và người dùng áp đảo</h3>

<p>Dữ liệu cho thấy Google có lượng người dùng tìm kiếm gấp 290 lần so với Perplexity vào tháng 5.  Nếu so sánh khoảng 200 lượt tìm kiếm mỗi người dùng Google thực hiện mỗi tháng, thì con số này ở Perplexity chỉ là ~15. Điều này cho thấy người dùng Perplexity chỉ hoạt động trên nền tảng của họ bằng khoảng 7,5% so với người dùng Google.</p>

<h3>Tương lai nào cho Google?</h3>

<p>Mặc dù các tính năng tìm kiếm AI và các công cụ tìm kiếm AI chuyên biệt ngày càng phổ biến, Google vẫn chiếm thị phần đáng kể trong thị trường tìm kiếm. Liệu điều đó có thay đổi trong những năm tới hay không? Thời gian sẽ trả lời. Nhưng hiện tại, Google vẫn là một thế lực thống trị.</p>

Google Vẫn Thống Trị Thị Trường Tìm Kiếm Dù Đối Mặt Sóng Gió Từ AI

Google Vẫn Thống Trị Thị Trường Tìm Kiếm Dù Đối Mặt Sóng Gió Từ AI Mục lục Số liệu cho thấy Google vẫn tăng trưởng Lượng truy cập ...

tháng 8 07, 2024

Xây dựng mạng lưới AI quy mô lớn tại Meta: Hành trình chinh phục thách thức

<h2>Xây dựng mạng lưới AI quy mô lớn tại Meta: Hành trình chinh phục thách thức</h2>

<h3>Mục lục</h3>
<ol>
  <li><a href='#gioi-thieu'>Giới thiệu</a></li>
  <li><a href='#kien-truc'>Kiến trúc mạng lưới cho huấn luyện AI phân tán</a>
    <ul>
      <li><a href='#frontend-backend'>Sự tách biệt Frontend và Backend</a></li>
      <li><a href='#ai-zone'>Khu vực AI (AI Zone)</a></li>
    </ul>
  </li>
  <li><a href='#dieu-huong'>Điều hướng luồng dữ liệu huấn luyện</a>
    <ul>
      <li><a href='#ecmp-path-pinning'>ECMP và Path Pinning</a></li>
      <li><a href='#mo-rong-queue-pair'>Mở rộng Queue Pair</a></li>
    </ul>
  </li>
  <li><a href='#kiem-soat'>Kiểm soát tắc nghẽn</a>
    <ul>
      <li><a href='#dieu-chinh-dcqcn'>Điều chỉnh DCQCN</a></li>
      <li><a href='#quan-ly-luu-luong'>Quản lý lưu lượng dựa trên đầu thu</a></li>
    </ul>
  </li>
  <li><a href='#huong-phat-trien'>Hướng phát triển tương lai</a></li>
  <li><a href='#ket-luan'>Kết luận</a></li>
</ol>

<h3 id='gioi-thieu'>Giới thiệu</h3>

<p>Sự phát triển của AI, đặc biệt là huấn luyện AI phân tán, đang tạo áp lực lớn lên cơ sở hạ tầng mạng của trung tâm dữ liệu. Để đáp ứng nhu cầu ngày càng tăng này, Meta đã nghiên cứu và phát triển một mạng lưới AI quy mô lớn, hiệu suất cao dựa trên công nghệ RoCEv2. Bài viết này sẽ trình bày chi tiết về thiết kế, triển khai và vận hành mạng lưới này, đồng thời nêu bật những thách thức và giải pháp mà Meta đã thực hiện.</p>

<h3 id='kien-truc'>Kiến trúc mạng lưới cho huấn luyện AI phân tán</h3>

<h4 id='frontend-backend'>Sự tách biệt Frontend và Backend</h4>

<p>Để tối ưu hóa hiệu suất, Meta đã thiết lập hai mạng độc lập: Frontend (FE) và Backend (BE). FE đảm nhận các tác vụ như tiếp nhận dữ liệu, checkpointing và logging, trong khi BE tập trung vào việc kết nối các GPU phục vụ cho huấn luyện.</p>

<p>Ban đầu, Meta sử dụng cấu trúc hình sao đơn giản với một switch trung tâm. Tuy nhiên, để mở rộng quy mô và tăng cường khả năng sẵn sàng, Meta đã chuyển sang kiến trúc fabric-based với cấu trúc Clos hai tầng, gọi là AI Zone.</p>

<p>Trong AI Zone, các switch RTSW đóng vai trò là switch lá, kết nối các GPU trong cùng một rack. Switch CTSW ở tầng lõi kết nối tất cả các rack trong cluster, tạo ra kết nối không bị chặn giữa các GPU.</p>

<p>Để đáp ứng nhu cầu huấn luyện các mô hình ngôn ngữ lớn (LLM) như Llama, Meta đã mở rộng kết nối RoCE ra ngoài phạm vi AI Zone bằng cách sử dụng switch ATSW. ATSW kết nối các CTSW trong trung tâm dữ liệu, cho phép mở rộng quy mô GPU.</p>

<h3 id='dieu-huong'>Điều hướng luồng dữ liệu huấn luyện</h3>

<h4 id='ecmp-path-pinning'>ECMP và Path Pinning</h4>

<p>Ban đầu, Meta sử dụng ECMP để cân bằng tải lưu lượng mạng. Tuy nhiên, do đặc thù luồng dữ liệu huấn luyện AI có entropy thấp, ECMP không mang lại hiệu quả cao. Giải pháp thay thế là path pinning, định tuyến gói tin dựa trên lát đích.</p>

<p>Tuy nhiên, path pinning bộc lộ hạn chế khi rack được phân bổ cho nhiều job, dẫn đến phân bố lưu lượng không đồng đều và tắc nghẽn. Nâng cấp băng thông RTSW là giải pháp tạm thời cho vấn đề này.</p>

<h4 id='mo-rong-queue-pair'>Mở rộng Queue Pair</h4>

<p>Để cải thiện hiệu suất ECMP, Meta đã áp dụng kỹ thuật mở rộng Queue Pair (QP). Bằng cách sử dụng E-ECMP và mở rộng QP, Meta đã tăng số lượng luồng dữ liệu cho các tập hợp phân cấp, từ đó cải thiện hiệu suất AllReduce lên tới 40%.</p>

<h3 id='kiem-soat'>Kiểm soát tắc nghẽn</h3>

<h4 id='dieu-chinh-dcqcn'>Điều chỉnh DCQCN</h4>

<p>Meta đã thử nghiệm điều chỉnh DCQCN để thích ứng với tốc độ và cấu trúc liên kết mạng 400G. Tuy nhiên, do lỗi trong firmware, hiệu suất bị giảm sút.</p>

<h4 id='quan-ly-luu-luong'>Quản lý lưu lượng dựa trên đầu thu</h4>

<p>Để giảm thiểu tắc nghẽn, Meta đã đồng thiết kế thư viện kết nối và RoCE để thực thi quản lý lưu lượng dựa trên đầu thu. Cơ chế này giới hạn lưu lượng trên mạng, đặc biệt khi bắt đầu xuất hiện tắc nghẽn.</p>

<h3 id='huong-phat-trien'>Hướng phát triển tương lai</h3>

<p>Với sự phát triển nhanh chóng của GenAI, Meta sẽ tiếp tục cải tiến cơ sở hạ tầng mạng, tập trung vào việc tối ưu hóa thuật toán kiểm soát tắc nghẽn và thích ứng với khối lượng công việc huấn luyện AI ngày càng phức tạp.</p>

<p>Thông qua việc tách biệt mạng FE và BE, áp dụng các phương pháp định tuyến hiệu quả và tối ưu hóa luồng dữ liệu, Meta đã xây dựng được một mạng lưới AI quy mô lớn, hiệu suất cao và đáng tin cậy. Những nỗ lực này góp phần thúc đẩy sự phát triển của cơ sở hạ tầng huấn luyện AI phân tán, đáp ứng nhu cầu ngày càng tăng của kỷ nguyên AI.</p>

Xây dựng mạng lưới AI quy mô lớn tại Meta: Hành trình chinh phục thách thức

Xây dựng mạng lưới AI quy mô lớn tại Meta: Hành trình chinh phục thách thức Mục lục Giới thiệu Kiến trúc mạng lưới cho huấn luyện ...

tháng 8 07, 2024

Perplexity - Ứng dụng tìm kiếm AI chia sẻ doanh thu quảng cáo với các nhà xuất bản

<h2>Perplexity - Ứng dụng tìm kiếm AI chia sẻ doanh thu quảng cáo với các nhà xuất bản</h2>

<h3>Mục lục</h3>
<ul>
  <li>Giới thiệu chương trình hợp tác</li>
  <li>Lợi ích cho nhà xuất bản</li>
  <li>Tầm nhìn của Perplexity</li>
  <li>Mô hình quảng cáo mới</li>
  <li>Đối tác và tiềm năng phát triển</li>
  <li>Đối thủ cạnh tranh</li>
  <li>Kết luận</li>
</ul>

<p>Ứng dụng tìm kiếm AI Perplexity đã xác nhận sẽ chia sẻ doanh thu quảng cáo với các nhà xuất bản tin tức khi bài viết của họ xuất hiện trong kết quả tìm kiếm của người dùng.</p>

<h3>Chương trình hợp tác mới</h3>

<p>Tuần trước, Perplexity đã ra mắt Chương trình dành cho nhà xuất bản, nhằm đảm bảo các nhà xuất bản tin tức nhận được hỗ trợ tài chính và ghi nhận xứng đáng khi nội dung của họ xuất hiện trong kết quả tìm kiếm của ứng dụng.</p>

<h3>Lợi ích thiết thực cho nhà xuất bản</h3>

<p>Theo chương trình này, các doanh nghiệp có thể trả phí để nội dung của họ được hiển thị trong các vị trí quảng cáo mới xung quanh tính năng theo dõi liên quan trên ứng dụng. Bất cứ khi nào quảng cáo tạo ra doanh thu từ tương tác có liên quan đến nội dung của nhà xuất bản, nhà xuất bản sẽ nhận được một phần chia sẻ.</p>

<p>Ngoài ra, nhà xuất bản cũng sẽ có quyền truy cập vào phân tích hiệu suất nội dung trên Perplexity thông qua sự hợp tác với ScalePost.ai, một nền tảng cung cấp phân tích AI cho các nhà xuất bản. </p>

<p>Đặc biệt, các nhà xuất bản tham gia chương trình sẽ được quyền truy cập miễn phí vào API của Perplexity. Điều này cho phép họ xây dựng công cụ trả lời tìm kiếm tùy chỉnh cho trang web của riêng mình. Nhân viên của họ cũng sẽ được sử dụng miễn phí phiên bản Perplexity Pro trong một năm.</p>

<h3>Tầm nhìn của Perplexity</h3>

<p>Giám đốc điều hành Aravind Srinivas của Perplexity cho biết công ty đã xây dựng chương trình này dựa trên mục tiêu tạo ra một hệ thống có khả năng mở rộng và bền vững, nơi tất cả các bên đều có lợi. </p>

<p>Chúng tôi đánh giá cao những nhà xuất bản đã tham gia chương trình và cung cấp cho chúng tôi những phản hồi quý báu về cách thức hoạt động, ông Srinivas chia sẻ. Chúng tôi luôn tin rằng chúng ta có thể xây dựng một hệ thống mà Internet là người chiến thắng cuối cùng, và đây chỉ là bước khởi đầu.</p>

<h3>Mô hình quảng cáo mới</h3>

<p>Việc ra mắt Chương trình dành cho nhà xuất bản cũng đánh dấu lần đầu tiên ứng dụng tìm kiếm AI Perplexity tích hợp quảng cáo. Trước đây, Perplexity dựa vào hình thức đăng ký trả phí cho phiên bản cao cấp Perplexity Pro (20 đô la/tháng) để mang đến cho người dùng trải nghiệm tìm kiếm AI nâng cao.</p>

<p>Bản cập nhật sắp tới sẽ hiển thị quảng cáo trong phần tìm kiếm liên quan. Ví dụ, nếu người dùng tìm kiếm nhà hàng trong thành phố, một chuỗi nhà hàng có thể trả tiền để quảng cáo của họ xuất hiện trong phần tìm kiếm liên quan. Việc nhấp vào quảng cáo sẽ tạo doanh thu cho cả ứng dụng và các nhà xuất bản có nội dung được hiển thị trong kết quả tìm kiếm. </p>

<h3>Đối tác và tiềm năng phát triển</h3>

<p>Time, Fortune, Entrepreneur và WordPress nằm trong số những nhà xuất bản đầu tiên được hưởng lợi từ chương trình này.</p>

<p>Perplexity cũng đang xem xét hợp tác với các nhà xuất bản để cung cấp gói đăng ký kết hợp, cho phép người dùng trả một mức phí cố định để sử dụng cả Perplexity Pro và đăng ký các nhà xuất bản tham gia.</p>

<p>Mark Howard, giám đốc vận hành của Time, cho biết: Chúng tôi tự hào tham gia Chương trình dành cho nhà xuất bản của Perplexity với tư cách là đối tác ra mắt để tiếp tục mở rộng khả năng tiếp cận thông tin đáng tin cậy và thu hút khán giả theo những cách thức mới.</p>

<h3>Đối thủ cạnh tranh tiềm ẩn</h3>

<p>Mặc dù vậy, Perplexity có thể sẽ phải đối mặt với một đối thủ cạnh tranh mới, OpenAI, khi công ty này vừa công bố đang thử nghiệm SearchGPT, một tính năng tìm kiếm mới cho ChatGPT, cho phép người dùng tìm kiếm trên web bằng ngôn ngữ tự nhiên, dạng đối thoại.</p>

<p>Với mô hình kinh doanh mới, Perplexity kỳ vọng sẽ tạo ra một hệ sinh thái đôi bên cùng có lợi, mang đến cho người dùng trải nghiệm tìm kiếm AI chất lượng cao, đồng thời hỗ trợ các nhà xuất bản phát triển bền vững trong thời đại kỹ thuật số. Liệu Perplexity có thành công trong việc hiện thực hóa mục tiêu này hay không? Hãy cùng chờ xem!</p>

Perplexity - Ứng dụng tìm kiếm AI chia sẻ doanh thu quảng cáo với các nhà xuất bản

Perplexity - Ứng dụng tìm kiếm AI chia sẻ doanh thu quảng cáo với các nhà xuất bản Mục lục Giới thiệu chương trình hợp tác Lợi ích...

tháng 8 07, 2024

Mạng RoCE cho huấn luyện AI phân tán quy mô lớn tại Meta

<h2>Mạng RoCE cho huấn luyện AI phân tán quy mô lớn tại Meta</h2>

<nav>
  <h3>Mục lục</h3>
  <ol>
    <li><a href='#giới-thiệu'>Giới thiệu</a></li>
    <li><a href='#kiến-trúc-mạng'>Kiến trúc mạng</a>
      <ul>
        <li><a href='#sự-phân-tách'>Sự phân tách</a></li>
        <li><a href='#khu-vực-ai'>Khu vực AI</a></li>
      </ul>
    </li>
    <li><a href='#định-tuyến'>Định tuyến</a>
      <ul>
        <li><a href='#ecmp-và-ghim-đường-dẫn'>ECMP và ghim đường dẫn</a></li>
        <li><a href='#cân-bằng-hàng-đợi'>Cân bằng hàng đợi (Queue pair scaling)</a></li>
      </ul>
    </li>
    <li><a href='#kiểm-soát-tắc-nghẽn'>Kiểm soát tắc nghẽn</a>
      <ul>
        <li><a href='#dcqcn'>DCQCN</a></li>
        <li><a href='#nhập-lưu-lượng-hướng-người-nhận'>Nhập lưu lượng hướng người nhận</a></li>
      </ul>
    </li>
    <li><a href='#hướng-phát-triển'>Hướng phát triển</a></li>
    <li><a href='#kết-luận'>Kết luận</a></li>
  </ol>
</nav>

<h3 id='giới-thiệu'>Giới thiệu</h3>

<p>Trong những năm qua, Meta đã xây dựng một trong những mạng lưới AI lớn nhất thế giới để hỗ trợ khối lượng công việc huấn luyện AI phân tán quy mô lớn. Bài báo này sẽ thảo luận chi tiết về cách chúng tôi thiết kế, triển khai và vận hành mạng lưới này, tập trung vào việc sử dụng RDMA over Converged Ethernet version 2 (RoCEv2) làm phương thức truyền thông liên nút cho phần lớn năng lực AI của chúng tôi.</p>

<p>Sự phổ biến ngày càng tăng của AI đã tạo ra một kỷ nguyên mới về nhu cầu truyền thông. Huấn luyện phân tán, đặc biệt, tạo ra sức ép đáng kể nhất lên cơ sở hạ tầng mạng của trung tâm dữ liệu. Ví dụ, một tác vụ AI tạo sinh (GenAI) điển hình có thể cần phối hợp chặt chẽ hàng chục nghìn GPU trong vài tuần. Việc xây dựng một cơ sở hạ tầng mạng đáng tin cậy, hiệu suất cao, có khả năng đáp ứng nhu cầu ngày càng tăng này, đòi hỏi phải đánh giá lại thiết kế mạng trung tâm dữ liệu.</p>

<p>Khi Meta giới thiệu phương pháp huấn luyện dựa trên GPU phân tán, chúng tôi đã quyết định xây dựng các mạng trung tâm dữ liệu chuyên biệt được thiết kế riêng cho các cụm GPU này. Chúng tôi đã chọn RoCEv2 làm phương thức truyền thông liên nút cho phần lớn năng lực AI của mình.</p>

<p>Chúng tôi đã mở rộng thành công mạng RoCE của mình, phát triển từ nguyên mẫu sang triển khai nhiều cụm, mỗi cụm chứa hàng nghìn GPU. Các cụm RoCE này hỗ trợ một loạt các công việc huấn luyện GPU phân tán trong sản xuất, bao gồm xếp hạng, đề xuất nội dung, hiểu nội dung, xử lý ngôn ngữ tự nhiên và huấn luyện mô hình GenAI, cùng với các khối lượng công việc khác.</p>

<p>Cụm huấn luyện dựa trên hai mạng độc lập: mạng frontend (FE) cho các tác vụ như nhập dữ liệu, lập điểm kiểm tra và ghi nhật ký và mạng backend (BE) để huấn luyện, như được mô tả bên dưới.</p>

<p>Một rack huấn luyện được kết nối với cả FE và BE của mạng trung tâm dữ liệu. FE có hệ thống phân cấp các tầng mạng – bộ chuyển mạch rack (RSW), bộ chuyển mạch fabric (FSW), v.v. – chứa kho lưu trữ, cung cấp cho GPU dữ liệu đầu vào cần thiết cho khối lượng công việc huấn luyện. Chúng tôi đảm bảo rằng có đủ băng thông ingress trên bộ chuyển mạch rack để không cản trở khối lượng công việc huấn luyện.</p>

<p>BE là một kết cấu chuyên biệt kết nối tất cả các NIC RDMA trong một kiến trúc không chặn, cung cấp băng thông cao, độ trễ thấp và truyền tải không mất dữ liệu giữa hai GPU bất kỳ trong cụm, bất kể vị trí thực của chúng. Kết cấu phụ trợ này sử dụng giao thức RoCEv2, đóng gói dịch vụ RDMA trong các gói UDP để truyền tải qua mạng.</p>

<p>Các mạng BE của chúng tôi đã trải qua một số thay đổi. Ban đầu, các cụm GPU của chúng tôi sử dụng cấu trúc liên kết hình sao đơn giản với một vài rack AI được kết nối với bộ chuyển mạch Ethernet trung tâm chạy giao thức RoCEv1 không định tuyến được. Thiết lập này có những hạn chế rõ ràng về quy mô GPU và khả năng dự phòng chuyển đổi. Do đó, chúng tôi đã nhanh chóng chuyển sang kiến trúc dựa trên kết cấu để mở rộng khả năng mở rộng và tính khả dụng cao hơn.</p>

<p>Chúng tôi đã thiết kế cấu trúc liên kết Clos hai tầng cho các rack AI, được gọi là Khu vực AI. Bộ chuyển mạch huấn luyện rack (RTSW), đóng vai trò là bộ chuyển mạch lá, cung cấp khả năng kết nối mở rộng cho GPU trong rack bằng cáp DAC dựa trên đồng. Tầng spine, bao gồm các bộ chuyển mạch huấn luyện cụm mô-đun (CTSW), cung cấp khả năng kết nối mở rộng giữa tất cả các rack trong cụm. CTSW có bộ đệm sâu được chia tĩnh trên các cổng trong khung. Các RTSW kết nối với CTSW thông qua cáp quang đơn mode và bộ thu phát có thể cắm 400G.</p>

<p>Các Khu vực AI được thiết kế để hỗ trợ một lượng lớn GPU được kết nối với nhau một cách không chặn. Tuy nhiên, những tiến bộ mới nổi của AI, chẳng hạn như LLM như Llama, yêu cầu quy mô GPU lớn hơn mức mà một Khu vực AI cung cấp. Để thích ứng với điều này, chúng tôi đã thiết kế một tầng bộ chuyển mạch huấn luyện tổng hợp (ATSW) kết nối các CTSW trong tòa nhà trung tâm dữ liệu, mở rộng miền RoCE ra ngoài một Khu vực AI duy nhất.</p>

<p>Lưu ý, kết nối chéo Khu vực AI được đăng ký quá mức theo thiết kế, với lưu lượng truy cập mạng được cân bằng bằng ECMP. Để giảm thiểu nút thắt cổ chai hiệu suất đối với lưu lượng truy cập chéo Khu vực AI, chúng tôi đã cải thiện trình lên lịch tác vụ huấn luyện để tìm lát cắt tối thiểu khi chia các nút huấn luyện thành các Khu vực AI khác nhau, giảm lưu lượng truy cập chéo Khu vực AI và do đó rút ngắn thời gian hoàn thành chung. Trình lên lịch thực hiện việc này bằng cách tìm hiểu vị trí của máy chủ GPU trong cấu trúc liên kết logic để đề xuất phân bổ hạng.</p>

<h3 id='định-tuyến'>Định tuyến</h3>

<p>Việc mở rộng quy mô sức mạnh tính toán và cấu trúc liên kết mạng đã thảo luận ở trên dẫn đến câu hỏi làm thế nào để cân bằng và định tuyến hiệu quả lưu lượng truy cập huấn luyện khổng lồ. Cụ thể, khối lượng công việc huấn luyện AI có một số đặc điểm đầy thách thức:</p>

<ul>
  <li><strong>Độ hỗn loạn thấp (Low entropy):</strong> So với khối lượng công việc của trung tâm dữ liệu truyền thống, số lượng và sự đa dạng của luồng cho khối lượng công việc AI nhỏ hơn nhiều và các mẫu luồng thường lặp đi lặp lại và có thể dự đoán được.</li>
  <li><strong>Tính bùng nổ (Burstiness):</strong> Trên khía cạnh thời gian, các luồng thường thể hiện bản chất bật và tắt trong độ chi tiết thời gian tính bằng mili giây.</li>
  <li><strong>Luồng voi (Elephant flows):</strong> Đối với mỗi lần bùng nổ, cường độ của mỗi luồng có thể đạt tới tốc độ đường truyền của NIC.</li>
</ul>

<h4 id='ecmp-và-ghim-đường-dẫn'>ECMP và ghim đường dẫn</h4>

<p>Ban đầu, chúng tôi đã xem xét ECMP được áp dụng rộng rãi, đặt các luồng một cách ngẫu nhiên dựa trên hàm băm trên năm thành phần: IP nguồn và đích, cổng UDP nguồn và đích và giao thức. Tuy nhiên, và như mong đợi, ECMP đã mang lại hiệu suất kém cho khối lượng công việc huấn luyện do độ hỗn loạn luồng thấp.</p>

<p>Ngoài ra, chúng tôi đã thiết kế và triển khai lược đồ ghim đường dẫn trong những năm đầu triển khai. Lược đồ này định tuyến các gói tin đến các đường dẫn cụ thể dựa trên lát đích (chỉ số của đường xuống RTSW). Điều này hoạt động tốt nếu mỗi rack được chỉ định đầy đủ cho cùng một công việc và không có lỗi nào trong mạng. Tuy nhiên, điều này hiếm khi đúng. Chúng tôi thấy rằng rack có thể được phân bổ một phần cho một công việc, chỉ có một trong hai máy chủ trong rack sử dụng băng thông đường lên. Việc vị trí công việc bị phân mảnh này gây ra phân phối lưu lượng không đồng đều và tắc nghẽn trên đường lên của RTSW cụ thể và làm giảm hiệu suất đào tạo lên tới hơn 30%. Hơn nữa, lỗi mạng trên đường lên hoặc CTSW khiến các luồng bị ảnh hưởng được chỉ định lại không đồng đều cho các CTSW khác bởi ECMP. Những luồng được chỉ định lại đó đã va chạm với các luồng hiện có khác và làm chậm toàn bộ công việc huấn luyện.</p>

<p>Chúng tôi đã giảm thiểu tác động tức thời của các va chạm luồng này bằng cách nâng cấp băng thông của băng thông đường lên RTSW lên gấp 2 lần. Do đó, chúng tôi đã cho phép dung lượng đường lên RTSW được đăng ký chưa đủ 1:2 so với dung lượng đường xuống RTSW. Mặc dù điều này đã giảm thiểu tác động đến hiệu suất tức thời, nhưng đây là một giải pháp tốn kém vì nó yêu cầu dung lượng mạng gấp 2 lần. Do đó, chúng tôi đã nhận ra đây là một biện pháp giảm thiểu ngắn hạn và tiến hành các giai đoạn tiếp theo của quá trình phát triển định tuyến.</p>

<h4 id='cân-bằng-hàng-đợi'>Cân bằng hàng đợi (Queue pair scaling)</h4>

<p>Tiếp theo, chúng tôi đã xem xét lại ECMP với mục đích tăng số lượng luồng cho các tập thể phân cấp thông qua tính năng phần mềm mở rộng quy mô cặp hàng đợi (QP) trong thư viện tập thể.</p>

<p>Để giải thích cho điều này, chúng tôi đã định cấu hình các bộ chuyển mạch để thực hiện ECMP nâng cao (E-ECMP) để băm thêm vào trường QP đích của gói RoCE bằng cách sử dụng khả năng UDF của ASIC chuyển đổi. Điều này đã làm tăng entropy và, so với ECMP cơ sở mà không cần mở rộng quy mô QP, chúng tôi quan sát thấy rằng E-ECMP cùng với việc mở rộng quy mô QP cho thấy hiệu suất được cải thiện lên đến 40% cho tập thể AllReduce.</p>

<p>Chúng tôi đã đánh giá hai chiến lược mở rộng quy mô QP. Cách đầu tiên liên quan đến việc chia mỗi thông báo có nghĩa là được đăng trên một QP duy nhất, thay vào đó là nhiều QP dẫn đến nhiều luồng. Nhưng nó cũng tạo ra kích thước thông báo nhỏ hơn trên kết cấu cũng như nhiều ACK. Cách tiếp cận thứ hai liên quan đến việc đăng từng thông báo vào một hàng đợi khác nhau, theo kiểu Round-robin. Đối với kích thước thông báo NIC được thể hiện trong quá trình sản xuất của chúng tôi với NCCL, chúng tôi quan sát thấy cách thứ hai hoạt động tốt. Tính năng này rất quan trọng đối với khả năng mở rộng ECMP bằng cách tăng lưu lượng mạng cho các tập thể phân cấp như AllReduce.</p>

<p>Mặc dù chúng tôi đã cải thiện hiệu suất ECMP với việc mở rộng quy mô QP, nhưng bản chất xác suất cơ bản của hàm băm là nhược điểm dai dẳng của lược đồ định tuyến này. Ngoài ra, nhu cầu tùy chỉnh hệ số масштабирования QP và phương pháp dựa trên loại khối lượng công việc, trong khi có thể hoạt động trong ngắn hạn, đã tạo ra sự phức tạp về hoạt động lâu dài.</p>

<h3 id='kiểm-soát-tắc-nghẽn'>Kiểm soát tắc nghẽn</h3>

<h4 id='dcqcn'>DCQCN</h4>

<p>Khi chúng tôi chuyển sang triển khai 400G, chúng tôi đã cố gắng điều chỉnh DCQCN để điều chỉnh tốc độ mạng và cấu trúc liên kết mới. Tuy nhiên, với cài đặt DCQCN mặc định và ngưỡng ECN tăng gấp đôi so với mạng 200G, hiệu suất đã bị giảm sút. Điều tra thêm cho thấy việc triển khai DCQCN trong phần sụn đã thay đổi, tạo ra lỗi và giảm khả năng hiển thị với các sự cố liên quan đến việc đếm CNP chính xác.</p>

<p>Chúng tôi đã tiến hành mà không có DCQCN cho các triển khai 400G của chúng tôi. Tại thời điểm này, chúng tôi đã có hơn một năm kinh nghiệm chỉ với PFC để kiểm soát luồng, không có bất kỳ kiểm soát tắc nghẽn cấp độ truyền tải nào khác. Chúng tôi đã quan sát thấy hiệu suất ổn định và không có tắc nghẽn liên tục đối với các tập thể huấn luyện.</p>

<h4 id='nhập-lưu-lượng-hướng-người-nhận'>Nhập lưu lượng hướng người nhận</h4>

<p>Để giảm thiểu tắc nghẽn cho 400G trở lên, chúng tôi đã đồng thiết kế thư viện tập thể và truyền tải RoCE để thực thi quyền truy cập lưu lượng do người nhận điều khiển để có hiệu suất tốt hơn. Biểu đồ bên dưới cho thấy kiến trúc giao tiếp GPU-to-GPU trong các cụm huấn luyện sản xuất của chúng tôi chủ yếu sử dụng sao chép hai giai đoạn và giao tiếp do người nhận khởi tạo thông qua thư viện tập thể NCCL. Bộ nhớ băng thông cao (HBM) của mỗi GPU duy trì nhiều kênh để truyền tải song song các thông báo tập thể được chia thành khối. Các luồng GPU của người gửi trước tiên sao chép dữ liệu từ bộ đệm tính toán sang bộ đệm kênh khả dụng. Luồng proxy CPU của người gửi chỉ có thể đăng yêu cầu ghi RDMA sau khi nhận được gói clear-to-send (CTS) từ người nhận, bao gồm thông tin về kích thước và bộ nhớ. Sau đó, các luồng GPU của người nhận sao chép nội dung bộ đệm kênh vào bộ đệm tính toán đích. Cuối cùng, các luồng proxy CPU ở cả hai bên tái chế bộ đệm kênh và proxy CPU của người nhận gửi một gói CTS khác sau khi bộ đệm kênh sẵn sàng.</p>

<p>Chúng tôi tận dụng hiệu quả cơ chế này như một phương thức nhập lưu lượng do người nhận điều khiển để hạn chế lượng lưu lượng đang bay trên mạng, đặc biệt là khi bắt đầu xuất hiện tắc nghẽn. Tuy nhiên, việc định cấu hình cài đặt phù hợp có thể là một thách thức vì:</p>

<ul>
  <li>Số lượng kênh bị hạn chế do tranh chấp tài nguyên trên các luồng GPU với các hoạt động tính toán đồng thời;</li>
  <li>Việc đặt kích thước bộ đệm kênh yêu cầu sự cân bằng cẩn thận hơn giữa việc lan truyền tắc nghẽn và sử dụng băng thông kém hơn so với Infiniband do kiểm soát luồng chi tiết hơn của RoCE và khả năng chậm của máy chủ cuối.</li>
</ul>

<p>Do đó, chúng tôi đã thực hiện hai bước để cải thiện hiệu suất. Đầu tiên, chúng tôi đã xác định bằng thực nghiệm các cài đặt tham số phù hợp cho số lượng kênh và kích thước bộ đệm kênh trên các loại tập thể và kích thước công việc đào tạo khác nhau. Thứ hai, chúng tôi đã triển khai xếp hàng ưu tiên cao tại các bộ chuyển mạch cho các gói CTS để xúc tiến các thông báo và giảm thiểu khả năng thiếu hụt băng thông.</p>

<p>Kiểm soát tắc nghẽn là trọng tâm nghiên cứu trong mạng RDMA. DCQCN là tiêu chuẩn vàng cho các mạng tập trung vào lưu trữ. Tuy nhiên, kinh nghiệm của chúng tôi với khối lượng công việc huấn luyện AI phân tán cung cấp một quan điểm khác về việc điều chỉnh các thuật toán kiểm soát tắc nghẽn. Mặc dù đã tắt DCQCN và nhiều trường hợp RTSW gửi PFC đến CTSW bộ đệm sâu, nhưng chúng tôi vẫn chưa gặp phải trường hợp nào trong bốn năm qua, khi lưu lượng truy cập huấn luyện AI sản xuất khiến CTSW gửi PFC đến RTSW một cách liên tục.</p>

<p>Giải pháp hiện tại của chúng tôi phụ thuộc vào sự phối hợp cẩn thận giữa thư viện giao tiếp tập thể và mạng. Nó có thể phụ thuộc vào thông lượng tương đối giữa GPU và mạng, điều này có thể không áp dụng cho mọi trường hợp. Chúng tôi khuyến khích cộng đồng nghiên cứu tập trung hơn vào chủ đề này.</p>

<h3 id='hướng-phát-triển'>Hướng phát triển</h3>

<p>Việc thiết kế và vận hành mạng RoCE quy mô lớn cho khối lượng công việc huấn luyện AI phân tán đã phát triển để đáp ứng nhu cầu ngày càng tăng về mật độ và quy mô tính toán. Bằng cách tách biệt các mạng FE và BE, sử dụng các lược đồ định tuyến khác nhau và tối ưu hóa các mẫu lưu lượng tập thể, chúng tôi đã có thể xây dựng một cơ sở hạ tầng mạng hiệu suất cao và đáng tin cậy. Những thiết kế và hiểu biết sâu sắc này nhấn mạnh tầm quan trọng của việc hiểu sâu sắc khối lượng công việc đào tạo và chuyển những hàm ý này thành thiết kế thành phần mạng, cuối cùng góp phần vào sự tiến bộ của cơ sở hạ tầng đào tạo AI phân tán.</p>

<p>Với xu hướng phát triển nhanh chóng của khối lượng công việc GenAI, cơ sở hạ tầng mạng của chúng tôi sẽ phát triển nhanh chóng.</p>

<p>Bài báo này đã giới thiệu về mạng RoCE được sử dụng để huấn luyện AI phân tán quy mô lớn tại Meta. Chúng tôi đã thảo luận về những thách thức trong việc xây dựng một mạng như vậy và các giải pháp được triển khai để giải quyết các vấn đề về cấu trúc liên kết, định tuyến và kiểm soát tắc nghẽn. </p>

<p>Với sự phát triển không ngừng của AI, chúng tôi tin rằng việc chia sẻ kinh nghiệm và giải pháp của mình sẽ đóng góp tích cực vào cộng đồng nghiên cứu và thúc đẩy sự đổi mới trong lĩnh vực mạng lưới AI.</p>

Mạng RoCE cho huấn luyện AI phân tán quy mô lớn tại Meta

Mạng RoCE cho huấn luyện AI phân tán quy mô lớn tại Meta Mục lục Giới thiệu Kiến trúc mạng Sự phân tách ...

tháng 8 07, 2024

Perplexity Chia Sẻ Doanh Thu Quảng Cáo, Hợp Tác Cùng Các Nhà Xuất Bản

<h2>Perplexity Chia Sẻ Doanh Thu Quảng Cáo, Hợp Tác Cùng Các Nhà Xuất Bản</h2>

<h3>Mục lục</h3>
<ul>
  <li>Chia sẻ Doanh Thu và Hỗ Trợ Phát Triển</li>
  <li>Lợi Ích Cho Nhà Xuất Bản</li>
  <li>Mô Hình Quảng Cáo Mới</li>
  <li>Đối Tác và Tầm Nhìn Tương Lai</li>
  <li>Cạnh Tranh Nảy Lửa Trên Thị Trường Tìm Kiếm AI</li>
</ul>

<p>Ứng dụng tìm kiếm AI Perplexity đã xác nhận sẽ chia sẻ doanh thu quảng cáo với các nhà xuất bản tin tức khi bài viết của họ xuất hiện trong kết quả tìm kiếm của người dùng. Đây là một phần trong chương trình Publishers' Program được Perplexity ra mắt vào tuần trước, nhằm đảm bảo các nhà xuất bản nhận được hỗ trợ tài chính xứng đáng khi nội dung của họ được sử dụng.</p>

<h3>Chia sẻ Doanh Thu và Hỗ Trợ Phát Triển</h3>

<p>Theo chương trình này, các doanh nghiệp có thể trả phí để nội dung của họ được hiển thị trong các vị trí quảng cáo mới xung quanh tính năng theo dõi liên quan trên ứng dụng. Khi những quảng cáo này tạo ra doanh thu từ tương tác có liên quan đến nội dung của nhà xuất bản, nhà xuất bản sẽ được hưởng một phần lợi nhuận.</p>

<p>Ngoài việc được chia sẻ doanh thu, các nhà xuất bản tham gia chương trình còn được hưởng một số lợi ích hấp dẫn khác, bao gồm:</p>

<ul>
  <li>Truy cập miễn phí vào API của Perplexity, cho phép họ xây dựng công cụ trả lời tìm kiếm tùy chỉnh cho trang web của mình.</li>
  <li>Truy cập miễn phí vào phiên bản Perplexity Pro dành cho doanh nghiệp trong vòng một năm.</li>
  <li>Tiếp cận các phân tích hiệu suất nội dung trên Perplexity thông qua sự hợp tác với ScalePost.ai - nền tảng cung cấp phân tích AI cho nhà xuất bản.</li>
</ul>

<h3>Mô Hình Quảng Cáo Mới</h3>

<p>Việc ra mắt Publishers' Program cũng đánh dấu lần đầu tiên ứng dụng tìm kiếm AI Perplexity hiển thị quảng cáo. Trước đây, Perplexity chủ yếu dựa vào hình thức đăng ký trả phí cho phiên bản cao cấp với mức giá 20 đô la mỗi tháng, cung cấp cho người đăng ký khả năng tìm kiếm AI nâng cao.</p>

<p>Bản cập nhật sắp tới sẽ bao gồm quảng cáo hiển thị trong các tìm kiếm liên quan. Ví dụ: nếu người dùng tìm kiếm nhà hàng trong thành phố, một chuỗi nhà hàng có thể trả tiền để quảng cáo của họ được hiển thị trong phần tìm kiếm liên quan. Khi người dùng nhấp vào quảng cáo, cả ứng dụng và nhà xuất bản có nội dung được đề xuất trong kết quả tìm kiếm đều sẽ tạo ra doanh thu.</p>

<h3>Đối Tác và Tầm Nhìn Tương Lai</h3>

<p>Time, Fortune, Entrepreneur và WordPress là một số nhà xuất bản đầu tiên tham gia và được hưởng lợi từ chương trình này. Perplexity cũng đang xem xét hợp tác với các nhà xuất bản để cung cấp gói đăng ký kết hợp, cho phép người dùng trả một mức phí cố định cho cả Perplexity Pro và đăng ký của các nhà xuất bản tham gia.</p>

<h3>Cạnh Tranh Nảy Lửa Trên Thị Trường Tìm Kiếm AI</h3>

<p>Bản cập nhật được đưa ra trong bối cảnh Perplexity đang trên đà phát triển mạnh mẽ. Vào tháng 4, giá trị của công ty đã tăng vọt lên 1 tỷ USD sau khi nhận được khoản đầu tư mới từ Jeff Bezos, Nvidia và cựu giám đốc AI của Tesla, Andrej Karpathy. Perplexity gần đây cũng đã hợp tác với SoftBank để mang ứng dụng tìm kiếm AI của mình đến với người dùng mới.</p>

<p>Tuy nhiên, Perplexity có thể sẽ sớm phải đối mặt với một đối thủ đáng g nờm là SearchGPT - tính năng tìm kiếm mới của ChatGPT do OpenAI phát triển, cho phép người dùng tìm kiếm trên web bằng ngôn ngữ tự nhiên, dạng hội thoại. Cuộc cạnh tranh giữa các ứng dụng tìm kiếm AI hứa hẹn sẽ ngày càng trở nên khốc liệt trong thời gian tới.</p>

Perplexity Chia Sẻ Doanh Thu Quảng Cáo, Hợp Tác Cùng Các Nhà Xuất Bản

Perplexity Chia Sẻ Doanh Thu Quảng Cáo, Hợp Tác Cùng Các Nhà Xuất Bản Mục lục Chia sẻ Doanh Thu và Hỗ Trợ Phát Triển Lợi Ích Cho N...

tháng 8 07, 2024

Vận hành Mô hình AI Cao cấp Ngay Trên Máy Tính Cá nhân

<h2>Vận hành Mô hình AI Cao cấp Ngay Trên Máy Tính Cá nhân</h2>
<img alt="logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">
<h3>Mục lục</h3>
<ul>
  <li>Lợi ích của việc phát triển và thử nghiệm với mô hình mã nguồn mở</li>
  <li>Giới thiệu về Ollama
    <ul>
      <li>Các mô hình AI tương thích</li>
      <li>Yêu cầu hệ thống</li>
      <li>Thử nghiệm hiệu suất</li>
    </ul>
  </li>
  <li>Hướng dẫn cài đặt và vận hành Ollama
    <ul>
      <li>Tải xuống và cài đặt</li>
      <li>Nạp mô hình Llama 3.1 8B</li>
      <li>Quản lý mô hình đã cài đặt</li>
    </ul>
  </li>
  <li>Bổ sung giao diện WebUI
    <ul>
      <li>Cài đặt Docker Desktop</li>
      <li>Cài đặt Open WebUI</li>
      <li>Truy cập Open WebUI</li>
    </ul>
  </li>
  <li>Tích hợp với IDE và API</li>
  <li>Nâng cao hiệu suất với GPU
    <ul>
      <li>Sử dụng GPU NVIDIA</li>
      <li>Sử dụng GPU AMD</li>
    </ul>
  </li>
  <li>Chạy Ollama trong Docker container
    <ul>
      <li>GPU NVIDIA với Docker</li>
      <li>GPU AMD với Docker</li>
    </ul>
  </li>
  <li>Kết luận</li>
</ul>

<h3>Lợi ích của việc phát triển và thử nghiệm với mô hình mã nguồn mở</h3>
<p>So với việc phụ thuộc hoàn toàn vào các mô hình ngôn ngữ lớn (LLM) được lưu trữ công khai từ các nhà cung cấp như OpenAI, Microsoft, Meta hay Google, việc tự vận hành mô hình mã nguồn mở mang lại nhiều ưu điểm:</p>
<p><strong>Bảo mật dữ liệu:</strong> Các LLM được lưu trữ công khai yêu cầu gửi dữ liệu qua internet, tiềm ẩn rủi ro về quyền riêng tư và bảo mật. Chạy mô hình cục bộ đảm bảo dữ liệu nhạy cảm luôn nằm trong tầm kiểm soát của bạn.</p>
<p><strong>Tùy chỉnh:</strong>  Mô hình mã nguồn mở cho phép tùy chỉnh cao hơn. Nhà phát triển có thể tinh chỉnh, điều chỉnh siêu tham số và sửa đổi kiến trúc để phù hợp với nhu cầu cụ thể.</p>
<p><strong>Kiểm soát chi phí:</strong> Dịch vụ AI dựa trên đám mây có thể rất tốn kém, đặc biệt là đối với các ứng dụng quy mô lớn. Lưu trữ mô hình cục bộ giúp giảm đáng kể chi phí sử dụng API và truyền dữ liệu.</p>
<p><strong>Khả năng ngoại tuyến:</strong> Mô hình cục bộ có thể được sử dụng mà không cần kết nối internet, điều này rất cần thiết cho các ứng dụng yêu cầu tính khả dụng cao hoặc ở khu vực có kết nối internet không ổn định.</p>
<p><strong>Linh hoạt và thử nghiệm:</strong> Tự lưu trữ mô hình cho phép bạn thử nghiệm các thuật toán và cấu hình khác nhau, từ đó tạo ra các giải pháp sáng tạo và hiểu biết sâu hơn về công nghệ AI.</p>
<p><strong>Tự do khỏi chính sách sử dụng:</strong> Chạy LLM cục bộ đồng nghĩa với việc bạn không bị ràng buộc bởi các chính sách sử dụng của OpenAI, Microsoft, Meta hay Google. Bạn có thể sử dụng bất kỳ lời nhắc nào và triển khai LLM đã được sửa đổi, được đào tạo trên dữ liệu mà các dịch vụ này có thể hạn chế.</p>

<h3>Giới thiệu về Ollama</h3>
<p>Ollama là một nền tảng mã nguồn mở linh hoạt, được cấp phép MIT, được thiết kế để giúp các nhà phát triển và nhà nghiên cứu dễ dàng chạy và quản lý các mô hình học máy cục bộ trên phần cứng của riêng họ.</p>
<p><strong>Các mô hình AI tương thích:</strong> Ollama hỗ trợ nhiều mô hình AI, bao gồm:</p>
<ul>
  <li>Llama 3.1 (nhiều biến thể tham số)</li>
  <li>Google Gemma2 (nhiều biến thể tham số)</li>
  <li>Phi 3 Mini & Medium</li>
  <li>Mistral</li>
  <li>Moondream 2</li>
  <li>Neural Chat</li>
  <li>Starling</li>
  <li>Code Llama</li>
  <li>Llama 2 Uncensored</li>
  <li>LLaVA</li>
  <li>Solar</li>
</ul>
<p><strong>Yêu cầu hệ thống:</strong><br>
Ollama khuyến nghị tối thiểu 8 GB RAM cho các mô hình 7B, 16 GB cho 13B và 32 GB cho 33B. </p>
<p><strong>Thử nghiệm hiệu suất:</strong><br>
Bài viết đã thử nghiệm Ollama trên Macbook Pro M1 Pro và M1 Ultra với 32GB và 64GB RAM. Kết quả cho thấy hiệu suất tốt với các mô hình có tham số 8B-10B (Llama 3.1, Google Gemma2) khi chỉ sử dụng CPU. Tuy nhiên, biến thể 70B gặp phải một số hạn chế về hiệu suất. Hệ thống Linux với GPU NVIDIA hoặc AMD dự kiến sẽ xử lý các mô hình này hiệu quả hơn.</p>

<h3>Hướng dẫn cài đặt và vận hành Ollama</h3>
<p><strong>Tải xuống và cài đặt:</strong></p>
<ol>
  <li>Truy cập trang tải xuống của Ollama và chọn trình cài đặt phù hợp với hệ điều hành (MacOS, Linux, Windows).</li>
  <li>Làm theo hướng dẫn cài đặt được cung cấp.</li>
</ol>
<p><strong>Nạp mô hình Llama 3.1 8B:</strong></p>
<ol>
  <li>Truy cập trang thư viện Llama 3.1 trên Ollama và sao chép lệnh để tải mô hình Llama 3.1 8B: <code>ollama run llama3.1:8b</code></li>
  <li>Mở terminal (MacOS, Linux) hoặc Command Prompt/PowerShell (Windows), dán lệnh trên và nhấn Enter. </li>
  <li>Sau khi mô hình được tải, bạn có thể gửi truy vấn trò chuyện để kiểm tra chức năng của nó.</li>
</ol>
<p><strong>Quản lý mô hình đã cài đặt:</strong></p>
<ul>
  <li><strong>Liệt kê mô hình:</strong> Sử dụng lệnh <code>ollama list</code></li>
  <li><strong>Xóa mô hình:</strong> Sử dụng lệnh <code>ollama rm <tên_mô_hình></code></li>
  <li><strong>Thêm mô hình mới:</strong>  Duyệt qua thư viện Ollama và sử dụng lệnh <code>ollama run <tên_mô_hình></code></li>
</ul>

<h3>Bổ sung giao diện WebUI</h3>
<p><strong>Cài đặt Docker Desktop:</strong></p>
<ol>
  <li>Truy cập trang Bắt đầu của Docker và tải xuống Docker Desktop cho hệ điều hành của bạn (MacOS, Linux, Windows).</li>
  <li>Làm theo hướng dẫn cài đặt và khởi động Docker sau khi hoàn tất.</li>
</ol>
<p><strong>Cài đặt Open WebUI:</strong></p>
<ol>
  <li>Mở terminal (MacOS, Linux) hoặc Command Prompt/PowerShell (Windows) và chạy lệnh sau:</li>
</ol>
<pre><code>docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
</code></pre>
<p><strong>Truy cập Open WebUI:</strong></p>
<ol>
  <li>Mở Docker Desktop và điều hướng đến bảng điều khiển.</li>
  <li>Tìm vùng chứa Open WebUI và nhấp vào liên kết bên dưới Cổng để mở WebUI trong trình duyệt.</li>
  <li>Tạo tài khoản Open WebUI (nếu bạn chưa có) và đăng nhập.</li>
</ol>

<h3>Tích hợp với IDE và API</h3>
<p>Ollama có thể được tích hợp vào các Môi trường Phát triển Tích hợp (IDE) khác nhau bằng cách sử dụng API, giúp nâng cao quy trình phát triển bằng cách cung cấp tương tác liền mạch với các mô hình AI.</p>
<p><strong>Sử dụng Continue để tích hợp IDE:</strong></p>
<ol>
  <li>Đảm bảo Ollama đang chạy và có thể truy cập được.</li>
  <li>Làm theo hướng dẫn trên blog Ollama Continue để cài đặt Continue trong IDE ưa thích của bạn.</li>
</ol>
<p>Với Continue và API Ollama, bạn có thể tận dụng trực tiếp các tính năng hỗ trợ code do AI cung cấp như đề xuất code, hoàn thành code và hỗ trợ gỡ lỗi ngay trong môi trường phát triển của mình.</p>

<h3>Nâng cao hiệu suất với GPU</h3>
<p>Đối với các ứng dụng đòi hỏi khắt khe hơn, đặc biệt là những ứng dụng yêu cầu các mô hình lớn hơn như mô hình Llama 3.1 70B và 405B, bạn nên chạy Ollama trên hệ thống Linux được trang bị GPU mạnh mẽ.</p>
<p><strong>Sử dụng GPU NVIDIA:</strong></p>
<ol>
  <li>Cài đặt CUDA và cuDNN theo hướng dẫn từ tài liệu NVIDIA CUDA.</li>
  <li>Sau khi cài đặt, đảm bảo môi trường của bạn được định cấu hình chính xác.</li>
  <li>Chạy lệnh sau: <code>ollama run llama3.1:70b --use-gpu</code></li>
</ol>
<p><strong>Sử dụng GPU AMD:</strong></p>
<ol>
  <li>Cài đặt ROCm theo hướng dẫn từ tài liệu ROCm.</li>
  <li>Sau khi cài đặt, đảm bảo môi trường của bạn được định cấu hình chính xác.</li>
  <li>Chạy lệnh sau: <code>ollama run llama3.1:70b --use-gpu</code></li>
</ol>

<h3>Chạy Ollama trong Docker container</h3>
<p>Bạn vẫn có thể tận dụng hỗ trợ GPU nếu muốn chạy Ollama trong Docker container. Lưu ý rằng các hướng dẫn này hiện chỉ áp dụng cho Linux.</p>
<p><strong>GPU NVIDIA với Docker:</strong></p>
<ol>
  <li>Cài đặt CUDA và cuDNN như đã đề cập ở trên.</li>
  <li>Cài đặt NVIDIA Container Engine theo hướng dẫn từ tài liệu Docker của NVIDIA.</li>
  <li>Sử dụng lệnh sau để chạy Ollama với hỗ trợ GPU NVIDIA trong Docker container:</li>
</ol>
<pre><code>docker run --gpus all -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v ollama:/app/backend/data --name ollama --restart always ollama/ollama:latest
</code></pre>
<p><strong>GPU AMD với Docker:</strong></p>
<ol>
  <li>Cài đặt ROCm theo hướng dẫn từ tài liệu ROCm.</li>
  <li>Sử dụng lệnh sau để chạy Ollama với hỗ trợ ROCm trong Docker container:</li>
</ol>
<pre><code>docker run -d --device /dev/kfd --device /dev/dri -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:rocm
</code></pre>

Vận hành Mô hình AI Cao cấp Ngay Trên Máy Tính Cá nhân

Vận hành Mô hình AI Cao cấp Ngay Trên Máy Tính Cá nhân Mục lục Lợi ích của việc phát triển và thử nghiệm với mô hình mã nguồn mở G...

tháng 8 07, 2024

Meta Trao Tặng Khoản Tài Trợ Llama Impact, Thúc Đẩy Phát Triển AI Nguồn Mở

<h2>Meta Trao Tặng Khoản Tài Trợ Llama Impact, Thúc Đẩy Phát Triển AI Nguồn Mở</h2>

<h3>Mục lục</h3>
<ol>
  <li><a href='#gioi-thieu'>Giới thiệu Chương trình Tài Trợ Llama Impact</a></li>
  <li><a href='#muc-tieu'>Mục Tiêu và Phạm Vi Tài Trợ</a></li>
  <li><a href='#su-kien'>Sự Kiện Hỗ Trợ và Giải Thưởng Đặc Biệt</a></li>
  <li><a href='#tam-nhin'>Tầm Nhìn Về AI Nguồn Mở của Meta</a></li>
  <li><a href='#ket-luan'>Kết Luận</a></li>
</ol>

<p>Meta chính thức công bố chương trình tài trợ nghiên cứu AI mới, tập trung vào việc ứng dụng sáng tạo và đột phá mô hình Llama 3.1. Động thái này khẳng định nỗ lực của Meta trong việc tối ưu hóa tiềm năng của AI trên nhiều lĩnh vực.</p>

<h3 id='gioi-thieu'>1. Giới thiệu Chương trình Tài Trợ Llama Impact</h3>

<p>Chương trình Llama Impact Grants của Meta đang chào đón các đề xuất ứng dụng những tính năng và khả năng mới nhất của mô hình ngôn ngữ lớn (LLM) Llama 3.1 vào các dự án mang lại tác động kinh tế và xã hội tích cực.</p>

<p>Llama 3.1 nổi bật với khả năng hỗ trợ nhiều ngôn ngữ hơn (bao gồm tiếng Pháp, Hindi, Ý, Bồ Đào Nha, Tây Ban Nha và Thái Lan). Đây là mô hình nguồn mở duy nhất có khả năng cạnh tranh với các mô hình AI hàng đầu về kiến thức chung, khả năng điều khiển, lập luận, toán học, sử dụng công cụ và dịch đa ngôn ngữ.</p>

<p>Tổng giá trị tài trợ của chương trình lên đến 2 triệu USD, được phân bổ cho các dự án xuất sắc nhất. Mỗi dự án có thể nhận được tối đa 500.000 USD, tùy thuộc vào đánh giá của hội đồng giám khảo.</p>

<h3 id='su-kien'>3. Sự Kiện Hỗ Trợ và Giải Thưởng Đặc Biệt</h3>

<p>Bên cạnh nguồn tài trợ, Meta cũng sẽ tổ chức một loạt sự kiện trên toàn thế giới nhằm cung cấp hướng dẫn kỹ thuật và cố vấn cho các ứng viên tiềm năng. Mỗi sự kiện sẽ tập trung vào một chủ đề cấp bách do các bên liên quan địa phương đề xuất, bao gồm các nhóm xã hội dân sự, doanh nghiệp, tổ chức phi chính phủ và nhà hoạch định chính sách. Các chủ đề bao gồm nông nghiệp, giải pháp kinh doanh quy mô lớn, công nghệ y tế, bảo tồn văn hóa,... </p>

<p>Người tham dự sự kiện sẽ có cơ hội nhận được giải thưởng đặc biệt lên đến 100.000 USD, bên cạnh việc được xem xét cho khoản tài trợ Llama Impact Grants chính.</p>

<h3 id='tam-nhin'>4. Tầm Nhìn Về AI Nguồn Mở của Meta</h3>

<p>Sáng kiến này là một phần trong nỗ lực của Meta nhằm thúc đẩy phát triển AI nguồn mở, đảm bảo hỗ trợ cho những ứng dụng khả thi và thiết thực nhất của công nghệ này.</p>

<p>Giám đốc điều hành Meta, Mark Zuckerberg, từng nhấn mạnh lợi ích của việc mở nguồn công nghệ AI: <i>'Tôi tin rằng mã nguồn mở là cần thiết cho một tương lai AI tích cực. AI có tiềm năng hơn bất kỳ công nghệ hiện đại nào khác để nâng cao năng suất, sự sáng tạo và chất lượng cuộc sống của con người, đồng thời thúc đẩy tăng trưởng kinh tế và mở ra những bước tiến trong nghiên cứu y học và khoa học. Nguồn mở sẽ đảm bảo rằng nhiều người trên thế giới được tiếp cận với những lợi ích và cơ hội của AI, quyền lực không tập trung vào tay một số ít công ty và công nghệ có thể được triển khai đồng đều và an toàn hơn trong xã hội.'</i></p>

<p>Chương trình Llama Impact Grants của Meta phù hợp với tầm nhìn về AI nguồn mở, đồng thời mang đến nhiều cơ hội hơn cho cả nhà phát triển và Meta trong việc phát triển dự án. Sẽ rất thú vị để chờ đón những dự án đột phá từ chương trình này và những cơ hội mới cho phát triển AI mà Meta khám phá ra.</p>

<img alt="Logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">
`

Meta Trao Tặng Khoản Tài Trợ Llama Impact, Thúc Đẩy Phát Triển AI Nguồn Mở

Meta Trao Tặng Khoản Tài Trợ Llama Impact, Thúc Đẩy Phát Triển AI Nguồn Mở Mục lục Giới thiệu Chương trình Tài Trợ Llama Impact Mụ...

tháng 8 07, 2024

Google Home chào đón kỷ nguyên mới với Trí tuệ Gemini

Wix - Đối tác tiên phong tích hợp Gemini của Google vào nền tảng website

Google Gemini: Trợ lý AI thế hệ mới sắp có mặt trên tai nghe Pixel Buds và Spotify?

Thách thức trong việc cân chỉnh AI Chatbot cho người dùng toàn cầu

Cách con người thực sự sử dụng AI Chatbot

AI Chatbots: Không Chỉ Là Trò Chuyện, Mà Còn Hơn Thế

Laptop và Cuộc xâm lăng của AI: Khi công nghệ vượt xa nhu cầu

Thấu Hiểu Trí Tuệ Nhân Tạo: Từ Thuật Ngữ Đến Ứng Dụng Thiết Thực

Từ Bỏ ChatGPT, Chuyển Sang Claude: 3 Lý Do Thuyết Phục

Khơi Nở Tiềm Năng Trẻ Tư Duy Mới: GAI - Công Cụ Hay Thách Thức?

Âm Nhạc AI: Cuộc Chiến Bản Quyền Nảy Lửa và Trận Đấu Khốc Liệt Trên Thị Trường Truyền Hình Trả Tiền

Jeff Bezos: Từ đế chế thương mại điện tử đến làn sóng đầu tư AI

Từ bỏ Cuộc đua Vũ trang AI: Lời kêu gọi cho một tương lai bền vững

Ba Tư Tưởng Quan Trọng Nhất Trong 900 Bài Viết Trên Forbes Của Tôi

Google Vẫn Thống Trị Thị Trường Tìm Kiếm Dù Đối Mặt Sóng Gió Từ AI

Xây dựng mạng lưới AI quy mô lớn tại Meta: Hành trình chinh phục thách thức

Perplexity - Ứng dụng tìm kiếm AI chia sẻ doanh thu quảng cáo với các nhà xuất bản

Mạng RoCE cho huấn luyện AI phân tán quy mô lớn tại Meta

Perplexity Chia Sẻ Doanh Thu Quảng Cáo, Hợp Tác Cùng Các Nhà Xuất Bản

Vận hành Mô hình AI Cao cấp Ngay Trên Máy Tính Cá nhân

Meta Trao Tặng Khoản Tài Trợ Llama Impact, Thúc Đẩy Phát Triển AI Nguồn Mở

Bài đăng phổ biến

Labels