Agent.ai.vn

Ứng dụng AI của Trung Quốc càn quét thị trường Mỹ: Học sinh Mỹ đang sử dụng AI để làm bài tập về nhà?

<h2>Ứng dụng AI của Trung Quốc càn quét thị trường Mỹ: Học sinh Mỹ đang sử dụng AI để làm bài tập về nhà?</h2>

<h3>Mục lục:</h3>
<ol>
  <li>Xu hướng ứng dụng AI giáo dục của Trung Quốc tại Mỹ</li>
  <li>Question.AI và Gauth: Các ứng dụng AI tạo sinh giúp học sinh Mỹ học hiệu quả</li>
  <li>Thành công của các ứng dụng AI giáo dục Trung Quốc tại Mỹ</li>
  <li>Thách thức của các ứng dụng AI giáo dục Trung Quốc tại Mỹ</li>
</ol>

<h3>1. Xu hướng ứng dụng AI giáo dục của Trung Quốc tại Mỹ</h3>
<p>Các ứng dụng giáo dục sử dụng trí tuệ nhân tạo (AI) tạo sinh do Trung Quốc phát triển đang tạo nên cơn sốt tại thị trường Mỹ. Đây là dấu hiệu cho thấy các nhà phát triển Trung Quốc đang tìm kiếm thị trường quốc tế để thúc đẩy tăng trưởng trong bối cảnh cạnh tranh ngày càng gay gắt tại quê nhà.</p>

<h3>2. Question.AI và Gauth: Các ứng dụng AI tạo sinh giúp học sinh Mỹ học hiệu quả</h3>
<p>Dẫn đầu xu hướng này là Question.AI, được phát triển bởi công ty khởi nghiệp công nghệ giáo dục Zuoyebang có trụ sở tại Bắc Kinh, và Gauth của ByteDance. Cả hai ứng dụng này đều là trợ lý làm bài tập về nhà sử dụng AI tạo sinh, và đã được xếp hạng trong top 3 ứng dụng giáo dục miễn phí tại Mỹ trên cửa hàng iOS của Apple và Google Play từ tháng 2 đến tháng 5, theo dữ liệu từ dịch vụ thông tin ứng dụng di động AppMagic.</p>

<h3>3. Thành công của các ứng dụng AI giáo dục Trung Quốc tại Mỹ</h3>
<p>Thành công của họ tại thị trường Mỹ diễn ra trong bối cảnh cạnh tranh ngày càng tăng tại Trung Quốc, nơi đã phát triển hơn 200 mô hình ngôn ngữ lớn - công nghệ nền tảng cho các dịch vụ AI tạo sinh như ChatGPT - để ứng dụng AI, trong đó một nửa đã được chính quyền Trung Quốc phê duyệt để phát hành công khai tính đến tháng 3 năm nay.</p>
<p>Question.AI được ra mắt vào giữa năm ngoái, trong khi Gauth được triển khai vào năm 2020 dưới tên Gauthmath, một công cụ giải toán, trước khi chuyển hướng sang bao quát nhiều môn học hơn vào năm ngoái. Ứng dụng giáo dục miễn phí đứng đầu tại Mỹ là Duolingo, nền tảng học ngôn ngữ lớn nhất thế giới đã hoạt động hơn 13 năm.</p>
<p>Các ứng dụng này, miễn phí cho việc sử dụng cơ bản nhưng tính phí cho các chức năng bổ sung, đang tận dụng khả năng của AI tạo sinh để giúp học sinh Mỹ học các môn từ khoa học, công nghệ, kỹ thuật và toán học, đến kinh tế, vật lý, hóa học và văn học. Người dùng chỉ cần chụp ảnh bài tập toán hoặc hóa học của họ, và các ứng dụng sẽ tạo ra lời giải kèm theo hướng dẫn chi tiết từng bước và giải thích.</p>
<p>Theo AppMagic, Gauth được xếp hạng là ứng dụng giáo dục phổ biến thứ hai trên thế giới trên các nền tảng iOS và Google Play, trong khi Question.AI đứng thứ bảy.</p>
<p>Ngày càng có nhiều nhà phát triển ứng dụng Trung Quốc nhắm đến thị trường phương Tây, bao gồm Checkmath, một công cụ giải toán được phát triển bởi Yuanfudao, và Talkie AI từ công ty khởi nghiệp AI Minimax có trụ sở tại Thượng Hải, được coi là tương đương với Character.ai của Mỹ, cho phép người dùng tương tác với các nhân vật chatbot ảo. Hiện tại, Talkie đang xếp hạng thứ 4 trong danh mục ứng dụng giải trí trên Google Play tại Mỹ, sau các ứng dụng phát video trực tuyến Tubi, Max và Netflix. Vị trí thứ năm thuộc về Disney+.</p>

<h3>4. Thách thức của các ứng dụng AI giáo dục Trung Quốc tại Mỹ</h3>
<p>Mặc dù các ứng dụng Trung Quốc sử dụng AI trên thị trường Mỹ phần lớn đã tránh được sự giám sát mà TikTok phải đối mặt (TikTok đang đứng trước nguy cơ bị cấm trừ khi công ty mẹ ByteDance thoái vốn hoạt động tại Mỹ), họ vẫn phải đối mặt với những thách thức về kiếm tiền. Dữ liệu từ AppMagic cho thấy cả Gauth và Question.AI đều không lọt vào top 10 ứng dụng có doanh thu cao nhất trong bốn tháng qua.</p>

Ứng dụng AI của Trung Quốc càn quét thị trường Mỹ: Học sinh Mỹ đang sử dụng AI để làm bài tập về nhà?

Ứng dụng AI của Trung Quốc càn quét thị trường Mỹ: Học sinh Mỹ đang sử dụng AI để làm bài tập về nhà? Mục lục: Xu hướng ứng dụng AI g...

tháng 6 25, 2024

NVIDIA AI Workbench: Công cụ hỗ trợ phát triển ứng dụng AI dễ dàng hơn bao giờ hết

<html lang='vi'>
<head>
  <meta charset='UTF-8'>
  <meta name='viewport' content='width=device-width, initial-scale=1.0'>
  <title>NVIDIA AI Workbench: Công cụ hỗ trợ phát triển ứng dụng AI dễ dàng hơn bao giờ hết</title>
  <style>
    body {
      font-family: sans-serif;
    }
    h1, h2, h3, h4, h5 {
      font-weight: bold;
    }
    ul {
      list-style-type: none;
      padding: 0;
    }
    li {
      margin-bottom: 10px;
    }
  </style>
</head>
<body>
  <h1>NVIDIA AI Workbench: Công cụ hỗ trợ phát triển ứng dụng AI dễ dàng hơn bao giờ hết</h1>
  <h2>Mục lục:</h2>
  <ul>
    <li><h3><a href="#gioithieu">1. Giới thiệu về NVIDIA AI Workbench</a></h3></li>
    <li><h3><a href="#cachgiaiquyet">2. Cách AI Workbench giúp giải quyết các thách thức trong dự án AI</a></h3></li>
    <li><h3><a href="#rag">3. RAG cho tài liệu, dễ dàng hơn bao giờ hết</a></h3></li>
    <li><h3><a href="#tuychinh">4. Tùy chỉnh, tối ưu hóa và triển khai</a></h3></li>
    <li><h3><a href="#ketluan">5. Kết luận</a></h3></li>
  </ul>
  <h2 id='gioithieu'>1. Giới thiệu về NVIDIA AI Workbench</h2>
  <p>NVIDIA AI Workbench là một công cụ miễn phí giúp người dùng phát triển, thử nghiệm, kiểm tra và tạo mẫu các ứng dụng AI trên các hệ thống GPU của họ. Công cụ này cung cấp một cách tiếp cận mới để tạo, sử dụng và chia sẻ môi trường phát triển được hỗ trợ bởi GPU cho nhiều người và hệ thống.</p>
  <p>Quá trình cài đặt đơn giản cho phép người dùng nhanh chóng bắt đầu sử dụng AI Workbench trên máy cục bộ hoặc từ xa. Người dùng có thể bắt đầu một dự án mới hoặc sao chép một dự án từ các ví dụ trên GitHub. Mọi thứ hoạt động thông qua GitHub hoặc GitLab, cho phép người dùng dễ dàng cộng tác và phân phối công việc.</p>
  <h2 id='cachgiaiquyet'>2. Cách AI Workbench giúp giải quyết các thách thức trong dự án AI</h2>
  <p>Phát triển các khối lượng công việc AI có thể yêu cầu các quy trình thủ công và phức tạp, ngay từ đầu.</p>
  <ul>
    <li>* Cài đặt GPU, cập nhật trình điều khiển và quản lý các vấn đề về phiên bản có thể gây phiền hà.</li>
    <li>* Tái tạo dự án trên các hệ thống khác nhau có thể yêu cầu việc lặp lại các quy trình thủ công.</li>
    <li>* Sự không nhất quán khi sao chép dự án, chẳng hạn như vấn đề phân mảnh dữ liệu và kiểm soát phiên bản, có thể cản trở sự cộng tác.</li>
    <li>* Các quy trình thiết lập đa dạng, chuyển đổi thông tin xác thực và bí mật, cũng như thay đổi môi trường, dữ liệu, mô hình và vị trí tệp có thể hạn chế khả năng di chuyển của dự án.</li>
  </ul>
  <p>AI Workbench giúp các nhà khoa học dữ liệu và nhà phát triển dễ dàng quản lý công việc và cộng tác trên các nền tảng không đồng nhất. Nó tích hợp và tự động hóa nhiều khía cạnh của quy trình phát triển, cung cấp:</p>
  <ul>
    <li>* Dễ dàng thiết lập: AI Workbench hợp lý hóa quy trình thiết lập môi trường phát triển được tăng tốc bởi GPU, ngay cả đối với những người dùng có kiến thức kỹ thuật hạn chế.</li>
    <li>* Cộng tác liền mạch: AI Workbench tích hợp với các công cụ kiểm soát phiên bản và quản lý dự án như GitHub và GitLab, giảm thiểu ma sát khi cộng tác.</li>
    <li>* Sự nhất quán khi mở rộng quy mô từ cục bộ đến đám mây: AI Workbench đảm bảo tính nhất quán trên nhiều môi trường, hỗ trợ mở rộng quy mô lên hoặc xuống từ máy trạm hoặc PC cục bộ đến trung tâm dữ liệu hoặc đám mây.</li>
  </ul>
  <h2 id='rag'>3. RAG cho tài liệu, dễ dàng hơn bao giờ hết</h2>
  <p>NVIDIA cung cấp các dự án Workbench mẫu để giúp người dùng bắt đầu sử dụng AI Workbench. Dự án Workbench RAG lai là một ví dụ: Nó chạy một ứng dụng web RAG dựa trên văn bản tùy chỉnh với tài liệu của người dùng trên máy trạm cục bộ, PC hoặc hệ thống từ xa.</p>
  <p>Mỗi Dự án Workbench chạy trong một container - phần mềm bao gồm tất cả các thành phần cần thiết để chạy ứng dụng AI. Mẫu RAG lai kết hợp giao diện người dùng trò chuyện Gradio trên máy chủ với máy chủ RAG được đóng gói - phần phụ trợ cung cấp dịch vụ cho yêu cầu của người dùng và định tuyến truy vấn đến và từ cơ sở dữ liệu vectơ và mô hình ngôn ngữ lớn đã chọn.</p>
  <p>Dự án Workbench này hỗ trợ nhiều loại LLM có sẵn trên trang GitHub của NVIDIA. Hơn nữa, bản chất lai của dự án cho phép người dùng chọn vị trí chạy suy luận.</p>
  <p>Các dự án Workbench cho phép người dùng quản lý phiên bản môi trường phát triển và mã. Các nhà phát triển có thể chạy mô hình nhúng trên máy chủ và chạy suy luận cục bộ trên máy chủ Suy luận Tạo văn bản Hugging Face, trên tài nguyên đám mây mục tiêu bằng cách sử dụng các điểm cuối suy luận NVIDIA như danh mục API NVIDIA, hoặc với các dịch vụ tự lưu trữ như NVIDIA NIM hoặc dịch vụ của bên thứ ba.</p>
  <p>Dự án Workbench RAG lai cũng bao gồm:</p>
  <ul>
    <li>* Số liệu hiệu suất: Người dùng có thể đánh giá hiệu suất của các truy vấn của người dùng dựa trên RAG và không dựa trên RAG trên mỗi chế độ suy luận. Các số liệu được theo dõi bao gồm Thời gian truy xuất, Thời gian đến Token đầu tiên (TTFT) và Tốc độ Token.</li>
    <li>* Minh bạch về truy xuất: Một bảng điều khiển hiển thị các đoạn văn bản chính xác - được truy xuất từ nội dung liên quan nhất trong cơ sở dữ liệu vectơ - được đưa vào LLM và cải thiện sự liên quan của phản hồi với truy vấn của người dùng.</li>
    <li>* Tùy chỉnh phản hồi: Phản hồi có thể được điều chỉnh với nhiều tham số, chẳng hạn như số lượng token tối đa để tạo, nhiệt độ và hình phạt tần suất.</li>
  </ul>
  <p>Để bắt đầu với dự án này, chỉ cần cài đặt AI Workbench trên hệ thống cục bộ. Dự án Workbench RAG lai có thể được đưa từ GitHub vào tài khoản của người dùng và nhân đôi vào hệ thống cục bộ.</p>
  <h2 id='tuychinh'>4. Tùy chỉnh, tối ưu hóa và triển khai</h2>
  <p>Các nhà phát triển thường muốn tùy chỉnh các mô hình AI cho các trường hợp sử dụng cụ thể. Điều chỉnh tinh, một kỹ thuật thay đổi mô hình bằng cách đào tạo nó với dữ liệu bổ sung, có thể hữu ích cho việc chuyển đổi phong cách hoặc thay đổi hành vi của mô hình. AI Workbench cũng hỗ trợ việc điều chỉnh tinh.</p>
  <p>Dự án Workbench Llama-factory cho phép QLoRa, một phương pháp điều chỉnh tinh tối thiểu hóa yêu cầu bộ nhớ, cho nhiều mô hình, cũng như lượng tử hóa mô hình thông qua giao diện người dùng đồ họa đơn giản. Các nhà phát triển có thể sử dụng các bộ dữ liệu công khai hoặc bộ dữ liệu riêng của họ để đáp ứng nhu cầu của các ứng dụng của họ.</p>
  <p>Sau khi điều chỉnh tinh hoàn tất, mô hình có thể được lượng tử hóa để cải thiện hiệu suất và giảm dấu chân bộ nhớ, sau đó được triển khai vào các ứng dụng Windows gốc để suy luận cục bộ hoặc vào NVIDIA NIM để suy luận đám mây. Tìm một hướng dẫn đầy đủ cho dự án này trên kho lưu trữ NVIDIA RTX AI Toolkit.</p>
  <h2 id='ketluan'>5. Kết luận</h2>
  <p>Dự án Workbench RAG lai được mô tả ở trên là lai theo nhiều cách. Ngoài việc cung cấp lựa chọn chế độ suy luận, dự án có thể được chạy cục bộ trên các máy trạm NVIDIA RTX và PC GeForce RTX, hoặc được mở rộng quy mô lên các máy chủ đám mây từ xa và trung tâm dữ liệu.</p>
  <p>Khả năng chạy các dự án trên các hệ thống do người dùng lựa chọn - mà không cần chi phí quản lý để thiết lập cơ sở hạ tầng - được mở rộng cho tất cả các dự án Workbench. Tìm thêm các ví dụ và hướng dẫn về việc điều chỉnh tinh và tùy chỉnh trong hướng dẫn khởi động nhanh AI Workbench.</p>
  <p>AI thế hệ mới đang biến đổi trò chơi, hội nghị truyền hình và các trải nghiệm tương tác. Hãy nắm bắt những gì mới và những gì sắp tới bằng cách đăng ký nhận bản tin AI Decoded.</p>
  <img alt="Logo NVIDIA" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">
</body>
</html>

NVIDIA AI Workbench: Công cụ hỗ trợ phát triển ứng dụng AI dễ dàng hơn bao giờ hết

NVIDIA AI Workbench: Công cụ hỗ trợ phát triển ứng dụng AI dễ dàng hơn bao giờ hết NVIDIA AI Workbench: Công cụ hỗ trợ p...

tháng 6 25, 2024

Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng gọi hàm ngang tầm GPT-4

<html>
<head>
  <title>Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng gọi hàm ngang tầm GPT-4</title>
</head>
<body>

<h1>Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng gọi hàm ngang tầm GPT-4</h1>

<h2>Mục lục:</h2>
  <ul>
    <li><a href="#gioithieu">Giới thiệu Firefunction-v2</a></li>
    <li><a href="#quaprocess">Quá trình tạo ra Firefunction-v2</a></li>
    <li><a href="#danhgia">Đánh giá và hiệu suất</a></li>
    <li><a href="#khanang">Khả năng nổi bật</a></li>
    <li><a href="#batdau">Bắt đầu với Firefunction-v2</a></li>
    <li><a href="#ketluan">Kết luận</a></li>
  </ul>

<h2 id='gioithieu'>1. Giới thiệu Firefunction-v2</h2>
  <p>Khả năng của các mô hình ngôn ngữ lớn (LLM) đã được cải thiện đáng kể trong những năm gần đây, đặc biệt là với sự ra đời của các mô hình như Llama 3. Những tiến bộ này đã nhấn mạnh tầm quan trọng của việc gọi hàm, cho phép các mô hình tương tác với API bên ngoài và nâng cao tính hữu dụng của chúng vượt ra ngoài việc xử lý dữ liệu tĩnh. Firefunction-v2 dựa trên những tiến bộ này, cung cấp một mô hình cho các kịch bản thực tế liên quan đến các cuộc hội thoại nhiều lượt, theo dõi hướng dẫn và gọi hàm song song.</p>

<h2 id='quaprocess'>2. Quá trình tạo ra Firefunction-v2</h2>
  <p>Sự phát triển của Firefunction-v2 được thúc đẩy bởi phản hồi của người dùng và nhu cầu về một mô hình có thể hoạt động xuất sắc cả trong việc gọi hàm và các tác vụ chung. Không giống như các mô hình gọi hàm mã nguồn mở khác, thường hy sinh khả năng suy luận chung để có hiệu suất chuyên biệt, Firefunction-v2 duy trì sự cân bằng. Nó được tinh chỉnh từ mô hình cơ sở Llama3-70b-instruct bằng cách sử dụng một tập dữ liệu được tuyển chọn bao gồm dữ liệu gọi hàm và dữ liệu hội thoại chung. Cách tiếp cận này đảm bảo duy trì khả năng rộng của mô hình trong khi nâng cao hiệu suất gọi hàm của nó.</p>

<h2 id='danhgia'>3. Đánh giá và hiệu suất</h2>
  <p>Việc đánh giá Firefunction-v2 bao gồm một sự kết hợp của các tập dữ liệu và điểm chuẩn có sẵn công khai như Gorilla và Nexus. Kết quả cho thấy Firefunction-v2 đã vượt trội so với người tiền nhiệm, Firefunction-v1, và các mô hình khác như Llama3-70b-instruct và GPT-4o trong nhiều tác vụ gọi hàm. Ví dụ: Firefunction-v2 đạt điểm cao hơn trong việc gọi hàm song song và theo dõi hướng dẫn nhiều lượt, thể hiện khả năng thích ứng và thông minh của nó trong việc xử lý các tác vụ phức tạp.</p>

<h2 id='khanang'>4. Khả năng nổi bật</h2>
  <p>Khả năng của Firefunction-v2 được minh họa tốt nhất thông qua các ứng dụng thực tế. Mô hình đáng tin cậy hỗ trợ tối đa 30 thông số kỹ thuật hàm, cải thiện đáng kể so với Firefunction-v1, vốn gặp khó khăn với hơn năm hàm. Khả năng này rất quan trọng đối với các ứng dụng thực tế, vì nó cho phép mô hình xử lý nhiều cuộc gọi API một cách hiệu quả, mang lại trải nghiệm người dùng liền mạch. Firefunction-v2 xuất sắc trong việc theo dõi hướng dẫn, đưa ra quyết định thông minh về khi nào nên gọi hàm và thực hiện chúng chính xác.</p>

<h2 id='batdau'>5. Bắt đầu với Firefunction-v2</h2>
  <p>Firefunction-v2 có thể truy cập thông qua nền tảng của Fireworks AI, cung cấp một thiết lập tối ưu hóa tốc độ với API tương thích với OpenAI. Tính tương thích này cho phép người dùng tích hợp Firefunction-v2 vào các hệ thống hiện có của họ với những thay đổi tối thiểu. Mô hình cũng có thể được khám phá thông qua một ứng dụng demo và sân chơi UI, nơi người dùng có thể thử nghiệm với các hàm và cấu hình khác nhau.</p>

<h2 id='ketluan'>6. Kết luận</h2>
  <p>Firefunction-v2 là minh chứng cho cam kết của Fireworks AI trong việc nâng cao khả năng của các mô hình ngôn ngữ lớn trong việc gọi hàm. Firefunction-v2 thiết lập một tiêu chuẩn mới cho các ứng dụng AI thực tế bằng cách cân bằng tốc độ, chi phí và hiệu suất. Phản hồi tích cực từ cộng đồng nhà phát triển và kết quả điểm chuẩn ấn tượng nhấn mạnh tiềm năng của nó trong việc cách mạng hóa cách các cuộc gọi hàm được tích hợp vào các hệ thống AI. Fireworks AI tiếp tục lặp lại các mô hình của mình, được thúc đẩy bởi phản hồi của người dùng và cam kết cung cấp các giải pháp thực tiễn cho các nhà phát triển.</p>

</body>
</html>

Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng gọi hàm ngang tầm GPT-4

Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng gọi hàm ngang tầm GPT-4 Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng ...

tháng 6 25, 2024

SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn

<html lang='vi'>
<head>
    <meta charset='UTF-8'>
    <meta name='viewport' content='width=device-width, initial-scale=1.0'>
    <title>SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn</title>
</head>
<body>
    <h2>SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn</h2>
    <h3>Mục lục</h3>
    <ol>
        <li>SoftBank chuyển hướng đầu tư vào AI và bán dẫn</li>
        <li>Kế hoạch đầu tư vào AI của SoftBank</li>
        <li>Tập trung vào năng lượng tái tạo cho AI</li>
        <li>Học hỏi từ những thất bại của Vision Fund</li>
        <li>Đầu tư vào chip cạnh tranh với NVIDIA</li>
        <li>Thương vụ mua lại Graphone</li>
    </ol>
    <h3>SoftBank chuyển hướng đầu tư vào AI và bán dẫn</h3>
    <p>Sau nhiều năm gặp thất bại và thua lỗ, SoftBank đang quay trở lại với mục tiêu đầu tư vào AI và bán dẫn. Chủ tịch SoftBank Group Corp, Masayoshi Son, đã tuyên bố tại cuộc họp thường niên của công ty rằng ông đã sẵn sàng đặt cược lớn tiếp theo vào công nghệ. Ông cho biết tập đoàn Nhật Bản này sẽ tập trung đầu tư vào AI và sẵn sàng chấp nhận rủi ro hơn trong lĩnh vực này, bởi vì sự phát triển của AI đang ngày càng nhanh chóng.</p>
    <h3>Kế hoạch đầu tư vào AI của SoftBank</h3>
    <p>Son cũng cho biết SoftBank sẽ tăng cường hoạt động sản xuất năng lượng tái tạo, với mục tiêu cung cấp năng lượng cho AI, đặc biệt là ở Mỹ. Ông nhấn mạnh rằng việc đặt cược lớn tiếp theo cần được thực hiện mà không sợ hãi về việc thành công hay thất bại.</p>
    <h3>Tập trung vào năng lượng tái tạo cho AI</h3>
    <h3>Học hỏi từ những thất bại của Vision Fund</h3>
    <p>Sau một thời gian gặp khó khăn với quỹ đầu tư Vision Fund - được hỗ trợ bởi quỹ đầu tư quốc gia - Son đang chuyển trọng tâm sang AI và bán dẫn. Vision Fund đang trong quá trình thanh lý tài sản trong danh mục đầu tư của mình. SoftBank đã tích lũy được khoản tiền mặt khổng lồ lên tới 6,2 nghìn tỷ Yên vào cuối tháng 3.</p>
    <h3>Đầu tư vào chip cạnh tranh với NVIDIA</h3>
    <p>Theo thông tin từ báo chí, Son đang nhắm đến khoản đầu tư 100 tỷ đô la vào một doanh nghiệp chip cạnh tranh với NVIDIA. Tập đoàn Nhật Bản này cũng đang đàm phán mua lại Graphone, một công ty khởi nghiệp bán dẫn của Anh.</p>
    <h3>Thương vụ mua lại Graphone</h3>
    <p>Những động thái này cho thấy SoftBank đang rất lạc quan về tương lai của AI và bán dẫn. Họ tin rằng đây là hai lĩnh vực có tiềm năng phát triển lớn trong tương lai. Việc SoftBank chuyển hướng đầu tư vào hai lĩnh vực này cũng cho thấy sự thay đổi trong chiến lược của tập đoàn này. </p>
    <img alt="Logo SoftBank" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">
</body>
</html>

SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn

SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn Mục lục ...

tháng 6 25, 2024

Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất

<h2>Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất</h2>
<h3>Mục lục:</h3>
<ol>
  <li><strong>Mô hình Cohere Command R và R+ mới</strong></li>
  <li><strong>Mô hình Meta Llama 3 mới với khả năng tinh chỉnh</strong></li>
  <li><strong>API và Playground Chat của OCI Generative AI</strong></li>
  <li><strong>Kết luận</strong></li>
</ol>

<h3>1. Mô hình Cohere Command R và R+ mới:</h3>
<p>Oracle Cloud Infrastructure (OCI) Generative AI hiện cung cấp hai mô hình mới: Cohere Command R và Cohere Command R+. Cả hai mô hình đều có sẵn cho việc lưu trữ theo yêu cầu và dành riêng.</p>
<p>Theo Cohere, Command R hướng đến loại mô hình có khả năng mở rộng, cân bằng hiệu quả cao với độ chính xác mạnh mẽ, cho phép các công ty vượt qua giai đoạn thử nghiệm và đưa vào sản xuất. Nó được thiết kế cho các ứng dụng RAG và trường hợp sử dụng doanh nghiệp.</p>
<p>Mô hình Cohere Command R có những lợi thế sau so với mô hình Cohere ban đầu trên dịch vụ Generative AI:</p>
<ul>
  <li>Độ trễ thấp hơn và thông lượng cao hơn</li>
  <li>Cửa sổ ngữ cảnh dài hơn 16k</li>
  <li>Khả năng nâng cao trên 10 ngôn ngữ chính</li>
</ul>
<p>Cửa sổ ngữ cảnh là phạm vi văn bản mà LLM có thể xử lý khi tạo thông tin. Việc tăng cửa sổ ngữ cảnh cho phép một loạt trường hợp sử dụng rộng hơn và độ chính xác ngữ cảnh được cải thiện. Nâng cấp này, cùng với các ngôn ngữ chính được hỗ trợ - tiếng Anh, tiếng Pháp, tiếng Tây Ban Nha, tiếng Ý, tiếng Đức, tiếng Bồ Đào Nha Brazil, tiếng Nhật, tiếng Hàn, tiếng Trung giản thể và tiếng Ả Rập - làm cho các mô hình của Cohere trở nên tập trung vào doanh nghiệp hơn bao giờ hết.</p>
<p>Bạn có thể sử dụng mô hình Command R cho các cuộc trò chuyện đa năng và nhiều ứng dụng khác nhau, chẳng hạn như dịch vụ khách hàng, tạo nội dung và dịch thuật ngôn ngữ. Tinh chỉnh cho Command R sẽ có sẵn trong bản phát hành sắp tới của OCI Generative AI.</p>
<p>OCI Generative AI hiện cũng hỗ trợ mô hình Cohere Command R+. Giống như Command R, Command R+ có cửa sổ ngữ cảnh dài hơn 128k và hỗ trợ cùng 10 ngôn ngữ chính. Command R+ là một phiên bản nâng cao của mô hình, với khả năng hiểu ngôn ngữ sâu sắc hơn và khả năng tạo phản hồi tinh tế và phù hợp với ngữ cảnh hơn. Command R+ được thiết kế cho các trường hợp sử dụng phức tạp và chuyên biệt hơn đòi hỏi sự hiểu biết sâu sắc về ngôn ngữ, chẳng hạn như tạo nội dung dài, tóm tắt, trả lời câu hỏi và tạo ngôn ngữ cho các lĩnh vực hoặc ngành cụ thể. Nó phù hợp nhất cho các quy trình công việc RAG phức tạp và sử dụng công cụ nhiều bước.</p>

<h3>2. Mô hình Meta Llama 3 mới với khả năng tinh chỉnh:</h3>
<p>Dịch vụ OCI Generative AI hiện cũng hỗ trợ mô hình Meta Llama 3 có 70 tỷ tham số trong bản phát hành chung. Mô hình này cung cấp khả năng nâng cao về lập luận, tạo mã và hướng dẫn so với Llama 2.</p>
<p>Ngoài các mô hình Cohere Command, giờ đây bạn có thể tinh chỉnh các mô hình Llama 3 bằng dữ liệu đào tạo của riêng mình. Mô hình Llama 3 được đào tạo trước hỗ trợ phương pháp tinh chỉnh Low-Rank Adaptation (LoRA), giúp việc tinh chỉnh các mô hình lớn hiệu quả hơn. Khi tinh chỉnh mô hình bằng phương pháp LoRA, bạn không cần cập nhật tất cả các tham số gốc của mô hình. Thay vào đó, LoRA thêm các ma trận nhỏ hơn vào mô hình để biến đổi đầu vào và đầu ra. Chỉ những ma trận nhỏ hơn này được cập nhật trong quá trình tinh chỉnh, giúp cải thiện độ chính xác đồng thời sử dụng ít bộ nhớ hơn. Các tham số mô hình gốc vẫn bị đóng băng và bạn có thể hợp nhất các ma trận nhỏ, được điều chỉnh lại vào mô hình gốc hoặc giữ chúng riêng biệt nếu bạn muốn tinh chỉnh cho các trường hợp sử dụng khác mà không quên các tác vụ trước đó.</p>

<h3>3. API và Playground Chat của OCI Generative AI:</h3>
<p>OCI Generative AI cũng giới thiệu một trải nghiệm trò chuyện mới, cho phép tích hợp liền mạch vào Cohere Command R, Cohere Command R+ và các mô hình Meta Llama 3 có 70 tỷ tham số. Chúng tôi đã thêm các khả năng trò chuyện vào API OCI Generative AI phù hợp với những gì các đối tác mô hình của chúng tôi cung cấp ngay lập tức, bao gồm cả Tool Use khi làm việc với các mô hình Cohere Command R và R+. Với Tool Use, giờ đây bạn có thể tạo các tải trọng API (JSON với các tham số cụ thể) dựa trên tương tác của người dùng và lịch sử trò chuyện. Bạn có thể sử dụng các tải trọng này để hướng dẫn các ứng dụng hoặc công cụ khác. Ví dụ: bạn có thể hướng dẫn một ứng dụng tự động phân loại và chuyển hướng các vé hỗ trợ đến cá nhân phù hợp.</p>

<h3>4. Kết luận:</h3>
<p>Cảnh quan tạo ra đang thay đổi nhanh chóng. Chúng tôi cam kết cung cấp các tính năng mới nhất để đảm bảo khách hàng của chúng tôi có được các khả năng mới nhất. Giờ đây, bạn có thể sử dụng API trò chuyện OCI Generative AI để dễ dàng tạo trải nghiệm tương tự như chatbot với các mô hình AI như Command R, R+ và Llama 3 mới. Bạn cũng có thể tinh chỉnh các mô hình Llama 3 bằng dữ liệu đào tạo của mình, cho phép tùy chỉnh mô hình tốt hơn để giải quyết các thách thức kinh doanh của mình.</p>
<p>Để bắt đầu ngay hôm nay với các mô hình mới này trong một trải nghiệm Chat Playground, hãy xem Chat trong OCI Generative AI!</p>

<h4>Để biết thêm thông tin, hãy xem các tài nguyên sau:</h4>
<ul>
  <li>Truy cập tài liệu dịch vụ OCI Generative AI.</li>
  <li>Đọc qua mô tả về API dịch vụ OCI Generative AI.</li>
  <li>Đọc về các tính năng chính trên tour sản phẩm OCI Generative AI.</li>
  <li>Kiểm tra bài đăng trên blog First Principles về việc khám phá chiều sâu của OCI Generative AI.</li>
</ul>
<img alt="Logo" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjrwz9PG3ltGG7b-dJ4KGk3s069Qm95v6sNrat4kvH0lfkQfaNlJaH9zwxr8dpplA6PuIRfSF37QHQNHMbLPv5L3qtUcPF13MFopQhf4DEsNlGlpTRWPCJiFKQyLn2U7FALiR1Y7Qmn9RnrPu9YeuJv2Cne8sMo84Yjl2ukMgJqXbUu4C7coTJ44-0vNsBY/s16000/logo-new.jpg">

Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất

Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất Mục lục: Mô hình Cohere Command R và R+ mới Mô hình Meta ...

tháng 6 25, 2024

Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ Nguyên Mới Cho Tạo Văn Bản và Ứng Dụng AI

<html lang='vi'>
<head>
  <meta charset='UTF-8'>
  <meta name='viewport' content='width=device-width, initial-scale=1.0'>
  <title>Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ Nguyên Mới Cho Tạo Văn Bản và Ứng Dụng AI</title>
  <style>
    body {
      font-family: sans-serif;
    }
    h1, h2 {
      text-align: center;
    }
    h2 {
      margin-top: 30px;
    }
    p {
      text-align: justify;
      margin-bottom: 15px;
    }
    ul {
      list-style-type: none;
      padding: 0;
    }
    li {
      margin-bottom: 10px;
    }
    a {
      text-decoration: none;
      color: blue;
    }
    img {
      display: block;
      margin: 30px auto;
      max-width: 100%;
    }
  </style>
</head>
<body>
  <h1>Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ Nguyên Mới Cho Tạo Văn Bản và Ứng Dụng AI</h1>

<h2>Mục lục:</h2>
  <ul>
    <li><strong>Tổng quan về Mô hình</strong></li>
    <li><strong>Khả năng và Tính năng</strong></li>
    <li><strong>Hiệu suất và Đánh giá</strong></li>
    <li><strong>Ví dụ Ứng dụng</strong></li>
    <li><strong>Triển khai và Truy cập</strong></li>
    <li><strong>Kết luận</strong></li>
  </ul>

<h2>1. Tổng quan về Mô hình</h2>
  <p>Hermes-2-Theta-Llama-3-70B là kết quả của việc kết hợp tinh hoa từ hai mô hình AI hàng đầu: Hermes 2 Pro của NousResearch và Llama-3 Instruct của Meta. Được hỗ trợ bởi công nghệ MergeKit tiên tiến từ Charles Goddard và Arcee AI, mô hình này kết hợp ưu điểm của cả hai mô hình gốc. Sau khi tích hợp, Hermes-2-Theta-Llama-3-70B được tinh chỉnh thêm bằng Reinforcement Learning from Human Feedback (RLHF), cho phép tạo ra văn bản mạch lạc và chính xác về mặt ngữ cảnh.</p>

<h2>2. Khả năng và Tính năng</h2>
  <p>Một trong những điểm nổi bật của Hermes-2-Theta-Llama-3-70B là khả năng tạo ra đầu ra có cấu trúc và khả năng gọi hàm (function calling). Mô hình sử dụng ChatML để định dạng lời nhắc (prompt), cho phép tương tác đa lượt thoại có cấu trúc rõ ràng và dễ điều khiển. Tính năng này rất hữu ích trong việc tạo ra các chatbot tương tác và trợ lý ảo đòi hỏi hiệu suất ổn định và đáng tin cậy trong các tương tác kéo dài.</p>
  <p>Việc đào tạo trên các lời nhắc hệ thống cụ thể nâng cao khả năng tạo ra đầu ra có cấu trúc của mô hình. Những lời nhắc này hướng dẫn mô hình tạo ra phản hồi ở định dạng JSON, phù hợp cho các tác vụ cần dữ liệu có cấu trúc, chẳng hạn như gọi hàm và trích xuất tính năng từ các tài liệu liên quan. Ví dụ, khi được cung cấp định dạng gọi hàm, mô hình có thể tạo ra các cuộc gọi API, phân tích phản hồi và trả về dữ liệu có cấu trúc, rất cần thiết cho các tác vụ như lấy thông tin cơ bản về chứng khoán hoặc các truy vấn dữ liệu thời gian thực khác.</p>

<h2>3. Hiệu suất và Đánh giá</h2>
  <p>Về hiệu suất, Hermes-2-Theta-Llama-3-70B đã được đánh giá một cách nghiêm ngặt so với nhiều mô hình AI hàng đầu khác. Mô hình này vượt trội trong nhiều nhiệm vụ, được thể hiện qua điểm số ấn tượng của nó trong các điểm chuẩn như GPT4All, AGIEval và BigBench. Ví dụ, mô hình đạt tỷ lệ chính xác cao trong các danh mục arc_challenge và arc_easy, chứng tỏ khả năng xử lý suy luận logic phức tạp và các câu hỏi dựa trên kiến thức. Hiệu suất của nó trong điểm chuẩn TruthfulQA cũng làm nổi bật khả năng tạo ra phản hồi chính xác về mặt sự thật, một tính năng quan trọng để đảm bảo độ tin cậy trong các ứng dụng thực tế.</p>

<h2>4. Ví dụ Ứng dụng</h2>
  <p>Tính linh hoạt của Hermes-2-Theta-Llama-3-70B được thể hiện qua các ví dụ đầu ra đa dạng. Từ việc đóng vai một cô gái mèo hoạt hình giỏi lập trình và hack cho đến việc hóa thân thành một nhà giả kim học bom tấn thế kỷ 17 trong cuộc tìm kiếm viên đá triết gia, khả năng của mô hình trong việc áp dụng các nhân vật khác nhau và tạo ra phản hồi phù hợp với ngữ cảnh thật đáng chú ý. Những khả năng này khiến nó trở thành một công cụ quý giá cho sáng tác văn học, kể chuyện tương tác và phát triển các nhân vật ảo hấp dẫn.</p>
  <p>Khả năng tạo ra các cuộc gọi hàm và đầu ra có cấu trúc của mô hình khiến nó trở nên lý tưởng cho các ứng dụng kinh doanh. Ví dụ, nó có thể hiệu quả trong việc lấy và trình bày dữ liệu thị trường chứng khoán ở định dạng có cấu trúc, giúp các nhà phân tích tài chính đưa ra quyết định sáng suốt. Khả năng tích hợp liền mạch với các hệ thống hiện có thông qua các cuộc gọi API nâng cao hơn nữa tính hữu dụng của nó trong nhiều kịch bản doanh nghiệp.</p>

<h2>5. Triển khai và Truy cập</h2>
  <p>NousResearch đã cung cấp Hermes-2-Theta-Llama-3-70B thông qua nhiều nền tảng, bao gồm Hugging Face và kho lưu trữ GitHub của họ. Mô hình có thể được triển khai trên Inference Endpoints để sử dụng chuyên dụng, đảm bảo người dùng có thể tận dụng các khả năng của nó mà không bị hạn chế bởi các môi trường không có máy chủ. Các phiên bản mô hình lượng tử hóa có sẵn cho các ứng dụng yêu cầu tài nguyên tính toán thấp hơn.</p>

<h2>6. Kết luận</h2>
  <p>Hermes-2-Theta-Llama-3-70B của NousResearch là một mô hình tiên tiến kết hợp những ưu điểm tốt nhất của các thế hệ trước để cung cấp hiệu suất vượt trội trong tạo văn bản, đầu ra có cấu trúc và gọi hàm. Các ứng dụng đa dạng của nó, từ sáng tác văn học đến thông tin kinh doanh, chứng tỏ tiềm năng to lớn của mô hình này trong việc cách mạng hóa ngành công nghiệp AI.</p>

Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ Nguyên Mới Cho Tạo Văn Bản và Ứng Dụng AI

Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ Nguyên Mới Cho Tạo Văn Bản và Ứng Dụng AI Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ ...

tháng 6 25, 2024

Ứng dụng AI của Trung Quốc càn quét thị trường Mỹ: Học sinh Mỹ đang sử dụng AI để làm bài tập về nhà?

NVIDIA AI Workbench: Công cụ hỗ trợ phát triển ứng dụng AI dễ dàng hơn bao giờ hết

Firefunction-v2: Mẫu ngôn ngữ mở nguồn với khả năng gọi hàm ngang tầm GPT-4

SoftBank: Chuyển hướng đầu tư vào AI và bán dẫn

Oracle Cloud Infrastructure (OCI) Generative AI: Những tính năng mới nhất

Hermes-2-Theta-Llama-3-70B: Khơi Mở Kỷ Nguyên Mới Cho Tạo Văn Bản và Ứng Dụng AI

Bài đăng phổ biến

Labels