Agent.ai.vn

OpenAI và Broadcom hợp tác phát triển chip AI mới

<h2>OpenAI và Broadcom hợp tác phát triển chip AI mới</h2>

<h3>Mục lục</h3>
<ol>
  <li>Hợp tác chiến lược</li>
  <li>Tiềm năng của chip AI</li>
  <li>Tầm nhìn về tương lai</li>
</ol>

<h3>1. Hợp tác chiến lược</h3>
<p>OpenAI, công ty nghiên cứu trí tuệ nhân tạo nổi tiếng, đang trong quá trình đàm phán với Broadcom, nhà sản xuất chip bán dẫn hàng đầu, để cùng phát triển một loại chip AI mới. Hợp tác này hứa hẹn sẽ tạo ra một bước tiến đáng kể trong lĩnh vực trí tuệ nhân tạo.</p>

<h3>2. Tiềm năng của chip AI</h3>
<p>Chip AI chuyên dụng có khả năng xử lý khối lượng dữ liệu khổng lồ một cách hiệu quả, giúp tăng tốc độ và hiệu suất của các ứng dụng AI. Điều này sẽ mở ra những khả năng mới trong nhiều lĩnh vực, bao gồm xử lý ngôn ngữ tự nhiên, thị giác máy tính và học máy.</p>

<h3>3. Tầm nhìn về tương lai</h3>
<p>Hợp tác giữa OpenAI và Broadcom có thể dẫn đến sự ra đời của các sản phẩm AI đột phá. Nó cũng sẽ củng cố vị thế của cả hai công ty trong ngành công nghiệp AI đang phát triển nhanh chóng. Việc phát triển chip AI mới có tiềm năng cách mạng hóa nhiều ngành nghề và lĩnh vực khác nhau, từ chăm sóc sức khỏe đến tài chính và giáo dục.</p>

OpenAI và Broadcom hợp tác phát triển chip AI mới

OpenAI và Broadcom hợp tác phát triển chip AI mới Mục lục Hợp tác chiến lược Tiềm năng của chip AI Tầm nhìn về tương lai 1. ...

tháng 7 20, 2024

Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock

<h2>Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock</h2>

<ol>
  <li><strong>Thách thức trong việc phân tích dữ liệu CVE</strong></li>
  <li><strong>Lựa chọn Anthropic Claude trên Amazon Bedrock</strong></li>
  <li><strong>Xây dựng Prompt Hoàn Hảo</strong></li>
  <li><strong>Thách thức trong quá trình triển khai</strong></li>
  <li><strong>Kết quả ấn tượng</strong></li>
  <li><strong>Kế hoạch trong tương lai</strong></li>
  <li><strong>Kết luận</strong></li>
  <li><strong>Giới thiệu tác giả</strong></li>
</ol>

<h3>1. Thách thức trong việc phân tích dữ liệu CVE</h3>

<p>Trong lĩnh vực an ninh mạng, dòng chảy liên tục của các báo cáo về lỗ hổng bảo mật (CVE) là một thách thức lớn. Hàng năm, hàng ngàn lỗ hổng bảo mật mới được phát hiện, với các mô tả khác nhau về độ rõ ràng, đầy đủ và cấu trúc. Những báo cáo này, thường được đóng góp bởi một cộng đồng toàn cầu đa dạng, có thể ngắn gọn, mơ hồ hoặc thiếu thông tin quan trọng, che giấu thông tin quan trọng như yêu cầu tấn công, tác động tiềm ẩn và các bước khắc phục được đề xuất. Tính chất phi cấu trúc của báo cáo CVE gây ra một trở ngại lớn trong việc trích xuất thông tin có thể hành động. Các hệ thống tự động gặp khó khăn trong việc phân tích chính xác và hiểu những câu chuyện không nhất quán và phức tạp, làm tăng nguy cơ bỏ qua hoặc hiểu sai các chi tiết quan trọng - một kịch bản có ý nghĩa nghiêm trọng đối với tư thế bảo mật.</p>

<h3>2. Lựa chọn Anthropic Claude trên Amazon Bedrock</h3>

<p>Trước thử thách nan giải này, sức mạnh của các mô hình ngôn ngữ lớn (LLM) mang đến một giải pháp đầy hứa hẹn. Những mô hình AI tạo sinh tiên tiến này rất giỏi trong việc hiểu và phân tích khối lượng văn bản khổng lồ, biến chúng thành công cụ hoàn hảo để sàng lọc dòng chảy báo cáo CVE nhằm xác định các báo cáo có chứa chi tiết về yêu cầu tấn công.</p>

<p>Quyết định sử dụng Anthropic Claude trên Amazon Bedrock là một chiến lược. Trong quá trình đánh giá, Mend.io nhận thấy rằng mặc dù các LLM khác như GPT-4 cũng thể hiện hiệu suất mạnh mẽ trong việc phân tích mô tả CVE, nhưng các yêu cầu cụ thể của Mend.io phù hợp hơn với khả năng của Anthropic Claude. Mend.io đã sử dụng các thẻ như <example-attack-requirement>. Khi Mend.io đánh giá các mô hình khác với cả lời nhắc cấu trúc và phi cấu trúc, khả năng của Anthropic Claude trong việc tuân theo chính xác các lời nhắc cấu trúc và bao gồm các thẻ dự kiến đã khiến nó trở thành lựa chọn phù hợp hơn cho trường hợp sử dụng của Mend.io trong quá trình thử nghiệm của họ.</p>

<p>Khả năng độc đáo của Anthropic Claude, cho phép nhận dạng các thẻ XML trong lời nhắc, đã mang lại cho nó một lợi thế riêng biệt. Khả năng này cho phép Mend.io cấu trúc các lời nhắc theo cách cải thiện độ chính xác và giá trị, đảm bảo rằng phân tích của Anthropic Claude được điều chỉnh theo nhu cầu cụ thể của Mend.io. Hơn nữa, việc tích hợp liền mạch với Amazon Bedrock đã cung cấp một nền tảng mạnh mẽ và an toàn để xử lý dữ liệu nhạy cảm. Cơ sở hạ tầng bảo mật đã được chứng minh của AWS củng cố sự tự tin, cho phép Mend.io xử lý và phân tích thông tin CVE mà không ảnh hưởng đến quyền riêng tư và bảo mật dữ liệu - một yếu tố quan trọng trong thế giới an ninh mạng.</p>

<h3>3. Xây dựng Prompt Hoàn Hảo</h3>

<p>Xây dựng lời nhắc hoàn hảo cho Anthropic Claude là cả nghệ thuật và khoa học. Nó đòi hỏi sự hiểu biết sâu sắc về khả năng của mô hình và một quy trình kỹ lưỡng để đảm bảo rằng phân tích của Anthropic Claude chính xác và dựa trên ứng dụng thực tế. Họ đã soạn lời nhắc với ngữ cảnh phong phú, cung cấp các ví dụ và xác định rõ sự khác biệt giữa độ phức tạp tấn công và yêu cầu tấn công theo định nghĩa trong Hệ thống điểm số lỗ hổng chung (CVSS) v4.0. Mức độ chi tiết này là rất quan trọng để đảm bảo rằng Anthropic Claude có thể xác định chính xác các chi tiết tinh tế trong mô tả CVE.</p>

<p>Việc sử dụng thẻ XML là một bước ngoặt trong việc cấu trúc lời nhắc. Những thẻ này cho phép họ cô lập các phần khác nhau, hướng dẫn trọng tâm của Anthropic Claude và cải thiện độ chính xác của phản hồi. Với khả năng độc đáo này, Mend.io có thể hướng sự chú ý của mô hình đến các khía cạnh cụ thể của dữ liệu CVE, hợp lý hóa quy trình phân tích và tăng cường giá trị của thông tin chi tiết được rút ra.</p>

<p>Với một lời nhắc được soạn thảo kỹ lưỡng và sức mạnh của thẻ XML, Mend.io đã trang bị cho Anthropic Claude ngữ cảnh và cấu trúc cần thiết để điều hướng thế giới phức tạp của mô tả CVE, cho phép nó xác định chính xác các chi tiết yêu cầu tấn công quan trọng, trang bị cho các nhóm bảo mật những hiểu biết vô giá để ưu tiên các lỗ hổng và củng cố hệ thống phòng thủ.</p>

<h3>4. Thách thức trong quá trình triển khai</h3>

<p>Trong khi sử dụng Anthropic Claude, Mend.io đã trải nghiệm trực tiếp sự linh hoạt và khả năng mở rộng của dịch vụ. Khi khối lượng công việc phân tích tăng lên để bao gồm 70.000 CVE, họ đã gặp phải những cơ hội để tối ưu hóa việc sử dụng các tính năng của dịch vụ và khả năng quản lý chi phí. Khi sử dụng triển khai mô hình theo yêu cầu của Amazon Bedrock trên các vùng AWS, Mend.io đã chủ động quản lý hạn ngạch yêu cầu API mỗi phút (RPM) và mã thông báo mỗi phút (TPM) bằng cách song song hóa các yêu cầu mô hình và điều chỉnh mức độ song song hóa để hoạt động trong giới hạn hạn ngạch. Họ cũng tận dụng logic thử lại tích hợp sẵn trong thư viện Boto3 Python để xử lý trơn tru mọi trường hợp điều tiết bất thường. Đối với khối lượng công việc yêu cầu hạn ngạch cao hơn, tùy chọn Amazon Bedrock Provisioned Throughput cung cấp một giải pháp đơn giản, mặc dù nó không phù hợp với mô hình sử dụng cụ thể của Mend.io trong trường hợp này.</p>

<p>Mặc dù ước tính ban đầu để phân loại tất cả 70.000 CVE thấp hơn, nhưng chi phí cuối cùng cao hơn do dữ liệu đầu vào phức tạp hơn dẫn đến chuỗi đầu vào và đầu ra dài hơn. Điều này làm nổi bật tầm quan trọng của việc thử nghiệm và đánh giá toàn diện. Các mô hình định giá linh hoạt trong Amazon Bedrock cho phép các tổ chức tối ưu hóa chi phí bằng cách xem xét các tùy chọn mô hình thay thế hoặc chiến lược phân vùng dữ liệu, trong đó các trường hợp đơn giản hơn có thể được xử lý bởi các mô hình hiệu quả về chi phí hơn, trong khi dành riêng các mô hình có khả năng cao hơn cho các trường hợp khó khăn nhất.</p>

<p>Khi làm việc với các mô hình ngôn ngữ tiên tiến như những mô hình được cung cấp bởi AWS, điều quan trọng là phải tạo ra các lời nhắc phù hợp chính xác với định dạng đầu ra mong muốn. Trong trường hợp của Mend.io, kỳ vọng của họ là nhận được câu trả lời YES / NO đơn giản cho các lời nhắc của họ, điều này sẽ hợp lý hóa các bước quản lý dữ liệu tiếp theo. Tuy nhiên, mô hình thường cung cấp ngữ cảnh, lý lẽ hoặc giải thích bổ sung ngoài các phản hồi súc tích dự kiến. Mặc dù những phản hồi mở rộng này mang đến những hiểu biết có giá trị, nhưng chúng đã giới thiệu sự phức tạp không lường trước vào quy trình xử lý dữ liệu của Mend.io. Trải nghiệm này làm nổi bật tầm quan trọng của việc tinh chỉnh lời nhắc để đảm bảo rằng đầu ra của mô hình phù hợp chặt chẽ với các yêu cầu cụ thể của trường hợp sử dụng. Bằng cách lặp lại việc xây dựng lời nhắc và tinh chỉnh các lời nhắc, các tổ chức có thể tối ưu hóa phản hồi của mô hình để phù hợp tốt hơn với định dạng phản hồi mong muốn của họ, cuối cùng nâng cao hiệu quả và hiệu quả của đường ống xử lý dữ liệu của họ.</p>

<h3>5. Kết quả ấn tượng</h3>

<p>Mặc dù những thách thức mà Mend.io phải đối mặt, nhưng những nỗ lực cần mẫn của họ đã được đền đáp. Họ đã xác định thành công các CVE có chứa chi tiết yêu cầu tấn công, trang bị cho các nhóm bảo mật những hiểu biết quý giá để ưu tiên các lỗ hổng và củng cố hệ thống phòng thủ. Kết quả này là một thành tựu đáng kể, bởi vì việc hiểu các điều kiện tiên quyết cụ thể để khai thác thành công một lỗ hổng là rất quan trọng trong việc đánh giá rủi ro và phát triển các chiến lược giảm thiểu hiệu quả. Bằng cách tận dụng sức mạnh của Anthropic Claude, Mend.io đã có thể sàng lọc hàng chục nghìn báo cáo CVE, trích xuất thông tin tinh tế về các yêu cầu tấn công mà sẽ gần như không thể thu được thông qua phân tích thủ công. Thành tích này không chỉ tiết kiệm thời gian và nguồn lực quý giá mà còn cung cấp cho các nhóm an ninh mạng cái nhìn toàn diện về bối cảnh đe dọa, cho phép họ đưa ra quyết định sáng suốt và ưu tiên các nỗ lực của họ một cách hiệu quả.</p>

<p>Mend.io đã thực hiện đánh giá toàn diện về Anthropic Claude, đưa ra 68.378 yêu cầu mà không tính đến bất kỳ giới hạn hạn ngạch nào. Dựa trên thử nghiệm ban đầu của họ về việc phân tích một mẫu 100 lỗ hổng để hiểu các vectơ tấn công, họ có thể xác định độ chính xác của câu trả lời YES hoặc NO trực tiếp của Claude. Như được thể hiện trong bảng sau, Anthropic Claude đã thể hiện hiệu suất vượt trội, cung cấp câu trả lời YES hoặc NO trực tiếp cho 99,9883% các yêu cầu. Trong một số ít trường hợp mà câu trả lời đơn giản không được đưa ra, Anthropic Claude vẫn cung cấp đủ thông tin để xác định phản hồi phù hợp. Đánh giá này làm nổi bật khả năng mạnh mẽ của Anthropic Claude trong việc xử lý một loạt các truy vấn với độ chính xác và độ tin cậy cao.</p>

<h3>6. Kế hoạch trong tương lai</h3>

<p>Việc ứng dụng thành công Anthropic Claude trong việc xác định chi tiết yêu cầu tấn công từ dữ liệu CVE chỉ là khởi đầu của tiềm năng to lớn mà AI tạo sinh mang lại cho lĩnh vực an ninh mạng. Khi những mô hình tiên tiến này tiếp tục phát triển và trưởng thành, khả năng của chúng sẽ được mở rộng, mở ra những chân trời mới trong việc tự động hóa phân tích lỗ hổng, phát hiện mối đe dọa và ứng phó sự cố.</p>

<p>Một hướng đầy hứa hẹn là sử dụng AI tạo sinh để tự động hóa việc phân loại và ưu tiên lỗ hổng. Bằng cách tận dụng khả năng phân tích và hiểu các mô tả kỹ thuật của những mô hình này, các tổ chức có thể hợp lý hóa quy trình xác định và giải quyết các lỗ hổng quan trọng nhất, đảm bảo rằng các nguồn lực hạn chế được phân bổ hiệu quả. Hơn nữa, các mô hình AI tạo sinh có thể được đào tạo để phát hiện và gắn cờ các chữ ký mã độc hại tiềm ẩn trong kho lưu trữ phần mềm hoặc lưu lượng mạng. Cách tiếp cận chủ động này có thể giúp các nhóm an ninh mạng đi trước các mối đe dọa mới nổi, cho phép họ phản ứng nhanh chóng và giảm thiểu rủi ro trước khi chúng có thể bị khai thác.</p>

<p>Ngoài việc quản lý lỗ hổng và phát hiện mối đe dọa, AI tạo sinh cũng hứa hẹn trong việc ứng phó sự cố và phân tích pháp y. Những mô hình này có thể hỗ trợ trong việc phân tích và hiểu khối lượng dữ liệu nhật ký khổng lồ, hồ sơ lưu lượng mạng và thông tin liên quan đến bảo mật khác, đẩy nhanh việc xác định nguyên nhân gốc rễ và cho phép các nỗ lực khắc phục hiệu quả hơn. Khi AI tạo sinh tiếp tục phát triển, việc tích hợp nó với các công nghệ tiên tiến khác, chẳng hạn như ML và phân tích dữ liệu, sẽ mở khóa các ứng dụng mạnh mẽ hơn nữa trong lĩnh vực an ninh mạng. Khả năng xử lý và hiểu dữ liệu ngôn ngữ tự nhiên ở quy mô lớn, kết hợp với sức mạnh dự đoán của các thuật toán ML, có thể cách mạng hóa việc thu thập thông tin tình báo về mối đe dọa, cho phép các tổ chức dự đoán và chủ động phòng thủ trước các mối đe dọa mạng mới nổi.</p>

<p>Lĩnh vực an ninh mạng đang không ngừng tiến bộ, việc tích hợp các mô hình AI tạo sinh như Anthropic Claude, được hỗ trợ bởi cơ sở hạ tầng mạnh mẽ của Amazon Bedrock, thể hiện một bước tiến đáng kể trong việc thúc đẩy quốc phòng kỹ thuật số. Việc áp dụng thành công công nghệ này của Mend.io trong việc trích xuất chi tiết yêu cầu tấn công từ dữ liệu CVE là minh chứng cho tiềm năng biến đổi của AI ngôn ngữ trong các lĩnh vực quản lý lỗ hổng và phân tích mối đe dọa. Bằng cách tận dụng sức mạnh của những mô hình tiên tiến này, Mend.io đã chứng minh rằng nhiệm vụ phức tạp là sàng lọc khối lượng dữ liệu phi cấu trúc khổng lồ có thể được giải quyết với độ chính xác và hiệu quả. Sáng kiến này không chỉ trao quyền cho các nhóm bảo mật những hiểu biết quan trọng để ưu tiên các lỗ hổng mà còn mở đường cho những đổi mới trong tương lai trong việc tự động hóa phân tích lỗ hổng, phát hiện mối đe dọa và ứng phó sự cố. Anthropic và AWS đã đóng một vai trò quan trọng trong việc cho phép các tổ chức như Mend.io tận dụng những công nghệ tiên tiến này.</p>

<p>Nhìn về tương lai, những khả năng thực sự thú vị. Khi các mô hình ngôn ngữ tiếp tục phát triển và tích hợp với các công technologies mới nổi khác, chẳng hạn như ML và phân tích dữ liệu, tiềm năng cách mạng hóa việc thu thập thông tin tình báo về mối đe dọa và quốc phòng chủ động trở nên rõ ràng hơn.</p>

<p>Nếu bạn là một chuyên gia an ninh mạng đang tìm cách khai thác đầy đủ tiềm năng của AI ngôn ngữ trong tổ chức của mình, chúng tôi khuyến khích bạn khám phá khả năng của Amazon Bedrock và các mô hình Anthropic Claude. Bằng cách tích hợp những công nghệ tiên tiến này vào hoạt động bảo mật của bạn, bạn có thể hợp lý hóa quy trình quản lý lỗ hổng, tăng cường phát hiện mối đe dọa và củng cố tư thế an ninh mạng tổng thể của bạn. Hãy thực hiện bước đầu tiên ngay hôm nay và khám phá cách thành công của Mend.io có thể truyền cảm hứng cho hành trình của bạn hướng tới một tương lai kỹ thuật số an toàn hơn.</p>

<h3>8. Giới thiệu tác giả</h3>

<ul>
  <li><strong>Hemmy Yona</strong> là Kiến trúc sư Giải pháp tại Amazon Web Services đóng trụ sở tại Israel. Với 20 năm kinh nghiệm trong phát triển phần mềm và quản lý nhóm, Hemmy rất đam mê giúp khách hàng xây dựng các giải pháp sáng tạo, có khả năng mở rộng và hiệu quả về chi phí. Ngoài công việc, bạn sẽ tìm thấy Hemmy thích thú với thể thao và du lịch cùng gia đình.</li>
  <li><strong>Tzahi Mizrahi</strong> là Kiến trúc sư Giải pháp tại Amazon Web Services, chuyên về các giải pháp container với hơn 10 năm kinh nghiệm trong các quy trình phát triển và DevOps. Chuyên môn của ông bao gồm thiết kế các kiến trúc có khả năng mở rộng dựa trên container và tối ưu hóa quy trình triển khai. Trong thời gian rảnh rỗi, ông thích thú với âm nhạc và chơi guitar.</li>
  <li><strong>Gili Nachum</strong> là Kiến trúc sư giải pháp chính tại AWS, chuyên về AI tạo sinh và Học máy. Gili đang giúp khách hàng của AWS xây dựng các mô hình nền tảng mới và tận dụng LLM để đổi mới trong kinh doanh của họ. Trong thời gian rảnh rỗi, Gili thích thú với thời gian dành cho gia đình và Calisthenics.</li>
  <li><strong>Maciej Mensfeld</strong> là kiến trúc sư sản phẩm chính tại Mend, tập trung vào việc thu thập dữ liệu, tổng hợp và nghiên cứu bảo mật AI / LLM. Ông là người tạo ra diffend.io (được Mend mua lại) và Karafka. Là Kiến trúc sư Phần mềm, Nhà nghiên cứu Bảo mật và diễn giả tại hội nghị, ông dạy Ruby, Rails và Kafka. Rất đam mê OSS, Maciej tích cực đóng góp cho nhiều dự án, bao gồm Karafka, và là thành viên của nhóm bảo mật RubyGems.</li>
</ul>

Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock

Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock Mục lục Thách thức trong việc phân tích dữ liệu CVE Lựa...

tháng 7 20, 2024

Groq giới thiệu Llama-3-Groq-Tool-Use: Mô hình mã nguồn mở đạt hiệu suất cao trên bảng xếp hạng BFCL

<html>
<head>
  <title>Groq giới thiệu Llama-3-Groq-Tool-Use: Mô hình mã nguồn mở đạt hiệu suất cao trên bảng xếp hạng BFCL</title>
</head>
<body>

<h1>Groq giới thiệu Llama-3-Groq-Tool-Use: Mô hình mã nguồn mở đạt hiệu suất cao trên bảng xếp hạng BFCL</h1>

<h2>Mục lục:</h2>
  <ul>
    <li>
      <a href='#gioi-thieu-llama-3-groq-tool-use'>Giới thiệu Llama-3-Groq-Tool-Use</a>
    </li>
    <li>
      <a href='#hieu-suat-vuot-troi'>Hiệu suất vượt trội</a>
    </li>
    <li>
      <a href='#phuong-phap-huan-luyen'>Phương pháp huấn luyện</a>
    </li>
    <li>
      <a href='#ung-dung-thuc-te'>Ứng dụng thực tế</a>
    </li>
    <li>
      <a href='#ket-luan'>Kết luận</a>
    </li>
  </ul>

<h2 id='gioi-thieu-llama-3-groq-tool-use'>1. Giới thiệu Llama-3-Groq-Tool-Use</h2>

<p>Groq vừa công bố hai mô hình mã nguồn mở đột phá cho việc sử dụng công cụ: Llama-3-Groq-70B-Tool-Use và Llama-3-Groq-8B-Tool-Use. Được phát triển hợp tác với Glaive, những mô hình này được thiết kế để nâng cao khả năng sử dụng công cụ và gọi hàm trong AI.</p>

<p>Mô hình Llama-3-Groq-70B-Tool-Use đạt hiệu suất cao nhất trên bảng xếp hạng Berkeley Function Calling Leaderboard (BFCL), vượt qua tất cả các mô hình mã nguồn mở và độc quyền khác. Với độ chính xác tổng thể ấn tượng là 90,76%, mô hình này đã thiết lập một tiêu chuẩn mới trong lĩnh vực này. Tương tự, mô hình Llama-3-Groq-8B-Tool-Use cũng thể hiện hiệu suất đáng chú ý với độ chính xác tổng thể là 89,06%, giành vị trí thứ ba trên BFCL.</p>

<h2 id='phuong-phap-huan-luyen'>3. Phương pháp huấn luyện</h2>

<p>Sự phát triển của những mô hình này bao gồm một phương pháp huấn luyện tỉ mỉ kết hợp tinh chỉnh đầy đủ và tối ưu hóa ưu tiên trực tiếp (DPO). Điều đáng chú ý là không có dữ liệu người dùng nào được sử dụng trong quá trình huấn luyện. Thay vào đó, các mô hình được huấn luyện bằng dữ liệu được tạo ra một cách có đạo đức. Cách tiếp cận này đảm bảo rằng các mô hình có hiệu suất cao và phù hợp với các tiêu chuẩn đạo đức trong phát triển AI.</p>

<p>Quá trình huấn luyện cũng bao gồm phân tích nhiễm bẩn kỹ lưỡng bằng phương pháp LMSYS. Điều này dẫn đến tỷ lệ nhiễm bẩn thấp chỉ 5,6% đối với dữ liệu SFT và 1,3% đối với dữ liệu DPO, cho thấy sự phù hợp tối thiểu trên điểm chuẩn đánh giá.</p>

<p>Ngoài khả năng sử dụng công cụ chuyên biệt, các mô hình Llama-3 Groq Tool Use được khuyến nghị sử dụng trong một cách tiếp cận lai ghép với các mô hình ngôn ngữ đa năng. Chiến lược này bao gồm việc triển khai một hệ thống định tuyến phân tích các truy vấn của người dùng đến để xác định mô hình phù hợp nhất cho mỗi yêu cầu.</p>

<p>Đối với các truy vấn liên quan đến việc gọi hàm, tương tác API hoặc thao tác dữ liệu có cấu trúc, các mô hình Llama-3 Groq Tool Use được sử dụng. Đối với kiến thức chung, các cuộc trò chuyện mở rộng hoặc các nhiệm vụ không liên quan trực tiếp đến việc sử dụng công cụ, một mô hình ngôn ngữ đa năng như Llama-3 70B chưa được sửa đổi được khuyến nghị. Cách tiếp cận này đảm bảo rằng mỗi truy vấn được xử lý bởi mô hình phù hợp nhất, tối đa hóa hiệu suất và khả năng tổng thể của hệ thống AI.</p>

<p>Groq đã giới thiệu các mô hình Llama-3-Groq-Tool-Use với hiệu suất hàng đầu và giấy phép cho phép. Những mô hình này có tiềm năng tác động đáng kể đến nghiên cứu và phát triển AI. Cam kết của Groq đối với phát triển AI có đạo đức và cách tiếp cận hợp tác với cộng đồng nhấn mạnh vai trò lãnh đạo của công ty trong lĩnh vực này.</p>

</body>
</html>

Groq giới thiệu Llama-3-Groq-Tool-Use: Mô hình mã nguồn mở đạt hiệu suất cao trên bảng xếp hạng BFCL

Groq giới thiệu Llama-3-Groq-Tool-Use: Mô hình mã nguồn mở đạt hiệu suất cao trên bảng xếp hạng BFCL Groq giới thiệu Llama-3-Gro...

tháng 7 20, 2024

OpenAI ra mắt phiên bản thu gọn của mô hình mạnh nhất của họ: GPT-4o mini

<h2>OpenAI ra mắt phiên bản thu gọn của mô hình mạnh nhất của họ</h2>

<h3>Mục lục:</h3>
<ol>
  <li>Giới thiệu GPT-4o mini</li>
  <li>Khả năng của GPT-4o mini</li>
  <li>Mục tiêu của OpenAI</li>
  <li>Lộ trình phát triển</li>
  <li>GPT-4o mini và người dùng</li>
</ol>

<h3>1. Giới thiệu GPT-4o mini</h3>
<p>OpenAI, startup trí tuệ nhân tạo, đã công bố sẽ ra mắt mô hình AI mới, GPT-4o mini, vào thứ Năm. Đây là nỗ lực mới nhất của OpenAI nhằm mở rộng việc sử dụng chatbot phổ biến của họ.</p>

<h3>2. Khả năng của GPT-4o mini</h3>
<p>Công ty gọi bản phát hành mới là mô hình nhỏ mạnh mẽ nhất và hiệu quả chi phí nhất hiện nay, và họ dự định tích hợp hình ảnh, video và âm thanh vào nó sau này. GPT-4o mini là một nhánh của GPT-4o, mô hình nhanh nhất và mạnh mẽ nhất của OpenAI, được ra mắt vào tháng 5 trong một sự kiện phát trực tiếp với các giám đốc điều hành. Chữ o trong GPT-4o là viết tắt của omni, và GPT-4o đã cải thiện khả năng âm thanh, video và văn bản, với khả năng xử lý 50 ngôn ngữ khác nhau ở tốc độ và chất lượng được cải thiện, theo công ty.</p>

<h3>3. Mục tiêu của OpenAI</h3>
<p>OpenAI, được hỗ trợ bởi Microsoft, đã được các nhà đầu tư định giá hơn 80 tỷ đô la. Công ty, được thành lập vào năm 2015, đang chịu áp lực để giữ vị trí dẫn đầu thị trường AI thế hệ tiếp theo trong khi tìm cách kiếm tiền vì họ chi tiêu một khoản tiền khổng lồ cho bộ xử lý và cơ sở hạ tầng để xây dựng và đào tạo các mô hình của mình.</p>
<p>Mô hình AI thu nhỏ được công bố vào thứ Năm là một phần trong nỗ lực của OpenAI để dẫn đầu trong đa phương thức, hoặc khả năng cung cấp nhiều loại phương tiện truyền thông do AI tạo ra, như văn bản, hình ảnh, âm thanh và video, trong một công cụ: ChatGPT.</p>

<h3>4. Lộ trình phát triển</h3>
<p>Năm ngoái, Giám đốc điều hành của OpenAI, Brad Lightcap, đã nói với CNBC: 'Thế giới là đa phương thức. Nếu bạn nghĩ về cách chúng ta, với tư cách là con người, xử lý thế giới và tương tác với thế giới, chúng ta nhìn thấy mọi thứ, chúng ta nghe mọi thứ, chúng ta nói mọi thứ - thế giới lớn hơn nhiều so với văn bản. Vì vậy, đối với chúng tôi, việc văn bản và mã là các phương thức duy nhất, giao diện duy nhất mà chúng ta có thể có với sức mạnh của các mô hình này và những gì chúng có thể làm, luôn cảm thấy không đầy đủ.'</p>

<h3>5. GPT-4o mini và người dùng</h3>
<p>GPT-4o mini sẽ có sẵn vào thứ Năm cho người dùng miễn phí của ChatGPT, cùng với người đăng ký ChatGPT Plus và Team, và nó sẽ có sẵn cho người dùng ChatGPT Enterprise vào tuần sau, công ty cho biết trong một thông cáo báo chí.</p>

OpenAI ra mắt phiên bản thu gọn của mô hình mạnh nhất của họ: GPT-4o mini

OpenAI ra mắt phiên bản thu gọn của mô hình mạnh nhất của họ Mục lục: Giới thiệu GPT-4o mini Khả năng của GPT-4o mini Mục tiêu ...

tháng 7 19, 2024

OpenAI ra mắt mô hình AI giá rẻ, thông minh hơn

<h2>OpenAI ra mắt mô hình AI giá rẻ, thông minh hơn</h2>

<h3>Mục lục:</h3>
<ol>
  <li>Giới thiệu GPT-4o Mini</li>
  <li>Lợi ích của GPT-4o Mini</li>
  <li>Khả năng và hiệu suất của GPT-4o Mini</li>
  <li>Áp dụng thực tế của GPT-4o Mini</li>
  <li>Lý do OpenAI ra mắt GPT-4o Mini</li>
</ol>

<h3>1. Giới thiệu GPT-4o Mini</h3>
<p>OpenAI vừa ra mắt mô hình AI mới có tên GPT-4o Mini, được thiết kế để dễ dàng sử dụng hơn và có giá thành thấp hơn so với các mô hình AI quy mô lớn. GPT-4o Mini được cho là mạnh hơn GPT-3.5 và cung cấp nhiều tính năng hữu ích cho các nhà phát triển.</p>

<h3>2. Lợi ích của GPT-4o Mini</h3>
<p>Việc sử dụng các mô hình AI của OpenAI có thể tốn kém, điều này khiến nhiều nhà phát triển khó tiếp cận với công nghệ này. GPT-4o Mini được ra đời để giải quyết vấn đề này, cho phép các nhà phát triển sử dụng mô hình AI mạnh mẽ với chi phí thấp hơn.</p>

<h3>3. Khả năng và hiệu suất của GPT-4o Mini</h3>
<p>GPT-4o Mini có khả năng xử lý văn bản và hình ảnh, đồng thời hỗ trợ đầu vào và đầu ra đa phương thức như video và âm thanh. Mô hình này đã đạt được điểm số 82% trên bài kiểm tra MMLU, vượt trội so với GPT-3.5 và các mô hình AI cạnh tranh như Claude 3 Haiku và Gemini 1.5 Flash.</p>

<h3>4. Áp dụng thực tế của GPT-4o Mini</h3>
<p>GPT-4o Mini đã được thử nghiệm bởi các công ty như Ramp và Superhuman để tạo ra các ứng dụng thực tiễn. Ramp sử dụng mô hình này để khai thác dữ liệu chi phí từ hóa đơn, trong khi Superhuman sử dụng nó để tạo tính năng gợi ý tự động cho phản hồi email.</p>

<h3>5. Lý do OpenAI ra mắt GPT-4o Mini</h3>
<p>Theo lời Olivier Godement, người đứng đầu sản phẩm nền tảng API, OpenAI đã nhận thấy sự gia tăng nhu cầu về các mô hình AI nhẹ hơn và dễ tiếp cận hơn. Do đó, OpenAI đã quyết định đầu tư vào GPT-4o Mini để đáp ứng nhu cầu này.</p>

<p>GPT-4o Mini hứa hẹn sẽ trở thành công cụ hữu ích cho các nhà phát triển trong việc tạo ra các ứng dụng AI với chi phí thấp hơn. Với khả năng xử lý đa phương thức và hiệu suất ấn tượng, GPT-4o Mini có tiềm năng mở rộng phạm vi tiếp cận của AI đến nhiều ứng dụng và ngành nghề hơn.</p>

OpenAI ra mắt mô hình AI giá rẻ, thông minh hơn

OpenAI ra mắt mô hình AI giá rẻ, thông minh hơn Mục lục: Giới thiệu GPT-4o Mini Lợi ích của GPT-4o Mini Khả năng và hiệu suất c...

tháng 7 19, 2024

Meta Đầu Tư Hàng Tỷ Đô La Vào EssilorLuxottica, Nhà Sản Xuất Kính Ray-Ban

<h2>Meta Muốn Đầu Tư Vào EssilorLuxottica, Nhà Sản Xuất Kính Ray-Ban</h2>

<h3>Mục lục:</h3>
<ol>
  <li><strong>Hợp tác chiến lược:</strong></li>
  <li><strong>Công nghệ thông minh:</strong></li>
  <li><strong>Kết quả khả quan:</strong></li>
</ol>

<h3>1. Hợp tác chiến lược:</h3>
<p>Theo báo cáo của Financial Times, Meta đang xem xét việc đầu tư hàng tỷ đô la vào EssilorLuxottica, tập đoàn sở hữu thương hiệu kính Ray-Ban và nhiều thương hiệu kính mắt nổi tiếng khác. Động thái này cho thấy Meta muốn củng cố và mở rộng mối quan hệ hợp tác chiến lược với EssilorLuxottica.</p>

<h3>2. Công nghệ thông minh:</h3>
<p>Kính thông minh Ray-Ban Meta được ra mắt vào năm ngoái hiện hỗ trợ công nghệ AI đa phương thức (multimodal AI) để xác định những gì người đeo đang nhìn thấy.</p>

<h3>3. Kết quả khả quan:</h3>
<p>Theo CEO của EssilorLuxottica, kính Ray-Ban Meta đã bán được nhiều hơn trong vài tháng so với hai năm trước. Điều này cho thấy tiềm năng to lớn của thị trường kính thông minh và sự thành công của sự hợp tác giữa Meta và EssilorLuxottica.</p>

Meta Đầu Tư Hàng Tỷ Đô La Vào EssilorLuxottica, Nhà Sản Xuất Kính Ray-Ban

Meta Muốn Đầu Tư Vào EssilorLuxottica, Nhà Sản Xuất Kính Ray-Ban Mục lục: Hợp tác chiến lược: Công nghệ thông minh: Kết quả khả...

tháng 7 19, 2024

OpenAI và Broadcom hợp tác phát triển chip AI mới

Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock

Groq giới thiệu Llama-3-Groq-Tool-Use: Mô hình mã nguồn mở đạt hiệu suất cao trên bảng xếp hạng BFCL

OpenAI ra mắt phiên bản thu gọn của mô hình mạnh nhất của họ: GPT-4o mini

OpenAI ra mắt mô hình AI giá rẻ, thông minh hơn

Meta Đầu Tư Hàng Tỷ Đô La Vào EssilorLuxottica, Nhà Sản Xuất Kính Ray-Ban

Bài đăng phổ biến

Labels