Agent.ai.vn

Vượt trội GPT-4o với Llama 3 8B: Điều chỉnh tinh chỉnh theo miền cụ thể cho RAG

<h1>Vượt trội GPT-4o với Llama 3 8B: Điều chỉnh tinh chỉnh theo miền cụ thể cho RAG</h1>
Mục lục:
<ol>
<li>Giới thiệu</li>
<li>Giải pháp toàn diện với mô hình ngôn ngữ lớn mã nguồn mở</li>
<li>Tại sao cần điều chỉnh tinh chỉnh?</li>
<li>Kết quả đánh giá</li>
<li>Ví dụ đánh giá</li>
<li>Kết luận</li>
</ol>
<h2>1. Giới thiệu</h2>
Nhiều khách hàng của chúng tôi nhận thấy rằng mặc dù các mô hình mã nguồn đóng từ OpenAI và Anthropic hoạt động tốt đối với các tác vụ chung, nhưng chúng không đủ hiệu quả để áp dụng vào hoạt động kinh doanh cốt lõi, nơi mà hiệu suất tác vụ chuyên biệt, chi phí vận hành quy mô lớn và quyền sở hữu mô hình trở nên quan trọng. Bài viết này chia sẻ cách chúng tôi giúp khách hàng sử dụng AI để tự động hóa các tác vụ độc quyền này với các mô hình mã nguồn mở được tinh chỉnh. Chất lượng cao hơn này cho phép khách hàng mở khóa khả năng tự động hóa không có sẵn với các mô hình chung, đồng thời chạy nhanh hơn 13 lần và rẻ hơn 33 lần so với GPT-4o, và nằm trong một mô hình thuộc sở hữu mà họ có thể sử dụng với dữ liệu nhạy cảm, bên trong tường lửa của họ.
<h2>2. Giải pháp toàn diện với mô hình ngôn ngữ lớn mã nguồn mở</h2>
Bài viết này mô tả một giải pháp toàn diện chỉ sử dụng các Mô hình Ngôn ngữ Lớn (LLM) mã nguồn mở để:
<ol>
<li>Tạo tập dữ liệu Câu hỏi & Câu trả lời để tinh chỉnh các mô hình nhỏ hơn và nhanh hơn:
<ul>
<li>Trích xuất dữ liệu từ tài liệu và sử dụng Llama 3 8B với tốc độ trên 1000 token/giây để tạo hàng nghìn cặp Câu hỏi & Câu trả lời.</li>
<li>Tinh chỉnh Llama 3 70B để lọc các cặp Câu hỏi & Câu trả lời chất lượng thấp và chạy bước kiểm soát chất lượng tập dữ liệu với tốc độ trên 570 token/giây.</li>
</ul>
</li>
<li>Xây dựng ứng dụng RAG (Retrieval Augmented Generation - Tạo nội dung được tăng cường bằng truy xuất):
<ul>
<li>Tinh chỉnh các embedding mã nguồn mở (như Microsoft’s E5 Large V2) để tạo đường dẫn truy xuất tốc độ cao và chính xác, vượt trội so với embedding hàng đầu của OpenAI: Text Embedding 3 Large.</li>
<li>Tinh chỉnh các LLM mã nguồn mở (như Llama 3 8B) để tạo câu trả lời từ ngữ cảnh được truy xuất với tốc độ 1000 token/giây và chính xác hơn so với GPT4-o hàng đầu của OpenAI.</li>
<li>Đánh giá câu trả lời RAG bằng Llama 3.1 405B, mô hình đã được chứng minh là cung cấp hiệu suất đánh giá hàng đầu.</li>
</ul>
</li>
</ol>
<img alt="raft-blog-1" height="953" loading="lazy" sizes="(max-width: 1600px) 100vw, 1600px" src="https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=1600&height=953&name=raft-blog-1.png" srcset="https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=800&height=477&name=raft-blog-1.png 800w, https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=1600&height=953&name=raft-blog-1.png 1600w, https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=2400&height=1430&name=raft-blog-1.png 2400w, https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=3200&height=1906&name=raft-blog-1.png 3200w, https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=4000&height=2383&name=raft-blog-1.png 4000w, https://sambanova.ai/hs-fs/hubfs/raft-blog-1.png?width=4800&height=2859&name=raft-blog-1.png 4800w" style="height: auto; max-width: 100%; width: 1600px;" width="1600" />

Hình trên mô tả quá trình toàn diện từ tạo tập dữ liệu đến sử dụng trong RAG.
<h2>3. Tại sao cần điều chỉnh tinh chỉnh?</h2>
Điều chỉnh tinh chỉnh có thể không cần thiết đối với nhiều trường hợp sử dụng mà cơ sở kiến thức không chứa thuật ngữ chuyên ngành. Tuy nhiên, khi có thuật ngữ chuyên ngành, embedding và LLM có thể không biết cách mã hóa chúng ngay lập tức và điều chỉnh tinh chỉnh có thể giúp ích. Hơn nữa, việc tinh chỉnh các mô hình nhỏ hơn có thể đạt được độ chính xác cao hơn so với các mô hình lớn hơn nhiều trong khi cung cấp năng suất cao hơn (khả năng xử lý nhiều câu hỏi hơn mỗi giây).
<h2>4. Kết quả đánh giá</h2>
Các kết quả sau so sánh hiệu suất của các mô hình embedding có và không được tinh chỉnh trên một tập dữ liệu chuyên ngành chứa thuật ngữ an ninh mạng:
<img alt="raft-blog-2" height="320" loading="lazy" sizes="(max-width: 1434px) 100vw, 1434px" src="https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=1434&height=320&name=raft-blog-2.png" srcset="https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=717&height=160&name=raft-blog-2.png 717w, https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=1434&height=320&name=raft-blog-2.png 1434w, https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=2151&height=480&name=raft-blog-2.png 2151w, https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=2868&height=640&name=raft-blog-2.png 2868w, https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=3585&height=800&name=raft-blog-2.png 3585w, https://sambanova.ai/hs-fs/hubfs/raft-blog-2.png?width=4302&height=960&name=raft-blog-2.png 4302w" style="height: auto; max-width: 100%; width: 1434px;" width="1434" />

Thu hồi ngữ cảnh đề cập đến khả năng của các mô hình trong việc mã hóa tài liệu sao cho các tài liệu có liên quan được trả về trong kết quả top k cho một câu hỏi nhất định.
Đường dẫn RAG kết hợp các mô hình embedding để truy xuất và LLM để tạo câu trả lời bằng cách sử dụng ngữ cảnh được truy xuất. Các bước trong đường dẫn RAG, hỗ trợ chatbot, được mô tả trong sơ đồ sau:
<img alt="raft-blog-3" height="674" loading="lazy" sizes="(max-width: 1600px) 100vw, 1600px" src="https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=1600&height=674&name=raft-blog-3.png" srcset="https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=800&height=337&name=raft-blog-3.png 800w, https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=1600&height=674&name=raft-blog-3.png 1600w, https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=2400&height=1011&name=raft-blog-3.png 2400w, https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=3200&height=1348&name=raft-blog-3.png 3200w, https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=4000&height=1685&name=raft-blog-3.png 4000w, https://sambanova.ai/hs-fs/hubfs/raft-blog-3.png?width=4800&height=2022&name=raft-blog-3.png 4800w" style="height: auto; max-width: 100%; width: 1600px;" width="1600" />

Bảng sau đây trình bày kết quả đối với các cấu hình khác nhau của đường dẫn RAG được sử dụng trên tập dữ liệu an ninh mạng. Cột đầu tiên sử dụng các mô hình hàng đầu từ OpenAI, chẳng hạn như embedding Text Embedding 3 Large (TE-3-L) và LLM GPT-4o. Các cột còn lại có các kết hợp của mô hình không được tinh chỉnh ("Base") và mô hình được "Tinh chỉnh" với lý do (bao gồm cả quá trình "suy nghĩ" cùng với "câu trả lời" cho một "câu hỏi"). "Emb" đề cập đến embedding E5 V2 Large và "Gen" đề cập đến Llama 3 8B.
<img alt="raft-blog-4" height="352" loading="lazy" sizes="(max-width: 1428px) 100vw, 1428px" src="https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=1428&height=352&name=raft-blog-4.png" srcset="https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=714&height=176&name=raft-blog-4.png 714w, https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=1428&height=352&name=raft-blog-4.png 1428w, https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=2142&height=528&name=raft-blog-4.png 2142w, https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=2856&height=704&name=raft-blog-4.png 2856w, https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=3570&height=880&name=raft-blog-4.png 3570w, https://sambanova.ai/hs-fs/hubfs/raft-blog-4.png?width=4284&height=1056&name=raft-blog-4.png 4284w" style="height: auto; max-width: 100%; width: 1428px;" width="1428" />

Rõ ràng từ các kết quả trên, việc tinh chỉnh cả mô hình embedding và mô hình tạo ra độ chính xác cao nhất trong việc truy xuất và tạo kết quả. Cần lưu ý rằng các mô hình được tinh chỉnh nhỏ hơn nhiều so với các mô hình OpenAI mà chúng ta đang so sánh, mang lại lợi thế về năng suất ngoài độ chính xác. Trong bảng trên:
<ul>
<li>"Thành công phân tích câu trả lời" đề cập đến khả năng của LLM trong việc tạo ra câu trả lời và tài liệu tham khảo theo định dạng bắt buộc để phân tích downstream. Lưu ý rằng việc tinh chỉnh LLM tạo ra sự khớp hoàn hảo với định dạng yêu cầu.</li>
<li>"Tài liệu tham khảo chính xác" đề cập đến khả năng của mô hình trong việc đưa ra tài liệu tham khảo chính xác đến tài liệu chứa câu trả lời chính xác. GPT-4o hoạt động tốt hơn một chút ở đây với sự trợ giúp của embedding mã nguồn mở được tinh chỉnh.</li>
<li>"Độ chính xác trung bình (mềm)" đề cập đến độ chính xác của mô hình, do Llama 3 405 xác định, đồng thời đưa ra các nhượng bộ cho sự thất bại của thành phần truy xuất/embedding của đường dẫn. Nếu tài liệu có liên quan đến câu hỏi không được truy xuất, thì mô hình phải tuyên bố không biết câu trả lời. Sự kết hợp embedding và tạo được tinh chỉnh hoạt động tốt nhất.</li>
<li>"Độ chính xác trung bình (cứng)" đề cập đến độ chính xác của mô hình, do LLama 3 405 xác định, bất kể thành phần truy xuất/embedding của đường dẫn có trả về ngữ cảnh không liên quan hay không. Sự kết hợp embedding và tạo được tinh chỉnh hoạt động tốt nhất. Mặc dù các mô hình được tinh chỉnh chưa thấy các câu hỏi được sử dụng trong quá trình đánh giá (thuộc tập dữ liệu giữ lại), nhưng chúng rất quen thuộc với cơ sở kiến thức của các tài liệu và điều đó mang lại cho chúng lợi thế trong việc trả lời câu hỏi một cách chính xác.</li>
</ul>
<h2>5. Ví dụ đánh giá</h2>
Sau đây là một ví dụ về đánh giá được thực hiện bởi Llama 3 405B, được nhắc nhở để cung cấp điểm số và lý do đưa ra điểm số đó:
<img alt="raft-blog-5" height="1080" loading="lazy" sizes="(max-width: 1600px) 100vw, 1600px" src="https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=1600&height=1080&name=raft-blog-5.png" srcset="https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=800&height=540&name=raft-blog-5.png 800w, https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=1600&height=1080&name=raft-blog-5.png 1600w, https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=2400&height=1620&name=raft-blog-5.png 2400w, https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=3200&height=2160&name=raft-blog-5.png 3200w, https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=4000&height=2700&name=raft-blog-5.png 4000w, https://sambanova.ai/hs-fs/hubfs/raft-blog-5.png?width=4800&height=3240&name=raft-blog-5.png 4800w" style="height: auto; max-width: 100%; width: 1600px;" width="1600" />

Trong ví dụ trên, tất cả các embedding đều tìm thấy tài liệu chính xác (d*) trong thành phần truy xuất và xếp hạng nó trong top 3. GPT-4o tạo ra câu trả lời kém chính xác hơn so với Llama 3 8B được tinh chỉnh. Giống như GPT-4o, ngay cả Llama 3 8B cơ bản cũng không đề cập đến việc "kiểm thử và gỡ lỗi" là mục đích của khóa đăng ký 'Office Test'. Điều đó là bất chấp thực tế là tên của khóa ngụ ý mục đích và mục đích được nêu rõ trong tài liệu. Điều đó cho thấy rằng việc tinh chỉnh mô hình tạo ra với các lý do có thể giúp cải thiện khả năng lập luận.
<h2>6. Kết luận</h2>
Tóm lại, các mô hình mã nguồn mở nhỏ hơn có thể được tận dụng và tinh chỉnh để vượt trội hơn các mô hình độc quyền hàng đầu, cả về tốc độ và độ chính xác.
Để biết thêm chi tiết về thiết lập các kết quả trên, vui lòng tham khảo bài báo sau: <a href="http://arxiv.org/abs/2411.01073">AttackQA: Phát triển và áp dụng tập dữ liệu để hỗ trợ hoạt động an ninh mạng bằng cách sử dụng LLM mã nguồn mở và được tinh chỉnh</a>.

Vượt trội GPT-4o với Llama 3 8B: Điều chỉnh tinh chỉnh theo miền cụ thể cho RAG

Vượt trội GPT-4o với Llama 3 8B: Điều chỉnh tinh chỉnh theo miền cụ thể cho RAG Mục lục: Giới thiệu Giải pháp toàn diện với mô hình ngôn...

tháng 11 21, 2024

Google Gemini AI: Nâng cấp bộ nhớ và khả năng nghệ thuật

<h1>Google Gemini AI: Nâng cấp bộ nhớ và khả năng nghệ thuật</h1>
Mục lục
<ol>
<li>[Gemini AI: Bộ nhớ cá nhân hóa]</li>
<li>[Google Keep: Biến nét vẽ thành tác phẩm nghệ thuật]</li>
<li>[Kết luận]</li>
</ol>
<h2>1. Gemini AI: Bộ nhớ cá nhân hóa</h2>
Google đang nâng cấp trợ lý AI Gemini, cho phép nó lưu trữ và tham khảo thông tin cá nhân về người dùng, bao gồm sở thích và điều người dùng không thích. Tương tự như tính năng bộ nhớ của ChatGPT, Gemini sẽ ghi nhớ các chi tiết cá nhân này, tạo trải nghiệm cá nhân hoá hơn.
Bạn có thể cung cấp cho Gemini thông tin về tiểu sử, sở thích, mục tiêu và nhiều hơn nữa. Ngoài ra, bạn cũng có thể hướng dẫn Gemini ghi nhớ thông tin trong quá trình trò chuyện hoặc thông qua trang "Thông tin đã lưu". Trang này cho phép bạn chỉnh sửa và xóa thông tin đã lưu. Gemini thậm chí sẽ thông báo cho bạn mỗi khi nó sử dụng thông tin từ trang này.
<img alt="Google Gemini Memory" src="https://cdn.mos.cms.futurecdn.net/v2/t:0,l:0,cw:0,ch:0,q:80,w:320/b9DjJP94YiDrzdj3Av29E9.png" />
Tính năng này nhằm mục đích loại bỏ sự lặp lại trong việc giải thích thông tin, đặc biệt hữu ích cho các dự án kéo dài nhiều cuộc trò chuyện. Google cho rằng các nhà phát triển ứng dụng, nhà văn, sinh viên và nhiều đối tượng khác sẽ được hưởng lợi từ sự tối ưu hóa này. Hiện tại, tính năng bộ nhớ chỉ hoạt động bằng tiếng Anh và yêu cầu đăng ký Gemini Advanced thông qua Gói Google One AI Premium.
<h2>2. Google Keep: Biến nét vẽ thành tác phẩm nghệ thuật</h2>
Bên cạnh việc nâng cấp Gemini, Google còn hé lộ một tính năng sáng tạo thú vị trên Google Keep. Theo mã nguồn được tìm thấy, Google Keep sẽ sớm tích hợp AI để biến những bản phác thảo và hình vẽ của người dùng thành các tác phẩm nghệ thuật chuyên nghiệp, thậm chí cả sơ đồ kỹ thuật.
AI của Google Keep có khả năng phân biệt giữa hình vẽ và văn bản, từ đó hiểu và xử lý thông tin một cách chính xác. Mã nguồn cũng gợi ý về một công cụ tạo ảnh AI riêng biệt, chuyên biến văn bản thành hình ảnh có thể được phác thảo trên Google Keep. Mặc dù chưa có thông báo chính thức về ngày ra mắt, nhưng tình trạng mã nguồn cho thấy tính năng này sẽ sớm được tung ra.
<h2>3. Kết luận</h2>
Cả hai tính năng trên đều tập trung vào việc làm cho việc tương tác với AI trở nên mượt mà và dễ dàng hơn. Từ việc Gemini ghi nhớ sở thích của bạn để đề xuất sách phù hợp, cho đến Google Keep biến những nét vẽ ngẫu hứng thành tác phẩm nghệ thuật, các tính năng này đều hướng đến việc rút ngắn khoảng cách giữa mong muốn của người dùng và kết quả mà AI mang lại.

Google Gemini AI: Nâng cấp bộ nhớ và khả năng nghệ thuật

Google Gemini AI: Nâng cấp bộ nhớ và khả năng nghệ thuật Mục lục [Gemini AI: Bộ nhớ cá nhân hóa] [Google Keep: Biến nét vẽ thành tác phẩ...

tháng 11 21, 2024

OpenAI hướng dẫn giáo viên sử dụng AI: Bài học cho doanh nghiệp

<h1>OpenAI hướng dẫn giáo viên sử dụng AI: Bài học cho doanh nghiệp</h1>
Mục lục:
<ol>
<li>OpenAI và vấn đề đạo đức trong giáo dục</li>
<li>Khóa học trực tuyến của OpenAI dành cho giáo viên</li>
<li>Phản hồi trái chiều và thách thức</li>
<li>Bài học cho doanh nghiệp từ hướng dẫn của OpenAI</li>
<li>Kết luận: Tương lai của AI trong giáo dục và doanh nghiệp</li>
</ol>
1. OpenAI và vấn đề đạo đức trong giáo dục
OpenAI, công ty tiên phong trong cuộc cách mạng AI, thường bị chỉ trích vì việc học sinh sử dụng công nghệ của họ để "gian lận" trong bài tập về nhà. Vấn đề này đã trở nên nghiêm trọng đến mức một số giáo viên phải tìm cách để phát hiện học sinh sử dụng AI trái phép, trong khi trên diễn đàn cộng đồng của OpenAI, các nhà phát triển tranh luận sôi nổi về việc bảo vệ "tính toàn vẹn học thuật". Trước tình hình này, OpenAI đã có một bước đi chủ động bằng cách phát hành một khóa học trực tuyến miễn phí nhằm giúp các giáo viên từ cấp tiểu học đến trung học tích hợp công nghệ chatbot của họ vào công việc giảng dạy.
2. Khóa học trực tuyến của OpenAI dành cho giáo viên
Khóa học này được phát triển cùng với Common Sense Media, một tổ chức phi lợi nhuận mà OpenAI hợp tác từ tháng 1 năm nay với cam kết "cùng nhau xây dựng các hướng dẫn và tài liệu giáo dục về AI". Theo trang tin TechCrunch, khóa học kéo dài một giờ, gồm chín module, giải thích về cốt lõi của công nghệ AI và cách sử dụng nó trong môi trường giáo dục. OpenAI cho biết khóa học đã được sử dụng tại "hàng chục" trường học và nghiên cứu nội bộ cho thấy 98% người tham gia có cảm nhận tích cực về việc sử dụng công nghệ này – cho rằng nó mang đến những ý tưởng mới trong công việc.
Tuy nhiên, kết quả khảo sát tích cực này từ chính OpenAI lại gây ra nhiều nghi ngờ. TechCrunch dẫn lời các giáo viên và nhà phê bình đặt câu hỏi về giá trị của các module về quyền riêng tư và an toàn, đồng thời lưu ý rằng không có nhiều hướng dẫn về cách OpenAI sử dụng nội dung do giáo viên tạo ra cho mục đích riêng của mình.
3. Phản hồi trái chiều và thách thức
Đây không phải là lần đầu tiên OpenAI hướng đến các nhà giáo dục. Đầu năm nay, họ đã phát hành ChatGPT Edu, một phiên bản chatbot dành riêng cho nhân viên cấp đại học. Trang web của công ty cho biết chatbot này, được hỗ trợ bởi thuật toán GPT-4o mạnh mẽ, "có thể lập luận trên văn bản và hình ảnh, sử dụng các công cụ tiên tiến như phân tích dữ liệu", đồng thời bao gồm "bảo mật và điều khiển cấp doanh nghiệp". Công ty cho biết AI chuyên dụng này có giá cả "phù hợp với các tổ chức giáo dục". Điều quan trọng là, các cuộc trò chuyện thông qua cổng thông tin này "không được sử dụng để huấn luyện các mô hình OpenAI", điều này, hy vọng, sẽ bảo vệ dữ liệu của học sinh và bất kỳ thông tin cá nhân nào mà họ nhập vào chatbot.
Tuy nhiên, việc sử dụng AI trong các cơ sở giáo dục vẫn còn gây tranh cãi. TechCrunch lưu ý một cuộc khảo sát gần đây của Pew Research cho thấy đa số giáo viên tiểu học và trung học công lập được hỏi "không chắc chắn hoặc thấy những mặt trái của việc sử dụng chung các công cụ AI trong giáo dục K-12" và "một phần tư giáo viên tiểu học và trung học công lập nói rằng việc sử dụng các công cụ AI trong giáo dục K-12 gây hại nhiều hơn lợi".
4. Bài học cho doanh nghiệp từ hướng dẫn của OpenAI
Vậy chúng ta có thể học được gì từ hướng dẫn mới này dành cho giáo viên, và tại sao nó lại hữu ích cho những người ngoài ngành giáo dục và học thuật?
Khá nhiều điều, hóa ra là như vậy. Nếu công ty của bạn đang trong giai đoạn đầu ứng dụng công nghệ AI, khóa học miễn phí của OpenAI có thể giúp nhân viên mới hoặc quản lý có kỹ năng CNTT kém nắm bắt được công nghệ chatbot như ChatGPT. Và mặc dù nó được thiết kế đặc biệt để giúp giáo viên "thực hiện các thực tiễn tốt nhất để áp dụng các nguyên tắc AI có trách nhiệm trong môi trường trường học", nó cũng có thể giúp các công ty tìm ra cách triển khai AI có trách nhiệm trong môi trường làm việc – nhiều vấn đề về quyền riêng tư và độ tin cậy của AI (như ảo giác hoặc thông tin sai lệch cố ý trong phản hồi) áp dụng ở văn phòng cũng như trong lớp học.
Việc phát hành khóa học cũng là một "bài học" về việc "kiểm soát câu chuyện". Trong khi một số nhà giáo dục vẫn tiếp tục bày tỏ lo ngại rằng công nghệ AI sẽ làm đảo lộn mô hình giáo dục hiện tại theo một cách tiêu cực, thì bằng việc phát hành khóa học, OpenAI ngụ ý rằng "con đường duy nhất là vượt qua" và tác động của AI đối với việc giảng dạy là không thể tránh khỏi.
Hơn nữa, OpenAI có thể đang gieo mầm tạo ra thế hệ bản địa AI đầu tiên. Những học sinh luôn sử dụng công nghệ sẽ mong đợi nó trở thành một phần trong cuộc sống làm việc của họ, điều này có thể có ảnh hưởng sâu sắc đến diện mạo, cách thức hoạt động và chuyên môn công nghệ của nơi làm việc trong tương lai gần.
5. Kết luận: Tương lai của AI trong giáo dục và doanh nghiệp
Khóa học của OpenAI không chỉ là một nỗ lực để giải quyết các vấn đề đạo đức liên quan đến việc sử dụng AI trong giáo dục, mà còn là một minh chứng cho tầm nhìn và chiến lược dài hạn của công ty này. Việc tích hợp AI vào giáo dục và doanh nghiệp là không thể tránh khỏi, và OpenAI đang tích cực định hình tương lai này bằng cách cung cấp các công cụ và hướng dẫn cần thiết. Sự phát triển này chắc chắn sẽ có tác động sâu rộng đến cả giáo dục và thị trường lao động trong những năm tới.

OpenAI hướng dẫn giáo viên sử dụng AI: Bài học cho doanh nghiệp

OpenAI hướng dẫn giáo viên sử dụng AI: Bài học cho doanh nghiệp Mục lục: OpenAI và vấn đề đạo đức trong giáo dục Khóa học trực tuyến của...

tháng 11 21, 2024

Bản đồ thông minh hơn nhờ tinh chỉnh tầm nhìn GPT-4o: Grab và OpenAI hợp tác xây dựng bản đồ Đông Nam Á

<h1>Bản đồ thông minh hơn nhờ tinh chỉnh tầm nhìn GPT-4o: Grab và OpenAI hợp tác xây dựng bản đồ Đông Nam Á</h1>
Mục lục:
<ol>
<li>Giới thiệu Grab và thách thức lập bản đồ Đông Nam Á</li>
<li>Giải pháp: Tinh chỉnh tầm nhìn GPT-4o</li>
<li>Kết quả: Nâng cao hiệu quả và độ chính xác</li>
<li>Mở rộng khả năng tiếp cận và phản hồi</li>
<li>Kết luận</li>
</ol>
<hr />
<ol>
<li>Giới thiệu Grab và thách thức lập bản đồ Đông Nam Á</li>
</ol>
Grab, công ty công nghệ hàng đầu Đông Nam Á với hơn 42 triệu người dùng hàng tháng tại 8 quốc gia và 6 triệu đối tác tài xế, đang tận dụng dữ liệu hình ảnh đường phố thu thập từ các đối tác của mình để xây dựng GrabMaps – một dịch vụ bản đồ hỗ trợ toàn bộ hoạt động của công ty. Tuy nhiên, việc lập bản đồ Đông Nam Á lại đặt ra những thách thức độc đáo. Mạng lưới đường sá phức tạp với những con phố nhỏ hẹp, một chiều, được tối ưu cho xe máy và người đi bộ, cùng với cảnh quan đô thị thay đổi nhanh chóng và độ bao phủ hạn chế từ các nhà cung cấp bản đồ truyền thống, đã tạo ra nhiều khó khăn.
<blockquote>
“Để đáp ứng nhu cầu của khu vực, chúng tôi phải xây dựng một hệ thống siêu cục bộ và năng động – lập bản đồ Đông Nam Á theo sự phát triển của nó.” – Adrian Margin, Trưởng bộ phận Khoa học Dữ liệu cho Bản đồ Địa lý tại Grab.
</blockquote>
<ol start="2">
<li>Giải pháp: Tinh chỉnh tầm nhìn GPT-4o</li>
</ol>
Để khắc phục những trở ngại này, Grab đã sử dụng công nghệ tinh chỉnh tầm nhìn của GPT-4o từ OpenAI. Hệ thống GrabMaps đã thu thập hàng triệu hình ảnh đường phố cấp độ chi tiết từ mạng lưới các đối tác tài xế xe máy và người đi bộ, mỗi người được trang bị camera 360 độ.
Việc tinh chỉnh tầm nhìn GPT-4o cho phép GrabMaps xác định chính xác hơn các biển báo tốc độ, hạn chế rẽ, địa điểm và hình dạng đường sá.
<ol start="3">
<li>Kết quả: Nâng cao hiệu quả và độ chính xác</li>
</ol>
Những thí nghiệm ban đầu của Grab tập trung vào việc ghép nối biển báo tốc độ với các tuyến đường tương ứng. Chỉ với 100 mẫu dữ liệu kết hợp hình ảnh đường phố và bản đồ, nhóm nghiên cứu đã tinh chỉnh GPT-4o thông qua nhiều lần điều chỉnh siêu tham số để nâng cao độ chính xác.
Kết quả ấn tượng:
<ul>
<li>Độ chính xác ban đầu đạt 67% đã được cải thiện lên 80% sau hai vòng tinh chỉnh – tăng 13 điểm phần trăm.</li>
<li>Mô hình hoạt động xuất sắc trong việc xử lý các tình huống phức tạp như đường cao tốc và vật cản, những tình huống trước đây cần nhiều can thiệp thủ công. Khả năng tham chiếu chéo hình ảnh đường phố với bản đồ giúp mô hình đưa ra quyết định dựa trên ngữ cảnh, tương tự như con người.</li>
</ul>
<blockquote>
“Việc tinh chỉnh GPT-4o với dữ liệu của chúng tôi cho phép chúng tôi xử lý các hình học phức tạp hiệu quả, giảm thiểu sự can thiệp thủ công và chi phí hoạt động,” – Adrian Margin chia sẻ.
</blockquote>
Cụ thể, việc ứng dụng tinh chỉnh tầm nhìn đã mang lại những cải tiến đáng kể:
<ul>
<li>Độ chính xác đếm làn đường tăng 20%.</li>
<li>Độ chính xác định vị biển báo tốc độ tăng 13%.</li>
<li>Giảm thiểu nỗ lực lập bản đồ thủ công, cắt giảm chi phí hoạt động và nâng cao độ tin cậy của chất lượng dữ liệu.</li>
<li>Nâng cao khả năng xử lý các tình huống phức tạp như biển báo trên cao và vật cản, dẫn đến ít lỗi hơn trong đầu ra bản đồ.</li>
</ul>
<ol start="4">
<li>Mở rộng khả năng tiếp cận và phản hồi</li>
</ol>
Grab đang tiếp tục mở rộng khả năng AI để làm cho nền tảng của mình dễ tiếp cận và phản hồi hơn. Một trợ lý giọng nói hỗ trợ đa ngôn ngữ, giao tiếp thân thiện dành cho người dùng khiếm thị và người cao tuổi đang được phát triển để giúp mọi người dễ dàng điều hướng ứng dụng hơn.
Grab cũng đang xây dựng một chatbot hỗ trợ tiên tiến để xử lý các yêu cầu phức tạp. Bằng cách hiểu các quy trình hoạt động tiêu chuẩn (SOP) chi tiết và đưa ra phản hồi đồng cảm, được cá nhân hóa, chatbot này nhằm mục đích cải thiện trải nghiệm người dùng trong khi vẫn đảm bảo hiệu quả hoạt động.
<blockquote>
“Chúng tôi là người tiên phong trong việc áp dụng AI trong khu vực và tin rằng AI có rất nhiều tiềm năng để tiếp tục chuyển đổi cách chúng tôi giải quyết vấn đề cho các đối tác và người dùng của mình,” – Philipp Kandal, Giám đốc Sản phẩm của Grab cho biết. “Chúng tôi rất vui mừng được hợp tác với OpenAI để giúp đẩy nhanh việc khám phá và sử dụng công nghệ này.”
</blockquote>
<ol start="5">
<li>Kết luận</li>
</ol>
Sự hợp tác giữa Grab và OpenAI đã chứng minh hiệu quả của công nghệ tinh chỉnh tầm nhìn GPT-4o trong việc xây dựng bản đồ thông minh hơn cho Đông Nam Á. GrabMaps không chỉ là một công cụ hỗ trợ hoạt động nội bộ mà còn là minh chứng cho cam kết của Grab đối với khu vực, đem lại sự tiện lợi và hiệu quả cho hàng triệu người dùng và đối tác tài xế.

Bản đồ thông minh hơn nhờ tinh chỉnh tầm nhìn GPT-4o: Grab và OpenAI hợp tác xây dựng bản đồ Đông Nam Á

Bản đồ thông minh hơn nhờ tinh chỉnh tầm nhìn GPT-4o: Grab và OpenAI hợp tác xây dựng bản đồ Đông Nam Á Mục lục: Giới thiệu Grab và thách...

tháng 11 21, 2024

Khóa học đào tạo AI miễn phí mới của OpenAI dành cho giáo viên

<h1>Khóa học đào tạo AI miễn phí mới của OpenAI dành cho giáo viên</h1>
Mục lục
<ul>
<li>Giới thiệu về khóa học</li>
<li>Bối cảnh ra đời của khóa học</li>
<li>Mục tiêu và nội dung khóa học</li>
<li>Vai trò của OpenAI trong giáo dục</li>
<li>Tầm nhìn của OpenAI về tương lai của AI trong giáo dục</li>
</ul>
Giới thiệu về khóa học
OpenAI và đối tác phi lợi nhuận Common Sense Media đã cùng nhau ra mắt một khóa học đào tạo miễn phí dành cho giáo viên. Khóa học này nhằm mục đích làm rõ hơn về trí tuệ nhân tạo (AI) và kỹ thuật gợi ý (prompt engineering). Khóa học được cung cấp trên trang web của Common Sense Media và là sản phẩm đầu tiên trong mối quan hệ hợp tác giữa OpenAI và Common Sense Media.
Bối cảnh ra đời của khóa học
Sự ra mắt của ChatGPT vào tháng 11 năm 2022 đã tạo nên cơn sốt về AI thế hệ mới và trở thành một trong những ứng dụng phát triển nhanh nhất thế giới. Khả năng tạo nội dung giống như con người của ChatGPT, bao gồm bài luận, bài tập khoa học, thậm chí cả tiểu thuyết, đã khiến nhiều giáo viên bất ngờ và lo ngại về khả năng gian lận và đạo văn trong học đường. Điều này dẫn đến phản ứng dữ dội và nhiều trường học đã cấm sử dụng ChatGPT.
Để đối phó với tình hình này, OpenAI, với sự hậu thuẫn của Microsoft và các nhà đầu tư khác (được định giá 157 tỷ đô la Mỹ trong vòng gọi vốn gần nhất), đã thành lập một nhóm chuyên trách hỗ trợ việc sử dụng AI có trách nhiệm trong giáo dục. Nhóm này do cựu giám đốc điều hành của Coursera, Leah Belsky, dẫn đầu.
Mục tiêu và nội dung khóa học
Khóa học được thiết kế dành cho giáo viên từ mẫu giáo đến lớp 12. Nó hướng dẫn giáo viên cách sử dụng ChatGPT trong nhiều trường hợp giáo dục khác nhau, chẳng hạn như tạo nội dung bài học hoặc sắp xếp các cuộc họp bộ phận hiệu quả hơn. Mục tiêu chính là trang bị cho giáo viên kiến thức và kỹ năng sử dụng AI một cách có trách nhiệm và hiệu quả. Bà Belsky chia sẻ rằng việc học sinh sử dụng ChatGPT đang rất phổ biến và các bậc phụ huynh nhìn chung đều ủng hộ, coi kỹ năng AI là điều cần thiết cho sự nghiệp tương lai.
Vai trò của OpenAI trong giáo dục
OpenAI đang tích cực thúc đẩy vai trò tích cực của ChatGPT trong giáo dục. Họ nhấn mạnh tầm quan trọng của việc cung cấp cho học sinh và giáo viên các kỹ năng cần thiết để sử dụng AI một cách có trách nhiệm. Việc ra mắt khóa học đào tạo miễn phí này thể hiện cam kết của OpenAI đối với việc hỗ trợ giáo dục và đảm bảo sử dụng AI một cách có đạo đức trong môi trường học tập.
Tầm nhìn của OpenAI về tương lai của AI trong giáo dục
Mục tiêu của OpenAI là đưa AI đến tay mọi học sinh và giáo viên, đồng thời trang bị cho họ các kỹ năng cần thiết để sử dụng AI một cách có trách nhiệm và hiệu quả. Điều này cho thấy tầm nhìn dài hạn của OpenAI trong việc tích hợp AI vào hệ thống giáo dục và tạo ra một môi trường học tập tiên tiến hơn.

Khóa học đào tạo AI miễn phí mới của OpenAI dành cho giáo viên

Khóa học đào tạo AI miễn phí mới của OpenAI dành cho giáo viên Mục lục Giới thiệu về khóa học Bối cảnh ra đời của khóa học Mục tiêu và ...

tháng 11 21, 2024

Mô hình AI "suy luận" của Trung Quốc cạnh tranh với OpenAI's o1

<h1>Mô hình AI "suy luận" của Trung Quốc cạnh tranh với OpenAI's o1</h1>
Mục lục
<ol>
<li>DeepSeek-R1: Mô hình AI suy luận mới từ Trung Quốc</li>
<li>Khả năng và giới hạn của DeepSeek-R1</li>
<li>Ảnh hưởng của chính sách Trung Quốc đối với DeepSeek-R1</li>
<li>Xu hướng mới trong phát triển AI: Tính toán thời gian thực thi</li>
</ol>
<hr />
<h2>1. DeepSeek-R1: Mô hình AI suy luận mới từ Trung Quốc</h2>
Một phòng thí nghiệm AI của Trung Quốc đã công bố một mô hình AI "suy luận" được cho là có khả năng cạnh tranh với mô hình o1 của OpenAI. Phòng thí nghiệm đó là DeepSeek, được hậu thuẫn bởi một quỹ đầu tư phòng hộ định lượng. Họ đã phát hành bản xem trước của DeepSeek-R1, mô hình mà công ty tuyên bố có khả năng suy luận ngang ngửa với o1. Khác với hầu hết các mô hình khác, các mô hình suy luận tự kiểm tra tính chính xác thông tin bằng cách dành nhiều thời gian hơn để xem xét câu hỏi hoặc truy vấn. Điều này giúp chúng tránh được một số cạm bẫy thường gặp ở các mô hình khác.
<img alt="Illustration of a robot in" man="" pose="" src="https://techcrunch.com/wp-content/uploads/2016/11/wtf_is_ai.jpg?w=1024" thinking="" />
<h2>2. Khả năng và giới hạn của DeepSeek-R1</h2>
Tương tự như o1, DeepSeek-R1 lập luận thông qua các nhiệm vụ, lên kế hoạch trước và thực hiện một loạt các hành động giúp mô hình đưa ra câu trả lời. Điều này có thể mất một thời gian. Giống như o1, tùy thuộc vào độ phức tạp của câu hỏi, DeepSeek-R1 có thể "suy nghĩ" trong vài chục giây trước khi trả lời.
DeepSeek tuyên bố rằng DeepSeek-R1 (hoặc chính xác hơn là DeepSeek-R1-Lite-Preview) hoạt động tương đương với mô hình o1-preview của OpenAI trên hai điểm chuẩn AI phổ biến, AIME và MATH. AIME sử dụng các mô hình AI khác để đánh giá hiệu suất của một mô hình, trong khi MATH là một tập hợp các bài toán bằng lời. Tuy nhiên, mô hình này không hoàn hảo. Một số người bình luận trên X lưu ý rằng DeepSeek-R1 gặp khó khăn với trò chơi ô ăn quan và các bài toán logic khác (giống như o1).
<img alt="DeepSeek-R1" src="https://techcrunch.com/wp-content/uploads/2024/11/Screenshot-2024-11-20-at-11.22.25AM.png?w=680" />
DeepSeek-R1 cũng có thể dễ dàng bị "jailbreak" - tức là được nhắc nhở theo cách mà nó bỏ qua các biện pháp bảo vệ. Một người dùng X đã khiến mô hình đưa ra công thức chi tiết về ma túy.
Hơn nữa, DeepSeek-R1 dường như chặn các truy vấn được coi là quá nhạy cảm về mặt chính trị. Trong thử nghiệm của chúng tôi, mô hình từ chối trả lời các câu hỏi về nhà lãnh đạo Trung Quốc Tập Cận Bình, Quảng trường Thiên An Môn và các tác động địa chính trị của việc Trung Quốc xâm lược Đài Loan.
<img alt="DeepSeek-R1" src="https://techcrunch.com/wp-content/uploads/2024/11/Screenshot-2024-11-20-at-10.36.22AM.png?w=680" />
<h2>3. Ảnh hưởng của chính sách Trung Quốc đối với DeepSeek-R1</h2>
Hành vi này có thể là kết quả của áp lực từ chính phủ Trung Quốc đối với các dự án AI trong khu vực. Các mô hình ở Trung Quốc phải trải qua quá trình đánh giá chuẩn bởi cơ quan quản lý internet của Trung Quốc để đảm bảo phản hồi của chúng "thể hiện các giá trị xã hội chủ nghĩa cốt lõi". Được biết, chính phủ đã đề xuất một danh sách đen các nguồn không thể được sử dụng để huấn luyện các mô hình - dẫn đến việc nhiều hệ thống AI của Trung Quốc từ chối trả lời các chủ đề có thể gây ra sự phẫn nộ của các cơ quan quản lý.
<h2>4. Xu hướng mới trong phát triển AI: Tính toán thời gian thực thi</h2>
Sự chú ý ngày càng tăng đối với các mô hình suy luận xuất hiện khi tính khả thi của "luật mở rộng", các lý thuyết lâu đời cho rằng việc ném thêm dữ liệu và sức mạnh tính toán vào một mô hình sẽ liên tục làm tăng khả năng của nó, đang bị đặt câu hỏi. Nhiều báo cáo báo chí cho thấy các mô hình từ các phòng thí nghiệm AI lớn, bao gồm OpenAI, Google và Anthropic, không được cải thiện ấn tượng như trước đây.
Điều đó đã dẫn đến sự cạnh tranh gay gắt cho các phương pháp tiếp cận, kiến trúc và kỹ thuật phát triển AI mới. Một trong số đó là tính toán thời gian thực thi, làm nền tảng cho các mô hình như o1 và DeepSeek-R1. Còn được gọi là tính toán suy luận, tính toán thời gian thực thi về cơ bản cung cấp cho các mô hình thêm thời gian xử lý để hoàn thành nhiệm vụ.
"Chúng ta đang chứng kiến sự xuất hiện của một định luật mở rộng mới", CEO của Microsoft, Satya Nadella, cho biết trong tuần này tại hội nghị Ignite của Microsoft, đề cập đến tính toán thời gian thực thi.
DeepSeek, cho biết họ có kế hoạch mã nguồn mở DeepSeek-R1 và phát hành một API, là một hoạt động đáng chú ý. Nó được hậu thuẫn bởi High-Flyer Capital Management, một quỹ đầu tư phòng hộ định lượng của Trung Quốc sử dụng AI để hỗ trợ quyết định giao dịch của mình. Một trong những mô hình đầu tiên của DeepSeek, một mô hình phân tích văn bản và hình ảnh đa năng có tên DeepSeek-V2, đã buộc các đối thủ cạnh tranh như ByteDance, Baidu và Alibaba phải giảm giá sử dụng cho một số mô hình của họ - và làm cho các mô hình khác hoàn toàn miễn phí.
High-Flyer tự xây dựng các cụm máy chủ của riêng mình để huấn luyện mô hình, gần đây nhất là cụm máy chủ có 10.000 GPU Nvidia A100 và trị giá 1 tỷ yên (~138 triệu USD). Được sáng lập bởi Liang Wenfeng, một sinh viên tốt nghiệp khoa học máy tính, High-Flyer đặt mục tiêu đạt được AI "siêu thông minh" thông qua tổ chức DeepSeek của mình.
 
<hr />

Mô hình AI "suy luận" của Trung Quốc cạnh tranh với OpenAI's o1

Mô hình AI "suy luận" của Trung Quốc cạnh tranh với OpenAI's o1 Mục lục DeepSeek-R1: Mô hình AI suy luận mới từ Trung Quốc ...

tháng 11 21, 2024

Vượt trội GPT-4o với Llama 3 8B: Điều chỉnh tinh chỉnh theo miền cụ thể cho RAG

Google Gemini AI: Nâng cấp bộ nhớ và khả năng nghệ thuật

OpenAI hướng dẫn giáo viên sử dụng AI: Bài học cho doanh nghiệp

Bản đồ thông minh hơn nhờ tinh chỉnh tầm nhìn GPT-4o: Grab và OpenAI hợp tác xây dựng bản đồ Đông Nam Á

Khóa học đào tạo AI miễn phí mới của OpenAI dành cho giáo viên

Mô hình AI "suy luận" của Trung Quốc cạnh tranh với OpenAI's o1

Bài đăng phổ biến

Labels