Agent.ai.vn

Xây dựng chatbot RAG với JavaScript, LangChain.js, Next.js, Vercel, OpenAI

<h2>Xây dựng và triển khai chatbot RAG với JavaScript, LangChain.js, Next.js, Vercel, OpenAI</h2>
Mục lục:
<ol>
<li>Giới thiệu</li>
<li>RAG là gì?</li>
<li>Điều kiện tiên quyết</li>
<li>Vector embedding là gì?</li>
<li>Cài đặt Data Stacks</li>
<li>Cài đặt OpenAI</li>
<li>Khởi tạo dự án Next.js</li>
<li>Tạo các tập tin và thư mục</li>
<li>Viết script load db.ts</li>
<li>Kết nối với Data Stacks và OpenAI</li>
<li>Scrape dữ liệu và tạo vector embedding</li>
<li>Thiết kế giao diện người dùng</li>
<li>Xây dựng các thành phần UI</li>
<li>Viết API route root</li>
<li>Thử nghiệm chatbot</li>
</ol>
1. Giới thiệu
Bài báo hướng dẫn cách xây dựng và triển khai một chatbot RAG (Retriever-Augmented Generation) được đào tạo trên dữ liệu của riêng bạn. Chatbot này được xây dựng với các công nghệ như LangChain.js, Next.js, Vercel và OpenAI. 
2. RAG là gì?
RAG (Retriever-Augmented Generation) là một kỹ thuật nâng cao khả năng của mô hình ngôn ngữ lớn (LLM) bằng cách cung cấp cho nó thêm ngữ cảnh cùng với đầu vào của người dùng. Nhờ đó, LLM có thể sử dụng khả năng tạo văn bản của mình cùng với ngữ cảnh bổ sung để cung cấp câu trả lời chính xác cho các câu hỏi của người dùng.
3. Điều kiện tiên quyết
Để theo dõi hướng dẫn này, bạn cần:
<ul>
<li>Phiên bản mới nhất của Node.js.</li>
<li>Tài khoản OpenAI.</li>
<li>Kiến thức cơ bản về Next.js.</li>
</ul>
4. Vector embedding là gì?
Vector embedding là một kỹ thuật phổ biến để biểu diễn thông tin dưới dạng một định dạng có thể xử lý dễ dàng bởi các thuật toán, đặc biệt là các mô hình học sâu. Thông tin này có thể là văn bản, hình ảnh, video, âm thanh, v.v.
5. Cài đặt Data Stacks
Data Stacks là một hệ thống quản lý cơ sở dữ liệu vectơ, cho phép bạn lưu trữ và truy vấn các vector embedding. 
<ul>
<li>Tạo một tài khoản Data Stacks miễn phí.</li>
<li>Tạo một cơ sở dữ liệu mới, chọn tùy chọn Serverless Vector Database.</li>
<li>Lưu ý thông tin về:<ul>
<li>Endpoint của cơ sở dữ liệu.</li>
<li>Token ứng dụng.</li>
<li>Namespace.</li>
</ul>
</li>
</ul>
6. Cài đặt OpenAI
<ul>
<li>Tạo một tài khoản OpenAI.</li>
<li>Tạo một API Key để kết nối với OpenAI.</li>
<li>Lưu API Key của bạn để sử dụng sau này.</li>
</ul>
7. Khởi tạo dự án Next.js
<ul>
<li>Sử dụng lệnh <code>npx create-next-app@latest nextjs-f1-gpt --ts</code> để khởi tạo dự án Next.js.</li>
<li>Chọn tùy chọn "Yes" cho TypeScript, "No" cho Tailwind CSS, Source Maps và App Router.</li>
</ul>
8. Tạo các tập tin và thư mục
<ul>
<li>Tạo các thư mục sau:<ul>
<li><code>app</code>: Chứa các thành phần của ứng dụng.<ul>
<li><code>api</code>: Chứa các API route.<ul>
<li><code>chat</code>: Chứa API route để xử lý chatbot.<ul>
<li><code>root.ts</code>: API route chính.</li>
</ul>
</li>
</ul>
</li>
<li><code>assets</code>: Chứa các tài sản như hình ảnh.</li>
</ul>
</li>
</ul>
</li>
<li>Tạo các tập tin sau:<ul>
<li><code>global.css</code>: Chứa các kiểu CSS toàn cục.</li>
<li><code>layout.tsx</code>: Layout chính của ứng dụng.</li>
<li><code>page.tsx</code>: Thành phần chính của ứng dụng.</li>
<li><code>scripts/load-db.ts</code>: Script để tải dữ liệu vào cơ sở dữ liệu.</li>
</ul>
</li>
</ul>
9. Viết script load-db.ts
Script này sẽ tải dữ liệu từ các trang web được scrape vào cơ sở dữ liệu Data Stacks.
<ul>
<li>Import các package cần thiết:<ul>
<li><code>DataStacks/AstraDB</code> để kết nối với Data Stacks.</li>
<li><code>puppeteer</code> để scrape dữ liệu từ các trang web.</li>
<li><code>langchain</code> để xử lý văn bản và tạo vector embedding.</li>
<li><code>openai</code> để kết nối với OpenAI.</li>
<li><code>dotenv</code> để quản lý các biến bí mật.</li>
</ul>
</li>
<li>Khởi tạo kết nối với cơ sở dữ liệu Data Stacks:<ul>
<li>Sử dụng <code>DataAPIClient</code> để kết nối với cơ sở dữ liệu.</li>
<li>Cung cấp thông tin về endpoint, token ứng dụng và namespace.</li>
</ul>
</li>
<li>Khởi tạo kết nối với OpenAI:<ul>
<li>Sử dụng <code>OpenAI</code> để kết nối với OpenAI.</li>
<li>Cung cấp API Key.</li>
</ul>
</li>
<li>Scrape dữ liệu từ các trang web:<ul>
<li>Sử dụng <code>Puppeteer</code> để scrape các trang web được định nghĩa trong một mảng URLs.</li>
<li>Sử dụng <code>RecursiveCharacterTextSplitter</code> từ LangChain để chia văn bản thành các đoạn nhỏ.</li>
</ul>
</li>
<li>Tạo vector embedding cho từng đoạn văn bản:<ul>
<li>Sử dụng <code>openai.embeddings.create</code> để tạo vector embedding cho từng đoạn văn bản.</li>
<li>Cung cấp thông tin về model, input và encoding format.</li>
</ul>
</li>
<li>Lưu trữ các vector embedding vào cơ sở dữ liệu Data Stacks:<ul>
<li>Sử dụng <code>collection.insertOne</code> để lưu trữ từng vector embedding vào cơ sở dữ liệu.</li>
<li>Cung cấp thông tin về vector và văn bản tương ứng.</li>
</ul>
</li>
</ul>
10. Kết nối với Data Stacks và OpenAI
<ul>
<li>Trong tập tin <code>load-db.ts</code>, bạn sẽ cần kết nối với cả Data Stacks và OpenAI.</li>
<li>Sử dụng <code>dotenv</code> để đọc các biến bí mật từ tập tin <code>.env</code>.</li>
<li>Lưu trữ các biến này vào các biến môi trường.</li>
</ul>
11. Scrape dữ liệu và tạo vector embedding
<ul>
<li>Sử dụng <code>puppeteer</code> để scrape các trang web được định nghĩa trong một mảng URLs.</li>
<li>Sử dụng <code>RecursiveCharacterTextSplitter</code> từ LangChain để chia văn bản thành các đoạn nhỏ.</li>
<li>Sử dụng <code>openai.embeddings.create</code> để tạo vector embedding cho từng đoạn văn bản.</li>
</ul>
12. Thiết kế giao diện người dùng
<ul>
<li>Sử dụng Next.js để tạo giao diện người dùng.</li>
<li>Tạo một thành phần chính <code>page.tsx</code> chứa các thành phần UI sau:<ul>
<li>Logo của chatbot.</li>
<li>Một phần để hiển thị các tin nhắn chat.</li>
<li>Một phần để nhập tin nhắn chat.</li>
<li>Các nút gợi ý câu hỏi.</li>
</ul>
</li>
</ul>
13. Xây dựng các thành phần UI
<ul>
<li>Tạo các thành phần UI sau:<ul>
<li><code>Bubble.tsx</code>: Thành phần hiển thị từng tin nhắn chat.</li>
<li><code>LoadingBubble.tsx</code>: Thành phần hiển thị animation khi đang tải.</li>
<li><code>PromptSuggestionRow.tsx</code>: Thành phần hiển thị các nút gợi ý câu hỏi.</li>
<li><code>PromptSuggestionButton.tsx</code>: Thành phần hiển thị một nút gợi ý câu hỏi.</li>
</ul>
</li>
</ul>
14. Viết API route root
<ul>
<li>Tạo một API route <code>root.ts</code> trong thư mục <code>app/api/chat</code>.</li>
<li>API route này sẽ xử lý các yêu cầu từ chatbot.</li>
<li>Sử dụng các package sau:<ul>
<li><code>openai</code> để kết nối với OpenAI.</li>
<li><code>DataStacks/AstraDB</code> để kết nối với Data Stacks.</li>
<li><code>AI/bestcell</code> để xử lý luồng tin nhắn.</li>
</ul>
</li>
<li>API route sẽ thực hiện các bước sau:<ul>
<li>Đọc tin nhắn chat mới nhất từ yêu cầu.</li>
<li>Tạo vector embedding cho tin nhắn chat mới nhất.</li>
<li>Truy vấn cơ sở dữ liệu Data Stacks để tìm các vector tương tự.</li>
<li>Tạo một template để gửi cho OpenAI.</li>
<li>Gửi template cho OpenAI và nhận kết quả.</li>
<li>Xử lý kết quả từ OpenAI và trả về cho client.</li>
</ul>
</li>
</ul>
15. Thử nghiệm chatbot
<ul>
<li>Khởi động ứng dụng Next.js bằng lệnh <code>npm run dev</code>.</li>
<li>Truy cập vào địa chỉ <code>http://localhost:3000</code>.</li>
<li>Gửi các câu hỏi cho chatbot và xem kết quả.</li>
</ul>
Lưu ý:
<ul>
<li>Hướng dẫn này chỉ là một ví dụ cơ bản về cách xây dựng chatbot RAG. </li>
<li>Bạn có thể tùy chỉnh các chức năng, giao diện người dùng và data sources phù hợp với nhu cầu của mình.</li>
<li>Hãy nghiên cứu thêm về các công nghệ được sử dụng trong hướng dẫn để hiểu rõ hơn về cách chúng hoạt động.</li>
</ul>
Lời kết:
Với hướng dẫn này, bạn đã có thể xây dựng và triển khai một chatbot RAG hiệu quả, cho phép bạn cung cấp cho người dùng các câu trả lời chính xác và đầy đủ ngữ cảnh dựa trên dữ liệu của riêng bạn.

Xây dựng chatbot RAG với JavaScript, LangChain.js, Next.js, Vercel, OpenAI

Xây dựng và triển khai chatbot RAG với JavaScript, LangChain.js, Next.js, Vercel, OpenAI Mục lục: Giới thiệu RAG là gì? Điều kiện tiên ...

tháng 11 08, 2024

Sự bùng nổ của AI trong giáo dục: Cách mạng hóa học tập và dạy học

<h2>Sự bùng nổ của công nghệ AI trong ngành giáo dục</h2>
<h3>Mục lục</h3>
<ol>
<li>Giới thiệu</li>
<li>AI trong học tập: Những lợi ích vượt trội</li>
<li>Vai trò của AI trong việc cá nhân hóa giáo dục</li>
<li>Kết luận</li>
</ol>
<h3>1. Giới thiệu</h3>
Công nghệ trí tuệ nhân tạo (AI) đang nhanh chóng thay đổi mọi mặt của cuộc sống, và giáo dục không phải là ngoại lệ. Từ việc cung cấp nội dung học tập cá nhân hóa đến tự động hóa các nhiệm vụ quản lý lớp học, AI đang cách mạng hóa cách học và dạy học. 
<h3>2. AI trong học tập: Những lợi ích vượt trội</h3>
AI mang đến nhiều lợi ích cho cả học sinh và giáo viên:
<ul>
<li>Học tập cá nhân hóa: AI có thể phân tích dữ liệu học sinh để xác định điểm mạnh, điểm yếu và nhu cầu học tập riêng biệt của mỗi cá nhân. Điều này cho phép giáo viên tạo ra các kế hoạch học tập cá nhân hóa, giúp học sinh tiếp thu kiến thức hiệu quả hơn.</li>
<li>Hỗ trợ học tập: AI có thể cung cấp các công cụ hỗ trợ học tập trực tuyến, bao gồm các phần mềm học tập, trợ lý ảo và các nền tảng giáo dục trực tuyến. Những công cụ này giúp học sinh học tập theo tốc độ của riêng mình và truy cập thông tin mọi lúc mọi nơi.</li>
<li>Tự động hóa các nhiệm vụ: AI có thể tự động hóa các nhiệm vụ quản lý lớp học như chấm điểm, ghi điểm và lên kế hoạch học tập. Điều này giải phóng giáo viên khỏi những công việc thủ công để tập trung vào việc giảng dạy và tương tác với học sinh.</li>
<li>Cung cấp thông tin phản hồi tức thời: AI có thể cung cấp phản hồi tức thời về tiến độ học tập của học sinh, giúp họ nhận biết điểm mạnh, điểm yếu và cải thiện hiệu quả học tập.</li>
</ul>
<h3>3. Vai trò của AI trong việc cá nhân hóa giáo dục</h3>
AI đóng vai trò quan trọng trong việc cá nhân hóa giáo dục:
<ul>
<li>Phân tích dữ liệu học sinh: AI có thể thu thập và phân tích dữ liệu học sinh từ các nguồn khác nhau như điểm số, bài kiểm tra, bài tập và tương tác lớp học. Dữ liệu này giúp hiểu rõ năng lực và nhu cầu học tập của mỗi học sinh.</li>
<li>Tạo nội dung học tập cá nhân hóa: Dựa trên dữ liệu phân tích, AI có thể tạo ra các nội dung học tập phù hợp với nhu cầu và khả năng của từng học sinh. Điều này giúp học sinh tiếp thu kiến thức một cách hiệu quả và hứng thú hơn.</li>
<li>Cung cấp các công cụ học tập phù hợp: AI có thể cung cấp các công cụ học tập phù hợp với phong cách học tập của mỗi học sinh. Ví dụ, một học sinh học bằng hình ảnh có thể được cung cấp các video học tập, trong khi một học sinh học bằng âm thanh có thể được cung cấp các bài giảng âm thanh.</li>
</ul>
<h3>4. Kết luận</h3>
Sự bùng nổ của AI trong giáo dục mang đến nhiều cơ hội cho giáo dục hiện đại. AI giúp cá nhân hóa học tập, nâng cao hiệu quả học tập, và tạo điều kiện cho giáo viên tập trung vào việc giảng dạy và tương tác với học sinh. Tuy nhiên, cần lưu ý đến những vấn đề về bảo mật dữ liệu và đạo đức trong việc ứng dụng AI trong giáo dục. 
Bằng cách sử dụng AI một cách có trách nhiệm, chúng ta có thể tạo ra một hệ thống giáo dục hiệu quả và công bằng hơn cho tất cả mọi người.

Sự bùng nổ của AI trong giáo dục: Cách mạng hóa học tập và dạy học

Sự bùng nổ của công nghệ AI trong ngành giáo dục Mục lục Giới thiệu AI trong học tập: Những lợi ích vượt trội Vai trò của AI trong việc...

tháng 11 07, 2024

TeleVox: Đạt Thỏa Thuận AI với Premier, Inc.

<h2>TeleVox: Đạt được Thỏa thuận Trí tuệ Nhân tạo với Premier, Inc.</h2>
<h3>Mục lục</h3>
<ol>
<li>Giới thiệu</li>
<li>Nội dung chính</li>
<li>Về TeleVox</li>
<li>Về Premier</li>
<li>Kết luận</li>
</ol>
<h3>1. Giới thiệu</h3>
Bài báo này công bố thông tin về việc TeleVox, nhà cung cấp hàng đầu về nền tảng quản lý mối quan hệ khách hàng đa kênh cho ngành y tế, đã đạt được thỏa thuận mua bán tập trung quốc gia cho chatbot AI với Premier, Inc. Thỏa thuận này cho phép các thành viên của Premier, theo quyết định của họ, tận dụng ưu đãi về giá và các điều khoản đã được đàm phán trước bởi Premier dành cho các sản phẩm SMART Web, SMART Voice và SMART SMS của TeleVox, được hỗ trợ bởi Iris, trợ lý ảo AI đàm thoại cho ngành y tế.
<h3>2. Nội dung chính</h3>
Thỏa thuận này mở rộng phạm vi tiếp cận của Iris, nền tảng AI đàm thoại hàng đầu ngành của TeleVox, đến hàng ngàn bệnh viện và cơ sở y tế trên khắp đất nước. Steve Ganjoo, Giám đốc Quan hệ Đối tác Kênh của TeleVox, cho biết họ chào đón cơ hội giới thiệu với các thành viên của Premier cách Iris có thể giảm bớt gánh nặng cho nhân viên y tế và thúc đẩy mối quan hệ tốt đẹp hơn giữa các nhà cung cấp dịch vụ và bệnh nhân.
Iris được giới thiệu vào năm 2023 như một tiêu chuẩn mới cho các trợ lý ảo đàm thoại. Với khả năng AI tiên tiến, Iris cho phép các cơ hội tự phục vụ, trả lời một loạt các câu hỏi mà không yêu cầu phát triển nội dung tùy chỉnh và, nếu cần thiết, kết nối bệnh nhân với nhân viên phù hợp thông qua Chat. Iris nổi bật với trải nghiệm đa kênh trên SMART Web, SMART Voice và SMART SMS để đáp ứng nhu cầu của bệnh nhân ở mọi nơi. Iris có thể dễ dàng tích hợp với các EHR hiện có hoặc được triển khai như một giải pháp độc lập, đảm bảo trải nghiệm quản lý mối quan hệ khách hàng liền mạch.
<h3>3. Về TeleVox</h3>
TeleVox là nhà cung cấp hàng đầu về công nghệ quản lý mối quan hệ khách hàng kỹ thuật số đa kênh cho ngành y tế. Các giải pháp của chúng tôi được hơn 7.000 tổ chức y tế tin tưởng, bao gồm bệnh viện, hệ thống y tế và trung tâm y tế cộng đồng, để thu hút, giáo dục và trao quyền cho bệnh nhân trong suốt hành trình chăm sóc của họ. Nền tảng quản lý mối quan hệ khách hàng của chúng tôi tích hợp liền mạch với hồ sơ sức khỏe điện tử (EHR) để hỗ trợ các tương tác hai chiều, tự động và cá nhân hóa với bệnh nhân. Ngoài ra, nhóm dược phẩm của chúng tôi hợp tác với các công ty khoa học đời sống để phát triển nhận thức về tình trạng bệnh, giáo dục và lời nhắc tiêm chủng chiến lược, tiếp cận nhiều bệnh nhân hơn thông qua giao tiếp được cá nhân hóa. Tất cả những trao đổi này được thực hiện qua tin nhắn văn bản, trợ lý ảo, phản hồi thoại tương tác (IVR), email và bưu thiếp. Trong 30 năm, TeleVox đã giúp duy trì sự liên tục trong chăm sóc, giảm bớt gánh nặng hoạt động cho nhân viên và thúc đẩy doanh thu, giúp quá trình giao tiếp trong lĩnh vực y tế trở nên dễ dàng hơn cho tất cả mọi người. TeleVox là một phần của West Technology Group, LLC, thuộc sở hữu của các công ty liên kết với một số quỹ do Apollo Global Management, Inc. (NYSE: APO) quản lý.
<h3>4. Về Premier</h3>
Premier là một công ty cải thiện dịch vụ y tế hàng đầu, hợp nhất liên minh gồm khoảng 4.350 bệnh viện Hoa Kỳ và 325.000 nhà cung cấp dịch vụ và tổ chức khác để chuyển đổi dịch vụ y tế. Với dữ liệu và phân tích tích hợp, hợp tác, giải pháp chuỗi cung ứng, tư vấn và các dịch vụ khác, Premier cho phép chăm sóc và kết quả tốt hơn với chi phí thấp hơn.
<h3>5. Kết luận</h3>
Thỏa thuận này đánh dấu một bước tiến quan trọng cho TeleVox, mở rộng phạm vi tiếp cận của Iris và mang lại lợi ích cho các bệnh nhân và cơ sở y tế trên khắp đất nước. Iris hứa hẹn sẽ cách mạng hóa cách các tổ chức y tế giao tiếp với bệnh nhân, mang lại hiệu quả, sự tiện lợi và sự hài lòng hơn cho cả hai bên.

TeleVox: Đạt Thỏa Thuận AI với Premier, Inc.

TeleVox: Đạt được Thỏa thuận Trí tuệ Nhân tạo với Premier, Inc. Mục lục Giới thiệu Nội dung chính Về TeleVox Về Premier Kết luận 1....

tháng 11 07, 2024

Xây dựng chatbot có khả năng mở rộng và nhận thức ngữ cảnh với Amazon DynamoDB, Amazon Bedrock và LangChain

<h2>Xây dựng chatbot có khả năng mở rộng và nhận thức ngữ cảnh với Amazon DynamoDB, Amazon Bedrock và LangChain</h2>
Mục lục:
<ol>
<li>Sự quan trọng của nhận thức ngữ cảnh trong chatbot</li>
<li>DynamoDB với LangChain cho lịch sử trò chuyện</li>
<li>Tổng quan về giải pháp</li>
<li>Thiết lập lịch sử trò chuyện DynamoDB</li>
<li>Tạo mẫu lời nhắc trò chuyện</li>
<li>Tích hợp Amazon Bedrock với LangChain</li>
<li>Quản lý ngữ cảnh qua các tương tác</li>
<li>Kiểm tra tích hợp</li>
<li>Tạo UI với Streamlit</li>
<li>Tóm tắt</li>
</ol>
1. Sự quan trọng của nhận thức ngữ cảnh trong chatbot
Chatbot được kỳ vọng không chỉ hiểu các truy vấn tức thời mà còn hiểu được ngữ cảnh của cuộc trò chuyện đang diễn ra. Đối với các nhà phát triển, thử thách nằm ở việc tạo ra chatbot có thể mở rộng một cách liền mạch trong khi vẫn duy trì lịch sử trò chuyện qua nhiều phiên. Amazon DynamoDB, Amazon Bedrock và LangChain có thể cung cấp một sự kết hợp mạnh mẽ để xây dựng chatbot mạnh mẽ và nhận thức ngữ cảnh.
Bài viết này khám phá cách sử dụng LangChain với DynamoDB để quản lý lịch sử trò chuyện và tích hợp với Amazon Bedrock để cung cấp các phản hồi thông minh và có ngữ cảnh. Bài viết sẽ phân tích các khái niệm đằng sau trình kết nối trò chuyện DynamoDB trong LangChain, thảo luận về lợi thế của cách tiếp cận này và hướng dẫn bạn qua các bước cần thiết để triển khai nó trong chatbot của riêng bạn.
2. DynamoDB với LangChain cho lịch sử trò chuyện
Bạn có thể hưởng lợi từ các lợi thế chính sau đây khi sử dụng DynamoDB với LangChain để quản lý lịch sử trò chuyện:
<ul>
<li>Cải thiện trải nghiệm người dùng: Bằng cách sử dụng DynamoDB cho lịch sử trò chuyện, chatbot của bạn có thể mang đến trải nghiệm nhất quán và cá nhân hóa. Người dùng có thể tiếp tục cuộc trò chuyện từ nơi họ đã dừng lại, và chatbot có thể sử dụng các tương tác trước đó để thông báo cho các phản hồi của mình.</li>
<li>Tích hợp liền mạch: LangChain cung cấp một cách liền mạch để tích hợp với DynamoDB, cho phép bạn lưu trữ và truy xuất các tin nhắn trò chuyện với chi phí tối thiểu. Bằng cách sử dụng lớp DynamoDBChatMessageHistory của LangChain, bạn có thể tự động quản lý lịch sử trò chuyện như một phần của luồng trò chuyện, cho phép chatbot duy trì ngữ cảnh theo thời gian.</li>
<li>Mở rộng khả năng: Khi xây dựng chatbot tương tác với hàng nghìn hoặc thậm chí hàng triệu người dùng, việc quản lý ngữ cảnh trở thành một vấn đề không tầm thường. Khả năng mở rộng của DynamoDB có nghĩa là chatbot của bạn có thể lưu trữ và truy xuất lịch sử trò chuyện trong thời gian thực, bất kể có bao nhiêu người dùng đang tương tác với nó cùng lúc.</li>
</ul>
3. Tổng quan về giải pháp
LangChain là một khung được thiết kế để đơn giản hóa việc tạo và quản lý các ứng dụng mô hình ngôn ngữ nâng cao, đặc biệt là những ứng dụng yêu cầu liên kết nhiều thành phần với nhau, chẳng hạn như lưu trữ dữ liệu, mẫu lời nhắc và mô hình ngôn ngữ. Nó cho phép bạn xây dựng chatbot nhận thức ngữ cảnh bằng cách cung cấp các công cụ để tích hợp liền mạch các hệ thống back-end khác nhau như DynamoDB để lưu trữ lịch sử trò chuyện và Bedrock để tạo ra các phản hồi thông minh.
Sự tích hợp DynamoDB tập trung vào lớp DynamoDBChatMessageHistory, lớp này trừu tượng hóa các phức tạp của việc lưu trữ và truy xuất lịch sử trò chuyện từ DynamoDB. Trong các phần tiếp theo, chúng ta sẽ phân tích các thành phần chính để thiết lập chatbot và các bước để tạo UI.
4. Thiết lập lịch sử trò chuyện DynamoDB
Lớp DynamoDBChatMessageHistory được cung cấp bởi LangChain được tạo với một bảng nhất định (để lưu trữ dữ liệu) và phiên (xác định phiên lịch sử trò chuyện này). Lớp này cung cấp một giao diện để lưu trữ và truy xuất các tin nhắn trong DynamoDB, sử dụng ID phiên làm khóa để xác định lịch sử trò chuyện của mỗi người dùng:
<pre><code class="language-python">from langchain_community.chat_message_histories import DynamoDBChatMessageHistory

<h1>Khởi tạo lịch sử tin nhắn trò chuyện DynamoDB</h1>
history = DynamoDBChatMessageHistory(
 table_name="SessionTable",
 session_id="user123"
)
</code></pre>
Các cuộc trò chuyện hiện được lưu trữ trong bảng DynamoDB của chúng ta, được sắp xếp theo khóa phân vùng session_id (chẳng hạn như user123). Lịch sử trò chuyện, cùng với siêu dữ liệu có liên quan, được quản lý hiệu quả trong thuộc tính History, do đó tất cả các tương tác trước đó đều dễ dàng truy cập.
5. Tạo mẫu lời nhắc trò chuyện
Để sử dụng lịch sử, chúng ta cần điều chỉnh lời nhắc được đưa cho mô hình AI và LangChain có ChatPromptTemplate dành cho điều này. Mẫu sau đây chỉ dẫn cách chatbot sẽ sử dụng lịch sử trò chuyện được lưu trữ để tạo phản hồi:
<pre><code class="language-python">from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder

<h1>Tạo mẫu lời nhắc trò chuyện</h1>
prompt_template = ChatPromptTemplate.from_messages(
 [
 ("system", "Bạn là một trợ lý hữu ích."),
 MessagesPlaceholder(variable_name="history"),
 ("human", "{question}"),
 ]
)
</code></pre>
MessagesPlaceholder cho phép LangChain tiêm toàn bộ lịch sử trò chuyện, bao gồm cả câu hỏi và câu trả lời, vào lời nhắc một cách động. Điều này cho phép mô hình xem xét toàn bộ ngữ cảnh của tương tác, thay vì chỉ tin nhắn gần đây nhất. Nó duy trì một luồng đệ quy, trong đó mỗi lời nhắc mới bao gồm toàn bộ lịch sử của các trao đổi trước đó. Điều này đảm bảo rằng các phản hồi của chatbot được thông báo đầy đủ bởi tất cả các tương tác trước đó, tạo ra một cuộc trò chuyện nhận thức ngữ cảnh.
6. Tích hợp Amazon Bedrock với LangChain
Với lịch sử trò chuyện và mẫu lời nhắc được thiết lập, bước tiếp theo là tích hợp mô hình ngôn ngữ Amazon Bedrock. Mô hình này tạo ra các phản hồi dựa trên mẫu lời nhắc và lịch sử trò chuyện được lưu trữ trong DynamoDB:
<pre><code class="language-python">from langchain_aws import ChatBedrockConverse
from langchain_core.output_parsers import StrOutputParser

<h1>Khởi tạo mô hình Bedrock</h1>
model = ChatBedrockConverse(
 model="anthropic.claude-3-haiku-20240307-v1:0", # Chỉ định mô hình Bedrock
 max_tokens=2048,
 temperature=0.0,
 top_p=1,
 stop_sequences=["\n\nHuman"],
 verbose=True
)
<h1>Kết hợp lời nhắc với LLM Bedrock</h1>
chain = prompt_template | model | StrOutputParser()
</code></pre>
LangChain cho phép bạn dễ dàng liên kết các thành phần khác nhau với nhau. Ở đây, mẫu lời nhắc, mô hình Amazon Bedrock và trình phân tích đầu ra được liên kết với nhau để tạo ra một đường dẫn xử lý đầu vào của người dùng và tạo ra các phản hồi thông minh, nhận thức ngữ cảnh.
7. Quản lý ngữ cảnh qua các tương tác
Để duy trì ngữ cảnh qua các tương tác, chúng ta sử dụng lớp RunnableWithMessageHistory của LangChain. Lớp này đảm bảo rằng mỗi tương tác với chatbot được thông báo bởi toàn bộ lịch sử trò chuyện được lưu trữ trong DynamoDB:
<pre><code class="language-python">from langchain_core.runnables.history import RunnableWithMessageHistory

<h1>Tích hợp với lịch sử tin nhắn</h1>
chain_with_history = RunnableWithMessageHistory(
 chain,
 lambda session_id: history # Tham chiếu DynamoDBChatMessageHistory
 input_messages_key="question",
 history_messages_key="history",
)
</code></pre>
Lớp RunnableWithMessageHistory đảm bảo rằng mỗi khi người dùng tương tác với chatbot, toàn bộ lịch sử trò chuyện được truy xuất, được chuyển qua mô hình và được cập nhật trong DynamoDB. Điều này khiến chatbot có khả năng ghi nhớ các tương tác trước đó và cung cấp các phản hồi có liên quan về ngữ cảnh.
8. Kiểm tra tích hợp
Cuối cùng, chúng ta có thể kiểm tra chatbot bằng cách mô phỏng một cuộc trò chuyện và quan sát cách nó sử dụng lịch sử được lưu trữ để tạo phản hồi:
<pre><code class="language-python">config = {"configurable": {"session_id": "user123"}}

response = chain_with_history.invoke({"question": "Xin chào! Tôi là Bob"}, config=config)
print(response)
</code></pre>
“Rất vui được gặp bạn, Bob! Tôi là trợ lý AI được tạo bởi Anthropic. Tôi ở đây để giúp bạn với bất kỳ câu hỏi hoặc nhiệm vụ nào bạn có thể có. Hãy cho tôi biết nếu có điều gì tôi có thể hỗ trợ bạn.”
<pre><code class="language-python">response = chain_with_history.invoke({"question": "Tên tôi là gì?"}, config=config)
print(response)
</code></pre>
“Tên của bạn là Bob, như bạn đã giới thiệu bản thân với tôi trước đó.”
Bằng cách mô phỏng một cuộc trò chuyện, bạn có thể thấy cách chatbot ghi nhớ các tương tác trước đó và sử dụng chúng để tạo ra các phản hồi nhận thức ngữ cảnh. Điều này chứng minh hiệu quả của việc sử dụng DynamoDB để quản lý lịch sử trò chuyện.
9. Tạo UI với Streamlit
Bây giờ chúng ta đã hiểu cách LangChain tương tác với DynamoDB và Bedrock, hãy kết hợp tất cả lại với nhau và bọc nó bằng một GUI để kiểm tra. Chúng ta sẽ sử dụng Streamlit để tạo một GUI web.
Streamlit là một khung ứng dụng mã nguồn mở cho phép bạn xây dựng và triển khai các ứng dụng web chỉ với một vài dòng mã Python. Nó đặc biệt hữu ích để tạo mẫu và kiểm tra các ứng dụng AI, vì nó cho phép bạn nhanh chóng tạo ra các giao diện tương tác mà không yêu cầu kỹ năng phát triển frontend rộng rãi.
Hãy khám phá một ví dụ về cách bạn có thể thiết lập một ứng dụng Streamlit để tương tác với chatbot được hỗ trợ bởi Amazon Bedrock của bạn. Mã sau đây nên được lưu trữ trong một tệp có tên app.py:
<pre><code class="language-python">import boto3
import logging
import streamlit as st
from langchain_community.chat_message_histories import DynamoDBChatMessageHistory
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_core.output_parsers import StrOutputParser
from langchain_aws import ChatBedrockConverse
client = boto3.client('sts')
logging.basicConfig(level=logging.CRITICAL)

def get_iam_user_id():
 # Lấy danh tính người gọi
 identity = client.get_caller_identity()
<pre><code># Trích xuất và trả về ID người dùng
user_id = identity[&#39;UserId&#39;]
return user_id
</code></pre>
<h1>Tạo mô hình bedrock</h1>
model = ChatBedrockConverse(
 model="anthropic.claude-3-haiku-20240307-v1:0",
 max_tokens=2048,
 temperature=0.0,
 top_p=1,
 stop_sequences=["\n\nHuman"],
 verbose=True
)
<h1>Khởi tạo lịch sử tin nhắn trò chuyện DynamoDB</h1>
table_name = "SessionTable"
session_id = get_iam_user_id() # Bạn có thể làm cho điều này động dựa trên phiên của người dùng
history = DynamoDBChatMessageHistory(table_name=table_name, session_id=session_id)
<h1>Tạo mẫu lời nhắc trò chuyện</h1>
prompt_template = ChatPromptTemplate.from_messages(
 [
 ("system", "Bạn là một trợ lý hữu ích."),
 MessagesPlaceholder(variable_name="history"),
 ("human", "{question}"),
 ]
)
<h1>Kết hợp lời nhắc với LLM Bedrock</h1>
chain = prompt_template | model | StrOutputParser()
<h1>Tích hợp với lịch sử tin nhắn</h1>
chain_with_history = RunnableWithMessageHistory(
 chain,
 lambda session_id: DynamoDBChatMessageHistory(
 table_name=table_name, session_id=session_id
 ),
 input_messages_key="question",
 history_messages_key="history",
)
st.title("LangChain DynamoDB Bot")
<h1>Tải các tin nhắn từ DynamoDB và điền vào lịch sử trò chuyện</h1>
if "messages" not in st.session_state:
 st.session_state.messages = []
<pre><code># Tải các tin nhắn được lưu trữ từ DynamoDB
stored_messages = history.messages # Truy xuất tất cả các tin nhắn được lưu trữ

# Điền vào trạng thái phiên với các tin nhắn được truy xuất
for msg in stored_messages:
 role = &quot;user&quot; if msg.__class__.__name__ == &quot;HumanMessage&quot; else &quot;assistant&quot;
 st.session_state.messages.append({&quot;role&quot;: role, &quot;content&quot;: msg.content})
</code></pre>
<h1>Hiển thị các tin nhắn trò chuyện từ lịch sử khi chạy lại ứng dụng</h1>
for message in st.session_state.messages:
 with st.chat_message(message["role"]):
 st.markdown(message["content"])
<h1>Phản hồi đầu vào của người dùng</h1>
if prompt := st.chat_input("Bạn muốn gì?"):
 # Hiển thị tin nhắn của người dùng trong vùng chứa tin nhắn trò chuyện
 with st.chat_message("user"):
 st.markdown(prompt)
 # Thêm tin nhắn của người dùng vào lịch sử trò chuyện
 st.session_state.messages.append({"role": "user", "content": prompt})
<pre><code># Tạo phản hồi của trợ lý bằng cách sử dụng Bedrock LLM và LangChain
config = {&quot;configurable&quot;: {&quot;session_id&quot;: session_id}}
response = chain_with_history.invoke({&quot;question&quot;: prompt}, config=config)

# Hiển thị phản hồi của trợ lý trong vùng chứa tin nhắn trò chuyện
with st.chat_message(&quot;assistant&quot;):
 st.markdown(response)
# Thêm phản hồi của trợ lý vào lịch sử trò chuyện
st.session_state.messages.append({&quot;role&quot;: &quot;assistant&quot;, &quot;content&quot;: response})
</code></pre>
</code></pre>
Để chạy ứng dụng, hãy mở terminal của bạn (Linux/macOS) hoặc Command Prompt/PowerShell (Windows) và chạy lệnh sau:
<pre><code class="language-bash">streamlit run app.py
</code></pre>
Đầu ra cung cấp cho bạn URL để truy cập ứng dụng Streamlit của bạn:
Bây giờ bạn có thể xem ứng dụng Streamlit của mình trong trình duyệt của bạn.
<pre><code class="language-bash"> Local URL: http://localhost:8501
 Network URL: http://<private ip address>:8501
 External URL: http://<public ip address>:8501
</code></pre>
Ứng dụng Streamlit cho phép người dùng tương tác với chatbot trong thời gian thực, với toàn bộ lịch sử trò chuyện được hiển thị trên trang. Thiết lập này giúp đơn giản hóa việc kiểm tra khả năng của chatbot để duy trì ngữ cảnh qua nhiều tương tác của người dùng.
Sơ đồ luồng sau đây minh họa tương tác giữa các thành phần khác nhau để mang đến trải nghiệm chatbot nhận thức ngữ cảnh đầy đủ.
10. Tóm tắt
DynamoDB, kết hợp với Amazon Bedrock, cung cấp một giải pháp mạnh mẽ, có khả năng mở rộng để xây dựng chatbot có thể ghi nhớ và sử dụng lịch sử trò chuyện. Bằng cách lưu trữ lịch sử trò chuyện trong DynamoDB, chatbot của bạn có thể duy trì ngữ cảnh qua các phiên, cho phép tương tác tự nhiên và hấp dẫn hơn với người dùng. Và với Streamlit, bạn có thể nhanh chóng tạo mẫu và kiểm tra chatbot của mình, đưa tầm nhìn AI trò chuyện của bạn thành hiện thực trong thời gian ngắn.
Bạn đã sẵn sàng bắt đầu? Khám phá bộ sưu tập đầy đủ các ví dụ về chatbot DynamoDB và Amazon Bedrock trong kho lưu trữ GitHub sau đây và bắt đầu xây dựng chatbot thông minh hơn, phản hồi nhanh hơn ngay hôm nay!

Xây dựng chatbot có khả năng mở rộng và nhận thức ngữ cảnh với Amazon DynamoDB, Amazon Bedrock và LangChain

Xây dựng chatbot có khả năng mở rộng và nhận thức ngữ cảnh với Amazon DynamoDB, Amazon Bedrock và LangChain Mục lục: Sự quan trọng của nh...

tháng 11 07, 2024

Trợ lý AI trong Windows Terminal: ChatGPT và GitHub Copilot

<h2>Trợ lý AI trong Windows Terminal: ChatGPT và GitHub Copilot</h2>
Mục lục
<ol>
<li>Giới thiệu</li>
<li>Cách sử dụng ChatGPT trên Windows Terminal</li>
<li>Lợi ích của việc sử dụng AI trong Windows Terminal</li>
<li>Kết luận</li>
</ol>
1. Giới thiệu
Windows Terminal là một ứng dụng miễn phí của Microsoft, được thiết kế để thay thế Command Prompt với giao diện hiện đại, mạnh mẽ và dễ sử dụng hơn, đồng thời cung cấp thêm nhiều tính năng so với PowerShell. Phiên bản thường của Windows Terminal có sẵn trên Microsoft Store, trong khi phiên bản Canary (phiên bản nightly) có thể được tải xuống từ trang GitHub của dự án. Phiên bản Canary được cập nhật liên tục và bao gồm các tính năng mới, trong đó có hỗ trợ cho ChatGPT và GitHub Copilot.
2. Cách sử dụng ChatGPT trên Windows Terminal
Để sử dụng ChatGPT trên Windows Terminal, bạn cần cài đặt phiên bản Canary. Sau khi cài đặt, bạn cần bật hỗ trợ cho "Terminal Chat" trong menu và thêm một khóa API từ OpenAI, GitHub hoặc Azure. 
3. Lợi ích của việc sử dụng AI trong Windows Terminal
Việc tích hợp ChatGPT và GitHub Copilot vào Windows Terminal mang đến nhiều lợi ích cho người dùng:
<ul>
<li>Hỗ trợ trực tiếp: ChatGPT có thể cung cấp giải pháp cho các câu hỏi liên quan đến lập trình, bao gồm việc tạo mã, giải thích mã hoặc sửa lỗi.</li>
<li>Tăng năng suất: GitHub Copilot có thể tự động hoàn thành mã, giảm thiểu thời gian cần thiết để viết mã và giúp người dùng tập trung vào các nhiệm vụ phức tạp hơn.</li>
<li>Học hỏi và khám phá: AI có thể giúp người dùng học hỏi những kỹ năng mới và khám phá các công nghệ mới thông qua các ví dụ mã và giải thích chi tiết.</li>
</ul>
4. Kết luận
Việc tích hợp AI vào Windows Terminal là một bước tiến quan trọng, mang đến cho người dùng một công cụ mạnh mẽ và hữu ích cho công việc lập trình. ChatGPT và GitHub Copilot có thể giúp người dùng tăng năng suất, học hỏi kiến thức mới và giải quyết các vấn đề phức tạp một cách hiệu quả hơn.

Trợ lý AI trong Windows Terminal: ChatGPT và GitHub Copilot

Trợ lý AI trong Windows Terminal: ChatGPT và GitHub Copilot Mục lục Giới thiệu Cách sử dụng ChatGPT trên Windows Terminal Lợi ích của v...

tháng 11 07, 2024

Duolingo Sử Dụng Chatbot AI Lily Cho Cuộc Gọi Thu Nhập

<html lang="en-US">
<head>
 <title>Duolingo Sử Dụng Chatbot AI Cho Cuộc Gọi Thu Nhập</title>
</head>
<body>
<h1>Duolingo Sử Dụng Chatbot AI Cho Cuộc Gọi Thu Nhập</h1>

<ul>
 <li><a href="#chatbot-lily">Chatbot Lily</a></li>
 <li><a href="#ket-qua-kinh-doanh">Kết Quả Kinh Doanh</a></li>
 <li><a href="#chien-luoc-tiep-thi">Chiến Lược Tiếp Thị</a></li>
</ul>

<h2 id="chatbot-lily">Chatbot Lily</h2>

Duolingo đã bắt đầu cuộc gọi thu nhập mới nhất của mình vào thứ Tư với một giọng nói mới: Lily, một chatbot do trí tuệ nhân tạo điều khiển dựa trên một nhân vật ứng dụng lâu năm.

Chatbot tóc tím, nghe như một thiếu niên nhàm chán và mỉa mai, đã thay thế Giám đốc điều hành Luis von Ahn ở phần đầu cuộc gọi video. Von Ahn sau đó đã trả lời các câu hỏi từ các nhà phân tích.

"Theo thời gian, cô ấy sẽ làm nhiều công việc của tôi hơn, và tôi có thể nghỉ hưu," Giám đốc điều hành nói.

Chatbot đã tóm tắt hiệu suất của quý, bao gồm các chỉ số chính như số người dùng hoạt động hàng ngày, đã tăng 54% so với cùng kỳ năm trước lên 37,2 triệu.

Lily cho rằng sự tăng trưởng mạnh mẽ của Duolingo là do tiếp thị truyền thông xã hội và đầu tư vào AI thế hệ tiếp theo.

"Tính năng cuộc gọi video Duolingo Max mới của chúng tôi cho phép người học trò chuyện với tôi," chatbot nói. "Đừng lo lắng, tôi sẽ không đánh giá - nhiều lắm. Có lẽ chỉ lườm một chút."

<h2 id="ket-qua-kinh-doanh">Kết Quả Kinh Doanh</h2>

Duolingo đã báo cáo doanh thu là 192,6 triệu đô la, vượt kỳ vọng của nhà phân tích là 189,2 triệu đô la và tăng trưởng 40% so với cùng kỳ năm trước. Duolingo cũng đã nâng dự báo doanh thu cả năm 2024 từ tối đa 738 triệu đô la lên tối đa 744 triệu đô la.

Tuy nhiên, công ty đã không đáp ứng được kỳ vọng của Phố Wall về một chỉ số chính. Công ty đã báo cáo 8,6 triệu người đăng ký trả phí, trong khi các nhà phân tích dự đoán 8,66 triệu. Duolingo đã giảm gần 5% trong giao dịch sau giờ làm việc sau khi báo cáo thu nhập.

Cổ phiếu của công ty đã tăng hơn 40% trong năm nay, sau sáu quý liên tiếp có lãi.

<h2 id="chien-luoc-tiep-thi">Chiến Lược Tiếp Thị</h2>

Ứng dụng, một hit với Gen Z, nổi tiếng nhất với cách tiếp cận dựa trên trò chơi cho việc học ngôn ngữ, nơi người dùng cố gắng duy trì chuỗi sử dụng hàng ngày.

Vào tháng 9, công ty đã ra mắt một tính năng cho phép người dùng gọi video cho Lily và thực hành nói chuyện với chatbot, một phần của mức giá cao nhất của công ty.

Công ty đã không trả lời ngay lập tức yêu cầu bình luận về bài báo này, được gửi ngoài giờ làm việc.

</body>
</html>

Duolingo Sử Dụng Chatbot AI Lily Cho Cuộc Gọi Thu Nhập

Duolingo Sử Dụng Chatbot AI Cho Cuộc Gọi Thu Nhập Duolingo Sử Dụng Chatbot AI Cho Cuộc Gọi Thu Nhập Mục lục Chatbot Lily ...

tháng 11 07, 2024

Xây dựng chatbot RAG với JavaScript, LangChain.js, Next.js, Vercel, OpenAI

Sự bùng nổ của AI trong giáo dục: Cách mạng hóa học tập và dạy học

TeleVox: Đạt Thỏa Thuận AI với Premier, Inc.

Xây dựng chatbot có khả năng mở rộng và nhận thức ngữ cảnh với Amazon DynamoDB, Amazon Bedrock và LangChain

Trợ lý AI trong Windows Terminal: ChatGPT và GitHub Copilot

Duolingo Sử Dụng Chatbot AI Lily Cho Cuộc Gọi Thu Nhập

Bài đăng phổ biến

Labels