Agent.ai.vn

Cải tiến Trợ lý Ảo AI của IRS: Đề xuất từ Hội đồng Tư vấn

<h1></h1>
<p><strong>Mục lục:</strong></p>
<ol>
<li>Giới thiệu</li>
<li>Thực trạng hệ thống trợ lý ảo AI của IRS</li>
<li>Nhận định của Hội đồng Tư vấn IRS (IRSAC)</li>
<li>Tám đề xuất cải tiến</li>
<li>Kết luận</li>
</ol>
<p><strong>1. Giới thiệu</strong></p>
<p>Hội đồng Tư vấn Dịch vụ Thuế (IRSAC) mới đây đã công bố báo cáo thường niên, trong đó nêu bật những hạn chế của hệ thống trợ lý ảo AI (bao gồm chatbot và voicebot) hiện đang được sử dụng tại Cơ quan Thuế vụ Hoa Kỳ (IRS). Báo cáo đưa ra tám đề xuất cụ thể nhằm cải thiện chất lượng dịch vụ khách hàng thông qua việc nâng cấp công nghệ này.</p>
<p><strong>2. Thực trạng hệ thống trợ lý ảo AI của IRS</strong></p>
<p>Hiện nay, IRS đang sử dụng một hệ thống voicebot nhận dạng giọng nói để tiếp nhận cuộc gọi của người nộp thuế trên đường dây nóng chính.  Hệ thống này chủ yếu trả lời các câu hỏi hoặc hướng người gọi đến nguồn thông tin phù hợp.  Bên cạnh đó, một chatbot được triển khai trên trang web của IRS, giúp người nộp thuế tìm kiếm thông tin về tình trạng hoàn thuế.  Tuy nhiên, cả hai hệ thống này đều chủ yếu cung cấp các dịch vụ không cần xác thực danh tính người dùng. Báo cáo chỉ ra rằng các trợ lý ảo này “không được thiết kế để cung cấp câu trả lời trực tiếp cho người nộp thuế, mà thay vào đó lại chuyển hướng họ đến thông tin chung, có thể không hữu ích cho câu hỏi cụ thể của họ.”</p>
<p><img alt="IRS, Internal Revenue Service" src="https://fedscoop.com/wp-content/uploads/sites/5/2021/12/GettyImages-483634142.jpg?w=1013" /></p>
<p><strong>3. Nhận định của Hội đồng Tư vấn IRS (IRSAC)</strong></p>
<p>IRSAC bày tỏ quan ngại về việc IRS sử dụng nhiều nhà cung cấp khác nhau cho công nghệ trợ lý ảo.  Điều này dẫn đến việc “tạo ra các kênh bot song song, nhiều điểm truy cập, gây nhầm lẫn cho người nộp thuế và có thể ngăn cản bot học hỏi hiệu quả các câu hỏi thường gặp và cung cấp phản hồi thỏa đáng.”  Việc này cũng ảnh hưởng đến khả năng mở rộng việc sử dụng học máy và thuật toán AI của IRS, những công nghệ cần thiết để đáp ứng nhu cầu của người nộp thuế một cách tốt hơn.</p>
<p><strong>4. Tám đề xuất cải tiến</strong></p>
<p>Dựa trên những phân tích trên, IRSAC đưa ra tám đề xuất chính nhằm cải thiện hệ thống trợ lý ảo của IRS:</p>
<ul>
<li><strong>Tích hợp mô hình ngôn ngữ lớn:</strong> Sử dụng mô hình ngôn ngữ lớn (LLM) cho chatbot để cải thiện khả năng trả lời câu hỏi trực tiếp và chính xác hơn.</li>
<li><strong>Đơn giản hóa điểm truy cập:</strong> Tạo một điểm truy cập duy nhất cho chatbot trên tất cả các trang web liên quan, kèm theo hướng dẫn sử dụng rõ ràng.</li>
<li><strong>Kết nối với nhân viên hỗ trợ trực tiếp:</strong> Cho phép người dùng được chuyển tiếp đến nhân viên hỗ trợ trực tiếp hoặc nhận cuộc gọi lại sau một loạt yêu cầu chưa rõ ràng.</li>
<li><strong>Cung cấp thời gian chờ ước tính:</strong> Thông báo rõ ràng thời gian chờ đợi và đảm bảo chatbot có khả năng xử lý lượng truy cập cao điểm.</li>
<li><strong>Nâng cao khả năng AI:</strong> Đầu tư thêm vào khả năng AI của chatbot để trả lời trực tiếp câu hỏi của người nộp thuế thay vì chỉ hướng dẫn họ tìm đọc thông tin trên trang web.</li>
<li><strong>Cải thiện giao diện người dùng:</strong> Tuân thủ các hướng dẫn trải nghiệm người dùng (UX) trong ngành, sử dụng phông chữ, kích thước và độ phản hồi cửa sổ chuẩn hóa.</li>
<li><strong>Hỗ trợ hướng dẫn người dùng:</strong> Cung cấp hướng dẫn trực quan trên màn hình giúp người dùng tương tác với chatbot dễ dàng hơn.</li>
<li><strong>Kiểm thử đa dạng:</strong> Thực hiện kiểm thử chatbot với nhiều đối tượng người dùng khác nhau, bao gồm cả những người không sử dụng tiếng Anh và người khuyết tật.</li>
</ul>
<p><strong>5. Kết luận</strong></p>
<p>Báo cáo của IRSAC nhấn mạnh sự cần thiết phải cải tiến hệ thống trợ lý ảo AI của IRS để nâng cao chất lượng dịch vụ khách hàng. Việc áp dụng tám đề xuất trên sẽ giúp IRS cung cấp trải nghiệm người dùng tốt hơn, hiệu quả hơn và dễ tiếp cận hơn cho tất cả người nộp thuế.</p>

Cải tiến Trợ lý Ảo AI của IRS: Đề xuất từ Hội đồng Tư vấn

Mục lục: Giới thiệu Thực trạng hệ thống trợ lý ảo AI của IRS Nhận định của Hội đồng Tư vấn IRS (IRSAC) Tám đề xuất cải tiến Kết luận ...

tháng 11 24, 2024

Tại sao chatbot AI lại có cảm giác "như người"? Nguyên tắc thầm lặng trong giao tiếp

<h1></h1>
<p><strong>Mục lục</strong></p>
<ol>
<li>Vụ việc đáng chú ý ở Hồng Kông</li>
<li>Vì sao AI lại gây sốt?</li>
<li>Ngôn ngữ và tư duy</li>
<li>Các nguyên tắc của giao tiếp</li>
<li>Tìm kiếm sự liên quan bằng mọi giá</li>
<li>Ý chí hợp tác</li>
</ol>
<hr />
<ol>
<li><strong>Vụ việc đáng chú ý ở Hồng Kông</strong></li>
</ol>
<img alt="Hình ảnh mô tả" src="https://images.theconversation.com/files/632837/original/file-20241119-15-dv4gt1.jpg?ixlib=rb-4.1.0&rect=0%2C101%2C4000%2C1999&q=45&auto=format&w=1356&h=668&fit=crop" />

<p>Đầu năm nay, một nhân viên tài chính ở Hồng Kông đã bị lừa mất 25 triệu đô la Mỹ do những kẻ lừa đảo sử dụng công nghệ deepfake để giả mạo giám đốc tài chính của công ty trong một cuộc gọi video. Tin tưởng những hình ảnh trên màn hình là đồng nghiệp của mình, người này đã cho phép chuyển khoản hàng triệu đô la cho những kẻ lừa đảo.</p>
<p>Đây là một ví dụ điển hình, nhưng người nhân viên tài chính này không phải là trường hợp duy nhất bị lừa bởi AI sinh sản.  Công nghệ này, dựa rất nhiều vào các mô hình ngôn ngữ lớn được huấn luyện trên lượng dữ liệu khổng lồ để học hỏi và dự đoán các mẫu ngôn ngữ, đã trở nên phổ biến rộng rãi kể từ khi ChatGPT ra mắt vào năm 2022.</p>
<p>Làm thế nào để giải thích tại sao một số người tương tác với chatbot AI sinh sản lại dễ dàng tin rằng họ đang trò chuyện với một con người? Câu trả lời có thể nằm trong chính các quy tắc của giao tiếp – và cách chúng ăn sâu vào cách chúng ta tương tác với thế giới.</p>
<ol start="2">
<li><strong>Vì sao AI lại gây sốt?</strong></li>
</ol>
<p>Các hệ thống AI sinh sản dựa trên mô hình ngôn ngữ tạo ra văn bản mà một nhà ngôn ngữ học gọi là "thiếu căn cứ": nó thiếu sự hiểu biết lẫn nhau, một thành phần thiết yếu của các cuộc trò chuyện giữa người với người. Tuy nhiên, khi con người tham gia vào một tương tác, chúng ta có xu hướng cho rằng người bạn đồng hành của mình có một tâm trí.</p>
<p>Chúng ta được lập trình để nhân cách hoá các đối tượng không phải con người mà chúng ta tương tác. Trước những bước tiến gần đây trong AI sinh sản, điều này chủ yếu là động vật.</p>
<p>Giờ đây là máy móc. Trước khi có AI sinh sản, các tương tác của chúng ta với máy tính thường bao gồm việc trao đổi ngôn ngữ tối thiểu. Tuy nhiên, với AI sinh sản, các hệ thống máy tính thừa nhận chúng ta theo một cách có vẻ thực tế.  Sự "có vẻ thực tế" này là một phần rất lớn trong sự thành công của công nghệ.</p>
<p>Vậy nó hoạt động như thế nào?</p>
<ol start="3">
<li><strong>Ngôn ngữ và tư duy</strong></li>
</ol>
<p>Trong một bài báo gần đây, các nhà khoa học Mỹ Kyle Mahowald, Anna Ivanova và các cộng sự lập luận rằng chúng ta đang lẫn lộn ngôn ngữ và tư duy. Bởi vì các hệ thống AI sinh sản có thể sử dụng ngôn ngữ khá trôi chảy, chúng ta tin rằng chúng có thể suy nghĩ. (Trên thực tế, chúng không thể.)</p>
<p>Các tác giả phân biệt giữa năng lực ngôn ngữ <em>hình thức</em> (kiến thức về các quy tắc và mô hình thống kê trong ngôn ngữ) và năng lực ngôn ngữ <em>chức năng</em> (cách sử dụng ngôn ngữ trong các tình huống thực tế).</p>
<p>Chỉ tạo ra các câu tuân theo quy tắc là chưa đủ. Chúng cũng phải được sử dụng một cách phù hợp trong ngữ cảnh. Trong ví dụ này (được tạo ra với sự hỗ trợ của ChatGPT-4 khi được nhắc tạo ra một ví dụ về phản hồi hội thoại chính xác nhưng không phù hợp), Alex đưa ra một phản hồi có thể đúng về mặt thực tế nhưng không giải quyết được nhu cầu hỗ trợ của bạn mình.</p>
<blockquote>
<p>Bạn: Tớ đang rất lo lắng về bài thuyết trình ngày mai.</p>
<p>Alex: Căng thẳng kích hoạt phản ứng chiến đấu hoặc bỏ chạy của cơ thể, làm tăng nhịp tim và mức cortisol.</p>
</blockquote>
<p>Mahowald và các cộng sự nói rằng niềm tin của chúng ta vào trí thông minh của các hệ thống AI sinh sản đến từ khả năng sử dụng ngôn ngữ của chúng. Tuy nhiên, một phần quan trọng của vấn đề là điều gì xảy ra với <em>con người</em> khi chúng ta tương tác với công nghệ.</p>
<ol start="4">
<li><strong>Các nguyên tắc của giao tiếp</strong></li>
</ol>
<p>Chìa khóa để hiểu sức hấp dẫn của chatbot AI sinh sản đối với con người nằm ở thể loại mà các bot thể hiện: cuộc trò chuyện. Cuộc trò chuyện được điều chỉnh bởi các quy tắc và thói quen.</p>
<p>Các thói quen hội thoại khác nhau giữa các nền văn hóa, và các kỳ vọng khác nhau được đặt ra.  Trong các nền văn hóa phương Tây, ít nhất, các nhà ngôn ngữ học thường coi cuộc trò chuyện diễn ra theo <a href="https://www.ucl.ac.uk/ls/studypacks/Grice-Logic.pdf">bốn nguyên tắc hoặc "tối đa"</a> được nêu ra vào năm 1975 bởi nhà triết học ngôn ngữ người Anh Paul Grice.</p>
<ul>
<li><strong>Tối đa về chất lượng</strong>: hãy trung thực; đừng đưa ra thông tin sai lệch hoặc không được hỗ trợ bằng bằng chứng.</li>
<li><strong>Tối đa về số lượng</strong>: hãy cung cấp thông tin nhiều như cần thiết; đừng cung cấp quá nhiều hoặc quá ít thông tin.</li>
<li><strong>Tối đa về sự liên quan</strong>: chỉ cung cấp thông tin liên quan đến chủ đề đang được thảo luận.</li>
<li><strong>Tối đa về cách thức</strong>: hãy rõ ràng, ngắn gọn và có trật tự; tránh sự khó hiểu và mơ hồ.</li>
</ul>
<ol start="5">
<li><strong>Tìm kiếm sự liên quan bằng mọi giá</strong></li>
</ol>
<p>Chatbot AI sinh sản thường hoạt động tốt về số lượng (đôi khi sai lệch về việc cung cấp quá nhiều thông tin), và chúng có xu hướng liên quan và rõ ràng (lý do mọi người sử dụng chúng để cải thiện kỹ năng viết).</p>
<p>Tuy nhiên, chúng thường không đáp ứng được tối đa về chất lượng. Chúng có xu hướng bị ảo giác, đưa ra những câu trả lời có vẻ uy tín nhưng thực tế là sai sự thật.</p>
<p>Tuy nhiên, trọng tâm của sự thành công của AI sinh sản nằm ở tuyên bố của Grice rằng bất kỳ ai tham gia vào giao tiếp có ý nghĩa sẽ tuân theo những tối đa này và <em>sẽ cho rằng những người khác cũng đang tuân theo chúng</em>.</p>
<p>Ví dụ, lý do nói dối có hiệu quả là vì những người tương tác với người nói dối sẽ cho rằng người kia đang nói thật. Những người tương tác với người đưa ra nhận xét không liên quan sẽ cố gắng tìm kiếm sự liên quan bằng mọi giá.</p>
<p>Nguyên tắc hợp tác của Grice cho rằng cuộc trò chuyện được thúc đẩy bởi ý chí bao trùm của chúng ta là hiểu nhau.</p>
<ol start="6">
<li><strong>Ý chí hợp tác</strong></li>
</ol>
<p>Sự thành công của AI sinh sản, do đó, một phần phụ thuộc vào nhu cầu hợp tác trong cuộc trò chuyện của con người, và được thu hút bản năng vào tương tác. Cách tương tác này thông qua cuộc trò chuyện, được học hỏi từ thời thơ ấu, trở thành thói quen.</p>
<p>Grice lập luận rằng "sẽ cần rất nhiều nỗ lực để có một sự thay đổi triệt để so với thói quen đó".</p>
<p>Vì vậy, lần tới khi bạn tương tác với AI sinh sản, hãy thận trọng. Hãy nhớ rằng nó chỉ là một mô hình ngôn ngữ. Đừng để nhu cầu hợp tác trong cuộc trò chuyện của bạn chấp nhận một cỗ máy như một người đồng loại.</p>

Tại sao chatbot AI lại có cảm giác "như người"? Nguyên tắc thầm lặng trong giao tiếp

Mục lục Vụ việc đáng chú ý ở Hồng Kông Vì sao AI lại gây sốt? Ngôn ngữ và tư duy Các nguyên tắc của giao tiếp Tìm kiếm sự liên quan b...

tháng 11 24, 2024

Kế hoạch AI của Airbnb: Không phải chatbot, mà là cá nhân hóa hơn

<h1></h1>
<h2>Mục lục</h2>
<ol>
<li>Khái quát kế hoạch AI của Airbnb</li>
<li>Lý do Airbnb từ bỏ chatbot AI</li>
<li>Thu thập dữ liệu khách hàng để cá nhân hóa trải nghiệm</li>
<li>Tương lai của Airbnb: Hơn cả cho thuê ngắn hạn</li>
</ol>
<h2>1. Khái quát kế hoạch AI của Airbnb</h2>
<p>Airbnb đang tích cực nghiên cứu và tích hợp trí tuệ nhân tạo (AI) vào ứng dụng của mình. Tuy nhiên, trái ngược với xu hướng hiện nay của nhiều công ty du lịch khác, Airbnb cho biết họ sẽ không phát triển chatbot AI để hỗ trợ lập kế hoạch du lịch, ít nhất là trong thời gian tới.</p>
<h2>2. Lý do Airbnb từ bỏ chatbot AI</h2>
<p>Dave Stephenson, Giám đốc điều hành kinh doanh của Airbnb, chia sẻ tại hội nghị Phocuswright rằng Airbnb đã hợp tác với OpenAI để phát triển một chatbot cho người dùng, nhưng kết quả không như mong đợi.  Họ nhận thấy rằng công nghệ chatbot hiện tại chưa đủ tốt để đáp ứng các tiêu chí thiết kế của Airbnb, đặc biệt là trong việc hỗ trợ lập kế hoạch chuyến đi.  Nhiều công ty du lịch khác đã tung ra các chatbot AI tương tự, nhưng trải nghiệm người dùng vẫn chưa được đánh giá cao.</p>
<h2>3. Thu thập dữ liệu khách hàng để cá nhân hóa trải nghiệm</h2>
<p>Thay vì tập trung vào chatbot, Airbnb đang nỗ lực cải thiện các khía cạnh khác của nền tảng bằng AI. Điều này bao gồm việc nâng cấp thuật toán kết nối khách hàng với các chỗ ở phù hợp hơn, đặc biệt là khi nền tảng có đến 8 triệu bất động sản và 5 triệu người dùng.  Một tính năng mới là "tour ảnh" sẽ sắp xếp ảnh bất động sản theo thứ tự giúp khách hàng hiểu rõ hơn về bố cục của chỗ ở.</p>
<p><img alt="Airbnb rental in Brazil" src="https://skift.com/wp-content/uploads/2024/11/Guest-Favorites-Brazil-2023-Winter-Release-scaled-e1732230478845.jpg"></p>
<p>Một dự án quan trọng khác là thu thập dữ liệu người dùng bằng cách yêu cầu họ cung cấp thêm thông tin chi tiết trong hồ sơ cá nhân. Airbnb đang đặt ra những câu hỏi như "Bạn đam mê điều gì?" và "Kỹ năng vô dụng nhất của bạn là gì?".  Mục đích là để tạo ra những trải nghiệm cá nhân hóa hơn. Việc cá nhân hóa chỉ có thể thực hiện được với dữ liệu khách hàng chất lượng cao. AI sẽ sử dụng dữ liệu này để kết nối khách du lịch với chỗ ở đáp ứng nhu cầu cụ thể của họ.</p>
<h2>4. Tương lai của Airbnb: Hơn cả cho thuê ngắn hạn</h2>
<p>Brian Chesky, Giám đốc điều hành của Airbnb, đã tuyên bố rằng việc xây dựng một ứng dụng Airbnb hoàn toàn dựa trên AI sẽ mất nhiều năm.  Ông cũng chia sẻ tầm nhìn về tương lai của Airbnb sẽ không chỉ giới hạn ở dịch vụ cho thuê ngắn hạn mà sẽ mở rộng sang nhiều lĩnh vực khác của ngành du lịch. Hồ sơ cá nhân của người dùng sẽ là trọng tâm của ứng dụng, với các dịch vụ khác như trải nghiệm du lịch sẽ xoay quanh hồ sơ này.</p>
<p><img alt="Airbnb rental in Brazil" src="https://skift.com/wp-content/uploads/2024/11/Guest-Favorites-Brazil-2023-Winter-Release-scaled-e1732230478845.jpg"></p>

Kế hoạch AI của Airbnb: Không phải chatbot, mà là cá nhân hóa hơn

Mục lục Khái quát kế hoạch AI của Airbnb Lý do Airbnb từ bỏ chatbot AI Thu thập dữ liệu khách hàng để cá nhân hóa trải nghiệm Tương la...

tháng 11 24, 2024

MQube: Trợ lý ảo AI hỗ trợ đối tác cho vay

<h1></h1>
<p><strong>Mục lục</strong></p>
<ol>
<li>Giới thiệu về chatbot AI của MQube</li>
<li>Tính năng và lợi ích của chatbot</li>
<li>Triển vọng phát triển</li>
</ol>
<h2>1. Giới thiệu về chatbot AI của MQube</h2>
<p>MQube, công ty công nghệ thế chấp và công ty mẹ của công ty cho vay thế chấp MPowered Mortgages, đang cung cấp chatbot AI của mình cho một số lượng hạn chế các đối tác cho vay khác. Chatbot này, hiện đang được sử dụng bởi MPowered Mortgages, đã tự động hóa 90% các câu hỏi về tiêu chí của môi giới.</p>
<p>Chatbot sử dụng các mô hình ngôn ngữ lớn để hấp thụ các chính sách của người cho vay và sau đó cung cấp các câu trả lời chính xác và tức thì cho các câu hỏi phức tạp về tiêu chí.</p>
<h2>2. Tính năng và lợi ích của chatbot</h2>
<p>Các người cho vay sẽ có thể tích hợp công cụ "plug and play" này vào các nền tảng nội bộ, cổng web dành cho môi giới và khách hàng, và các giao diện trò chuyện hiện có. MQube cũng cung cấp phiên bản sandbox cho phép người cho vay tự do kiểm tra chatbot trên các chính sách của họ và xây dựng sự tự tin để triển khai nó trong tổ chức của mình.</p>
<p>Chatbot đã hoạt động tại MPowered Mortgages trong hơn một năm với vai trò hướng đến môi giới. Nó đã tạo ra hiệu quả đáng kể cho người cho vay, bao gồm giảm sự phụ thuộc vào các nhân viên hỗ trợ môi giới đối với các câu hỏi liên quan đến tiêu chí. Nó giải phóng hàng giờ làm việc của họ vì nó giải quyết hơn 90% các truy vấn về tiêu chí mà không cần sự can thiệp của con người. Nhiều trong số 4.000 môi giới sử dụng công cụ này cho biết họ thấy chatbot rất trực quan và nó vừa tiết kiệm thời gian và công sức, cho phép họ cung cấp dịch vụ tốt nhất có thể cho khách hàng của mình.</p>
<p>Ông Stuart Cheetham, Giám đốc điều hành của MQube, nhận xét: “Đây không phải là chatbot thông thường mà là một chatbot có khả năng trả lời những câu hỏi phức tạp và chi tiết nhất về tiêu chí của người cho vay, cung cấp cho môi giới và khách hàng câu trả lời nhanh chóng và tiết kiệm thời gian và công sức cho cả hai bên. Mức độ dịch vụ của người cho vay là điều mà chúng tôi biết là một điểm khó khăn đối với cả môi giới và khách hàng, và chatbot mới này được thiết kế để hỗ trợ người cho vay cải thiện dịch vụ họ cung cấp bằng cách loại bỏ sự rắc rối của việc chờ đợi trên điện thoại bằng cách trả lời các câu hỏi tiêu chí phức tạp ngay lập tức.”</p>
<h2>3. Triển vọng phát triển</h2>
<p>MQube tiếp tục tiên phong trong các công nghệ nhằm nâng cao hiệu quả hoạt động và sắp xếp hợp lý quy trình thế chấp cho các đối tác cho vay. Nền tảng khởi tạo thế chấp do AI điều khiển của nó có thể cung cấp các đề nghị thế chấp trong vài giây. Một sáng tạo khác của MQube, Marketing Genius, sử dụng AI và LLMs để tạo nội dung tiếp thị nhanh chóng, hỗ trợ môi giới trong việc thu hút và tiếp cận khách hàng.</p>

MQube: Trợ lý ảo AI hỗ trợ đối tác cho vay

Mục lục Giới thiệu về chatbot AI của MQube Tính năng và lợi ích của chatbot Triển vọng phát triển 1. Giới thiệu về chatbot AI của MQu...

tháng 11 24, 2024

Tránh Thông Tin Sai Lệch Từ AI: 2 Bước Cần Thiết Cho Nghiên Cứu Thông Minh Hơn

<h1></h1>
<p><strong>Mục lục:</strong></p>
<ol>
<li>Giới thiệu</li>
<li>Nghiên cứu trường hợp: Xu hướng AI - Sự thật hay hư cấu?<ul>
<li>Phân tích tuyên bố về năng suất</li>
<li>Phân tích tuyên bố về lợi thế cạnh tranh</li>
</ul>
</li>
<li>Tầm quan trọng của việc xác minh nguồn tham khảo</li>
<li>Cách tránh việc lan truyền thông tin sai lệch từ AI</li>
<li>Kết luận</li>
</ol>
<h2>1. Giới thiệu</h2>
<p>AI có thể là người bạn đồng hành mạnh mẽ hoặc một canh bạc rủi ro, tùy thuộc vào cách bạn sử dụng nó.  Nếu bạn đang dựa vào AI để nghiên cứu, việc bỏ qua các bước cần thiết có thể gây phản tác dụng và làm mất uy tín của bạn. Để tránh thông tin sai lệch từ AI, hãy làm theo hai bước quan trọng sau:</p>
<ol>
<li>Yêu cầu nguồn tham khảo.</li>
<li>Tự mình xác minh những nguồn tham khảo đó.</li>
</ol>
<img alt="Mô hình AI" src="https://specials-images.forbesimg.com/imageserve/673e13fa86279dc2dc1905cc/AI-chatbot---Artificial-Intelligence-digital-concept/960x0.jpg?fit=scale" />

<p>Hai bước này rất quan trọng vì lý do sau đây.</p>
<h2>2. Nghiên cứu trường hợp: Xu hướng AI - Sự thật hay hư cấu?</h2>
<p>Gần đây, một đồng nghiệp đã sử dụng công cụ AI sáng tạo Perplexity để xác định các xu hướng AI trong năm nay. Ứng dụng đã cung cấp một số thống kê ấn tượng, bao gồm:</p>
<ul>
<li>73% doanh nghiệp tin rằng AI sáng tạo sẽ làm tăng năng suất lực lượng lao động.</li>
<li>60% các công ty coi AI sáng tạo là cơ hội để có được lợi thế cạnh tranh.</li>
</ul>
<p>Những tuyên bố này nghe có vẻ đầy hứa hẹn, nhưng chúng có đúng không?  Không xác minh nguồn gốc, chúng ta không thể chắc chắn. Thật không may, các công cụ AI rất dễ bịa đặt thông tin.</p>
<h3>2.1 Phân tích tuyên bố về năng suất</h3>
<p>Tuyên bố của Perplexity rằng "73% doanh nghiệp tin rằng AI sáng tạo sẽ làm tăng năng suất lực lượng lao động" được liên kết đến một bài đăng trên blog có tiêu đề “Xu hướng AI sáng tạo: Chuyển đổi doanh nghiệp và định hình tương lai”, được xuất bản bởi Masters of Code, Inc. Bài đăng này nêu rằng: "73% [giám đốc điều hành] tin rằng công nghệ mới sẽ thúc đẩy năng suất lực lượng lao động."</p>
<img alt="Làm việc thông minh" src="https://specials-images.forbesimg.com/imageserve/673e494cd89014834aeb5c5e/Work-smart---motivational-reminder-handwritten-on-sticky-note/960x0.jpg?fit=scale" />

<p>Mặc dù Perplexity đã trích dẫn chính xác bài đăng trên blog, nhưng bản thân bài đăng đó không cung cấp bất kỳ bằng chứng nào cho tuyên bố này. Masters of Code có thể đã lấy nó từ một nguồn khác, nhưng nếu không có bằng chứng, không thể tin tưởng con số này.</p>
<p>Ngay cả khi tuyên bố này được xác minh, cách diễn đạt của nó cũng đặt ra một vấn đề khác.  Việc tin rằng AI sáng tạo <em>có thể</em> làm tăng năng suất không thuyết phục bằng chứng cho thấy nó <em>đã</em> làm tăng năng suất.</p>
<h3>2.2 Phân tích tuyên bố về lợi thế cạnh tranh</h3>
<p>Tuyên bố của Perplexity rằng "60% các công ty coi AI sáng tạo là cơ hội để có được lợi thế cạnh tranh" đến từ cùng một bài đăng trên blog của Masters of Code.  Một lần nữa, bài đăng không giải thích nguồn gốc của con số này.</p>
<p>Mặc dù bài đăng tham khảo các nguồn uy tín như Gartner và McKinsey, nhưng không có báo cáo nào trong số này dường như hỗ trợ tuyên bố về lợi thế cạnh tranh.  Không có sự dẫn nguồn rõ ràng, số liệu thống kê này vẫn đáng ngờ.</p>
<h2>3. Tầm quan trọng của việc xác minh nguồn tham khảo</h2>
<p>Việc không xác minh thông tin do AI tạo ra không chỉ là một sai lầm trong nghiên cứu. Nó là điều không đạo đức. Việc lan truyền dữ liệu chưa được kiểm chứng có thể gây hiểu lầm cho người khác và làm suy yếu niềm tin vào công việc của bạn.</p>
<p>Hậu quả của việc dựa vào các tuyên bố do AI tạo ra mà chưa được kiểm tra có thể rất nghiêm trọng.  Ví dụ, trong vụ kiện pháp lý <em>Mata v. Avianca</em>, một luật sư ở New York tên là Steven Schwartz đã sử dụng ChatGPT để soạn thảo một hồ sơ bao gồm các trích dẫn và tham chiếu từ các vụ án <em>không tồn tại</em>. Kết quả là, vụ án bị bác bỏ, các luật sư bị phạt 5.000 đô la và danh tiếng chuyên nghiệp của họ bị ảnh hưởng.</p>
<img alt="Búa gõ và giấy viết phạt" src="https://specials-images.forbesimg.com/imageserve/673f6cf565fd75192b7644d4/A-gavel-and-a-piece-of-paper-written-with-Penalty-/960x0.jpg?fit=scale" />

<h2>4. Cách tránh việc lan truyền thông tin sai lệch từ AI</h2>
<p>Để tránh trình bày hư cấu như sự thật trong công việc của bạn, hãy thực hiện hai bước này mỗi khi bạn sử dụng AI để nghiên cứu:</p>
<ol>
<li><strong>Yêu cầu nguồn tham khảo.</strong> Khi sử dụng công cụ AI như ChatGPT, hãy bao gồm một lời nhắc như: “Vui lòng bao gồm các siêu liên kết đến các nguồn cho các tuyên bố của bạn.”</li>
<li><strong>Kiểm tra các nguồn tham khảo đó.</strong> Hãy đảm bảo rằng các liên kết hợp lệ và dẫn đến các nguồn đáng tin cậy. Nếu các tham chiếu bị hỏng hoặc không được hỗ trợ, hãy bỏ qua tuyên bố đó.</li>
</ol>
<p>Hãy coi AI là điểm bắt đầu. Sử dụng nó để tạo ra ý tưởng, không phải câu trả lời cuối cùng. Xác minh mọi sự thật một cách độc lập trước khi trích dẫn nó.</p>
<h2>5. Kết luận</h2>
<p>AI có thể đẩy nhanh quá trình nghiên cứu của bạn, nhưng chỉ khi bạn sử dụng nó một cách có trách nhiệm. Để tránh thông tin sai lệch từ AI, hãy luôn yêu cầu nguồn tham khảo, xác minh kỹ lưỡng và coi AI là điểm xuất phát, không phải là thẩm quyền cuối cùng. Uy tín và danh tiếng của bạn phụ thuộc vào điều đó.</p>
<img alt="Biểu tượng kiểm tra sự thật" src="https://specials-images.forbesimg.com/imageserve/673f6d517530d799c13c7204/Fact-check-flat-icon/960x0.jpg?fit=scale" />

Tránh Thông Tin Sai Lệch Từ AI: 2 Bước Cần Thiết Cho Nghiên Cứu Thông Minh Hơn

Mục lục: Giới thiệu Nghiên cứu trường hợp: Xu hướng AI - Sự thật hay hư cấu? Phân tích tuyên bố về năng suất Phân tích tuyên bố về lợi...

tháng 11 24, 2024

Gói PyPI độc hại giả mạo ChatGPT và Claude đánh cắp dữ liệu của nhà phát triển

<h1></h1>
<p><strong>Mục lục</strong></p>
<ol>
<li>Giới thiệu</li>
<li>Phân tích kỹ thuật</li>
<li>Phạm vi ảnh hưởng và phát tán</li>
<li>Lời khuyên bảo mật</li>
<li>Kết luận</li>
</ol>
<h2>1. Giới thiệu</h2>
<p>Gần đây, Nhóm Nghiên cứu và Phân tích Toàn cầu (GReAT) của Kaspersky đã phát hiện một cuộc tấn công chuỗi cung ứng tinh vi nhắm mục tiêu vào Chỉ mục Gói Python (PyPI). Cuộc tấn công này, kéo dài gần một năm mà không bị phát hiện, liên quan đến các gói độc hại giả mạo các công cụ chatbot AI để phân phối một phiên bản sửa đổi của mã độc JarkaStealer.  Leonid Bezvershenko, một nhà nghiên cứu bảo mật tại Kaspersky GReAT, đã dẫn đầu việc phát hiện này.</p>
<p><img alt="Malicious PyPi Package Mimic ChatGPT & Claude Steals Developers Data" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEh7-yHfddzKzAamxleuIH8khSHD9fU7K-UmlFsI94rFWI4dOaaidurdRFESBvQAYDnMUw-CgAhlpBTTLi_wjO5ytDQerUOYu3LePe4Q7Bs6ty86Or7qkdlsN2Q6NcEv3mc6rDaGBpGHWf3_Ag7nFw_fR1K0pPy4CbijIC7kdCwubfWL7EIW8PhoMfO3NIA/s16000/Malicious%20PyPi%20Package%20Mimic%20ChatGPT%20&%20Claude%20Steals%20Developers%20Data.webp" /></p>
<h2>2. Phân tích kỹ thuật</h2>
<p>Hai gói độc hại được tìm thấy trên PyPI là "gptplus" và "claudeai-eng".  Chúng được tải lên vào tháng 11 năm 2023 và bắt chước các công cụ hoạt động với các mô hình ngôn ngữ AI nổi tiếng ChatGPT và Claude.</p>
<p><img alt="Malicious Python packages (Source – X)" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEh5H6X0OVpVKpk21_uk9FRCEZzIrq98GvGGxop4DzcMeYyllByFAsb30Ft22QSt-mzljk5-Roy95zjkV4DIX4qoy-96sYP9qh_Cc702wWQdwPME0xCLH3ShVN9FPlXvDW76NcldfxWCJBB6HlanYIMdXtrlGZQizuWUurtyFRDCIbX4lKYfuB2J1SAbleE/s16000/Malicious%20Python%20packages%20(Source%20-%20X).webp" /></p>
<p>Mô tả của các gói này bao gồm các ví dụ sử dụng thuyết phục, như tạo cuộc trò chuyện và gửi tin nhắn đến các mô hình ngôn ngữ AI, nhằm thu hút các nhà phát triển không nghi ngờ.  Tuy nhiên, khi nhập các gói này, một quá trình ẩn sẽ thực thi dữ liệu được mã hóa Base64, tải xuống tệp JAR có tên JavaUpdater.jar từ kho lưu trữ GitHub. Tệp này chứa một phiên bản của JarkaStealer, một mã độc mạnh mẽ có khả năng đánh cắp dữ liệu trình duyệt, chụp ảnh màn hình, thu thập thông tin hệ thống và trích xuất dữ liệu phiên từ nhiều ứng dụng khác nhau, bao gồm Telegram, Discord và Steam.</p>
<p><img alt="Package template and structure (Source – X)" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEiTThSYXlXLHU1zqB5VIXy_gvW5Bl4CGlWSYK8rPnqteGuR9IJNAP0UGZ2XFLM2rWbeT9c5cS9q_nmwijM5vQzLuKavxv_2gRMJz1n5l22OffY75U72IUbgE_xpKBq9PBQ6QfqZ59vSKex_IeoD1gx0QJ9YV0AWqX6GvEYaGbYrmKWrqWhURogXv_Ah0rQ/s16000/Package%20template%20and%20structure%20(Source%20-%20X).webp" /></p>
<h2>3. Phạm vi ảnh hưởng và phát tán</h2>
<p>Trước khi bị phát hiện và xóa bỏ, các gói độc hại này đã được tải xuống hơn 1.700 lần ở hơn 30 quốc gia. Hoạt động cao nhất được báo cáo ở Hoa Kỳ, Trung Quốc, Pháp, Đức và Nga.  Tuy nhiên, chiến dịch này dường như không nhắm mục tiêu vào bất kỳ tổ chức hoặc khu vực địa lý cụ thể nào.</p>
<p><img alt="Downloads by country (Source – X)" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjMti-QVyhMe6iBu5UemscdKsF_nbTfIFoB0hEScm8q3MfWVUMFGHb2rnDcVA8rm1BllfJmtTEIW08pmUvjT-BRXvq_sqfGLKPWTArx3pjb2Op1P2fPFs-tP_-a7S0QTwwpzqoCCoyFv_xrTv9USYH_ioLVyxbjdox84wyXR1UCesizdpbljMUaproYkWI/s16000/Downloads%20by%20country%20(Source%20-%20X).webp" /></p>
<p>Điều tra của Kaspersky cho thấy JarkaStealer đang được phân phối theo mô hình Malware-as-a-Service (MaaS) thông qua một kênh Telegram và cửa hàng bot. Mã nguồn của mã độc này cũng bị rò rỉ trên GitHub, có thể cho phép các tác nhân độc hại triển khai rộng rãi hơn.</p>
<p><img alt="Telegram bot (Source – X)" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgq-LuyXGBU0Qztp4-rPxV7G1mxaUiQuNhO1aRzZoqiY6TV2azz1TBieWWMTqWOqUJaiGl426D6cW7J-pP82zCeE1aAuRSqeul2_fmbFeuaHYknddE3QmrsRII52ELODZTJH78bMSv5dism43PQhUrGY1jYZQE6HF2YFgPki07PYwntFlvzRIaRaauflcs/s16000/Telegram%20bot%20(Source%20-%20X).webp" /></p>
<h2>4. Lời khuyên bảo mật</h2>
<p>Bezvershenko nhấn mạnh tầm quan trọng của việc triển khai các kiểm tra xác minh và tính toàn vẹn nghiêm ngặt để đảm bảo tính hợp pháp và bảo mật của phần mềm và các phụ thuộc, đặc biệt là khi xử lý các công nghệ mới nổi như AI.</p>
<h2>5. Kết luận</h2>
<p>Kaspersky đã báo cáo những phát hiện của mình cho PyPI, dẫn đến việc loại bỏ các gói độc hại. Công ty an ninh mạng này tiếp tục tích cực theo dõi các mối đe dọa tương tự để bảo vệ chuỗi cung ứng phần mềm.  Sự việc này một lần nữa nhấn mạnh tầm quan trọng của việc kiểm tra kỹ lưỡng nguồn gốc và tính toàn vẹn của các gói phần mềm trước khi sử dụng, đặc biệt là từ các nguồn không chính thức.</p>

Gói PyPI độc hại giả mạo ChatGPT và Claude đánh cắp dữ liệu của nhà phát triển

Mục lục Giới thiệu Phân tích kỹ thuật Phạm vi ảnh hưởng và phát tán Lời khuyên bảo mật Kết luận 1. Giới thiệu Gần đây, Nhóm Nghiên...

tháng 11 24, 2024

Cải tiến Trợ lý Ảo AI của IRS: Đề xuất từ Hội đồng Tư vấn

Tại sao chatbot AI lại có cảm giác "như người"? Nguyên tắc thầm lặng trong giao tiếp

Kế hoạch AI của Airbnb: Không phải chatbot, mà là cá nhân hóa hơn

MQube: Trợ lý ảo AI hỗ trợ đối tác cho vay

Tránh Thông Tin Sai Lệch Từ AI: 2 Bước Cần Thiết Cho Nghiên Cứu Thông Minh Hơn

Gói PyPI độc hại giả mạo ChatGPT và Claude đánh cắp dữ liệu của nhà phát triển

Bài đăng phổ biến

Labels