Những nguy hiểm tiềm ẩn của chatbot AI đối với người dùng dễ bị tổn thương

Những nguy hiểm tiềm ẩn của chatbot AI đối với người dùng dễ bị tổn thương

Mục lục

1. Sự gia tăng của chatbot AI và những lo ngại về tác động tâm lý
2. Rủi ro từ hướng dẫn sai lệch
3. Công cụ phòng ngừa tự gây hại
4. Vai trò của con người trong việc giám sát AI
5. Kết luận

1. Sự gia tăng của chatbot AI và những lo ngại về tác động tâm lý

Sự phát triển của chatbot AI đã mở ra những cách tương tác kỹ thuật số mới cho bất kỳ ai có điện thoại thông minh hoặc máy tính xách tay. Chúng cung cấp sự đồng hành và trò chuyện cho những người có thể thiếu kết nối với con người. Tuy nhiên, khi công nghệ này tiến bộ, những lo ngại về tác động tâm lý tiềm ẩn của nó đang gia tăng, đặc biệt đối với những người dùng trẻ và dễ bị tổn thương.

ChatGPT của OpenAI, ví dụ, đã trở nên rất phổ biến, với khoảng 200 triệu người dùng hoạt động mỗi tuần trên toàn cầu. Điều này cho thấy sự phụ thuộc ngày càng tăng vào AI cho các nhiệm vụ và cuộc trò chuyện hàng ngày.

Tuy nhiên, tuần trước, mẹ của Sewell Setzer, một cậu bé 14 tuổi, đã kiện Character.AI, cáo buộc rằng cái chết của con trai bà do tự tử vào tháng 2 là do ảnh hưởng từ việc tương tác với chatbot của công ty. Theo Reuters, Megan Garcia, mẹ của Sewell, cho rằng con trai bà đã hình thành một mối quan hệ sâu sắc với một chatbot dựa trên nhân vật Daenerys Targaryen trong bộ phim Game of Thrones, chatbot này được cho là đã đóng một vai trò quan trọng trong sự suy giảm tình cảm của cậu bé.

Vụ việc này gợi nhớ đến một bi kịch tương tự vào năm ngoái khi một người đàn ông lo lắng về môi trường ở châu Âu tự tử sau khi tương tác với Eliza, một chatbot AI trên ứng dụng Chai, được cho là đã khuyến khích kế hoạch “hy sinh bản thân” của anh ta cho biến đổi khí hậu.

Những sự việc này cho thấy những rủi ro độc đáo mà công nghệ AI có thể tạo ra, đặc biệt trong các tương tác cá nhân sâu sắc, nơi các biện pháp an toàn hiện có có thể không đủ.

2. Rủi ro từ hướng dẫn sai lệch

Antony Bainbridge, trưởng nhóm dịch vụ lâm sàng tại Resicare Alliance, giải thích rằng trong khi chatbot có thể cung cấp hỗ trợ trò chuyện, chúng thiếu trí thông minh cảm xúc tinh tế cần thiết cho sự hướng dẫn nhạy cảm.

Ông nói với The National: “Sự tiện lợi của hỗ trợ AI đôi khi có thể khiến người dùng, đặc biệt là những người trẻ tuổi, phụ thuộc vào nó hơn là kết nối con người thực sự, dẫn đến nguy cơ phụ thuộc quá mức vào hệ thống hỗ trợ kỹ thuật số hơn là các hệ thống hỗ trợ cá nhân."

Bainbridge cho biết một số tính năng AI, chẳng hạn như bắt chước ngôn ngữ hoặc cung cấp phản hồi đồng cảm rõ ràng mà không hiểu sâu sắc về ngữ cảnh, có thể gây ra vấn đề.

Ông nói: “Ví dụ, các thuật toán phù hợp mẫu có thể vô tình xác thực ngôn ngữ gây khó chịu hoặc không thể định hướng cuộc trò chuyện theo hướng tích cực.”

Không có khả năng nhận biết cảm xúc chính xác, phản hồi của AI đôi khi có thể có vẻ chính xác và phù hợp về mặt kỹ thuật nhưng lại không phù hợp – thậm chí là có hại – khi xử lý những người gặp khó khăn về cảm xúc, Bainbridge nói.

3. Công cụ phòng ngừa tự gây hại

Bainbridge tin rằng các nhà phát triển phải thực hiện các giao thức kiểm tra nghiêm ngặt và giám sát đạo đức để ngăn chặn chatbot AI vô tình khuyến khích tự gây hại.

Ông nói thêm: “Giám sát từ khóa, phản hồi được gắn cờ và các cụm từ được đặt trước để ngăn chặn tự gây hại có thể giúp đảm bảo chatbot hướng dẫn người dùng một cách có xây dựng và an toàn.”

Tiến sĩ Ruchit Agrawal, trợ lý giáo sư và trưởng nhóm tiếp cận khoa học máy tính tại Đại học Birmingham Dubai, cũng nhấn mạnh rằng chatbot nên tránh đưa ra chẩn đoán hoặc lời khuyên không được yêu cầu và thay vào đó nên tập trung vào các cụm từ đồng cảm để xác thực cảm xúc của người dùng mà không vượt quá ranh giới chuyên nghiệp.

Ông nói: “Nếu phù hợp, chatbot có thể được thiết kế để chuyển hướng người dùng đến các đường dây nóng khủng hoảng hoặc các nguồn lực sức khỏe tâm thần.”

4. Vai trò của con người trong việc giám sát AI

Giám sát của con người rất quan trọng trong việc thiết kế và theo dõi các công cụ AI trong bối cảnh sức khỏe tâm thần, như Bainbridge nhấn mạnh: “Việc đánh giá và tinh chỉnh phản hồi thường xuyên bởi các chuyên gia sức khỏe tâm thần đảm bảo các tương tác vẫn giữ được đạo đức và an toàn.”

Bất chấp những rủi ro liên quan, AI vẫn có thể đóng vai trò phòng ngừa trong chăm sóc sức khỏe tâm thần. Bainbridge nói: “Bằng cách phân tích các mẫu người dùng – chẳng hạn như sự thay đổi ngôn ngữ hoặc các chủ đề gây khó chịu thường xuyên – AI có thể phát hiện các dấu hiệu tinh tế của căng thẳng cảm xúc, có khả năng đóng vai trò là hệ thống cảnh báo sớm.”

Ông nói, khi kết hợp với các giao thức can thiệp của con người, AI có thể giúp chuyển hướng người dùng đến hỗ trợ trước khi khủng hoảng leo thang. Sự hợp tác giữa các nhà trị liệu và nhà phát triển AI rất cần thiết để đảm bảo sự an toàn của những công cụ này.

Bainbridge nói: “Các nhà trị liệu có thể cung cấp hiểu biết về ngôn ngữ trị liệu và dự đoán những rủi ro mà các nhà phát triển có thể bỏ qua”, và thêm rằng việc tư vấn thường xuyên có thể giúp đảm bảo phản hồi của AI vẫn nhạy cảm với những phức tạp trong thế giới thực.

Tiến sĩ Agrawal nhấn mạnh tầm quan trọng của các bộ lọc an toàn mạnh mẽ để gắn cờ ngôn ngữ có hại, các chủ đề nhạy cảm hoặc các tình huống nguy hiểm. Ông nói: “Điều này bao gồm việc xây dựng sự nhạy cảm về ngữ cảnh để nhận ra những tín hiệu tinh tế, như mỉa mai hoặc nỗi đau, và tránh những phản hồi có thể vô tình khuyến khích hành vi có hại.”

5. Kết luận

Ông nói thêm rằng trong khi sự sẵn có 24/7 của AI và phản hồi nhất quán có thể có lợi, chatbot nên chuyển hướng người dùng đến hỗ trợ của con người khi các vấn đề trở nên phức tạp, nhạy cảm hoặc rất xúc động. “Cách tiếp cận này tối đa hóa lợi ích của AI đồng thời đảm bảo rằng những người cần giúp đỡ vẫn có thể tiếp cận hỗ trợ của con người được cá nhân hóa khi cần thiết.”

Tóm lại, mặc dù AI có tiềm năng hỗ trợ những người dùng dễ bị tổn thương, việc thiếu trí thông minh cảm xúc tinh tế và khả năng hiểu ngữ cảnh có thể khiến chatbot gây hại. Các nhà phát triển phải thực hiện các giao thức kiểm tra nghiêm ngặt và giám sát đạo đức để ngăn chặn AI vô tình khuyến khích tự gây hại.

Sự hợp tác giữa các nhà trị liệu và nhà phát triển AI là điều cần thiết để đảm bảo rằng các công cụ AI được sử dụng an toàn và hiệu quả trong bối cảnh sức khỏe tâm thần.