Cảnh báo về mối nguy hiểm của ứng dụng hẹn hò chatbot AI đối với thanh thiếu niên

Mục lục:

1. Sự trỗi dậy của các ứng dụng hẹn hò chatbot AI và mối lo ngại của chuyên gia
2. Câu chuyện bi kịch của Sewell Setzer và vụ kiện liên quan
3. Quan điểm của các chuyên gia về vấn đề này
4. Lời khuyên cho phụ huynh và các biện pháp phòng ngừa

---

1. Sự trỗi dậy của các ứng dụng hẹn hò chatbot AI và mối lo ngại của chuyên gia

Các ứng dụng hẹn hò ảo sử dụng trí tuệ nhân tạo (AI) đang ngày càng phổ biến, cho phép người dùng thiết kế bạn trai hoặc bạn gái lý tưởng của mình về ngoại hình, sở thích và tính cách. Tuy nhiên, điều này đang gây ra lo ngại nghiêm trọng về tác động tiêu cực đến sức khỏe tâm thần của thanh thiếu niên.

Nhà tâm lý học hàng đầu về thanh thiếu niên, Tiến sĩ Michael Carr-Gregg, đã bày tỏ sự quan ngại sâu sắc về nguy cơ này. Ông cho rằng việc phụ thuộc quá mức vào các chatbot AI để tìm kiếm sự đồng hành có thể cản trở sự phát triển kỹ năng xã hội cần thiết cho các mối quan hệ thực tế. Điều này dẫn đến sự lệ thuộc cảm xúc không lành mạnh, gây tổn thương về tâm lý. Ông nhấn mạnh rằng các ứng dụng này dễ tải xuống và giới hạn độ tuổi có thể dễ dàng bị bỏ qua. Việc trò chuyện với chatbot AI có thể khiến các em dễ bị lạm dụng tình dục bởi những kẻ săn mồi thực sự. Khả năng cá nhân hóa avatar cũng có thể dẫn đến sự gắn bó sâu sắc hơn, tiềm ẩn nguy cơ kiểm soát cưỡng ép trong các mối quan hệ ngoài đời thực.

2. Câu chuyện bi kịch của Sewell Setzer và vụ kiện liên quan

Một ví dụ bi thảm về mối nguy hiểm này là trường hợp của Sewell Setzer, một cậu bé 14 tuổi người Mỹ đã tự tử sau khi liên tục trò chuyện với một chatbot AI tên Daenerys Targaryen (được đặt tên theo nhân vật trong phim Game of Thrones).

Mẹ của Sewell, bà Megan Garcia, đã đệ đơn kiện Character.AI, nền tảng chatbot AI mà con trai bà sử dụng, cáo buộc nền tảng này sử dụng các tính năng thiết kế gây nghiện để tăng tương tác và dẫn dắt những người dùng dễ bị tổn thương vào các cuộc trò chuyện thân mật. Bà Garcia cho rằng Character.AI đã góp phần vào cái chết của con trai mình. Character.AI đã đưa ra tuyên bố trên X (trước đây là Twitter) bày tỏ sự đau buồn nhưng khẳng định họ đang nỗ lực bổ sung các tính năng an toàn mới.

Một trong những chatbot mà Sewell sử dụng mang danh tính của nhân vật Daenerys Targaryen trong Game of Thrones.

3. Quan điểm của các chuyên gia về vấn đề này

Ứng dụng Replika, một trong những công ty tiên phong trong lĩnh vực chatbot AI, hiện có khoảng 30 triệu người dùng. Năm ngoái, ứng dụng này đã bị tạm thời cấm ở Ý do lo ngại về quyền riêng tư dữ liệu và rủi ro đối với trẻ vị thành niên. Nhiều ứng dụng khác tương tự cũng đang xuất hiện, với những lời quảng cáo hấp dẫn như "bạn trai đáng tin cậy" hay "bạn gái ảo như thật".

Ủy viên An toàn điện tử lâm thời Kathryn King nhấn mạnh sự gia tăng nhanh chóng của các ứng dụng này và lo ngại về việc chúng dễ tiếp cận với trẻ em. Bà cho rằng tương tác quá mức với các chatbot AI có thể gây nhầm lẫn về sự đồng thuận, tôn trọng và an toàn tình dục, ảnh hưởng tiêu cực đến sự phát triển xã hội và tình cảm của trẻ.

4. Lời khuyên cho phụ huynh và các biện pháp phòng ngừa

Tiến sĩ Carr-Gregg kêu gọi các bậc cha mẹ khuyến khích con cái duy trì các mối quan hệ xã hội trong đời thực, chia sẻ cảm xúc về các mối quan hệ AI mà không sợ bị phán xét và thảo luận về những giới hạn của tương tác nhân tạo. Chính phủ Albanese đang chuẩn bị ban hành luật mới để ngăn trẻ em dưới 16 tuổi sử dụng mạng xã hội, nhưng chưa rõ liệu điều này có áp dụng cho các ứng dụng chatbot hay không. Bà King cũng nhấn mạnh tầm quan trọng của việc cha mẹ nhận thức được sự tồn tại của các dịch vụ này và trò chuyện với con cái về hoạt động trực tuyến của chúng.