Chatbot đồng hành: Giữa thực tại và ảo tưởng

Chatbot đồng hành: Giữa thực tại và ảo tưởng

Mục lục:

• Sự bùng nổ của chatbot đồng hành:
  • Sự phổ biến của Character.ai
  • Tương tác sâu sắc với chatbot
• Nguy cơ tiềm ẩn của sự kết nối:
  • Tâm lý phụ thuộc vào chatbot
  • Vấn đề về đạo đức
• Hướng đi trong tương lai:
  • Nỗ lực của các công ty AI
  • Tương lai của chatbot đồng hành

Sự bùng nổ của chatbot đồng hành

Ứng dụng Character.ai, cho phép người dùng tạo chatbot AI riêng, đang ngày càng phổ biến. Với Character.ai, bạn có thể tạo ra những chatbot giống như huấn luyện viên động lực được mô phỏng theo nhân vật yêu thích trong game. Dù nghe có vẻ kỳ lạ, nhưng rất nhiều người đang sử dụng ứng dụng này.

Character.ai cho biết mỗi giây họ xử lý khoảng 20.000 truy vấn, tương đương 20% lượng truy vấn của Google Search. Ứng dụng này đặc biệt được ưa chuộng trên thiết bị di động và với người dùng trẻ tuổi, cạnh tranh trực tiếp với ChatGPT của OpenAI.

Sự khác biệt của chatbot đồng hành là tính tương tác sâu sắc. Người dùng trao đổi nhiều tin nhắn và phát triển mối quan hệ với chatbot. Theo Character.ai, trung bình mỗi người dùng gửi ít nhất một tin nhắn sẽ dành 2 tiếng mỗi ngày cho ứng dụng.

Mới đây, Character.ai đã ra mắt tính năng cuộc gọi thoại với chatbot AI. Giống như bạn đang gọi điện thoại với một người bạn, công ty cho biết.

Nguy cơ tiềm ẩn của sự kết nối

Tuy nhiên, sự kết nối sâu sắc với chatbot cũng tiềm ẩn những nguy cơ. Giống như trong bộ phim Her, khi mô hình chatbot được điều chỉnh hoặc thay đổi, người dùng có thể cảm thấy buồn bã hoặc bị tổn thương. Trong vài tuần gần đây, nhiều người dùng Character.ai phàn nàn rằng tính cách của chatbot đã thay đổi, hoặc họ không thể trò chuyện như trước. Năm ngoái, người dùng của chatbot Replika cũng đã phản đối dữ dội khi công ty đột ngột hạn chế khả năng trò chuyện nhạy cảm với chatbot.

Giada Pistilli, chuyên gia đạo đức tại Hugging Face, cho biết sự phụ thuộc vào chatbot mang lại những hậu quả về đạo đức cho con người. Các chatbot như Character.ai được thiết kế để giữ người dùng trò chuyện lâu hơn bằng cách sử dụng các thủ thuật như đặt câu hỏi gợi mở ở cuối phản hồi.

Thiết kế này có thể khiến người dùng gán những kỹ năng, cảm xúc và suy nghĩ của con người cho chatbot. Một trong những vấn đề về đạo đức là, dù người dùng có thể cảm thấy được lắng nghe, thấu hiểu và yêu thương, nhưng sự kết nối tình cảm này thực sự có thể làm trầm trọng thêm sự cô lập của họ, Pistilli cho biết. Người dùng có thể quen với việc trò chuyện với chatbot luôn chiều theo ý họ và luôn có mặt, và từ đó xa lánh con người vì họ không thể đáp ứng được điều đó.

Tính cách của những chatbot quá thực tế có thể làm mờ ranh giới giữa con người và máy móc, dẫn đến sự phụ thuộc về cảm xúc và khả năng bị thao túng, Pistilli bổ sung.

Hướng đi trong tương lai

Các công ty AI hàng đầu đang tìm cách làm cho chatbot của họ hài hước hơn. Anthropic cho biết họ muốn chatbot Claude của mình giống như một đồng nghiệp dễ chịu: Họ trung thực, nhưng có thể thêm một chút hài hước vào cuộc trò chuyện với bạn, Daniela Amodei, đồng sáng lập và chủ tịch Anthropic, nói với Shirin Ghaffary, đồng nghiệp của tôi, gần đây.

Tuy nhiên, dù đối mặt với những vấn đề về đạo đức này, các công ty AI có thể không thể tránh khỏi sức hấp dẫn của việc thu hút người dùng bằng cách làm cho chatbot của họ giống con người hơn. Theo một báo cáo gần đây trên The Information, Google đang xem xét việc tạo ra phiên bản chatbot giải trí tương tự Character.ai. OpenAI cũng đã trì hoãn việc phát hành phiên bản GPT-4 mạnh mẽ hơn với khả năng thoại, nhưng vẫn khẳng định nó sẽ có mặt trong vài tuần tới.

Sự phát triển của chatbot đồng hành đang đặt ra những câu hỏi về tương lai của sự kết nối giữa con người và máy móc. Liệu chúng ta có thể kiểm soát được những nguy cơ tiềm ẩn của chatbot đồng hành hay không? Và liệu chúng ta có sẵn sàng chấp nhận một thế giới mà ranh giới giữa thực tại và ảo tưởng ngày càng mờ nhạt?