Khi con người lặp lại những gì AI bịa đặt?

Sự trỗi dậy của trí tuệ nhân tạo (AI) mang đến nhiều lợi ích to lớn, nhưng cũng đi kèm với những rủi ro tiềm ẩn, đặc biệt là trong việc xác thực thông tin. Bài viết này sẽ phân tích hiện tượng "botshit" - khi con người tin tưởng và lặp lại những thông tin sai lệch do AI tạo ra, đồng thời đề xuất giải pháp để hạn chế rủi ro này.

Botshit: Khi AI bịa đặt và con người tin tưởng

AI tạo sinh (Generative AI) như ChatGPT hay các mô hình ngôn ngữ lớn (LLM) có khả năng tạo ra nội dung văn bản một cách tự nhiên và hấp dẫn. Tuy nhiên, vấn đề nằm ở chỗ, AI không phải lúc nào cũng đưa ra thông tin chính xác. Chúng có thể bịa đặt, đưa ra thông tin lỗi thời hoặc suy đoán dựa trên dữ liệu không đầy đủ.

Hannigan, McCarthy, và Spicer trong nghiên cứu của họ đã đặt ra thuật ngữ "botshit" để chỉ hiện tượng con người tin tưởng và lặp lại những thông tin sai lệch do AI tạo ra. Botshit không chỉ đơn thuần là thông tin sai lệch, mà còn phản ánh sự phụ thuộc và tin tưởng quá mức của con người vào AI.

Hai loại botshit:

Botshit nội tại: Xảy ra khi AI dựa vào dữ liệu lỗi thời hoặc không chính xác. Ví dụ, ChatGPT-4 được đào tạo trên dữ liệu đến tháng 9 năm 2021, do đó, khi được hỏi về CEO hiện tại của Twitter, nó có thể trả lời là Elon Musk (người đã rời chức vụ CEO vào năm 2022).
Botshit ngoại tại: Xảy ra khi AI tạo ra thông tin không thể được chứng minh hoặc bác bỏ bằng dữ liệu huấn luyện. Ví dụ, khi được yêu cầu mô tả mô hình kinh doanh của Meta vào năm 2026, AI có thể đưa ra những dự đoán không có cơ sở thực tế.

Tại sao chúng ta dễ dàng tin tưởng AI?

Sự tin tưởng vào máy móc: Con người có xu hướng tin tưởng vào máy móc hơn là con người, bởi vì máy móc được cho là khách quan và chính xác hơn. AI lại được thiết kế với giao diện thân thiện, sử dụng ngôn ngữ tự nhiên, khiến chúng ta cảm thấy như đang giao tiếp với một con người.
Sự cá nhân hóa: AI có thể học hỏi và phản ánh hành vi, sở thích của người dùng. Điều này khiến chúng ta cảm thấy AI hiểu chúng ta, đồng thời tạo ra những câu trả lời hấp dẫn và phù hợp với suy nghĩ của chúng ta, khiến chúng ta dễ dàng bị thuyết phục.

Ảnh hưởng của botshit:

Botshit có thể gây ra nhiều tác hại, từ những quyết định sai lầm trong cuộc sống hàng ngày đến những hậu quả nghiêm trọng hơn như lan truyền thông tin sai lệch, gây ảnh hưởng đến sức khoẻ, thậm chí ảnh hưởng đến kết quả bầu cử.

Giải pháp quản lý rủi ro:

Để hạn chế botshit, chúng ta cần xây dựng những giải pháp quản lý rủi ro, bao gồm:

Phân loại botshit: Cần phân loại botshit dựa trên mức độ quan trọng của thông tin và khả năng xác minh để xác định mức độ rủi ro.
Thiết lập các biện pháp bảo vệ: Xây dựng các biện pháp bảo vệ như kiểm tra, xác minh thông tin, sử dụng các công cụ chuyên biệt, và đặt ra các tiêu chuẩn về độ tin cậy cho AI.
Nâng cao nhận thức: Tăng cường nhận thức cho người dùng về khả năng bịa đặt của AI, khuyến khích họ tự kiểm tra và xác thực thông tin.

Kết luận:

AI là một công cụ mạnh mẽ, nhưng cũng cần được sử dụng một cách có trách nhiệm. Việc quản lý rủi ro botshit là điều cần thiết để đảm bảo AI được sử dụng hiệu quả và an toàn, góp phần xây dựng một xã hội thông tin minh bạch và đáng tin cậy.

Khi con người lặp lại những gì AI bịa đặt?