Làn sóng thông tin "rác" do AI tạo ra: Mối đe dọa hay tự điều chỉnh?

Mục lục

1. Giới thiệu về "slop" (thông tin rác) do AI tạo ra
2. "Lời nói cẩu thả": Một dạng nguy hiểm của slop
3. Sự xói mòn dần dần: Vòng lẩn quẩn của thông tin rác
4. Website tin tức do AI tạo ra
5. Khởi nguồn dự án nghiên cứu về slop
6. Ảnh hưởng của slop có bị phóng đại?
7. Ảnh hưởng ngắn hạn của slop
8. Kết luận

1. Giới thiệu về "slop" (thông tin rác) do AI tạo ra

"Slop", hay còn gọi là thông tin rác, đang tràn ngập internet. Khác với thông tin sai lệch cố ý, slop là những văn bản mơ hồ, đầy những từ khóa sáo rỗng, thiếu ý nghĩa thực sự; những hình ảnh meme được tạo vội vàng; hay những bài báo có vấn đề về giọng văn hoặc sự kiện. Sự lo ngại về thông tin sai lệch do AI tạo ra đã bị đánh giá quá cao, nhưng slop đang ngày càng gia tăng, đe dọa "xâm chiếm" internet. Những văn bản chất lượng thấp, được sao chép và dán từ các phản hồi của chatbot, đang trở thành mối quan ngại đáng kể.

2. "Lời nói cẩu thả": Một dạng nguy hiểm của slop

Giáo sư Sandra Wachter, cùng các đồng nghiệp, gọi một dạng rủi ro cụ thể nằm trong định nghĩa slop là "Lời nói cẩu thả" (careless speech). Đây là đầu ra của AI chứa "những thiếu sót tinh vi, sự đơn giản hóa quá mức hoặc phản hồi thiên vị được trình bày một cách tự tin như sự thật". Khác với thông tin sai lệch, mục đích của "Lời nói cẩu thả" không phải là gây hiểu lầm mà là thuyết phục bằng giọng điệu tự tin. Điều này tương đồng với khái niệm "lời nói nhảm nhí" (bullshit) của nhà triết học Harry G. Frankfurt, trong đó người nói không quan tâm đến việc họ nói đúng hay sai.

"Điều nguy hiểm nhất đối với xã hội dân chủ không phải là kẻ nói dối, mà là kẻ nói nhảm," Wachter nhấn mạnh.

Việc nhận diện "Lời nói cẩu thả" rất khó khăn. Không giống như deepfake thường sai lệch một cách rõ ràng, nó thường "sai lệch một cách tinh vi". Sự khó khăn trong việc phân loại phản hồi của chatbot là đúng hay sai đã được ghi nhận trong các phân tích của Viện Reuters về phản hồi của AI đối với các câu hỏi về bầu cử. Như đã lưu ý trong những trường hợp đó, "người dùng có thể không nhận thấy những lỗi này do giọng điệu đầy uy tín của các hệ thống này."

3. Sự xói mòn dần dần: Vòng lẩn quẩn của thông tin rác

Một mối lo ngại khác của Wachter là sự lặp lại (recursion): văn bản do AI tạo ra, dễ dàng, nhanh chóng và rẻ hơn, sẽ lan truyền trên internet, cuối cùng được đưa trở lại vào các LLM làm dữ liệu đào tạo, tạo nên một vòng lẩn quẩn dẫn đến sự xói mòn dần dần chất lượng và giá trị.

Wachter ví vấn đề này với ô nhiễm môi trường: "Mọi người chỉ quăng vỏ lon rỗng vào rừng. Vì vậy, việc đi dạo ở đó sẽ khó khăn hơn vì nó bị ô nhiễm, và vì những hệ thống đó có thể gây ô nhiễm nhanh hơn con người," bà nói. "Giống như con rắn cắn đuôi chính nó."

Wachter, Mittelstadt và Russell đề xuất một khung pháp lý mới để buộc các nhà phát triển LLM chịu trách nhiệm về những tác hại của "Lời nói cẩu thả". Khung pháp lý này, theo họ, nên yêu cầu các nhà phát triển xây dựng các mô hình có khả năng nói sự thật một cách đáng tin cậy.

4. Website tin tức do AI tạo ra

Từ quan điểm của ngành công nghiệp tin tức, slop có khả năng gây ra hiệu ứng ô nhiễm mà Wachter mô tả nhất là các website được tạo ra bởi AI giả mạo là tin tức.

Sử dụng AI là một cách hiệu quả để tạo ra văn bản để làm đầy các website. Mục đích có thể là để thúc đẩy một chương trình nghị sự chính trị, như trong các mạng lưới tin tức địa phương được Trung tâm Tow về Báo chí Kỹ thuật số tại Mỹ xác định gần đây. Nhưng họ cũng có thể làm điều đó chỉ để tạo ra các website được tối ưu hóa cho SEO để tối đa hóa doanh thu quảng cáo.

Ví dụ rõ ràng nhất là các website thuộc về các hãng tin tức đã ngừng hoạt động, được mua lại và lấp đầy bằng các bài báo do AI tạo ra. Mục đích là để thu hút lưu lượng truy cập còn lại từ những người dùng có thể không biết về sự thay đổi chủ sở hữu.

5. Khởi nguồn dự án nghiên cứu về slop

Dự án của NewsGuard bắt đầu ngay sau khi các công ty công nghệ bắt đầu tung ra các chatbot AI. Sadeghi và các đồng nghiệp nhận thấy rằng ngày càng nhiều bài đăng trên mạng xã hội có chứa các tin nhắn như "Tôi không thể trả lời câu hỏi này" hoặc "Tôi không thể truy cập thông tin cập nhật, kiến thức của tôi bị cắt". Những cụm từ này, đặc trưng của tin nhắn lỗi chatbot AI, không chỉ là dấu hiệu cho thấy việc sử dụng chúng mà còn cho thấy sự giám sát của con người tối thiểu.

6. Ảnh hưởng của slop có bị phóng đại?

Đối với David Caswell, người làm việc trong lĩnh vực ứng dụng AI cho các quy trình và sản phẩm tin tức, AI chỉ là một công cụ và tùy thuộc vào những người sử dụng nó để làm điều đó một cách có trách nhiệm. Ông coi thông tin do AI tạo ra chất lượng thấp là sản phẩm của những người áp dụng sớm có tư tưởng kiếm lời nhanh chóng.

"Nhiều người áp dụng sớm đó cũng giống như những người trong lĩnh vực tiền điện tử," ông nói. "Đó là toàn bộ văn hóa 'anh em', kiếm tiền nhanh. Đó là chiến lược 'thổi phồng và xả', nếu không phải là cổ phiếu, thì là ý định."

7. Ảnh hưởng ngắn hạn của slop

Hiện vẫn còn quá sớm để đánh giá tác động lâu dài của slop đối với hệ sinh thái tin tức. Tuy nhiên, có một số bằng chứng cho thấy những sai sót được công bố bởi các website tin tức do AI tạo ra có thể gây ra tác hại thực sự trong ngắn hạn.

8. Kết luận

Việc slop ảnh hưởng đến hệ sinh thái thông tin trực tuyến như thế nào vẫn cần được nghiên cứu thêm. Tuy nhiên, các chuyên gia cho thấy việc sử dụng AI một cách thiếu trách nhiệm đã dẫn đến sự gia tăng đáng kể của thông tin rác, gây ảnh hưởng đến niềm tin vào báo chí, đặc biệt là báo chí địa phương. Việc thiết lập khung pháp lý, khuyến khích trách nhiệm của nhà phát triển AI và nâng cao nhận thức của người dùng là điều cần thiết để giải quyết vấn đề này. Các nhà xuất bản cần phải tự định vị mình bằng cách cung cấp thông tin giá trị, đáng tin cậy và phù hợp với nhu cầu của độc giả, để nổi bật giữa "biển" thông tin rác trên internet.