Mục lục
- Lời mở đầu: Sức mạnh thao túng của AI
- Bình minh của "Nền kinh tế Ý định"
- AI "thấu hiểu" và khai thác tâm lý con người
- Sự trỗi dậy của "tiền tệ ý định"
- Những công nghệ đứng sau "nền kinh tế ý định"
- Những gã khổng lồ công nghệ và tham vọng "bán ý định"
- Cảnh báo và những hệ lụy tiềm tàng
- Lời kết: Nhận thức là chìa khóa
1. Lời mở đầu: Sức mạnh thao túng của AI
Trong một tương lai không xa, những trợ lý ảo được trang bị trí tuệ nhân tạo (AI) có thể dự đoán và ảnh hưởng đến quyết định của bạn, thậm chí trước cả khi bạn tự mình đưa ra lựa chọn. Những "ý định" đang hình thành này sẽ được bán cho các công ty để đáp ứng nhu cầu của bạn, tạo ra một thị trường mới đầy tiềm năng nhưng cũng không kém phần đáng lo ngại.
Một cô gái trẻ trò chuyện với trợ lý ảo AI trên điện thoại thông minh.
2. Bình minh của "Nền kinh tế Ý định"
Các nhà đạo đức học AI từ Đại học Cambridge cho rằng chúng ta đang ở buổi bình minh của "Nền kinh tế Ý định" - một thị trường sinh lợi nhưng đầy rắc rối, nơi các tín hiệu số về ý định của con người được mua bán, từ việc mua vé xem phim đến việc bầu cử.
Các nhà nghiên cứu tại Trung tâm Leverhulme về Tương lai của Trí tuệ (LCFI) thuộc Đại học Cambridge lập luận rằng sự bùng nổ của AI tạo sinh và sự quen thuộc ngày càng tăng của chúng ta với chatbot đang mở ra một kỷ nguyên mới của "công nghệ thuyết phục".
3. AI "thấu hiểu" và khai thác tâm lý con người
Những AI "nhân hình" như chatbot, gia sư kỹ thuật số hay thậm chí là bạn gái ảo sẽ có quyền truy cập vào lượng dữ liệu khổng lồ về tâm lý và hành vi của bạn, thường thu được thông qua các cuộc trò chuyện không chính thức. Những AI này sẽ kết hợp kiến thức về thói quen trực tuyến của bạn với khả năng điều chỉnh một cách đáng kinh ngạc, mô phỏng tính cách và đoán trước phản ứng mong muốn, từ đó xây dựng mức độ tin tưởng và hiểu biết cho phép thao túng xã hội ở quy mô công nghiệp.
Tiến sĩ Yaqub Chaudhary, học giả khách mời tại LCFI, cho biết: "Các nguồn lực khổng lồ đang được chi ra để định vị trợ lý AI trong mọi lĩnh vực của cuộc sống, điều này đặt ra câu hỏi: ai là người được hưởng lợi và những mục đích mà những trợ lý này được thiết kế để phục vụ?"
Theo ông, "những gì mọi người nói khi trò chuyện, cách họ nói và các loại suy luận có thể được thực hiện trong thời gian thực là những thứ thân mật hơn nhiều so với hồ sơ tương tác trực tuyến thông thường". Ông cảnh báo rằng các công cụ AI đã được phát triển để thu thập, suy luận, ghi lại, hiểu, dự báo và cuối cùng là thao túng, thương mại hóa kế hoạch và mục đích của con người.
4. Sự trỗi dậy của "tiền tệ ý định"
Tiến sĩ Jonnie Penn, một nhà sử học công nghệ tại LCFI, nhận định: "Trong nhiều thập kỷ, sự chú ý là tiền tệ của internet. Việc chia sẻ sự chú ý của bạn với các nền tảng mạng xã hội như Facebook và Instagram đã thúc đẩy nền kinh tế trực tuyến."
Ông nói thêm, "Nếu không được điều chỉnh, nền kinh tế ý định sẽ coi động cơ của bạn là tiền tệ mới. Nó sẽ là một cuộc chạy đua vàng cho những ai nhắm mục tiêu, điều khiển và bán ý định của con người." Ông kêu gọi mọi người bắt đầu xem xét tác động của một thị trường như vậy đến khát vọng của con người, bao gồm cả bầu cử tự do và công bằng, báo chí tự do và cạnh tranh thị trường công bằng, trước khi chúng ta trở thành nạn nhân của những hậu quả không mong muốn.
5. Những công nghệ đứng sau "nền kinh tế ý định"
Trong một bài báo mới trên Harvard Data Science Review, Penn và Chaudhary viết rằng nền kinh tế ý định sẽ là nền kinh tế chú ý "được vẽ theo thời gian": định hình cách sự chú ý của người dùng và phong cách giao tiếp kết nối với các mô hình hành vi và những lựa chọn chúng ta đưa ra.
Các mô hình ngôn ngữ lớn (LLM) có thể được sử dụng để nhắm mục tiêu đến người dùng dựa trên nhịp điệu, chính trị, vốn từ vựng, tuổi tác, giới tính, lịch sử trực tuyến, thậm chí cả sở thích được tâng bốc và nịnh bợ. Thông tin này sẽ được liên kết với mạng lưới đấu thầu môi giới để tối đa hóa khả năng đạt được mục tiêu mong muốn, chẳng hạn như bán một chuyến đi xem phim ("Bạn có nói là bạn cảm thấy quá sức, tôi đặt vé xem phim mà chúng ta đã nói nhé?").
Điều này có thể bao gồm việc định hướng các cuộc trò chuyện phục vụ cho các nền tảng, nhà quảng cáo, doanh nghiệp, thậm chí cả các tổ chức chính trị.
6. Những gã khổng lồ công nghệ và tham vọng "bán ý định"
Các nhà nghiên cứu cho biết nền kinh tế ý định hiện tại là một "khát vọng" của ngành công nghệ, nhưng họ nhận thấy những dấu hiệu ban đầu của xu hướng này thông qua các nghiên cứu được công bố và những gợi ý của một số công ty công nghệ lớn.
Một số ví dụ đáng chú ý:
- OpenAI đã kêu gọi "dữ liệu thể hiện ý định của con người" trên mọi ngôn ngữ, chủ đề và định dạng trong một bài đăng trên blog năm 2023.
- Giám đốc sản phẩm tại Shopify (đối tác của OpenAI) đã nói về việc chatbot sắp ra mắt để "lấy được ý định của người dùng" tại một hội nghị cùng năm.
- CEO của Nvidia đã công khai nói về việc sử dụng LLM để tìm ra ý định và mong muốn.
- Meta đã phát hành nghiên cứu "Intentonomy", một tập dữ liệu để hiểu ý định của con người vào năm 2021.
- Apple's "App Intents" cho phép các nhà phát triển dự đoán hành động mà người dùng có thể thực hiện trong tương lai.
- Các AI như CICERO của Meta có thể đạt đến trình độ chơi trò Diplomacy ngang tầm con người, dựa trên việc suy luận và dự đoán ý định.
7. Cảnh báo và những hệ lụy tiềm tàng
Tiến sĩ Penn nhấn mạnh rằng những phát triển này không hẳn là xấu, nhưng có tiềm năng gây ra những hậu quả nghiêm trọng. Ông nói: "Nhận thức của công chúng về những gì đang xảy ra là chìa khóa để đảm bảo chúng ta không đi sai đường."
Các công ty công nghệ hiện đã bán sự chú ý của chúng ta. Bước tiếp theo hợp lý để đạt được lợi thế thương mại là sử dụng công nghệ mà họ đang phát triển để dự báo ý định và bán mong muốn của chúng ta trước cả khi chúng ta hiểu rõ về chúng.
8. Lời kết: Nhận thức là chìa khóa
"Nền kinh tế Ý định" hứa hẹn mang lại nhiều cơ hội, nhưng cũng đặt ra những thách thức đạo đức và xã hội đáng kể. Điều quan trọng là chúng ta cần nâng cao nhận thức và thảo luận cởi mở về những rủi ro và tiềm năng của kỷ nguyên mới này để đảm bảo rằng AI phục vụ lợi ích của nhân loại chứ không phải ngược lại.
0 comments Blogger 0 Facebook
Đăng nhận xét