Thế giới ngầm của các chatbot AI chợ đen đang phát triển mạnh

Thế giới ngầm của các chatbot AI chợ đen đang phát triển mạnh

ChatGPT, với 200 triệu người dùng hoạt động hàng tuần, đã giúp OpenAI, công ty đứng sau chatbot này, đạt mức định giá 100 tỷ USD. Tuy nhiên, bên ngoài dòng chính, vẫn còn rất nhiều tiền có thể kiếm được - đặc biệt nếu bạn phục vụ cho thế giới ngầm.

Theo một nghiên cứu được công bố trên arXiv, một máy chủ in trước thuộc sở hữu của Đại học Cornell, các mô hình ngôn ngữ lớn (LLM) bất hợp pháp có thể kiếm được tới 28.000 USD trong hai tháng từ việc bán trên các thị trường ngầm.

Đó chỉ là phần nổi của tảng băng, theo nghiên cứu, trong đó xem xét hơn 200 ví dụ về LLM độc hại (hay malas) được niêm yết trên các chợ đen từ tháng 4 đến tháng 10 năm 2023. Các LLM này thuộc hai loại: những LLM không bị kiểm duyệt hoàn toàn, thường dựa trên các tiêu chuẩn mã nguồn mở, và những LLM phá vỡ các rào cản an ninh của LLM thương mại bằng cách sử dụng các lời nhắc.

"Chúng tôi tin rằng bây giờ là thời điểm thích hợp để bắt đầu nghiên cứu chúng vì chúng tôi không muốn chờ đợi cho đến khi thiệt hại lớn đã xảy ra", Xiaofeng Wang, giáo sư tại Đại học Indiana Bloomington và là một trong những đồng tác giả của bài báo, cho biết. "Chúng tôi muốn ngăn chặn trước khi kẻ tấn công có thể gây ra thiệt hại lớn cho chúng ta."

Mặc dù tin tặc đôi khi có thể vượt qua các hạn chế tích hợp sẵn của LLM chính thống nhằm ngăn chặn các hoạt động bất hợp pháp hoặc đáng ngờ, nhưng những trường hợp như vậy rất hiếm. Thay vào đó, để đáp ứng nhu cầu, các LLM bất hợp pháp đã xuất hiện. Và không có gì đáng ngạc nhiên khi những kẻ đứng sau chúng rất muốn kiếm tiền từ sự quan tâm đó.

"Chúng tôi nhận thấy rằng hầu hết các dịch vụ mala trên các diễn đàn ngầm tồn tại chủ yếu để kiếm lợi nhuận", Zilong Lin, một nhà nghiên cứu tại Đại học Indiana Bloomington và là một đồng tác giả khác của bài báo, cho biết.

Các LLM độc hại có thể được sử dụng cho nhiều mục đích khác nhau, từ việc viết email lừa đảo (một nghiên cứu riêng biệt ước tính rằng LLM có thể giảm chi phí sản xuất các bức thư này xuống 96%) đến phát triển phần mềm độc hại để tấn công các trang web.

Khả năng thực hiện nhiệm vụ của những LLM chợ đen này có thể khác nhau rất nhiều, mặc dù một số là những công cụ đặc biệt mạnh mẽ. Lin và Wang phát hiện ra rằng hai LLM không bị kiểm duyệt, DarkGPT (có giá 78 cent cho mỗi 50 tin nhắn) và Escape GPT (một dịch vụ đăng ký với giá 64,98 USD/tháng), đã có thể tạo ra mã chính xác khoảng hai phần ba thời gian, và mã do chúng tạo ra không bị phát hiện bởi các công cụ chống vi-rút - giúp chúng có khả năng tấn công máy tính thành công cao hơn.

Một LLM độc hại khác, WolfGPT, có giá 150 USD để truy cập, được coi là một "siêu năng lực" khi nói đến việc tạo ra email lừa đảo, có thể lẩn tránh thành công hầu hết các bộ dò thư rác.

Sự tồn tại của các công cụ AI độc hại như vậy không nên gây ngạc nhiên, theo Wang. "Gần như không thể tránh khỏi việc tội phạm mạng sử dụng AI", Wang nói. "Mọi công nghệ đều có hai mặt."

Andrew Hundt, một nghiên cứu viên về đổi mới máy tính tại Đại học Carnegie Mellon, người không tham gia vào nghiên cứu, cho biết các tác giả "chứng minh rằng người dùng độc hại đang thành công trong việc bán lại các sản phẩm của doanh nghiệp cho mục đích xấu."

Hundt tin rằng các nhà hoạch định chính sách nên yêu cầu các công ty AI phát triển và áp dụng các chính sách "biết khách hàng của bạn" để xác minh danh tính người dùng. "Chúng ta cũng cần các khung pháp lý để đảm bảo rằng các công ty tạo ra các mô hình này và cung cấp dịch vụ làm như vậy một cách có trách nhiệm hơn, theo cách giảm thiểu các rủi ro do các tác nhân độc hại gây ra", ông nói.

Về phần mình, Wang chỉ ra rằng các nghiên cứu như của nhóm ông chỉ là bước khởi đầu trong cuộc chiến chống lại tội phạm mạng. "Chúng ta có thể phát triển công nghệ và cung cấp thông tin chi tiết để giúp họ", ông nói, "nhưng chúng ta không thể làm gì để ngăn chặn hoàn toàn những điều này vì chúng ta không có đủ tài nguyên."

Kết luận: Sự phát triển của thị trường chợ đen cho các chatbot AI là  đáng báo động, với khả năng bị lợi dụng cho các hoạt động bất hợp pháp. Việc quản lý và kiểm soát sự phát triển của AI, đặc biệt là trong việc ngăn chặn việc sử dụng sai mục đích, là một thách thức lớn đòi hỏi sự phối hợp của nhiều bên, từ các nhà phát triển đến các nhà hoạch định chính sách.