Tin tặc lợi dụng thông tin đăng nhập để "tám chuyện" với các mô hình AI

Tin tặc lợi dụng thông tin đăng nhập để "tám chuyện" với các mô hình AI

Thị trường chợ đen dành cho các mô hình ngôn ngữ lớn (LLM) không còn là viễn cảnh tương lai, mà đang diễn ra ngay trước mắt chúng ta. Các đối tượng xấu đang tích cực khai thác thông tin đăng nhập để truy cập vào các mô hình hiện có và thậm chí kích hoạt các LLM chưa được phát hành.

Bạn đã bao giờ đăng nhập vào Netflix hoặc dịch vụ phát trực tuyến nào đó và thấy một tài khoản không phải của mình? Thông thường, người đó đã khai thác thông tin đăng nhập của bạn và sử dụng dịch vụ mà bạn đang trả tiền một cách miễn phí.

Tuy nhiên, vấn đề này không chỉ dừng lại ở việc đột nhập vào dịch vụ phát trực tuyến. Các đối tượng xấu đang đánh cắp thông tin đăng nhập để truy cập vào các mô hình trí tuệ nhân tạo (AI) và sử dụng chúng miễn phí. Chúng cũng bán quyền truy cập và thậm chí kích hoạt các LLM không được phép sử dụng.

"LLM-jacking" - một mối đe dọa mới nổi

Nhóm Nghiên cứu Mối đe dọa Sysdig (TRT) đã đặt ra thuật ngữ "LLM-jacking", dùng để mô tả hành vi truy cập trái phép vào một LLM, chẳng hạn như ChatGPT hoặc Claude, bằng cách khai thác thông tin đăng nhập và xâm nhập vào hệ thống đám mây nơi lưu trữ mô hình.

Mặc dù có vẻ không nghiêm trọng, nhưng theo Sysdig TRT, chi phí cho việc truy cập trái phép này có thể cực kỳ đắt đỏ - khiến nạn nhân thiệt hại hơn 100.000 USD mỗi ngày.

LLM-jacking ngày càng phổ biến - đến mức công cụ của kẻ tấn công trở nên tinh vi hơn và các đối tượng xấu dường như đang sử dụng các LLM bị lạm dụng để cải thiện công cụ của chúng.

Tại sao tin tặc lại muốn "hijack" LLM?

Có nhiều lý do khác nhau, một số có động cơ đen tối hơn những cái khác.

1. Vượt qua các lệnh trừng phạt:

Một động cơ mà Sysdig TRT quan sát thấy là mong muốn vượt qua các lệnh trừng phạt mà các công ty công nghệ và các tổ chức khác áp đặt lên các quốc gia như Nga.

Kể từ khi Nga phát động chiến dịch quân sự ở Ukraine, nhiều lệnh trừng phạt đã được áp đặt, khiến Nga gặp khó khăn trong việc tiếp cận các công cụ và công nghệ nhất định.

Ví dụ, các công ty công nghệ như Amazon và Microsoft đã cấm tất cả cá nhân và tổ chức ở Nga sử dụng các công cụ của họ.

Điều này đã thúc đẩy nhu cầu truy cập bất hợp pháp vào các công cụ này, vì các công ty và công dân vẫn muốn sử dụng LLM.

Trong một trường hợp cụ thể, nhóm nghiên cứu mối đe dọa đã quan sát thấy một sinh viên Nga sử dụng thông tin đăng nhập bị đánh cắp của Amazon Web Service (AWS) để tạo ra một mô hình Claude. Điều trớ trêu là, sinh viên này đang làm việc trên một dự án liên quan đến chatbot trí tuệ nhân tạo.

Sinh viên đã nhập tên vào lời nhắc (sau đó đã bị xóa), cho phép các nhà nghiên cứu xác định rằng đối tượng xấu đang theo học tại một trường đại học ở Nga. Họ tin rằng sinh viên đã sử dụng thông tin đăng nhập bị đánh cắp và một bot bên ngoài, hoạt động như "người đại diện cho các lời nhắc của họ."

"Chúng tôi đã thấy nhiều ví dụ hơn về truy vấn bằng tiếng Nga, nhưng lời nhắc này đặc biệt có đủ thông tin hỗ trợ để chứng minh rằng nó đến từ bên trong nước Nga", Sysdig TRT cho biết.

2. Phân tích hình ảnh:

LLM-jacking cũng được sử dụng để phân tích hình ảnh, thường được sử dụng để giúp kẻ tấn công gian lận trong các câu đố hoặc trò chơi.

Các nhà nghiên cứu đã quan sát thấy các yêu cầu đối với các LLM như Claude để "gian lận trong một câu đố để giúp kẻ tấn công đạt điểm cao hơn".

Tuy nhiên, kẻ tấn công cũng đang sử dụng các kỹ thuật này để bỏ qua các hạn chế do người tạo ra áp đặt.

Ví dụ, các đối tượng xấu đã sử dụng LLM để "trích xuất văn bản từ Nhận dạng Ký tự Quang học, chủ yếu cho nội dung người lớn".

3. Vai trò chơi người lớn:

Bạn gái AI không còn xa lạ trong thời đại này, nhưng như chúng ta đã thấy, nhiều mô hình AI hạn chế nội dung khiêu dâm hoặc đồ họa.

Hầu hết các mô hình công khai đều không cho phép nội dung đồ họa và khiêu dâm trên nền tảng của họ.

Tuy nhiên, LLM-jacking cho phép kẻ tấn công bỏ qua các hạn chế này và cho phép chúng có các cuộc trò chuyện người lớn với LLM.

Tuy nhiên, "cuộc trò chuyện" này rất tốn kém do khối lượng lớn các lời nhắc và phản hồi mà nó yêu cầu.

Kết luận:

Các nhà nghiên cứu lưu ý rằng các tài khoản đám mây luôn là mục tiêu được thèm muốn. Nhưng giờ đây, các LLM được lưu trữ trên đám mây đang bị khai thác liên tục vì "kẻ tấn công đang tích cực tìm kiếm thông tin đăng nhập để truy cập và kích hoạt các mô hình AI để đạt được mục tiêu của chúng, thúc đẩy sự hình thành của một thị trường chợ đen truy cập LLM."