Chatbot trí tuệ nhân tạo trong giáo dục đại học: Liệu có đang tiết lộ quá nhiều thông tin?

Chatbot trí tuệ nhân tạo trong giáo dục đại học: Liệu có đang tiết lộ quá nhiều thông tin?

Giáo dục đại học đang ngày càng đón nhận và ứng dụng trí tuệ nhân tạo (AI), đặc biệt là chatbot. Tuy nhiên, sự tiện lợi mà chúng mang lại cũng đi kèm với những rủi ro về bảo mật, trong đó có nguy cơ chatbot tiết lộ quá nhiều thông tin nhạy cảm.

Một trong những lợi ích hấp dẫn của việc triển khai chatbot AI trong khuôn viên trường là khả năng trả lời mọi câu hỏi, mọi lúc, mọi nơi. Đây là một giải pháp hữu hiệu cho đội ngũ nhân viên thường xuyên phải đối mặt với khối lượng công việc lớn, đặc biệt là các câu hỏi lặp đi lặp lại, đồng thời giúp họ dành thời gian cho các dự án quan trọng hơn.

Với những tiến bộ vượt bậc của các mô hình ngôn ngữ lớn, ví dụ như mô hình nổi tiếng powering ChatGPT, chatbot đang xuất hiện ngày càng nhiều tại các trường đại học trên khắp đất nước để xử lý mọi loại câu hỏi và hỗ trợ trong mọi tình huống, chẳng hạn như:

• Giảng viên kiểm tra bài tập vào cuối tuần bị khóa tài khoản: Hỏi chatbot.
• Sinh viên nhận ra đã bỏ lỡ hạn nộp đăng ký học vào nửa đêm: Hỏi chatbot.
• Sinh viên đói bụng muốn biết giờ mở cửa của nhà ăn gần nhất: Hỏi chatbot.
• Sinh viên tương lai muốn kiểm tra tình trạng hồ sơ xin học trong bữa tối Lễ Tạ ơn cùng gia đình: Hỏi chatbot.
• Nhân viên làm việc từ xa muốn thay đổi khai báo bảo hiểm: Hỏi chatbot.
• Tội phạm mạng đã hack được thông tin đăng nhập và muốn truy cập thông tin cá nhân, hồ sơ y tế và thông tin tài chính của sinh viên mà hắn giả mạo: Hỏi chatbot?
• Kẻ xấu giả danh nhà nghiên cứu muốn biết có bao nhiêu sinh viên mắc một bệnh cụ thể, đang sử dụng dịch vụ chăm sóc sức khỏe tâm thần, hoặc đang nhận trợ cấp liên bang, hoặc đang nợ học phí: Hỏi chatbot - và, nếu bạn làm việc trong bộ phận CNTT hoặc tuân thủ, hãy bắt chéo ngón tay và hy vọng bot sẽ trả lời "không".

Việc phân đoạn dữ liệu và các thông tin nhạy cảm khác trong khuôn viên trường từ lâu đã được coi là một thực hành tốt nhất về bảo mật. Tuy nhiên, khi đưa một bot vào hệ sinh thái này, ưu tiên hàng đầu ngay lập tức trở thành việc dựng lên những rào chắn gia cố mà ngay cả AI cũng không thể phá vỡ.

Chatbot cần biết bao nhiêu thông tin?

Nếu mạng lưới giáo dục đại học được thiết lập cẩn thận và chính xác, nguy cơ chatbot tò mò làm rò rỉ thông tin nhạy cảm sẽ thấp. Giống như bất kỳ người dùng nào khác trên mạng, chatbot chỉ nên có quyền truy cập vào thông tin mà nó cần và nên bị hạn chế truy cập vào mọi thứ khác. Đó là một phiên bản của mô hình tin cậy tối thiểu, nhưng dành cho chatbot - không nên tin tưởng chúng có thể tự do di chuyển trên mạng mà không có sự cho phép của quản trị viên người dùng.

Tuy nhiên, việc thiết lập một chatbot một cách chính xác, tất nhiên, dễ nói hơn làm, và hậu quả của một sai lầm có thể là thảm khốc. Việc tiết lộ thông tin nhận dạng cá nhân (PII) không chỉ là một cơn ác mộng đối với người có thông tin bị đánh cắp mà còn có thể dẫn đến thiệt hại về danh tiếng lâu dài cho tổ chức và các hình phạt tuân thủ tiềm ẩn từ chính phủ liên bang.

Khi định cấu hình quyền truy cập của chatbot, điều hữu ích là cần nhớ rằng không có gì về chatbot khiến chúng miễn nhiễm với các thách thức về bảo mật dữ liệu đang hoành hành trên toàn bộ internet. Từ lúc chatbot được đào tạo trên các ví dụ trong thế giới thực để xây dựng cơ sở thần kinh của nó, cho đến lúc nó được tung ra thế giới và sử dụng các truy vấn mới từ người dùng để tiếp tục học hỏi, dữ liệu đang được đưa vào. Điều đó có thể bao gồm dữ liệu cá nhân.

Tệ hơn nữa, dữ liệu được cung cấp cho chatbot công cộng, chẳng hạn như ChatGPT, biến mất vào một cơ sở dữ liệu không minh bạch được sử dụng cho học máy và có thể được ghép nối với các thông tin khác thu thập từ các nguồn khác, cho phép chatbot xây dựng hồ sơ về người dùng khi các bộ dữ liệu này hợp nhất.

Jennifer King và Caroline Meinhardt, các nhà nghiên cứu tại Viện Trí tuệ nhân tạo tập trung vào con người của Đại học Stanford, đã lưu ý trong một bài báo trên trang web Stanford HAI rằng “các công cụ AI tạo sinh được đào tạo bằng dữ liệu thu thập từ internet có thể ghi nhớ thông tin cá nhân về mọi người, cũng như dữ liệu quan hệ về gia đình và bạn bè của họ”.

Cũng đã có báo cáo về các mô hình ngôn ngữ lớn bị lừa để tiết lộ những điều mà chúng không nên tiết lộ, chẳng hạn như thông tin hệ thống nội bộ và cách thực hiện các hành vi phạm tội.

Điều cần nhớ là bất cứ khi nào một chatbot học được điều gì đó, đó là dữ liệu có thể bị chia sẻ với những người sai. Điều quan trọng là đảm bảo rằng quản trị viên biết chính xác dữ liệu đó đang đi đâu và giữ nó được bảo mật chặt chẽ.

Xây dựng một chatbot hoạt động theo cách bạn muốn

Cách duy nhất để đảm bảo dữ liệu vẫn được bảo mật và không trộn lẫn với dữ liệu mà AI công cộng đã đưa vào là các trường cao đẳng và đại học tự xây dựng các chatbot độc quyền dành riêng cho tổ chức của họ. Và có những lợi ích khác khi làm theo cách này; ví dụ, chatbot được đào tạo tại một trường đại học duy nhất có thể cung cấp các câu trả lời cá nhân hóa và cụ thể hơn cho các câu hỏi và sẽ có khả năng hướng người dùng đến đúng thông tin hơn.

Quá trình xây dựng chatbot có vẻ đáng sợ, và đó là một dự án tốn nhiều thời gian và tài nguyên, nhưng lợi ích vượt trội so với rủi ro khi sử dụng tùy chọn bên thứ ba được xây dựng sẵn. Các đối tác đáng tin cậy như CDW có thể hỗ trợ các trường đại học xây dựng chatbot tùy chỉnh. CDW có kinh nghiệm và chuyên môn để đảm bảo dữ liệu được phân tách và lưu trữ đủ xa khỏi AI để các yêu cầu về dữ liệu cá nhân sẽ không được trả lời - ít nhất là, không phải mà không có thêm một lớp bảo mật ở trên cùng.

Các thực hành tốt nhất để phân đoạn dữ liệu từ chatbot bao gồm điều khiển truy cập dựa trên vai trò - một thành phần quan trọng của bảo mật tin cậy tối thiểu - và quản lý truy cập đặc quyền bảo vệ thông tin cá nhân và nhạy cảm nhất mà các trường đại học sở hữu.

Tóm lại, chatbot AI mang lại nhiều lợi ích trong giáo dục đại học, tuy nhiên việc bảo mật thông tin là điều cần được ưu tiên hàng đầu. Các trường cần cân nhắc kỹ lưỡng về việc xây dựng chatbot riêng hoặc kiểm soát chặt chẽ chatbot bên thứ ba để ngăn chặn nguy cơ tiết lộ thông tin nhạy cảm, từ đó bảo vệ dữ liệu của sinh viên, giảng viên và toàn bộ trường.