OpenAI: Sự thay đổi vai trò của giám đốc an toàn và những tranh cãi về an ninh AI

Mục lục

1. Sự thay đổi vai trò của Aleksander Madry
2. Sự lo ngại của Thượng viện về an ninh AI
3. Những tranh cãi về văn hóa an ninh tại OpenAI
4. Vấn đề về minh bạch và giám sát trong ngành AI
5. Microsoft rút khỏi ban điều hành của OpenAI

1. Sự thay đổi vai trò của Aleksander Madry

Aleksander Madry, một trong những giám đốc an ninh AI hàng đầu của OpenAI, đã bị thay đổi vai trò và được chuyển sang vị trí tập trung vào lý luận AI. Quyết định này được đưa ra chưa đầy một tuần trước khi một nhóm thượng nghị sĩ Dân chủ gửi thư cho CEO của OpenAI, Sam Altman, bày tỏ lo ngại về cách OpenAI đang giải quyết các vấn đề an ninh mới nổi.

Madry trước đây là trưởng nhóm chuẩn bị, nhóm có nhiệm vụ theo dõi, đánh giá, dự đoán và hỗ trợ bảo vệ chống lại những rủi ro thảm khốc liên quan đến các mô hình AI tiên tiến. Mặc dù được chuyển sang vai trò mới, OpenAI khẳng định Madry vẫn sẽ tiếp tục làm việc về an ninh AI cốt lõi.

2. Sự lo ngại của Thượng viện về an ninh AI

Trong thư gửi Altman, các thượng nghị sĩ đã bày tỏ lo ngại về những nỗ lực của OpenAI trong việc giải quyết các vấn đề an ninh. Họ yêu cầu thông tin chi tiết về các bước OpenAI đang thực hiện để đáp ứng các cam kết công khai về an ninh, cách thức đánh giá nội bộ tiến độ của công ty và cách thức xác định và giảm thiểu các mối đe dọa an ninh mạng.

3. Những tranh cãi về văn hóa an ninh tại OpenAI

Sự thay đổi vai trò của Madry diễn ra trong bối cảnh những tranh cãi liên tục về văn hóa an ninh tại OpenAI. Vào tháng 6, một nhóm nhân viên hiện tại và cũ của OpenAI đã công khai bày tỏ lo ngại về tốc độ phát triển nhanh chóng của ngành công nghiệp AI trong khi thiếu giám sát và bảo vệ người tố cáo. Họ lập luận rằng các công ty AI có động cơ tài chính mạnh mẽ để tránh giám sát hiệu quả và các cấu trúc quản trị doanh nghiệp tùy chỉnh là không đủ để thay đổi điều này.

4. Vấn đề về minh bạch và giám sát trong ngành AI

Các nhân viên của OpenAI cho rằng các công ty AI sở hữu thông tin không công khai đáng kể về khả năng của công nghệ của họ, mức độ các biện pháp an ninh được áp dụng và mức độ rủi ro của công nghệ đó đối với các loại thiệt hại khác nhau. Họ nhấn mạnh rằng các công ty AI hiện chỉ có nghĩa vụ hạn chế để chia sẻ thông tin này với chính phủ và không có nghĩa vụ nào với xã hội dân sự.

5. Microsoft rút khỏi ban điều hành của OpenAI

Trước đó, vào đầu tháng này, Microsoft đã từ bỏ vị trí quan sát viên trên ban điều hành của OpenAI. Họ cho biết họ hài lòng với cấu trúc mới của ban điều hành của OpenAI, vốn đã được cải tổ trong tám tháng kể từ cuộc nổi dậy dẫn đến việc Altman bị sa thải ngắn ngủi và đe dọa đầu tư lớn của Microsoft vào công ty.

Sự thay đổi vai trò của Madry và các tranh cãi xung quanh an ninh AI tại OpenAI là minh chứng cho những thách thức mà ngành công nghiệp AI đang phải đối mặt trong việc cân bằng tốc độ phát triển với trách nhiệm xã hội. Điều này đặt ra câu hỏi về sự cần thiết của các cơ chế giám sát và quy định để đảm bảo sự phát triển an toàn và có trách nhiệm của AI.