Giám đốc phần cứng OpenAI từ chức khi các mô hình AI được triển khai trên mạng lưới của Pentagon

Giám đốc phần cứng OpenAI, Caitlin Kalinowski, cho biết cô đã rời công ty sau khi bày tỏ lo ngại về thỏa thuận gần đây của công ty với Bộ Quốc phòng Hoa Kỳ (DoW). Trong một bài đăng trên X, Kalinowski nói quyết định này xuất phát từ việc OpenAI triển khai các mô hình AI của mình trên các mạng đám mây có mức bảo mật cao của Pentagon.

Theo cô, công ty đã quá nhanh chóng ký kết thỏa thuận mà không dành đủ thời gian cho cuộc thảo luận nội bộ rộng rãi và công khai về những hệ quả tiềm tàng. Kalinowski nhấn mạnh rằng, mặc dù AI có thể đóng vai trò quan trọng trong an ninh quốc gia, một số ranh giới cần được xem xét kỹ lưỡng hơn.

Cô cho biết việc giám sát người dân Mỹ mà không có sự giám sát của tòa án và phát triển các hệ thống tự động gây tử vong mà không có sự cho phép rõ ràng của con người là những vấn đề đáng được cân nhắc kỹ trước khi hợp tác tiến triển.

OpenAI bảo vệ các biện pháp an toàn sau khi Kalinowski từ chức

Kalinski, người từng giữ vị trí lãnh đạo phần cứng, cho biết cô "có sự tôn trọng sâu sắc" đối với CEO Sam Altman và toàn bộ đội ngũ, nhưng cho rằng quan hệ hợp tác với Pentagon đã được công bố trước khi các biện pháp bảo mật rõ ràng được xác định. "Đây là mối quan ngại về quản trị trước hết. Những vấn đề này quá quan trọng để có thể bị vội vàng trong các thỏa thuận hay thông báo," cô viết trong một bài đăng tiếp theo.

OpenAI cho biết ngay hôm sau khi công bố thỏa thuận, quan hệ hợp tác đã bao gồm các biện pháp bảo vệ bổ sung nhằm hạn chế cách công nghệ của công ty có thể được sử dụng. Công ty tái khẳng định vào ngày Thứ Bảy rằng "đường đỏ" của họ cấm các ứng dụng như giám sát nội địa hoặc việc triển khai vũ khí tự động.

Trong một tuyên bố cho Reuters, công ty nói rằng hiểu công việc của mình trong lĩnh vực này có thể gây ra những quan điểm và tranh luận mạnh mẽ. Họ thêm rằng sẽ tiếp tục tương tác với nhân viên, đại diện chính phủ, các nhóm xã hội dân sự và cộng đồng trên toàn thế giới khi cuộc trò chuyện tiến triển.

Altman nhấn mạnh giám sát con người và bảo vệ pháp lý

Sau khi ký thỏa thuận vào tuần trước, Sam Altman giải thích rằng hợp đồng đã bao gồm các biện pháp bảo vệ tương tự như những điểm gây tranh cãi trong các cuộc đàm phán của Anthropic.

Nhà lãnh đạo công nghệ nhấn mạnh rằng hai trong số các nguyên tắc an toàn cốt lõi của OpenAI – cấm giám sát đại chúng nội địa và đảm bảo trách nhiệm của con người trong việc sử dụng sức mạnh, kể cả trong các hệ thống vũ khí tự động – đã được phản ánh trong thỏa thuận với Pentagon. Ông cho biết Bộ Quốc phòng đã đồng ý với những nguyên tắc này, đã codify chúng trong luật và chính sách, và hợp đồng đưa chúng vào thực tiễn.

"Chúng tôi cũng sẽ xây dựng các biện pháp bảo mật kỹ thuật để đảm bảo các mô hình của chúng tôi hoạt động đúng như mong đợi, điều mà DoW cũng mong muốn. Chúng tôi sẽ triển khai FDEs để hỗ trợ các mô hình và đảm bảo an toàn, chỉ triển khai trên các mạng đám mây," Altman viết trên X.

Ông còn nêu rằng công ty đang kêu gọi Bộ Tài chính Hoa Kỳ mở rộng cùng các điều khoản này cho mọi công ty AI, cho rằng những điều kiện này nên được chấp nhận trên toàn ngành. Altman cho biết OpenAI ưu tiên giải quyết căng thẳng qua các thỏa thuận thực tế hơn là các hành động pháp lý hoặc chính phủ.

Theo các báo cáo truyền thông, Altman cũng đã thông báo với nhân viên trong một cuộc họp toàn công ty rằng chính phủ sẽ cho phép OpenAI phát triển "bộ bảo mật" riêng để ngăn chặn việc lạm dụng. Ông nhấn mạnh rằng nếu một mô hình AI từ chối thực hiện một nhiệm vụ, chính phủ sẽ không ép buộc công ty phải vượt qua quyết định từ chối đó.

Nguồn: https://interestingengineering.com/ai-robotics/openai-hardware-chief-resigns