OpenAI và Anthropic hợp tác với Viện An toàn AI Hoa Kỳ để kiểm tra các mô hình mới

OpenAI và Anthropic hợp tác với Viện An toàn AI Hoa Kỳ để kiểm tra các mô hình mới

Trong bối cảnh lo ngại về an toàn và đạo đức trong ngành công nghiệp AI ngày càng tăng, hai trong số những startup AI giá trị nhất, OpenAI và Anthropic, đã đồng ý cho phép Viện An toàn AI Hoa Kỳ kiểm tra các mô hình mới của họ trước khi phát hành ra công chúng.

Viện An toàn AI Hoa Kỳ, trực thuộc Bộ Thương mại Hoa Kỳ tại Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST), đã thông báo trong một thông cáo báo chí rằng họ sẽ được "tiếp cận các mô hình mới quan trọng từ mỗi công ty trước và sau khi chúng được phát hành công khai."

Viện được thành lập sau khi chính quyền Biden-Harris ban hành sắc lệnh hành pháp đầu tiên của chính phủ Hoa Kỳ về trí tuệ nhân tạo vào tháng 10 năm 2023. Sắc lệnh này yêu cầu đánh giá an toàn mới, hướng dẫn về công bằng và quyền công dân, cũng như nghiên cứu về tác động của AI đối với thị trường lao động.

Cam kết minh bạch và hợp tác

"Chúng tôi rất vui mừng đã đạt được thỏa thuận với Viện An toàn AI Hoa Kỳ để kiểm tra trước khi phát hành các mô hình trong tương lai của chúng tôi," Giám đốc điều hành OpenAI, Sam Altman, viết trong một bài đăng trên X. OpenAI cũng xác nhận với CNBC vào thứ Năm rằng số lượng người dùng hoạt động hàng tuần của công ty đã tăng gấp đôi so với cuối năm ngoái, lên 200 triệu.

Tin tức được đưa ra một ngày sau khi có thông tin cho rằng OpenAI đang đàm phán để huy động một vòng tài trợ định giá công ty ở mức hơn 100 tỷ USD. Thrive Capital đang dẫn đầu vòng này và sẽ đầu tư 1 tỷ USD, theo một nguồn tin am hiểu về vấn đề này.

Anthropic, được thành lập bởi các cựu giám đốc điều hành và nhân viên nghiên cứu của OpenAI, gần đây nhất được định giá 18,4 tỷ USD. Anthropic có Amazon là nhà đầu tư hàng đầu, trong khi OpenAI được Microsoft hỗ trợ mạnh mẽ.

Nỗ lực chung vì một AI an toàn và có trách nhiệm

Các thỏa thuận giữa chính phủ, OpenAI và Anthropic "sẽ tạo điều kiện cho nghiên cứu hợp tác về cách đánh giá khả năng và rủi ro an toàn, cũng như các phương pháp giảm thiểu những rủi ro đó," theo thông cáo hôm thứ Năm.

Jason Kwon, Giám đốc chiến lược của OpenAI, cho biết trong một tuyên bố rằng: "Chúng tôi ủng hộ mạnh mẽ sứ mệnh của Viện An toàn AI Hoa Kỳ và mong muốn được hợp tác cùng nhau để thông báo về các tiêu chuẩn và thực hành tốt nhất về an toàn cho các mô hình AI."

Jack Clark, đồng sáng lập Anthropic, cho biết sự hợp tác của công ty với Viện An toàn AI Hoa Kỳ "tận dụng chuyên môn rộng rãi của họ để kiểm tra nghiêm ngặt các mô hình của chúng tôi trước khi triển khai rộng rãi" và "củng cố khả năng xác định và giảm thiểu rủi ro, thúc đẩy phát triển AI có trách nhiệm."

Lo ngại về đạo đức và độc quyền trong ngành AI

Một số nhà phát triển và nhà nghiên cứu AI đã bày tỏ lo ngại về an toàn và đạo đức trong ngành công nghiệp AI ngày càng vì lợi nhuận. Các nhân viên hiện tại và trước đây của OpenAI đã xuất bản một bức thư ngỏ vào ngày 4 tháng 6, mô tả các vấn đề tiềm ẩn với những tiến bộ nhanh chóng đang diễn ra trong AI, cũng như sự thiếu sót trong giám sát và bảo vệ người tố cáo.

"Các công ty AI có động lực tài chính mạnh mẽ để tránh giám sát hiệu quả và chúng tôi không tin rằng các cấu trúc quản trị doanh nghiệp riêng biệt là đủ để thay đổi điều này," họ viết. Họ nói thêm rằng các công ty AI "hiện chỉ có nghĩa vụ yếu kém trong việc chia sẻ một số thông tin này với chính phủ và không có nghĩa vụ nào với xã hội dân sự", và họ "không thể được tin cậy để chia sẻ thông tin một cách tự nguyện."

Vài ngày sau khi bức thư được xuất bản, một nguồn tin am hiểu về vấn đề này đã xác nhận với CNBC rằng Ủy ban Thương mại Liên bang (FTC) và Bộ Tư pháp Hoa Kỳ đã chuẩn bị mở các cuộc điều tra chống độc quyền đối với OpenAI, Microsoft và Nvidia. Chủ tịch FTC Lina Khan đã mô tả hành động của cơ quan bà là "một cuộc điều tra thị trường về các khoản đầu tư và quan hệ đối tác đang được hình thành giữa các nhà phát triển AI và các nhà cung cấp dịch vụ đám mây lớn."

Vào thứ Tư, các nhà lập pháp California đã thông qua một dự luật an toàn AI gây tranh cãi, gửi nó đến bàn làm việc của Thống đốc Gavin Newsom. Newsom, một thành viên Đảng Dân chủ, sẽ quyết định phủ quyết dự luật hoặc ký ban hành thành luật trước ngày 30 tháng 9. Dự luật, sẽ bắt buộc kiểm tra an toàn và các biện pháp bảo vệ khác đối với các mô hình AI có chi phí hoặc sức mạnh tính toán nhất định, đã bị một số công ty công nghệ phản đối vì khả năng làm chậm sự đổi mới.

Bối cảnh ngành AI đang nóng lên

Tin tức về hợp tác giữa OpenAI và Anthropic với Viện An toàn AI Hoa Kỳ, cùng với những diễn biến gần đây về luật pháp và điều tra chống độc quyền, cho thấy rõ ràng rằng ngành công nghiệp AI đang ở trong giai đoạn phát triển nhanh chóng và đầy biến động. Sự giám sát từ chính phủ, lo ngại về đạo đức và tiềm năng độc quyền là những yếu tố quan trọng sẽ định hình tương lai của AI.