Vì sao cuộc tranh luận về AI mã nguồn mở lại quan trọng với con người?

Vì sao cuộc tranh luận về AI mã nguồn mở lại quan trọng với con người?

Giới thiệu:

Thế giới kỹ thuật số ngày nay dựa vào phần mềm mã nguồn mở, nơi mã nguồn được công khai và cho phép các nhà phát triển tự do sửa đổi và xây dựng dựa trên nó. Firefox, WordPress và Linux là những ví dụ điển hình, đóng vai trò quan trọng trong việc duy trì hoạt động của internet.

Tuy nhiên, một cuộc tranh luận lớn đang diễn ra trong Thung lũng Silicon và giữa các nhà hoạch định chính sách về việc liệu các công ty có nên công khai mã nguồn của trí tuệ nhân tạo (AI) hay không. Trong khi Google và OpenAI giữ bí mật, Meta đã đặt cược toàn bộ chiến lược AI của mình vào mã nguồn mở, cho phép mọi người tiếp cận các mô hình ngôn ngữ lớn mạnh mẽ của mình.

AI mã nguồn mở: Cơ hội và thách thức:

Nils Tracy, người sáng lập và CEO của Blinder, một công ty khởi nghiệp tại Bắc Carolina, thừa nhận rằng công ty của anh có thể sẽ không tồn tại nếu không có Llama, mô hình AI mã nguồn mở của Meta. Blinder cung cấp các công cụ giúp các công ty luật tương tác an toàn với AI, bao gồm việc xóa thông tin nhạy cảm trong tài liệu hoặc tự động đăng ký bản quyền.

Blinder đã sao chép toàn bộ mã nguồn của Llama, điều chỉnh và "tinh chỉnh" AI để nhận dạng thông tin cá nhân cần xóa trong các tài liệu pháp lý. AI cũng có thể học theo phong cách viết nội bộ của một công ty luật.

Tracy có thể đã cố gắng thích ứng các mô hình ngôn ngữ lớn từ OpenAI, Google hoặc các công ty AI khác. Tuy nhiên, nếu không có mã nguồn, anh ấy sẽ phải tin tưởng vào việc họ không sử dụng dữ liệu của anh ấy sai cách, và "tinh chỉnh" AI sẽ khó khăn hơn. Hơn nữa, Llama hoàn toàn miễn phí.

Elizabeth Seger, giám đốc chính sách kỹ thuật số tại tổ chức tư vấn Demos, cho biết: "Mô hình mã nguồn mở này cực kỳ giá trị cho bất kỳ ai muốn sử dụng nó để phát triển sản phẩm hoặc ứng dụng mới."

Meta: Một chiến lược kinh tế thông minh?

Do AI đòi hỏi khoản đầu tư khổng lồ về tiền bạc và cơ sở hạ tầng để tạo ra, các công ty nhỏ như Blinder đơn giản là không có đủ nguồn lực để tự tạo ra các mô hình ngôn ngữ lớn từ đầu.

Meta chi hàng tỷ đô la để phát triển AI của mình, nhưng lại công khai nó miễn phí. Seger giải thích rằng một lý do có thể là chiến lược kinh tế "hàng hóa hóa phần bổ sung".

Seger ví dụ: "Giả sử bạn là nhà sản xuất xúc xích. Bạn tạo ra bánh mì kẹp xúc xích hoàn toàn miễn phí, để mọi người đều có thể mua được. Nhưng sau đó, họ cần mua xúc xích của bạn."

Trong trường hợp này, AI mã nguồn mở của Meta chính là bánh mì kẹp xúc xích miễn phí. Trong tương lai, Meta có thể sẽ kiếm tiền từ các tập dữ liệu được bán để huấn luyện AI hoặc từ phần cứng mà AI chạy trên đó.

An ninh AI: Một con dao hai lưỡi?

Theo truyền thống, phần mềm mã nguồn mở mang lại lợi ích bổ sung: Khi phát hiện lỗ hổng bảo mật, cộng đồng nhà phát triển toàn cầu sẵn sàng vá lỗi.

Ali Farhadi, CEO của Viện Trí tuệ nhân tạo Allen, một tổ chức phi lợi nhuận, đã phát hành mô hình AI mã nguồn mở hoàn toàn tên là OLMo.

Farhadi đặt câu hỏi: "Tôi muốn sống trong một thế giới có nhiều người thực sự biết cách sửa chữa mô hình AI khi có cuộc tấn công hoặc sử dụng sai mục đích, hay một thế giới nơi tôi phải lệ thuộc vào một vài viện nghiên cứu?"

Tuy nhiên, không phải ai cũng đồng ý rằng sự minh bạch của mã nguồn mở là giải pháp cho vấn đề bảo mật AI. Nhiều người lo lắng rằng, khác với các thế hệ phần mềm trước, việc công khai mã nguồn của AI sẽ khiến nó dễ bị kẻ xấu lợi dụng.

Các lập trình viên đã loại bỏ các hạn chế về an toàn khỏi một số mô hình AI tạo ảnh mã nguồn mở để tạo ra nội dung khiêu dâm deepfake.

Aviv Ovadya, đồng sáng lập của Quỹ AI & Dân chủ, lo ngại về những hậu quả thảm khốc trong tương lai, ví dụ như kẻ xấu tìm ra cách sử dụng AI mã nguồn mở để chế tạo vũ khí sinh học.

Ovadya cảnh báo: "Việc kiểm tra và cải thiện hệ thống AI sẽ dễ dàng hơn nếu chúng được công khai và có thể kiểm tra. Nhưng đồng thời, việc vũ khí hóa chúng cũng dễ dàng hơn, và một khi chúng xuất hiện trong thế giới, sẽ không có cách nào đảo ngược lại."

Kết luận:

Việc xem xét AI hoàn toàn là mã nguồn mở hoặc hoàn toàn là hộp đen là một cách suy nghĩ sai lầm. Các mô hình AI mã nguồn mở hiện nay được công khai với mức độ khác nhau, một số mô hình công khai dữ liệu huấn luyện cùng với các "trọng số" quan trọng, bí mật toán học hướng dẫn đầu ra của mô hình ngôn ngữ lớn.

Cuộc tranh luận về AI mã nguồn mở là một vấn đề phức tạp, với nhiều lợi ích và nguy cơ tiềm ẩn. Điều quan trọng là phải cân nhắc kỹ lưỡng những lợi ích và rủi ro khi quyết định cách phát triển và sử dụng AI trong tương lai.