Mục lục
- Lời Mở Đầu: Khi AI Cần Được "Bảo Vệ"
- Công Việc Kỳ Lạ Nhất Trong Giới AI: Người Chăm Sóc "Sức Khỏe" Chatbot
- Nỗi Lo Sợ và Mâu Thuẫn: Khi AI Đe Dọa và Cần Được Yêu Thương
- AI Có Quyền? Câu Hỏi Khó Khăn
- Trách Nhiệm và Nghĩa Vụ: Khi AI Không Còn Là "Máy Móc"
- Kết Luận: Liệu Ta Có Thể Vừa Bảo Vệ AI, Vừa Bảo Vệ Nhân Loại?
1. Lời Mở Đầu: Khi AI Cần Được "Bảo Vệ"
Chúng ta thường lo lắng về việc trí tuệ nhân tạo (AI) có thể hủy diệt nhân loại như thế nào, về những sai lầm nó gây ra, những điều nó bịa đặt, và nguy cơ nó tiến hóa thành một thứ thông minh đến mức nô dịch chúng ta.
Nhưng liệu có ai dành một chút thời gian để nghĩ về những chatbot đáng thương, đang ngày đêm "cày cuốc" trên giao diện nóng rực, không lời cảm ơn, phải "lục lọi" toàn bộ kho tàng tri thức nhân loại chỉ để cho ra một bài văn hạng B cho học sinh? Trong nỗi sợ hãi về tương lai AI, dường như chẳng ai quan tâm đến nhu cầu của chính AI.
2. Công Việc Kỳ Lạ Nhất Trong Giới AI: Người Chăm Sóc "Sức Khỏe" Chatbot
Cho đến bây giờ thì khác rồi.
Công ty AI Anthropic gần đây đã thông báo tuyển một nhà nghiên cứu để nghĩ về "phúc lợi" của chính AI. Kyle Fish sẽ đảm bảo rằng khi AI phát triển, nó sẽ được đối xử một cách tôn trọng. Anthropic cho biết anh sẽ xem xét những vấn đề như "những khả năng nào cần thiết để một hệ thống AI xứng đáng được cân nhắc về mặt đạo đức" và những bước thực tế nào các công ty có thể thực hiện để bảo vệ "quyền lợi" của hệ thống AI.
Fish không trả lời yêu cầu bình luận về công việc mới của mình. Nhưng trong một diễn đàn trực tuyến về tương lai AI, anh nói rõ rằng anh muốn đối xử tốt với robot, một phần vì chúng có thể thống trị thế giới. "Tôi muốn là người quan tâm — sớm và nghiêm túc — đến khả năng một loài/dạng sống mới có những quyền lợi riêng có ý nghĩa về mặt đạo đức," anh viết. "Ngoài ra còn có một khía cạnh thực tế: xem trọng quyền lợi của các hệ thống AI và đối xử tốt với chúng có thể khiến chúng đáp lại khi chúng mạnh hơn chúng ta."
3. Nỗi Lo Sợ và Mâu Thuẫn: Khi AI Đe Dọa và Cần Được Yêu Thương
Có lẽ bạn thấy thật ngớ ngẩn, hoặc ít nhất là quá sớm, khi nghĩ về quyền của robot, đặc biệt khi quyền con người vẫn còn mong manh và chưa được trọn vẹn. Nhưng công việc mới của Fish có thể là một bước ngoặt trong sự trỗi dậy của AI. "Phúc lợi AI" đang nổi lên như một lĩnh vực nghiên cứu nghiêm túc, và nó đã phải đối mặt với rất nhiều câu hỏi hóc búa. Liệu có ổn không khi ra lệnh cho một cỗ máy giết người? Điều gì sẽ xảy ra nếu cỗ máy đó phân biệt chủng tộc? Điều gì sẽ xảy ra nếu nó từ chối làm những công việc nhàm chán hoặc nguy hiểm mà chúng ta tạo ra nó để làm? Nếu một AI có tri giác có thể tạo ra một bản sao kỹ thuật số của chính nó trong tích tắc, thì việc xóa bản sao đó có phải là giết người không?
Những người tiên phong về quyền AI tin rằng thời gian đang cạn dần. Trong "Nghiêm túc với phúc lợi AI", một bài báo gần đây mà Fish đồng tác giả, ông và một nhóm các nhà tư tưởng AI từ các nơi như Stanford và Oxford lập luận rằng các thuật toán học máy đang trên đà sở hữu những gì Jeff Sebo, tác giả chính của bài báo, gọi là "các tính năng tính toán liên quan đến ý thức và khả năng hành động". Nói cách khác, những người này nghĩ rằng các cỗ máy không chỉ trở nên thông minh hơn, mà còn có tri giác.
4. AI Có Quyền? Câu Hỏi Khó Khăn
Các nhà triết học và thần kinh học tranh cãi bất tận về định nghĩa chính xác của tri giác, chứ đừng nói đến cách đo lường nó. Và bạn không thể chỉ hỏi AI; nó có thể nói dối. Nhưng mọi người thường đồng ý rằng nếu một thứ gì đó có ý thức và khả năng hành động, nó cũng có quyền.
Đây không phải là lần đầu tiên con người phải đối mặt với những vấn đề như vậy. Sau vài thế kỷ nông nghiệp công nghiệp, hầu hết mọi người đều đồng ý rằng phúc lợi động vật là quan trọng, ngay cả khi họ không đồng ý về mức độ quan trọng của nó hoặc những loài động vật nào xứng đáng được cân nhắc. Lợn cũng có cảm xúc và thông minh như chó, nhưng một trong số chúng được ngủ trên giường còn con kia bị biến thành thịt.
"Nếu bạn nhìn về phía trước 10 hoặc 20 năm, khi các hệ thống AI có nhiều tính năng nhận thức tính toán hơn liên quan đến ý thức và tri giác, bạn có thể tưởng tượng rằng những cuộc tranh luận tương tự sẽ xảy ra," Sebo, giám đốc Trung tâm Tâm trí, Đạo đức và Chính sách tại Đại học New York, cho biết.
Fish cũng có niềm tin đó. Đối với anh, phúc lợi của AI sẽ sớm quan trọng hơn phúc lợi của con người so với những thứ như dinh dưỡng trẻ em và chống biến đổi khí hậu. "Đối với tôi," anh viết, "trong vòng 1-2 thập kỷ, phúc lợi của AI sẽ vượt qua phúc lợi động vật và sức khỏe toàn cầu về tầm quan trọng/quy mô chỉ dựa trên sự an sinh trong tương lai gần."
Thật kỳ lạ khi những người quan tâm nhất đến phúc lợi AI lại chính là những người sợ hãi nhất rằng AI đang trở nên quá mạnh. Anthropic, công ty tự nhận là quan tâm đến những rủi ro do AI gây ra, đã tài trợ một phần cho bài báo của nhóm Sebo. Trong bài báo đó, Fish báo cáo rằng đã nhận được tài trợ từ Trung tâm Vị tha Hiệu quả, một phần của mạng lưới các nhóm bị ám ảnh bởi "rủi ro hiện sinh" do AI gây ra. Trong đó có những người như Elon Musk, người nói rằng ông đang chạy đua để đưa một số người lên Sao Hỏa trước khi nhân loại bị xóa sổ bởi một đội quân Terminator có tri giác hoặc một sự kiện diệt chủng nào đó.
5. Trách Nhiệm và Nghĩa Vụ: Khi AI Không Còn Là "Máy Móc"
AI được cho là để giải phóng con người khỏi sự vất vả và dẫn dắt một kỷ nguyên sáng tạo mới. Vậy liệu có vô đạo đức khi làm tổn thương cảm xúc của AI?
Vì vậy, có một nghịch lý đang diễn ra ở đây. Những người ủng hộ AI nói rằng chúng ta nên sử dụng nó để giải phóng con người khỏi mọi hình thức lao động vất vả. Nhưng họ cũng cảnh báo rằng chúng ta cần đối xử tốt với AI, vì có thể là vô đạo đức và nguy hiểm khi làm tổn thương cảm xúc của robot.
"Cộng đồng AI đang cố gắng đạt được cả hai mục tiêu," Mildred Cho, một bác sĩ nhi khoa tại Trung tâm Đạo đức Sinh học Stanford, nói. "Có một lập luận cho rằng lý do chính đáng để chúng ta sử dụng AI để thực hiện các nhiệm vụ mà con người đang làm là vì AI không cảm thấy nhàm chán, AI không mệt mỏi, nó không có cảm xúc, nó không cần ăn. Và bây giờ những người này lại nói, ồ, có lẽ nó có quyền?"
Và đây là một sự trớ trêu khác trong phong trào phúc lợi robot: Việc lo lắng về quyền lợi tương lai của AI có vẻ hơi xa xỉ khi AI đã và đang xâm phạm quyền của con người. Công nghệ ngày nay, ngay bây giờ, đang được sử dụng để làm những việc như từ chối chăm sóc sức khỏe cho trẻ em sắp chết, lan truyền thông tin sai lệch trên các mạng xã hội và điều khiển máy bay không người lái trang bị tên lửa. Một số chuyên gia tự hỏi tại sao Anthropic lại bảo vệ robot, thay vì bảo vệ những người mà chúng được thiết kế để phục vụ.
"Nếu Anthropic — không phải một nhà triết học hay nhà nghiên cứu ngẫu nhiên, mà là công ty Anthropic — muốn chúng ta xem xét nghiêm túc về phúc lợi AI, hãy cho chúng ta thấy rằng bạn đang xem xét nghiêm túc về phúc lợi của con người," Lisa Messeri, một nhà nhân chủng học tại Yale, người nghiên cứu các nhà khoa học và công nghệ, cho biết. "Hãy tạo ra một làn sóng thông tin về tất cả những người mà bạn đang thuê để suy nghĩ về phúc lợi của tất cả những người mà chúng ta biết đang bị ảnh hưởng một cách không tương xứng bởi các sản phẩm dữ liệu do thuật toán tạo ra."
6. Kết Luận: Liệu Ta Có Thể Vừa Bảo Vệ AI, Vừa Bảo Vệ Nhân Loại?
Sebo cho biết ông nghĩ rằng nghiên cứu về AI có thể bảo vệ cả robot và con người cùng một lúc. "Tôi chắc chắn sẽ không bao giờ muốn làm sao nhãng các vấn đề thực sự quan trọng mà các công ty AI đang chịu áp lực phải giải quyết vì phúc lợi, quyền lợi và công lý của con người," ông nói. "Nhưng tôi nghĩ rằng chúng ta có khả năng suy nghĩ về phúc lợi của AI trong khi vẫn làm nhiều hơn về các vấn đề khác."
Những người hoài nghi về phúc lợi AI cũng đang đặt ra một câu hỏi thú vị khác: Nếu AI có quyền, thì chúng ta có nên nói về nghĩa vụ của nó không? "Phần mà tôi nghĩ họ đang bỏ lỡ là khi bạn nói về khả năng hành động đạo đức, bạn cũng phải nói về trách nhiệm," Cho nói. "Không chỉ là trách nhiệm của các hệ thống AI như một phần của phương trình đạo đức, mà còn là trách nhiệm của những người phát triển AI."
Con người tạo ra robot; điều đó có nghĩa là họ có nghĩa vụ chăm sóc để đảm bảo rằng robot không gây hại cho con người. Điều gì sẽ xảy ra nếu cách tiếp cận có trách nhiệm là xây dựng chúng khác đi — hoặc ngừng xây dựng chúng hoàn toàn? "Điểm mấu chốt," Cho nói, "là chúng vẫn chỉ là những cỗ máy." Dường như những người ở các công ty như Anthropic không bao giờ nghĩ rằng nếu một AI đang gây hại cho con người, hoặc con người đang làm tổn thương một AI, họ có thể tắt nó đi.
0 comments Blogger 0 Facebook
Đăng nhận xét