OpenAI tạo ra thang đo để đánh giá mức độ thông minh của AI

OpenAI: Xây dựng thang đo để đánh giá mức độ thông minh của AI

Mục lục:

1. Hệ thống phân loại AI theo cấp độ
2. Mục tiêu của thang đo và ý nghĩa của AGI
3. Hành trình hướng tới AGI và những thách thức
4. Sự hợp tác với Los Alamos National Laboratory
5. Báo động về vấn đề an toàn và những tranh cãi
6. Thang đo - Công cụ đánh giá tiến bộ và định nghĩa rõ ràng hơn

OpenAI đã tạo ra một thang đo nội bộ để theo dõi tiến trình phát triển của các mô hình ngôn ngữ lớn (LLM) hướng tới trí tuệ nhân tạo tổng hợp (AGI), hay AI có trí thông minh tương tự con người. Một phát ngôn viên của OpenAI chia sẻ thông tin này với Bloomberg.

Thang đo này bao gồm 5 cấp độ:

• Cấp độ 1: Bao gồm các chatbot hiện tại như ChatGPT.
• Cấp độ 2: Là hệ thống có khả năng giải quyết các vấn đề cơ bản ở mức độ một người có bằng tiến sĩ.
• Cấp độ 3: Là các tác nhân AI có khả năng thực hiện hành động thay mặt người dùng.
• Cấp độ 4: Là AI có khả năng tạo ra những đổi mới mới.
• Cấp độ 5: Là cấp độ cuối cùng để đạt được AGI, AI có khả năng thực hiện công việc của cả một tổ chức.

OpenAI đã định nghĩa AGI là một hệ thống tự động cao vượt trội con người trong hầu hết các nhiệm vụ có giá trị kinh tế.

Cấu trúc độc đáo của OpenAI tập trung vào nhiệm vụ đạt được AGI và cách họ định nghĩa AGI rất quan trọng. Công ty tuyên bố rằng nếu một dự án phù hợp với giá trị, an toàn và gần đạt được AGI trước OpenAI, họ cam kết không cạnh tranh với dự án đó và sẽ làm mọi thứ để hỗ trợ. Tuy nhiên, cách diễn đạt trong điều lệ của OpenAI là mơ hồ, tạo điều kiện cho sự đánh giá của thực thể vì lợi nhuận (do tổ chức phi lợi nhuận quản lý). Nhưng một thang đo mà OpenAI có thể tự kiểm tra và cạnh tranh có thể giúp xác định rõ hơn khi nào AGI được đạt được.

Tuy nhiên, AGI vẫn còn rất xa vời: sẽ cần hàng tỷ đô la chi phí tính toán để đạt được AGI, nếu có. Các mốc thời gian từ các chuyên gia, và thậm chí cả tại OpenAI, cũng rất khác nhau. Vào tháng 10 năm 2023, Giám đốc điều hành OpenAI Sam Altman cho biết chúng ta còn năm năm, cộng trừ trước khi đạt được AGI.

Thang đo xếp hạng mới này, mặc dù vẫn đang được phát triển, được giới thiệu một ngày sau khi OpenAI công bố hợp tác với Phòng thí nghiệm Quốc gia Los Alamos, nhằm khám phá cách các mô hình AI tiên tiến như GPT-4o có thể hỗ trợ an toàn trong nghiên cứu sinh học. Một người quản lý chương trình tại Los Alamos, chịu trách nhiệm cho danh mục sinh học an ninh quốc gia và đóng vai trò quan trọng trong việc đảm bảo quan hệ đối tác OpenAI, cho biết mục tiêu là kiểm tra khả năng của GPT-4o và thiết lập một bộ tiêu chí an toàn và các yếu tố khác cho chính phủ Hoa Kỳ. Cuối cùng, các mô hình công cộng hoặc tư nhân có thể được kiểm tra dựa trên các yếu tố này để đánh giá các mô hình của riêng họ.

Vào tháng 5, OpenAI đã giải tán đội ngũ an toàn của mình sau khi trưởng nhóm, đồng sáng lập OpenAI Ilya Sutskever, rời công ty. Jan Leike, một nhà nghiên cứu quan trọng của OpenAI, đã từ chức ngay sau đó và tuyên bố trong một bài đăng rằng văn hóa và quy trình an toàn đã bị bỏ qua cho các sản phẩm hào nhoáng tại công ty. Mặc dù OpenAI phủ nhận điều đó, một số người lo ngại về ý nghĩa của điều này nếu công ty thực sự đạt được AGI.

OpenAI chưa cung cấp chi tiết về cách họ gán các mô hình vào các cấp độ nội bộ này (và đã từ chối yêu cầu bình luận của The Verge). Tuy nhiên, các nhà lãnh đạo của công ty đã trình diễn một dự án nghiên cứu sử dụng mô hình AI GPT-4 trong một cuộc họp toàn thể vào thứ Năm và tin rằng dự án này thể hiện một số kỹ năng mới thể hiện lý luận giống con người, theo Bloomberg.

Thang đo này có thể giúp cung cấp một định nghĩa nghiêm ngặt về tiến bộ, thay vì để nó được diễn giải. Ví dụ, Giám đốc công nghệ OpenAI Mira Murati cho biết trong một cuộc phỏng vấn vào tháng 6 rằng các mô hình trong phòng thí nghiệm của họ không tốt hơn nhiều so với những gì công chúng đã có. Trong khi đó, Giám đốc điều hành Sam Altman cho biết vào cuối năm ngoái rằng công ty gần đây đã đẩy lùi tấm màn vô minh, nghĩa là các mô hình thông minh hơn đáng kể.