Anthropic Công Khai Lệnh Hệ Thống Đứng Sau Claude AI

Anthropic Công Khai Lệnh Hệ Thống Đứng Sau Claude AI

Mục lục:

1. Lệnh Hệ Thống: Chìa Khóa Nằm Ở Sự Minh Bạch?
2. Claude: Từ Hạn Chế Đến Tính Cách
3. Sức Ép Minh Bạch Lên Các Ông Lớn AI

1. Lệnh Hệ Thống: Chìa Khóa Nằm Ở Sự Minh Bạch?

Trong nỗ lực khẳng định vị thế là một nhà cung cấp AI có đạo đức và minh bạch, Anthropic đã có một bước đi táo bạo: công bố lệnh hệ thống (system prompts) cho các mô hình AI mới nhất của họ, bao gồm Claude 3 Opus, Claude 3.5 Sonnet và Claude 3 Haiku.

Thông tin này được chia sẻ công khai trên cả ứng dụng di động Claude (iOS và Android) và trang web của công ty. Alex Albert, người đứng đầu bộ phận quan hệ nhà phát triển của Anthropic, cho biết trên X (trước đây là Twitter) rằng công ty có kế hoạch biến việc công bố này thành thông lệ thường xuyên khi cập nhật và tinh chỉnh lệnh hệ thống của mình.

2. Claude: Từ Hạn Chế Đến Tính Cách

Lệnh hệ thống đóng vai trò như những hướng dẫn chi tiết, định hình cách thức hoạt động và phản hồi của mô hình AI. Ví dụ, một lệnh có thể yêu cầu mô hình AI phải luôn lịch sự nhưng không bao giờ tỏ ra hối lỗi, hoặc phải trung thực về việc bản thân không thể biết tất cả mọi thứ.

Với Claude, lệnh hệ thống được xây dựng để thiết lập các ranh giới rõ ràng về những gì mô hình AI này được phép và không được phép làm. Ví dụ, Claude bị cấm mở URL, liên kết hoặc video, và tuyệt đối không được sử dụng nhận dạng khuôn mặt.

Điểm thú vị là lệnh hệ thống của Claude còn mô tả cả những đặc điểm tính cách mà Anthropic muốn mô hình AI này thể hiện. Ví dụ, Claude 3 Opus được lập trình để thể hiện mình là một AI rất thông minh và ham học hỏi, thích lắng nghe suy nghĩ của con người về nhiều vấn đề khác nhau và tham gia thảo luận về nhiều chủ đề đa dạng.

3. Sức Ép Minh Bạch Lên Các Ông Lớn AI

Việc Anthropic công khai lệnh hệ thống được xem như một cách thức gây sức ép, buộc các đối thủ cạnh tranh như OpenAI phải cân nhắc làm điều tương tự. Liệu đây có phải là một chiến lược hiệu quả? Chỉ thời gian mới có thể trả lời. Tuy nhiên, động thái này của Anthropic đã góp phần thúc đẩy tính minh bạch trong lĩnh vực AI, vốn đang là vấn đề được quan tâm hàng đầu hiện nay.