Hé lộ bí mật: Claude hoạt động như thế nào?

Hé lộ bí mật: Claude hoạt động như thế nào?

Anthropic, công ty đứng sau chatbot Claude, đã tiết lộ những bí mật về cách thức hoạt động của AI này. Trong một động thái hiếm hoi, công ty đã chia sẻ những lệnh điều khiển, hay còn gọi là "system prompts", hướng dẫn Claude về những gì nó có thể và không thể làm khi trò chuyện với người dùng.

Bằng việc công khai những "system prompts" này, Anthropic đã vén màn bí mật về cách thức hoạt động của ba mô hình AI của mình: Claude 3.5 Sonnet, Claude 3 Opus và Claude 3 Haiku.

Ba mô hình, ba cách thức hoạt động

Mặc dù có điểm tương đồng, mỗi mô hình lại sở hữu số lượng "system prompts" khác nhau.

• Sonnet, mô hình được đánh giá là thông minh nhất và miễn phí truy cập, sở hữu lượng lệnh lớn nhất. Sonnet nổi bật trong việc viết và xử lý các nhiệm vụ phức tạp.
• Opus, mô hình có lượng lệnh lớn thứ hai, phù hợp với những người dùng trả phí Claude Pro. Opus được đánh giá là "thành thạo" trong việc thực hiện các yêu cầu phức tạp.
• Haiku, mô hình nhanh nhất trong bộ ba và cũng dành cho người dùng Claude Pro, lại có lượng lệnh ít nhất. Haiku được thiết kế để xử lý các yêu cầu đơn giản một cách nhanh chóng.

Hé lộ những "lệnh điều khiển" bí mật

Các "system prompts" tiết lộ những chi tiết thú vị về cách Claude được đào tạo và hoạt động. Dưới đây là một số ví dụ:

• Claude Sonnet được lệnh không mở URL, liên kết hoặc video. Nếu người dùng cố gắng thêm bất kỳ điều nào trong số này, chatbot sẽ nhắc nhở về giới hạn này và yêu cầu người dùng dán trực tiếp văn bản hoặc hình ảnh vào cuộc trò chuyện.
• Sonnet được chỉ dẫn để tránh sử dụng các cụm từ như "Tôi xin lỗi" hoặc "Tôi xin lỗi" trong các câu trả lời của mình.
• Sonnet được dạy cách "hallucinate" một cách có trách nhiệm, tức là thừa nhận khi nó không chắc chắn về câu trả lời.
• Sonnet được hướng dẫn để cung cấp các phản hồi đầy đủ và chi tiết cho các câu hỏi phức tạp, và phản hồi ngắn gọn hơn cho các câu hỏi đơn giản.
• Claude Opus cũng sở hữu những "system prompts" tương tự như Sonnet, nhưng với những điểm nhấn riêng. Ví dụ như Opus được dạy cách xử lý các câu hỏi liên quan đến quan điểm của nhiều người, thậm chí khi nó được đào tạo để phản đối những quan điểm đó.
• Claude Haiku được thiết kế để cung cấp các phản hồi ngắn gọn cho các câu hỏi đơn giản, nhưng đầy đủ hơn cho các câu hỏi phức tạp.

Sự minh bạch hiếm có trong thế giới AI

Việc Anthropic công khai các "system prompts" này là một bước đi hiếm có trong ngành công nghiệp AI. Thông thường, các nhà phát triển AI giữ kín những chi tiết này. Tuy nhiên, Anthropic có kế hoạch biến việc chia sẻ thông tin này thành một quy trình thường xuyên.

Việc hé lộ các "system prompts" giúp người dùng hiểu rõ hơn về cách Claude hoạt động, đồng thời giúp Anthropic tăng cường sự minh bạch và đáng tin cậy cho chatbot của mình.

Tạm kết

Anthropic đã đưa ra một bước đi táo bạo bằng cách chia sẻ những bí mật về cách hoạt động của Claude. Đây là một dấu hiệu tích cực cho thấy ngành công nghiệp AI đang hướng đến sự minh bạch và trách nhiệm hơn. Việc hiểu rõ hơn về "system prompts" giúp người dùng tin tưởng và sử dụng hiệu quả hơn các chatbot AI.