ChatGPT có thể phát hiện deepfake?

Mục lục

Khả năng của ChatGPT và Gemini trong việc phát hiện deepfake
Ưu điểm của ChatGPT
Hạn chế của ChatGPT
Kết luận

1. Khả năng của ChatGPT và Gemini trong việc phát hiện deepfake

Một nghiên cứu mới do Đại học Buffalo dẫn đầu nhằm mục đích trả lời câu hỏi liệu các chatbot AI như ChatGPT có thể phát hiện deepfake do AI tạo ra hay không, với trọng tâm là các mô hình ngôn ngữ lớn (LLM) như ChatGPT của OpenAI và Gemini của Google. Nghiên cứu này đã khám phá tiềm năng của LLM trong việc phát hiện deepfake khuôn mặt người, một thách thức ngày càng cấp bách với sự gia tăng nội dung do AI tạo ra trên mạng xã hội và các nền tảng khác.

Nhóm nghiên cứu phát hiện ra rằng mặc dù LLM không đạt được hiệu suất tương đương với các thuật toán phát hiện deepfake tiên tiến, khả năng xử lý ngôn ngữ tự nhiên của chúng có thể biến chúng thành một công cụ giá trị cho nhiệm vụ này trong tương lai. Các phiên bản gần đây của các mô hình như ChatGPT đã cho phép các công cụ này phân tích hình ảnh, sử dụng cơ sở dữ liệu hình ảnh có chú thích để hiểu mối liên hệ giữa từ ngữ và nội dung trực quan.

2. Ưu điểm của ChatGPT

Các nhà nghiên cứu đã cung cấp cho các mô hình hàng ngàn hình ảnh thực và do AI tạo ra và giao nhiệm vụ cho chúng xác định dấu hiệu của thao túng. Nghiên cứu cho thấy ChatGPT chính xác 79,5% thời gian trong việc xác định các hiện vật tổng hợp trong các bức ảnh được tạo bởi khuếch tán tiềm ẩn và 77,2% trên các hình ảnh được tạo bởi StyleGAN.

Một trong những ưu điểm chính được nêu bật trong nghiên cứu là khả năng giải thích quyết định của ChatGPT theo cách con người có thể hiểu được. Ví dụ, khi phân tích một bức ảnh do AI tạo ra của một người đàn ông đeo kính, mô hình đã chỉ ra các vấn đề như tóc bị mờ ở một bên hình ảnh và sự chuyển tiếp đột ngột giữa người và nền.

Theo các nhà nghiên cứu, lời giải thích giống như con người này cung cấp một lớp minh bạch bổ sung thường không được tìm thấy trong các thuật toán phát hiện deepfake truyền thống, vốn thường chỉ đưa ra điểm số xác suất mà không có ngữ cảnh.

3. Hạn chế của ChatGPT

Tuy nhiên, nghiên cứu cũng chỉ ra một số hạn chế. Độ chính xác của ChatGPT vẫn thấp hơn các thuật toán phát hiện deepfake mới nhất, đạt tỷ lệ chính xác từ trung bình đến cao 90%.

Theo nhóm nghiên cứu, sự khác biệt này một phần là do LLM không thể phát hiện các sự khác biệt thống kê ở mức tín hiệu không nhìn thấy được bằng mắt người nhưng có thể phát hiện được bởi các thuật toán chuyên dụng. Hơn nữa, kiến thức ngữ nghĩa khiến lời giải thích của ChatGPT trở nên trực quan cũng có thể hạn chế hiệu quả của nó. Mô hình tập trung vào các bất thường ở mức ngữ nghĩa, có thể không nắm bắt được tất cả các sắc thái của thao túng deepfake.

Một thách thức khác mà họ phát hiện ra là ChatGPT thường từ chối phân tích ảnh khi được yêu cầu xác định xem chúng có phải do AI tạo ra hay không. Các nhà nghiên cứu cho biết nó thường phản hồi bằng một tuyên bố về việc không thể hỗ trợ yêu cầu do ngưỡng độ tin cậy.

Gemini, một mô hình khác được thử nghiệm trong nghiên cứu, có hiệu suất tương đương với ChatGPT trong việc xác định các hiện vật tổng hợp nhưng gặp khó khăn trong việc đưa ra lời giải thích mạch lạc. Nghiên cứu cho biết bằng chứng hỗ trợ của mô hình thường bao gồm các quan sát vô nghĩa, chẳng hạn như xác định nốt ruồi không tồn tại.

4. Kết luận

Các nhà nghiên cứu kết luận rằng mặc dù LLM như ChatGPT hứa hẹn là công cụ phát hiện deepfake, chúng chưa sẵn sàng để thay thế các thuật toán chuyên dụng. Những phát hiện này đã được trình bày tại Hội nghị Nhận dạng Hình ảnh & Mô hình Máy tính IEEE/CVF. Bài báo cũng được xuất bản trên arXiv.

ChatGPT có thể phát hiện deepfake?