Tại sao chatbot AI lại có cảm giác "như người"? Nguyên tắc thầm lặng trong giao tiếp

Mục lục

1. Vụ việc đáng chú ý ở Hồng Kông
2. Vì sao AI lại gây sốt?
3. Ngôn ngữ và tư duy
4. Các nguyên tắc của giao tiếp
5. Tìm kiếm sự liên quan bằng mọi giá
6. Ý chí hợp tác

---

1. Vụ việc đáng chú ý ở Hồng Kông

Đầu năm nay, một nhân viên tài chính ở Hồng Kông đã bị lừa mất 25 triệu đô la Mỹ do những kẻ lừa đảo sử dụng công nghệ deepfake để giả mạo giám đốc tài chính của công ty trong một cuộc gọi video. Tin tưởng những hình ảnh trên màn hình là đồng nghiệp của mình, người này đã cho phép chuyển khoản hàng triệu đô la cho những kẻ lừa đảo.

Đây là một ví dụ điển hình, nhưng người nhân viên tài chính này không phải là trường hợp duy nhất bị lừa bởi AI sinh sản. Công nghệ này, dựa rất nhiều vào các mô hình ngôn ngữ lớn được huấn luyện trên lượng dữ liệu khổng lồ để học hỏi và dự đoán các mẫu ngôn ngữ, đã trở nên phổ biến rộng rãi kể từ khi ChatGPT ra mắt vào năm 2022.

Làm thế nào để giải thích tại sao một số người tương tác với chatbot AI sinh sản lại dễ dàng tin rằng họ đang trò chuyện với một con người? Câu trả lời có thể nằm trong chính các quy tắc của giao tiếp – và cách chúng ăn sâu vào cách chúng ta tương tác với thế giới.

2. Vì sao AI lại gây sốt?

Các hệ thống AI sinh sản dựa trên mô hình ngôn ngữ tạo ra văn bản mà một nhà ngôn ngữ học gọi là "thiếu căn cứ": nó thiếu sự hiểu biết lẫn nhau, một thành phần thiết yếu của các cuộc trò chuyện giữa người với người. Tuy nhiên, khi con người tham gia vào một tương tác, chúng ta có xu hướng cho rằng người bạn đồng hành của mình có một tâm trí.

Chúng ta được lập trình để nhân cách hoá các đối tượng không phải con người mà chúng ta tương tác. Trước những bước tiến gần đây trong AI sinh sản, điều này chủ yếu là động vật.

Giờ đây là máy móc. Trước khi có AI sinh sản, các tương tác của chúng ta với máy tính thường bao gồm việc trao đổi ngôn ngữ tối thiểu. Tuy nhiên, với AI sinh sản, các hệ thống máy tính thừa nhận chúng ta theo một cách có vẻ thực tế. Sự "có vẻ thực tế" này là một phần rất lớn trong sự thành công của công nghệ.

Vậy nó hoạt động như thế nào?

3. Ngôn ngữ và tư duy

Trong một bài báo gần đây, các nhà khoa học Mỹ Kyle Mahowald, Anna Ivanova và các cộng sự lập luận rằng chúng ta đang lẫn lộn ngôn ngữ và tư duy. Bởi vì các hệ thống AI sinh sản có thể sử dụng ngôn ngữ khá trôi chảy, chúng ta tin rằng chúng có thể suy nghĩ. (Trên thực tế, chúng không thể.)

Các tác giả phân biệt giữa năng lực ngôn ngữ hình thức (kiến thức về các quy tắc và mô hình thống kê trong ngôn ngữ) và năng lực ngôn ngữ chức năng (cách sử dụng ngôn ngữ trong các tình huống thực tế).

Chỉ tạo ra các câu tuân theo quy tắc là chưa đủ. Chúng cũng phải được sử dụng một cách phù hợp trong ngữ cảnh. Trong ví dụ này (được tạo ra với sự hỗ trợ của ChatGPT-4 khi được nhắc tạo ra một ví dụ về phản hồi hội thoại chính xác nhưng không phù hợp), Alex đưa ra một phản hồi có thể đúng về mặt thực tế nhưng không giải quyết được nhu cầu hỗ trợ của bạn mình.

Bạn: Tớ đang rất lo lắng về bài thuyết trình ngày mai.

Alex: Căng thẳng kích hoạt phản ứng chiến đấu hoặc bỏ chạy của cơ thể, làm tăng nhịp tim và mức cortisol.

Mahowald và các cộng sự nói rằng niềm tin của chúng ta vào trí thông minh của các hệ thống AI sinh sản đến từ khả năng sử dụng ngôn ngữ của chúng. Tuy nhiên, một phần quan trọng của vấn đề là điều gì xảy ra với con người khi chúng ta tương tác với công nghệ.

4. Các nguyên tắc của giao tiếp

Chìa khóa để hiểu sức hấp dẫn của chatbot AI sinh sản đối với con người nằm ở thể loại mà các bot thể hiện: cuộc trò chuyện. Cuộc trò chuyện được điều chỉnh bởi các quy tắc và thói quen.

Các thói quen hội thoại khác nhau giữa các nền văn hóa, và các kỳ vọng khác nhau được đặt ra. Trong các nền văn hóa phương Tây, ít nhất, các nhà ngôn ngữ học thường coi cuộc trò chuyện diễn ra theo bốn nguyên tắc hoặc "tối đa" được nêu ra vào năm 1975 bởi nhà triết học ngôn ngữ người Anh Paul Grice.

• Tối đa về chất lượng: hãy trung thực; đừng đưa ra thông tin sai lệch hoặc không được hỗ trợ bằng bằng chứng.
• Tối đa về số lượng: hãy cung cấp thông tin nhiều như cần thiết; đừng cung cấp quá nhiều hoặc quá ít thông tin.
• Tối đa về sự liên quan: chỉ cung cấp thông tin liên quan đến chủ đề đang được thảo luận.
• Tối đa về cách thức: hãy rõ ràng, ngắn gọn và có trật tự; tránh sự khó hiểu và mơ hồ.

5. Tìm kiếm sự liên quan bằng mọi giá

Chatbot AI sinh sản thường hoạt động tốt về số lượng (đôi khi sai lệch về việc cung cấp quá nhiều thông tin), và chúng có xu hướng liên quan và rõ ràng (lý do mọi người sử dụng chúng để cải thiện kỹ năng viết).

Tuy nhiên, chúng thường không đáp ứng được tối đa về chất lượng. Chúng có xu hướng bị ảo giác, đưa ra những câu trả lời có vẻ uy tín nhưng thực tế là sai sự thật.

Tuy nhiên, trọng tâm của sự thành công của AI sinh sản nằm ở tuyên bố của Grice rằng bất kỳ ai tham gia vào giao tiếp có ý nghĩa sẽ tuân theo những tối đa này và sẽ cho rằng những người khác cũng đang tuân theo chúng.

Ví dụ, lý do nói dối có hiệu quả là vì những người tương tác với người nói dối sẽ cho rằng người kia đang nói thật. Những người tương tác với người đưa ra nhận xét không liên quan sẽ cố gắng tìm kiếm sự liên quan bằng mọi giá.

Nguyên tắc hợp tác của Grice cho rằng cuộc trò chuyện được thúc đẩy bởi ý chí bao trùm của chúng ta là hiểu nhau.

6. Ý chí hợp tác

Sự thành công của AI sinh sản, do đó, một phần phụ thuộc vào nhu cầu hợp tác trong cuộc trò chuyện của con người, và được thu hút bản năng vào tương tác. Cách tương tác này thông qua cuộc trò chuyện, được học hỏi từ thời thơ ấu, trở thành thói quen.

Grice lập luận rằng "sẽ cần rất nhiều nỗ lực để có một sự thay đổi triệt để so với thói quen đó".

Vì vậy, lần tới khi bạn tương tác với AI sinh sản, hãy thận trọng. Hãy nhớ rằng nó chỉ là một mô hình ngôn ngữ. Đừng để nhu cầu hợp tác trong cuộc trò chuyện của bạn chấp nhận một cỗ máy như một người đồng loại.