Cảnh sát bắt đầu sử dụng chatbot AI để viết báo cáo tội phạm: Liệu chúng có thể đứng vững trước tòa?

Cảnh sát bắt đầu sử dụng chatbot AI để viết báo cáo tội phạm: Liệu chúng có thể đứng vững trước tòa?

Oklahoma City, Hoa Kỳ - Một camera gắn trên người đã ghi lại mọi lời nói và tiếng sủa của Trung sĩ cảnh sát Matt Gilmore và chó nghiệp vụ Gunner trong cuộc tìm kiếm một nhóm nghi phạm kéo dài gần một giờ.

Thông thường, Trung sĩ Gilmore sẽ phải tốn thêm 30 đến 45 phút để viết báo cáo về cuộc tìm kiếm bằng máy tính xách tay của mình. Nhưng lần này, ông đã sử dụng trí tuệ nhân tạo để tạo bản nháp đầu tiên.

Công cụ AI đã phân tích tất cả âm thanh và cuộc hội thoại trên radio được thu bởi micro gắn trên camera gắn người của Gilmore, và tạo ra một báo cáo chỉ trong tám giây.

"Đó là một bản báo cáo tốt hơn so với những gì tôi có thể viết, và nó chính xác 100%. Nó có bố cục tốt hơn," Gilmore nói. Nó thậm chí còn ghi lại một chi tiết mà ông không nhớ mình đã nghe - một sĩ quan khác đề cập đến màu sắc của chiếc xe mà các nghi phạm đã bỏ chạy.

Sở cảnh sát Oklahoma City là một trong số ít cơ quan thử nghiệm việc sử dụng chatbot AI để tạo bản nháp cho các báo cáo về vụ việc. Các sĩ quan cảnh sát đã thử nghiệm công nghệ này đều tỏ ra phấn khích về khả năng tiết kiệm thời gian của nó, trong khi một số luật sư, chuyên gia giám sát cảnh sát và học giả luật lại lo ngại về việc nó có thể thay đổi một tài liệu cơ bản trong hệ thống tư pháp hình sự, tài liệu đóng vai trò trong việc quyết định ai bị truy tố hoặc bỏ tù.

Được xây dựng dựa trên cùng công nghệ với ChatGPT và được bán bởi Axon, công ty nổi tiếng với việc phát triển Taser và là nhà cung cấp camera gắn người thống trị tại Mỹ, nó có thể trở thành "sự thay đổi trò chơi" tiếp theo cho công việc của cảnh sát, như Gilmore mô tả.

"Họ trở thành sĩ quan cảnh sát vì muốn làm công việc của cảnh sát, và việc dành nửa ngày làm việc để nhập liệu chỉ là một phần nhàm chán của công việc mà họ ghét," Rick Smith, người sáng lập và CEO của Axon, nói về sản phẩm AI mới - có tên là Draft One - và cho biết nó nhận được "phản hồi tích cực nhất" trong số các sản phẩm mà công ty đã giới thiệu.

"Tuy nhiên, chắc chắn cũng có những lo ngại," Smith bổ sung. Cụ thể, ông cho biết các công tố viên quận đang xử lý các vụ án hình sự muốn chắc chắn rằng các sĩ quan cảnh sát - chứ không chỉ chatbot AI - chịu trách nhiệm viết báo cáo của họ vì họ có thể phải làm chứng trước tòa về những gì mình chứng kiến.

"Họ không bao giờ muốn đưa một sĩ quan lên bục khai rằng, 'AI đã viết điều đó, tôi không biết'," Smith nói.

Công nghệ AI không phải là điều mới đối với các cơ quan cảnh sát, chúng đã áp dụng các công cụ thuật toán để đọc biển số xe, nhận diện khuôn mặt của nghi phạm, phát hiện tiếng súng và dự đoán nơi tội phạm có thể xảy ra. Nhiều ứng dụng trong số đó đã vấp phải những lo ngại về quyền riêng tư và dân quyền, cũng như các nỗ lực của các nhà lập pháp để thiết lập các biện pháp bảo vệ. Tuy nhiên, sự xuất hiện của các báo cáo về vụ việc do AI tạo ra lại quá mới nên chưa có nhiều, nếu có, các biện pháp bảo vệ hướng dẫn việc sử dụng chúng.

Aurelius Francisco, một nhà hoạt động cộng đồng tại Oklahoma City, cảm thấy "rất lo ngại" về công cụ mới, điều mà ông biết được từ The Associated Press, khi xem xét đến những thành kiến ​​về chủng tộc và định kiến ​​của xã hội được tích hợp vào công nghệ AI.

"Việc công nghệ này được sử dụng bởi cùng một công ty cung cấp Taser cho sở cảnh sát đã là điều đáng báo động," Francisco, đồng sáng lập Tổ chức Giải phóng Tâm trí tại Oklahoma City, nói.

Ông cho biết việc tự động hóa các báo cáo sẽ "dễ dàng hơn cho cảnh sát trong việc quấy rối, giám sát và gây bạo lực đối với thành viên cộng đồng. Trong khi công việc của cảnh sát được dễ dàng hơn, thì cuộc sống của người da đen và nâu lại khó khăn hơn."

Trước khi thử nghiệm công cụ này tại Oklahoma City, các quan chức cảnh sát đã trình bày nó với các công tố viên địa phương, những người khuyên nên thận trọng trước khi sử dụng nó cho các vụ án hình sự nghiêm trọng. Hiện tại, nó chỉ được sử dụng cho các báo cáo về vụ việc nhỏ, không dẫn đến việc ai đó bị bắt giữ.

"Vì vậy, không có vụ bắt giữ, không có tội phạm nghiêm trọng, không có tội phạm bạo lực," Jason Bussert, Đại úy cảnh sát Oklahoma City, người phụ trách công nghệ thông tin cho sở cảnh sát với 1.170 sĩ quan, nói.

Điều này không phải là trường hợp ở một thành phố khác, Lafayette, Indiana, nơi Trưởng phòng Cảnh sát Scott Galloway nói với AP rằng tất cả các sĩ quan của ông đều có thể sử dụng Draft One cho bất kỳ loại vụ án nào và nó đã "rất phổ biến" kể từ khi chương trình thử nghiệm bắt đầu vào đầu năm nay.

Hoặc tại Fort Collins, Colorado, nơi Trung sĩ cảnh sát Robert Younger cho biết các sĩ quan được phép sử dụng nó cho bất kỳ loại báo cáo nào, mặc dù họ nhận thấy nó không hiệu quả trong các cuộc tuần tra khu vực quán bar trung tâm thành phố vì "lượng tiếng ồn quá lớn."

Cùng với việc sử dụng AI để phân tích và tóm tắt bản ghi âm, Axon đã thử nghiệm việc sử dụng thị giác máy tính để tóm tắt những gì "nhìn thấy" trong cảnh quay video, trước khi nhanh chóng nhận ra rằng công nghệ này chưa sẵn sàng.

"Xét đến tất cả những nhạy cảm xung quanh việc thực thi pháp luật, xung quanh chủng tộc và các danh tính khác của những người liên quan, đó là một lĩnh vực mà tôi nghĩ chúng ta sẽ phải thực sự nỗ lực trước khi giới thiệu nó," Smith, CEO của Axon, nói, mô tả một số phản hồi được thử nghiệm là không "chủng tộc công khai" nhưng lại nhạy cảm theo những cách khác.

Những thử nghiệm đó đã khiến Axon tập trung hoàn toàn vào âm thanh trong sản phẩm được giới thiệu vào tháng 4 trong hội nghị thường niên của công ty dành cho các quan chức cảnh sát.

Công nghệ này dựa trên cùng mô hình AI tạo ra năng lượng cho ChatGPT, được tạo ra bởi OpenAI có trụ sở tại San Francisco. OpenAI là đối tác kinh doanh thân thiết với Microsoft, nhà cung cấp điện toán đám mây của Axon.

"Chúng tôi sử dụng cùng công nghệ cơ bản với ChatGPT, nhưng chúng tôi có quyền truy cập vào nhiều nút điều khiển hơn so với người dùng ChatGPT thực tế," Noah Spitzer-Williams, người quản lý các sản phẩm AI của Axon, nói. Việc giảm "nút điều khiển sáng tạo" giúp mô hình tuân theo sự thật để nó "không tô vẽ hay ảo giác theo cùng một cách mà bạn sẽ tìm thấy nếu chỉ sử dụng ChatGPT riêng lẻ," ông nói.

Axon từ chối tiết lộ số lượng sở cảnh sát đang sử dụng công nghệ này. Đây không phải là nhà cung cấp duy nhất, các công ty khởi nghiệp như Policereports.ai và Truleo cũng đang cung cấp các sản phẩm tương tự. Nhưng xét đến mối quan hệ chặt chẽ của Axon với các sở cảnh sát mua Taser và camera gắn người của họ, các chuyên gia và quan chức cảnh sát dự đoán các báo cáo do AI tạo ra sẽ trở nên phổ biến hơn trong những tháng và năm tới.

Trước khi điều đó xảy ra, học giả luật Andrew Ferguson muốn thấy thêm các cuộc thảo luận công khai về những lợi ích và tác hại tiềm ẩn. Một điều, các mô hình ngôn ngữ lớn đằng sau chatbot AI có xu hướng bịa đặt thông tin sai lệch, một vấn đề được gọi là "ảo giác" có thể thêm vào báo cáo của cảnh sát những điều sai lệch thuyết phục và khó nhận thấy.

"Tôi lo ngại rằng việc tự động hóa và sự dễ dàng của công nghệ sẽ khiến các sĩ quan cảnh sát trở nên ít cẩn thận hơn trong việc viết lách," Ferguson, giáo sư luật tại Đại học American, người đang nghiên cứu về bài báo đánh giá luật đầu tiên về công nghệ mới nổi này, nói.

Ferguson cho biết báo cáo của cảnh sát rất quan trọng trong việc xác định xem liệu sự nghi ngờ của một sĩ quan có "đáng để ai đó mất quyền tự do" hay không. Đôi khi đó là lời khai duy nhất mà thẩm phán xem xét, đặc biệt là đối với các tội nhẹ.

Các báo cáo của cảnh sát do con người tạo ra cũng có những thiếu sót, Ferguson nói, nhưng vẫn là một câu hỏi mở về việc đâu là đáng tin cậy hơn.

Đối với một số sĩ quan đã thử nghiệm công nghệ này, nó đã thay đổi cách họ phản ứng với một tội phạm được báo cáo. Họ đang kể lại những gì đang xảy ra để camera ghi lại tốt hơn những gì họ muốn ghi vào văn bản.

Bussert dự đoán khi công nghệ này được ứng dụng rộng rãi, các sĩ quan sẽ trở nên "nói nhiều hơn" trong việc mô tả những gì đang diễn ra trước mặt họ.

Sau khi Bussert tải video về một cuộc dừng xe lên hệ thống và nhấn một nút, chương trình đã tạo ra một bản báo cáo theo phong cách tường thuật bằng ngôn ngữ hội thoại bao gồm ngày tháng và giờ, giống như một sĩ quan sẽ gõ từ những ghi chú của mình, tất cả đều dựa trên âm thanh từ camera gắn người.

"Chỉ mất vài giây," Gilmore nói, "và nó đã hoàn thành đến mức tôi kiểu, 'Tôi không cần phải thay đổi gì nữa."

Cuối bản báo cáo, sĩ quan phải đánh dấu vào một ô cho biết nó được tạo ra bằng cách sử dụng AI.

—————

O'Brien đã báo cáo từ Providence, Rhode Island

—————

The Associated Press và OpenAI có một thỏa thuận cấp phép và công nghệ cho phép OpenAI truy cập vào một phần kho lưu trữ văn bản của AP.