Trí tuệ nhân tạo trong y tế: Hy vọng hay nguy cơ?

Trí tuệ nhân tạo trong y tế: Hy vọng hay nguy cơ?

Mục lục:

1. Google AI: Những sai sót ban đầu
2. Vấn đề về thông tin sai lệch
3. Lòng lạc quan của các chuyên gia y tế
4. Tương lai của chatbot y tế

1. Google AI: Những sai sót ban đầu

Kể từ khi ra mắt tính năng AI Overview, Google đã gặp phải một số vấn đề về tính chính xác của các thông tin y tế được cung cấp bởi chatbot của mình. Ví dụ, trong tuần đầu tiên hoạt động, Google AI đã đưa ra thông tin sai lệch, thậm chí có khả năng gây nguy hiểm về cách xử lý khi bị rắn đuôi chuông cắn. Ngoài ra, chatbot này còn khuyên người dùng nên ăn một viên đá nhỏ mỗi ngày để bổ sung vitamin và khoáng chất - thông tin được lấy từ một bài viết châm biếm.

Google thừa nhận những sai sót này và đã hạn chế việc hiển thị các trang web châm biếm và hài hước trong AI Overview, đồng thời loại bỏ một số kết quả tìm kiếm gây viral.

2. Vấn đề về thông tin sai lệch

Mặc dù Google đã có những nỗ lực để khắc phục, nhưng CBS News Confirmed phát hiện ra rằng những sửa đổi này không thể ngăn chặn tất cả các thông tin sai lệch về y tế. Vào cuối tháng 6, chatbot vẫn đưa ra lời khuyên về việc cho trẻ dưới 6 tháng tuổi ăn thức ăn đặc - điều mà Viện Hàn lâm Nhi khoa Hoa Kỳ không khuyến nghị.

Các tìm kiếm về lợi ích sức khỏe của những xu hướng sức khỏe không có cơ sở khoa học như thanh lọc cơ thể hoặc uống sữa tươi cũng có chứa những tuyên bố bị bác bỏ.

3. Lòng lạc quan của các chuyên gia y tế

Bất chấp những lỗi và sai sót, nhiều chuyên gia y tế vẫn lạc quan về tiềm năng của chatbot AI trong việc thay đổi ngành y tế.

Tiến sĩ Nigam Shah, nhà khoa học dữ liệu trưởng tại Stanford Healthcare, nhận định: Mọi người sẽ tiếp cận được những thông tin họ cần. Ông thừa nhận rằng trong ngắn hạn, công nghệ này còn nhiều hạn chế, nhưng về lâu dài, nó sẽ mang lại nhiều lợi ích.

Các chuyên gia ủng hộ chatbot cũng chỉ ra rằng ngay cả bác sĩ cũng không phải lúc nào cũng đưa ra chẩn đoán chính xác. Một nghiên cứu của Bộ Y tế và Dịch vụ Nhân sinh năm 2022 cho thấy, 2% bệnh nhân đến phòng cấp cứu mỗi năm có thể bị tổn thương do chẩn đoán sai từ các nhà cung cấp dịch vụ y tế.

Tiến sĩ Shah so sánh việc sử dụng chatbot với giai đoạn đầu của Google Search: Khi Google Search ra đời, mọi người lo sợ rằng mọi người sẽ tự chẩn đoán bệnh và mọi chuyện sẽ trở nên tồi tệ. Điều đó đã không xảy ra. Cũng tương tự như vậy, chúng ta sẽ trải qua giai đoạn này (trong đó) những công nghệ mới chưa hoàn thiện sẽ mắc lỗi, và một vài lỗi trong số đó sẽ rất nghiêm trọng, nhưng nhìn chung, việc có thông tin khi không có lựa chọn nào khác là một điều tốt.

4. Tương lai của chatbot y tế

Tổ chức Y tế Thế giới là một trong những tổ chức đầu tiên thử nghiệm chatbot AI. Sarah, chatbot của WHO, trích xuất thông tin từ trang web của WHO và các đối tác đáng tin cậy, giúp giảm thiểu lỗi thông tin. Khi được hỏi về cách hạn chế nguy cơ đau tim, Sarah đưa ra thông tin về việc quản lý căng thẳng, ngủ đủ giấc và tập trung vào lối sống lành mạnh.

Sự tiến bộ liên tục trong thiết kế và giám sát có thể tiếp tục cải thiện chất lượng của các chatbot này.

Tuy nhiên, nếu bạn đang tìm kiếm lời khuyên y tế từ chatbot AI, hãy lưu ý cảnh báo của Google: Chất lượng thông tin có thể thay đổi.