Tất cả chúng tôi đã ở đó. Bạn cảm thấy đau một cách kỳ lạ ở bên hông hoặc nhận được kết quả xét nghiệm khó hiểu từ bác sĩ và điều đầu tiên bạn làm là mở Google. Bạn không tìm kiếm một bằng y khoa; bạn chỉ muốn một câu trả lời nhanh chóng cho câu hỏi “tôi có ổn không?” Nhưng gần đây, Google đã phải ngừng các bản tóm tắt tìm kiếm AI của mình bởi vì hóa ra, việc yêu cầu robot tư vấn y tế thực sự có thể nguy hiểm.
Google lặng lẽ xóa một loạt các bản tóm tắt về sức khỏe do AI tạo ra khỏi kết quả tìm kiếm của mình sau khi một cuộc điều tra cho thấy họ đưa ra thông tin không chính xác và đáng sợ một cách thẳng thắn. Tất cả điều này bắt đầu sau một báo cáo của The Guardian đã chỉ ra rằng những “Tổng quan về AI” này—các hộp đầy màu sắc xuất hiện ở đầu tìm kiếm của bạn—đang cung cấp dữ liệu không đầy đủ.
Ví dụ rõ ràng nhất là về xét nghiệm máu gan
Nếu bạn hỏi AI về “phạm vi bình thường”, nó sẽ chỉ đưa ra một danh sách các con số. Nó không hỏi bạn là nam hay nữ. Nó không hỏi về tuổi tác, sắc tộc hay tiền sử bệnh của bạn. Nó chỉ đưa ra một con số cố định. Các chuyên gia y tế đã xem xét điều này và về cơ bản nói: “Điều này thật nguy hiểm”.
Bapt
Vấn đề ở đây không chỉ là AI đã sai; đó là nó đã gây hiểu lầm một cách nguy hiểm. Hãy tưởng tượng một người mắc bệnh gan giai đoạn đầu đang tra cứu kết quả xét nghiệm của họ. AI cho họ biết số liệu của họ nằm trong phạm vi “bình thường” mà nó lấy được từ một số trang web ngẫu nhiên. Người đó có thể nghĩ: “Ồ, vậy thì tôi ổn” và bỏ qua cuộc hẹn tái khám. Trên thực tế, con số “bình thường” đối với thanh niên 20 tuổi có thể là dấu hiệu cảnh báo đối với thanh niên 50 tuổi. AI thiếu sắc thái để biết điều đó và khoảng cách về bối cảnh đó có thể gây ra những hậu quả nghiêm trọng trong thế giới thực.
Video được đề xuất
Phản hồi của Google khá chuẩn—họ đã xóa các truy vấn cụ thể bị gắn cờ và nhấn mạnh rằng hệ thống của họ thường hữu ích. Nhưng mấu chốt ở đây là: các tổ chức y tế như British Liver Trust nhận thấy rằng nếu bạn chỉ diễn đạt lại câu hỏi một chút, thông tin xấu tương tự sẽ xuất hiện ngay lập tức. Nó giống như một trò chơi đánh đòn kỹ thuật số. Bạn sửa một lỗi và AI sẽ tạo một lỗi mới sau 5 giây.
Vấn đề thực sự ở đây là sự tin tưởng
Bởi vì những bản tóm tắt AI này nằm ngay trên đầu trang, phía trên các liên kết thực tế đến bệnh viện hoặc tạp chí y khoa, nên chúng mang một vẻ uy quyền. Chúng tôi được đào tạo để tin tưởng vào kết quả hàng đầu. Khi Google đưa ra câu trả lời trong một chiếc hộp nhỏ gọn gàng, bộ não của chúng ta sẽ vô thức coi đó là câu trả lời “đúng”. Nhưng không phải vậy. Nó chỉ là một công cụ dự đoán cố gắng đoán những từ tiếp theo.
Bapt
Hiện tại, đây là một lời cảnh tỉnh lớn. AI rất hữu ích trong việc tóm tắt email hoặc lên kế hoạch cho hành trình du lịch, nhưng khi nói đến sức khỏe của bạn, rõ ràng nó chưa sẵn sàng. Cho đến khi các hệ thống này có thể hiểu được ngữ cảnh—hoặc cho đến khi Google đặt các biện pháp bảo vệ chặt chẽ hơn—có lẽ sẽ an toàn hơn khi cuộn qua robot và nhấp vào liên kết thực tế từ một bác sĩ thực sự. Tốc độ là tốt, nhưng độ chính xác là điều duy nhất quan trọng khi bạn nói về sức khỏe của mình.
Nguồn DigitalTrend