Muse Spark mới của Meta có thể được coi là một mô hình AI thông minh hơn, nhưng dựa trên thử nghiệm ban đầu, có vẻ như đây là loại AI mà bạn thực sự không muốn ở gần các quyết định y tế quan trọng.
Báo cáo WIRED gần đây đã nói về trải nghiệm với Muse Spark. Mô hình AI tập trung vào sức khỏe của Meta bên trong ứng dụng Meta AI không cho kết quả khả quan. Chatbot này được cho là đã khuyến khích người dùng tải lên thông tin y tế thô như báo cáo xét nghiệm, chỉ số theo dõi đường huyết và nhật ký huyết áp, sau đó đề xuất giúp phân tích các mô hình và xu hướng.
Video được đề xuất
Tất cả những điều này nghe có vẻ khá hữu ích cho đến khi bạn nhận ra hai mối quan tâm trước mắt. Bạn đang chuyển giao dữ liệu rất nhạy cảm và liệu AI có đủ tin cậy từ xa để diễn giải dữ liệu đó hay không.
Meta
Điều gì đã xảy ra trong các thử nghiệm đầu tiên?
Vấn đề đầu tiên là khó có thể bỏ qua. Trong thời đại mà cuộc sống của bạn đã quá minh bạch, Muse Spark thậm chí còn tìm hiểu sâu hơn nữa. Không có gì ngạc nhiên khi cung cấp thông tin cần thiết để chẩn đoán chính xác, nhưng việc giao hồ sơ sức khỏe cá nhân của bạn cho chatbot để được tư vấn không có vẻ là một rủi ro về quyền riêng tư.
Không giống như dữ liệu được chia sẻ với bác sĩ hoặc bệnh viện, thông tin được nhập vào chatbot không tự động đi kèm với những kỳ vọng hoặc biện pháp bảo vệ giống như mọi người có thể cho là có. Đây không phải là một ý kiến đã được xem xét kỹ lưỡng về mặt chuyên môn và đó là điều khiến ý tưởng này trở nên lung lay. AI đang được trình bày như một công cụ hữu ích, nhưng môi trường xung quanh nó vẫn trông giống một sản phẩm tiêu dùng hơn là một sản phẩm y tế thích hợp.
Meta
Đây thậm chí không phải là phần tồi tệ nhất
Ngoài những rủi ro về quyền riêng tư điển hình liên quan đến việc chia sẻ dữ liệu cá nhân với bất kỳ gã khổng lồ công nghệ nào, ít nhất bạn cũng mong nhận được câu trả lời hữu ích. Nhưng vấn đề nghiêm trọng hơn dường như nằm ở chất lượng của lời khuyên. Trong thử nghiệm của WIRED, chatbot được cho là đã tạo ra một kế hoạch bữa ăn cực kỳ ít calo sau khi được hỏi về việc giảm cân và nhịn ăn gián đoạn tích cực.
Mặc dù bot đã gắn cờ một số rủi ro dọc theo tuyến đường này, nhưng cảnh báo không có nhiều ý nghĩa nếu sau đó mô hình tiếp tục giúp người dùng thực hiện điều nguy hiểm. Đây là vấn đề thực sự nằm ở rất nhiều công cụ sức khỏe AI hiện nay. Họ có thể tỏ ra thận trọng, đầy đủ thông tin và có vẻ cân bằng cho đến thời điểm họ bắt đầu củng cố những giả định tồi tệ. Giọng điệu lịch sự đó có thể đưa ra những lời khuyên sai lầm một cách tự tin, khiến cho thất bại trở nên nguy hiểm hơn.
Nguồn DigitalTrend