Chuyện gì đã xảy ra thế: Chà, chatbot AI mới của Reddit đã gây ra sự hỗn loạn. Bot có tên “Câu trả lời” được cho là sẽ giúp đỡ mọi người bằng cách tóm tắt thông tin từ các bài đăng cũ. Theo báo cáo của 404media, chatbot mới nhất của Reddit hiện đã có mặt. gợi ý ma túy cứng để đối phó với cơn đau mãn tính.
- Khi ai đó hỏi về cách đối phó với cơn đau mãn tính, nó chỉ ra một bình luận của người dùng có nội dung: “Trớ trêu thay, heroin đã cứu mạng tôi trong những trường hợp đó”.
- Và nó trở nên tồi tệ hơn. Một người khác đã hỏi nó một câu hỏi và nó đề xuất kratom, một loại chiết xuất thảo dược bị cấm ở một số nơi và có liên quan đến một số vấn đề sức khỏe nghiêm trọng.
- Điều đáng sợ nhất là Reddit đang thử nghiệm bot này ngay trong các cuộc trò chuyện đang diễn ra, vì vậy lời khuyên khủng khiếp của nó đang hiển thị ở nơi mọi người đều có thể nhìn thấy. Những người phụ trách các cộng đồng này, những người điều hành, cho biết họ thậm chí không thể tắt tính năng này.
Bapt
Tại sao điều này lại quan trọng: Đây là một ví dụ hoàn hảo, nếu đáng sợ, về một trong những vấn đề lớn nhất với AI hiện nay.
- Bot thực sự không hiểu gì cả. Nó chỉ thực sự giỏi trong việc tìm kiếm và lặp lại những gì con người đã viết trực tuyến – và nó không thể phân biệt được sự khác biệt giữa một mẹo hữu ích, một trò đùa châm biếm hay một gợi ý thực sự nguy hiểm.
- Điều nguy hiểm thực sự là nó đặt nội dung này vào ngay giữa cuộc trò chuyện nơi những người thực sự, dễ bị tổn thương đang tìm kiếm sự giúp đỡ và nó trình bày thông tin như thể đó là sự thật.
Moinak Pal/Xu hướng kỹ thuật số
Tại sao tôi nên quan tâm: Vậy tại sao điều này lại quan trọng với bạn? Bởi vì nó cho thấy những công cụ AI này có thể gặp rủi ro như thế nào khi chúng được thả rông mà không có dây buộc, đặc biệt là khi liên quan đến vấn đề nghiêm trọng như sức khỏe của bạn. Ngay cả khi bạn không bao giờ yêu cầu chatbot tư vấn y tế, những đề xuất tồi tệ của nó có thể bắt đầu gây ô nhiễm cộng đồng trực tuyến, khiến bạn khó biết nên tin tưởng ai hoặc điều gì.
Video được đề xuất
Điều gì tiếp theo: Sau khi mọi người (đúng ra) lo lắng, Reddit xác nhận họ sẽ rút bot khỏi mọi cuộc thảo luận liên quan đến sức khỏe. Nhưng họ khá im lặng về việc liệu họ có đặt bất kỳ bộ lọc an toàn thực sự nào lên chính bot hay không. Vì vậy, hiện tại, vấn đề đã được vá, chưa nhất thiết phải được giải quyết.
Nguồn DigitalTrend