DuckDuckGo đã tạo dựng được danh tiếng của mình nhờ hoạt động tìm kiếm ưu tiên quyền riêng tư, nhưng tuần này, trợ lý AI của nó đã gặp rắc rối vì một lý do hoàn toàn khác. Rõ ràng, Duck.ai tự tin tuyên bố rằng Tổng thống Mỹ Donald Trump đã chết vì bệnh dại vào đầu tháng này, với đầy đủ các chi tiết bịa đặt về Phó Tổng thống JD Vance, Robert F. Kennedy Jr. và các báo cáo tin tức hỗ trợ giả mạo. Không có điều nào trong số đó là sự thật.
Một chiến dịch Reddit giả mạo đã đánh lừa AI của Duck
Theo chủ nghĩa vị laiphản ứng kỳ lạ không phải là kết quả của một ảo giác đơn lẻ. Thay vào đó, nó dường như được kích hoạt bởi một chiến dịch thông tin sai lệch phối hợp bắt nguồn từ cộng đồng r/poisonai của Reddit, nơi người dùng cố tình đăng những câu chuyện giả mạo vô lý được thiết kế để “đầu độc” các mô hình tìm kiếm AI. Trong trường hợp này, các thành viên tràn ngập internet với những tuyên bố bịa đặt rằng JD Vance đã chết vì bệnh dại trước khi Donald Trump được cho là đã chống chọi với căn bệnh tương tự, thậm chí còn tạo ra các bài báo giả mạo và giả mạo các trang web tin tức địa phương để củng cố câu chuyện.
Tìm kiếm AI / Chủ nghĩa tương lai của DuckDuckGo
Duck.ai không phải là nạn nhân duy nhất. Chủ nghĩa tương lai cũng phát hiện ra rằng AI của Brave Search đã lặp lại những tuyên bố sai tương tự trước khi tự sửa lại. Trong khi đó, DuckDuckGo đã thừa nhận sai sót trên Reddit bằng câu trả lời mỉa mai: “Được rồi, chúng tôi đã tránh được điều này.Công ty cho biết vấn đề đã được giải quyết và nói thêm rằng Search Assist đã bị “cố tình lừa”, hứa hẹn những cải tiến để xử lý tốt hơn các cuộc tấn công tương tự trong tương lai.
Bình luận
quau/marketrent từ cuộc thảo luận
TRONGcông nghệ
Báo cáo cũng lưu ý rằng câu chuyện giả mạo đã đạt được độ tin cậy vì tìm kiếm AI đã trích dẫn một trang web bịa đặt đóng giả là một trang tin tức địa phương hợp pháp, bản thân trang này dường như được tạo ra bằng AI và được ghép lại với nhau từ cùng một trò lừa bịp Reddit. Nói cách khác, AI không chỉ đơn giản là bịa ra mọi thứ. Nó tự tin lặp lại những thông tin sai lệch đã được cố tình đưa lên mạng.
Đây không phải là về DuckDuckGo mà là về tương lai của tìm kiếm AI
Điều buồn cười là đây thực sự không phải là vấn đề của DuckDuckGo. Đó là một vấn đề tìm kiếm AI. Các trợ lý AI hiện đại ngày càng dựa vào thông tin được thu thập từ khắp nơi trên web và nếu đủ nội dung giả mạo được xuất bản ở đủ nơi, các hệ thống đó có thể bắt đầu coi hư cấu là sự thật.
Bapt
Đó là lý do khiến sự việc này trở nên đáng lo ngại. Chúng ta đã dành nhiều năm lo lắng về việc AI tạo ra các câu trả lời ảo giác trong không khí, nhưng những nỗ lực phối hợp nhằm đầu độc tìm kiếm AI có thể còn nguy hiểm hơn. Nếu những kẻ xấu có thể thao túng những gì mô hình AI “học” chỉ bằng cách tràn ngập internet với thông tin sai lệch đầy thuyết phục, thì việc cải thiện AI không chỉ là xây dựng các mô hình thông minh hơn nữa. Đó là về việc xây dựng các hệ thống biết ai và cái gì họ nên tin tưởng.
Nguồn DigitalTrend