Tính năng Tổng quan về AI của Google được cho là đang hiển thị các mục từ SCP Foundation, một vũ trụ viễn tưởng dành cho người hâm mộ nổi tiếng được xây dựng xung quanh những “dị thường” kinh dị giả mạo, như thể chúng mô tả các sinh vật và sự kiện có thật. chủ nghĩa vị lai đã tìm thấy ít nhất 20 trường hợp trong đó các bản tóm tắt do AI tạo ra đã bỏ qua bất kỳ đề cập nào rằng các mục SCP là hư cấu.
Nhầm lẫn những con quái vật được tạo ra là thật
Một cuộc tìm kiếm “SCP-565” được cho là đã trả về một Tổng quan về AI mô tả một “đầu người dị thường, có thể di chuyển được” di chuyển như một con cua và được gắn với hồ sơ pháp y cũng như danh tính của một người đàn ông đã chết. Bản tóm tắt thậm chí còn hướng người dùng tới một tài liệu SCP “chính thức” để đọc thêm.
Theo Futurism, một cuộc tìm kiếm “SCP-426”, một chiếc máy nướng bánh mì hư cấu được cho là khiến bất kỳ ai đề cập đến nó đều nói về nó ở ngôi thứ nhất, đã tạo ra một phản hồi được viết ở ngôi thứ nhất, với AI mô tả chính nó là chiếc máy nướng bánh mì và nêu chi tiết những vết thương bịa đặt từ những người cố gắng bắt chước nó. Các ví dụ khác được trích dẫn trong báo cáo bao gồm “SCP-922”, được gọi là “Phiên bản khác của sự thật” và “SCP-779”, một loại ký sinh trùng được cho là bắt chước một nàng tiên.
Video được đề xuất
Trong mỗi trường hợp, Tổng quan về AI được cho là coi tài liệu do Tổ chức SCP phát minh là nghiên cứu hợp pháp thay vì gắn cờ nó là hư cấu. Đây không phải là lần đầu tiên các kết quả tìm kiếm do AI cung cấp của Google tự tin đưa ra thông tin sai lệch là sự thật, với những sai sót trong quá khứ, từ sai ngày tháng cho đến các tuyên bố lịch sử bịa đặt.
Không thừa nhận, không từ chối trách nhiệm
Trang web riêng của Tổ chức SCP tuyên bố rõ ràng rằng các mục của nó là hư cấu. Tổng quan về AI của Google hiếm khi lặp lại bối cảnh đó, Futurism lưu ý, đôi khi đề cập đến “truyền thuyết” mà không giải thích điều đó có nghĩa là gì. Chủ nghĩa vị lai đã liên hệ với Google để xin bình luận nhưng không nhận được phản hồi trước khi xuất bản.`
Tôi đã cố gắng tái tạo những phát hiện này, nhưng tìm kiếm “SCP-565” hoàn toàn không trả về Tổng quan về AI và Chế độ AI của Google đã gắn nhãn thực thể này là “sự bất thường hư cấu” thay vì thể hiện nó là có thật. Việc cố gắng tái tạo hành vi này với các nhân vật hư cấu khác trong vũ trụ SCP cũng không có kết quả, cho thấy Google có thể đã giải quyết vấn đề này, ít nhất là đối với một số truy vấn mà Chủ nghĩa vị lai đã gắn cờ. Google trước đây đã tung ra các bản cập nhật nhằm làm cho Tổng quan về AI và Chế độ AI trở nên đáng tin cậy hơn, mặc dù các vấn đề về độ chính xác đôi khi vẫn tiếp tục xuất hiện.
Pranob Mehrotra / Xu hướng kỹ thuật số
Pranob Mehrotra / Xu hướng kỹ thuật số
Mặc dù tôi không thể lặp lại hành vi này, nhưng lỗi vẫn còn nghiêm trọng vì Tổng quan về AI nằm ở đầu nhiều tìm kiếm trên Google và bất kỳ ai không quen thuộc với cộng đồng SCP, kể cả trẻ em, có thể tin rằng những câu chuyện đó là sự thật được ghi lại chứ không phải là tiểu thuyết kinh dị. Nó lặp lại những sai lầm khác trong Tổng quan về AI, bao gồm trường hợp tính năng này khuyến nghị thêm keo không độc hại vào nước sốt pizza, một lời nhắc nhở rằng các câu trả lời sai một cách tự tin vẫn là một rủi ro dai dẳng trong tìm kiếm do AI cung cấp.
Nguồn DigitalTrend