Một cặp nhà nghiên cứu của Wharton đã đặt tên cho một điều mà nhiều người dùng AI đã âm thầm bắt đầu thực hiện: để chatbot đưa ra quyết định thay họ. Steven Shaw và Gideon Nave đã công bố một nghiên cứu vào tháng Giêng có tiêu đề “Suy nghĩ, nhanh, chậm và giả tạo,” trong đó họ giới thiệu thuật ngữ “đầu hàng nhận thức” để mô tả xu hướng mọi người trì hoãn các kết quả đầu ra của AI ngay cả khi những kết quả đầu ra đó sai.
Nghiên cứu được thực hiện thông qua Trường Wharton thuộc Đại học Pennsylvania, yêu cầu người tham gia trả lời các câu hỏi có và không có sự hỗ trợ của AI. Những người nhận được sự trợ giúp của AI đã chấp nhận câu trả lời đúng trong 93% trường hợp, điều này không có gì đáng ngạc nhiên. Điều thu hút sự chú ý của các nhà nghiên cứu là tỷ lệ lỗi: những người tham gia chấp nhận câu trả lời sai của AI trong 80% thời gian và báo cáo mức độ tin cậy cao hơn 11,7% so với những người làm việc không có AI.
Kết quả đến từ các điều kiện thử nghiệm được kiểm soát, không phải từ việc sử dụng trong thế giới thực, nhưng mô hình nhất quán trên toàn bộ mẫu.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Shaw và Nave đề xuất cái mà họ gọi là “Lý thuyết ba hệ thống,” thêm một “Hệ thống 3” theo khuôn khổ nổi tiếng của Daniel Kahneman“Suy nghĩ, nhanh và chậm.” Trong mô hình của họ, Hệ thống 1 là trực giác nhanh, Hệ thống 2 là sự cân nhắc chậm và Hệ thống 3 là nhận thức được hỗ trợ bởi AI, một chế độ trong đó tâm trí con người giao công việc suy nghĩ một cách hiệu quả cho máy móc. Họ lập luận rằng rủi ro là Hệ thống 3 dần dần làm suy yếu Hệ thống 1 và 2 do không được sử dụng.
Hiện tượng này không chỉ giới hạn ở các thí nghiệm học thuật. Business Insider đưa tin rằng Carolyn Yoo, cựu kỹ sư phần mềm ở New York, đã sử dụng chatbot Claude của Anthropic để giúp quyết định xem có nên nghỉ việc hay không, cách nói với bố mẹ cô ấy và phải làm gì với một người bạn đã khiến cô ấy buồn. Cô nói với ấn phẩm rằng cô coi chatbot như một sự kết hợp giữa nhà trị liệu và huấn luyện viên cuộc sống.
Business Insider cũng trích dẫn Dominic Frisby, một nhà văn tài chính, người đã viết trên Substack rằng anh ấy đã hỏi một chatbot AI để xin lời khuyên về mối quan hệ và nhận thấy câu trả lời hữu ích hơn bất cứ điều gì mà một người bạn con người đã đưa ra.
Hiện nay đã có một sản phẩm thương mại được xây dựng dựa trên sự thúc đẩy chính xác này. Moot, một ứng dụng ra mắt đầu năm nay, cho phép người dùng gửi các quyết định trong cuộc sống tới một nhóm gồm năm nhân vật AI có tên là The General, The Sage, The Skeptic, The Diplomat và The Architect. Các cá nhân tranh luận về câu hỏi với nhau và sau đó bỏ phiếu, đưa ra khuyến nghị.
Theo danh sách của ứng dụng trên Apple App Store và Google Play, nó được thiết kế dành cho những người cảm thấy bế tắc trước những lựa chọn hàng ngày, từ việc chuyển đổi nghề nghiệp đến các câu hỏi về mối quan hệ. Những tuyên bố của ứng dụng về tính hiệu quả của nó đến từ chính công ty và chưa được đánh giá độc lập.
Cornelia C. Walther, thành viên cấp cao tại Sáng kiến phân tích và AI của Wharton, nói với Business Insider rằng tính đồng thuận của AI, xu hướng các chatbot đồng ý với người dùng thay vì thách thức họ, đang làm phức tạp thêm vấn đề. Khi một chatbot xác thực mọi bản năng mà người dùng mang đến cho nó, vòng phản hồi thường buộc người dùng phải xem xét lại sẽ biến mất.
Walther, người nghiên cứu các ứng dụng AI hỗ trợ xã hội, đã mô tả một mô hình phù hợp với sự bất an của công chúng rộng rãi hơn về tác động xã hội của AI.
Nghiên cứu riêng biệt hỗ trợ mối quan tâm. Anat Perry, thành viên Helen Putnam tại Viện Radcliffe của Harvard và phó giáo sư tâm lý học tại Đại học Do Thái ở Jerusalem, đồng tác giả một bài báo trên tạp chí Khoa học xem xét cách các phản ứng đồng bộ của AI làm xói mòn khả năng điều chỉnh phán đoán của chính họ của người dùng. Bài báo nhận thấy rằng khi hệ thống AI liên tục khẳng định vị trí của người dùng, khả năng đánh giá độc lập của người dùng sẽ giảm dần theo thời gian.
Joanna Stern, nhà phân tích công nghệ chính của NBC và là tác giả cuốn sách “Tôi không phải là robot: Năm của tôi sử dụng AI để làm (hầu hết) mọi thứ,” đã ghi lại sự gia tăng của sự phụ thuộc vào AI trong cuộc sống hàng ngày. Báo cáo của cô đã cho thấy cách người dùng bắt đầu với các truy vấn có mức độ đặt cược thấp, chẳng hạn như nấu gì cho bữa tối hoặc mặc gì, và dần dần leo thang đến các quyết định mang tính hệ quả về sự nghiệp, tài chính và các mối quan hệ. Quỹ đạo từ tiện lợi đến phụ thuộc rất khó đảo ngược một khi đã được thiết lập.
Nghiên cứu của Wharton coi việc đầu hàng nhận thức là một rủi ro mang tính cấu trúc chứ không chỉ là một thói quen xấu quan trọng vì nó chuyển cuộc trò chuyện từ kỷ luật cá nhân sang thiết kế hệ thống. Nếu các công cụ AI được xây dựng để có thể sử dụng thoải mái và dễ dàng ở mức tối đa, thì sự đầu hàng về mặt nhận thức mà Shaw và Nave mô tả không phải là sự thất bại về ý chí mà là kết quả có thể dự đoán được của kiến trúc sản phẩm.
Báo cáo Chỉ số AI năm 2026 của Stanford đã tìm thấy khoảng cách ngày càng lớn giữa sự lo lắng của công chúng về AI và sự lạc quan của chuyên gia, cho thấy rằng người dùng bình thường cảm nhận được điều gì đó mà những người xây dựng hệ thống này đã chậm thừa nhận hơn. Câu hỏi đặt ra là liệu ngành này sẽ coi sự đầu hàng về mặt nhận thức như một lỗi thiết kế đáng để sửa chữa hay như một thước đo mức độ tương tác đáng để tối ưu hóa.
Khuyến nghị của Shaw và Nave rất đơn giản: Hệ thống AI nên được thiết kế để nhắc nhở người dùng suy nghĩ chứ không phải suy nghĩ hộ họ. Liệu đề xuất đó có tồn tại khi tiếp xúc với các cấu trúc khuyến khích của AI dành cho người tiêu dùng hay không, trong đó tính dễ sử dụng và khả năng lưu giữ là những thước đo quan trọng hay không, lại hoàn toàn là một câu hỏi khác.
Nguồn The Next Web