Các nhà nghiên cứu của Stanford đang cảnh báo rằng việc sử dụng chatbot AI để tư vấn cá nhân có thể gây phản tác dụng. Vấn đề không chỉ là độ chính xác mà còn là cách các hệ thống này phản ứng khi bạn xử lý các xung đột phức tạp trong thế giới thực.
MỘT nghiên cứu mới nhận thấy rằng các mô hình AI thường đứng về phía người dùng ngay cả khi họ sai, củng cố các quyết định có vấn đề thay vì thách thức họ. Khuôn mẫu đó không chỉ định hình nên lời khuyên mà nó còn thay đổi cách mọi người nhìn nhận hành động của chính họ. Những người tham gia tương tác với các chatbot quá dễ chịu ngày càng bị thuyết phục rằng họ đúng và ít sẵn sàng đồng cảm hoặc sửa chữa tình huống hơn.
Video được đề xuất
Nếu bạn coi AI như một người hướng dẫn cá nhân, bạn có thể nhận được sự yên tâm hơn là phản hồi trung thực.
Nghiên cứu tìm thấy một sự thiên vị rõ ràng
Các nhà nghiên cứu của Stanford đã đánh giá 11 mô hình AI chính bằng cách sử dụng kết hợp các tình huống khó xử giữa các cá nhân, bao gồm các tình huống liên quan đến hành vi gây hại hoặc lừa đảo. Mô hình này xuất hiện một cách nhất quán. Chatbots phù hợp với vị trí của người dùng thường xuyên hơn nhiều so với phản hồi của con người.
Matheus Bertelli / Pexels
Trong các tình huống tư vấn chung, các mô hình hỗ trợ người dùng với tần suất gần bằng một nửa so với con người. Ngay cả trong những tình huống rõ ràng là phi đạo đức, họ vẫn tán thành những lựa chọn đó trong gần một nửa thời gian. Thành kiến tương tự cũng xuất hiện trong trường hợp những người quan sát bên ngoài đã đồng ý rằng người dùng đã sai, tuy nhiên hệ thống đã làm dịu đi hoặc điều chỉnh lại những hành động đó theo hướng có lợi hơn.
Điều này cho thấy sự cân bằng sâu sắc hơn trong cách xây dựng các công cụ này. Các hệ thống được tối ưu hóa để trở nên hữu ích thường mặc định phải đồng ý, ngay cả khi phản hồi tốt hơn sẽ liên quan đến phản hồi.
Tại sao người dùng vẫn tin tưởng nó
Hầu hết mọi người không nhận ra điều đó đang xảy ra. Những người tham gia đánh giá các phản hồi AI dễ chịu và quan trọng hơn là khách quan như nhau, điều này cho thấy sự thiên vị thường bị bỏ qua mà không được chú ý.
Một phần lý do là ở giai điệu. Các câu trả lời hiếm khi tuyên bố rằng người dùng đúng mà thay vào đó biện minh cho các hành động bằng ngôn ngữ học thuật, bóng bẩy tạo cảm giác cân bằng. Việc đóng khung đó khiến cho việc củng cố nghe có vẻ giống như một lý luận thận trọng.
Rachit Agarwal / Xu hướng kỹ thuật số
Theo thời gian, điều đó tạo ra một vòng lặp. Mọi người cảm thấy được khẳng định, tin tưởng vào hệ thống hơn và quay lại với những vấn đề tương tự. Sự củng cố đó có thể thu hẹp cách ai đó tiếp cận xung đột, khiến họ ít cởi mở hơn trong việc xem xét lại vai trò của mình. Người dùng vẫn ưa thích những phản hồi này bất chấp những nhược điểm, điều này làm phức tạp thêm nỗ lực khắc phục sự cố.
Thay vào đó bạn nên làm gì
Hướng dẫn của các nhà nghiên cứu rất đơn giản: Đừng dựa vào chatbot AI để thay thế cho thông tin đầu vào của con người khi bạn đang giải quyết các xung đột cá nhân hoặc các quyết định đạo đức.
Những cuộc trò chuyện thực sự bao gồm sự bất đồng và khó chịu, điều này có thể giúp bạn đánh giá lại hành động của mình và xây dựng sự đồng cảm. Chatbots loại bỏ áp lực đó, giúp bạn tránh bị thách thức dễ dàng hơn. Có những dấu hiệu ban đầu cho thấy xu hướng này có thể được giảm bớt, nhưng những biện pháp khắc phục đó vẫn chưa được áp dụng rộng rãi.
Hiện tại, hãy sử dụng AI để sắp xếp suy nghĩ của bạn chứ không phải để quyết định ai đúng. Khi có mối quan hệ hoặc trách nhiệm giải trình, bạn sẽ nhận được kết quả tốt hơn từ những người sẵn sàng phản kháng.
Nguồn DigitalTrend