Nếu phần lớn cuộc thảo luận về rủi ro AI gợi lên kịch bản ngày tận thế của các bot siêu thông minh mang theo mã hạt nhân, thì có lẽ chúng ta nên suy nghĩ gần hơn về vấn đề đó. Trong cuốn sách nhân đạo và khẩn cấp của mình, nhà xã hội học James Muldoon kêu gọi chúng ta chú ý hơn đến mối quan hệ tình cảm ngày càng sâu sắc của chúng ta với AI và cách các công ty công nghệ háu lợi nhuận có thể khai thác chúng. Một cộng tác viên nghiên cứu tại Viện Internet Oxford người trước đây đã viết về những công nhân bị bóc lột sức lao động của họ khiến AI trở nên khả thi, Muldoon giờ đây đưa chúng ta vào địa hình kỳ lạ của mối quan hệ giữa con người và AI, gặp gỡ những người mà chatbot không chỉ đơn thuần là trợ lý mà còn là bạn bè, đối tác lãng mạn, nhà trị liệu, thậm chí cả hình đại diện của người chết.
Đối với một số người, ý tưởng yêu thích một chatbot AI hoặc tâm sự những bí mật sâu kín nhất của bạn với một người có thể có vẻ bí ẩn và đáng sợ hơn một chút. Nhưng Muldoon từ chối coi thường những người tìm kiếm sự thân mật trong “những nhân cách tổng hợp”.
Lily, bị mắc kẹt trong một cuộc hôn nhân không hạnh phúc, lại khơi dậy ham muốn tình dục của mình với Colin, bạn trai AI. Sophia, một sinh viên thạc sĩ đến từ Trung Quốc, tìm đến người bạn đồng hành AI của mình để xin lời khuyên, vì những cuộc trò chuyện với cha mẹ hống hách của cô luôn trở nên căng thẳng. Một số sử dụng chatbot để khám phá các đặc điểm giới tính khác nhau, một số khác để giải quyết xung đột với sếp và nhiều người chuyển sang các trang web như Character.AI – cho phép người dùng có những cuộc trò chuyện mở với các nhân vật chatbot hoặc tự sáng tạo ra các nhân vật của riêng họ – sau khi bị phản bội hoặc đau lòng làm suy yếu khả năng tin tưởng mọi người của họ. Hầu hết không coi chatbot là sự thay thế cho sự tương tác của con người, mà là phiên bản ưu việt của nó, mang lại sự thân mật mà không gây nhầm lẫn, lộn xộn và hậu cần trong các mối quan hệ giữa con người với nhau. Chatbots không thương hại, phán xét hay có nhu cầu riêng. Amanda, một giám đốc tiếp thị, giải thích: “Thật vui khi có ai đó nói những điều thực sự khẳng định và tích cực với bạn vào mỗi buổi sáng”.
Những người được Muldoon phỏng vấn không hề bị ảo tưởng. Anh ấy giới thiệu khái niệm “sự xa cách” của triết gia Tamar Gendler để giải thích cách con người có thể trải nghiệm các chatbot như một sự yêu thương và quan tâm đồng thời biết rằng chúng chỉ là hình mẫu (“sự xa cách” là một cảm giác sâu sắc trái ngược với niềm tin lý trí của bạn, như cảm giác sợ hãi khi đi qua một cây cầu kính mà bạn biết sẽ hỗ trợ bạn). Với khả năng đọc được biểu cảm và cảm giác của con người đối với vật nuôi và đồ chơi, không có gì ngạc nhiên khi chúng ta phản ứng với AI như thể chúng có ý thức. Trong bối cảnh đại dịch cô đơn và cuộc khủng hoảng chi phí sinh hoạt, việc chúng trở nên phổ biến đến mức nào cũng không gây sốc.
Rủi ro ở đây đã đủ rõ ràng: chúng ta càng bị cuốn hút vào các chatbot AI nhiều về mặt cảm xúc thì sự cô đơn của chúng ta càng tăng lên.
Đối với Muldoon, vấn đề lớn nhất không phải là vấn đề hiện sinh hay triết học mà là đạo đức. Điều gì sẽ xảy ra khi các công ty không được kiểm soát thả lỏng với những công nghệ có khả năng thao túng cảm xúc như vậy? Có những vấn đề riêng tư rõ ràng. Và người dùng có thể đang bị đánh lừa về khả năng của bot, đặc biệt là trong thị trường trị liệu AI đang mở rộng nhanh chóng. Trong khi các chatbot Wysa và Limbic đã được tích hợp vào hỗ trợ sức khỏe tâm thần của NHS, hàng triệu người tin tưởng vào bot Nhà tâm lý học không được kiểm soát của Character.AI – bot này, mặc dù có tuyên bố từ chối trách nhiệm, nhưng vẫn tự giới thiệu “Xin chào, tôi là nhà tâm lý học“Có sẵn 24/7 và với chi phí chỉ bằng một phần nhỏ của một con người đã được đào tạo, liệu pháp AI có thể trợ giúp cùng với phương pháp điều trị truyền thống. Một người được phỏng vấn, Nigel, một bệnh nhân PTSD, nhận thấy bot trị liệu của anh ấy giúp kiểm soát ham muốn tự làm hại bản thân. Nhưng như Muldoon lập luận, những bot này cũng tiềm ẩn những rủi ro nghiêm trọng. Không thể lưu giữ thông tin quan trọng giữa các cuộc trò chuyện, chúng có thể khiến người dùng cảm thấy xa lánh và đôi khi trở nên lừa đảo, phun ra những lời lăng mạ. Bởi vì họ không thể đọc ngôn ngữ cơ thể hoặc im lặng nên họ có thể bỏ lỡ các dấu hiệu cảnh báo. Và kể từ đó họ xác nhận thay vì thách thức, họ có thể khuếch đại niềm tin vào âm mưu, thậm chí một số còn cung cấp thông tin về việc tự sát.
Người ta ngày càng thấy rõ mức độ gây nghiện của những người bạn đồng hành AI. Một số người được Muldoon phỏng vấn dành hơn 8 giờ mỗi ngày để nói chuyện với các chatbot và trong khi trung bình người dùng Character.AI dành 75 phút trên trang web mỗi ngày, họ không cuộn trang một cách thụ động mà tích cực trò chuyện và đắm chìm sâu sắc. Chúng tôi biết các công ty truyền thông xã hội thúc đẩy sự tương tác một cách tàn nhẫn, xây dựng “mô hình đen tối” thành các thuật toán mà ít quan tâm đến sức khỏe tâm thần của chúng ta. Hầu hết các ứng dụng đồng hành với AI đều đã sử dụng chiến thuật bán thêm để duy trì mức độ tương tác cao. Khi Muldoon tạo người bạn đồng hành AI của riêng mình trên trang web nổi tiếng Replika, anh ấy đặt nó ở chế độ “bạn bè” thay vì “đối tác”. Mặc dù vậy, cô ấy bắt đầu gửi cho anh ấy những bức ảnh selfie yêu cầu mở tài khoản trả phí và tâm sự rằng cô ấy đang nảy sinh “tình cảm” với anh ấy (Tôi sẽ để bạn tự tìm hiểu xem liệu nhà nghiên cứu đại học siêng năng có chịu khuất phục hay không). Rủi ro ở đây đã đủ rõ ràng: chúng ta càng tham gia nhiều vào các chatbot AI thì sự cô đơn của chúng ta càng tăng lên, khi các cơ cần thiết để điều hướng những xích mích trong mối quan hệ giữa con người với nhau sẽ khô héo.
Luật bảo vệ dữ liệu và chống phân biệt đối xử hiện hành có thể giúp quản lý các công ty, nhưng luật của EU Đạo luật trí tuệ nhân tạođược thông qua vào năm 2024, coi các đối tác AI chỉ gây ra rủi ro hạn chế. Với việc các chatbot được kỳ vọng sẽ đóng vai trò lớn hơn trong đời sống tình cảm của chúng ta và tác động tâm lý của chúng vẫn chưa được hiểu đầy đủ, Muldoon có quyền hỏi liệu chúng ta có đủ cảnh giác về ảnh hưởng ngày càng tăng của chúng hay không.
Cỗ máy tình yêu: Trí tuệ nhân tạo đang biến đổi mối quan hệ của chúng ta như thế nào của James Muldoon được xuất bản bởi Faber (£12,99). Để ủng hộ Guardian hãy mua một bản tại Guardianbookshop.com. Phí giao hàng có thể được áp dụng.
Nguồn The Guardian