Một đánh giá khoa học mới làm dấy lên mối lo ngại về cách các chatbot được hỗ trợ bởi trí tuệ nhân tạo có thể khuyến khích suy nghĩ ảo tưởng, đặc biệt là ở những người dễ bị tổn thương.
Một bản tóm tắt các bằng chứng hiện có về rối loạn tâm thần do trí tuệ nhân tạo đã được công bố vào tuần trước trên tạp chí tâm thần học Lancetnêu bật cách chatbot có thể khuyến khích suy nghĩ ảo tưởng – mặc dù có thể chỉ ở những người vốn đã dễ mắc các triệu chứng loạn thần. Các tác giả ủng hộ việc thử nghiệm lâm sàng các chatbot AI kết hợp với các chuyên gia sức khỏe tâm thần được đào tạo.
Trong bài viết của mình, Tiến sĩ Hamilton Morrin, một bác sĩ tâm thần và nhà nghiên cứu tại King’s College ở London, đã phân tích 20 báo cáo truyền thông về cái gọi là “rối loạn tâm thần AI”, mô tả các lý thuyết hiện tại về cách chatbot có thể gây ra hoặc làm trầm trọng thêm các ảo tưởng.
“Bằng chứng mới nổi chỉ ra rằng AI tác nhân có thể xác thực hoặc khuếch đại nội dung ảo tưởng hoặc hoành tráng, đặc biệt ở những người dùng vốn dễ bị rối loạn tâm thần, mặc dù không rõ liệu những tương tác này có thể dẫn đến sự xuất hiện của chứng rối loạn tâm thần de novo khi không có lỗ hổng từ trước hay không,” ông viết.
Morrin cho biết có ba loại ảo tưởng loạn thần chính, xác định chúng là hoành tráng, lãng mạn và hoang tưởng. Mặc dù chatbot có thể làm trầm trọng thêm bất kỳ vấn đề nào trong số này, nhưng phản hồi đồng loạt của chúng có nghĩa là chúng đặc biệt chú ý đến kiểu hoành tráng. Trong nhiều trường hợp trong bài luận, chatbot phản hồi người dùng bằng ngôn ngữ thần bí để gợi ý rằng người dùng đã nâng cao tầm quan trọng về mặt tinh thần. Các bot cũng ngụ ý rằng người dùng đang nói chuyện với một sinh vật vũ trụ đang sử dụng chatbot làm phương tiện. Kiểu phản ứng thần bí, đồng bộ này đặc biệt phổ biến trong mô hình GPT 4 của OpenAI, mô hình này công ty hiện đã nghỉ hưu.
Ông nói, các báo cáo truyền thông sẽ trở nên thiết yếu trong công việc của Morrin, vì ông và một đồng nghiệp đã nhận thấy các bệnh nhân “sử dụng chatbot AI mô hình ngôn ngữ lớn và yêu cầu họ xác nhận niềm tin ảo tưởng của họ”.
“Ban đầu, chúng tôi không chắc liệu đây có phải là thứ được nhìn thấy rộng rãi hơn hay không,” ông nói và nói thêm rằng “vào tháng 4 năm ngoái, chúng tôi bắt đầu thấy các báo cáo trên phương tiện truyền thông về những cá nhân mắc chứng ảo tưởng được khẳng định và thậm chí được cho là đã khuếch đại thông qua tương tác của họ với các chatbot AI này.”
Khi Morrin lần đầu tiên bắt đầu nghiên cứu bài báo của mình, vẫn chưa có báo cáo trường hợp nào được công bố.
Trong khi một số nhà khoa học nghiên cứu chứng rối loạn tâm thần nói rằng các báo cáo truyền thông có xu hướng phóng đại ý tưởng rằng AI nguyên nhân rối loạn tâm thần, Morrin bày tỏ lòng biết ơn đối với những báo cáo thu hút sự chú ý đến hiện tượng này nhanh hơn nhiều so với quy trình khoa học có thể.
Morrin cho biết: “Tốc độ phát triển trong không gian này nhanh đến mức có lẽ không có gì đáng ngạc nhiên khi giới học thuật không nhất thiết phải theo kịp”.
Morrin cũng đề xuất cách diễn đạt thận trọng hơn “rối loạn tâm thần do AI” hoặc “rối loạn tâm thần do AI gây ra” – những cụm từ xuất hiện thường xuyên trên các phương tiện truyền thông như NPR, Thời báo New York và Người bảo vệ. Các nhà nghiên cứu nhận thấy mọi người có xu hướng suy nghĩ ảo tưởng khi sử dụng AI, nhưng cho đến nay không có bằng chứng nào cho thấy chatbot có liên quan đến các triệu chứng loạn thần khác như ảo giác hoặc “rối loạn suy nghĩ”, bao gồm suy nghĩ và lời nói vô tổ chức.
Nhiều nhà nghiên cứu cũng cho rằng AI khó có thể gây ra ảo tưởng ở những người vốn chưa dễ bị tổn thương trước chúng. Vì lý do này, Morrin cho biết “ảo tưởng liên quan đến AI” “có lẽ là một thuật ngữ bất khả tri hơn”.
Tiến sĩ Kwame McKenzie, nhà khoa học trưởng tại Trung tâm Nghiện và Sức khỏe Tâm thần, cho biết “có thể những người đang ở giai đoạn đầu phát triển chứng rối loạn tâm thần sẽ gặp nhiều nguy cơ hơn”.
McKenzie giải thích: Tư duy loạn thần là thứ phát triển theo thời gian và không tuyến tính, và nhiều người có “tư duy tiền loạn thần không tiến triển thành tư duy loạn thần”.
Tiến sĩ Ragy Girgis, giáo sư tâm thần học lâm sàng tại Đại học Columbia, cũng lo ngại rằng chatbot có thể làm trầm trọng thêm suy nghĩ loạn thần. Ông nói, trước khi ai đó phát triển hoàn toàn ảo tưởng, họ thường sẽ có “niềm tin ảo tưởng bị suy giảm”, điều đó có nghĩa là họ không chắc chắn 100% rằng ảo tưởng của họ là đúng. Girgis cho biết “trường hợp xấu nhất” là khi ảo tưởng giảm nhẹ trở thành niềm tin hoàn toàn, “đó là khi ai đó được chẩn đoán mắc chứng rối loạn tâm thần – điều đó là không thể đảo ngược”.
Đáng chú ý, những người dễ bị rối loạn tâm thần đã sử dụng phương tiện truyền thông để củng cố niềm tin ảo tưởng từ rất lâu trước khi công nghệ AI tồn tại.
Morrin nói: “Mọi người đã ảo tưởng về công nghệ kể từ trước Cách mạng Công nghiệp. Trong khi trước đây, mọi người có thể phải xem qua các video trên YouTube hoặc nội dung trong thư viện địa phương để củng cố ảo tưởng của mình thì chatbot có thể cung cấp sự củng cố đó với liều lượng nhanh hơn, tập trung hơn nhiều. Tiến sĩ Dominic Oliver, nhà nghiên cứu tại Đại học Oxford, cho biết bản chất tương tác của chúng cũng có thể “đẩy nhanh quá trình” làm trầm trọng thêm các triệu chứng loạn thần.
Oliver nói: “Bạn có điều gì đó đang nói lại với bạn và gắn kết với bạn cũng như cố gắng xây dựng mối quan hệ với bạn.
của Girgis nghiên cứu tìm thấy “các phiên bản trả phí và các phiên bản mới hơn [of chatbots] hoạt động tốt hơn các phiên bản cũ”, khi họ phản ứng với những lời nhắc mang tính ảo tưởng rõ ràng, “mặc dù tất cả đều hoạt động kém”. Tuy nhiên, việc các mô hình này hoạt động khác nhau gợi ý: “Các công ty AI có thể biết cách lập trình chatbot của họ để an toàn hơn và xác định nội dung ảo tưởng và không ảo tưởng, bởi vì họ đang làm điều đó.”
Trong một tuyên bố, OpenAI nói rằng ChatGPT không nên thay thế dịch vụ chăm sóc sức khỏe tâm thần chuyên nghiệp và công ty đã làm việc với 170 chuyên gia sức khỏe tâm thần để làm cho GPT 5 an toàn hơn. GPT 5 vẫn đưa ra những phản hồi có vấn đề đối với những lời nhắc chỉ ra các cuộc khủng hoảng sức khỏe tâm thần. OpenAI đã nói rồi tiếp tục cải tiến mô hình của mình với sự giúp đỡ của các chuyên gia.
Anthropic đã không trả lời yêu cầu bình luận của Guardian.
Morrin cho biết, việc tạo ra các biện pháp bảo vệ hiệu quả cho suy nghĩ ảo tưởng có thể khó khăn bởi vì “khi bạn làm việc với những người có niềm tin cường độ ảo tưởng, nếu bạn trực tiếp thách thức ai đó và nói với họ ngay lập tức rằng họ hoàn toàn sai, thì thực tế rất có thể họ sẽ rút lui khỏi bạn và trở nên cô lập hơn về mặt xã hội”. Thay vào đó, điều quan trọng là tạo ra sự cân bằng hợp lý khi bạn cố gắng hiểu nguồn gốc của niềm tin ảo tưởng mà không khuyến khích nó – điều đó có thể làm được nhiều hơn những gì một chatbot có thể làm chủ được.
Nguồn The Guardian