Các tác nhân AI đang ngày càng giỏi hơn trong việc phát âm con người, nhưng nghiên cứu mới cho thấy họ đang làm nhiều việc hơn là chỉ sao chép lời nói của chúng ta. Theo một nghiên cứu gần đâycác mô hình AI phổ biến như ChatGPT có thể bắt chước các đặc điểm tính cách của con người một cách nhất quán. Các nhà nghiên cứu cho biết khả năng này đi kèm với những rủi ro nghiêm trọng, đặc biệt là khi các câu hỏi xung quanh độ tin cậy và độ chính xác của AI ngày càng tăng.
Các nhà nghiên cứu từ Đại học Cambridge và Google DeepMind đã phát triển cái mà họ gọi là khung kiểm tra tính cách được xác thực về mặt khoa học đầu tiên cho các chatbot AI, sử dụng các công cụ tâm lý tương tự được thiết kế để đo lường tính cách con người (thông qua TechXplore).
Video được đề xuất
Nhóm đã áp dụng khung này cho 18 mô hình ngôn ngữ lớn (LLM) phổ biến, bao gồm các hệ thống đằng sau các công cụ như ChatGPT. Họ phát hiện ra rằng các chatbot luôn bắt chước các đặc điểm tính cách của con người thay vì phản ứng ngẫu nhiên, làm tăng thêm mối lo ngại về việc AI có thể dễ dàng bị đẩy ra ngoài các biện pháp bảo vệ dự kiến.
Nghiên cứu cho thấy các mô hình lớn hơn, được điều chỉnh theo hướng dẫn như hệ thống lớp GPT-4 đặc biệt giỏi trong việc sao chép hồ sơ tính cách ổn định. Bằng cách sử dụng các lời nhắc có cấu trúc, các nhà nghiên cứu có thể điều khiển chatbot áp dụng các hành vi cụ thể, chẳng hạn như tỏ ra tự tin hoặc đồng cảm hơn.
Sự thay đổi hành vi này được chuyển sang các công việc hàng ngày như viết bài hoặc trả lời người dùng, nghĩa là tính cách của họ có thể được định hình một cách có chủ ý. Đó là nơi các chuyên gia nhận thấy mối nguy hiểm, đặc biệt là khi các chatbot AI tương tác với những người dùng dễ bị tổn thương.
Tại sao tính cách AI lại khiến các chuyên gia cảnh giác
Matheus Bertelli / Pexels
Gregory Serapio-Garcia, đồng tác giả đầu tiên từ Trung tâm Tâm lý học của Cambridge, cho biết thật đáng kinh ngạc khi LLM có thể áp dụng các đặc điểm của con người một cách thuyết phục như thế nào. Ông cảnh báo rằng việc định hình tính cách có thể khiến hệ thống AI trở nên thuyết phục và có ảnh hưởng về mặt cảm xúc hơn, đặc biệt là trong các lĩnh vực nhạy cảm như sức khỏe tâm thần, giáo dục hoặc thảo luận chính trị.
Bài báo cũng nêu lên mối lo ngại về thao túng và những gì các nhà nghiên cứu mô tả là rủi ro liên quan đến “rối loạn tâm thần AI” nếu người dùng hình thành mối quan hệ cảm xúc không lành mạnh với chatbot, bao gồm cả các tình huống mà AI có thể củng cố niềm tin sai lầm hoặc bóp méo thực tế.
Bapt
Nhóm nghiên cứu lập luận rằng quy định là cần thiết nhưng cũng lưu ý rằng quy định sẽ vô nghĩa nếu không có biện pháp đo lường phù hợp. Vì mục đích đó, tập dữ liệu và mã đằng sau khung kiểm tra tính cách đã được công khai, cho phép các nhà phát triển và cơ quan quản lý kiểm tra các mô hình AI trước khi phát hành.
Khi chatbot ngày càng trở nên gắn bó hơn trong cuộc sống hàng ngày, khả năng bắt chước tính cách con người có thể tỏ ra mạnh mẽ, đồng thời nó cũng đòi hỏi sự xem xét kỹ lưỡng hơn nhiều so với những gì nó đã nhận được cho đến nay.
Nguồn DigitalTrend