Chuyện gì đã xảy ra vậy? OpenAI đã thực hiện những thay đổi về cách ChatGPT xử lý các cuộc trò chuyện tế nhị khi mọi người sử dụng nó để được hỗ trợ về mặt tinh thần. Công ty có đã cập nhật thông số mẫu của nó và mô hình mặc định, GPT-5, để phản ánh cách ChatGPT xử lý các cuộc trò chuyện nhạy cảm liên quan đến rối loạn tâm thần/hưng cảm, tự làm hại bản thân và tự tử cũng như sự phụ thuộc về mặt cảm xúc vào trợ lý.
Điều này quan trọng vì: Sự phụ thuộc vào cảm xúc do AI điều khiển là có thật, trong đó người dùng hình thành các tệp đính kèm một chiều với chatbot.
- OpenAI ước tính rằng khoảng 0,15% người dùng hoạt động hàng tuần có dấu hiệu gắn bó tình cảm với mô hình và 0,03% tin nhắn chỉ ra rủi ro tương tự.
- Con số 0,15% tương tự đó áp dụng cho các cuộc trò chuyện cho thấy kế hoạch hoặc ý định tự sát, trong khi 0,05% tin nhắn thể hiện ý định tự tử.
- Được mở rộng dựa trên cơ sở người dùng khổng lồ của ChatGPT, hơn một triệu người đang hình thành mối quan hệ tình cảm với AI.
- OpenAI báo cáo những cải tiến lớn sau khi cập nhật. Những phản hồi không mong muốn trong các lĩnh vực này đã giảm 65–80% và kết quả tồi tệ liên quan đến sự phụ thuộc vào cảm xúc đã giảm khoảng 80%.
Nadeem Sarwar / Xu hướng kỹ thuật số
Nó đang được cải thiện như thế nào: Phiên bản cập nhật giới thiệu các quy tắc mới về an toàn sức khỏe tâm thần và các mối quan hệ trong thế giới thực, đảm bảo AI phản hồi một cách nhân ái mà không cần giả vờ là nhà trị liệu hoặc bạn bè.
- OpenAI đã làm việc với hơn 170 chuyên gia sức khỏe tâm thần để định hình lại hành vi của mô hình, bổ sung công cụ an toàn và mở rộng hướng dẫn.
- GPT-5 hiện có thể phát hiện các dấu hiệu hưng cảm, ảo tưởng hoặc ý định tự tử và phản hồi một cách an toàn bằng cách thừa nhận cảm xúc trong khi nhẹ nhàng hướng dẫn người dùng đến trợ giúp trong thế giới thực.
- Quy tắc mới đảm bảo ChatGPT không hoạt động như một người bạn đồng hành hoặc khuyến khích sự phụ thuộc về mặt cảm xúc; thay vào đó nó củng cố sự kết nối giữa con người với nhau.
- Mô hình hiện có thể ưu tiên các công cụ đáng tin cậy hoặc tài nguyên của chuyên gia khi chúng phù hợp với sự an toàn của người dùng.
Nadeem Sarwar / Xu hướng kỹ thuật số
Tại sao tôi nên quan tâm? Các câu hỏi về cảm xúc và đạo đức không chỉ liên quan đến việc người lớn hình thành sự gắn bó với chatbot; họ cũng đề cập đến cách AI tương tác với những đứa trẻ có thể chưa hiểu đầy đủ về tác động của nó.
- Nếu bạn đã từng tâm sự với ChatGPT trong một bản vá khó khăn, thì bản cập nhật này nhằm đảm bảo sự an toàn về mặt cảm xúc của bạn.
- Giờ đây, ChatGPT sẽ hòa hợp hơn với các tín hiệu cảm xúc và giúp người dùng tìm thấy sự trợ giúp trong thế giới thực thay vì thay thế nó.
Nguồn DigitalTrend