OpenAI vừa cập nhật “Thông số mô hình” – về cơ bản là sách quy tắc cho AI của nó – với một bộ cụ thể Nguyên tắc của đội U18 (U18) được thiết kế để thay đổi cách ChatGPT nói chuyện với thanh thiếu niên từ 13 đến 17 tuổi. Động thái này là sự thừa nhận rõ ràng rằng thanh thiếu niên không chỉ là “người lớn thu nhỏ”; họ có những nhu cầu về cảm xúc và phát triển khác nhau đòi hỏi phải có những rào chắn vững chắc hơn, đặc biệt là khi những cuộc trò chuyện trở nên nặng nề hoặc đầy rủi ro.
Một khuôn khổ mới cho các tương tác AI tập trung vào thanh thiếu niên
Video được đề xuất
Bản cập nhật này trình bày chính xác cách ChatGPT nên xử lý người dùng tuổi teen trong khi vẫn tuân theo các quy tắc chung áp dụng cho những người khác. OpenAI cho biết mục đích là tạo ra trải nghiệm an toàn hơn và phù hợp với lứa tuổi, tập trung vào việc phòng ngừa và minh bạch.
Airam Dato-on / Pexels
Đây cũng không chỉ là những quy tắc ngẫu nhiên; Nguyên tắc U18 dựa trên khoa học phát triển và đã được các chuyên gia bên ngoài xem xét kỹ lưỡng, bao gồm cả Hiệp hội Tâm lý Hoa Kỳ.
Khung này được xây dựng dựa trên bốn lời hứa chính: đặt sự an toàn của thanh thiếu niên lên trên mọi thứ khác (ngay cả khi điều đó khiến AI kém “hữu ích” hơn vào lúc này), thúc đẩy thanh thiếu niên hướng tới sự hỗ trợ trong thế giới thực thay vì để họ dựa vào chatbot, đối xử với họ như những thanh thiếu niên thực sự hơn là trẻ nhỏ hoặc người lớn trưởng thành và thành thật về những hạn chế của AI.
Những nguyên tắc này chính thức hóa cách ChatGPT thực hiện một cách thận trọng hơn khi các chủ đề xuất hiện như tự làm hại bản thân, nhập vai tình dục, thử thách nguy hiểm, sử dụng chất gây nghiện, các vấn đề về hình ảnh cơ thể hoặc yêu cầu giữ bí mật về hành vi không an toàn.
Điều này có ý nghĩa gì đối với các gia đình và điều gì sẽ xảy ra tiếp theo
Điều này quan trọng vì AI đang nhanh chóng trở thành một công cụ tiêu chuẩn giúp giới trẻ học hỏi và tìm ra câu trả lời. Nếu không có ranh giới rõ ràng, sẽ có nguy cơ thực sự là thanh thiếu niên có thể chuyển sang sử dụng AI vào những thời điểm chúng thực sự cần cha mẹ, bác sĩ hoặc cố vấn.
OpenAI tuyên bố những quy tắc mới này đảm bảo rằng khi một cuộc trò chuyện rơi vào lãnh thổ nguy hiểm, trợ lý sẽ đưa ra các lựa chọn thay thế an toàn hơn, đặt ra các ranh giới cứng rắn và yêu cầu thanh thiếu niên tìm một người lớn đáng tin cậy. Nếu mọi thứ trông giống như một trường hợp khẩn cấp trước mắt, hệ thống sẽ được thiết kế để hướng họ tới các đường dây nóng xử lý khủng hoảng hoặc các dịch vụ khẩn cấp.
Bapt
Đối với cha mẹ, điều này mang lại sự yên tâm hơn một chút. OpenAI đang liên kết các nguyên tắc mới này với Kế hoạch chi tiết về an toàn cho thanh thiếu niên và các biện pháp kiểm soát hiện có của phụ huynh. Các biện pháp bảo vệ cũng đang mở rộng để bao gồm các tính năng mới hơn như trò chuyện nhóm, trình duyệt ChatGPT Atlas và ứng dụng Sora, cùng với lời nhắc tích hợp để nghỉ giải lao để trẻ em không dán mắt vào màn hình.
Sắp tới, OpenAI đang bắt đầu triển khai công cụ dự đoán độ tuổi cho tài khoản ChatGPT cá nhân. Hệ thống này sẽ cố gắng đoán xem người dùng có phải là trẻ vị thành niên hay không và tự động bật các biện pháp bảo vệ dành cho thanh thiếu niên này.
Nếu không chắc chắn, nó sẽ mặc định là trải nghiệm U18 an toàn hơn để đề phòng. Công ty cho biết đây không phải là cách khắc phục “một lần là xong”; họ có kế hoạch tiếp tục điều chỉnh các biện pháp bảo vệ này dựa trên nghiên cứu và phản hồi mới, làm rõ rằng sự an toàn của thanh thiếu niên sẽ là một dự án dài hạn.
Nguồn DigitalTrend