Cái nhìn ban đầu về các biện pháp kiểm soát của phụ huynh trên Instagram đối với việc sử dụng AI của thanh thiếu niên.
Sau khi nhiệt tình triển khai các chatbot AI khắp nơi, Meta đã công bố các lựa chọn mới dành cho phụ huynh để biết cách thanh thiếu niên trò chuyện với các nhân vật kỹ thuật số và đặt ra một số giới hạn khi sử dụng. Động thái này diễn ra khi Meta nỗ lực khôi phục hình ảnh của mình sau những báo cáo đáng lo ngại về tương tác lãng mạn giữa các công cụ của họ với trẻ vị thành niên và phải đối mặt với sự giám sát ngày càng tăng về tác động của chatbot đối với trẻ em.
Các biện pháp kiểm soát mới sẽ cho phép cha mẹ ngăn chặn con cái họ nói chuyện hoàn toàn với các chatbot AI hoặc chặn quyền truy cập vào các nhân vật cụ thể mà chúng không thích, người đứng đầu Instagram Adam Mosseri và giám đốc AI của Meta Alexandr Wang đã viết trong một báo cáo. bài đăng trên blog thông báo những thay đổi vào thứ Sáu. Trợ lý AI của Meta là một ngoại lệ đáng chú ý đối với quy tắc này. Công ty cho biết họ sẽ “vẫn sẵn sàng cung cấp thông tin hữu ích và cơ hội giáo dục” với “các biện pháp bảo vệ phù hợp với lứa tuổi”.
Meta cho biết các bậc cha mẹ cũng sẽ được cung cấp một số dạng “cái nhìn sâu sắc” về cách con họ sử dụng AI, mặc dù chi tiết về điều này có thể trông như thế nào trong thực tế. Theo mô tả của Meta, có vẻ như “thông tin chi tiết” sẽ ở dạng tóm tắt cấp cao về “các chủ đề mà thanh thiếu niên của họ đang trò chuyện với các nhân vật AI” và trợ lý AI của Meta. Công ty cho biết họ hy vọng thông tin này sẽ giúp các bậc cha mẹ “có những cuộc trò chuyện chu đáo với con mình về tương tác AI”.
Mosseri và Wang cho biết họ “hy vọng những cập nhật ngày hôm nay mang lại cho các bậc cha mẹ sự yên tâm rằng con họ có thể tận dụng tối đa tất cả những lợi ích mà AI mang lại”. Tuy nhiên, các bậc cha mẹ sẽ phải chờ thêm một thời gian nữa để có thể yên tâm hơn: các bộ điều khiển sẽ không có sẵn cho đến “đầu năm sau”. Thậm chí sau đó, chúng sẽ bị giới hạn ở Instagram và chỉ dành cho người dùng nói tiếng Anh ở Mỹ, Anh, Canada và Úc. Meta cho biết họ có kế hoạch mở rộng các biện pháp kiểm soát trên các nền tảng của mình trong tương lai và cho biết họ sẽ “sớm chia sẻ nhiều hơn”.
Đây là một trong những cập nhật an toàn lớn đầu tiên mà Meta thực hiện cho các chatbot AI của mình kể từ khi triển khai chúng trên Facebook, Instagram và WhatsApp. Nó xuất hiện ngay sau một bản cập nhật lớn khác chỉ được tung ra trong tuần này nhằm giới hạn nội dung mà tài khoản Instagram dành cho thanh thiếu niên có thể xem, giống như những gì bạn thấy trong một bộ phim PG-13.
Nguồn The Verge