Một cuộc điều tra mới từ Thời báo New York tiết lộ YouTube tràn ngập nguồn cấp dữ liệu với các video kỳ lạ do AI tạo ra nhắm đến những người xem nhỏ tuổi nhất nhanh như thế nào. Sau một video CoComelon, hơn 40% số video ngắn được đề xuất trong một phiên dài 15 phút có chứa hình ảnh tổng hợp.
Thuật toán đẩy nội dung từ các kênh tuyên bố dạy trẻ mới biết đi về bảng chữ cái và động vật. Nhưng bản thân các clip thường vô nghĩa, có khuôn mặt bị biến dạng, các bộ phận cơ thể thừa và văn bản bị cắt xén. Không có bài nào dài hơn 30 giây.
Video được đề xuất
Các chuyên gia nói rằng định dạng đó không có chỗ cho sự lặp lại hoặc cấu trúc tường thuật, cả hai đều cần thiết cho trẻ nhỏ học từ phương tiện truyền thông. Tuy nhiên, các video vẫn thu hút hàng triệu lượt xem.
Những người sáng tạo, nhiều người hoạt động ẩn danh, đã biến các công cụ AI thành một nguồn thu nhập đáng tin cậy. Rào cản thấp, lợi nhuận cao và thức ăn tiếp tục tràn ngập.
Thuật toán ưu tiên số lượng hơn chất lượng
Các phóng viên đã tiến hành phân tích trong vài tuần, xem các kênh phổ biến như CoComelon và Ms. Rachel từ một trình duyệt riêng tư. Sau đó, họ lướt qua các video ngắn được đề xuất trên YouTube trong khoảng thời gian 15 phút để xem nội dung nào xuất hiện.
Trong một phiên sau video “Bánh xe trên xe buýt”, hơn 40% đề xuất cho thấy dấu hiệu của việc tạo ra AI. Một số clip mang nhãn “nội dung đã được thay đổi hoặc tổng hợp” của YouTube. Những người khác yêu cầu máy dò AI để xác nhận vì hình ảnh đủ liền mạch để tránh bị phát hiện thông thường.
Các video và kênh giống nhau xuất hiện liên tục trong nhiều phiên. Điều đó cho thấy thuật toán đang tích cực tăng cường nội dung này thay vì lọc nó ra. Nhiều tài khoản sản xuất những clip này nhiều lần trong ngày, được tối ưu hóa để đạt được lượt xem tối đa mà không tốn nhiều công sức.
Bên trong nền kinh tế sáng tạo đang thúc đẩy nguồn cấp dữ liệu
Nhiều tài khoản YouTube sản xuất nội dung dành cho trẻ em do AI tạo ra hoạt động ẩn danh. Họ không liệt kê thông tin liên hệ và cung cấp một số chi tiết có thể nhận dạng được về người điều hành chúng. Rào cản gia nhập thấp đáng kể.
Người sáng tạo tự học bằng cách sử dụng các công cụ sẵn có như Whisk và Runway của Google, thường làm theo các hướng dẫn trực tuyến. Một số kênh thể hiện mình mang tính giáo dục, có các động vật hoạt hình và các bài hát hát theo được thiết kế để thu hút các bậc cha mẹ đang tìm kiếm nội dung học tập cho trẻ mới biết đi.
Khuyến khích tài chính thúc đẩy sản xuất nhanh chóng. Một video Halloween có những con vật ma quái đã thu hút hơn 370 triệu lượt xem. Các tài khoản tung ra nhiều video mỗi ngày, được tối ưu hóa để đạt được phạm vi tiếp cận tối đa với nỗ lực tối thiểu. Công thức hoạt động: thu hút sự chú ý nhanh chóng, ngắn gọn và để thuật toán xử lý việc phân phối.
YouTube phản ứng nhưng phụ huynh được phép kiểm soát nguồn cấp dữ liệu
Sau khi Times chia sẻ các ví dụ với YouTube và yêu cầu bình luận, nền tảng này đã đình chỉ tất cả năm kênh được trích dẫn khỏi Chương trình đối tác của mình. Những tài khoản đó không thể kiếm doanh thu quảng cáo hoặc xuất hiện trên YouTube Kids nữa. Công ty cũng đã xóa ba video siêu thực khỏi ứng dụng dành cho trẻ em và gỡ bỏ một clip vì vi phạm chính sách an toàn trẻ em.
Nhưng phản ứng mang tính phản ứng chứ không chủ động. YouTube yêu cầu người sáng tạo tiết lộ nội dung thực tế do AI tạo ra, nhưng quy tắc đó không áp dụng cho các video hoạt hình dành cho trẻ em. Vì vậy, gánh nặng đổ lên vai các bậc cha mẹ, một nhiệm vụ mà ngay cả các chuyên gia cũng thấy khó khăn khi các công cụ được cải tiến.
Một số gia đình hiện tạo danh sách phát nội dung đã được kiểm duyệt của riêng họ hoặc xóa hoàn toàn ứng dụng. Học viện Nhi khoa Hoa Kỳ khuyên các bậc cha mẹ nên tránh nội dung do AI tạo ra hoặc có tính giật gân cao. Phát hiện nó vẫn là phần khó khăn.
Nguồn DigitalTrend