TikTok đã dành nhiều năm để hoàn thiện nghệ thuật biết chính xác nội dung bạn muốn xem tiếp theo. Mở ứng dụng, cuộn vài lần và đột nhiên nó cung cấp các video có cảm giác phù hợp một cách kỳ lạ với sở thích của bạn. Nhưng điều gì sẽ xảy ra trước khi TikTok biết bạn là ai? Theo nghiên cứu mới từ nền tảng chỉnh sửa video Kapwing, câu trả lời là AI ngày càng kém cỏi.
Nghiên cứu cho thấy gần 60% video hiển thị cho tài khoản TikTok hoàn toàn mới là nội dung do AI tạo ra có chất lượng thấp. Đó không phải là một vấn đề thích hợp bị chôn vùi trong những góc khuất của nền tảng. Đó là ấn tượng đầu tiên mà TikTok tạo ra đối với người dùng mới trước khi thuật toán bắt đầu cá nhân hóa nguồn cấp dữ liệu của họ. Và nếu điều đó nghe có vẻ đáng lo ngại thì những phát hiện xung quanh nội dung dành cho trẻ em thậm chí còn khó bỏ qua hơn.
Kỷ nguyên đồ ăn vặt của thuật toán
Công cụ đề xuất của TikTok được thiết kế để thích ứng nhanh chóng. Nền tảng này xem xét mọi thứ từ lượt thích và lượt theo dõi đến thời gian xem và thói quen cuộn trước khi quyết định nội dung sẽ hiển thị cho bạn tiếp theo. Để hiểu trải nghiệm TikTok nguyên bản trông như thế nào, các nhà nghiên cứu đã tạo một tài khoản mới và kiểm tra 500 video đầu tiên được phân phối trên trang Dành cho bạn. Kết quả thật đáng kinh ngạc: 294 video trong số đó được phân loại là sai sót về AI. Điều đó có nghĩa là người dùng mới có nhiều khả năng gặp phải nội dung rác do AI tạo ra hơn là nội dung do con người tạo ra trước khi TikTok có bất kỳ dữ liệu có ý nghĩa nào về sở thích của họ.
TikTok Unsplash
Có lẽ điều đáng nói hơn nữa là cách TikTok so sánh với các nền tảng khác. Kapwing trước đây đã thực hiện một thử nghiệm tương tự trên YouTube Shorts và nhận thấy ít sự lộn xộn hơn do AI tạo ra. TikTok không chỉ tệ hơn mà còn tệ hơn rất nhiều. Tại thời điểm này, nội dung AI không chỉ đơn thuần là lẻn vào nền tảng. Nó đang trở thành một phần thẩm mỹ mặc định của nền tảng. Và đó có thể là câu chuyện có thật ở đây. Đối với nhiều người dùng, đặc biệt là những người trẻ tuổi, các video do AI tạo ra không còn là điều xa lạ nữa. Họ đang trở nên bình thường.
Đường Sesame gặp thung lũng kỳ lạ
Phần đáng báo động nhất của báo cáo tập trung vào nội dung hướng tới trẻ em. Các nhà nghiên cứu nhận thấy rằng hơn một nửa số video trong danh mục Trẻ em của TikTok đủ tiêu chuẩn là “cẩu thả” do AI tạo ra. Đặc biệt, một thẻ bắt đầu bằng #, #CartoonKids, gần như đã bị tài liệu do AI tạo ra vượt qua hoàn toàn, chỉ có một số ít video dường như được tạo ra bởi con người. Bất cứ ai tình cờ xem được những video này sẽ nhận ra công thức ngay lập tức — các nhân vật hoạt hình quen thuộc xuất hiện trong những tình huống kỳ quái, các bài học mang tính giáo dục đầy rẫy những sai sót, các nhân vật nói với giọng tổng hợp đáng lo ngại, hoạt ảnh thay đổi và biến hình theo những cách vô nghĩa.
Video được đề xuất
Nội dung thoạt nhìn thường giống chương trình dành cho trẻ em nhưng khi bạn chú ý sẽ thấy rời rạc. Đó là điều khiến nó gặp rắc rối. Trẻ nhỏ không được trang bị để phân biệt giữa nội dung giáo dục chất lượng cao và nội dung bắt chước do AI tạo ra để tự tin trình bày thông tin không chính xác. Một bài học đếm sai số có vẻ buồn cười đối với người lớn, nhưng trẻ mẫu giáo thì không gặp hoàn cảnh tương tự. Internet luôn có nội dung đáng nghi ngờ đối với trẻ em. Những gì đã thay đổi là quy mô. AI sáng tạo cho phép tạo ra các luồng video vô tận với tốc độ mà không một nhà sáng tạo con người nào có thể sánh kịp. Và hệ thống đề xuất của TikTok dường như sẵn sàng phân phối chúng hơn.
TikTok
Vấn đề còn vượt ra ngoài nội dung dành cho trẻ em. Nghiên cứu cho thấy các video về giáo dục, khoa học, y tế và lịch sử nằm trong số những danh mục bị ảnh hưởng nặng nề nhất bởi sự trục trặc của AI. Điều đó đặc biệt đáng tiếc vì đây chính xác là những chủ đề mà độ chính xác quan trọng nhất. Một tiểu phẩm hài được dàn dựng kém có thể dễ dàng bị lướt qua. Một bài học lịch sử chứa đầy những chi tiết bịa đặt hoặc một video về sức khỏe trình bày những lời khuyên sai lệch lại là một câu chuyện hoàn toàn khác. Công bằng mà nói, không phải người sáng tạo nào sử dụng AI đều tạo ra rác thải. Một số người sáng tạo đang thử nghiệm người thuyết trình và hình ảnh do AI tạo ra để làm cho các chủ đề giáo dục trở nên hấp dẫn hơn. Trong trường hợp tốt nhất, AI hoạt động như một công cụ hỗ trợ công việc của người sáng tạo thay vì thay thế nó. Nhưng báo cáo nhấn mạnh một thực tế ngày càng tăng trên các phương tiện truyền thông xã hội: các ưu đãi thường khuyến khích số lượng hơn chất lượng. Nếu người sáng tạo có thể tạo ra hàng chục video trong khoảng thời gian cần thiết để tạo một video thì các nền tảng sẽ tràn ngập nội dung có thể xem được về mặt kỹ thuật nhưng cung cấp rất ít nội dung.
TikTok dường như nhận thức được rằng người dùng ngày càng mệt mỏi với nó. Công ty đã giới thiệu các biện pháp kiểm soát cho phép người dùng giảm lượng nội dung do AI tạo ra mà họ nhìn thấy và đã đầu tư vào các sáng kiến nâng cao kiến thức về AI. Tuy nhiên, nghiên cứu cho thấy những nỗ lực đó có thể đang gặp khó khăn trong việc theo kịp lũ lụt. Điều trớ trêu là mạng xã hội trở nên phổ biến vì nó mang đến những điều đặc trưng của con người: sự sáng tạo, cá tính, chuyên môn và sự kết nối. AI có thể bắt chước tất cả những điều đó một cách đáng ngạc nhiên. Nhưng sự bắt chước không giống như sự chân thực. Khi gần sáu trong số mười video mà người dùng mới xem là do AI tạo ra, câu hỏi đặt ra không còn là liệu sự thiếu sót của AI có tồn tại trên TikTok hay không. Câu hỏi đặt ra là liệu nó có trở thành một tính năng xác định của nền tảng hay không. Và đối với thế hệ trẻ em lớn lên với những nguồn thức ăn này, câu trả lời đó quan trọng hơn bao giờ hết.
Nguồn DigitalTrend