Ứng dụng AI độc lập của Meta được cho là đang tràn ngập các nội dung dụ nhấp chuột chất lượng thấp, những câu chuyện cảm xúc giả mạo và nội dung thu hút sự tương tác, đặt ra những câu hỏi mới về cách các nền tảng AI tổng quát đang được kiểm duyệt khi chúng ngày càng trở nên mang tính xã hội và công khai hơn.
Theo một báo cáo Vergengười dùng nguồn cấp dữ liệu khám phá xã hội của Meta AI đã gặp phải các bài đăng kỳ lạ do AI tạo ra, từ những lời thú nhận cá nhân bịa đặt cho đến những tuyên bố sai lệch về sức khỏe và những kịch bản hư cấu kỳ quái được thiết kế để thu hút phản ứng và chia sẻ. Vấn đề này dường như liên quan đến quyết định của Meta trong việc thực hiện các cuộc trò chuyện và lời nhắc do AI tạo ra có thể được phát hiện công khai bên trong ứng dụng, biến các phần của nền tảng thành nguồn cấp dữ liệu nội dung kiểu mạng xã hội một cách hiệu quả.
Video được đề xuất
Các nhà phê bình cho rằng kết quả là một hệ sinh thái nơi người dùng được khuyến khích tạo ra nội dung AI ngày càng thái quá hoặc thao túng cảm xúc để thu hút sự chú ý. Một số bài đăng được cho là giống với chiến thuật dụ nhấp chuột cổ điển của Facebook, trong khi những bài đăng khác làm mờ ranh giới giữa châm biếm, thông tin sai lệch và thư rác do AI tạo ra.
Sự thúc đẩy AI xã hội của Meta đang tạo ra những hậu quả không lường trước được
Tình huống này nêu bật thách thức ngày càng tăng mà các công ty AI phải đối mặt: điều gì sẽ xảy ra khi chatbot phát triển từ trợ lý riêng thành nền tảng xã hội nơi nội dung được tạo ra được chia sẻ công khai và hiển thị theo thuật toán.
Meta đã tích cực định vị AI như một trải nghiệm xã hội thay vì chỉ là một công cụ năng suất. Thay vì giới hạn tương tác trong các cuộc trò chuyện riêng tư, nền tảng AI của công ty khuyến khích người dùng xuất bản lời nhắc, hình ảnh được tạo và bài đăng có sự hỗ trợ của AI để người khác duyệt và tương tác.
Logo Meta Bapt
Cách tiếp cận đó có thể giúp thúc đẩy sự tương tác, nhưng nó cũng tạo ra những vấn đề kiểm duyệt quen thuộc mà các nền tảng truyền thông xã hội đã phải vật lộn trong nhiều năm. Các báo cáo cho thấy nguồn cấp dữ liệu Meta AI hiện đang hiển thị những câu chuyện đầy cảm xúc, lời khuyên đáng ngờ về cuộc sống, trải nghiệm bịa đặt và các kịch bản phóng đại được thiết kế chủ yếu để kích hoạt phản ứng thay vì cung cấp thông tin hữu ích.
Đối với người dùng, trải nghiệm có thể nhanh chóng trở nên khó hiểu. Vì nhiều bài đăng được AI tạo hoặc hỗ trợ bởi AI nên việc phân biệt giữa trải nghiệm đích thực của con người, câu chuyện cười, lời nhắc thử nghiệm và câu chuyện hoàn toàn bịa đặt có thể trở nên khó khăn hơn. Các nhà phê bình cảnh báo điều này có thể góp phần làm xói mòn niềm tin trực tuyến trên phạm vi rộng hơn, đặc biệt là khi nội dung do AI tạo ra trở nên thực tế hơn và có sức thuyết phục về mặt cảm xúc hơn.
Vấn đề này cũng phản ánh một xu hướng rộng lớn hơn trong ngành AI, nơi các công ty đang chạy đua để tăng mức độ tương tác của người dùng trong khi vẫn cố gắng thiết lập các biện pháp bảo vệ hiệu quả xung quanh nội dung được tạo ra. Khi các công cụ AI trở nên tương tác và được định hướng xã hội hơn, các hệ thống kiểm duyệt đang phải vật lộn để theo kịp.
Tương lai của nguồn cấp dữ liệu xã hội do AI cung cấp có thể phụ thuộc vào sự kiểm duyệt
Meta đã không định vị nguồn cấp dữ liệu như một mạng xã hội truyền thống, nhưng nền tảng này ngày càng hoạt động giống như một mạng xã hội. Người dùng có thể cuộn qua các tương tác AI hiển thị công khai giống như duyệt nội dung trên Instagram, Threads hoặc Facebook.
Điều đó quan trọng vì thuật toán đề xuất có thể khuếch đại nội dung hấp dẫn nhất bất kể chất lượng hay độ chính xác. Nếu các bài đăng giật gân hoặc gây hiểu lầm do AI tạo ra liên tục thu hút sự chú ý, thì các nền tảng có thể vô tình khen thưởng việc tạo nội dung chất lượng thấp giống như cách truyền thông xã hội trước đây thường khen thưởng sự phẫn nộ và dụ nhấp chuột.
Logo Meta Bapt
Tranh cãi nảy sinh khi Meta tiếp tục tích hợp AI trên hệ sinh thái của mình, bao gồm WhatsApp, Instagram, Facebook và trải nghiệm AI độc lập. Công ty coi AI đàm thoại là một phần quan trọng của trải nghiệm Internet trong tương lai, nhưng phản ứng dữ dội hiện tại cho thấy người dùng và cơ quan quản lý có thể yêu cầu các biện pháp kiểm soát mạnh mẽ hơn về cách hiển thị và gắn nhãn nội dung do AI tạo ra.
Hiện tại, nguồn cấp dữ liệu AI của Meta đang cung cấp cái nhìn sơ bộ về điều gì sẽ xảy ra khi AI tổng hợp va chạm với động lực truyền thông xã hội – và kết quả trông rất quen thuộc.
Nguồn DigitalTrend