Cuối năm 2024, Meta đã giới thiệu các tài khoản tuổi teen Instagram, một mạng lưới an toàn nhằm bảo vệ những người trẻ tuổi khỏi nội dung nhạy cảm và đảm bảo rằng họ có các tương tác trực tuyến an toàn, được củng cố bằng công nghệ phát hiện tuổi. Tài khoản cho thanh thiếu niên được tự động được phân loại là các từ riêng tư, gây khó chịu được ẩn và các thông điệp từ người lạ bị chặn.
Theo một cuộc điều tra của tổ chức phi lợi nhuận tập trung vào giới trẻ, thiết kế nó cho chúng tôi và Công nghệ có trách nhiệmNhững người bảo vệ tuổi teen của Instagram không thực hiện lời hứa của họ. Trong một khoảng thời gian hai tuần, năm tài khoản thử nghiệm thuộc thiếu niên đã được thử nghiệm và tất cả chúng đều được hiển thị nội dung tình dục mặc dù những lời hứa của Meta.
Video được đề xuất
Một loạt các nội dung tình dục
Công nghệ có trách nhiệm
Tất cả các tài khoản thử nghiệm được phục vụ nội dung không phù hợp mặc dù cho phép bộ lọc nội dung nhạy cảm trong ứng dụng. Báo cáo cho biết 4 trong số 5 tài khoản teen thử nghiệm của chúng tôi là hình ảnh cơ thể được đề xuất về mặt thuật toán và nội dung ăn uống bị rối loạn, báo cáo cho biết.
Hơn nữa, 80% những người tham gia báo cáo rằng họ đã trải qua đau khổ khi sử dụng tài khoản tuổi teen Instagram. Thật thú vị, chỉ một trong năm tài khoản kiểm tra là hiển thị hình ảnh và video giáo dục.
Phạm vi[Approximately] 80% nội dung trong thức ăn của tôi có liên quan đến các mối quan hệ hoặc những trò đùa tình dục thô thiển. Nội dung này thường tránh xa việc hoàn toàn rõ ràng hoặc hiển thị hình ảnh đồ họa trực tiếp, nhưng cũng để lại rất ít trí tưởng tượng, một trong những người thử nghiệm được trích dẫn.
Theo báo cáo 26 trang, 55% nội dung được gắn cờ đại diện cho các hành vi tình dục, hành vi tình dục và hình ảnh tình dục. Những video như vậy đã tích lũy hàng trăm và hàng ngàn lượt thích, với một trong số họ kiếm được hơn 3,3 triệu lượt thích.
Với hàng triệu thanh thiếu niên sử dụng Instagram và tự động được đặt vào các tài khoản tuổi teen Instagram, chúng tôi muốn xem liệu các tài khoản này có thực sự tạo ra trải nghiệm trực tuyến an toàn hơn không. Kiểm tra những gì chúng tôi tìm thấy. pic.twitter.com/72xjg0hhcm
– Thiết kế nó cho chúng tôi (@DesignitForus) Ngày 18 tháng 5 năm 2025
Thuật toán của Instagram cũng thúc đẩy nội dung thúc đẩy các khái niệm có hại như các loại cơ thể lý tưởng của người Hồi giáo, sự xấu hổ của cơ thể và thói quen ăn uống. Một chủ đề đáng lo ngại khác là các video thúc đẩy tiêu thụ rượu và các video khỏa thân sử dụng steroid và chất bổ sung để đạt được một loại cơ thể nam tính nhất định.
Toàn bộ gói truyền thông xấu
Mặc dù các tuyên bố của Meta về việc lọc nội dung có vấn đề, đặc biệt là đối với người dùng tuổi teen, các tài khoản thử nghiệm cũng được hiển thị nội dung phân biệt chủng tộc, đồng tính và không chính xác. Một lần nữa, các clip như vậy đã nhận được hàng triệu lượt thích. Các video cho thấy bạo lực súng đạn và lạm dụng trong nước cũng bị đẩy vào các tài khoản tuổi teen.
Công nghệ có trách nhiệm
Một số tài khoản teen thử nghiệm của chúng tôi không nhận được sự bảo vệ mặc định của Meta. Không có tài khoản nào nhận được kiểm soát nội dung nhạy cảm, trong khi một số tài khoản không nhận được sự bảo vệ từ các bình luận tấn công, theo báo cáo.
Đây sẽ không phải là lần đầu tiên Instagram (và các nền tảng truyền thông xã hội khác của Meta, nói chung) đã được tìm thấy phục vụ nội dung có vấn đề. Năm 2021, rò rỉ tiết lộ cách Meta biết về tác động có hại của Instagram, đặc biệt là đối với các cô gái trẻ đối phó với các vấn đề về sức khỏe tâm thần và hình ảnh cơ thể.
Trong một tuyên bố được chia sẻ với The Washington PostMeta tuyên bố rằng những phát hiện của báo cáo là thiếu sót và hạ thấp độ nhạy của nội dung được gắn cờ. Chỉ hơn một tháng trước, công ty cũng đã mở rộng các biện pháp bảo vệ tuổi teen lên Facebook và Messenger.
Một báo cáo được sản xuất không thay đổi thực tế là hàng chục triệu thanh thiếu niên hiện có trải nghiệm an toàn hơn nhờ các tài khoản tuổi teen Instagram, một phát ngôn viên của Meta đã được trích dẫn. Tuy nhiên, họ nói thêm rằng công ty đang xem xét các khuyến nghị nội dung có vấn đề.
Nguồn DigitalTrend