Một mạng lưới các tài khoản X đang đẩy các ứng dụng khỏa thân bằng AI vào nhiều nguồn cấp dữ liệu hơn, cung cấp cho các công cụ dễ bị lạm dụng một con đường khác cho người dùng trong khi nạn nhân đấu tranh để ngăn chặn hậu quả.
trong một Báo cáo của Tạp chí Phố WallNhà nghiên cứu cấp cao của Graphika, Matthew Patane, cho biết một số dịch vụ khỏa thân được quảng bá thông qua các tài khoản xã hội được phối hợp sử dụng lại cách diễn đạt tương tự. Một mạng bao gồm 45.000 tài khoản X, với các bài đăng dựa trên cách diễn đạt gián tiếp và hình ảnh bị kiểm duyệt để tránh bị kiểm duyệt.
Video được đề xuất
Phát hiện này gây áp lực mới lên X và các trang web như Undress AI, một dịch vụ có trụ sở tại Belize chuyên quảng cáo các công cụ hình ảnh rõ ràng và giới thiệu việc tạo video trả phí. Cởi quần áo AI và X không trả lời yêu cầu bình luận.
Quảng cáo cho các ứng dụng như vậy rất dễ tìm thấy. Chúng tôi đã sử dụng các từ khóa ngẫu nhiên và tìm thấy các bài đăng quảng cáo như bài đăng bên dưới:
X
Bài viết lan truyền như thế nào
Những tài khoản mà Patane xác định không dựa vào những mô tả thẳng thừng. Họ sử dụng ngôn ngữ thông thường và các tài liệu tham khảo nhẹ nhàng hơn có thể hướng người dùng đến các công cụ khỏa thân mà không cần đánh vần từng tính năng.
AI cởi quần áo cũng đang vượt ra ngoài phạm vi hình ảnh tĩnh. Trang web của họ giới thiệu một tùy chọn tạo video trị giá 59 USD và cho phép người dùng chọn các tư thế gợi dục, bao gồm cởi quần áo và cưỡi ngựa. Nó cũng cung cấp các khoản tín dụng khi người dùng tuyển dụng bạn bè.
Sự kết hợp đó mang lại cho dịch vụ hai cách để phát triển. Các bài đăng được mã hóa có thể thu hút sự chú ý đến trang web và tín dụng giới thiệu mang lại cho người dùng lý do tích hợp để thu hút nhiều người tham gia hơn.
Ai bị tổn thương khi công cụ lan rộng
Nạn nhân thường phải theo đuổi thiệt hại sau khi hình ảnh đã được di chuyển. Các trường hợp được báo cáo mô tả các hình ảnh khỏa thân bịa đặt lan truyền qua Snapchat, hành lang trường học và mạng ngang hàng, trong đó các gia đình cố gắng xóa chúng trong khi thúc đẩy trường học hoặc cảnh sát hành động.
Một học sinh bị một nhóm nam sinh ở Iowa nhắm tới cho biết những hình ảnh được tạo bằng AI cởi quần áo đã được truyền đi khắp các bạn cùng lớp. Sau đó cô chuyển sang các lớp học trực tuyến.
Mạng X tăng thêm quy mô cho rủi ro đó. Một bức ảnh được tải lên có thể nhanh chóng trở thành hình phạt xã hội, đặc biệt khi quảng cáo thu hút nhiều người dùng hơn tới các công cụ được xây dựng để thao túng hình ảnh khiêu dâm.
Nền tảng nên chứng minh điều gì bây giờ
X nghiêm cấm rộng rãi các hoạt động nhằm đánh lừa người khác, nhưng việc quảng cáo khỏa thân được phối hợp sẽ tạo ra thử nghiệm thực thi khó khăn hơn. Các bài đăng có thể tránh các từ khóa rõ ràng trong khi vẫn hướng người dùng đến các công cụ được thiết kế để thao tác rõ ràng.
Tín hiệu tiếp theo cần theo dõi là liệu các nền tảng có nắm bắt được các chiến dịch này trước khi chúng mở rộng quy mô hay không. Bạn sẽ muốn khóa hình ảnh cá nhân nếu có thể, nhanh chóng báo cáo hành vi mạo danh và lưu bằng chứng trước khi bài đăng biến mất.
Nguồn DigitalTrend