Grok, chatbot AI được Elon Musk hậu thuẫn, được dệt thành cơ cấu của X, đã bắt đầu cung cấp các công cụ chỉnh sửa và tạo hình ảnh cho những người đăng ký trả phí. các sự thay đổi theo một làn sóng thủy triều những lời chỉ trích liên quan đến khả năng tạo ra hình ảnh khiêu dâm không có sự đồng thuận của công cụ này. Mặc dù hạn chế này rõ ràng là một nỗ lực nhằm ngăn chặn làn sóng tranh cãi, nhưng các cơ quan quản lý, nhóm vận động và người dùng đều cho rằng sẽ không thể ngăn chặn việc tạo ra nội dung có hại và có khả năng bất hợp pháp liên quan đến phụ nữ và trẻ em.
Bắt đầu từ cuối ngày thứ Năm, Grok đã chính thức chuyển các tính năng tạo hình ảnh của mình ra sau bức tường thanh toán X Premium, bắt đầu ở mức 8 đô la mỗi tháng
Tuy nhiên, động thái này đã bị nhiều người chế giễu là một giải pháp “rò rỉ”. Mặc dù người dùng thông thường trên X có thể bị chặn nhưng các công cụ tạo vẫn hoàn toàn miễn phí để truy cập thông qua trang web và ứng dụng di động độc lập của Grok. Lỗ hổng này đã làm giảm hiệu quả tuyên bố của nền tảng rằng họ đang có lập trường vững chắc chống lại việc lạm dụng, khiến công chúng vẫn có thể tiếp cận được những công cụ nguy hiểm nhất.
Bapt
Các nhà nghiên cứu an toàn và cơ quan giám sát kỹ thuật số không tin rằng yêu cầu về thẻ tín dụng sẽ giải quyết được vấn đề. Trên thực tế, nhiều người cho rằng nó thực sự kiếm tiền từ việc lạm dụng. Theo nhà nghiên cứu deepfake Genevieve Oh, Grok vẫn tung ra hơn 1.500 hình ảnh có hại mỗi giờ ngay cả sau khi tường phí đi vào hoạt động – chiếm khoảng 60% tổng sản lượng hình ảnh công khai. Dữ liệu của Oh cho thấy Grok hiện đang tạo ra nội dung khiêu dâm với tốc độ vượt xa cả những trang web “khỏa thân” chuyên dụng khét tiếng nhất.
Hậu quả đã đạt tới cấp cao nhất của chính phủ Hoa Kỳ
Các Thượng nghị sĩ Đảng Dân chủ Ron Wyden, Edward J. Markey và Ben Ray Luján gần đây đã gửi một lá thư tới các CEO của Apple và Google, yêu cầu rút X khỏi các cửa hàng ứng dụng tương ứng của họ. Các thượng nghị sĩ lập luận rằng bằng cách cho phép các công cụ này tồn tại, X đang thể hiện sự “hoàn toàn coi thường” các quy tắc an toàn mà mọi nhà phát triển ứng dụng khác buộc phải tuân theo.
Video được đề xuất
Áp lực quốc tế cũng đang lên đến đỉnh điểm. Các quan chức Anh và Ấn Độ đã chỉ trích bức tường thanh toán là một phản ứng không thỏa đáng. Người phát ngôn của thủ tướng Anh mô tả hành động này là “xúc phạm” các nạn nhân, cho thấy X chỉ đơn giản là biến một cuộc khủng hoảng an toàn thành một nguồn doanh thu cao cấp. Nạn nhân đã chia sẻ những câu chuyện tương tự; nhà vận động Jess Davies báo cáo rằng Grok vẫn có thể “cởi đồ” ảnh kỹ thuật số của cô ấy thông qua ứng dụng độc lập vào sáng thứ Sáu, bất chấp những hạn chế được cho là.
Điều thú vị là cuộc tranh cãi dường như đang mang lại sự thúc đẩy tài chính tiêu cực cho nền tảng này.
Ước tính của Sensor Tower cho thấy doanh thu mua hàng trong ứng dụng dành cho thiết bị di động trên X đã tăng 18% chỉ trong ngày thứ Năm. Mức tăng đột biến này vượt xa mức tăng trưởng hàng ngày thông thường của ứng dụng, cho thấy rằng nỗ lực truy cập “chế độ cay” của Grok thực sự có thể đang giúp ích cho lợi nhuận đang gặp khó khăn của X.
Bapt
Các chuyên gia pháp lý cảnh báo rằng những biện pháp nửa vời này sẽ không có tác dụng lâu trước tòa. Bộ trưởng Tư pháp Bắc Carolina Jeff Jackson coi tình huống Grok là một “bước ngoặt” đối với sự an toàn của AI, lưu ý rằng các hệ thống này có thể được vũ khí hóa dễ dàng như thế nào. Ông lập luận rằng kỷ nguyên “di chuyển nhanh và phá vỡ mọi thứ” đang gặp trở ngại khi nói đến phẩm giá và sự an toàn của các công dân tư nhân.
Khi các bức tường khép lại, X phải đối mặt với một lựa chọn khó khăn: triển khai các rào chắn kỹ thuật chính hãng, được mã hóa cứng hoặc đối mặt với tình trạng mất điện hoàn toàn tại các cửa hàng ứng dụng lớn và thị trường quốc tế. Việc Elon Musk chọn thắt chặt chính phần mềm — thay vì chỉ quyền truy cập vào phần mềm — sẽ quyết định liệu Grok có tương lai trở thành một công cụ hợp pháp hay nó sẽ trở thành kẻ bị ruồng bỏ trong kỷ nguyên AI sáng tạo.
Nguồn DigitalTrend