Mẹ của một trong những đứa con của Elon Musk đang kiện công ty của ông – cáo buộc những hình ảnh khiêu dâm về cô được tạo ra bởi công cụ Grok AI của ông, trong đó có một bức ảnh cho thấy cô chưa đủ tuổi vị thành niên.
Ashley St Clair có đã đệ đơn kiện với tòa án tối cao của bang New York chống lại xAI, cáo buộc rằng Grok, được sử dụng trên nền tảng truyền thông xã hội X, đã hứa sẽ ngừng tạo hình ảnh khiêu dâm nhưng vẫn tiếp tục làm như vậy.
Cô ấy đang yêu cầu trừng phạt và bồi thường thiệt hại, đồng thời tuyên bố rằng hàng chục hình ảnh deepfake đồi trụy và khiêu dâm là do Grok tạo ra.
Sau hai tuần công chúng phản đối công cụ này được sử dụng để tạo ra hình ảnh khiêu dâm phụ nữ và trẻ em, công ty cho biết hôm thứ Tư rằng nó sẽ “chặn địa lý” khả năng người dùng “tạo ra hình ảnh người thật trong trang phục bikini, đồ lót và các trang phục tương tự thông qua tài khoản Grok và Grok in X” ở những quốc gia nơi điều này là bất hợp pháp.
St Clair, 27 tuổi, người xa lạ với Musk, là một người có ảnh hưởng cánh hữu, tác giả và nhà bình luận chính trị. Cô và Musk là cha mẹ của một cậu con trai sinh năm 2024.
Cô được đại diện bởi Carrie Goldberg, một luật sư bảo vệ quyền nạn nhân, người chuyên buộc các công ty công nghệ phải chịu trách nhiệm và trước đây đã đại diện cho những phụ nữ là nạn nhân của quấy rối và lạm dụng tình dục.
Goldberg nói với Guardian: “xAI không phải là một sản phẩm an toàn hợp lý và gây phiền toái cho công chúng. Không ai phải gánh chịu nhiều hơn Ashley St Clair. Ashley đã đệ đơn kiện vì Grok đã quấy rối cô ấy bằng cách tạo và phân phối những hình ảnh vô căn cứ, lạm dụng và hạ nhục cô ấy rồi xuất bản chúng trên X.
“Tác hại này xuất phát trực tiếp từ những lựa chọn thiết kế có chủ ý khiến Grok bị sử dụng như một công cụ quấy rối và sỉ nhục. Các công ty không thể trốn tránh trách nhiệm khi các sản phẩm họ xây dựng có thể đoán trước được gây ra loại tác hại này. Chúng tôi dự định yêu cầu Grok phải chịu trách nhiệm và giúp thiết lập các ranh giới pháp lý rõ ràng vì lợi ích của toàn bộ công chúng nhằm ngăn chặn việc AI bị biến thành vũ khí để lạm dụng.”
Hồ sơ cáo buộc công ty truyền thông xã hội này đã “trả đũa cô ấy, hủy kiếm tiền từ tài khoản X của cô ấy và tạo ra vô số hình ảnh khác về cô ấy, bao gồm cả những hình ảnh bất hợp pháp về cô ấy trong các tư thế quan hệ tình dục, đầy tinh dịch, gần như khỏa thân và hình ảnh cô ấy khỏa thân khi còn nhỏ”.
Theo hồ sơ, các hình ảnh do Grok tạo ra bao gồm một trong số cô ấy là cô gái 14 tuổi mặc bộ bikini dây cùng với nội dung khiêu dâm của St Clair khi trưởng thành, bao gồm cả yêu cầu “đưa cô gái mặc bộ bikini làm từ xỉa răng”.
Hồ sơ nêu rõ, những hình ảnh này không chỉ là không có sự đồng thuận mà “Grok và xAI còn biết rõ ràng rằng St Clair không đồng ý tạo hoặc phổ biến những hình ảnh này vì cô ấy yêu cầu xóa”.
Grok cũng đáp ứng yêu cầu của người dùng về việc thêm hình xăm lên cơ thể của St Clair – bao gồm cả dòng chữ “Con điếm của Elon”, hồ sơ cho biết.
St Clair, người Do Thái, cáo buộc Grok đã mặc cho cô bộ bikini được trang trí bằng hình chữ thập ngoặc bằng kỹ thuật số.
Vụ kiện nêu rõ rằng X “được hưởng lợi về mặt tài chính từ việc tạo và phổ biến nội dung giả mạo sâu, thực tế, mang tính tình dục hóa mô tả Nguyên đơn là trẻ vị thành niên và người lớn”.
Hồ sơ nêu rõ rằng “xAI chịu trách nhiệm trực tiếp về hành vi quấy rối và hình ảnh tục tĩu do chatbot riêng của họ, Grok, tạo ra”.
Musk đã đăng trên X rằng người dùng ứng dụng của anh ấy phải chịu trách nhiệm về những hình ảnh họ tạo ra. Gần đây, ông cho biết: “Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”.
Ông nói thêm: “Rõ ràng, Grok không tạo ra hình ảnh một cách tự nhiên mà chỉ làm theo yêu cầu của người dùng.”
X cho biết hôm thứ Năm rằng họ “không khoan nhượng đối với bất kỳ hình thức bóc lột tình dục trẻ em nào, ảnh khỏa thân vô cớ và nội dung khiêu dâm không mong muốn”.
Công ty đã đệ đơn kiện ngược lại tuyên bố rằng theo điều khoản dịch vụ của X, St Clair không thể kiện công ty ở New York mà phải làm như vậy ở Texas.
St Clair trước đó đã nói với Guardian rằng cô cảm thấy “kinh hoàng và bị xâm phạm”, đồng thời nói thêm: “Đó là một công cụ quấy rối khác. Sự đồng ý là toàn bộ vấn đề.”
Cô nói rằng các Acolytes của Musk đã không ưa cô kể từ khi cô công khai mong muốn xây dựng một “quân đoàn” trẻ em của anh. Musk là cha của 13 đứa trẻ khác cùng với 3 người phụ nữ khác.
X đã được liên hệ để lấy ý kiến.
Nguồn The Guardian