Vụ án xoay quanh vấn đề quyền tác giả. Khi người dùng nhập lời nhắc và Grok trả về hình ảnh khiêu dâm của một người phụ nữ thực sự, ai đã tạo ra nó, người ngồi trên bàn phím hay công ty chế tạo máy?
Vào ngày 3 tháng 6, Nghị sĩ Đảng Lao động Jess Asato đã đệ đơn kiện lên Tòa án Tối cao ở Anh để yêu cầu tòa án quyết định và làm như vậy đã thiết lập cuộc kiểm tra cấp cao đầu tiên của Vương quốc Anh về việc liệu một nhà phát triển AI có thể chịu trách nhiệm trực tiếp về những gì công cụ của họ tạo ra hay không.
Sự thật đằng sau tuyên bố này rất xấu và cụ thể. Asato, người đại diện cho Lowestoft, cho biết vào tháng 1, người dùng đã yêu cầu Grok tạo ra những hình ảnh cô mặc bikini, cùng với một video khiêu dâm được mô tả trong hồ sơ của cô là cho thấy cô đang bị nhiễm clo và chuẩn bị cho một vụ tấn công tình dục.
Những hình ảnh đó sau đó được chia sẻ lại và thảo luận trên X, nền tảng mà xAI sở hữu và được sử dụng để tạo thêm tài liệu. Asato đã tự mình đưa ra tuyên bố này, viết rằng cô “chỉ là một trong số hàng nghìn phụ nữ và thậm chí cả trẻ em” bị nhắm đến bởi các trò lừa đảo sâu về AI lạm dụng.
Điều làm cho vụ kiện có tính hệ quả là lý thuyết pháp lý của nó hơn là sự thật của nó. Asato đang kiện xAI vì lạm dụng thông tin cá nhân và vi phạm luật bảo vệ dữ liệu, lập luận rằng công ty vẫn bị lộ mặc dù người dùng cá nhân đã viết lời nhắc.
Cô ấy đang yêu cầu bồi thường thiệt hại, một sự thừa nhận chính thức rằng những gì xảy ra với cô ấy là trái pháp luật và yêu cầu xAI tuân thủ luật pháp của Vương quốc Anh.
“Hy vọng của tôi là điều này sẽ tái cân bằng quyền của cá nhân trước các công ty công nghệ rất lớn,” cô ấy nói với Thời báo tài chính, “Đáng lẽ điều đó phải đưa ra các biện pháp bảo vệ trước khi chúng làm hại phụ nữ và trẻ em.”
Đó là câu hỏi mở mà tòa án Anh vẫn chưa giải quyết được. Các trường hợp deepfake hiện tại có xu hướng truy lùng những cá nhân đã tạo hoặc chia sẻ tài liệu. Asato đang chuyển chúng cho nhà phát triển để kiểm tra xem liệu bản thân việc xây dựng và vận hành một máy phát điện tạo ra hình ảnh tình dục không có sự đồng thuận có khả thi hay không. Một chiến thắng sẽ định hình lại cách mọi công ty cung cấp dịch vụ tạo hình ảnh ở Vương quốc Anh nghĩ về trách nhiệm pháp lý. Một mất mát sẽ xác nhận rằng trách nhiệm dừng lại ở người dùng.
xAI cho biết vào tháng 1 rằng họ đã hạn chế khả năng tạo ra hình ảnh khiêu dâm của Grok, nhưng những biện pháp bảo vệ đó tỏ ra dễ dàng bị phá vỡ khi được thử nghiệm. Công ty chưa bình luận công khai về tuyên bố của Asato.
Vụ kiện cũng đổ bộ vào công ty đông đúc. xAI phải đối mặt với các cuộc điều tra về việc tạo hình ảnh của Grok ở EU, Vương quốc Anh và California, cũng như cuộc điều tra của Ofcom về X theo Đạo luật An toàn Trực tuyến được mở vào tháng 1 về các báo cáo cho biết công cụ này đã được sử dụng để tạo ra các hình ảnh thân mật không có sự đồng thuận và tài liệu lạm dụng tình dục trẻ em. Áp lực cũng đến từ bên ngoài nước Anh, khi các công tố viên Paris và một bộ trưởng Thụy Sĩ đều theo đuổi hành động của riêng mình đối với tài liệu do Grok tạo ra. Của Asato là trường hợp được đóng khung thẳng thắn nhất như một tiền lệ.
Đây là thời điểm khó xử đối với Musk, khi SpaceX của ông, hiện là chủ sở hữu của cả xAI và X, đang chuẩn bị IPO. Liệu áp lực pháp lý có đến IPO hay không vẫn chưa rõ ràng. Điều rõ ràng là những ràng buộc đối với Grok giờ đây có nhiều khả năng đến từ phòng xử án hơn là từ công ty đã xây dựng nó.
Nguồn The Next Web