Anh sẽ trở thành quốc gia đầu tiên giới thiệu luật giải quyết việc sử dụng các công cụ AI để tạo ra hình ảnh lạm dụng tình dục trẻ em, trong bối cảnh cảnh báo từ các cơ quan thực thi pháp luật về sự phổ biến đáng báo động trong việc sử dụng công nghệ đó.
Trong nỗ lực đóng một lỗ hổng pháp lý là mối quan tâm lớn đối với các nhà vận động an toàn trực tuyến và cảnh sát, việc sở hữu, tạo hoặc phân phối các công cụ AI được thiết kế là bất hợp pháp để tạo ra tài liệu lạm dụng tình dục trẻ em.
Những người bị kết tội sẽ phải đối mặt với năm năm tù.
Nó cũng sẽ trở thành bất hợp pháp đối với bất kỳ ai để sở hữu các hướng dẫn sử dụng những người phạm tội tiềm năng cách sử dụng các công cụ AI để tạo ra hình ảnh lạm dụng hoặc giúp chúng lạm dụng trẻ em, với án tù tiềm năng lên đến ba năm.
Một luật mới nghiêm ngặt nhắm vào những người chạy hoặc vừa phải được thiết kế để chia sẻ hình ảnh hoặc lời khuyên cho những người phạm tội khác sẽ được đưa ra. Quyền hạn bổ sung cũng sẽ được trao cho Lực lượng Biên giới, nơi sẽ có thể bắt buộc bất cứ ai mà họ nghi ngờ có nguy cơ tình dục cho trẻ em để mở khóa các thiết bị kỹ thuật số của chúng để kiểm tra.
Tin tức theo sau các cảnh báo rằng việc sử dụng các công cụ AI trong việc tạo ra hình ảnh lạm dụng tình dục trẻ em đã tăng gấp bốn lần trong không gian của một năm. Có 245 báo cáo được xác nhận về hình ảnh lạm dụng tình dục trẻ em do AI tạo ra vào năm ngoái, tăng từ 51 vào năm 2023, theo Internet Watch Foundation (IWF).
Trong khoảng thời gian 30 ngày vào năm ngoái, nó đã tìm thấy 3.512 hình ảnh AI trên một trang web tối duy nhất. Nó cũng xác định một tỷ lệ ngày càng tăng của các hình ảnh loại A của một – loại nghiêm trọng nhất.
Các công cụ AI đã được triển khai theo nhiều cách khác nhau bởi những người tìm cách lạm dụng trẻ em. Điều này được hiểu rằng đã có những trường hợp triển khai nó để khỏa thân hình ảnh của trẻ em thực sự, hoặc áp dụng khuôn mặt của trẻ em vào hình ảnh lạm dụng tình dục trẻ em hiện có.
Tiếng nói của trẻ em và nạn nhân thực sự cũng được sử dụng.
Hình ảnh mới được tạo ra đã được sử dụng để tống tiền trẻ em và buộc chúng vào các tình huống lạm dụng hơn, bao gồm cả việc phát trực tiếp lạm dụng.
Các công cụ AI cũng đang giúp thủ phạm ngụy trang danh tính của họ để giúp họ chải chuốt và lạm dụng nạn nhân của họ.
Các nhân vật cảnh sát cấp cao nói rằng hiện có bằng chứng được thiết lập tốt cho thấy những người xem những hình ảnh như vậy có khả năng tiếp tục lạm dụng trẻ em và họ lo ngại rằng việc sử dụng hình ảnh AI có thể bình thường hóa lạm dụng tình dục trẻ em.
Các luật mới sẽ được đưa vào như một phần của Dự luật Tội phạm và Chính sách, chưa đến Quốc hội.
Peter Kyle, thư ký công nghệ, nói rằng nhà nước đã thất bại trong việc theo kịp với các ứng dụng ác tính của cuộc cách mạng AI.
Viết cho Người quan sátanh ấy nói rằng anh ấy sẽ đảm bảo rằng sự an toàn của trẻ em là người đứng đầu, ngay cả khi anh ấy cố gắng biến Vương quốc Anh trở thành một trong những thị trường AI hàng đầu của thế giới.
Gần đây, một cô gái 15 tuổi gọi NSPCC, anh viết. Một người lạ trực tuyến đã chỉnh sửa ảnh từ phương tiện truyền thông xã hội của cô ấy để tạo ra những hình ảnh khỏa thân giả. Những hình ảnh cho thấy khuôn mặt của cô ấy và, trong nền, bạn có thể nhìn thấy phòng ngủ của cô ấy. Cô gái rất sợ rằng ai đó sẽ gửi chúng cho bố mẹ cô và tệ hơn nữa, những bức ảnh rất thuyết phục đến nỗi cô sợ bố mẹ cô sẽ không tin rằng họ là giả.
Có hàng ngàn câu chuyện như thế này xảy ra đằng sau cửa phòng ngủ trên khắp nước Anh. Trẻ em bị khai thác. Cha mẹ thiếu kiến thức hoặc sức mạnh để ngăn chặn nó. Mỗi người trong số họ là bằng chứng về những thất bại xã hội và pháp lý thảm khốc trong thập kỷ qua.
Các luật mới là một trong những thay đổi mà các chuyên gia đã yêu cầu một thời gian.
“Chắc chắn còn nhiều việc phải làm để ngăn chặn công nghệ AI bị khai thác, nhưng chúng tôi hoan nghênh [the] Thông báo, và tin rằng các biện pháp này là một điểm khởi đầu quan trọng, ông Derek Ray-Hill, giám đốc điều hành tạm thời của IWF cho biết.
Rani Govender, Giám đốc chính sách về An toàn Trẻ em trực tuyến tại NSPCC, cho biết dịch vụ Childline của tổ chức từ thiện đã nghe từ trẻ em về các hình ảnh do AI tạo ra có thể có. Cô kêu gọi nhiều biện pháp ngăn chặn các hình ảnh được sản xuất. Bất cứ nơi nào có thể, những tác hại gớm ghiếc này phải được ngăn chặn xảy ra ngay từ đầu, cô nói.
Để đạt được điều này, chúng ta phải thấy quy định mạnh mẽ của công nghệ này để đảm bảo trẻ em được bảo vệ và các công ty công nghệ thực hiện các đánh giá rủi ro kỹ lưỡng trước khi các sản phẩm AI mới được triển khai.
Ở Anh, NSPCC Cung cấp hỗ trợ cho trẻ em vào ngày 0800 1111 và người lớn quan tâm đến một đứa trẻ theo số 0808 800 5000. Hiệp hội quốc gia cho những người bị lạm dụng trong thời thơ ấu (NAPAC) cung cấp hỗ trợ cho những người sống sót trưởng thành vào ngày 0808 801 0331. Ở Mỹ, gọi hoặc nhắn tin Trẻ em Lạm dụng Đường dây nóng trên 800-422-4453. Ở Úc, trẻ em, thanh niên, phụ huynh và giáo viên có thể liên hệ với Trẻ em trợ giúp vào ngày 1800 55 1800, hoặc Dũng cảm vào ngày 1800 272 831 và những người sống sót trưởng thành có thể liên hệ Nền tảng màu xanh vào ngày 1300 657 380. Các nguồn giúp đỡ khác có thể được tìm thấy tại Trẻ em trợ giúp quốc tế
Nguồn The Guardian