Trung Quốc đang tăng cường nỗ lực quản lý ngành công nghiệp “con người kỹ thuật số” đang phát triển nhanh chóng của mình, khi các avatar AI nhập vai đầy cảm xúc – một số được mô phỏng theo những người thân yêu đã qua đời – thu hút được sự chú ý rộng rãi trên khắp đất nước. Động thái này diễn ra khi cả tiềm năng thương mại và rủi ro đạo đức của công nghệ ngày càng trở nên rõ ràng.
Đau buồn, công nghệ và một ngành công nghiệp đang phát triển
Zhang Xinyu, một phụ nữ 47 tuổi đến từ tỉnh Liêu Ninh, đã chuyển sang sử dụng trí tuệ nhân tạo sau khi cha cô qua đời vì bệnh ung thư. Làm việc với một công ty có tên Super Brain, cô đã tạo ra một hình đại diện kỹ thuật số trông giống và có âm thanh giống anh ấy, cho phép cô tiếp tục trò chuyện trực tuyến. Cô nói với AFP rằng trải nghiệm này đã giúp cô vượt qua nỗi đau và lấy lại sức mạnh tinh thần.
Chatbot AI Bapt
Câu chuyện của cô phản ánh một xu hướng rộng lớn hơn ở Trung Quốc, nơi “con người kỹ thuật số” do AI tạo ra đang nhanh chóng trở nên phổ biến. Những hình đại diện này – thường có hình dáng và hành vi giống như thật – được sử dụng rộng rãi trên các phương tiện truyền thông xã hội, đặc biệt là trong thương mại điện tử và sáng tạo nội dung. Theo Tân Hoa Xã, lĩnh vực này được định giá khoảng 4,1 tỷ nhân dân tệ (600 triệu USD) vào năm 2024, tăng 85% so với cùng kỳ năm ngoái.
Video được đề xuất
Tuy nhiên, không phải ai cũng có cái nhìn tích cực về công nghệ này. Một số nhà phê bình cảnh báo rằng những hình đại diện như vậy có thể tạo ra sự phụ thuộc về mặt cảm xúc hoặc mang lại điều mà chính Zhang mô tả là “sự an ủi giả tạo”, ngay cả khi những cảm xúc tiềm ẩn là thật.
Quy định bắt kịp
Để giải quyết những lo ngại này, Cục Quản lý Không gian mạng Trung Quốc đã ban hành dự thảo quy định nhằm thắt chặt việc giám sát. Các quy định được đề xuất yêu cầu ghi nhãn rõ ràng về nội dung do AI tạo ra và cấm tạo bản sao kỹ thuật số mà không có sự đồng ý của cá nhân.
Các quy tắc cũng tìm cách ngăn chặn việc sử dụng sai mục đích, bao gồm lừa đảo, thông tin sai lệch và nội dung có thể đe dọa sự ổn định xã hội hoặc an ninh quốc gia. Các công ty vi phạm các nguyên tắc này có thể phải đối mặt với mức phạt từ 10.000 nhân dân tệ (1.460 USD) đến 200.000 nhân dân tệ (29.300 USD).
Tính cấp bách của quy định đã được nhấn mạnh bởi một sự cố lan truyền liên quan đến một người phụ nữ lớn tuổi đã vô tình tương tác với hình đại diện rất thực tế của đứa con trai đã khuất của mình. Đoạn clip được chia sẻ rộng rãi trên mạng xã hội Trung Quốc đã làm dấy lên cuộc tranh luận về việc liệu việc sử dụng AI như vậy là để an ủi hay lừa dối.
Cân bằng đổi mới và rủi ro
Các chuyên gia cho rằng cách tiếp cận của Trung Quốc phản ánh một mô hình quen thuộc: phát triển công nghệ nhanh chóng sau đó là sự can thiệp nhanh chóng của cơ quan quản lý. Các nhà chức trách đặc biệt quan tâm đến việc bảo vệ trẻ vị thành niên, với các quy định được đề xuất cấm các hệ thống AI khuyến khích sự phụ thuộc về mặt cảm xúc hoặc mô phỏng các mối quan hệ thân mật cho trẻ em.
Chatbot AI Bapt
Đồng thời, các doanh nghiệp trong ngành thừa nhận rằng quy định là không thể tránh khỏi. Người sáng lập Super Brain đã mô tả các quy tắc dự thảo là một bước cần thiết để cân bằng giữa đổi mới và trách nhiệm.
Điều gì ở phía trước
Các quy định dự thảo của Trung Quốc được mở để lấy ý kiến công chúng cho đến đầu tháng 5, sau đó dự kiến sẽ thực thi chặt chẽ hơn. Mục tiêu rộng hơn của chính phủ là đẩy nhanh việc áp dụng AI trong khi duy trì sự kiểm soát chặt chẽ đối với tác động xã hội của nó.
Khi “con người kỹ thuật số” phát triển từ công cụ mới thành công cụ phổ biến, mô hình quản lý của Trung Quốc có thể trở thành kế hoạch chi tiết cho các quốc gia khác đang vật lộn với các câu hỏi đạo đức tương tự – đặc biệt là về danh tính, sự đồng ý và sức mạnh cảm xúc của AI.
Nguồn DigitalTrend