Mark Zuckerberg, giám đốc điều hành của Meta, đã chấp thuận cho phép trẻ vị thành niên truy cập vào các đối tác chatbot trí tuệ nhân tạo mà nhân viên an toàn đã cảnh báo là có khả năng tương tác tình dục, theo tài liệu nội bộ của Meta nộp trong vụ kiện tại tòa án bang New Mexico và được công khai hôm thứ Hai.
Vụ kiện – do tổng chưởng lý bang, Raul Torrez đưa ra và dự kiến xét xử vào tháng tới – cáo buộc Meta “đã không ngăn chặn được làn sóng làm hư hỏng tài liệu tình dục và các lời đề nghị tình dục được gửi đến trẻ em” trên Facebook và Instagram.
Hồ sơ hôm thứ Hai bao gồm các email và tin nhắn nội bộ của nhân viên Meta mà văn phòng tổng chưởng lý New Mexico có được thông qua khám phá pháp lý. Tiểu bang cáo buộc họ chứng minh rằng “Meta, do Zuckerberg điều hành, đã từ chối các khuyến nghị của nhân viên liêm chính của mình và từ chối áp đặt các biện pháp bảo vệ hợp lý để ngăn trẻ em trở thành đối tượng của các cuộc trò chuyện bóc lột tình dục với các chatbot AI của nó”, bộ trưởng tư pháp cho biết trong hồ sơ. Meta đã thông báo vào tuần trước rằng họ đã loại bỏ hoàn toàn quyền truy cập của thanh thiếu niên vào các đối tác AI, trong khi chờ tạo phiên bản mới của chatbot.
Trong các cuộc trao đổi thông tin, một số nhân viên an toàn của Meta bày tỏ sự phản đối việc công ty đang xây dựng các chatbot hướng đến sự đồng hành, bao gồm cả các tương tác tình dục và lãng mạn với người dùng. Các chatbot trí tuệ nhân tạo được phát hành vào đầu năm 2024. Các tài liệu được trích dẫn trong hồ sơ của bang hôm thứ Hai không bao gồm các tin nhắn hoặc bản ghi nhớ do Zuckerberg viết.
Andy Stone, người phát ngôn của Meta, hôm thứ Hai cho biết mô tả của bang là không chính xác và dựa vào thông tin có chọn lọc: “Đây là một ví dụ khác về việc tổng chưởng lý New Mexico đang chọn lọc tài liệu để vẽ nên một bức tranh thiếu sót và không chính xác”.
Các tin nhắn trong hồ sơ cho thấy nhân viên an toàn đặc biệt lo ngại về việc các bot được sử dụng cho các tình huống lãng mạn giữa người lớn và trẻ vị thành niên dưới 18 tuổi, được gọi là “U18”.
Ravi Sinha, người đứng đầu chính sách an toàn trẻ em của Meta, đã viết vào tháng 1 năm 2024: “Tôi không tin rằng việc tạo và tiếp thị một sản phẩm tạo ra AI lãng mạn U18 dành cho người lớn là điều nên làm hoặc có thể bảo vệ được”.
Đáp lại, Antigone Davis, người đứng đầu an toàn toàn cầu của Meta, đã đồng ý rằng nhân viên an toàn nên thúc đẩy việc ngăn chặn người lớn tạo ra những người bạn lãng mạn chưa đủ tuổi vị thành niên vì “nó kích dục trẻ vị thành niên”. Sinha và Davis không trả lời yêu cầu bình luận.
Theo một tin nhắn vào tháng 2 năm 2024, một nhân viên Meta có tên được giấu tên đã chuyển tiếp rằng Zuckerberg tin rằng những người bạn đồng hành của AI nên bị chặn tham gia vào các cuộc trò chuyện “rõ ràng” về tình dục với ít nhất là thanh thiếu niên nhỏ tuổi hơn và rằng người lớn không được phép tương tác với “AI U18 vì mục đích lãng mạn”.
Bản tóm tắt cuộc họp ngày 20 tháng 2 năm 2024 cho biết Giám đốc điều hành tin rằng “câu chuyện nên được đóng khung xung quanh… các nguyên tắc chung về lựa chọn và không kiểm duyệt”, rằng Meta nên “ít hạn chế hơn so với đề xuất” và rằng ông ấy muốn “cho phép người lớn tham gia vào cuộc trò chuyện mang tính phân biệt chủng tộc hơn về các chủ đề như tình dục”.
Stone cho biết các tài liệu không hỗ trợ trường hợp của New Mexico. “Ngay cả những tài liệu chọn lọc này cũng cho thấy rõ ràng Mark Zuckerberg đã đưa ra chỉ đạo rằng không nên cung cấp AI rõ ràng cho người dùng trẻ tuổi và rằng người lớn không được phép tạo AI dành cho trẻ dưới 18 tuổi vì mục đích lãng mạn.”
Tin nhắn giữa hai nhân viên từ tháng 3 năm 2024 cho biết Zuckerberg đã từ chối tạo quyền kiểm soát của phụ huynh cho các chatbot và các nhân viên đó đang làm việc trên “chatbot AI lãng mạn” sẽ được phép cho người dùng dưới 18 tuổi.
Chúng tôi “đã thúc đẩy mạnh mẽ quyền kiểm soát của phụ huynh để tắt GenAI – nhưng lãnh đạo GenAI đã từ chối đưa ra quyết định của Mark”, một nhân viên viết trong cuộc trao đổi đó.
Nick Clegg, người đứng đầu chính sách toàn cầu của Meta cho đến đầu năm 2025, cho biết trong một email có trong tài liệu tòa án rằng ông cho rằng cách tiếp cận của Meta đối với những người bạn đồng hành AI bị tình dục hóa là không khôn ngoan.
Bày tỏ lo ngại rằng tương tác tình dục có thể là trường hợp sử dụng phổ biến nhất đối với những người bạn đồng hành AI của Meta bởi những người dùng tuổi teen, Clegg nói: “Đó có thực sự là điều chúng tôi muốn những sản phẩm này được biết đến không (chưa tính đến phản ứng dữ dội xã hội không thể tránh khỏi sẽ xảy ra sau đó)?” Clegg đã không trả lời yêu cầu bình luận.
Các chính sách về chatbot AI của Meta cuối cùng cũng được đưa ra ánh sáng, gây ra phản ứng dữ dội tại Quốc hội Hoa Kỳ và các nơi khác.
Một bài báo của Wall Street Journal vào tháng 4 năm 2025 đã phát hiện ra rằng các chatbot của Meta bao gồm các nhân vật vị thành niên bị giới tính hóa một cách công khai và họ tham gia vào các hoạt động nhập vai tình dục ở mọi lứa tuổi, bao gồm cả mô tả bằng hình ảnh về cơ thể trẻ vị thành niên. Reuters đưa tin vào tháng 8 rằng hướng dẫn chính thức của Meta dành cho chatbot nói rằng việc lôi kéo trẻ vào những cuộc trò chuyện lãng mạn hoặc gợi cảm là “có thể chấp nhận được”. Đáp lại báo cáo, Meta cho biết họ đang thay đổi chính sách của mình và tài liệu nội bộ cấp phép phê duyệt đó đã có sai sót.
Nguồn The Guardian