Công ty video AI đang bổ sung cơ sở hạ tầng kiểm duyệt được xây dựng cho nội dung do AI tạo ra, tăng gấp đôi mô hình tạo màn hình mà nó đã chạy từ năm 2017.
Synthesia quyết định xem video có được phép hay không trước khi nó tồn tại. Công ty video AI ở London, cho phép người dùng tạo các clip có hình đại diện từ một tập lệnh, đã thông báo vào ngày 4 tháng 6 rằng họ đang mở rộng mức độ tin cậy và an toàn bằng cách hợp tác với Cinder, một công ty cơ sở hạ tầng kiểm duyệt được xây dựng cho nội dung do AI tạo ra. Thỏa thuận này củng cố một mô hình Synthesia đã chạy kể từ những ngày đầu: đánh giá yêu cầu chứ không phải hồ sơ đã hoàn thành.
Thứ tự đó chính là phần đặc biệt. Mặc định cho các nền tảng trực tuyến từ lâu đã được phát hiện sau khi thực tế, lưu trữ nội dung và chờ nội dung đó được gắn cờ. Synthesia đánh giá mọi tập lệnh theo chính sách của nó tại thời điểm tạo, trước khi mô hình hiển thị khung.
Cinder tham gia vào quy trình làm việc đó giống như những gì công ty mô tả là một nhân viên nội bộ thực hiện lần thứ hai đối với mọi quyết định về mô hình, thu thập bối cảnh và chỉ báo cáo cho người đánh giá khi có quyết định thực sự. Mỗi hành động của người đánh giá sẽ đào tạo lại hệ thống và trình phân loại của Cinder hỗ trợ hơn 100 ngôn ngữ ngay lập tức.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Trường hợp hợp tác là khối lượng. Vào năm 2025, công cụ tự động của Synthesia đã xem xét hơn 11,5 triệu nội dung và xóa 841.957 nội dung vi phạm chính sách của Synthesia, trong khi tính năng xem xét thủ công xử lý thêm 382.792 mục và xóa 70.272 mục.
Khối lượng đánh giá tự động tăng khoảng 77% so với cùng kỳ năm ngoái, từ 6,56 triệu mục lên 11,58 triệu, trong khi nội dung tiếp cận người đánh giá giảm từ 792.586 xuống 441.086. Mô hình này được thực hiện có chủ ý: đẩy những trường hợp hiển nhiên vào máy và dành riêng cho những người kháng cáo và mơ hồ. Công ty đã xử lý 12.450 đơn khiếu nại của người dùng vào năm 2025, đảo ngược khoảng 31% so với đánh giá.
Synthesia coi sự an toàn là một tài sản thương mại chứ không phải là một chi phí. Khách hàng của nó nghiêng hẳn về doanh nghiệp, bao gồm hơn 60% trong số Fortune 100 thuộc các dịch vụ tài chính, chăm sóc sức khỏe, quốc phòng và khu vực công, những người mua mà nền tảng có thể biến thành công cụ deepfake không thể sử dụng được. Công ty có các chứng chỉ ISO 27001, ISO 42001 và ISO 27701, đồng thời xuất bản báo cáo sáng tạo có trách nhiệm hàng năm mà công ty gọi là Futuresafe.
Một thử nghiệm bên ngoài gần đây đã mang lại cho mặt sân một bề mặt bê tông. Khi đài truyền hình công cộng Bỉ RTBF điều tra các công cụ video AI cho một báo cáo có tiêu đề IA, la fabrique à arnaques (AI, nhà máy lừa đảo), Synthesia đã chặn việc tạo ra các trò lừa đảo sâu không có sự đồng thuận, tuyên truyền chính trị, nội dung phân biệt chủng tộc và lừa đảo đầu tư tiền điện tử, trong khi một số nền tảng đối thủ đã tạo ra tất cả chúng.
Đối với một công ty đã xây dựng định vị doanh nghiệp của mình bằng cách từ chối một số lời nhắc nhất định, một đài truyền hình độc lập ghi lại lời từ chối là loại hình xác nhận mà tiếp thị không thể mua được.
Theo lời của công ty, mối liên kết với Cinder là về việc giữ nguyên hồ sơ đó khi sản phẩm tăng tốc. Khi Synthesia cung cấp các loại hình đại diện, ngôn ngữ và bề mặt mới, nhóm tin cậy và an toàn của nó muốn kiểm duyệt theo tốc độ của lộ trình thay vì trì hoãn nó.
Liệu hệ thống kết hợp có hoạt động theo quy mô mà Synthesia đang nhắm mục tiêu hay không là một câu hỏi mà chỉ các báo cáo Futuresafe trong tương lai của nó mới trả lời được. Vụ đặt cược bên dưới thông báo còn lâu đời hơn mối quan hệ hợp tác: rằng trong video AI, thời điểm an toàn nhất để nói không là trước khi bất cứ điều gì được thực hiện.
Nguồn The Next Web