Deepfakes đã trở nên khó khăn đáng báo động để phát hiện. Khó khăn đến mức chỉ có 0,1% mọi người ngày nay có thể xác định chúng.
Đó là theo IPROOV, một công ty xác thực sinh trắc học của Anh. Công ty đã thử nghiệm các kỹ năng thám tử AI của công chúng bằng cách hiển thị 2.000 người tiêu dùng Anh và Mỹ một bộ sưu tập cả nội dung chính hãng và tổng hợp.
Đáng buồn thay, những kẻ thích hợp vừa chớm nở đã thất bại trong các cuộc điều tra của họ.
99,9% trong số họ không thể phân biệt giữa thực tế và Deepfake. Nghĩ rằng bạn có thể làm tốt hơn, Sherlock? Bạn không phải là người duy nhất.
Trong nghiên cứu của IPROOV, hơn 60% số người tham gia đã tự tin vào các kỹ năng phát hiện AI của họ – bất kể tính chính xác của dự đoán của họ. Vẫn tin tưởng mũi của bạn cho manh mối kỹ thuật số? Vâng, bạn có thể kiểm tra nó cho chính mình trong một Deepfake Quiz Được phát hành cùng với kết quả nghiên cứu.
Hội thảo trên web: Nuôi dưỡng thành công Scaleup
Tham gia với chúng tôi vào ngày 18 tháng 2 để thảo luận về vai trò quan trọng của các hệ sinh thái trong việc nuôi dưỡng các công ty khởi nghiệp và mở rộng quy mô và thúc đẩy một cảnh quan kinh doanh năng động.
Bài kiểm tra đến giữa một sự gia tăng trong các cuộc tấn công Deepfake hấp dẫn.
Vào tháng 1, ví dụ, các tờ báo lá cải đã bị mê hoặc bởi một người nhắm vào một phụ nữ Pháp tên là Anne.
Những kẻ lừa đảo đã lừa cô ấy trong số € 830.000 sau khi sử dụng Deepfakes để tư thế như Brad Pitt với Deepfakes của diễn viên. Những kẻ lừa đảo cũng đã gửi các cảnh quay của cô về một mỏ neo truyền hình do AI tạo ra để tiết lộ mối quan hệ độc quyền của ngôi sao Hollywood với một cá nhân đặc biệt, người có tên của Anne.
Anne tội nghiệp đã bị chế giễu một cách tròn trịa vì sự ngây thơ của mình, nhưng cô ấy không còn cô đơn khi rơi vào một Deepfake.
Deepfakes đang gia tăng
Năm ngoái, một cuộc tấn công sâu thẳm đã xảy ra cứ sau năm phút, Theo Công ty xác minh ID Onfido.
Nội dung thường được vũ khí hóa cho gian lận. Một nghiên cứu gần đây ước lượng rằng AI điều khiển gần một nửa (43%) của tất cả các nỗ lực gian lận.
Andrew Bud, người sáng lập và Giám đốc điều hành của IPROOV, gán cho sự leo thang thành ba xu hướng hội tụ:
- Sự phát triển nhanh chóng của AI và khả năng sản xuất Deepfakes thực tế của nó
- Sự phát triển của các mạng lưới tội phạm (CAAS) cung cấp quyền truy cập rẻ hơn vào các công nghệ tấn công tinh vi, được xây dựng có mục đích
- Lỗ hổng của thực hành xác minh ID truyền thống
Bud cũng chỉ ra những rào cản thấp hơn của việc vào Deepfakes. Những kẻ tấn công đã tiến triển từ các công cụ đơn giản của giá rẻ đến các công cụ mạnh mẽ tạo ra phương tiện tổng hợp thuyết phục trong vòng vài phút.
Cấm Deepfaking đã trở nên hàng hóa, ông Bud Bud nói với TNW qua email. Các công cụ để tạo nội dung Deepfake có thể truy cập rộng rãi, rất phải chăng và tạo ra kết quả không thể phát hiện được cho mắt người. Nó tạo ra một cơn bão hoàn hảo của tội phạm mạng, vì hầu hết các tổ chức thiếu phòng thủ đầy đủ để chống lại các cuộc tấn công này.
Các giải pháp truyền thống và các quy trình thủ công như nhận dạng video chỉ đơn giản là không thể theo kịp. Các tổ chức phải áp dụng các hệ thống sinh trắc học dựa trên khoa học kết hợp với các hệ thống phòng thủ do AI có thể phát hiện, phát triển và ngăn chặn các cuộc tấn công này.
AI sẽ lên sân khấu trung tâm tại Hội nghị TNW, diễn ra vào ngày 19-20 tháng 6 tại Amsterdam. Vé cho sự kiện hiện đang được bán. Sử dụng mã TNWXMedia2025 khi trả phòng để giảm 30% thẻ giá.
Nguồn The Next Web