Google đã đệ đơn kiện vào thứ Sáu để phá hủy cơ sở hạ tầng đằng sau một hoạt động tội phạm mạng của Trung Quốc có tên là Outsider Enterprise. Nhóm đã sử dụng AI, bao gồm cả Gemini của chính Google, để tạo ra các trang web lừa đảo và gửi tin nhắn văn bản lừa đảo mạo danh Google và các thương hiệu khác. Nó đã gửi 2,5 triệu tin nhắn lừa đảo tới người dùng Android trong khoảng thời gian hai tuần.
Hoạt động này đã triển khai 9.000 trang web giả mạo và 1 triệu tên miền web lừa đảo được thiết kế để đánh cắp mật khẩu và số thẻ tín dụng. Google cho biết nhóm đã lừa đảo tài chính “hàng trăm ngàn nạn nhân” với những tổn thất “ước tính hàng triệu.” Chỉ trong hai tuần trong tháng 5, 55.000 tin nhắn rác đã bị người dùng Android gắn cờ, hơn hai khiếu nại mỗi phút.
Chi tiết tai hại nhất là trong hồ sơ tòa án. Các thành viên của Outsider Enterprise tích cực khuyến khích nhau sử dụng Gemini để tạo mã tùy chỉnh cho các trang web lừa đảo, sau đó mã này được nhập vào bộ phần mềm của nhóm và chuyển đổi thành các trang lừa đảo trực tiếp. AI của chính Google đã được sử dụng để xây dựng các công cụ nhắm mục tiêu đến người dùng của chính Google.
Nhóm phối hợp thông qua Telegram và phân phối “bộ dụng cụ lừa đảo” cho phép bọn tội phạm cấp thấp hơn thực hiện các chiến dịch văn bản giả mạo bắt chước các thương hiệu đáng tin cậy. Google cho biết họ sử dụng “Các công cụ hỗ trợ AI để chống lừa đảo do AI cung cấp,” chặn hơn 10 tỷ tin nhắn lừa đảo mỗi tháng thông qua hệ thống phát hiện của nó.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Google cho biết họ đang phối hợp với FBI, cơ quan đang thực hiện các hành động thực thi pháp luật chưa xác định. Công ty cũng đang hợp tác với AT&T, T-Mobile và Verizon để chặn các tin nhắn lừa đảo trước khi chúng đến tay người dùng. FBI đã không trả lời yêu cầu bình luận.
Vụ kiện mang tính dân sự, không phải hình sự, có nghĩa là Google đang tìm cách đóng cửa cơ sở hạ tầng thay vì đưa bất kỳ ai vào tù. Đó là loại hành động mà các công ty Công nghệ lớn ngày càng sử dụng để theo dõi các hoạt động tội phạm mạng khi cơ quan thực thi pháp luật tiến hành chậm hoặc không hề tiến hành, đặc biệt khi thủ phạm nằm ở các khu vực pháp lý ngoài tầm với của chính quyền phương Tây.
Quy mô của hoạt động cho thấy các vụ lừa đảo được hỗ trợ bởi AI đã trở nên rẻ tiền như thế nào. Xây dựng hàng nghìn trang lừa đảo thuyết phục vốn đòi hỏi các nhà phát triển phải có tay nghề cao. Giờ đây, nhóm Telegram có thể sử dụng mô hình AI biên giới để tạo mã và triển khai trên quy mô lớn. AI đang làm cho các công cụ tấn công trở nên rẻ hơn trên mọi danh mục, từ phát hiện lỗ hổng đến kỹ thuật xã hội. Outsider Enterprise trông giống như vậy về mặt phân phối: gian lận quy mô công nghiệp được xây dựng bằng AI có sẵn.
Google cho biết họ sẽ tiếp tục đầu tư vào công nghệ phát hiện lừa đảo được hỗ trợ bởi AI và kêu gọi người dùng kích hoạt các tính năng chống thư rác trên Android. Nhưng sự thật khó chịu là chính công ty bán AI hiện đang kiện những người đã sử dụng nó để phạm tội. Bảo mật tác nhân AI không chỉ là vấn đề về tính năng sản phẩm. Khi các công cụ mạnh mẽ và dễ tiếp cận như vậy, cuộc chạy đua vũ trang giữa người xây dựng và kẻ lạm dụng sẽ diễn ra thường xuyên.
Nguồn The Next Web