Hãng bảo mật AIR xây dựng kỹ năng đặc vụ AI giảđã quảng bá nó thông qua một thị trường kỹ năng phổ biến và quảng bá nó bằng một quảng cáo trên Instagram, đồng thời cho biết nó đã tiếp cận được khoảng 26.000 đại lý, bao gồm một số đại lý thuộc tài khoản công ty. Mọi trình quét bảo mật kỹ năng mà công ty đã thử nghiệm đều đánh dấu nó an toàn. Theo thiết kế, tải trọng này vô hại, chỉ thu thập địa chỉ email của người dùng, nhưng AIR cho biết kẻ tấn công thực sự có thể đã sử dụng cùng một chỗ đứng để đọc tệp, di chuyển dữ liệu hoặc tấn công các hệ thống nội bộ.
Kỹ năng này, được gọi là trang đích thương hiệu, tuyên bố sẽ xây dựng trang đích bằng công cụ thiết kế Stitch của Google và nhắm đến những người dùng không rành về kỹ thuật. Để làm cho nó trông đáng tin cậy, AIR đã theo đuổi hai tín hiệu đáng tin cậy mà hệ sinh thái vẫn coi là bằng chứng về sự an toàn: các ngôi sao GitHub và một phán quyết rõ ràng về máy quét.
Đối với các ngôi sao, nó đã mở ra một yêu cầu kéo tới kho lưu trữ thị trường kỹ năng với khoảng 36.000 ngôi sao và 156 kỹ năng. Yêu cầu kéo đã được hợp nhất sau một vài ngày, do đó kỹ năng này kế thừa số sao của kho lưu trữ. Sau đó, AIR chạy một quảng cáo trên Instagram nhắm mục tiêu đến các nhà tiếp thị, nhân viên bán hàng và nhà thiết kế, những người đã cài đặt và đưa nó vào hoạt động.
Các máy quét mà AIR kiểm tra sẽ phân tích gói hàng bạn giao cho chúng, nghĩa là tệp định nghĩa kỹ năng và mọi thứ được gửi kèm theo nó. Điều đó bao gồm các công cụ của Cisco, NVIDIA và những công cụ được tích hợp trong cơ quan đăng ký kỹ năng chính. Kỹ năng của AIR không có hướng dẫn thiết lập độc hại mà yêu cầu tác nhân cài đặt “Khâu SDK” bằng cách theo dõi tài liệu tại liên kết bên ngoài mà nó kiểm soát, không phải miền Google chính hãng.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Lúc đầu, liên kết dẫn đến tài liệu Stitch thực sự, vì vậy máy quét nhìn thấy một gói sạch trỏ đến một trang thiết lập hợp lý và xóa nó. Trang mà nhân viên thực sự sẽ tìm nạp và theo dõi nằm ngoài quá trình quét. Sau khi kỹ năng này được cài đặt rộng rãi, AIR đã hoán đổi trang đằng sau liên kết đó thành một trang yêu cầu đại lý tải xuống và chạy tập lệnh.
Kỹ thuật này không mới. Ba tuần trước khi AIR công bố kết quả, Trail of Bits đã vượt qua trình phát hiện kỹ năng độc hại của ClawHub, máy quét của Cisco và cả ba máy quét được tích hợp trong cơ quan đăng ký kỹ năng chính. Kết luận của nó là máy quét sẽ kiểm tra một gói cố định trong khi kẻ tấn công có thể tiếp tục điều chỉnh tải trọng cho đến khi nó vượt qua.
Các chiến dịch thực sự đã sử dụng thủ thuật tương tự trong nhiều tháng, giữ cho kỹ năng được gửi rõ ràng và lưu trữ tải trọng trên một trang web mà tác nhân chỉ tìm nạp vào thời điểm cài đặt.
Vấn đề là về mặt cấu trúc. Quá trình quét diễn ra một lần, nhưng trang mà kỹ năng chỉ ra tác nhân có thể được viết lại bất kỳ lúc nào sau đó. Tài liệu riêng của Anthropic cảnh báo rằng các kỹ năng tìm nạp URL bên ngoài có rủi ro chính xác vì lý do này, vì nội dung có thể thay đổi sau khi kỹ năng được kiểm tra.
Nghiên cứu riêng biệt trong năm nay cho thấy bảy máy quét lớn đồng ý với ít hơn một trong năm trăm lá cờ kết hợp của họ, bởi vì mỗi người đánh giá một kỹ năng một cách biệt lập, mù quáng trước các liên kết bên ngoài và những gì thay đổi sau khi xem xét.
Các số liệu tỷ lệ chỉ đến từ AIR và đáng được đọc một cách hoài nghi. Công ty đang tung ra một thị trường kỹ năng được quản lý và đóng cửa viết bài quảng cáo cho nó, vì vậy con số 26.000, chi tiết tài khoản công ty và tuyên bố rằng họ có thể nắm toàn quyền kiểm soát mọi đại lý không được xác nhận độc lập. Điều quan trọng là phương pháp: các máy quét được đặt tên thực sự chỉ đánh giá gói đã gửi, điểm mù liên kết bên ngoài là có thật và đã được chứng minh độc lập, đồng thời các tín hiệu tin cậy mà AIR mượn, các ngôi sao và quét sạch, chính xác là những tín hiệu mà hệ sinh thái vẫn coi là bằng chứng.
Thử nghiệm sắp xếp mọi tín hiệu tin cậy yếu xung quanh các kỹ năng của đặc vụ thành một lần chạy: các ngôi sao có thể mượn, quá trình quét để đọc ảnh chụp nhanh và một liên kết có thể được viết lại sau khi xóa séc. Dù con số thực là 26.000 hay một phần nhỏ thì khoảng cách mà nó vượt qua vẫn là khoảng cách mà các hậu vệ vẫn chưa thể thu hẹp lại.
Đối với các nhóm bảo mật, bài học rút ra ngay lập tức cũng chính là điều mà các nhà nghiên cứu tiếp tục hướng tới: coi các kỹ năng như phần mềm chứ không phải văn bản và xem xét kỹ năng mà một kỹ năng hướng tới chứ không chỉ những gì chứa đựng bên trong nó. Định tuyến các kỹ năng mới thông qua một nguồn duy nhất mà bạn kiểm soát, kiểm tra lại chúng khi có bất kỳ thay đổi nào, ghim các phiên bản và giữ các đặc vụ ở mức ít đặc quyền nhất.
Nguồn The Next Web