Microsoft cảnh báo rằng việc vội vàng triển khai các tác nhân AI tại nơi làm việc có thể tạo ra một loại mối đe dọa nội bộ mới, tác nhân hai mang AI. Trong nó Báo cáo xung điện tửnó cho biết những kẻ tấn công có thể bẻ khóa quyền truy cập của trợ lý hoặc cung cấp thông tin đầu vào không đáng tin cậy cho trợ lý, sau đó sử dụng quyền truy cập đó để gây thiệt hại trong nội bộ tổ chức.
Vấn đề không phải là AI mới. Đó là sự kiểm soát không đồng đều. Microsoft cho biết các đại lý đang lan rộng khắp các ngành, trong khi một số hoạt động triển khai đã vượt qua quá trình đánh giá CNTT và các nhóm bảo mật không biết được những gì đang chạy và những gì nó có thể chạm tới.
Video được đề xuất
Điểm mù đó càng nguy hiểm hơn khi đặc vụ có thể ghi nhớ và hành động. Microsoft chỉ ra một chiến dịch lừa đảo gần đây mà nhóm Defender của họ đã điều tra, sử dụng việc đầu độc bộ nhớ để giả mạo bối cảnh được lưu trữ của trợ lý AI và định hướng các kết quả đầu ra trong tương lai.
Đặc vụ bóng tối mở rộng bán kính vụ nổ
Microsoft gắn rủi ro tác nhân kép với tốc độ. Khi quá trình triển khai vượt xa mức độ bảo mật và tuân thủ, AI bóng tối sẽ xuất hiện nhanh chóng và những kẻ tấn công có nhiều cơ hội hơn để chiếm quyền điều khiển một công cụ đã có quyền truy cập hợp pháp. Đó là kịch bản ác mộng.
Báo cáo coi đây là vấn đề truy cập cũng giống như vấn đề AI. Trao cho tác nhân nhiều đặc quyền và một quy trình làm việc bị lừa có thể tiếp cận dữ liệu và hệ thống mà nó không bao giờ có ý định chạm tới. Microsoft thúc đẩy khả năng quan sát và quản lý tập trung để các nhóm bảo mật có thể thấy mọi tác nhân gắn liền với công việc, bao gồm cả các công cụ xuất hiện bên ngoài các kênh được phê duyệt.
Sự mở rộng đã xảy ra. Microsoft trích dẫn công việc khảo sát cho thấy 29% nhân viên đã sử dụng các tác nhân AI không được phê duyệt cho các nhiệm vụ công việc, kiểu mở rộng âm thầm khiến việc giả mạo khó bị phát hiện sớm hơn.
Đó không chỉ là những lời nhắc xấu
Điều này không giới hạn ở việc ai đó gõ sai yêu cầu. Microsoft nhấn mạnh việc đầu độc bộ nhớ là một cuộc tấn công dai dẳng, một cuộc tấn công có thể tạo ra những thay đổi ảnh hưởng đến các phản hồi sau này và làm xói mòn lòng tin theo thời gian.
Nhóm AI Red của họ cũng chứng kiến các đặc vụ bị lừa bởi các thành phần giao diện lừa đảo, bao gồm các hướng dẫn có hại ẩn trong nội dung hàng ngày, cộng với việc định khung nhiệm vụ chuyển hướng lý luận một cách tinh vi. Nó có thể trông bình thường. Đó là vấn đề.
Phải làm gì tiếp theo
Lời khuyên của Microsoft là hãy coi các tác nhân AI giống như một loại nhận dạng kỹ thuật số mới chứ không phải là một tiện ích bổ sung đơn giản. Báo cáo đề xuất chế độ Zero Trust cho các tổng đài viên, xác minh danh tính, giữ chặt quyền và giám sát hành vi liên tục để phát hiện các hành động bất thường.
Quản lý tập trung quan trọng vì lý do tương tự. Nếu các nhóm bảo mật có thể kiểm kê các tác nhân, hiểu những gì họ có thể tiếp cận và thực thi các biện pháp kiểm soát nhất quán thì vấn đề về tác nhân kép sẽ nhỏ hơn.
Trước khi bạn triển khai nhiều tác nhân hơn, hãy ánh xạ những gì mỗi tác nhân có thể truy cập, áp dụng đặc quyền tối thiểu và thiết lập giám sát để có thể gắn cờ việc giả mạo lệnh. Nếu bạn chưa thể trả lời những điều cơ bản đó, hãy chậm lại và sửa nó trước.
Nguồn DigitalTrend