Ngành an ninh mạng đang phải đối mặt với một thực tế mới: quản lý lỗ hổng truyền thống không còn đủ nữa. Khi các doanh nghiệp nhanh chóng triển khai các ứng dụng hỗ trợ AI, tác nhân tự trị và cơ sở hạ tầng mô hình ngôn ngữ lớn (LLM), các nhóm bảo mật đang phát hiện ra rằng nhiều trường hợp phơi nhiễm nguy hiểm nhất không thể được xác định chỉ bằng cách quét dựa trên CVE thông thường. Thay vào đó, các tổ chức ngày càng phải vật lộn với các dịch vụ AI bị định cấu hình sai, cơ sở hạ tầng máy học bị lộ và các hệ thống được kết nối với nhau tạo ra các đường tấn công hoàn toàn mới.
Trong bối cảnh đó, Nhận thức Cy đang mở rộng nền tảng quản lý phơi nhiễm với khả năng kiểm tra AI liên tục được thiết kế để phát hiện những rủi ro theo ngữ cảnh, phức tạp mà các máy quét xác định thường bỏ qua. Sáng kiến này phản ánh sự thay đổi rộng hơn trong toàn ngành, trong đó các nhà lãnh đạo bảo mật đang tiến xa hơn việc xác định các lỗ hổng đã biết để liên tục xác thực cách kẻ tấn công có thể khai thác môi trường riêng của tổ chức.
AI tạo ra những điểm mù mới
Việc áp dụng nhanh chóng AI sáng tạo đã mở rộng đáng kể các bề mặt tấn công doanh nghiệp. Các tổ chức đang triển khai các máy điều khiển AI, hệ thống thế hệ tăng cường truy xuất (RAG), máy chủ Giao thức bối cảnh mô hình (MCP), nền tảng điều phối và cơ sở hạ tầng máy học nhanh hơn nhiều chương trình bảo mật có thể kiểm kê chúng.
Không giống như các lỗ hổng phần mềm truyền thống, các hệ thống này thường tạo ra các lỗ hổng bảo mật thông qua lỗi cấu hình, đặc quyền quá mức hoặc sự lộ lọt ngoài ý muốn giữa các dịch vụ được kết nối với nhau. Những điểm yếu như vậy có thể không được gán CVE nhưng chúng vẫn có thể cung cấp cho kẻ tấn công quyền truy cập trực tiếp vào dữ liệu kinh doanh nhạy cảm.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Theo CyCognito, nền tảng của nó hiện xác định hơn 60 loại công nghệ liên quan đến AI, bao gồm máy chủ MCP, Ollama, MLflow, PyTorch, Triton, n8n và các thành phần khác thường được sử dụng trong triển khai AI doanh nghiệp.
Từ phát hiện đến tấn công mô phỏng
Thay vì dừng lại ở việc khám phá tài sản, khả năng mới nhất của CyCognito sử dụng các tác nhân AI để mô phỏng cách kẻ tấn công di chuyển qua cơ sở hạ tầng lộ thiên của tổ chức.
Thay vì hỏi liệu lỗ hổng có tồn tại hay không, hệ thống sẽ đánh giá liệu một chuỗi hành động có thể thực sự xâm phạm các hệ thống nhạy cảm hay làm lộ dữ liệu có giá trị hay không. Các chuỗi tấn công này kết hợp lý luận theo ngữ cảnh, nhận thức về môi trường và thử nghiệm nhiều bước vượt xa khả năng quét lỗ hổng truyền thống.
Bài viết chuyên sâu về kỹ thuật ban đầu được công bố gần đây của công ty thử nghiệm AI liên tục giải thích cách các tác nhân AI này ưu tiên thử nghiệm bằng cách sử dụng thông tin theo ngữ cảnh được thu thập trên bề mặt tấn công bên ngoài của tổ chức, cho phép các nhóm bảo mật tập trung vào rủi ro kinh doanh đã được xác thực thay vì các phát hiện kỹ thuật riêng lẻ.
Những phát hiện trong thế giới thực nêu bật những rủi ro mới nổi
CyCognito đã chia sẻ một số ví dụ minh họa các loại phơi nhiễm mà quá trình thâm nhập AI liên tục có thể xác định được.
Trong một trường hợp, máy chủ MCP có thể truy cập từ bên ngoài đã cung cấp giao diện ngôn ngữ tự nhiên không được xác thực được kết nối với môi trường CRM sản xuất. Bằng cách tuân theo trình tự tiêm nhanh và tương tác API, các tác nhân AI có thể liệt kê các dịch vụ phụ trợ và cuối cùng truy cập vào hàng triệu hồ sơ tài chính và khách hàng mà không cần thông tin xác thực.
Một hoạt động tham gia khác đã phát hiện ra cơ sở kiến thức có thể truy cập công khai hỗ trợ việc triển khai RAG. Trong khi xác thực bảo vệ chính tác nhân AI, kho lưu trữ tài liệu cơ bản vẫn có thể truy cập công khai, làm lộ các tài liệu nội bộ, hợp đồng, thông tin liên lạc và thông tin khách hàng.
Có lẽ nổi bật nhất là việc phát hiện ra một nền tảng bảo mật vật lý kết nối internet chịu trách nhiệm quản lý các biện pháp kiểm soát truy cập tòa nhà, camera giám sát và đầu đọc thẻ. Hệ thống này đã được triển khai cùng với các dịch vụ AI hướng tới khách hàng mà không có phân khúc thích hợp, chứng tỏ các sáng kiến chuyển đổi kỹ thuật số có thể vô tình mở rộng rủi ro sang công nghệ vận hành như thế nào.
Không có kịch bản nào trong số này dựa vào việc khai thác lỗ hổng phần mềm đã biết. Thay vào đó, chúng xuất phát từ các quyết định về kiến trúc, phương pháp triển khai và bối cảnh kinh doanh mà các máy quét thông thường có thể sẽ bỏ lỡ.
Tại sao việc kiểm tra liên tục lại quan trọng
Thử nghiệm thâm nhập truyền thống vẫn là một biện pháp bảo mật quan trọng, nhưng tính chất thời điểm của nó hạn chế tính hiệu quả của nó đối với các môi trường thay đổi hàng ngày.
Trong khi AI đã tăng tốc thử nghiệm tấn công, nhiều tổ chức vẫn thực hiện các đánh giá do AI cung cấp dưới dạng cam kết định kỳ vì chi phí tính toán. Theo CyCognito, điều này thường giới hạn việc thử nghiệm sâu chỉ ở những nội dung có mức độ ưu tiên cao nhất, khiến phần lớn bề mặt tấn công bên ngoài hầu như không được kiểm tra.
Để giải quyết thách thức này, công ty đã phát triển cái mà họ gọi là Target Graph™, một lớp điều phối kết hợp đánh giá mức độ phơi nhiễm, thông tin về mối đe dọa, xác thực xác định và bối cảnh kinh doanh để xác định nơi các tác nhân AI nên dành nỗ lực tính toán của mình.
Cách tiếp cận này cho phép quá trình kiểm thử AI liên tục điều chỉnh độ sâu và kỹ thuật dựa trên các nội dung mới được phát hiện, những thay đổi về môi trường và hoạt động của mối đe dọa mới nổi.
Một lợi thế nữa đến từ vòng phản hồi của hệ thống. Các kỹ thuật tấn công được các tác nhân AI xác thực thành công sau đó có thể được chuyển đổi thành các thử nghiệm xác định, giảm yêu cầu tính toán trong tương lai đồng thời mở rộng phạm vi bảo hiểm tự động.
Sự chuyển đổi ngành rộng hơn
Sự xuất hiện của cơ sở hạ tầng dựa trên AI đang thay đổi cách các tổ chức nghĩ về quản lý tiếp xúc bên ngoài. Khi môi trường doanh nghiệp ngày càng trở nên năng động, các chương trình bảo mật đang chuyển từ việc xác định các lỗ hổng riêng biệt sang liên tục đánh giá cách các hệ thống tương tác và liệu những tương tác đó có tạo ra các lộ trình có thể khai thác được hay không.
Thông báo mới nhất của CyCognito phản ánh sự phát triển đó. Thay vì coi thử nghiệm thâm nhập như một bài tập xác thực không thường xuyên, công ty hình dung thử nghiệm liên tục do AI điều khiển sẽ trở thành một thành phần luôn có trong quản lý phơi nhiễm.
Được gọi nội bộ là “Dự án Kineto”, sáng kiến này lấy cảm hứng từ quá trình chuyển đổi từ chụp ảnh tĩnh sang ảnh chuyển động, một phép ẩn dụ để thay thế các ảnh chụp nhanh bảo mật định kỳ bằng khả năng hiển thị liên tục vào các bề mặt tấn công đang phát triển.
Khi việc áp dụng AI tăng tốc trên khắp các doanh nghiệp, thách thức của ngành có thể không còn là tìm ra các lỗ hổng đã biết nữa mà là hiểu được vô số rủi ro nhỏ kết hợp thành rủi ro kinh doanh có ý nghĩa như thế nào. Việc pentesting AI liên tục đại diện cho một cách tiếp cận mới nổi để giải quyết vấn đề đó.
Nguồn The Next Web