Ngược gió vừa đưa ra thông báo về sản phẩm mới ngày hôm nay và nó báo hiệu một sự thay đổi cơ bản trong cách công ty nghĩ về rủi ro AI.
CEO Amiram Shachar đã đăng một bài viết dài sáng nay bố trí Upwind’s “Bảo mật cho AI” luận án, phần đồng hành với nỗ lực trước đó của họ xung quanh các khả năng của AI tác nhân. Lập luận cốt lõi rất đơn giản: Bảo mật AI không phải là một danh mục sản phẩm độc lập mà bạn có thể sử dụng. Nó phải được tích hợp vào mọi lớp bảo mật đám mây hiện có, từ quy trình mã cho đến thời gian chạy.
Bề mặt tấn công đã di chuyển
Phần nổi bật nhất trong cách đóng khung của Shachar là lập luận của anh ấy về nơi hành động thực sự diễn ra. Bảo mật thời gian chạy truyền thống đã mất nhiều năm để theo dõi quá trình thực thi, chữ ký phần mềm độc hại và luồng mạng.
Đó ngày càng là nơi sai lầm để tìm kiếm. Hoạt động đe dọa thú vị đã chuyển lên lớp ứng dụng, tới API, tải trọng, lời nhắc và hàng nghìn cuộc gọi MCP mà một tác nhân AI duy nhất sẽ thực hiện để hoàn thành nhiệm vụ. Khi một mô hình nhận được lời nhắc, gọi một công cụ, truy cập máy chủ MCP, truy xuất từ kho dữ liệu và trả về tải trọng, mỗi bước nhảy trong chuỗi đó là một điểm hiển thị. Nhắc nhở, rò rỉ dữ liệu, gọi công cụ được cấp phép quá mức, không có thông tin nào trong số đó hiển thị khi bạn đang xem các gói.
Vấn đề tồn kho hiện đang rất nghiêm trọng
Một trong những điểm thiết thực hơn trong thông báo liên quan đến hàng tồn kho trên nền tảng đám mây. Hiện có nhiều cách hơn bao giờ hết để sử dụng AI trên đám mây, thông qua các dịch vụ được quản lý như AWS Bedrock, Azure AI Foundry và Vertex AI, thông qua các mô hình nguồn mở tự lưu trữ hoặc thông qua các tác nhân tùy chỉnh, máy chủ MCP, cơ sở kiến thức và điểm cuối suy luận.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Điều thú vị là các nhóm trong tổ chức của bạn đang quay vòng các hoạt động này liên tục, thường không có bất kỳ khả năng hiển thị nào về mặt bảo mật. Câu trả lời của Upwind là lớp kiểm kê AI vượt ra ngoài danh sách tài nguyên phẳng để ánh xạ các mối quan hệ, sự phụ thuộc và rủi ro giữa các thành phần.
Trong thực tế, điều đó trông như thế nào: mọi Tác nhân Bedrock, Trợ lý Azure OpenAI và tác nhân tự lưu trữ đều xuất hiện cùng với mô hình đằng sau nó, cho dù nó có bật rào chắn bảo vệ hay không, dấu thời gian gọi lần cuối cùng và danh tính không phải con người mà nó chạy theo. Kho dữ liệu cung cấp khối lượng công việc AI được gắn cờ vì PII, PHI và các bí mật bị lộ. Máy chủ MCP hiển thị phương thức xác thực và trạng thái hiển thị công khai so với riêng tư. Shachar gọi các cổng MCP được công khai ở trạng thái xuống cấp là mục tiêu hàng đầu của những kẻ tấn công và dựa trên tốc độ tăng tốc của việc áp dụng MCP, đó không phải là mối lo ngại giả định.
Shift trái không chết đâu, chỉ là nó phải chạy nhanh hơn thôi
Về mặt mã, Upwind đang cập nhật khả năng quét của mình để theo kịp mã do AI tạo ra, một thách thức về cơ bản khác với việc xem xét các cam kết do con người tạo ra. Vận tốc tăng lên theo cấp độ lớn, với nhiều mã hơn từ nhiều nguồn hơn, được hợp nhất nhanh hơn và nhiều phần phụ thuộc được đưa vào tự động hơn. Công ty chỉ ra rằng công việc của nhóm nghiên cứu của họ đã phát hiện ra chiến dịch Shai-Hulud, một gói bị xâm phạm di chuyển qua chuỗi cung ứng và vào các đường ống xây dựng, như một bản xem trước về bối cảnh mối đe dọa này trong thực tế.
Điều gì vẫn đang đến
Ngược gió đang báo hiệu nhiều điều hơn nữa sẽ đến. Phần tiếp theo là tự bảo mật các điểm cuối AI, điểm mà các lời nhắc và phản hồi thực sự xuyên suốt, với bản xem trước riêng tư đã được mở để đăng ký.
Đặt cược rộng hơn mà Upwind đang thực hiện là ngành bảo mật vẫn đang coi AI là một mối quan tâm thích hợp, một hộp mới để kiểm tra thay vì một luồng chạy qua mọi danh mục rủi ro hiện có. Cho dù bạn có mua khung đó hay không thì nội dung sản phẩm ở đây là có thật, hàng tồn kho, đường cơ sở về hành vi thời gian chạy và quá trình quét chuỗi cung ứng đã được tái cấu trúc cho kỷ nguyên đại lý. Đó là một câu chuyện bảo mật AI mạch lạc hơn hầu hết các nhà cung cấp đang kể hiện nay.
Nguồn The Next Web