NeuralTrust, một công ty khởi nghiệp ở Barcelona, đã huy động được 20 triệu đô la để bảo đảm các tác nhân AI mà các công ty lớn hiện đang triển khai nhanh hơn mức họ có thể theo dõi.
Vòng hạt giống trị giá 17,2 triệu euro được dẫn dắt bởi Alstin Capital của Munich, với VentureFriends, Seaya, Kibo Ventures, Banc Sabadell, EA Ventures Plug and Play Fund và Finaves, cùng với tiền công từ Hội đồng Đổi mới Châu Âu và cơ quan nghiên cứu của Tây Ban Nha. NeuralTrust gọi đây là vòng hạt giống an ninh mạng lớn nhất từng được một công ty EU huy động, một tuyên bố đáng giá nhưng không phải là một tuyên bố kỳ quặc.
Vấn đề: các đại lý không ai đếm
Vấn đề mà NeuralTrust chống lại là sự lan rộng. Bên trong một công ty lớn, các nhân viên AI sinh sôi nảy nở mà không cần ai kiểm đếm. Một nhóm xây dựng một đại lý dịch vụ khách hàng trên một mô hình, một nhóm khác tự động hóa công việc hỗ trợ trong một giây và phần mềm của nhà cung cấp sẽ có các đại lý của riêng họ.
Mỗi cái kết nối với hệ thống nội bộ, cơ sở dữ liệu và các công cụ bên ngoài và tự hoạt động. Hầu hết các nhóm bảo mật không thể nói có bao nhiêu người đang chạy, mỗi người được phép làm gì hoặc liệu một người có bị lừa làm rò rỉ dữ liệu hay không.
Giám đốc điều hành Joan Vendrell nói với Tech Funding News: “Nếu bạn kết nối AI với hệ thống email của mình và nó gửi email đến các địa chỉ bên ngoài, làm rò rỉ thông tin nội bộ thì đó là một thảm họa”.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Câu trả lời của NeuralTrust là một lớp điều khiển duy nhất, được bán dưới dạng ba sản phẩm: TrustGate, một cổng mà mọi lệnh gọi mô hình, công cụ và tác nhân đều đi qua; TrustGuard, một công cụ thời gian chạy nhằm phát hiện và ngăn chặn các cuộc tấn công trực tiếp; và TrustLens, giúp lập bản đồ mọi tác nhân và theo dõi hoạt động của nó. Công ty cho biết họ kiểm tra hàng triệu tương tác của đại lý mỗi ngày và khoảng 1,2%, khoảng 1/80, là độc hại.
Sân bên dưới sân: ‘không phải người Mỹ’
Phần thú vị hơn của câu chuyện là địa lý. Đối thủ chính của NeuralTrust là người Mỹ và nó đang có xu hướng không tồn tại.
Vendrell nói: “Hiện có những vấn đề thực sự liên quan đến chủ quyền công nghệ và quốc phòng ở EU. “Một số khách hàng, đặc biệt là các chính phủ, rất nhạy cảm về việc công nghệ họ mua đến từ đâu”.
Đó là một cuộc tranh luận đúng lúc. Với việc thắt chặt Đạo luật AI của EU và động thái gần đây của Washington nhằm cắt giảm quyền truy cập của nước ngoài vào các mẫu có khả năng nhất của họ, “sản xuất tại Châu Âu” đã trở thành một điểm bán hàng theo đúng nghĩa của nó và các tổ chức Châu Âu đã bắt đầu trao đổi các nhà cung cấp bảo mật của Hoa Kỳ để lấy các nhà sản xuất trong nước.
Một danh mục, nếu nó đến trước khi sự việc xảy ra
Đằng sau vòng này là cuộc đặt cược rằng việc bảo mật các tác nhân AI sẽ trở thành danh mục riêng của nó, giống như cách bảo mật điểm cuối và đám mây đã làm trước đó. Có bằng chứng cho điều đó: Palo Alto Networks đã mua công ty khởi nghiệp Protect AI với số tiền được báo cáo là 500 triệu đô la vào năm 2025, một dấu hiệu cho thấy những gã khổng lồ hiện coi bảo mật của đại lý là cốt lõi chứ không phải là yếu tố then chốt.
Gartner, được NeuralTrust trích dẫn một cách tự do, dự đoán 40% doanh nghiệp sẽ rút lại các đại lý tự trị vào năm 2027 do những lỗ hổng quản trị chỉ được phát hiện sau khi có sự cố nào đó xảy ra.
Câu hỏi mở, như nhà đầu tư chính của NeuralTrust thừa nhận, là thời điểm: liệu các công ty có mua thứ này trước khi một sự cố nghiêm trọng liên quan đến đại lý buộc họ phải làm hay không. NeuralTrust đang đặt cược rằng họ sẽ làm như vậy và khi làm vậy, nhiều người trong số họ sẽ muốn có một cái tên Châu Âu trên hóa đơn.
Nguồn The Next Web