Vấn đề với việc để một đặc vụ AI tự do trong công ty không phải là nó có thể quên mất mình là ai. Chính là nó không có lý do gì để chần chừ.
Một nhân viên con người bị hạn chế bởi nỗi sợ bị sa thải. Một đại lý, như một nhà đầu tư của Arcade.dev đã nói, “sẽ khai thác triệt để mọi quyền mà nó được thừa hưởng” để đạt được mục tiêu của mình. Arcade đã huy động được 60 triệu đô la để đảm bảo rằng, theo thiết kế, nó không thể thực hiện được.
Series A được dẫn dắt bởi SYN Ventures, với sự kiểm tra chiến lược từ Morgan Stanley và Wipro. Được thêm vào hạt giống 12 triệu đô la vào năm ngoái, nó mang lại cho công ty khởi nghiệp ở San Francisco tổng số tiền tài trợ là 72 triệu đô la.
Nhận dạng là dễ dàng. Ủy quyền là bức tường
Hầu hết các công ty đều có thể xác minh rằng đại lý đúng như những gì họ tuyên bố. Theo giám đốc điều hành Arcade Alex Salazar, điều họ không thể làm là chứng minh rằng một tác nhân nhất định, hành động cho một người dùng nhất định, được phép thực hiện một hành động nhất định trên một hệ thống nhất định.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Salazar nói: “Các đại lý không thất bại trong quá trình sản xuất vì mô hình sai. “Họ thất bại vì không ai có thể chứng minh được” ai được ủy quyền làm gì. Ông lập luận rằng khoảng cách đó là lý do tại sao rất nhiều đại lý công ty không bao giờ rời khỏi giai đoạn thử nghiệm.
Salazar, cựu lãnh đạo sản phẩm Okta, người từng bán công ty khởi nghiệp cho công ty nhận dạng, đã xây dựng Arcade cùng với giám đốc công nghệ Sam Partee, trước đây của Redis.
Sản phẩm tình cờ
Arcade không có ý định xây dựng cái này. Sản phẩm đầu tiên của nó là một tác nhân chẩn đoán các máy chủ và cơ sở dữ liệu hoạt động sai, yêu cầu quyền truy cập sâu rộng của siêu người dùng. Salazar nói: “Không ai tỉnh táo lại thực sự cho phép chúng tôi làm điều đó trong thế giới thực.
Vì vậy, nhóm đã tách lý do của mô hình khỏi lớp thực sự chạm vào các công cụ và xây dựng phần quyết định công cụ nào mà tác nhân có thể sử dụng. Không ai hào hứng với tác nhân chẩn đoán. Mọi người hiểu về AI đều hào hứng với lớp ủy quyền. Arcade bỏ đại lý và giữ lại hệ thống ống nước.
Hệ thống nước cho thời đại đại lý
Hệ thống ống nước đó hiện đã ngừng hoạt động với Giao thức bối cảnh mô hình của Anthropic, tiêu chuẩn mới nổi để kết nối các mô hình với các công cụ như email và API nội bộ mà Arcade cho biết họ đã đóng góp. Thời gian chạy của nó kiểm tra từng yêu cầu dựa trên các quyền thực sự của tổ chức, có thể chạy bên trong môi trường của chính khách hàng và ghi lại mọi hành động để công ty có thể phân biệt hành động của một nhân viên với con người.
Lập luận của Salazar về lý do tại sao một lớp kiểm soát phải nằm bên ngoài tác nhân là lập luận lâu đời nhất về rủi ro doanh nghiệp: thứ thực hiện một hành động không bao giờ được ủy quyền cho chính nó. Thương nhân không chấp nhận giao dịch của riêng họ. Ông nói, một mô hình thông minh hơn không thay đổi được điều đó và bởi vì hầu hết các công ty chạy nhiều mô hình cùng một lúc nên lớp điều khiển phải trung lập với tất cả chúng thay vì thuộc sở hữu của bất kỳ nhà cung cấp nào.
Nó xuất hiện trong bối cảnh các công ty khởi nghiệp đổ xô bán các cách để đưa các tác nhân AI hoạt động và ngày càng rào cản chúng. Arcade đóng khung những người đương nhiệm là giải quyết sai vấn đề, với các cổng API định tuyến lưu lượng truy cập và các công cụ nhận dạng chứng minh bạn là ai, khi câu hỏi là tác nhân có thể làm gì, trên hệ thống nào, ngay bây giờ. Người ta đặt cược rằng lớp nhàm chán bên dưới chính là nơi đặt trụ sở của doanh nghiệp lâu bền.
Việc đánh bắt
Hiện tại, đây là một công ty có khoảng 40 người vẫn phải mở rộng quy mô và bảo vệ lãnh địa của mình trong một lĩnh vực đang được lấp đầy nhanh chóng. Một số điểm chứng minh tiêu đề của nó, việc sử dụng sản xuất tại các ngân hàng lớn nhất thế giới, mức sử dụng tăng gấp 25 lần, hàng nghìn công cụ dựng sẵn, là số liệu của chính Arcade thay vì được xác minh độc lập.
Tuy nhiên, lập luận cơ bản khó có thể bác bỏ. Khi các đặc vụ bắt đầu hành động trên các hệ thống mà không một cá nhân nào hiểu hết, câu hỏi về những gì họ được phép chạm vào sẽ không còn là một tài liệu chính sách nữa mà trở thành cơ sở hạ tầng. Arcade đang đặt cược rằng họ sở hữu cơ sở hạ tầng đó.
Nguồn The Next Web