Một sự cố bảo mật gần đây liên quan đến Anthropic đã cho thấy các biện pháp bảo vệ xung quanh các hệ thống AI tiên tiến có thể mong manh đến mức nào. MỘT Báo cáo có dây gợi ý rằng một nhóm nhỏ người dùng, hoạt động thông qua các kênh Discord riêng tư, đã cố gắng truy cập trái phép vào mô hình Mythos AI bị hạn chế cao của công ty – một hệ thống thử nghiệm được thiết kế cho các ứng dụng an ninh mạng.
Một vi phạm gây ra rủi ro lớn hơn xung quanh việc kiểm soát AI
Sự cố dường như đã xảy ra gần như ngay lập tức sau khi Mythos được cung cấp cho một nhóm đối tác đáng tin cậy. Theo nhiều báo cáo, những người dùng trái phép đã có được quyền truy cập thông qua môi trường của nhà cung cấp bên thứ ba, thay vì vi phạm trực tiếp vào hệ thống cốt lõi của Anthropic.
Video được đề xuất
Một số tài khoản gợi ý rằng các thành viên của cộng đồng Discord riêng tư có thể khai thác quyền truy cập hoặc xác định các điểm truy cập bằng cách sử dụng thông tin được hiển thị công khai, vượt qua các hạn chế được đặt ra trên mô hình một cách hiệu quả.
Bapt
Điều quan trọng là không có bằng chứng xác nhận nào cho thấy hệ thống này đã được sử dụng cho hoạt động độc hại. Trên thực tế, các báo cáo chỉ ra rằng người dùng tương tác với mô hình theo những cách tương đối hạn chế. Tuy nhiên, việc có được quyền truy cập hoàn toàn là câu chuyện có thật.
Bản thân Mythos không chỉ là một mô hình AI khác. Nó được thiết kế để xác định các lỗ hổng trong hệ thống phần mềm và mô phỏng các cuộc tấn công mạng – khiến nó trở thành một trong những công cụ AI nhạy cảm nhất hiện đang được phát triển. Khả năng sử dụng kép đó chính là lý do tại sao quyền truy cập bị hạn chế chặt chẽ ngay từ đầu.
Tại sao sự cố này lại quan trọng hơn một lần vi phạm
Nhìn thoáng qua, điều này có vẻ giống như một sai sót về bảo mật. Trên thực tế, nó nhấn mạnh một vấn đề rộng lớn hơn mà ngành AI đang phải đối mặt: việc kiểm soát đang trở nên khó khăn hơn khả năng.
Các mô hình AI như Mythos được xây dựng để tìm ra điểm yếu trong hệ thống, điều đó có nghĩa là nếu rơi vào tay kẻ xấu, chúng có thể đẩy nhanh các cuộc tấn công mạng hơn là ngăn chặn chúng. Các nhà nghiên cứu và quan chức đã cảnh báo rằng những công cụ như vậy có thể gây ra rủi ro đáng kể nếu sử dụng sai mục đích, do chúng có khả năng tự động hóa các chuỗi tấn công phức tạp.
Điều làm cho trường hợp này đặc biệt đáng chú ý là vi phạm đã xảy ra như thế nào. Đó không phải là một vụ hack tinh vi nhắm vào cơ sở hạ tầng cốt lõi. Thay vào đó, nó dường như đã tận dụng những khoảng trống trong hệ sinh thái xung quanh—các nhà thầu, quyền và quản lý quyền truy cập.
Sự khác biệt đó rất quan trọng. Nó gợi ý rằng việc bảo mật AI tiên tiến không chỉ là về bản thân mô hình mà còn là toàn bộ môi trường xung quanh nó.
Tại sao nó nên quan trọng với bạn
Đối với người dùng hàng ngày, sự cố này có thể có vẻ xa vời, nhưng ý nghĩa của nó gần gũi hơn họ tưởng.
Các hệ thống AI như Mythos đang được phát triển để bảo mật mọi thứ từ trình duyệt đến hệ thống tài chính. Nếu những công cụ tương tự đó bị bộc lộ sớm hoặc được kiểm soát không đúng cách, rủi ro sẽ chuyển từ phòng thủ sang có khả năng tấn công.
Hình ảnh đại diện Bapt
Ngay cả khi không có mục đích xấu, việc truy cập trái phép vẫn gây ra sự không chắc chắn. Nó đặt ra câu hỏi về việc các công ty có thể bảo vệ các công nghệ ngày càng quan trọng đối với cơ sở hạ tầng kỹ thuật số tốt đến mức nào.
Nói một cách đơn giản hơn, nếu AI được xây dựng để bảo vệ Internet thì nó cần được bảo vệ trước tiên.
Điều gì xảy ra tiếp theo đối với an ninh nhân loại và AI
Anthropic đã mở một cuộc điều tra về vụ việc và tuyên bố rằng hành vi vi phạm chỉ giới hạn ở môi trường bên thứ ba, không có bằng chứng về sự xâm phạm hệ thống rộng hơn.
Tuy nhiên, thời điểm xảy ra vi phạm – trùng với thời điểm triển khai sớm mô hình – có thể sẽ tăng cường giám sát kỹ lưỡng về cách các hệ thống đó được thử nghiệm và chia sẻ. Các cơ quan quản lý và cơ quan trong ngành đã rất chú ý đến các mô hình AI có rủi ro cao và những sự cố như thế này chỉ làm tăng thêm tính cấp bách cho các cuộc thảo luận đó.
Trong tương lai, chúng ta mong đợi các biện pháp kiểm soát truy cập chặt chẽ hơn, giám sát nhà cung cấp chặt chẽ hơn và các khuôn khổ mới tiềm năng để xử lý các công cụ AI nhạy cảm. Bởi vì nếu tập phim này chứng minh được điều gì thì thách thức đó không còn chỉ là xây dựng AI mạnh mẽ nữa mà là kiềm chế nó.
Nguồn DigitalTrend