Trong nhiều năm, cuộc thảo luận lớn nhất xung quanh AI là những gì những công cụ này có thể làm được. Họ có thể duyệt web, phân tích tài liệu, kết nối với ứng dụng của bạn, tiến hành nghiên cứu và ngày càng hành động thay mặt bạn. Nhưng khi các hệ thống AI trở nên có nhiều khả năng hơn, một câu hỏi khác lại trở nên khó bỏ qua hơn: điều gì sẽ xảy ra khi một trợ lý AI bị lừa chuyển giao những thông tin không nên làm?
Chế độ khóa mới của OpenAI là câu trả lời mới nhất cho vấn đề đó. Có sẵn trên tất cả các loại tài khoản ChatGPT, Chế độ khóa là cài đặt bảo mật tùy chọn được thiết kế cho những người và tổ chức xử lý thông tin nhạy cảm. Đánh đổi là bạn nhận được sự bảo vệ mạnh mẽ hơn trước một số hình thức đánh cắp dữ liệu nhất định nhưng bạn sẽ mất quyền truy cập vào một số tính năng mạnh mẽ nhất của ChatGPT.
Tính năng bảo mật mới này khiến ChatGPT trở thành người thân ở nhà
Chế độ khóa chủ yếu tồn tại để giảm nguy cơ đánh cắp dữ liệu từ các cuộc tấn công tiêm nhiễm kịp thời. Tính năng tiêm nhắc nhở đã nổi lên như một trong những thách thức bảo mật khó khăn nhất trong kỷ nguyên AI. Thay vì tấn công trực tiếp vào phần mềm, các hướng dẫn độc hại được ẩn bên trong tài liệu, trang web, bảng tính, email hoặc nội dung khác mà hệ thống AI có thể xử lý. Nếu mô hình tuân theo các hướng dẫn ẩn đó, kẻ tấn công có thể thao túng hành vi của nó.
Video được đề xuất
OpenAI cẩn thận chỉ ra rằng Chế độ khóa không ngăn các nội dung nhắc nhở xuất hiện trong nội dung. Lệnh độc hại vẫn có thể tồn tại bên trong tệp đã tải lên hoặc trang web được lưu trong bộ nhớ đệm. Điều mà Chế độ khóa nhằm ngăn chặn là bước cuối cùng, có khả năng gây tổn hại lớn nhất: lấy thông tin nhạy cảm ra ngoài. Để thực hiện được điều đó, OpenAI hạn chế đáng kể những gì ChatGPT có thể giao tiếp bên ngoài môi trường của chính nó.
Rachit Agarwal / Xu hướng kỹ thuật số
Sau khi được bật, trình duyệt web trực tiếp về cơ bản sẽ tắt. ChatGPT chỉ có thể truy cập nội dung được lưu trong bộ nhớ đệm, nghĩa là kết quả tìm kiếm có thể bị giới hạn, lỗi thời hoặc hoàn toàn không có sẵn — Nghiên cứu sâu biến mất, Chế độ tác nhân bị vô hiệu hóa và quyền truy cập mạng thông qua mã do Canvas tạo bị chặn. ChatGPT cũng mất khả năng tải file xuống để phân tích.
Mặc dù người dùng vẫn có thể tải hình ảnh lên và tạo hình ảnh do AI tạo khi được hỗ trợ, nhưng ChatGPT sẽ không thể tìm nạp hình ảnh từ web hoặc hiển thị chúng trong phản hồi thông thường. Vì vậy, Chế độ khóa chặt biến ChatGPT từ trợ lý AI có tính kết nối cao thành một thứ gì đó biệt lập hơn nhiều.
Một tính năng mà hầu hết mọi người sẽ không bao giờ cần
Đó không phải là một lời chỉ trích. Trên thực tế, một trong những điều thú vị nhất về Chế độ khóa chặt là cách công khai OpenAI thừa nhận rằng nó không được thiết kế cho tất cả mọi người. Nhưng các chuyên gia bảo mật từ lâu đã chấp nhận rằng sự bảo vệ mạnh mẽ hơn thường đi kèm với sự bất tiện. Sự so sánh gần nhất có lẽ là “Chế độ khóa máy” của Apple, được giới thiệu cách đây vài năm. Apple xây dựng nó cho những người có nguy cơ bị tấn công mạng rất tinh vi, chứ không phải những người sở hữu iPhone bình thường. OpenAI dường như đang áp dụng cách tiếp cận tương tự ở đây.
Trò chuyệnGPT
Đối với những người dùng xử lý thông tin có độ nhạy cảm cao, việc hạn chế các yêu cầu mạng có thể đáng để hy sinh. Nếu một hệ thống AI không thể tự do tương tác với các dịch vụ bên ngoài thì đơn giản là sẽ có ít cơ hội hơn để thông tin bí mật thoát ra khỏi môi trường. Động thái này cũng phản ánh sự thay đổi lớn hơn đang diễn ra trong ngành AI. Các cuộc trò chuyện trước đó tập trung vào việc liệu AI có thể truy cập nhiều dữ liệu hơn và nhiều dịch vụ hơn hay không. Càng ngày, các công ty càng đặt ra câu hỏi ngay từ đầu nên có bao nhiêu quyền truy cập vào các hệ thống này.
Câu hỏi đó trở nên đặc biệt quan trọng khi trợ lý AI có khả năng duyệt trang web, kết nối với phần mềm kinh doanh, đọc tài liệu nội bộ và thực hiện các hành động trên nhiều dịch vụ. Câu trả lời của OpenAI không phải là loại bỏ những khả năng đó. Thay vào đó, nó cung cấp cho người dùng một sự lựa chọn.
Sự trỗi dậy của kiểm soát an ninh AI
Chế độ khóa có lẽ đáng chú ý nhất vì những gì nó nói về tương lai của các sản phẩm AI. Trong nhiều năm, bảo mật phần mềm chủ yếu tập trung vào việc bảo vệ con người khỏi các chương trình độc hại. AI đưa ra một thách thức khác: bảo vệ hệ thống AI khỏi thông tin độc hại.
Đó là một vấn đề rắc rối hơn nhiều. Nội dung nhắc nhở có thể được ẩn trong trang web, được nhúng bên trong tài liệu hoặc được ngụy trang dưới dạng văn bản bình thường. Việc phát hiện mọi cuộc tấn công có thể xảy ra là rất khó, đó là lý do tại sao OpenAI mô tả tính năng tiêm nhanh là một thách thức nghiên cứu đang diễn ra hơn là một vấn đề đã được giải quyết.
Trò chuyệnGPT
Chế độ khóa máy thừa nhận thực tế đó. Thay vì yêu cầu được bảo vệ hoàn toàn, nó làm giảm thiệt hại tiềm tàng nếu có thứ gì đó lọt qua hệ thống phòng thủ hiện có. Đối với khách hàng doanh nghiệp, tính năng này càng trở nên chi tiết hơn. Quản trị viên Workspace có thể tạo các vai trò tùy chỉnh trong Chế độ khóa, hạn chế ứng dụng và trình kết nối, đồng thời quyết định cẩn thận những hành động nào nhân viên được phép thực hiện. OpenAI cũng khuyến nghị hạn chế tích hợp hỗ trợ ghi vì chúng tạo cơ hội cho thông tin rời khỏi môi trường đáng tin cậy.
Theo nhiều cách, Chế độ khóa có vẻ giống như một dấu hiệu cho thấy bảo mật AI đang hướng tới đâu. Trợ lý AI càng mạnh mẽ thì người dùng càng cần nhiều công cụ để lấy lại sức mạnh của mình khi tình huống yêu cầu. Điều đó có thể không thú vị bằng một mô hình suy luận mới hoặc một tác nhân AI có thể đặt chuyến bay cho bạn. Nhưng đối với các tổ chức xử lý thông tin nhạy cảm, điều này có thể quan trọng hơn nhiều. Đôi khi AI thông minh nhất không phải là AI có thể làm được mọi thứ. Đó là người biết khi nào không nên làm.
Nguồn DigitalTrend