Nghị viện Châu Âu đã thực hiện một bước đi hiếm hoi và đáng chú ý: nó đã các tính năng trí tuệ nhân tạo tích hợp bị vô hiệu hóa trên các thiết bị làm việc được các nhà lập pháp và nhân viên sử dụngtrích dẫn những lo ngại chưa được giải quyết về bảo mật dữ liệu, quyền riêng tư và tính chất không rõ ràng của quá trình xử lý AI dựa trên đám mây.
Quyết định này, được thông báo tới các Thành viên Nghị viện Châu Âu (MEP) trong một bản ghi nhớ nội bộ trong tuần này, phản ánh sự bất an sâu sắc trong lòng các tổ chức Châu Âu về cách các hệ thống AI xử lý dữ liệu nhạy cảm.
Bộ phận CNTT của Quốc hội kết luận rằng họ không thể đảm bảo sự an toàn của một số chức năng do AI điều khiển, đặc biệt là trợ lý viết, công cụ tóm tắt văn bản, trợ lý ảo và tính năng tóm tắt trang web, bởi vì họ dựa vào quá trình xử lý dựa trên đám mây để gửi dữ liệu ra khỏi thiết bị.
Ở nơi làm việc nơi dự thảo luật, thư từ bí mật và các cuộc thảo luận nội bộ được lưu hành hàng ngày, ngay cả việc tiết lộ thông tin nhạy cảm trong chốc lát cũng được coi là không thể chấp nhận được.
Hiện tại, các biện pháp này chỉ áp dụng cho các tính năng AI tích hợp sẵn này trên máy tính bảng và điện thoại thông minh do Quốc hội ban hành, chứ không áp dụng cho các ứng dụng hàng ngày như email hoặc lịch. Tổ chức này đã từ chối chỉ định hệ điều hành hoặc nhà sản xuất thiết bị nào bị ảnh hưởng, với lý do “tính chất nhạy cảm” của các vấn đề an ninh mạng.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Ngoài Quốc hội
Bản ghi nhớ nội bộ không chỉ thông báo về việc khôi phục phần mềm. Nó khuyên các nhà lập pháp nên xem lại cài đặt AI trên điện thoại và máy tính bảng cá nhân của họ, cảnh báo họ không để lộ email công việc, tài liệu hoặc thông tin nội bộ cho các công cụ AI “quét hoặc phân tích nội dung” và kêu gọi thận trọng với các ứng dụng AI của bên thứ ba tìm kiếm quyền truy cập rộng rãi vào dữ liệu.
Hướng dẫn này ngầm thừa nhận một sự thật lớn hơn: đối với nhiều quan chức, nhân viên được bầu, ranh giới giữa thiết bị công vụ và thiết bị cá nhân rất mỏng manh. Cách tiếp cận của Nghị viện nhấn mạnh rằng rủi ro không chỉ giới hạn ở phần cứng được cấp mà còn mở rộng sang các lựa chọn công nghệ tiêu dùng của chính các thành viên quốc hội.
Đây là động thái mới nhất trong một loạt các bước phòng ngừa của các tổ chức EU. Vào năm 2023, Quốc hội đã cấm sử dụng TikTok trên các thiết bị của nhân viên vì lo ngại về dữ liệu tương tự và các cuộc tranh luận đang diễn ra đã đặt câu hỏi về việc sử dụng phần mềm năng suất do nước ngoài phát triển. Một số nhà lập pháp thậm chí còn đề nghị loại bỏ các sản phẩm của Microsoft để chuyển sang sử dụng các sản phẩm thay thế của châu Âu, một phần trong nỗ lực thúc đẩy rộng rãi hơn. chủ quyền kỹ thuật số.
Sự thúc đẩy đó không trừu tượng. các Đạo luật trí tuệ nhân tạo của EUkhung pháp lý toàn diện đầu tiên trên thế giới về AI, có hiệu lực từ năm 2024 và áp đặt nghĩa vụ đối với các nhà cung cấp cũng như người dùng AI, phân loại hệ thống theo rủi ro và yêu cầu tính minh bạch, khả năng truy xuất nguồn gốc cũng như sự giám sát của con người.
Tuy nhiên, hành động mới nhất của Nghị viện cho thấy một nghịch lý: trong khi châu Âu tìm cách quản lý và định hình AI trên quy mô lớn, thì họ lại đồng thời cảnh giác với chính những công cụ mà họ muốn làm chủ. Không đưa ra lệnh cấm hoàn toàn đối với việc sử dụng AI, tổ chức này về cơ bản nói rằng trong một số bối cảnh nhất định, công nghệ này quá khó tin cậy, đặc biệt là khi thông tin quan trọng có thể bị rò rỉ ra ngoài ranh giới an toàn.
Điều này có ý nghĩa gì đối với chính sách công nghệ của EU
Quyết định của Nghị viện có thể có vẻ nhắm mục tiêu hẹp, nhưng nó mang ý nghĩa rộng lớn hơn. Nó báo hiệu rằng ngay cả đối với các cơ quan quản lý tiến bộ đã ủng hộ sự đổi mới bên cạnh việc bảo vệ quyền lợi, các giới hạn thực tế của việc tích hợp AI hiện là mối quan tâm hàng đầu. Các nhóm an ninh mạng trong các tổ chức chính phủ không chỉ đơn thuần là các nhà công nghệ; họ là người bảo vệ niềm tin trong thời đại mà dữ liệu vừa là tài sản vừa là điểm dễ bị tổn thương.
Đối với các doanh nghiệp và người dân đang theo dõi quỹ đạo pháp lý của Châu Âu, tập phim này mang tính hướng dẫn. Nó gợi ý rằng cách tiếp cận AI của EU sẽ không chỉ hợp pháp và đạo đức mà còn thực dụng sâu sắc. Các quy định có thể thúc đẩy sự đổi mới có trách nhiệm, nhưng các tổ chức châu Âu sẵn sàng rút lui khi an ninh và kiểm soát bị đe dọa.
Khi các khả năng của AI tiếp tục phát triển và được tích hợp vào các thiết bị trên toàn thế giới, bước thận trọng của Nghị viện nêu bật một căng thẳng cốt lõi của thời đại kỹ thuật số: cân bằng tiềm năng của AI với những rủi ro không thể nhìn thấy và không thể lượng hóa được.
Liệu các chính phủ khác có làm theo hay không, hay liệu lập trường này có ảnh hưởng đến chiến lược sản phẩm và doanh nghiệp hay không, vẫn còn phải xem. Trong khi đó, thông điệp từ Brussels là không thể nhầm lẫn: khi nói đến AI và dữ liệu nhạy cảm, tin tưởng nhưng xác minh không còn đủ nữa.
Nguồn The Next Web