chủ tịch tín hiệu Meredith Whittaker đã cảnh báo các chatbot AI đó “không phải là bạn của bạn,” “không phải là những sinh vật có ý thức,” Và “không phải là người đối thoại có tri giác,“đẩy lùi xu hướng ngày càng tăng của người dùng coi hệ thống AI như những người bạn đồng hành đáng tin cậy. Bình luận này được đưa ra trong một cuộc phỏng vấn với Bloomberg được công bố trong tuần này, trong đó Whittaker trình bày quan điểm của mình rằng tầm nhìn AI tác nhân được các công ty như Microsoft thúc đẩy tương đương với một dạng cơ sở hạ tầng giám sát mới.
Whittaker, người lãnh đạo tổ chức phi lợi nhuận nhắn tin mã hóa kể từ tháng 9 năm 2022, thừa nhận rằng cô ấy sử dụng các công cụ AI “để định dạng một tài liệu ở đây và ở đó” nhưng đã vạch ra một đường lối cứng rắn đối với bất cứ điều gì thực chất hơn.”Tôi không hỏi họ những câu hỏi,cô ấy nói.
“Tôi rất nghiêm túc trong suy nghĩ và viết lách của mình, và tôi không muốn quá trình thực hiện một ý tưởng bị ngăn cản hoặc lu mờ trước phản ứng của một hệ thống đang lấy trung bình những gì đã có sẵn ngoài kia,Cô ấy nói thêm.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Lời chỉ trích gay gắt nhất của cô nhắm vào dự đoán của Giám đốc điều hành Microsoft AI Mustafa Suleyman rằng người dùng sẽ có thể để Microsoft Copilot xử lý tất cả hoạt động mua sắm Giáng sinh của họ bằng cách nghe lén các cuộc trò chuyện nhóm gia đình để xác định xem ai muốn thứ gì. Whittaker liệt kê một cách có phương pháp quyền truy cập mà một hệ thống như vậy sẽ yêu cầu: “thẻ tín dụng của tôi, trình duyệt của tôi, Signal của tôi, khả năng thay mặt tôi nhắn tin cho anh chị em của tôi, địa chỉ nhà riêng, lịch của tôi.”
“Những gì bạn vừa mô tả là một hệ thống có khả năng truy cập rất rộng khắp trên nhiều ứng dụng và dịch vụ,” Whittaker nói.”Trong bối cảnh của Signal, nó sẽ tạo thành một loại cửa sau.”
Việc xây dựng cửa sau là có chủ ý và mang trọng lượng đến từ người đứng đầu Signal, công ty vận hành giao thức nhắn tin mã hóa hai đầu được sử dụng rộng rãi nhất trên thế giới. Mã hóa của Signal cũng được WhatsApp sử dụng, nơi có hơn hai tỷ người dùng. Whittaker trước đây đã nói rằng tổ chức này sẽ rời khỏi EU thay vì tuân thủ bất kỳ luật nào yêu cầu tổ chức này phải thỏa hiệp với mã hóa của mình, một quan điểm mà bà đã nhắc lại khi Nghị viện châu Âu bỏ phiếu vào tháng 4 để cho phép vi phạm Quyền riêng tư điện tử của tổ chức này hết hạn thay vì mở rộng việc tự nguyện quét các tin nhắn riêng tư để tìm tài liệu lạm dụng tình dục trẻ em.
Cốt lõi trong lập luận của Whittaker là các hệ thống AI tác nhân, vốn cần quyền truy cập gần như toàn bộ vào đời sống số của người dùng để hoạt động, không tương thích về mặt cấu trúc với mã hóa đầu cuối. Tác nhân AI có thể đọc tin nhắn của bạn trước khi chúng được mã hóa hoặc sau khi chúng được giải mã, khiến việc mã hóa trở nên không phù hợp xét theo quan điểm quyền riêng tư. Việc các tin nhắn được mã hóa trong quá trình chuyển tiếp không thành vấn đề nếu một hệ thống có quyền truy cập cấp gốc đang xử lý chúng ở dạng văn bản gốc trên thiết bị.
Whittaker đang thực hiện vụ việc này với mức độ ngày càng cấp bách. Vào tháng 1 năm 2026, cô ấy đã cảnh báo tại Davos rằng AI đặc vụ là “nguy hiểm” cho các ứng dụng an toàn. Trong một bài luận cho The Economist, cô cáo buộc các nhà cung cấp hệ điều hành đã “làm mất đi” khả năng đảm bảo quyền riêng tư của Signal bằng cách nhúng các tác nhân vào nền tảng của họ.
Cô đã mô tả tính năng tiêm nhắc nhở, trong đó kẻ tấn công thao túng tác nhân AI thực hiện các lệnh ngoài ý muốn, là con đường khai thác đầu tiên có khả năng xảy ra nhất đối với các nền tảng nhắn tin được mã hóa.
Microsoft đang xây dựng toàn bộ hệ điều hành xoay quanh tính toán ưu tiên tác nhân với Project Solara, được ra mắt tại Build 2026, thay thế các ứng dụng truyền thống bằng tác nhân AI làm giao diện chính. Google, Apple và OpenAI đang theo đuổi các chiến lược tương tự.
Quan điểm của Whittaker là sự thay đổi kiến trúc này, trong đó các tác nhân làm trung gian cho mọi tương tác giữa người dùng và thiết bị của họ, tạo ra cơ sở dữ liệu về toàn bộ cuộc sống số trở thành mục tiêu hàng đầu của cả tin tặc và chính phủ.
Cuộc phỏng vấn cũng đề cập đến vấn đề nhân cách hóa AI rộng hơn. Chính Suleyman đã cảnh báo về “AI dường như có ý thức” Và “rối loạn tâm thần AI,” nơi người dùng tin rằng chatbot có tri giác. Cách xây dựng của Whittaker trực tiếp hơn: các hệ thống được thiết kế để bắt chước sự đồng cảm và hiểu biết, nhưng cơ chế cơ bản là khớp mẫu trên dữ liệu đào tạo chứ không phải khả năng hiểu.
Đối xử với họ như những người bạn tâm tình có nghĩa là tình nguyện cung cấp thông tin nhạy cảm cho các hệ thống có phương pháp xử lý dữ liệu không rõ ràng và các nhà điều hành có động cơ thương mại để lưu giữ và phân tích dữ liệu đó.
Vị trí của Whittaker đặt cô vào thế đối lập với câu chuyện thống trị ở Thung lũng Silicon, nơi tương lai tác nhân được trình bày như một điều tất yếu sẽ giúp người dùng làm việc hiệu quả hơn. Lập luận phản bác của cô ấy là mức tăng năng suất đạt được bằng cách giao quyền kiểm soát tin nhắn, lịch, danh bạ và thông tin tài chính của bạn cho hệ thống AI của công ty hoàn toàn không phải là lợi ích mà là một giao dịch trong đó người dùng đánh đổi quyền riêng tư để lấy sự thuận tiện mà không hiểu các điều khoản.
Nguồn The Next Web