Bức thư đến lúc 5:21 chiều theo giờ miền Đông vào thứ Sáu, đó là giờ mà quan chức Washington thường ngừng trả lời các cuộc gọi và chu kỳ tin tức chậm lại vào cuối tuần. Nó đến từ Bộ Thương mại, dài tới một vài đoạn văn và đã làm được điều mà chưa một tờ báo Mỹ nào từng làm trước đây.
Vào thời điểm Bờ Đông kết thúc bữa tối, hai trong số những mô hình trí tuệ nhân tạo có năng lực nhất hành tinh đã chìm trong bóng tối. Không bị bóp nghẹt, không vá víu, không lặng lẽ xuống cấp. Tắt. Một nhà nghiên cứu ở Berlin, người đã nghiên cứu được nửa câu chuyện, đã phát hiện ra rằng nó đã biến mất. Một nhà phân tích tài chính ở Singapore, một nhóm phần mềm ở Bangalore cũng vậy, và, trong một chi tiết sẽ buồn cười nếu không phải là toàn bộ vấn đề, một số kỹ sư của chính Anthropic, những người vô tình cầm nhầm hộ chiếu.
Chỉ thị yêu cầu Anthropic từ chối quyền truy cập vào Fable 5 và Mythos 5 đối với bất kỳ công dân nước ngoài nào, ở bất kỳ đâu trên Trái đất, kể cả những người không phải là công dân đang ngồi tại bàn làm việc ở California. Không có cách nào rõ ràng để thực thi một quy tắc như vậy trên một sản phẩm trực tiếp, vì vậy công ty đã làm điều duy nhất mà lệnh còn chỗ để làm. Nó đã rút phích cắm trên cả hai mô hình dành cho tất cả mọi người, công dân cũng như người nước ngoài, đồng thời xin lỗi về sự gián đoạn mà họ đã không chọn.
Tôi muốn cẩn thận về đâu là sự thật ở đây và đâu là quan điểm của tôi, bởi vì cả hai điều đó sẽ nhanh chóng mờ nhạt trong một câu chuyện như thế này. Sự thật không có gì phải bàn cãi. Anthropic xác nhận rằng họ đã nhận được chỉ thị, xác nhận phạm vi của nó và xác nhận rằng họ đã vô hiệu hóa các mô hình để phản hồi, khiến Claude Opus 4.8 cũ hơn vẫn tiếp tục hoạt động.
Fortune và Al Jazeera đều đưa tin đây là lần đầu tiên Mỹ sử dụng các biện pháp kiểm soát xuất khẩu vì an ninh quốc gia đối với mô hình AI thương mại. Lý do được nêu là lý do an ninh mạng. Các quan chức nói với Anthropic rằng họ đã học được một kỹ thuật để vượt qua các biện pháp bảo vệ của Fable 5 và đạt được khả năng tấn công mạng thô sơ của Mythos, mô hình bên dưới nó.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Anthropic gọi nó là “bẻ khóa tiềm năng hẹp” và toàn bộ tập phim a “hiểu lầmAl Jazeera, trích dẫn Semafor, báo cáo rằng sự nghi ngờ về việc truy cập của một nhóm có liên hệ với Trung Quốc là một phần nguyên nhân, đồng thời lưu ý rằng họ không thể xác nhận chi tiết đó một cách độc lập.
Có quá nhiều sự thật, nhưng đây là ý kiến. Lập luận về an ninh, bất kể giá trị của nó là gì, không phải là một phần của câu chuyện này sẽ được truyền đi. Phần cần di chuyển là cơ chế, bởi vì cơ chế là thứ được sử dụng lại: kiểm soát xuất khẩu là một công cụ cũ. Họ đã quản lý tên lửa, máy ly tâm, mã hóa và các chip vật lý mà AI chạy trên đó.
Cái mới lần này chính là đồ vật. Mô hình biên giới không phải là phần cứng mà bạn có thể chặn tại một cảng. Đó là một dịch vụ được tiếp cận thông qua trình duyệt, hiện nay được đưa vào công việc hàng ngày của các công ty và tổ chức không liên quan gì đến an ninh quốc gia Mỹ. Al Jazeera lưu ý rằng khách hàng của công ty xếp hạng S&P sử dụng Claude để truy vấn cơ sở dữ liệu của họ; các phòng thí nghiệm nghiên cứu xây dựng trên đó; nhân viên nước ngoài trong các công ty Mỹ phụ thuộc vào nó để thực hiện công việc của họ. Khi nhà nước có thể tắt tính năng đó cho toàn bộ thế giới từ tối này đến tối hôm sau, “kiểm soát xuất khẩu” dừng mô tả đường viền và bắt đầu mô tả kill switch.
Đó là tiền lệ, và tiền lệ không nằm trong hộp của chúng. Một khi chính phủ đã chứng tỏ được rằng họ có thể buộc một công ty thu hồi một sản phẩm thương mại của hàng triệu người dùng chỉ sau vài giờ thông báo, thì công cụ này sẽ tồn tại cho mọi chính quyền trong tương lai và mọi khiếu nại trong tương lai. Tiêu chí được sử dụng lần này, “người nước ngoài”rộng đến mức gần như vô nghĩa.
Kun Chen, một cựu kỹ sư tại Meta và Microsoft, đã chỉ ra rằng nó không thể thực thi được trên thực tế và rất dễ bị bỏ qua đối với bất kỳ ai có mục đích xấu thực sự, đồng thời quét sạch hàng triệu người dùng thông thường và thậm chí cả nhân viên của các công ty Mỹ. Một biện pháp không đạt mục tiêu và đánh trúng mọi người khác thì không chính xác. Đó là một minh chứng về tầm với.
Có một lập luận phản bác hợp lý, và nó xứng đáng được xét xử công bằng hơn là một người rơm. Các chính phủ luôn tuyên bố có quyền ngăn chặn sự lan truyền của công nghệ nguy hiểm và nếu một mô hình thực sự có thể biến thành vũ khí tự động để đột nhập vào ngân hàng thì nhà nước có lợi ích chính đáng trong việc đó. Rốt cuộc, Anthropic đã dành nhiều năm để mô tả các hệ thống mạnh mẽ nhất của mình là quá nguy hiểm để có thể phát hành tự do.
Nó cho rằng Mythos quá mạnh để có thể ra mắt rộng rãi, sau đó xây dựng Fable trên một nền tảng bảo vệ mà nó đã quảng cáo rầm rộ. Nếu bạn xây dựng một thứ gì đó và gọi nó là một mối nguy hiểm, bạn khó có thể bị sốc khi cơ quan quản lý coi nó như một mối nguy hiểm.
các nhà nghiên cứu an ninh mạng Peter Girnus nói một cách sắc bén: “Nếu bạn mô tả sản phẩm của mình như một loại đạn dược trong mọi thông cáo báo chí, thì cuối cùng chính phủ cũng sẽ tin lời bạn. Họ đã tự viết ra định nghĩa pháp lý và gọi nó là một thương hiệu.”
Tôi thấy lập luận đó trung thực và không đầy đủ. Thành thật mà nói, vì mối nguy hiểm không hoàn toàn được tạo ra và Anthropic đã giúp viết kịch bản. Chưa đầy đủ, bởi vì nó trả lời một câu hỏi mà không ai thực sự hỏi. Vấn đề không phải là liệu nhà nước có thể quản lý những năng lực thực sự nguy hiểm hay không. Tất nhiên là có thể. Vấn đề là liệu nó có thể làm được như vậy bằng cách tiếp cận công ty và vào sản phẩm, một cách đơn phương, không có quy trình minh bạch, không kháng cáo và với những ảnh hưởng chủ yếu rơi vào người dân ở các quốc gia khác, những người không có tiếng nói và không có cảnh báo.
Bản thân Anthropic đã vạch ra chính xác ranh giới đó, lập luận rằng chính phủ có thể ngăn chặn việc triển khai không an toàn, nhưng chỉ thông qua một quy trình “minh bạch, công bằng, rõ ràng và căn cứ vào thực tế kỹ thuật”và hành động này không đáp ứng được thử nghiệm nào trong số đó. Về điểm hẹp đó, tôi nghĩ công ty đã đúng, dù còn sai sót gì nữa.
Điều khiến tiền lệ khó bảo vệ hơn là công ty mà nó nắm giữ. Vào tháng 1, chính quyền này đã đảo ngược chính sách nhiều năm và cho phép bán chip H200 tiên tiến của Nvidia cho Trung Quốc. Dean Ball, người từng làm việc trong chính quyền về chính sách AI trong một thời gian ngắn, đã nắm bắt được mâu thuẫn ở một điểm duy nhất: một chính phủ sẵn sàng xuất khẩu những con chip tốt nhất của mình cho một đối thủ giờ lại muốn cấm Anh và mọi người không phải người Mỹ khác trên Trái đất sử dụng những mẫu tốt nhất của họ. “Tôi không có lời nào,” anh ấy đã viết.
Phần cứng chuyển sang đối thủ cạnh tranh; phần mềm được ngăn cách khỏi các đồng minh. Là chính sách bảo mật, nó không gắn kết. Như một minh chứng cho việc ai là người nắm giữ công tắc, điều đó hoàn toàn rõ ràng.
Và đây là phần mà Washington ít thích nhất. Bài học diễn ra khó khăn nhất ở chính xác nơi mà nó ít mong muốn nhất. Sridhar Vembu, người đồng sáng lập tập đoàn phần mềm Ấn Độ Zoho, đã nói rõ ràng: “Chủ quyền quốc gia, an ninh quốc gia, tất cả giờ đây đều liên quan đến công nghệ.” Ý của anh ấy là nó như một cái thúc đẩy, và cái thúc đẩy đó đã hoạt động rồi. Việc đóng cửa đã mang lại cho phong trào AI có chủ quyền của Ấn Độ lập luận mạnh mẽ nhất. Châu Âu, nơi đã dành nhiều năm đau đầu về chủ quyền AI của chính mình trong khi các công ty siêu quy mô của Mỹ lặng lẽ chiếm khoảng 70% thị trường đám mây của họ, giờ đây đã có một nghiên cứu điển hình mà họ không thể viết kịch bản tốt hơn.
Gary Marcus, một nhà phê bình lâu năm đối với ngành này, đã chỉ ra sự tự làm hại bản thân sâu sắc hơn: một chỉ thị như thế này mang lại cho nhiều nhà nghiên cứu sinh ra ở nước ngoài tại các phòng thí nghiệm của Mỹ lý do để về nước và cho các nhà đầu tư lý do để tự hỏi liệu các công ty AI của Mỹ có phải là một sự đánh cược an toàn khi chính phủ coi họ như những công cụ của chính sách nhà nước vào một ngày thứ Sáu bất chợt hay không. Một quốc gia muốn đi trước Trung Quốc vừa khiến các phòng thí nghiệm của mình kém hấp dẫn hơn đối với nhân tài và nguồn vốn giữ họ ở đó. Sự tập trung quyền lực có xu hướng giống như sức mạnh cho đến khi nó bộc lộ sự mong manh.
Các mô hình này đã quay trở lại với hầu hết người dùng trong vòng vài ngày, đó chính xác là lý do tại sao khoảnh khắc này lại dễ dàng bị bỏ qua như vậy. Nó sẽ gặp rắc rối khi mọc răng, một chút hành vi quan liêu quá mức sẽ quay trở lại gần như nhanh chóng như nó đã xảy ra. Nhưng điều đó bỏ lỡ những gì đã thay đổi. Sự vụng về của lần thử đầu tiên này không làm cho lần thử tiếp theo ít có khả năng xảy ra hơn; nó làm cho nó được thực hành nhiều hơn. Và những người đáng được chú ý lại không ở Washington hay San Francisco. Họ ở khắp mọi nơi khác.
Có thể bệnh viện ở Madrid thực hiện phân loại bệnh nhân thông qua một mô hình mà họ không sở hữu. Ngân hàng ở São Paulo. Hoặc thậm chí Bộ ở Nairobi đã xây dựng các dịch vụ công dân của mình trên phần mềm của người khác. Không ai trong số họ ở trong phòng vào thứ Sáu, và không ai nhận được cảnh báo. Tất cả họ vừa biết được rằng những công cụ mà họ kết nối vào trung tâm cách họ làm việc có thể bị tắt bởi chính phủ mà họ không bầu ra, vì những lý do mà họ sẽ không được thông báo, vào một buổi chiều mà họ sẽ không thấy sẽ đến.
Đó chính là tiền đặt cược, và nó nằm ở mức thấp hơn rất nhiều so với những ồn ào của Anthropic so với Nhà Trắng. Các vụ kiện tụng và việc gọi tên sẽ tự giải quyết, nhưng sự lệ thuộc thì không. Vì vậy, trong vài giờ vào tối thứ Sáu, phần mềm thông minh nhất mà mọi người đã xây dựng đã trở nên tối tăm đối với hầu hết những người sử dụng nó, bởi vì một chính phủ đã quyết định điều đó nên làm. Màn hình lại sáng lên và công tắc vẫn còn đó. Chưa có ai cho chúng ta thấy điều gì khiến lần sau không thể thực hiện được.
Nguồn The Next Web