Chính phủ Hoa Kỳ đã ra lệnh cho Anthropic đình chỉ quyền truy cập vào hai mô hình AI có khả năng nhất của họ là Fable 5 và Mythos 5, đây có vẻ là lần đầu tiên Washington buộc một sản phẩm AI thương mại phải ngoại tuyến. các chỉ thịmà Anthropic cho biết họ nhận được lúc 5:21 chiều theo giờ ET ngày 12 tháng 6, trích dẫn các cơ quan an ninh quốc gia và yêu cầu công ty cắt đứt tất cả công dân nước ngoài, bao gồm cả nhân viên của chính mình.
Bởi vì Anthropic không thể phân biệt một cách đáng tin cậy giữa người nước ngoài và người dùng trong nước trong thời gian thực, nên kết quả thực tế là mọi khách hàng trên toàn thế giới đều phải ngừng sử dụng cả hai mô hình này. Quyền truy cập vào tất cả các mô hình khác của Anthropic vẫn không bị ảnh hưởng.
Ba ngày kể từ khi ra mắt đến khi ngừng hoạt động
nhân loại ra mắt Fable 5 vào ngày 9 tháng 6 là mẫu “Lớp thần thoại” đầu tiên được cung cấp cho công chúng. Fable 5 là phiên bản dành cho công chúng, với các bộ phân loại an toàn định tuyến các yêu cầu được gắn cờ đến Claude Opus 4.8 yếu hơn, trong khi Mythos 5, cùng một mô hình cơ bản với các biện pháp bảo vệ mạng đã được dỡ bỏ, bị hạn chế đối với những người bảo vệ an ninh mạng đã được hiệu đính và các nhà điều hành cơ sở hạ tầng quan trọng.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Cả hai mô hình đều nằm trong tầm ngắm của chính quyền Trump, trước đó đã có động thái ngăn chặn việc triển khai Mythos rộng rãi hơn của Anthropic. Công ty đã cung cấp Fable 5 miễn phí cho những người đăng ký Pro, Max, Team và Enterprise cho đến ngày 22 tháng 6.
Tranh chấp jailbreak
Bộ Thương mại được cho là đã hành động sau khi một công ty giấu tên tuyên bố họ đã tìm ra cách bẻ khóa Mythos, theo Axios. Anthropic cho biết họ chỉ nhận được bằng chứng bằng lời nói về một cuộc bẻ khóa hẹp, không phổ biến, về cơ bản liên quan đến việc yêu cầu mô hình đọc một cơ sở mã cụ thể và sửa các lỗi phần mềm.
Anthropic đã xem xét kỹ thuật này và cho biết các lỗ hổng mà nó phát hiện là nhỏ và đã được công chúng biết đến. Nó tuyên bố các mô hình khác, bao gồm cả GPT-5.5 của OpenAIcó thể phát hiện ra những sai sót tương tự mà không có bất kỳ sự bỏ qua nào, mặc dù TNW không thể xác minh độc lập sự so sánh cụ thể này.
Công ty đang vạch ra sự khác biệt rõ ràng giữa các cuộc bẻ khóa hẹp, có thể trích xuất một số thông tin trong các trường hợp cụ thể, và các cuộc bẻ khóa phổ quát, thường đánh bại các biện pháp bảo vệ của một mô hình. Anthropic cho biết chưa có người thử nghiệm nào tìm thấy bản bẻ khóa chung cho Fable 5, mặc dù Viện An toàn AI của Vương quốc Anh đã phát triển bản bẻ khóa một phần cho các truy vấn về lỗ hổng một lượt trong vòng vài giờ sau khi thử nghiệm.
Hàng ngàn giờ đồng đội đỏ thì thế này
Trước khi ra mắt, Anthropic cho biết họ đã làm việc với chính phủ Hoa Kỳ, cơ quan AISI Vương quốc Anhvà nhiều tổ chức tư nhân bên thứ ba để đảm bảo an toàn cho Fable trong hàng nghìn giờ. Một khoản tiền thưởng lỗi bên ngoài được cho là không tạo ra bản bẻ khóa phổ biến nào trong hơn 1.000 giờ thử nghiệm.
Công ty cũng đã áp dụng chính sách lưu giữ dữ liệu bắt buộc trong 30 ngày gây tranh cãi đối với tất cả lưu lượng truy cập Fable và Mythos, thay thế các thỏa thuận không lưu giữ hiện có với khách hàng. Anthropic nói rằng việc lưu giữ là cần thiết để phát hiện các kiểu sử dụng sai chỉ hiển thị trên nhiều yêu cầu.
Nhân loại cháy trở lại
Trong một tuyên bố công khai gây tranh cãi bất thường, Anthropic cho biết họ không đồng ý rằng một cuộc bẻ khóa tiềm năng trong phạm vi hẹp sẽ là “nguyên nhân để thu hồi một mô hình thương mại được triển khai cho hàng trăm triệu người”. Nó cảnh báo rằng việc áp dụng tiêu chuẩn này trong toàn ngành “về cơ bản sẽ ngăn chặn tất cả việc triển khai mô hình mới cho tất cả các nhà cung cấp mô hình biên giới”.
Công ty kêu gọi bất kỳ quyền lực nào của chính phủ nhằm ngăn chặn việc triển khai không an toàn đều phải dựa trên “một quy trình pháp lý minh bạch, công bằng, rõ ràng và có căn cứ trên thực tế kỹ thuật”. Nó nói hành động này thất bại trong bài kiểm tra đó.
Một mô hình căng thẳng
Chỉ thị này được đưa ra trong bối cảnh xung đột leo thang giữa Anthropic và Washington. Lầu Năm Góc đã đưa Anthropic vào danh sách đen vào đầu năm nay như một mối đe dọa đối với chuỗi cung ứng an ninh quốc gia, ngay cả khi NSA tiếp tục sử dụng Claude vì không có giải pháp thay thế nào tồn tại.
Anthropic đã kiện chính phủ về việc chỉ định đó. Chính quyền đã coi công ty là rủi ro bảo mật cũng đã thúc giục các ngân hàng áp dụng công nghệ của họ và ủy quyền cho NSA tiếp tục sử dụng Mythos trên các mạng được phân loại.
Sự mâu thuẫn làm nổi bật sự không chắc chắn của chính phủ về cách xử lý một công ty có khả năng AI mà họ đồng thời lo sợ và phụ thuộc vào.
Ý nghĩa của nó đối với ngành
Nếu tiền lệ được giữ nguyên, bất kỳ mô hình AI biên giới nào cũng có thể phải đối mặt với đợt thu hồi tương tự sau một lần bẻ khóa được báo cáo, bất kể mức độ nghiêm trọng. Viễn cảnh đó có thể sẽ khiến một ngành công nghiệp đã dành cả năm qua chạy đua để triển khai các mô hình ngày càng có năng lực hơn với sự giám sát ngày càng tăng của chính phủ.
Anthropic cho biết họ tin rằng chỉ thị này là một sự hiểu lầm và đang nỗ lực khôi phục quyền truy cập càng sớm càng tốt. Nó đã hứa sẽ chia sẻ thêm thông tin chi tiết trong vòng 24 giờ.
Nguồn The Next Web