Anthropic đã công bố hai khung chính sách kêu gọi các chính phủ có thẩm quyền pháp lý để ngăn chặn việc triển khai AI nguy hiểm và đưa ra các biện pháp bảo vệ kinh tế để bảo vệ người lao động khi AI định hình lại thị trường lao động. Khung AI nâng cao bao gồm các quy định về an toàn. Khung chính sách kinh tế giải quyết vấn đề di dời, phân phối vốn và mạng lưới an toàn xã hội.
Khung an toàn là tích cực hơn của cả hai. Anthropic muốn các chính phủ có thể ngăn chặn hoặc ngăn chặn việc triển khai các mô hình gây ra “nguy cơ gây thiệt hại thảm khốc đáng kể,” với các hình phạt dân sự gắn liền với doanh thu hàng năm trên toàn cầu leo thang khi vi phạm nhiều lần. Nó sẽ chỉ áp dụng cho các mô hình được đào tạo bằng cách sử dụng hơn 102⁵ phép toán dấu phẩy động, được phát triển bởi các công ty kiếm được hơn 500 triệu đô la doanh thu AI hoặc chi hơn 1 tỷ đô la cho R&D AI.
Ngưỡng đó áp dụng cho một số ít công ty: Anthropic, OpenAI, Google DeepMind, xAI và có thể là Meta. Anthropic đang kêu gọi quy định áp dụng trực tiếp cho hoạt động kinh doanh của chính mình, một định vị mà họ đã sử dụng trước đây để phân biệt mình với các đối thủ cạnh tranh vận động hành lang chống lại sự giám sát.
Khung này xác định bốn loại rủi ro thảm khốc: phát triển vũ khí sinh học, phát hiện lỗ hổng mạng quy mô lớn, mất quyền kiểm soát các hệ thống tự trị và AI tự động hóa hoạt động R&D của chính nó. Anthropic chỉ ra trải nghiệm của chính mình với Mythos Preview, đã phát hiện ra hàng nghìn lỗ hổng có mức độ nghiêm trọng cao trong mọi hệ điều hành và trình duyệt chính, làm bằng chứng cho thấy những rủi ro này không phải là giả thuyết.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Các nhà phát triển Frontier sẽ được yêu cầu thử nghiệm mô hình của họ, công bố bản tóm tắt kết quả, gửi đánh giá độc lập, duy trì các chương trình bảo mật và xuất bản các báo cáo rủi ro thường xuyên. Anthropic cho rằng chỉ minh bạch thôi thì chưa đủ. “Khả năng của AI sẽ được cải thiện nhanh chóng trong những tháng tới,” công ty đã viết.”Quản trị của họ cần phải theo kịp.”
Để giành quyền ưu tiên, Anthropic tấn công trực tiếp vào nỗ lực ngăn chặn luật AI của tiểu bang của Nhà Trắng. “Chúng tôi không tin rằng Quốc hội nên ưu tiên áp dụng luật tiểu bang trừ khi luật đó ban hành luật liên bang ít nhất mạnh mẽ như khuôn khổ mà chúng tôi đang đề xuất hôm nay,” công ty cho biết. Nó kêu gọi quyền ưu tiên “phẫu thuật,” cho phép các bang quản lý an toàn trẻ em, bảo vệ người tiêu dùng và các vấn đề khác ngoài phạm vi luật an toàn liên bang.
Khung kinh tế ít chi tiết hơn nhưng giải quyết được vấn đề dịch chuyển mà các sinh viên tốt nghiệp đã la ó trong các buổi lễ tốt nghiệp. Nó bao gồm các đề xuất về tài khoản vốn, bảo hiểm tiền lương, ưu đãi thuế và mạng lưới an toàn xã hội mở rộng. Mục tiêu là đảm bảo lợi ích tài chính của AI là “được chia sẻ rộng rãi,” mặc dù các chi tiết cụ thể về nguồn tài trợ và việc thực hiện vẫn còn để tranh luận trong tương lai.
Thời gian là có chủ ý. Anthropic đang đấu tranh với Lầu Năm Góc trước tòa về việc đưa vào danh sách đen vì rủi ro chuỗi cung ứng. Nó đang chuẩn bị cho IPO. Và nó đang theo dõi Quốc hội đàm phán một thỏa thuận có thể đánh đổi quyền ưu tiên về AI của nhà nước để lấy luật an toàn trực tuyến. Bằng cách xuất bản khuôn khổ riêng của mình, Anthropic đang cố gắng đặt ra các điều khoản cho một cuộc tranh luận về quy định đang diễn ra nhanh chóng và phần lớn không có sự tham gia của họ.
Nguồn The Next Web