Anthropic hôm thứ Ba cho biết mô hình trí tuệ nhân tạo chưa được phát hành của họ có tên Claude Mythos đã được chứng minh là rất thành thạo trong việc vạch trần những điểm yếu của phần mềm.
Mythos đã phát hiện ra hàng nghìn lỗ hổng trong các ứng dụng thường được sử dụng mà không có bản vá hoặc bản sửa lỗi nào, khiến công ty khởi nghiệp AI có trụ sở tại San Francisco này phải thành lập một liên minh với các chuyên gia an ninh mạng để tăng cường phòng thủ chống lại hành vi hack và ngăn chặn việc phân phối rộng rãi.
Mike Krieger của Anthropic Labs cho biết tại hội nghị HumanX AI ở San Francisco: “Chúng tôi có một mô hình mới nhưng rõ ràng là chúng tôi sẽ không phát hành ra công chúng”.
Thay vào đó, Anthropic đang cho phép các chuyên gia và kỹ sư an ninh mạng trong cộng đồng nguồn mở làm việc với Mythos để sử dụng mô hình này như một vũ khí phòng thủ “loại trang bị vũ khí cho họ trước thời hạn”, Krieger giải thích.
Những bước nhảy vọt về khả năng của mô hình AI đi kèm với lo ngại về việc tin tặc sử dụng các công cụ như vậy để tìm ra mật khẩu hoặc bẻ khóa mã hóa nhằm giữ an toàn cho dữ liệu.
Theo Anthropic, lỗ hổng lâu đời nhất được Mythos phát hiện đã có từ 27 năm trước và không có lỗ hổng nào được các nhà tạo ra chúng chú ý trước khi được mô hình AI xác định chính xác.
Mythos là thế hệ mới nhất của dòng AI Claude của Anthropic, và một vụ rò rỉ gần đây về một số mã của nó đã khiến công ty khởi nghiệp này phát hành một bài đăng trên blog cảnh báo rằng nó gây ra những rủi ro an ninh mạng chưa từng có.
Anthropic cho biết trong một bài đăng trên blog: “Các mô hình AI đã đạt đến mức độ khả năng mã hóa, nơi chúng có thể vượt qua tất cả những người có kỹ năng cao nhất trong việc tìm kiếm và khai thác các lỗ hổng phần mềm”. “Ảnh hưởng – đối với nền kinh tế, an toàn công cộng và an ninh quốc gia – có thể rất nghiêm trọng.”
Theo Anthropic, các lỗ hổng phần mềm do Mythos phát hiện thường rất tinh vi và khó phát hiện nếu không có AI. Ví dụ, Mythos cho biết đã tìm thấy một lỗ hổng chưa được chú ý trước đây trong phần mềm video đã được những người tạo ra nó thử nghiệm hơn 5 triệu lần.
Để phòng ngừa, Anthropic đã chia sẻ phiên bản Mythos với các công ty an ninh mạng CrowdStrike và Palo Alto Networks, cũng như với Amazon, Apple và Microsoft, trong một dự án được đặt tên là “Glasswing”.
Các gã khổng lồ mạng Cisco và Broadcom đang tham gia vào dự án này, cùng với Linux Foundation, tổ chức thúc đẩy hệ điều hành máy tính Linux nguồn mở, miễn phí.
Anthony Grieco, giám đốc an ninh và tin cậy của Cisco, cho biết trong một thông cáo chung về Glasswing: “Công việc này quá quan trọng và cấp bách để có thể thực hiện một mình”. “Các khả năng của AI đã vượt qua ngưỡng làm thay đổi căn bản tính cấp thiết cần thiết để bảo vệ cơ sở hạ tầng quan trọng khỏi các mối đe dọa trên mạng và sẽ không thể quay trở lại.”
Khoảng 40 tổ chức liên quan đến thiết kế, bảo trì hoặc vận hành hệ thống máy tính được cho là đã tham gia Glasswing. Theo Anthropic, các đối tác của dự án sẽ chia sẻ những phát hiện về Mythos của họ, công ty đang cung cấp tài nguyên máy tính trị giá khoảng 100 triệu USD cho sứ mệnh. Theo Grieco, công việc ban đầu với các mô hình AI đã cho thấy chúng có thể giúp tìm và sửa các lỗ hổng phần mềm và phần cứng với tốc độ và quy mô chưa từng có trước đây.
Elia Zaitsev, giám đốc công nghệ của Crowdstrike, cho biết: “Khoảng cách giữa một lỗ hổng được phát hiện và bị kẻ thù khai thác đã sụp đổ – điều từng mất hàng tháng giờ chỉ diễn ra trong vài phút với AI”.
Ông nói thêm: “Bản xem trước của Claude Mythos chứng minh những gì hiện có thể thực hiện được đối với những người phòng thủ trên quy mô lớn và các đối thủ chắc chắn sẽ tìm cách khai thác những khả năng tương tự”.
Anthropic cho biết họ đã thảo luận với chính phủ Mỹ về Mythos bất chấp sắc lệnh của Nhà Trắng vào tháng 2 nhằm chấm dứt mọi hợp đồng với công ty khởi nghiệp này. Chỉ thị đó đã bị thẩm phán tòa án liên bang tạm dừng trong khi thách thức pháp lý của Anthropic được đưa ra thông qua các tòa án.
Nguồn The Guardian