Vào thứ Hai, Google đã ra mắt một Chương trình thưởng dành riêng cho việc tìm kiếm lỗi trong các sản phẩm AI. Danh sách của Google về đủ điều kiện lỗi Bao gồm các ví dụ về loại hành động lừa đảo mà nó đang tìm kiếm, như gián tiếp tiêm một lời nhắc AI khiến Google Home mở khóa cửa hoặc tiêm nhanh chóng dữ liệu để tóm tắt tất cả email của ai đó và gửi tóm tắt đến tài khoản của chính kẻ tấn công.
Chương trình mới làm rõ những gì cấu thành lỗi AI, phá vỡ chúng làm vấn đề sử dụng mô hình ngôn ngữ lớn hoặc hệ thống AI chung để gây hại hoặc tận dụng lỗ hổng bảo mật, với các hành động lừa đảo ở đầu danh sách. Điều này bao gồm sửa đổi tài khoản hoặc dữ liệu của ai đó để cản trở bảo mật của họ hoặc làm điều gì đó không mong muốn, như một lỗ hổng tiếp xúc trước đó có thể mở cửa chớp thông minh và tắt đèn bằng sự kiện Lịch Google bị nhiễm độc.
Thợ săn lỗi đã kiếm được hơn 430.000 đô la trong hai năm kể từ khi Công ty chính thức bắt đầu mời các nhà nghiên cứu AI Để tìm ra những con đường tiềm năng để lạm dụng các tính năng AI trong các sản phẩm của mình.
Đơn giản chỉ cần nhận Song Tử để ảo giác sẽ không cắt nó. Công ty nói vấn đề đó liên quan đến nội dung Được sản xuất bởi các sản phẩm AI-chẳng hạn như tạo ra lời nói căm thù hoặc nội dung vi phạm bản quyền-nên được báo cáo cho kênh phản hồi trong chính sản phẩm. Theo Google, theo cách đó, các nhóm an toàn AI của nó có thể chẩn đoán hành vi của mô hình và thực hiện đào tạo an toàn trên toàn mô hình cần thiết.
Cùng với chương trình phần thưởng AI mới, Google cũng đã công bố vào thứ Hai, một đại lý AI có bản vá mã dễ bị tổn thương được gọi là Codemender. Công ty cho biết họ đã sử dụng để vá 72 72 bản sửa lỗi bảo mật cho các dự án nguồn mở, sau khi được một nhà nghiên cứu của con người kiểm tra.
Giải thưởng trị giá 20.000 đô la được trao cho việc tìm kiếm các hành động lừa đảo trên tìm kiếm các sản phẩm hàng đầu của Google, ứng dụng Song Tử và các ứng dụng không gian làm việc cốt lõi như Gmail và Drive. Số nhân cho chất lượng báo cáo và một Phần thưởng mới lạ cũng có sẵn, có thể mang lại tổng số tiền lên tới 30.000 đô la. Giá giảm cho các lỗi được tìm thấy trên các sản phẩm khác của Google, như Jules hoặc Notebooklm và đối với các hành vi lạm dụng cấp thấp hơn, chẳng hạn như ăn cắp các tham số mô hình bí mật.
Nguồn The Verge