Lãnh đạo OpenAI sắp rời đi cho biết chưa có công ty nào sẵn sàng cho AGI

Miles Brundage, cố vấn cấp cao của OpenAI về sự sẵn sàng của AGI (hay còn gọi là trí tuệ nhân tạo cấp độ con người), đã đưa ra một cảnh báo rõ ràng khi tuyên bố rời đi vào thứ Tư: không ai được chuẩn bị cho trí tuệ nhân tạo nói chung, kể cả chính OpenAI.

“Cả OpenAI và bất kỳ phòng thí nghiệm biên giới nào khác đều chưa sẵn sàng [for AGI]và thế giới cũng chưa sẵn sàng,” Brundage, người đã dành sáu năm giúp định hình các sáng kiến ​​an toàn AI của công ty, viết. “Nói rõ hơn, tôi không nghĩ đây là một tuyên bố gây tranh cãi giữa ban lãnh đạo OpenAI, và đáng chú ý, đó là một câu hỏi khác với việc liệu công ty và thế giới có đang trên đà sẵn sàng vào thời điểm thích hợp.”

Sự ra đi của anh ấy đánh dấu sự ra đi mới nhất trong một loạt sự ra đi nổi bật của các đội an toàn của OpenAI. Jan Leike, một nhà nghiên cứu nổi tiếng, đã rời đi sau khi tuyên bố rằng “văn hóa và quy trình an toàn đã nhường chỗ cho các sản phẩm sáng bóng”. Người đồng sáng lập Ilya Sutskever cũng khởi hành để thành lập công ty khởi nghiệp AI của riêng mình tập trung vào phát triển AGI an toàn.

Việc giải thể nhóm “Sẵn sàng AGI” của Brundage, diễn ra chỉ vài tháng sau khi công ty giải tán nhóm “Siêu liên kết” chuyên giảm thiểu rủi ro AI dài hạn, làm nổi bật căng thẳng gia tăng giữa sứ mệnh ban đầu của OpenAI và tham vọng thương mại của nó. Công ty được cho là phải đối mặt với áp lực để chuyển đổi từ một tổ chức phi lợi nhuận sang một công ty lợi ích công cộng vì lợi nhuận trong vòng hai năm – hoặc có nguy cơ hoàn trả tiền từ vòng đầu tư 6,6 tỷ USD gần đây. Sự thay đổi hướng tới thương mại hóa này đã khiến Brundage lo ngại từ lâu, người đã bày tỏ sự dè dặt vào năm 2019. khi OpenAI lần đầu tiên thành lập bộ phận vì lợi nhuận.

Bạn có làm việc tại OpenAI không? Tôi rất muốn trò chuyện. Bạn có thể liên hệ với tôi một cách an toàn trên Signal @kylie.01 hoặc qua email tại kylie@theverge.com.

Khi giải thích về sự ra đi của mình, Brundage trích dẫn những hạn chế ngày càng tăng đối với quyền tự do nghiên cứu và xuất bản của ông tại công ty nổi tiếng. Ông nhấn mạnh sự cần thiết của tiếng nói độc lập trong các cuộc thảo luận chính sách AI, không có những thành kiến ​​​​và xung đột lợi ích trong ngành. Đã tư vấn cho ban lãnh đạo OpenAI về sự chuẩn bị nội bộ, anh tin rằng giờ đây anh có thể tạo ra tác động lớn hơn đến việc quản trị AI toàn cầu từ bên ngoài tổ chức.

Sự ra đi này cũng có thể phản ánh sự chia rẽ văn hóa sâu sắc hơn trong OpenAI. Nhiều nhà nghiên cứu đã tham gia để thúc đẩy nghiên cứu AI và hiện đang ở trong một môi trường ngày càng hướng tới sản phẩm. Phân bổ nguồn lực nội bộ đã trở thành một điểm nóng – báo cáo chỉ ra rằng nhóm của Leike đã bị từ chối khả năng tính toán cho nghiên cứu an toàn trước khi giải thể.

Bất chấp những xích mích này, Brundage lưu ý rằng OpenAI đã đề nghị hỗ trợ công việc trong tương lai của anh ấy bằng nguồn tài trợ, tín dụng API và quyền truy cập mô hình sớm mà không có sự ràng buộc nào.

Nguồn The Verge