Một trong những nhà khoa học AI hàng đầu thế giới cho biết, đến năm 2030, nhân loại sẽ phải quyết định xem có nên chấp nhận “rủi ro cuối cùng” khi để các hệ thống trí tuệ nhân tạo tự rèn luyện để trở nên mạnh mẽ hơn hay không.
Jared Kaplan, nhà khoa học trưởng và đồng sở hữu của công ty khởi nghiệp Anthropic trị giá 180 tỷ đô la Mỹ (135 tỷ bảng Anh), cho biết đang có một sự lựa chọn về mức độ tự chủ mà các hệ thống nên được trao để phát triển.
Động thái này có thể gây ra một “sự bùng nổ trí tuệ” có lợi – hoặc là thời điểm con người mất kiểm soát.
Trong một cuộc phỏng vấn về cuộc đua cạnh tranh khốc liệt để đạt được trí tuệ nhân tạo tổng hợp (AGI) – đôi khi được gọi là siêu trí tuệ – Kaplan kêu gọi các chính phủ và xã hội quốc tế tham gia vào cái mà ông gọi là “quyết định lớn nhất”.
Anthropic là một phần trong nhóm các công ty AI hàng đầu bao gồm OpenAI, Google DeepMind, xAI, Meta và các đối thủ Trung Quốc do DeepSeek dẫn đầu, đang chạy đua giành quyền thống trị AI. Trợ lý AI được sử dụng rộng rãi của nó, Claude, đã trở nên đặc biệt phổ biến đối với các khách hàng doanh nghiệp.
Kaplan cho biết quyết định ‘buông bỏ’ dây cương về AI có thể sẽ diễn ra trong khoảng thời gian từ năm 2027 đến năm 2030. Ảnh: Bloomberg/Getty Images
Kaplan nói rằng mặc dù những nỗ lực điều chỉnh công nghệ tiến bộ nhanh chóng cho phù hợp với lợi ích của con người cho đến nay đã thành công, việc giải phóng nó để tự cải thiện theo cách đệ quy “theo một cách nào đó là rủi ro cuối cùng, bởi vì nó giống như để AI ra đi”. Ông cho biết quyết định này có thể được đưa ra trong khoảng thời gian từ năm 2027 đến năm 2030.
Ảnh: Cayce Clifford/The Guardian
“Nếu bạn tưởng tượng bạn tạo ra quy trình này trong đó bạn có một AI thông minh hơn bạn hoặc thông minh ngang bằng bạn, thì đó là [then] tạo ra một AI thông minh hơn nhiều.”
Ảnh: Cayce Clifford/The Guardian
“Nghe có vẻ như một quá trình đáng sợ. Bạn không biết mình sẽ đi đến đâu.”
Kaplan đã từ một nhà khoa học vật lý lý thuyết trở thành tỷ phú AI sau 7 năm làm việc trong lĩnh vực này. Trong một cuộc phỏng vấn rộng rãi, ông cũng nói:
-
Các hệ thống AI sẽ có khả năng thực hiện “hầu hết các công việc văn phòng” trong vòng hai đến ba năm.
-
Rằng cậu con trai sáu tuổi của ông sẽ không bao giờ giỏi hơn AI trong các công việc học tập như viết bài luận hay làm bài kiểm tra toán.
-
Việc lo lắng về việc con người mất quyền kiểm soát công nghệ là đúng nếu AI bắt đầu tự cải thiện.
-
Rủi ro trong cuộc đua tới AGI có vẻ “khó khăn”.
-
Kịch bản tốt nhất có thể cho phép AI tăng tốc nghiên cứu y sinh, cải thiện sức khỏe và an ninh mạng, tăng năng suất, giúp con người có nhiều thời gian rảnh rỗi hơn và giúp con người phát triển.
Kaplan đã gặp Guardian tại trụ sở của Anthropic ở San Francisco, nơi bên trong là những tấm thảm dệt kim và nhạc jazz sôi động phản ánh những lo ngại hiện hữu về công nghệ đang được phát triển.
San Francisco đã trở thành tâm điểm của các công ty khởi nghiệp và đầu tư AI. Ảnh: The Washington Post/Getty Images
Kaplan là giáo sư vật lý tốt nghiệp Stanford và Harvard, từng nghiên cứu tại Đại học Johns Hopkins và Cern ở Thụy Sĩ trước khi gia nhập OpenAI vào năm 2019 và đồng sáng lập Anthropic vào năm 2021.
Anh ấy không đơn độc tại Anthropic bày tỏ mối quan ngại. Một trong những người đồng sáng lập của ông, Jack Clark, cho biết vào tháng 10 rằng ông vừa lạc quan vừa “sợ hãi sâu sắc” về quỹ đạo của AI, thứ mà ông gọi là “một sinh vật có thật và bí ẩn, không phải một cỗ máy đơn giản và có thể đoán trước được”.
Kaplan cho biết ông rất lạc quan về việc liên kết các hệ thống AI với lợi ích của nhân loại cho đến mức độ trí tuệ của con người, nhưng lo ngại về hậu quả nếu và khi chúng vượt quá ngưỡng đó.
Anh ấy nói: “Nếu bạn tưởng tượng bạn tạo ra quy trình này trong đó bạn có một AI thông minh hơn bạn hoặc thông minh ngang bằng bạn, thì đó là [then] tạo ra một AI thông minh hơn nhiều. Nó sẽ tranh thủ sự giúp đỡ của AI để tạo ra AI thông minh hơn thế. Nghe có vẻ giống như một loại quá trình đáng sợ. Bạn không biết mình sẽ kết thúc ở đâu.”
Người ta nghi ngờ về lợi ích thu được từ việc triển khai AI trong nền kinh tế. Bên ngoài trụ sở chính của Anthropic, một bảng quảng cáo cho một công ty công nghệ khác có câu hỏi thẳng thắn “Tất cả AI đó và không có ROI?”, ám chỉ lợi tức đầu tư. Một nghiên cứu của Harvard Business Review vào tháng 9 cho biết AI “không hoạt động” – công việc hỗ trợ AI không đạt tiêu chuẩn mà con người phải sửa chữa – đang làm giảm năng suất.
Một số lợi ích rõ ràng nhất là việc sử dụng AI để viết mã máy tính. Vào tháng 9, Anthropic đã tiết lộ AI tiên tiến của mình, Claude Sonnet 4.5, một mô hình mã hóa máy tính có thể xây dựng các tác nhân AI và sử dụng máy tính một cách tự động.
Những kẻ tấn công đã sử dụng công cụ Claude Code để nhắm mục tiêu vào các tổ chức khác nhau. Ảnh: Anthropic
Nó duy trì sự tập trung vào các nhiệm vụ mã hóa nhiều bước phức tạp trong 30 giờ liên tục và Kaplan nói rằng trong một số trường hợp, việc sử dụng AI đã tăng gấp đôi tốc độ mà các lập trình viên của công ty ông có thể làm việc.
Nhưng vào tháng 11 Anthropic cho biết họ tin rằng một nhóm do nhà nước Trung Quốc bảo trợ đã thao túng công cụ Claude Code của nó – không chỉ giúp con người thực hiện một cuộc tấn công mạng mà còn thực hiện khoảng 30 cuộc tấn công, một số trong đó đã thành công. Kaplan cho biết việc cho phép AI đào tạo các AI tiếp theo là “một quyết định cực kỳ quan trọng cần thực hiện”.
“Đó là điều mà chúng tôi coi có thể là quyết định lớn nhất hoặc điều đáng sợ nhất phải làm… khi không có ai tham gia vào quá trình này, bạn thực sự không biết. Bạn có thể bắt đầu một quá trình và nói, ‘Ồ, nó diễn ra rất tốt. Đó chính xác là những gì chúng tôi mong đợi. Nó rất an toàn.’ Nhưng bạn không biết – đó là một quá trình năng động. Điều đó dẫn tới đâu?”
Ông cho biết nếu quá trình tự cải thiện đệ quy, như quá trình này đôi khi được biết đến, được cho phép theo cách không kiểm soát thì sẽ có hai rủi ro.
“Một là bạn có mất quyền kiểm soát nó không? Bạn thậm chí có biết AI đang làm gì không? Câu hỏi chính là: AI có tốt cho nhân loại không? Chúng có hữu ích không? Chúng có vô hại không? Chúng có hiểu con người không? Chúng có cho phép mọi người tiếp tục có quyền tự quyết trong cuộc sống của họ và trên toàn thế giới không?”
Ảnh: Cayce Clifford/The Guardian
“Tôi nghĩ việc ngăn chặn việc giành quyền lực, ngăn chặn việc lạm dụng công nghệ cũng rất quan trọng”.
Ảnh: Cayce Clifford/The Guardian
“Có vẻ rất nguy hiểm nếu nó rơi vào tay kẻ xấu”
Rủi ro thứ hai là về an ninh do AI tự học vượt quá khả năng của con người trong nghiên cứu khoa học và phát triển công nghệ.
Ông nói: “Có vẻ rất nguy hiểm nếu nó rơi vào tay kẻ xấu. “Bạn có thể tưởng tượng một người nào đó [deciding]: ‘Tôi muốn AI này trở thành nô lệ của tôi. Tôi muốn nó thực hiện ý chí của tôi.” Tôi nghĩ việc ngăn chặn việc giành giật quyền lực – ngăn chặn việc lạm dụng công nghệ – cũng rất quan trọng.”
Nghiên cứu độc lập về các mô hình AI tiên tiến, bao gồm ChatGPT, cho thấy độ dài nhiệm vụ mà AI có thể thực hiện tăng gấp đôi cứ sau bảy tháng.
Kaplan cho biết ông lo ngại rằng tốc độ tiến bộ có nghĩa là nhân loại nói chung chưa thể làm quen với công nghệ trước khi nó phát triển trở lại.
“Tôi lo lắng về điều đó… những người như tôi đều có thể bị điên và mọi chuyện có thể ổn định,” anh nói. “Có lẽ AI tốt nhất từ trước đến nay là AI mà chúng tôi có hiện nay. Nhưng chúng tôi thực sự không nghĩ như vậy. Chúng tôi nghĩ nó sẽ ngày càng tốt hơn.”
Ông nói thêm: “Đó là thứ đang diễn ra rất nhanh và mọi người không nhất thiết phải có thời gian để tiếp thu nó hoặc tìm hiểu xem phải làm gì.”
Anthropic đang chạy đua với OpenAI, Google DeepMind và xAI để phát triển các hệ thống AI tiên tiến hơn bao giờ hết nhằm thúc đẩy AGI. Kaplan mô tả bầu không khí ở Vùng Vịnh “chắc chắn rất căng thẳng, cả từ lợi ích của AI và quan điểm cạnh tranh”.
“Cách chúng tôi nghĩ về nó là [that] mọi thứ đều theo xu hướng cấp số nhân về đầu tư, doanh thu, khả năng của AI, mức độ phức tạp của các nhiệm vụ [are that] AI có thể làm được”, ông nói.
Tốc độ tiến độ đồng nghĩa với việc nguy cơ một trong các tay đua bị trượt và tụt lại phía sau là rất lớn. “Tiền đặt cược rất cao nếu bạn luôn ở trên biên giới, theo nghĩa là bạn sẽ rơi khỏi con số lũy thừa. [curve] và rất nhanh chóng bạn có thể bị tụt lại rất xa, ít nhất là về mặt nguồn lực.”
Đến năm 2030, các trung tâm dữ liệu dự kiến sẽ cần 6,7 nghìn tỷ USD trên toàn thế giới để theo kịp nhu cầu về sức mạnh tính toán, McKinsey đã ước tính. Các nhà đầu tư muốn hỗ trợ các công ty đứng đầu danh sách.
Một số lợi ích lớn nhất là việc sử dụng AI để viết mã máy tính. Ảnh: Cheng Xin/Getty Images
Đồng thời, Anthropic được biết đến với việc khuyến khích các quy định về AI. Của nó tuyên bố mục đích bao gồm một phần có tiêu đề: “Chúng tôi xây dựng các hệ thống an toàn hơn”.
“Chúng tôi thực sự không muốn nó trở thành một tình huống giống như Sputnik, nơi chính phủ đột nhiên thức tỉnh và nghĩ, ‘Ồ, ồ, AI là một vấn đề lớn’… Chúng tôi muốn các nhà hoạch định chính sách được cung cấp đầy đủ thông tin về quỹ đạo để họ có thể tính đến nó.”
Vào tháng 10, quan điểm của Anthropic đã gây ra sự chỉ trích từ Nhà Trắng của Donald Trump. David Sacks, cố vấn AI của tổng thống Mỹ, đã cáo buộc Anthropic “gây sợ hãi” để khuyến khích các quy định của từng bang nhằm mang lại lợi ích cho vị thế của họ và gây thiệt hại cho các công ty khởi nghiệp.
Sau khi Sacks tuyên bố họ đã tự định vị mình là “kẻ thù” của chính quyền Trump, Dario Amodei, đồng sáng lập Kaplan và giám đốc điều hành của Anthropic, đã đáp trả bằng cách nói rằng công ty đã công khai ca ngợi kế hoạch hành động AI của Trump, làm việc với các đảng viên Đảng Cộng hòa và rằng, giống như Nhà Trắng, họ muốn duy trì vị trí dẫn đầu của Hoa Kỳ về AI.
Nguồn The Guardian