Lầu Năm Góc cho biết Grok đã giúp tấn công 2.000 mục tiêu trong 96 giờ và nhà máy điện gây ô nhiễm đằng sau nó là vấn đề an ninh quốc gia tối cao. Hai khẳng định thuộc về cùng một câu, và đó chính là vấn đề.
Sự thừa nhận này không được đưa ra trong một thông cáo báo chí hay một cuộc họp giao ban của Lầu Năm Góc mà nó được đưa ra trong một tuyên bố được đệ trình trong một văn bản tòa án liên bang ở Mississippitrong một trường hợp về ô nhiễm không khí. Ở đó, để bảo vệ xAI của Elon Musk trước một vụ kiện về Đạo luật Không khí Sạch, giám đốc trí tuệ nhân tạo và kỹ thuật số của Lầu Năm Góc đã đặt ra một câu khiến bất cứ ai cũng phải lạnh lùng đọc nó.
Ông viết, chatbot có tên Grok đã giúp bắn hơn 2.000 quả đạn vào 2.000 mục tiêu khác nhau ở Iran trong vòng 96 giờ và việc tiếp tục hoạt động của nó là vấn đề an ninh quốc gia tối cao.
Hãy đọc lại lần nữa vì địa điểm là toàn bộ câu chuyện. Một quan chức chính phủ tiết lộ rằng một sản phẩm AI tiêu dùng đã được sử dụng để đánh bom một quốc gia, không phải để thông báo cho công chúng mà để duy trì hoạt động của trung tâm dữ liệu. Việc nhắm mục tiêu và các tuabin được đưa ra trong cùng một bản tuyên thệ bởi vì, theo lời kể của chính quyền, chúng có cùng một lập luận: Grok quan trọng đối với chiến tranh, chiến tranh quan trọng đối với quốc gia, do đó, nhà máy điện cung cấp cho Grok không thể bị tắt, bất kể luật pháp nói gì về giấy phép của nó.
TNW City Coworking Space – Nơi công việc tốt nhất của bạn diễn ra
Một không gian làm việc được thiết kế để phát triển, hợp tác và có cơ hội kết nối vô tận ở trung tâm công nghệ.
Đây là thời điểm hai vấn đề về AI quân sự không còn tách biệt nữa. Đầu tiên là một chatbot được xây dựng để trả lời các câu hỏi trên mạng xã hội hiện được kết nối với cỗ máy giết người. Thứ hai là người sở hữu chatbot đó cũng ngồi trong chính phủ để quyết định cách sử dụng nó. Mỗi cái đều đáng báo động.
Họ cùng nhau mô tả một hệ thống trong đó các biện pháp bảo vệ mà chúng ta thường mong đợi, về pháp lý, môi trường, đạo đức, tất cả đều hướng tới sự thuận tiện cho một công ty và một người.
Bắt đầu với chatbot. Theo hồ sơ, Grok là một trong bốn mô hình AI duy nhất mà Lầu Năm Góc coi là có khả năng hỗ trợ các ứng dụng an ninh quốc gia và là một trong ba mô hình được phép thực hiện nhiệm vụ quan trọng trong môi trường tuyệt mật.
Nó đưa vào Hệ thống thông minh Maven của Cơ quan tình báo không gian địa lý quốc gia, bảng điều khiển do AI điều khiển đưa ra dữ liệu tình báo để giúp các quan chức quyết định nên tấn công cái gì. Dòng chính thức mang lại sự yên tâm trong cách diễn đạt của nó: AI không tạo ra mục tiêu, nó xác định các điểm quan tâm để các nhà phân tích con người cân nhắc. Con người, chúng ta được biết, vẫn ở trong vòng lặp.
Vòng lặp đã không cứu được những đứa trẻ của Minab. Vào ngày 28 tháng 2, trong đợt tấn công đầu tiên, một tên lửa hành trình Tomahawk đã bắn trúng trường nữ sinh Shajarah Tayyebeh ở thị trấn Iran, giết chết hàng chục người, hầu hết trong số đó là trẻ em, trong điều mà các nhà quan sát gọi là vụ việc dân sự nguy hiểm nhất trong cuộc xung đột.
Một cuộc điều tra quân sự sơ bộ của Mỹ đã kết luận rằng các lực lượng Mỹ đã có khả năng chịu trách nhiệmvà cuộc đình công diễn ra trí thông minh lỗi thời: tọa độ mục tiêu được xây dựng từ dữ liệu cũ, được cung cấp qua hệ thống, không bao giờ được kiểm tra lại dựa trên bản đồ hiện tại. Ngôi trường đã là một ngôi trường suốt thời gian qua.
Đó là vấn đề khi đưa AI đến gần mục tiêu và nó không liên quan gì đến việc máy có bóp cò hay không. Mối nguy hiểm tinh vi hơn và khó lập pháp hơn để chống lại. Bảng điều khiển AI xếp hạng các điểm quan tâm và ghép vũ khí với chúng không loại bỏ sự phán xét của con người nhiều như rửa sạch nó.
Nhà phân tích nhìn thấy một giao diện tự tin, khả năng đọc rõ ràng, mục tiêu mà hệ thống đã xác định bằng một con số và phản ứng tự nhiên của con người là tin tưởng vào nó. Xu hướng tự động hóa không phải là lỗi trong các hệ thống này; đó là kết quả có thể dự đoán được của việc xây dựng một thứ gì đó được thiết kế để trông có thẩm quyền. Khi dữ liệu cơ bản sai, giao diện sẽ khiến lỗi trông có vẻ nghiêm trọng cho đến khi tên lửa hạ cánh.
Bây giờ hãy thêm vấn đề thứ hai, vấn đề mà việc nộp đơn ở Mississippi khiến không thể bỏ qua. Vụ kiện được đưa ra bởi NAACP, cáo buộc rằng xAI đang vận hành hàng chục tuabin đốt khí để cung cấp năng lượng cho các trung tâm dữ liệu của mình mà không có giấy phép mà Đạo luật Không khí Sạch yêu cầu, trong một trường hợp tập trung vào một cơ sở ở Southaven, Mississippi, nơi nhóm này tính đến 27 tua-bin không được cấp phép ngồi bên cạnh những ngôi nhà, trường học và nhà thờ trong một cộng đồng phần lớn là người da đen.
Memphis, nơi siêu máy tính Colossus của xAI hoạt động, xếp thứ hai trong nước về số lượt đến phòng cấp cứu liên quan đến bệnh hen suyễn vào năm 2024. Đây là những người đang hít thở khí thải của máy tính.
Và phản ứng của chính phủ đối với vụ kiện của họ không phải để bảo vệ những giấy phép không tồn tại mà để lập luận rằng ô nhiễm là yếu tố quan trọng đối với chiến tranh. Bộ Tư pháp đã can thiệp để yêu cầu thẩm phán hủy vụ việc, với lý do việc đóng cửa các tuabin sẽ gây tổn hại “nghiêm trọng” cho Lầu Năm Góc.
Quan chức này viết rằng các trung tâm dữ liệu có vị trí tốt để cung cấp sự gia tăng đáng kể về công suất năng lượng trong trường hợp xảy ra xung đột vũ trang. Nói cách khác, an ninh quốc gia đã trở thành dung môi phổ biến: nó phá bỏ luật môi trường, nó làm tan biến sự phản đối của các gia đình theo chiều gió, và nó làm như vậy để phục vụ cho cơ sở hạ tầng chưa được cấp phép của một công ty tư nhân.
Đây là nơi xung đột lợi ích không còn trừu tượng nữa. Musk không phải là một nhà cung cấp có khoảng cách với nhà nước. Anh ta đã chiếm một vị trí duy nhất trong chính quyền này và các công ty của anh ta đã tự đan kết mình thông qua bộ máy bảo mật của nó: Grok của xAI trên các mạng được phân loại, các vệ tinh của SpaceX mang dữ liệu, lợi ích của cùng một người đối với cả bên bán và bên mua trong thỏa thuận.
Khi chính phủ lập luận rằng Grok là không thể thiếu và nhà máy điện của nó là không thể chạm tới, đó là đang tranh luận vì lợi ích thương mại của người trong cuộc. Yêu sách về an ninh quốc gia và lợi ích kinh doanh luôn hướng về cùng một hướng, và không có ai trong phòng có nhiệm vụ chú ý.
Sự tương phản với cách chính quyền này đối xử với một công ty thận trọng hơn không thể rõ ràng hơn. Khi Anthropic từ chối cho phép sử dụng mô hình Claude của mình để giám sát trong nước hoặc vũ khí tự động hoàn toàn, Lầu Năm Góc đã coi đó là rủi ro chuỗi cung ứng, một nhãn hiệu thường dành cho các đối thủ nước ngoài và công ty hiện đang bị kiện tụng về nó.
Bài học mà thị trường vừa rút ra là không thể nhầm lẫn. Nhấn mạnh vào các lan can và bạn là mối đe dọa an ninh quốc gia. Chạy các tua-bin không được phép và để chatbot của bạn giúp đánh bom một trường học, và bạn là tài sản an ninh quốc gia. Công ty quan tâm đến an toàn bị đưa vào danh sách đen; người tuân thủ sẽ được phân loại lại ô nhiễm là lòng yêu nước.
Một số người trong Quốc hội đã nhìn thấy hình dạng này. Thượng nghị sĩ Kirsten Gillibrand đã giới thiệu Đạo luật AI quân sự an toàn và có trách nhiệmđiều này sẽ giữ cho những người ra quyết định của con người kiểm soát các yêu cầu có hậu quả cao và cấm AI hoàn toàn khỏi việc sử dụng hạt nhân, giám sát trong nước và vũ khí tự động.
“Những quyết định quan trọng nhất ảnh hưởng đến an ninh quốc gia và cuộc sống của các quân nhân của chúng ta phải luôn được thực hiện bởi con người chứ không phải những cỗ máy vô trách nhiệm,” cô ấy nói.
Đó là bản năng đúng đắn. Theo bằng chứng của Minab, nó cũng là một bằng chứng không đầy đủ, bởi vì mối nguy hiểm không bao giờ chỉ nằm ở cỗ máy tự động hoàn toàn. Chính con người tin tưởng vào màn hình tự tin và công ty sẽ thu được lợi nhuận dù màn hình đúng hay sai.
Chúng ta đã đến một nơi nào đó thực sự mới mẻ và chúng ta đến đó một cách tình cờ thông qua một vụ kiện về ô nhiễm. Sản phẩm tương tự trả lời các câu hỏi về lịch thi đấu bóng đá và đăng các câu chuyện cười trên mạng xã hội hiện được xếp hạng trong số ít các hệ thống đáng tin cậy để giúp chỉ đạo một chiến dịch ném bom.
Theo lập luận của chính phủ, chính các tuabin đang đầu độc không khí ở Nam Memphis là một công cụ chiến tranh. Và chính người đàn ông đó sở hữu tất cả, đồng thời giúp cai trị bang mua nó. Không có điều nào trong số này được quyết định một cách công khai. Nó nổi lên vì một nhóm dân quyền đã yêu cầu tòa án buộc một công ty phải tuân theo Đạo luật Không khí Sạch, và chính phủ đã trả lời rằng không thể, vì chatbot còn một cuộc chiến cần phải chiến đấu.
Những đứa trẻ của Minab không thể được đưa trở lại bằng phần mềm tốt hơn hoặc quy chế chặt chẽ hơn. Nhưng câu hỏi về lực lượng tử vong của họ vẫn còn ở trước mắt chúng ta, và đó thực sự không phải là câu hỏi về máy móc. Đó là câu hỏi về việc chúng ta để ai đứng giữa giao diện tự tin và tên lửa, và liệu chúng ta có sẵn sàng gọi một thứ là nguy hiểm trong khi chủ nhân của nó vẫn ở trong phòng và nói với chúng ta rằng nó là không thể thiếu.
Nguồn The Next Web