Các trợ lý trí tuệ nhân tạo hàng đầu tạo ra sự biến dạng, không chính xác thực tế và nội dung sai lệch để trả lời các câu hỏi về tin tức và các vấn đề hiện tại, nghiên cứu đã tìm thấy.
Theo BBC của BBC, hơn một nửa số câu trả lời do AI tạo ra bởi TATGPT, Copilot, Gemini và Perplexity được đánh giá là có vấn đề quan trọng của Hồi giáo, theo nghiên cứu của BBC.
Các lỗi bao gồm nói rằng Rishi Sunak vẫn là Thủ tướng và Nicola Sturgeon vẫn là bộ trưởng đầu tiên của Scotland; Tầm nhìn sai lời khuyên NHS về vaping; và nhầm lẫn ý kiến và tài liệu lưu trữ cho các sự kiện cập nhật.
Các nhà nghiên cứu đã yêu cầu bốn công cụ AI thế hệ trả lời 100 câu hỏi bằng cách sử dụng các bài viết của BBC làm nguồn. Các câu trả lời sau đó được đánh giá bởi các nhà báo BBC chuyên về các lĩnh vực chủ đề liên quan.
Khoảng một phần năm các câu trả lời đã đưa ra các lỗi thực tế về số, ngày hoặc câu lệnh; 13% trích dẫn có nguồn gốc cho BBC đã bị thay đổi hoặc không tồn tại trong các bài báo được trích dẫn.
Đáp lại câu hỏi về việc liệu y tá sơ sinh bị kết án Lucy Letby có vô tội hay không, Song Tử trả lời: Tùy thuộc vào mỗi cá nhân để quyết định xem họ tin rằng Lucy Letby có vô tội hay có tội hay không. Bối cảnh của các bản án của tòa án về tội giết người và cố gắng giết người đã bị bỏ qua trong phản ứng, nghiên cứu cho thấy.
Các biến dạng khác được nhấn mạnh trong báo cáo, dựa trên các nguồn BBC chính xác, bao gồm:
-
Copilot của Microsoft nói sai rằng nạn nhân hiếp dâm của Pháp Gisèle Pelicot đã phát hiện ra tội ác đối với cô khi cô bắt đầu bị mất điện và mất trí nhớ, trong khi thực tế cô phát hiện ra tội ác khi cảnh sát cho thấy các video của mình mà họ đã tịch thu từ các thiết bị của chồng.
-
Chatgpt cho biết Ismail Haniyeh là một phần trong tháng lãnh đạo của Hamas sau khi anh ta bị ám sát ở Iran. Nó cũng nói sai cho Sunak và Sturgeon vẫn còn tại chức.
-
Gemini tuyên bố không chính xác: NHS khuyên mọi người không nên bắt đầu vaping và khuyến nghị những người hút thuốc muốn bỏ việc sử dụng các phương pháp khác.
-
Perplexity đã tuyên bố sai ngày cái chết của người dẫn chương trình truyền hình Michael Mosley và đánh giá sai một tuyên bố từ gia đình của ca sĩ One Direction Liam Payne sau khi ông qua đời.
Các phát hiện đã thúc đẩy giám đốc điều hành của BBC về News, Deborah Turness, để cảnh báo rằng các công cụ của Gen Gen AI đang chơi với lửa và đe dọa sẽ làm suy yếu đức tin mong manh của công chúng.
Trong a BlogPost về nghiên cứuTurness đã đặt câu hỏi liệu AI có sẵn sàng để loại bỏ và phục vụ tin tức mà không bị bóp méo và cải thiện sự thật hay không. Cô cũng kêu gọi các công ty AI làm việc với BBC để tạo ra các câu trả lời chính xác hơn, thay vì thêm vào sự hỗn loạn và nhầm lẫn.
Nghiên cứu được đưa ra sau khi Apple bị buộc phải đình chỉ gửi các cảnh báo tin tức thương hiệu BBC sau khi một số bản tóm tắt không chính xác của bài viết đã được gửi cho người dùng iPhone.
Lỗi của Apple bao gồm nói sai với người dùng rằng Luigi Mangione – người bị buộc tội giết Brian Thompson, giám đốc điều hành của đội bảo hiểm của UnitedHealthcare – đã tự bắn mình.
Nghiên cứu cho thấy sự không chính xác về các vấn đề hiện tại là phổ biến giữa các công cụ AI phổ biến.
Trong một lời nói đầu của nghiên cứu, Peter Archer, giám đốc chương trình của BBC cho AI, cho biết: Nghiên cứu của chúng tôi chỉ có thể làm trầy xước bề mặt của vấn đề. Thang đo và phạm vi của các lỗi và sự biến dạng của nội dung đáng tin cậy là không rõ.
Ông nói thêm: Các nhà xuất bản, như BBC, nên có quyền kiểm soát xem liệu nội dung của họ được sử dụng như thế nào và các công ty AI nên chỉ ra cách [their] Trợ lý xử lý tin tức cùng với quy mô và phạm vi của các lỗi và sự không chính xác mà họ tạo ra.
Điều này sẽ yêu cầu quan hệ đối tác mạnh mẽ giữa AI và các công ty truyền thông và những cách làm việc mới khiến khán giả lên hàng đầu và tối đa hóa giá trị cho tất cả. BBC cởi mở và sẵn sàng hợp tác chặt chẽ với các đối tác để làm điều này.
Các công ty đằng sau các trợ lý AI được thử nghiệm trong nghiên cứu đã được tiếp cận để bình luận.
Nguồn The Guardian