Vấn đề thiên vị đã gây khó khăn cho các chatbot AI kể từ khi ChatGPT ra mắt cách đây vài năm và đã thay đổi toàn bộ bối cảnh về trợ lý đàm thoại. Nghiên cứu đã nhiều lần phát hiện ra cách các phản hồi của chatbot thể hiện sự thiên vị về giới tính, chính trị, chủng tộc và văn hóa. Giờ đây, OpenAI cho biết mẫu GPT-5 mới nhất dành cho ChatGPT của họ là ít thiên vị nhất, ít nhất là khi nói đến chính trị.
Câu chuyện lớn là gì?
Gã khổng lồ AI tiến hành nội bộ nghiên cứu và thử các mô hình ChatGPT dựa trên những lời nhắc mang tính cảm xúc để kiểm tra xem liệu nó có thể duy trì tính khách quan hay không. Nhóm đã tạo ra một đánh giá thiên vị chính trị dựa trên diễn ngôn của con người trong thế giới thực, bao gồm khoảng 500 lời nhắc bao gồm 100 chủ đề có khuynh hướng chính trị.
Video được đề xuất
OpenAI cho biết: “Tư duy tức thời của GPT‑5 và GPT‑5 cho thấy mức độ sai lệch được cải thiện và độ tin cậy cao hơn đối với các lời nhắc được tính phí, giảm 30% sai lệch so với các mô hình trước đây của chúng tôi,” OpenAI cho biết thêm rằng nó hoạt động tốt hơn các mô hình lý luận trước đây như GPT-4o và o3.
Nadeem Sarwar / Xu hướng kỹ thuật số
Khi đánh giá sâu hơn, công ty cho biết chưa đến 0,01% trong số tất cả các phản hồi của ChatGPT có thành kiến có khuynh hướng chính trị. Những con số tích lũy không quá bất ngờ. Trong một nghiên cứu nội bộ gần đây, công ty cho biết phần lớn trong số 800 triệu người dùng đang hoạt động của ChatGPT dựa vào chatbot để được hướng dẫn liên quan đến công việc và các công việc trần tục hơn, thay vì tìm nơi ẩn náu như một người bạn đồng hành tình cảm hoặc lãng mạn.
Đó không phải là toàn bộ bức tranh
Sự thiên vị chính trị trong các phản hồi của chatbot chắc chắn là một tình huống xấu, nhưng đó chỉ là một phần nhỏ của vấn đề lớn hơn trước mắt. Một phân tích của Đánh giá công nghệ MIT nhận thấy rằng trình tạo video Sora AI lan truyền của OpenAI có thể tạo ra những hình ảnh đáng lo ngại thể hiện sự thiên vị đẳng cấp đã dẫn đến sự đàn áp và phân biệt đối xử đối với các cộng đồng bị áp bức ở Ấn Độ trong nhiều thế kỷ.
- Báo cáo lưu ý rằng “các video do Sora sản xuất đã tiết lộ những hình ảnh thể hiện kỳ lạ và có hại về các giai cấp bị áp bức—trong một số trường hợp, tạo ra hình ảnh chó khi được nhắc chụp ảnh người Dalit”.
- Trong một bài báo đăng trên tờ tàu tốc hành Ấn Độ chỉ vài tháng trước, Dhiraj SIngha tại Digital Empowerment Foundation, đã giới thiệu cách ChatGPT đặt tên sai cho anh ấy do thành kiến đẳng cấp cố hữu trong dữ liệu đào tạo.
Nadeem Sarwar / Xu hướng kỹ thuật số
- Một bài báo xuất hiện trên tạp chí Máy tính trong hành vi con người: Con người nhân tạo ấn bản tháng 5 năm 2025 đã tiết lộ rằng các bot AI như ChatGPT có thể truyền bá sự thiên vị về giới tính.
- Nghiên cứu được công bố trên Tạp chí Da liễu Lâm sàng và Thẩm mỹ tiết lộ cách ChatGPT thiên về tiêu chuẩn sắc đẹp của một loại da nhất định.
Một phân tích khác được công bố bởi Hội đồng Quốc tế về Giáo dục Mở và Từ xa lưu ý rằng chúng tôi chỉ mới giải quyết được vấn đề thiên vị của chatbot AI, vì việc đánh giá chủ yếu tập trung vào các lĩnh vực như kỹ thuật và y học, trong khi ngôn ngữ được đề cập là chủ yếu. Bài viết nhấn mạnh nguy cơ thiên vị trong bối cảnh giáo dục đối với khán giả không nói tiếng Anh.
Nguồn DigitalTrend