Hãy tưởng tượng một phó chủ tịch tài chính tại một nhà bán lẻ lớn. Cô ấy hỏi đại lý phân tích AI mới của công ty một câu hỏi đơn giản: “Doanh thu quý trước của chúng tôi là bao nhiêu?”Câu trả lời sẽ quay lại sau vài giây.
Tự tin.
Lau dọn.
Sai.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Kịch bản chính xác đó xảy ra thường xuyên hơn nhiều tổ chức muốn thừa nhận. AtScale, cho phép các tổ chức triển khai các môi trường phân tích được quản lý và tính nhất quán về ngữ nghĩa, đã phát hiện ra rằng việc chỉ tăng tham số mô hình không thể giải quyết được Quản trị AI và bối cảnh các vấn đề mà doanh nghiệp phải đối mặt.
Khi các hệ thống AI truy vấn dữ liệu không nhất quán hoặc không được quản lý, việc thêm độ phức tạp của mô hình sẽ không giải quyết được vấn đề mà sẽ khiến vấn đề trở nên phức tạp hơn. Các tổ chức trong các ngành đã hành động nhanh chóng để phát triển AI tác nhân, triển khai các hệ thống phân tích dữ liệu, tạo ra thông tin chi tiết và kích hoạt quy trình làm việc tự động. Để đáp ứng xu hướng này, các mô hình AI đã điều chỉnh để phản ứng nhanh chóng thông qua các tham số mô hình lớn hơn, sức mạnh tính toán tăng lên và các tính năng bổ sung. Giả định cơ bản là miễn là mô hình đủ lớn thì kết quả cuối cùng sẽ đáng tin cậy.
Tuy nhiên, có những dấu hiệu cho thấy giả định này có thể không đứng vững. Gần đây nghiên cứu TDWI nhận thấy rằng gần một nửa số người được hỏi mô tả các sáng kiến quản trị AI của họ là chưa trưởng thành hoặc rất chưa trưởng thành. Điều này có thể liên quan nhiều đến dòng dữ liệu và định nghĩa kinh doanh mà các mô hình này dựa trên hơn là khả năng của mô hình.
Tại sao các mô hình lớn hơn không giải quyết được vấn đề quản trị
Ngành công nghiệp AI có xu hướng hoạt động dựa trên một giả định chưa được kiểm chứng về yếu tố thúc đẩy hiệu suất tốt hơn: khi chúng ta xây dựng các mô hình tiên tiến hơn, bằng cách nào đó chúng sẽ tự sửa các lỗi về hiệu suất của mình. Trong phân tích doanh nghiệp, giả định đó có thể sụp đổ nhanh chóng.
Mặc dù quy mô có thể cải thiện phạm vi lý luận trong một mô hình nhưng nó không tự động thực thi định nghĩa về tỷ suất lợi nhuận gộp mà doanh nghiệp đã đồng ý sử dụng. Nó không giải quyết được sự không nhất quán về số liệu đã tồn tại trong các trang tổng quan riêng biệt trong nhiều năm. Và nó cũng không tự mình tạo ra dòng dõi có thể theo dõi được.
Vấn đề quản trị không giải quyết được ở quy mô lớn. Các quy tắc kinh doanh bị chôn vùi trong các công cụ riêng lẻ, các định nghĩa không nhất quán giữa các nhóm và kết quả đầu ra không có dấu vết kiểm tra là các vấn đề về cấu trúc và mô hình lớn hơn không khắc phục được cấu trúc. Nó chỉ tạo ra những câu trả lời không đáng tin cậy một cách trôi chảy hơn.
Tại AtScale, có một chủ đề nhất quán giữa các khách hàng của chúng tôi: Khi các định nghĩa dữ liệu không nhất quán theo các tổ chức vào lớp AI của họ, các vấn đề vẫn chưa dừng lại ở đó. Chúng lan truyền về phía trước, thường ở tốc độ nhanh hơn và độ trong suốt kém hơn so với lớp trước đó.
Hiệu suất và trách nhiệm là những công việc riêng biệt. Một lý do kiểu mẫu Lớp quản trị xác định lý do của mô hình, hạn chế cách áp dụng logic kinh doanh và đảm bảo kết quả đầu ra có thể được truy ngược về nguồn bản ghi. Cái này không thể thay thế cho cái kia.
Rủi ro thực sự: Các tác nhân không bị giới hạn trong môi trường doanh nghiệp
Vấn đề với các tác nhân AI hiếm khi nằm ở bản thân mô hình. Đó là những gì mô hình đang làm việc và liệu có ai có thể thấy nó đã làm gì không.
Với bối cảnh chung, các tác nhân AI có thể đọc dữ liệu khác nhau trên các hệ thống khác nhau. Ở các doanh nghiệp lớn, ngay cả những khác biệt nhỏ trong định nghĩa cũng có thể dẫn đến những kết quả khác nhau. Rủi ro cơ cấu thường xuất phát từ bốn nguyên nhân chính:
- Nhân viên lấy từ các nguồn mà cùng một số liệu có thể có ý nghĩa khác nhau đối với các nhóm khác nhau, khiến cho việc định nghĩa dữ liệu trở nên kém rõ ràng hơn.
- Số liệu từ các bộ phận khác nhau không thống nhất – hai nhân viên đưa ra hai câu trả lời nhưng không rõ câu trả lời nào đúng.
- Lý do không rõ ràng tạo ra kết quả đầu ra không có nguồn gốc rõ ràng về cách đưa ra quyết định.
- Khoảng trống kiểm tra: Khi không thể truy nguyên kết quả đầu ra về nguồn hồ sơ được quản lý, không có cách nào đáng tin cậy để phát hiện lỗi, phân công trách nhiệm hoặc điều chỉnh khóa học.
Đây không phải là dấu hiệu cho thấy AI không hoạt động. Chúng cho thấy cơ sở hạ tầng xung quanh AI chưa theo kịp.
Lan can thực sự có ý nghĩa gì trong phân tích AI
Lan can thường được coi là một hạn chế. Tuy nhiên, trong nhiều trường hợp, lan can chính là điều kiện cho phép các tác nhân AI hoạt động với độ tin cậy cao hơn.
Các tấm chắn có thể giúp điều chỉnh các kết quả đầu ra do AI tạo ra phù hợp với logic kinh doanh đã được thiết lập. Họ cũng tạo ra một cấu trúc trong đó các tác nhân tự trị có thể hoạt động; theo cách này, khi quyền tự chủ tăng lên thì độ tin cậy cũng tăng theo. Trong phân tích, lan can thường tồn tại ở một số định dạng cụ thể:
- Định nghĩa dữ liệu được chia sẻ: Một định nghĩa duy nhất về các thuật ngữ như doanh thu, tỷ lệ rời bỏ hoặc tỷ suất lợi nhuận được chia sẻ trên tất cả các hệ thống.
- Ràng buộc logic kinh doanh: Các quy tắc chi phối cách thực hiện các phép tính, bất kể công cụ hoặc tác nhân thực hiện các phép tính đó là gì.
- Khả năng hiển thị dòng dõi: Khả năng xác định bất kỳ đầu ra nào có nguồn gốc từ đâu.
- Kiểm soát truy cập: Các quyền được xác định xác định dữ liệu nào mà tác nhân có thể truy vấn.
- Tiêu chuẩn hóa các chỉ số: Các định nghĩa nhất quán áp dụng trên các phòng ban và nền tảng.
Mục đích không phải là cản trở hiệu suất của AI. Đó là cung cấp cho AI một nền tảng để nó có thể đứng vững.
Vai trò của lớp ngữ nghĩa như một khung ràng buộc
Một lớp ngữ nghĩa nằm giữa dữ liệu, các ứng dụng và tác nhân AI sử dụng nó, xác định các khái niệm kinh doanh, triển khai các quy trình logic và cung cấp một khung thuật ngữ chung cho tất cả các ứng dụng và tác nhân AI sử dụng.
MỘT lớp ngữ nghĩa không thao tác hoặc sao chép dữ liệu; nó xác định những gì dữ liệu đại diện. Bằng cách đặt câu hỏi về lớp ngữ nghĩa được quản lý thay vì bảng cơ sở, các tác nhân AI có thể tạo đầu ra dựa trên logic do doanh nghiệp xác định, thay vì dựa trên suy luận. Sự khác biệt của kết quả đầu ra này trở nên đặc biệt quan trọng khi nhiều tác nhân AI trên nhiều hệ thống phải tạo ra các kết quả đầu ra tương tự nhau.
Từ quan điểm của AtScale, lớp ngữ nghĩa đóng vai trò là ranh giới ngữ cảnh có thể giúp đảm bảo các tác nhân AI diễn giải dữ liệu theo các định nghĩa kinh doanh chung. Lớp ngữ nghĩa tương tự như một ngôn ngữ chung hơn, trái ngược với rào chắn bảo vệ, đảm bảo tất cả các hệ thống hoạt động với một cách hiểu chung.
Quản trị là một câu hỏi mang tính kiến trúc, không phải là một câu hỏi kiểu mẫu
Các tổ chức doanh nghiệp nhận ra rằng quản trị AI không phải là xây dựng mô hình lớn nhất mà thiên về tạo ra một môi trường nơi mô hình đã chọn có thể hoạt động tốt. Một kiến trúc được thiết kế và quản lý tốt (với các định nghĩa chung cho các khái niệm, logic có thể theo dõi và bối cảnh được chia sẻ trên tất cả các hệ thống) có thể sẽ mang lại kết quả tốt hơn, đáng tin cậy hơn so với một mô hình lớn hơn chạy trong môi trường dữ liệu không được kiểm soát.
Các mô hình mở rộng mà không cải thiện tính rõ ràng về ngữ nghĩa có xu hướng làm tăng thêm độ phức tạp chứ không làm giảm độ phức tạp. Khi mỗi công cụ, hệ thống hoặc quy trình làm việc bổ sung được thêm vào môi trường không được kiểm soát, cơ hội cho sự khác biệt sẽ tăng lên.
Theo nghĩa này, AI có trách nhiệm là một thách thức về cơ sở hạ tầng. Các tổ chức triển khai AI thành công coi ý nghĩa của dữ liệu của họ như một quyết định thiết kế, thậm chí trước khi mô hình được chọn.
Ý nghĩa kinh tế và hoạt động
Những khoảng trống trong quản trị không tồn tại lâu dài. Họ có xu hướng xuất hiện trong ngân sách.
Sự mơ hồ về ý nghĩa dữ liệu có thể làm tăng xung đột trong hoạt động, các tác nhân tạo ra kết quả đầu ra không nhất quán cần có sự đánh giá của con người, chu trình điều chỉnh và làm lại các hoạt động phức tạp giữa các nhóm và công cụ. Khi dòng dõi không rõ ràng, việc kiểm tra sẽ tốn kém hơn. Việc trang bị thêm các biện pháp kiểm soát sau khi triển khai thường tốn kém hơn so với việc xây dựng kiến trúc phù hợp ngay từ đầu.
Trong môi trường doanh nghiệp phức tạp, chi phí có thể xuất hiện theo những cách có thể dự đoán được: xác thực dư thừa khi kết quả đầu ra không khớp giữa các hệ thống, tính toán vượt mức được kích hoạt bởi các truy vấn không rõ ràng và phân tích chậm hơn khi các nhóm tạm dừng để tìm ra câu trả lời nào thực sự đáng tin cậy. Các ràng buộc ngữ nghĩa rõ ràng có thể có nghĩa là ít chu kỳ xác thực hơn và giá trị vận hành đó ngày càng trở nên dễ đo lường hơn.
Con đường phía trước: Quyền tự chủ bị hạn chế
Tác nhân AI không phải là mục tiêu được cân nhắc trong tương lai, chúng đã được sử dụng rồi. Những gì vẫn đang theo kịp là cơ sở hạ tầng xung quanh họ. Các đại lý không có bối cảnh và ràng buộc rõ ràng có xu hướng hoạt động vượt quá những gì tổ chức thực sự có thể quản lý. Khoảng cách đó không tự khép lại.
AtScale cho rằng, điểm khác biệt trong AI doanh nghiệp sẽ không phải là quy mô mô hình, mà là sự rõ ràng của các mô hình môi trường hoạt động trong đó. Khi các tác nhân trở nên phổ biến hơn trong quy trình công việc kinh doanh, thì lớp ngữ nghĩa được xác định tốt như thế nào có thể quan trọng hơn độ lớn của mô hình.
Sự thay đổi hướng tới bối cảnh được quản lý và quyền tự chủ bị hạn chế này được khám phá chi tiết hơn trong Báo cáo Trạng thái lớp ngữ nghĩa năm 2026 của AtScalexem xét các tiêu chuẩn mở, khả năng tương tác và quản trị ngữ nghĩa đang định hình giai đoạn tiếp theo của trí tuệ doanh nghiệp như thế nào.
Nguồn The Next Web