Các hệ thống AI đang tiến hóa vượt ra ngoài các cơ chế phản hồi đơn giản. Tại nhiều tổ chức, AI agent đang được thử nghiệm để lập kế hoạch nhiệm vụ, đưa ra quyết định và thực thi hành động với sự can thiệp tối thiểu của con người. Trọng tâm đã chuyển từ việc liệu một mô hình có đưa ra câu trả lời chính xác hay không, sang việc hiểu những hệ quả khi mô hình đó được trao quyền hành động tự trị.
Các hệ thống tự trị cần có ranh giới được xác định rõ ràng. Chúng cần các quy tắc toàn diện xác định quyền truy cập, các hành động được phép và cơ chế theo dõi hoạt động. Nếu không có những kiểm soát này, ngay cả các hệ thống được huấn luyện tốt cũng có thể tạo ra các vấn đề khó phát hiện hoặc khó khắc phục.
Một công ty đang giải quyết thách thức này là Deloitte. Hãng đang phát triển các khung quản trị và phương pháp tư vấn để giúp các tổ chức quản lý hệ thống AI một cách hiệu quả.
Từ Công Cụ đến AI Agent
Hầu hết các hệ thống AI hiện đang được triển khai vẫn phụ thuộc vào prompt từ con người. Chúng tạo ra văn bản, phân tích dữ liệu hoặc đưa ra dự đoán, nhưng thường thì con người mới là người quyết định bước tiếp theo. AI agentic thay đổi căn bản mô hình này. Các hệ thống này có thể phân tách mục tiêu thành các bước có thể thực hiện, lựa chọn hành động phù hợp và tương tác với các hệ thống khác để hoàn thành nhiệm vụ một cách độc lập.
Mức độ tự trị tăng cao này đặt ra những thách thức mới. Khi một hệ thống hành động độc lập, nó có thể đi theo những con đường bất ngờ hoặc sử dụng dữ liệu theo những cách không được dự tính.
Công việc của Deloitte tập trung vào việc giúp các tổ chức chuẩn bị đối phó với những rủi ro này. Thay vì coi AI là một công cụ biệt lập, hãng xem xét cách nó tích hợp vào các quy trình kinh doanh, bao gồm các khung ra quyết định và luồng dữ liệu.
Tích Hợp Quản Trị vào Toàn Bộ Vòng Đời
Quản trị không nên là điều được thêm vào sau khi triển khai. Nó phải được tích hợp xuyên suốt toàn bộ vòng đời của hệ thống AI.
Điều này bắt đầu từ giai đoạn thiết kế. Các tổ chức cần xác định quyền hạn và giới hạn của hệ thống, bao gồm đặt ra các quy tắc về sử dụng dữ liệu và phác thảo cách hệ thống nên phản ứng trong các tình huống không chắc chắn.
Giai đoạn tiếp theo là triển khai. Lúc này, quản trị tập trung vào kiểm soát truy cập và kết nối hệ thống, bao gồm quyền người dùng và các điểm tích hợp. Khi hệ thống đã vận hành, giám sát trở thành mối quan tâm chính. Các hệ thống tự trị có thể tiến hóa theo thời gian khi tương tác với dữ liệu mới. Nếu không có kiểm toán thường xuyên, chúng có thể đi lệch khỏi mục đích ban đầu.
Vai Trò của Minh Bạch và Trách Nhiệm Giải Trình
Khi các hệ thống AI đảm nhận trách nhiệm lớn hơn, việc truy vết quá trình ra quyết định ngày càng trở nên phức tạp. Điều này tạo ra nhu cầu về tính minh bạch cao hơn. Công việc của Deloitte nhấn mạnh tầm quan trọng của việc theo dõi hoạt động hệ thống, bao gồm ghi nhật ký hành động và lập tài liệu quyết định. Các hồ sơ này giúp tổ chức xác định điều gì đã xảy ra nếu có vấn đề phát sinh. Khi một hệ thống tự trị thực hiện hành động, phải có sự rõ ràng về trách nhiệm giải trình thuộc về ai.
Số liệu chính: Nghiên cứu của Deloitte cho thấy tốc độ triển khai AI agent đang vượt qua tốc độ phát triển các kiểm soát cần thiết. Khoảng 23% công ty đã triển khai AI agent, với dự báo con số này sẽ đạt 74% trong vòng hai năm. Tuy nhiên, chỉ có 21% báo cáo đã có các biện pháp bảo vệ vững chắc để giám sát hành vi của chúng.
Giám Sát Thời Gian Thực cho AI Agent
Khi một hệ thống tự trị được kích hoạt, sự chú ý chuyển sang hành vi của nó trong điều kiện thực tế. Các quy tắc tĩnh là không đủ — hệ thống cần được quan sát liên tục trong quá trình vận hành.
Cách tiếp cận của Deloitte tích hợp giám sát thời gian thực, cho phép các tổ chức theo dõi hoạt động của hệ thống AI khi nhiệm vụ được thực hiện. Nếu hệ thống thể hiện hành vi bất thường, các đội có thể can thiệp nhanh chóng — bao gồm tạm dừng các hành động cụ thể hoặc điều chỉnh quyền hạn. Giám sát thời gian thực cũng hỗ trợ các yêu cầu tuân thủ. Trong các ngành được quản lý chặt, doanh nghiệp phải chứng minh rằng hệ thống tuân thủ các quy tắc và tiêu chuẩn hiện hành.
Trong thực tế, các kiểm soát này đang xuất hiện trong môi trường vận hành. Deloitte mô tả các tình huống trong đó hệ thống AI giám sát hiệu suất thiết bị trên nhiều địa điểm. Dữ liệu cảm biến có thể phát hiện các dấu hiệu hỏng hóc sớm, kích hoạt quy trình bảo trì và cập nhật hệ thống nội bộ. Các khung quản trị xác định những hành động được phép, khi nào cần phê duyệt của con người và cách quyết định được ghi lại. Quá trình này trải rộng trên nhiều hệ thống, nhưng từ góc nhìn người dùng, nó xuất hiện như một hành động thống nhất.
Sự Kiện Ngành và Các Thảo Luận Đang Diễn Ra
Quản trị là chủ đề trung tâm tại AI & Big Data Expo Bắc Mỹ 2026, dự kiến diễn ra vào ngày 18–19 tháng 5 tại Santa Clara, California. Deloitte được liệt kê là Nhà Tài Trợ Kim Cương cho sự kiện, định vị hãng trong số các công ty đang đóng góp vào các cuộc thảo luận về cách các hệ thống tự trị được triển khai và kiểm soát trong thực tế.
Thách thức không chỉ là xây dựng các hệ thống thông minh hơn — mà là đảm bảo chúng hành xử theo những cách mà các tổ chức có thể hiểu, quản lý và tin tưởng theo thời gian.