Microsoft Agent 365 nêu bật một bài học lớn về AI trong doanh nghiệp: khi các đại lý có thêm quyền truy cập, công cụ và tính tự chủ, các công ty cần có danh tính, quản trị, khả năng quan sát và dấu vết kiểm toán trước khi việc triển khai trở nên an toàn.
Giai đoạn đầu tiên của AI doanh nghiệp là cung cấp cho nhân viên quyền truy cập vào các trợ lý. Giai đoạn tiếp theo là kiểm soát những gì các trợ lý và đại lý đó được phép làm. Microsoft Agent 365 quan trọng vì nó phản ánh một sự chuyển dịch lớn hơn: các đại lý AI đang bắt đầu cần kỷ luật quản trị tương tự như nhân viên, tài khoản dịch vụ, ứng dụng và bot tự động hóa.
Điều này quan trọng vì các đại lý không chỉ là công cụ tạo nội dung. Chúng có thể đọc tệp, tóm tắt hộp thư đến, phân loại vé hỗ trợ, cập nhật hồ sơ và hành động trên các hệ thống kinh doanh. Không có danh tính và khả năng kiểm toán, một tổ chức có thể không biết đại lý nào đã truy cập dữ liệu nào, tại sao nó lại hành động hoặc liệu nó có hoạt động bên trong các ranh giới chính xác hay không.
Đối với người dùng NexusAI, bài học rút ra mang tính thực tế: sự trưởng thành của AI doanh nghiệp sẽ được đo lường ít hơn bằng số lượng đại lý mà một công ty ra mắt và nhiều hơn bằng việc liệu các đại lý đó có được quản trị, có thể quan sát, được cấp quyền và có thể phục hồi khi có sự cố xảy ra hay không.
Tại sao một mặt phẳng kiểm soát đang trở nên cần thiết
Một mặt phẳng kiểm soát cung cấp cho các tổ chức một cách tập trung để xem, quản lý và bảo mật các đại lý. Không có lớp này, mọi bộ phận có thể tạo ra các đại lý với các quy tắc cấp quyền khác nhau, các mô hình truy cập dữ liệu, khoảng trống giám sát và các quy trình leo thang riêng. Điều đó tạo ra rủi ro hoạt động tiềm ẩn.
Khả năng quan trọng nhất không chỉ là tạo ra các đại lý. Đó là khả năng trả lời các câu hỏi như: Đại lý nào đang tồn tại? Ai sở hữu nó? Nó có thể truy cập những gì? Nó hành động cho người dùng hay hệ thống nào? Nó đã thực hiện những hành động gì? Nó đã chạm vào dữ liệu nào? Nó có thể bị tạm dừng, xem xét hoặc thu hồi ngay lập tức không?
Danh tính là nền tảng của quản trị đại lý
Nhân viên con người vốn đã có hệ thống danh tính, quyền truy cập, chính sách thiết bị, đánh giá quyền truy cập và quy trình nghỉ việc. Các đại lý AI cần các kiểm soát tương đương. Một đại lý làm việc thay mặt cho một người dùng không nên tự động kế thừa mọi quyền hạn có thể có mãi mãi. Một đại lý hoạt động độc lập cần một phạm vi được xác định rõ ràng, người sở hữu, vòng đời và dấu vết giám sát.
Danh tính cũng hỗ trợ trách nhiệm giải trình. Nếu một đại lý cập nhật một hồ sơ, gửi một tin nhắn, xóa một tệp hoặc kích hoạt một quy trình công việc, tổ chức cần biết hành động đó được thực hiện bởi một người, một đại lý được ủy quyền hay một đại lý tự chủ với vai trò được chỉ định riêng.
Danh sách kiểm tra mua sắm AI doanh nghiệp mới
Các doanh nghiệp đánh giá các nền tảng đại lý nên nhìn xa hơn chất lượng bản demo. Một bản demo đại lý bóng bẩy có thể che giấu những điểm yếu nghiêm trọng trong triển khai thực tế. Danh sách kiểm tra mua sắm nên bao gồm thiết kế quyền truy cập, nhật ký kiểm toán, ngăn ngừa mất dữ liệu, ranh giới tích hợp, kiểm soát leo thang, khả năng hiển thị của quản trị viên, giám sát, báo cáo tuân thủ và phản ứng sự cố.
Các nền tảng AI mạnh mẽ nhất sẽ cho phép các doanh nghiệp dần dần mở rộng quyền tự chủ. Một đại lý phân loại hỗ trợ có thể bắt đầu bằng việc soạn thảo các câu trả lời, sau đó tiến tới định tuyến các vé hỗ trợ, và cuối cùng là giải quyết các loại sự cố cụ thể theo chính sách. Các kiểm soát quản trị làm cho tiến trình đó trở nên an toàn hơn.
Điều này có ý nghĩa gì đối với các đội ngũ nhỏ hơn
Các đội ngũ nhỏ có thể không cần một mặt phẳng kiểm soát doanh nghiệp đầy đủ ngay từ ngày đầu tiên, nhưng họ vẫn cần các quy tắc cơ bản. Mỗi đại lý nên có một người sở hữu được chỉ định, một mô tả công việc rõ ràng, quyền hạn bị giới hạn, một môi trường thử nghiệm, ghi nhật ký nhật ký và một phương án dự phòng con người rõ ràng. Nếu một đại lý chạm vào dữ liệu khách hàng hoặc thanh toán, tiêu chuẩn đánh giá phải cao hơn nhiều.
Sai lầm thực tế là coi các đại lý giống như các công cụ năng suất thông thường. Chúng gần gũi hơn với các nhân viên kỹ thuật số cấp dưới được kết nối với các hệ thống nhạy cảm. Điều đó biến quản trị thành một yếu tố thúc đẩy tăng trưởng, chứ không chỉ là một gánh nặng tuân thủ.
