Tác tử AI trong doanh nghiệp chỉ thực sự hữu ích khi có thể truy cập thông tin nghiệp vụ đáng tin cậy, luôn được cập nhật và hành động dựa trên thông tin đó. MCP Gateway của Uber giải quyết một câu hỏi cụ thể nhưng không thể né tránh: làm thế nào để cấp cho tác tử quyền truy cập có kiểm soát, dễ khám phá tới hàng nghìn API hiện có mà không buộc từng nhóm dịch vụ phải triển khai máy chủ MCP? Gateway tập trung hóa việc khám phá, chuyển đổi và thực thi chính sách, nhờ đó các nhóm dịch vụ không trở thành nút thắt — họ không cần viết lại các endpoint, còn chủ sở hữu vẫn giữ quyền rà soát và cho phép sử dụng. Cách đánh đổi này giảm trùng lặp hạ tầng, thống nhất quản trị mà vẫn bảo đảm các nhóm vận hành độc lập.
Về kiến trúc, Gateway được chia thành mặt phẳng điều khiển (MCP Registry và AutoCrawler) và mặt phẳng dữ liệu (Proxy Gateway). Registry là nguồn dữ liệu chuẩn duy nhất cho các máy chủ ảo và công cụ; AutoCrawler liên tục tạo định nghĩa công cụ từ IDL và các máy chủ MCP gốc để danh mục có thể tự động mở rộng. Proxy Gateway khởi tạo các máy chủ MCP ảo khi chạy, chuyển đổi lệnh gọi MCP thành HTTP/gRPC/TChannel, giao việc thực thi cho sidecar của service mesh (Muttley), rồi trả về kết quả tương thích với MCP. Sự phân tách này cho phép lặp nhanh, cập nhật cấu hình theo thời gian thực và duy trì mô hình thực thi nhất quán cho nhiều loại ứng dụng khách tác tử.
AutoCrawler là đòn bẩy vận hành then chốt giúp toàn bộ hệ thống khả thi. Thay vì phụ thuộc vào việc viết thủ công, Uber sử dụng quy trình dựa trên Cadence để quét kho IDL, theo dõi tín hiệu heartbeat từ các máy chủ MCP gốc, phân tích định nghĩa protobuf/Thrift và tạo bản kê khai công cụ ban đầu. Theo mặc định, các công cụ được tạo sẽ ở trạng thái vô hiệu hóa; quyền sở hữu và cho phép sử dụng thuộc về các nhóm dịch vụ. AutoCrawler còn dùng LLM để bổ sung thông tin cho schema và phần mô tả, tạo tài liệu thân thiện với tác tử — một giải pháp dung hòa thực tế giữa khả năng mở rộng nhờ máy móc với khâu rà soát của con người và kiểm soát bảo mật.
Bảo mật, chính sách và an toàn vận hành được tích hợp ngay trong lớp gateway, thay vì phân tán giữa các nhóm. Nền tảng thực thi chính sách charter ở cấp công cụ và máy chủ thông qua hệ thống kiểm soát truy cập nội bộ của Uber, ẩn thông tin nhận dạng cá nhân (PII) trong phản hồi, đồng thời áp dụng giới hạn tốc độ và kiểm toán một cách thống nhất. Gateway hỗ trợ tích hợp MCP bên thứ ba mà không làm suy yếu chính sách: gateway chuyển tiếp token nội bộ, còn dịch vụ bên thứ ba đổi token đó lấy thông tin xác thực bên ngoài, qua đó duy trì các biện pháp kiểm soát tập trung. Mô hình này tạo ra lối đi thực tế, cân bằng giữa tính linh hoạt và quản trị cấp doanh nghiệp.
Xét về chi phí và hiệu năng, Gateway giải quyết hai điểm nghẽn khi mở rộng quy trình tác tử: ngữ cảnh phình to và chi phí token. Omni MCP hỗ trợ khám phá theo từng bước — tìm máy chủ, liệt kê công cụ, lấy schema và gọi công cụ — nên tác tử không cần nạp trước hàng trăm định nghĩa công cụ. Response Projection chỉ giữ lại những trường được yêu cầu trong phản hồi tại thời điểm chạy, còn Code Mode (thông qua aifx) cho phép tác tử lập trình dựa trên CLI ghi kết quả ra đĩa thay vì nạp tất cả vào ngữ cảnh của mô hình. Kết hợp lại, các mô hình này giảm lượng ngữ cảnh không cần thiết, độ trễ và chi phí API khi triển khai ở quy mô doanh nghiệp.


