기업들은 모델이 부족한 것이 아니라, 에이전트를 대규모로 안전하고 유용하게 만드는 운영 계층이 부족합니다. Cloudflare의 내부 플랫폼인 Cloudflare OS는 열정적인 팀들이 에이전트로 업무를 자동화할 수 있게 되었지만, 광범위한 API 키를 무분별하게 배포하는 방식은 불가능했기에 만들어졌습니다. 이 OS는 모델과 생산 시스템 사이에 위치하여 신원 인식 권한, 범위가 제한된 데이터 접근, 실행 샌드박스, 감사 가능한 행동을 강제합니다. 이러한 변화는 프롬프트 엔지니어링에서 운영 설계로 대화를 전환시킵니다: 에이전트가 누구를 가장하는지, 어떤 기능을 갖는지, 어디서 실행되는지, 그리고 결정이 어떻게 검토되는지에 관한 질문입니다. 이 질문들에 답하면, 에이전트는 보안 노출을 확대하지 않으면서 의미 있게 업무를 가속화할 수 있습니다.
중요한 증거는 Cloudflare의 엔지니어링 코드엑스(Engineering Codex)입니다: 도메인 전반에 걸쳐 '좋음'의 기준을 명확히 하는 의견 기반 컨텍스트 계층입니다. 에이전트는 이를 사용해 계획을 세우고, 설계를 검토하며, 병합을 제한합니다. 그 영향은 측정 가능하며—수천 건의 병합 차단과 초기 아키텍처 문제 탐지가 이루어졌습니다—이는 OS가 접근 권한을 늘리는 대신 기존의 제로 트러스트 규칙과 도메인 표준을 모든 에이전트 행동에 적용하기 때문입니다. 이것이 모델 중심의 도구와 구별되는 핵심입니다: OS는 컨텍스트, 정책, 책임을 부가 기능이 아닌 핵심 요소로 다룹니다. 임시 실험을 팀과 도구 전반에 걸쳐 일관된 행동을 보이는 관리된 워크플로우로 전환합니다.
의사 결정자에게 Cloudflare OS는 에이전트 도입을 위한 실용적인 패턴을 제공합니다. 더 많은 모델에 투자하기 전에, 에이전트를 제한하고 형성할 신원 구조, 권한 부여, 컨텍스트 저장소, 실행 환경, 평가 루프를 점검하세요. 이러한 요소가 없다면, 조용히 기술, 데이터, 컴플라이언스 부채를 쌓는 파일럿을 확장하기보다 운영 계층을 구축하거나 구매하는 것이 올바른 선택입니다. 그 대가는 안전과 속도의 결합입니다: 더 빠른 검토, 신뢰할 수 있는 자동화, 그리고 모든 에이전트와 행동에 대한 명확한 책임 체계입니다. 다시 말해, 생산 등급의 에이전트는 IT 역량이지 단순 챗봇이 아닙니다.