첫 번째 에이전트 물결은 반복 루프—계획, 실행, 검증, 복구—가 복잡한 작업에서 단일 프롬프트보다 뛰어남을 증명했습니다. 그러나 워크플로우가 팀, 시스템, 위험 임계값을 넘나들면서 단일 루프는 불투명한 병목 현상이 됩니다. 관련 없는 도메인을 처리하고, 취약한 도구 체인을 관리하며, 광범위한 컨텍스트를 유지해야 합니다. 신뢰성, 감사 가능성, 유지 관리성은 규모가 커질수록 저하됩니다. 그래프 엔지니어링은 많은 집중된 행위자와 결정론적 경로를 통해 작업을 조직하여 복잡성이 점점 더 영리해지는 프롬프트나 단일 루프가 아닌 아키텍처에 존재하도록 대응합니다.
그래프는 AI 시스템을 노드, 엣지, 공유 상태로 구성합니다. 노드는 전문화되어 있습니다—계획자, 검색자, 코더, 검증자, 리뷰어, 승인자—각각 명확한 도구와 권한을 가집니다. 엣지는 흐름을 인코딩합니다: 순차적 전달, 병렬 분기, 조건부 라우팅, 재시도 경로. 공유 상태는 메모리, 산출물, 실행 로그를 동기화하여 모든 노드가 동일한 진화하는 컨텍스트를 볼 수 있게 합니다. 결과는 예측 가능한 실행과 세밀한 거버넌스입니다: 각 단계를 관찰하고, 인간 승인을 삽입하며, 자원 사용을 제한하고, 전체 워크플로우를 재시작하지 않고 실패를 격리할 수 있습니다.
현대 오케스트레이션 프레임워크는 이제 이를 실용적으로 만듭니다. 팀이 상태 기반 그래프를 모델링하고, 도구 접근을 제한하며, 독립적인 분기를 병렬로 실행하고, 장기 실행 프로세스를 지속할 수 있게 합니다. 명시적 오케스트레이션을 통해 엔지니어는 언제 분기하거나 루프를 돌릴지, 어떤 출력을 캐시할지, 감사를 위한 증거를 어디에 수집할지 결정합니다. 관찰성—추적, 비용 및 지연 시간 텔레메트리, 프롬프트 및 산출물 스냅샷—를 추가하면 운영 팀은 마침내 프로덕션 소프트웨어에서 기대하는 레버를 얻습니다: 롤백, 안전한 배포, 노드 간 테스트 가능한 계약.
그래프 엔지니어링 도입은 최대 복잡성을 추구하는 것이 아니라 목적 있는 모듈화를 의미합니다. 단일 루프 기준선에서 시작하여 신뢰성이나 속도를 개선하는 부분만 분리하세요: 검증 분리, 외부 검색, 규제 단계에 대한 인간 승인. 성공 지표를 조기에 정의하세요—첫 통과 수율, 평균 복구 시간, 성공 결과당 비용—그리고 그래프에 이를 측정할 수 있는 계측을 하세요. 보상은 복합적입니다: 노드별 단순한 추론, 더 안전한 도구 경계, 빠른 병렬 처리, 명확한 실패 표면, 핵심 에이전트를 다시 작성하지 않고도 진화 가능한 시스템.