Cohere North 2는 엔터프라이즈 에이전트 배포를 괴롭히는 두 가지 운영상 문제, 즉 세션이 바뀌면 맥락이 사라지는 문제와 예측하기 어려운 토큰 사용량 급증에 정면으로 대응합니다. 단일 기능을 추가하는 대신 에이전트 스택 전반을 재설계했습니다. 새롭게 구성된 오케스트레이션 하네스가 여러 단계로 이뤄진 자동화를 조율하고, 세션 간 메모리 시스템이 필요한 상태 정보를 보존하며, 재사용 가능한 스킬과 라이브러리 모델이 중복 작업과 프롬프트 비대화를 줄입니다. 에이전트 시범 운영을 거쳐 확장 단계에서 한계에 부딪힌 조직이라면, North 2를 통해 더 예측 가능한 동작을 구현하고 에이전트와 기업 지식의 상호작용 방식을 표준화할 수 있습니다.
메모리는 가장 주목받는 기능이지만 위험도 가장 큽니다. 지속형 맥락을 활용하면 며칠에 걸친 작업이나 여러 워크플로에서 연속성을 유지할 수 있어 사례 분류, 계약 검토, 장기 조사 등의 정확도를 높일 수 있습니다. Cohere는 라이브러리를 통해 공유할 수 있고 에이전트나 팀별로 범위를 지정할 수 있는 세션 간 메모리를 제공하며, 저장 가능한 정보와 보존 기간, 접근 권한을 제한하는 보호 장치도 함께 강조합니다. 민감한 데이터를 노출하거나 규정 준수 비용을 과도하게 늘리지 않으면서 실용성을 확보하려는 현실적인 접근입니다.
North 2는 North Admin을 통해 토큰 관리를 실제 운영에 적용합니다. 속도 제한, 사용자 및 조직별 지출 한도, 사용량 구간, 알림 임계값을 기본 제어 기능으로 제공합니다. 조달 및 재무팀 입장에서는 AI 지출 예측 방식이 달라집니다. 불투명한 토큰 사용 추세를 관리 가능한 예산 항목으로 바꿀 수 있기 때문입니다. 모델에 구애받지 않는 배포를 지원한다는 점과 NVIDIA 스택에 최적화된 하드웨어를 결합해, 소프트웨어 제어와 추론 효율을 모두 높여 총소유비용을 낮추는 것을 목표로 합니다.
마지막으로, 배포 방식은 엔터프라이즈 시장에서 차별화 요소가 됩니다. North 2는 클라우드, VPC, 온프레미스, 하이브리드, 완전한 에어갭 환경 배포를 지원합니다. 금융, 의료, 국방처럼 규제가 엄격한 분야에서는 에어갭 환경 안에서 에이전트 오케스트레이션과 메모리 저장소를 운영할 수 있다는 점이 도입의 큰 걸림돌을 없애 줍니다. 다만 에어갭 배포에는 연동, 관측 가능성, 업데이트 주기와 관련한 상충 관계도 따릅니다. 팀은 데이터 주권과 격리된 인프라 유지에 필요한 운영 부담 사이에서 균형을 잡아야 합니다.