Cohere North 2は、企業でのエージェント導入につきまとう2つの運用上の課題、すなわちセッションをまたぐと文脈が失われることと、トークン消費が予測不能なまま膨らむことに、的を絞って対処します。単一の機能を追加するのではなく、エージェント基盤そのものを再設計しています。複数段階の自動化を調整する新しいオーケストレーション・ハーネス、関連する状態を保持するセッション横断型メモリ、重複やプロンプトの肥大化を抑える再利用可能なスキルとライブラリの仕組みを備えています。エージェントの試験導入を経て、規模拡大の壁に直面した組織にとって、North 2は動作の予測可能性を高め、エージェントが社内の知識を活用する方法を標準化する道筋となります。
最大の目玉であるメモリ機能は、同時に最も慎重な取り扱いを要する機能でもあります。永続的なコンテキストがあれば、数日間にわたる作業や複数のワークフローをまたいで継続性を保てるため、案件のトリアージ、契約書の確認、長期にわたる調査などの精度向上が期待できます。Cohereは、ライブラリを通じて共有でき、エージェントやチームごとに適用範囲を設定できるセッション横断型メモリを採用しています。さらに、何をどれだけの期間保存できるか、誰がアクセスできるかを制限するガードレールも組み合わせています。有用性を確保しつつ、機密データの露出やコンプライアンス対応コストの膨張を防ごうとする、現実的なアプローチです。
North 2では、North Adminを通じてトークン利用を管理できます。レート制限、ユーザー単位・組織単位の支出上限、消費量に応じた階層設定、アラートのしきい値が、標準の管理機能として用意されています。調達部門や財務部門にとって、これはAI支出の予測方法を変えるものです。見えにくい実行コストを、管理可能な予算項目へと変えられます。モデルに依存しない導入が可能という説明や、NVIDIAのスタックでのハードウェア最適化と合わせ、ソフトウェアによる制御と推論効率の両面から総保有コストの削減を目指しています。
もうひとつ、企業向けの差別化要因となるのが導入形態です。North 2は、クラウド、VPC、オンプレミス、ハイブリッド、完全なエアギャップ環境に対応します。金融、医療、防衛などの規制対象分野では、エアギャップ環境内でエージェントのオーケストレーションとメモリストアを稼働できることが、導入の大きな障壁を取り除きます。一方で、エアギャップ環境では連携、可観測性、アップデートの頻度に関するトレードオフも生じます。組織には、データ主権の確保と、隔離されたインフラを維持する運用負荷とのバランスが求められます。