Cohere North 2 針對企業代理部署中兩項常見的營運難題提出解方:工作階段之間無法保留脈絡,以及 Token 用量失控且難以預測。North 2 並非只推出單一功能,而是重新打造代理技術堆疊:重新設計的協調框架負責調度多步驟自動化流程;跨工作階段記憶系統則保留相關狀態;可重複使用的技能與程式庫模型,則能減少重複工作及提示詞膨脹。對已試行代理、卻遇到擴展瓶頸的組織而言,North 2 有望帶來更可預測的行為,並提供一套標準化代理與企業知識互動方式的途徑。
記憶是最受矚目的功能,卻也是風險最高的一環:持久化脈絡能讓代理在不同日期或工作流程之間延續資訊,提升案件分流、合約處理及長期調查等任務的準確度。Cohere 的做法著重於跨工作階段記憶,可透過程式庫分享,並依代理或團隊設定範圍;同時搭配防護機制,限制可儲存的內容、保存時間與存取對象。這種組合務實地兼顧實用性,避免暴露敏感資料或造成合規成本失控。
North 2 透過 North Admin 將 Token 治理落實於營運管理:速率限制、使用者與組織支出上限、用量級距及警示門檻,都是內建的核心控管項目。對採購與財務團隊而言,這改變了 AI 支出的預測方式——Token 用量不再是難以掌握的固定消耗,而是可治理的預算項目。再加上可跨模型部署,以及針對 NVIDIA 技術堆疊的硬體最佳化,North 2 試圖同時透過軟體控管與推論效率,降低總持有成本。
最後,部署選項是 North 2 在企業市場上的一大優勢:它支援雲端、VPC、地端、混合式及完全氣隙部署。對金融、醫療與國防等受監管產業而言,能在氣隙環境中執行代理協調與記憶儲存,可排除採用上的一大障礙。不過,氣隙部署也會帶來整合、可觀測性與更新頻率方面的取捨;團隊必須在資料自主權與維護隔離式基礎架構的營運負擔之間取得平衡。


