Cohere North 2 là lời giải tập trung cho hai vấn đề vận hành thường gặp trong quá trình triển khai tác nhân ở doanh nghiệp: mất ngữ cảnh giữa các phiên và mức tiêu thụ token tăng vọt, khó dự đoán. Thay vì chỉ bổ sung một tính năng đơn lẻ, North 2 tái cấu trúc toàn bộ nền tảng tác nhân: một khung điều phối được thiết kế lại để phối hợp các quy trình tự động nhiều bước; hệ thống bộ nhớ xuyên phiên giúp lưu giữ trạng thái liên quan; cùng mô hình kỹ năng và thư viện có thể tái sử dụng nhằm giảm trùng lặp và hạn chế prompt phình to. Với những tổ chức đã thử nghiệm tác nhân nhưng gặp giới hạn khi mở rộng, North 2 hứa hẹn hành vi ổn định hơn và tạo nền tảng chuẩn hóa cách tác nhân tương tác với tri thức doanh nghiệp.
Bộ nhớ là năng lực nổi bật nhất, nhưng cũng tiềm ẩn nhiều rủi ro nhất: ngữ cảnh được lưu giữ lâu dài giúp duy trì tính liên tục qua nhiều ngày hoặc quy trình, qua đó cải thiện độ chính xác trong các tình huống như phân loại hồ sơ, xử lý hợp đồng và điều tra kéo dài. Cohere nhấn mạnh bộ nhớ xuyên phiên có thể chia sẻ thông qua thư viện, đồng thời được giới hạn phạm vi theo từng tác nhân hoặc nhóm; đi kèm là các cơ chế bảo vệ quy định dữ liệu nào được lưu, lưu trong bao lâu và ai có thể truy cập. Sự kết hợp này là nỗ lực thực tế nhằm đem lại giá trị sử dụng mà không làm lộ dữ liệu nhạy cảm hay khiến chi phí tuân thủ vượt kiểm soát.
North 2 đưa hoạt động quản trị token vào quy trình vận hành thông qua North Admin: giới hạn tốc độ, hạn mức chi tiêu theo người dùng và tổ chức, các mức tiêu thụ và ngưỡng cảnh báo đều là những cơ chế kiểm soát cốt lõi. Với bộ phận mua sắm và tài chính, điều này thay đổi cách dự báo chi phí AI — biến mức sử dụng token từ khoản chi định kỳ khó nắm bắt thành một hạng mục có thể quản trị. Kết hợp với khả năng triển khai không phụ thuộc mô hình và các tối ưu hóa phần cứng trên nền tảng NVIDIA, North 2 hướng tới giảm tổng chi phí sở hữu nhờ cả cơ chế kiểm soát phần mềm lẫn hiệu suất suy luận.
Cuối cùng, khả năng triển khai là điểm khác biệt quan trọng với doanh nghiệp: North 2 hỗ trợ môi trường đám mây, VPC, tại chỗ, kết hợp và hoàn toàn cách ly mạng. Với các ngành chịu sự quản lý nghiêm ngặt — tài chính, y tế, quốc phòng — khả năng vận hành lớp điều phối tác nhân và kho bộ nhớ bên trong môi trường cách ly mạng giúp gỡ bỏ một rào cản lớn đối với việc ứng dụng. Tuy nhiên, triển khai cách ly mạng cũng làm phát sinh những đánh đổi về tích hợp, khả năng quan sát và tần suất cập nhật; các nhóm cần cân bằng chủ quyền dữ liệu với gánh nặng vận hành khi duy trì hạ tầng cô lập.