Cohere North 2 ist eine gezielte Antwort auf zwei operative Probleme, die den Einsatz von Agenten in Unternehmen erschweren: den Verlust von Kontext zwischen Sitzungen und einen ausufernden, schwer kalkulierbaren Tokenverbrauch. Statt nur ein einzelnes Feature bereitzustellen, überarbeitet North 2 den gesamten Agenten-Stack: Ein neu entwickeltes Orchestrierungsgerüst koordiniert mehrstufige Automatisierungen, ein sitzungsübergreifendes Gedächtnissystem bewahrt relevante Informationen, und ein Modell aus wiederverwendbaren Skills und Bibliotheken reduziert Doppelarbeit und überladene Prompts. Für Unternehmen, die Agenten bereits erprobt haben und nun an Skalierungsgrenzen stoßen, verspricht North 2 verlässlicheres Verhalten und einen Weg, die Interaktion von Agenten mit Unternehmenswissen zu standardisieren.
Das Gedächtnis ist die zentrale Neuerung, zugleich aber auch die risikoreichste: Persistenter Kontext ermöglicht Kontinuität über Tage oder Arbeitsabläufe hinweg und verbessert die Genauigkeit etwa bei der Fallbearbeitung, bei Verträgen und bei langwierigen Untersuchungen. Cohere setzt auf ein sitzungsübergreifendes Gedächtnis, das über Bibliotheken geteilt und einzelnen Agenten oder Teams zugeordnet werden kann. Leitplanken regeln dabei, was gespeichert werden darf, wie lange Informationen erhalten bleiben und wer darauf zugreifen kann. Diese Kombination ist ein pragmatischer Versuch, den Nutzen zu erschließen, ohne sensible Daten offenzulegen oder Compliance-Budgets zu sprengen.
Die Token-Verwaltung wird in North 2 über North Admin in den Betrieb integriert: Ratenbegrenzungen, Ausgabenlimits für Nutzer und Organisationen, Verbrauchsstufen und Warnschwellen sind zentrale Steuerungsmöglichkeiten. Für Beschaffungs- und Finanzteams verändert das die Prognose der KI-Ausgaben – der Tokenverbrauch wird von einer schwer durchschaubaren laufenden Kostenposition zu einem kontrollierbaren Budgetposten. Zusammen mit der Möglichkeit, das System modellunabhängig bereitzustellen, und den Hardwareoptimierungen für NVIDIA-Stacks zielt North 2 darauf ab, die Gesamtbetriebskosten durch Softwarekontrollen und effizientere Inferenz zu senken.
Auch die Bereitstellung ist ein entscheidender Vorteil für Unternehmen: North 2 unterstützt Cloud-, VPC-, On-Premises-, Hybrid- und vollständig isolierte Installationen. In regulierten Branchen wie Finanzwesen, Gesundheitswesen und Verteidigung beseitigt die Möglichkeit, Agentenorchestrierung und Gedächtnisspeicher in einer vollständig isolierten Umgebung zu betreiben, ein wesentliches Hindernis für die Einführung. Doch solche Deployments bringen auch Kompromisse bei Integrationen, Beobachtbarkeit und Aktualisierungszyklen mit sich. Teams müssen Datensouveränität gegen den Betriebsaufwand abwägen, der mit der Wartung einer isolierten Infrastruktur verbunden ist.