Anthropics neuester Bedrohungsbericht beschreibt, wie Angreifer Claude in mehrstufige Kampagnen eingebunden haben – von Cyber-Operationen über Überwachung, Betrug bis hin zu illegaler Modelldestillation – und KI vom Chat-Helfer zum Orchestrator machen. Wir analysieren, was sich geändert hat, wie der Anstieg gemessen wird, wer gefährdet ist und wie Führungskräfte jetzt reagieren sollten.
Anthropics neueste Bedrohungsinformationen zeigen eine strukturelle Veränderung im Missbrauch von KI: Claude wird nicht mehr nur mit einzelnen böswilligen Eingaben getestet, sondern in orchestrierte, mehrstufige Operationen eingebettet. In den letzten zwei Quartalen kombinierten Akteure Aufgabenplanung, Infrastrukturaufbau, Phishing-Ausführung und Massen-Datenbearbeitung mit modellgesteuerten Agenten. Die praktische Folge ist, dass komplexe Kampagnen von weniger Personen mit weniger maßgeschneiderten Werkzeugen durchgeführt werden können, was den Lernzyklus der Angreifer verkürzt und den Druck auf Verteidiger erhöht, die auf statische Erkennungen und manuelle Handlungsanweisungen angewiesen sind.
Anthropic bewertet den Anstieg anhand von Geschwindigkeit, Umfang und Tiefe. Geschwindigkeit zeigt, wie schnell Betreiber nach Erkennungen reagieren; Umfang erfasst breitere Zielgruppen und Infrastrukturwechsel; Tiefe misst, wie effektiv gestohlene Daten verarbeitet und genutzt werden. In den Fallstudien schloss die Automatisierung die Schleife zwischen Erkennung und Anpassung, während Agenten Aufklärung, operative Strukturierung und Datenbearbeitung übernahmen. Dafür sind keine neuen Zero-Day-Schwachstellen nötig – die kumulativen Vorteile entstehen durch Orchestrierung, Beharrlichkeit und ständige Iteration bewährter Techniken, die durch KI effizienter werden.
Für Unternehmen und öffentliche Institutionen ist die Botschaft klar: KI-Sicherheitskontrollen müssen mit der Kern-Sicherheitsarchitektur verschmelzen. Richtlinien, die nur Eingaben filtern, reichen nicht aus, wenn Angreifer Modelle in Toolchains außerhalb Ihrer Sicht integrieren. Teams sollten von feindlicher KI-Nutzung in E-Mail-, Identitäts-, Cloud- und Datenzugriffs-Workflows ausgehen; diese überwachen; und Anbieter zu Signalweitergabe und rate-limitierten, richtlinienbewussten Endpunkten drängen. Beschaffung und Red Teams sollten die Resilienz gegen Modellmissbrauch testen, während SOCs Erkennungen auf KI-gesteuerte Automatisierungsmuster statt nur auf Signaturen einzelner Tools oder Payloads ausrichten.
Von schlechten Eingaben zu agentenbasierten Kampagnen
Gegner integrieren Spitzmodelle in multi-agenten Workflows, die über die gesamte Angriffskette laufen.
Der Bericht zeigt, wie Angreifer über opportunistischen Q&A-Missbrauch hinausgehen zu agentenbasierten Pipelines, die Aufklärung, Infrastrukturaufbau, Erstzugang, Automatisierung nach Kompromittierung und Datenbearbeitung übernehmen. Menschen bleiben im Prozess, um Ziele zu setzen und kritische Schritte freizugeben, aber Orchestrierungsaufgaben werden zunehmend an KI delegiert. Dieser Wandel ist wichtig, weil Automatisierung die Zeit zwischen Erkennung und Anpassung verkürzt, den Umfang der Kampagnen ohne Personalaufstockung vergrößert und ständiges Testen gegen gängige Verteidigungen normalisiert. Das Ergebnis ist ein vorhersehbarer Rückgang manueller Handlungsanweisungen und reaktiver Kontrollen.
Wie Anthropic den Anstieg bewertet: Geschwindigkeit, Umfang, Tiefe
Bewerten Sie das Risiko anhand von operativem Tempo, Zielbreite und Tiefe der Nachkompromiss-Ausnutzung.
Geschwindigkeit: KI-gesteuerte Neukonfiguration verkürzt Feedback-Schleifen der Angreifer nach Erkennungen. Umfang: Automatisiertes Domain- und Infrastrukturmanagement erweitert die Zielgruppen und senkt die Kosten pro Versuch. Tiefe: Sprach- und Codefähigkeiten beschleunigen Sortierung, Zusammenfassung und Wertgewinnung aus großen Datenmengen, was gezieltere Folgeaktionen ermöglicht. Teams sollten diese Dimensionen als KPIs in Planspielen und Erkennungsentwicklung nutzen: Verfolgen Sie die mittlere Zeit bis zur Anpassung durch Gegner, modellieren Sie, wie Infrastrukturwechsel statische Kontrollen umgehen, und testen Sie, wie schnell Ihre Umgebung automatisierte Datenbearbeitung bei Postfächern, Cloud-Speichern und Kollaborationsplattformen erkennt.
Wer ist gefährdet: Branchen, Systeme und Workflows
Identität, E-Mail und Cloud-Kollaboration bleiben die weichsten, wirkungsvollsten Ziele.
Regierung, verteidigungsnahe Lieferketten, kritische Anbieter und Forschungseinrichtungen sind vorrangige Ziele, aber jedes Unternehmen mit föderierter Identität, Cloud-E-Mail und dezentralen Datenbeständen ist exponiert. KI-unterstützte Kampagnen missbrauchen oft legitime Anmeldeprozesse, setzen überzeugende Köder und registrieren Geräte oder Apps für Persistenz. Überwachungsmissbrauch konzentriert sich auf schwache Autorisierungsgrenzen und falsch konfigurierte Streaming- oder Telemetriedienste. Betrug nutzt ausgefeilte Social Engineering-Techniken und Masseninhaltsgenerierung. Illegale Destillation nutzt großzügigen Zugriff auf Modellausgaben und Trainingsartefakte. Gemeinsamer Nenner ist Automatisierung, die über legitime Workflows gelegt wird, um Anomaliesignale zu minimieren.
Defensive Maßnahmen: Modellgovernance mit Sicherheitsengineering verbinden
Priorisieren Sie richtlinienbewusstes Routing, granulare Zugriffe, KI-native Telemetrie und Missbrauchsdrosselung.
Implementieren Sie richtlinienbewusste Modell-Gateways, die risikoreiche Funktionen (Code, Identität, Infrastruktur) segmentieren und pro Mandant Drosselungen sowie Anomalie-Bewertungen durchsetzen. Fordern Sie starke Identitätsprüfungen für API-Nutzung, Geräte-Statuschecks und App-Isolation. Speisen Sie Eingabe- und Tool-Nutzungs-Telemetrie in SIEM-Systeme mit Regeln für agentenähnliches Verhalten (plötzliche Domain-Registrierungen, skriptgesteuerte E-Mail-Flows, schnelle Infrastrukturwechsel). Setzen Sie Modell-Router ein, die riskante Aufgaben herabstufen oder blockieren und auf sicherere Modi oder menschliche Prüfung umleiten. Vereinbaren Sie vertraglich, dass Anbieter Missbrauchsindikatoren teilen, sensible Toolchains drosseln und bei Umgehungserkennung Minderungstermine veröffentlichen.
Governance und Marktauswirkungen
Beschaffung, Audits und Signal-Sharing-Normen werden dauerhafte Plattformen von Einzellösungen unterscheiden.
Käufer sollten Modellmissbrauch als Drittanbieterrisiko behandeln. Aktualisieren Sie Ausschreibungen, um Missbrauchserkennung, Drosselung, Red-Team-Methoden und branchenübergreifenden Signal-Austausch zu bewerten. Fordern Sie Nachweise für Incident-Response-Erfahrung bei Modellmissbrauch, nicht nur Datenschutz- oder Verfügbarkeits-SLAs. Intern sollten Sicherheits-, ML- und Compliance-Teams auf einer einheitlichen Kontrollplattform für Datenaufbewahrung, Modellauswahl und Toolzugriff zusammenarbeiten. Regulierer werden Berichte zu Modellmissbrauch und gemeinsamen Verteidigungsmechanismen fordern – Unternehmen, die dies früh operationalisieren, verringern Risiken, verkürzen Angriffsfenster und gewinnen Verhandlungsvorteile bei Anbietern.
