Halluzinationen sind keine unerklärlichen Fehler, sondern folgen vorhersehbaren Mustern. Fehlt Kontext oder ist ein Prompt unklar, füllt das Modell Lücken mit plausiblen, aber unbelegten Inhalten. Eine schwache Informationsbeschaffung oder falsch eingegrenzte RAG-Quellen liefern irrelevante Dokumente, die dennoch glaubwürdig wirken. Veraltete Trainingsdaten führen zu Fehlern bei zeitabhängigen Angaben. Außerdem formulieren Modelle Inhalte mit geringer Konfidenz oft mit großer rhetorischer Sicherheit. Wenn Sie für jede Aussage die zugrunde liegende Fehlerquelle bestimmen, können Sie gezielter gegensteuern – etwa die Informationsbeschaffung bei Quellenproblemen verbessern oder bei fehlendem Kontext klare Vorgaben in den Prompt aufnehmen.

Nutzen Sie einen kompakten Ablauf, den Teams auf jede KI-generierte Aussage anwenden können. Schritt 1: Aussage präzise definieren – wer, was, wo und wann sowie die erforderliche Gewissheit. Schritt 2: Belege verlangen – fordern Sie Primärquellen oder Datenauszüge statt paraphrasierter Zusammenfassungen. Schritt 3: Primärquellen prüfen – öffnen Sie das zitierte Dokument, vergewissern Sie sich, dass die Passage die Aussage stützt, und erfassen Sie das genaue Zitat oder die Datentabelle. Schritt 4: Gegenprüfen – suchen Sie mindestens eine unabhängige Referenz oder einen Datensatz, der die Aussage bestätigt. Schritt 5: Schlussfolgerungen kennzeichnen und trennen – markieren Sie, welche Teile belegte Fakten und welche Einschätzungen von Analysten sind. Schritt 6: Freigabe dokumentieren – halten Sie fest, wer die Freigabe erteilt hat und welcher Konfidenzschwellenwert zugrunde lag.

Die Kontrollen sollten unabhängig von den eingesetzten Tools funktionieren. Verbessern Sie die Informationsbeschaffung, indem Sie Schwellenwerte für die Vektorähnlichkeit erhöhen, Quellen nach Datum und Domain filtern und Metadaten wie Autor, Datum und Textauszug anzeigen. Fügen Sie bei RAG-Antworten Angaben zur Herkunft hinzu und verlangen Sie Quelllinks oder Dokument-IDs. Nutzen Sie modellübergreifende Verifizierung: Lassen Sie dieselbe Aussage von einem anderen Modell prüfen und vergleichen Sie die Fakten und Belege. Sorgen Sie für einen sorgfältigen Umgang mit Quellenangaben: keine unbelegten Tatsachenbehauptungen, einheitliche Zitierformate und automatisierte Prüfungen, die Zitate mit den Quellen abgleichen.

Nicht jede Ausgabe muss gleich gründlich geprüft werden. Nutzen Sie eine 2×2-Risikomatrix mit den Dimensionen Auswirkung (niedrig bis hoch) und Komplexität/Unsicherheit (niedrig bis hoch). Bei geringer Auswirkung und geringer Unsicherheit – etwa SEO-Keyword-Vorschlägen oder standardisierten Support-Antworten – reichen einfache Prüfungen aus, zum Beispiel Metadaten und die Bestätigung durch eine einzelne Quelle. Bei hoher Auswirkung und hoher Unsicherheit – etwa Marktgrößenschätzungen in einem Investorenmemo oder rechtlichen Aussagen in der Kommunikation von Führungskräften – sind Bestätigungen durch mehrere Quellen, die Prüfung von Primärdaten und die Freigabe durch Fachleute erforderlich. Beispiele: Marktforschung sollte Rohdatentabellen und Quellenlinks enthalten; Berichte für Führungskräfte benötigen einen einseitigen Beleganhang; interne Assistenten müssen bei jeder Tatsache die Herkunft und eine Konfidenzkennzeichnung anzeigen.

Verankern Sie den Prozess im Arbeitsalltag, indem Sie Zuständigkeiten klar festlegen: Die Verfasser der Prompts definieren den Umfang der Aussage, Rechercheure oder Analysten beschaffen Primärbelege, eine prüfende Person oder ein Fachexperte bestätigt die Richtigkeit und eine für die Dokumentation zuständige Person hält Freigaben fest. Stellen Sie Vorlagen für Beleg-Checklisten, die Erfassung von Quellenangaben, Konfidenzbewertungen und Freigabeprotokolle bereit. Automatisieren Sie nach Möglichkeit die Metadatenerfassung, Ähnlichkeitsschwellen und den Abgleich von Zitaten – menschliches Urteilsvermögen bei Schlussfolgerungen, Sonderfällen und der abschließenden Freigabe bleibt jedoch unverzichtbar. Überprüfen Sie regelmäßig Stichproben veröffentlichter Inhalte, um die verbleibende Halluzinationsrate zu messen und bei Bedarf Schwellenwerte oder Trainingsdaten anzupassen.