KI-Halluzinationen sind ein Risiko bei juristischer Arbeit: Eine Antwort kann schlüssig klingen und trotzdem falsche oder erfundene Angaben enthalten. Das NIST-Profil für generative KI beschreibt dieses Problem als „Confabulation“. Für deine Praxis in Deutschland ist entscheidend, wie du einzelne Aussagen am Ausgangsmaterial prüfst und unbelegte Angaben aus dem Arbeitsergebnis entfernst.
Welche Fehler du unterscheiden solltest
Erfundene Fundstelle: Die angegebene Entscheidung oder Norm lässt sich nicht belegen. Behandle sie als ungeprüft und recherchiere unabhängig.
Falsches Zitat: Die Quelle existiert, aber der wiedergegebene Wortlaut steht dort nicht. Öffne den Volltext und vergleiche die konkrete Passage.
Unpassende Quelle: Die Fundstelle ist echt, betrifft aber einen anderen Sachverhalt, Zeitraum oder eine andere Rechtsordnung.
Nicht belegte Schlussfolgerung: Die Quelle wird korrekt wiedergegeben, trägt aber die behauptete rechtliche Folge nicht ohne zusätzliche Voraussetzungen.
Diese Unterscheidung dient als Prüfplan. Nicht jeder falsche Output ist eine erfundene Quelle. Wenn du nur nach existierenden Fundstellen suchst, können Fehler bei Auslegung, zeitlicher Geltung oder Sachverhaltsbezug unentdeckt bleiben. Dokumentiere deshalb sowohl die Herkunft als auch die Bedeutung der verwendeten Aussage.
Eine Quellenprüfung in fünf Schritten
1. Aussagen einzeln erfassen
Markiere alle rechtlichen Aussagen, Zitate, Zahlen und Angaben zu Gerichten oder Normen. Erstelle eine Prüfliste mit der KI-Aussage, der behaupteten Quelle und dem offenen Prüfschritt. Bei einer Vertragszusammenfassung gehört auch die tatsächliche Vertragsklausel in diese Liste. Fasse mehrere unterschiedliche Behauptungen nicht zu einer einzigen erledigten Prüfung zusammen.
2. Die Quelle unabhängig öffnen
Suche nach den Identitätsmerkmalen der Quelle und verlasse dich nicht allein auf einen KI-Link. Wenn eine Suche nichts ergibt, ändere Suchbegriffe und prüfe geeignete weitere Angebote. Ein fehlender Treffer beweist nicht automatisch, dass eine Entscheidung nicht existiert. Ohne bestätigte Fundstelle darf sie aber nicht als geprüfte Grundlage in dein Ergebnis eingehen.
Für die Prüfung deutscher Bundesnormen nutze Gesetze im Internet. Für Entscheidungen bietet Rechtsprechung im Internet ausgewählte Entscheidungen von Bundesgerichten. Suche bei Bedarf zusätzlich auf der Website des zuständigen Gerichts. Prüfe immer, ob du den Volltext, die passende Fassung und den maßgeblichen Zeitpunkt vor dir hast; ein einzelnes Portal ersetzt keine vollständige Recherche.
3. Wortlaut und Kontext vergleichen
Vergleiche ein Zitat Wort für Wort. Lies die benachbarten Absätze, den Sachverhalt und die Voraussetzungen der Aussage. Notiere die genaue Fundstelle im Volltext. Unterscheide den Entscheidungstext von redaktionellen Zusammenfassungen und Suchauszügen. Wenn du nur eine Zusammenfassung vorliegen hast, kennzeichne diese Einschränkung ausdrücklich.
4. Anwendbarkeit prüfen
Prüfe, ob die Quelle zum Fall in Deutschland, zum maßgeblichen Zeitpunkt und zur konkreten Rechtsfrage passt. Halte abweichende Sachverhaltsmerkmale und noch offene Rechtsfragen fest. Eine Aussage über einen anderen Vertragstyp oder eine andere Verfahrenslage lässt sich nicht allein wegen ähnlicher Begriffe übernehmen.
5. Das Arbeitsergebnis korrigieren und freigeben
Entferne ungeprüfte Fundstellen und ersetze falsche Zitate durch überprüfte Passagen. Dokumentiere, wer welche Aussage geprüft hat und welche Fragen offenbleiben. Lass den überarbeiteten Text anhand der Quellen beurteilen. Eine bloße Aufforderung an dasselbe System, seine Antwort nochmals zu kontrollieren, genügt dafür nicht.
Ein Beispiel für die Review-Dokumentation
Stell dir vor, die KI schreibt: „Diese Haftungsklausel ist unwirksam“ und nennt eine Entscheidung. Zerlege den Output in drei Prüfungen: Existiert die Entscheidung? Belegt sie die angeführte Aussage? Sind ihre Voraussetzungen bei deiner Klausel erfüllt? Halte zu jeder Prüfung den Originaltext und das Ergebnis fest. Wenn nur die erste Frage geklärt ist, ist die rechtliche Schlussfolgerung weiterhin offen.
Prüfstatus: Fundstelle gefunden; Zitat im Volltext bestätigt; Übertragbarkeit auf den Vertragsentwurf noch offen. Nächster Schritt: Vertragsklausel, Ausnahmen und Sachverhalt mit den Voraussetzungen der Entscheidung vergleichen. Bis dahin keine Freigabe auf Basis dieser Aussage.
Prompts und Rechercheangebote sinnvoll einsetzen
Bitte das System, Dokumentbefunde von Bewertungen zu trennen und fehlende Belege zu kennzeichnen. Kopierbare Anweisungen findest du unter Prompt Engineering für Anwälte. Die Vorgabe ersetzt den Quellenabgleich nicht. Auch eine Antwort mit Quellenlinks musst du am Original überprüfen.
Wenn du ein Rechercheangebot auswählst, prüfe Quellenumfang, Aktualität und Zugang zum Volltext für deinen konkreten Fall. Die CASUS-Produktübersicht zu Legal Research ist ein Ausgangspunkt für diese Prüfung. Für Einführung und Verantwortlichkeiten im Team ergänzt unser Leitfaden zu KI für Anwälte in Deutschland die Quellenroutine.
Für Schweizer Recht recherchierst du mit CASUS auch Open-Access-Kommentare aus Onlinekommentar und Unternehmensinformationen aus ZEFIX, dem zentralen Firmenindex der Schweiz. Zur aktuellen Quellenübersicht.
Häufige Fragen
Was sind KI-Halluzinationen im Rechtsbereich?
Das sind falsche oder erfundene Angaben in einer KI-Antwort, etwa nicht belegbare Fundstellen oder Zitate. Ein überzeugender Schreibstil belegt ihre Richtigkeit nicht.
Reicht es, wenn eine KI-Antwort Quellenlinks enthält?
Öffne die Originalquelle, vergleiche die konkrete Passage und prüfe ihren Bezug zum Sachverhalt und zum relevanten Zeitpunkt. Ein Link allein ist kein abgeschlossener Quellencheck.
Was tun, wenn eine Fundstelle nicht auffindbar ist?
Recherchiere unabhängig in geeigneten Quellen. Kennzeichne die Fundstelle bis zur Bestätigung als ungeprüft und übernimm sie nicht als belegte Grundlage.
