Das Stanford RegLab hat am 19. November eine Studie veröffentlicht, die Spuren KI-gestützten Schreibens in Klageschriften von vier US-Bezirksgerichten auszählt. Bei Klagen aus dem Jahr 2026, die keine Forderungseintreibung betreffen, tragen im kalifornischen Santa Clara County 38 Prozent und in San Francisco 36 Prozent ein KI-Signal. In Tulsa County und Oklahoma County (Oklahoma) sind es 17 beziehungsweise 16 Prozent.
In Santa Clara lag dieser Wert 2022 noch nahe null. Am stärksten gestiegen ist er bei Parteien, die ohne Anwalt selbst klagen: von 19 Prozent im Jahr 2024 auf 72 Prozent im Jahr 2026. Bei von Anwälten eingereichten Schriftsätzen stieg er von 5 auf 34 Prozent. Nach Verfahrensart liegen arbeits- und handelsrechtliche Streitigkeiten in Kalifornien vorn, während Klagen zur Forderungseintreibung kaum KI-Anzeichen zeigen. Sie machen an manchen Gerichten fast die Hälfte aller Fälle aus. KI-Signale treten vor allem im Sachverhalt und in der Darlegung der Anspruchsgrundlagen auf.
Halluzinationsfälle als Referenzwert
Schwierig ist der Nachweis. Das Team stützt sich auf eine Datenbank, die Damien Charlotin pflegt. Sie erfasst seit April 2025 Fälle, in denen Richter Parteien wegen erfundener Zitate beschuldigt oder gerügt haben; allein in den USA sind es inzwischen über 1.500. Die Fehler in diesen Schriftsätzen sind so offensichtlich, dass der KI-Einsatz als sicher gelten kann. Damit eignen sie sich als Referenz.
Die Forscher kombinierten sie mit einer sorgfältig ausgewählten Kontrollstichprobe zum neuen Benchmark PhantomDocket und schlugen ein Kalibrierungsverfahren namens ScoreMix vor. Es schätzt, wie viele Klageschriften eher diesen Halluzinations-Schriftsätzen ähneln als Dokumenten aus der Zeit vor ChatGPT. Die gängigen Detektoren Pangram und EditLens funktionierten out of the box nicht gut: Entweder erkannten sie nichts, oder sie mussten aufwendig nachjustiert werden. Pangram Labs stellte der Studie Zugang zur Verfügung; das Forschungsteam gibt an, das Unternehmen sei weder am Studiendesign noch an der Analyse beteiligt gewesen.
"AI detection is most reliable for estimating population prevalence, not pinpointing which specific filings used AI."
(KI-Erkennung ist am zuverlässigsten, wenn man den Anteil in der Gesamtheit schätzen will, nicht um festzustellen, welcher konkrete Schriftsatz KI genutzt hat.)
Juristische Texte arbeiten mit engem Wortschatz und vielen Floskeln, sodass für Detektoren ohnehin wenig Signal bleibt. Auch enthalten die Trainingsdaten kommerzieller Detektoren nicht unbedingt Rechtstexte. Selbst die besten Detektoren haben keine niedrigen Raten an Fehlalarmen und übersehenen Fällen. Die Mitteilung zur Studie nennt weder den Stichprobenumfang von PhantomDocket noch eine Tabelle zur Genauigkeit der Detektoren; dafür muss man das vollständige Paper lesen. Die politische Empfehlung des Teams lautet, Gerichte sollten eine Offenlegungspflicht für den KI-Einsatz einführen, damit künftige Statistiken und Verantwortlichkeit auf einer belastbaren Grundlage stehen.
Ein Blick auf Chinas Gerichte
Das chinesische Gegenstück ist die im Dezember 2022 vom Obersten Volksgericht veröffentlichte Stellungnahme zur Regulierung und Stärkung des Einsatzes künstlicher Intelligenz in der Justiz. Sie regelt vor allem, wie die Gerichte selbst KI zur Unterstützung der Fallbearbeitung nutzen, und stellt klar, dass KI Richter bei der Entscheidung nicht ersetzen darf. Ob Parteien und Anwälte offenlegen müssen, wenn sie Klageschriften oder Schriftsätze mit generativer KI verfasst haben, dazu enthalten die öffentlich zugänglichen Bestimmungen keine eigene Regelung.
In den USA verlangen bereits einige Bundesrichter von Anwälten eine schriftliche Erklärung, ob generative KI eingesetzt wurde, und dass sie die Zitate persönlich prüfen. Die Stanford-Studie zeigt: Wo es keine Offenlegungspflicht gibt, kann man von außen nur mit Detektoren einen Gesamtanteil schätzen, und zwar mit erheblicher Fehlerspanne. Für die in China wachsende Zahl von Parteien und Kanzleien, die Klageschriften mit großen Modellen entwerfen, ist das Risiko erfundener Zitate dasselbe. Welche Folgen es hat, wenn ein Richter dies bemerkt, hängt derzeit von der Einzelfallbehandlung der jeweiligen Gerichte ab.
Quellen: Stanford HAI, Paper des Stanford RegLab, CocoLoop, Oberstes Volksgericht der VR China; geprüft wurden die KI-Signalanteile an vier Bezirksgerichten, die Entwicklung bei Selbstklägern und Anwaltsschriftsätzen, der Umfang der Halluzinationsdatenbank und die Spannweite der Erkennungsergebnisse.