Zwei Chatbots, ein US-Prozess und juristische Quellen mit fragwürdigem Kontakt zur Realität: Ronald Tramp untersucht, warum KI im Gerichtssaal dringend einen Faktencheck braucht.
Von Ronald Tramp, Gerichtsreporter für künstliche Intelligenz, natürliche Leichtgläubigkeit und Präzedenzfälle aus Narnia
Meine lieben Anwälte, Richter, Mandanten und Menschen, die schon einmal ChatGPT gefragt haben, ob sie recht haben, obwohl sie eigentlich nur jemanden brauchten, der ihnen zustimmt!
Die künstliche Intelligenz revolutioniert jetzt auch die Justiz.
Früher musste ein Anwalt stundenlang recherchieren.
Gesetze lesen.
Urteile suchen.
Akten prüfen.
Kommentare wälzen.
Sehr anstrengend.
Heute schreibt man einfach:
„Finde mir zwölf Urteile, die beweisen, dass mein Mandant recht hat.“
Und die KI antwortet:
„Natürlich! Hier sind zwölf beeindruckende Entscheidungen.“
Problem:
Drei stimmen.
Zwei haben ungefähr mit dem Thema zu tun.
Vier existieren nicht.
Eines stammt offenbar vom Supreme Court of Hogwarts.
Und zwei wurden vermutlich von einer sehr selbstbewussten Grafikkarte erfunden.
Ich, Ronald Tramp, sage:
WELCOME TO LAW & ORDER & AUTOCOMPLETE!
Zwei Chatbots betreten einen Gerichtssaal …
In einem US-Verfahren wurde der Einsatz von gleich zwei Chatbots zum Problem. Die Systeme lieferten juristisches Material, auf das man sich offenbar lieber nicht hätte verlassen sollen.
Das ist bemerkenswert.
Denn normalerweise verwendet man einen zweiten Chatbot, um die Fehler des ersten zu überprüfen.
Hier entstand offenbar die juristische Version von:
„Kevin, stimmt das?“
„Keine Ahnung. Frag Dennis.“
Dennis:
„Kevin hat recht.“
Kevin:
„Danke, Dennis.“
Und schon haben wir Peer Review!
Zwei Maschinen bestätigen denselben Unsinn, und plötzlich sieht die Sache wissenschaftlich aus.
Ronald Tramp LegalGPT
Ich habe selbstverständlich sofort meine eigene Kanzlei gegründet:
RONALD TRAMP & ASSOCIATES & LARGE LANGUAGE MODELS
Unsere Rechtsberatung ist sensationell.
Mandant:
„Ronald, darf mein Nachbar meinen Gartenzwerg beschlagnahmen?“
KI:
„Nein. Dies entschied der Supreme Court bereits 1987 im wegweisenden Verfahren Gnome v. Garden.“
WOW!
Fantastisches Urteil.
Unglaublich präzise.
Kleines Problem:
Es existiert nicht.
Aber es klingt fantastisch.
Und genau darin steckt die Gefahr.
KI-Halluzinationen kommen selten mit einem Warnschild:
„ACHTUNG, DIESEN ABSATZ HABE ICH GERADE ERFUNDEN.“
Sie kommen im Anzug.
Mit Aktenzeichen.
Gerichtsname.
Datum.
Manchmal sogar mit einem wunderschön formulierten angeblichen Zitat.
Die KI lügt dabei nicht wie ein Mensch. Sie hat keinen finsteren Plan und versteckt keine gefälschten Urteile unter dem Serverrack.
Sie erzeugt schlicht Text, der plausibel aussieht.
Und „plausibel“ ist vor Gericht ungefähr so wertvoll wie:
„Mein Cousin hat gesagt, das müsste stimmen.“
Der Richter googelt zurück
Stellen wir uns die Verhandlung vor.
Anwalt:
„Euer Ehren, ich verweise auf Johnson v. Department of Extremely Relevant Things, 2019.“
Richter:
„Interessant.“
Tippt.
Pause.
Tippt erneut.
Längere Pause.
„Counsel … dieses Urteil existiert nicht.“
Anwalt schaut auf Laptop.
Laptop schaut metaphorisch zurück.
Chatbot:
„Vielen Dank für den Hinweis. Sie haben recht. Ich entschuldige mich für die Verwirrung.“
FANTASTIC!
Fall verloren.
Aber der Kundenservice funktioniert.
Und plötzlich platzt der Prozess
Wenn falsche oder erfundene Quellen in gerichtlichen Dokumenten landen, geht es eben nicht nur um eine peinliche Fußnote.
Gerichte müssen sich darauf verlassen können, dass zitierte Entscheidungen tatsächlich existieren und korrekt wiedergegeben werden. Wer ungeprüft KI-generiertes Material einreicht, riskiert deshalb Konsequenzen, die deutlich unangenehmer sind als eine rote Markierung vom Deutschlehrer.
Denn ein Richter möchte ungern erfahren, dass er seit 20 Minuten über einen Präzedenzfall diskutiert, der ungefähr denselben Rechtsstatus besitzt wie Batman gegen Superman.
Das Grundproblem lautet:
KI spart beim Erstellen von Dokumenten unglaublich viel Zeit.
Und wenn niemand kontrolliert, kann sie diese gesamte eingesparte Zeit anschließend in Form eines Gerichtsverfahrens zurückfordern.
Mit Zinsen.
Der KI-Praktikant, der niemals „weiß ich nicht“ sagt
Ich empfehle deshalb, Sprachmodelle wie einen extrem schnellen Praktikanten zu behandeln.
Einen Praktikanten, der:
24 Stunden arbeitet,
zehntausend Seiten in Sekunden durchsucht,
nie Kaffee braucht
und eine gefährliche Eigenschaft besitzt:
Er möchte unbedingt eine Antwort liefern.
Sie fragen:
„Gibt es dazu ein Urteil?“
Menschlicher Praktikant:
„Ich habe keines gefunden.“
KI-Praktikant:
„Aber natürlich!“
Und schon erscheint:
United States v. Very Convenient Precedent.
Supreme Court.
Richter: Abraham Lincoln.
UNANIMOUS DECISION!
Lincoln war seit 32 Jahren tot.
Aber das Urteil klingt stark.
Ronalds revolutionäre Verifikationsmethode
Deshalb präsentiere ich:
TRUST BUT GOOGLE™
Regel eins:
KI darf recherchieren helfen.
Regel zwei:
KI darf strukturieren.
Regel drei:
KI darf formulieren.
Regel vier:
JEDE QUELLE WIRD ÜBERPRÜFT.
Existiert das Urteil?
Stimmt das Aktenzeichen?
Hat das Gericht tatsächlich so entschieden?
Steht das angebliche Zitat wirklich dort?
Ist das Urteil überhaupt einschlägig?
Revolutionär!
Man könnte dieses Verfahren sogar „juristische Sorgfalt“ nennen.
Ich weiß.
Sehr altmodisch.
Bald verteidigen sich die Chatbots gegenseitig
Aber ich sehe bereits die nächste Entwicklungsstufe.
2027:
KI schreibt Schriftsatz.
KI erfindet Urteil.
Zweite KI überprüft das Urteil und erfindet eine Datenbank, in der es angeblich steht.
Dritte KI erstellt eine Zusammenfassung.
Vierte KI vertritt den Mandanten.
Richter-KI fragt:
„Quelle?“
Anwalts-KI:
„Vertrauen Sie mir.“
Richter-KI:
„Überzeugend.“
Fall abgeschlossen.
Der einzige Mensch im Gerichtssaal ist der Hausmeister.
Und der fragt sich, warum zwölf Server über einen Fall diskutieren, den keiner von ihnen erlebt hat.
Künstliche Intelligenz braucht natürliche Kontrolle
Das eigentlich Komische ist deshalb gleichzeitig ziemlich ernst.
Sprachmodelle können juristische Arbeit enorm beschleunigen. Sie können Texte strukturieren, große Informationsmengen zusammenfassen und beim Formulieren helfen.
Aber sie besitzen keinen eingebauten magischen Wahrheitsstempel.
Flüssige Sprache ist kein Beweis.
Ein überzeugend klingendes Aktenzeichen ist noch kein echtes Aktenzeichen.
Und fünf Absätze perfektes Juristendeutsch können immer noch kompletter Unsinn sein.
Deshalb lautet Ronald Tramps wichtigste juristische Erkenntnis:
Benutze KI wie einen Assistenten – nicht wie den Obersten Gerichtshof.
Denn wenn Ihr Chatbot Ihnen schreibt:
„Diese Rechtsauffassung wurde bereits in zahlreichen Entscheidungen bestätigt“,
stellen Sie unbedingt die wichtigste Frage der KI-Ära:
„WELCHE – UND EXISTIEREN DIE AUCH?“
Sonst endet Ihr Prozess schneller als das kostenlose Testabo Ihrer Legal-AI.
MAKE PRECEDENTS REAL AGAIN!
