Fünf kleine „source=chatgpt.com“-Spuren, ein großer Beschluss und plötzlich sitzt die KI gedanklich mit auf der Richterbank. Ronald Tramp untersucht den hessischen Fall, bei dem ChatGPT bei der Recherche half, Quellen offenbar zeitlich verreisten und anschließend die menschliche Nachkontrolle zur letzten Instanz der digitalen Wahrheit wurde.
Meine Damen und Herren, hier spricht Ronald Tramp, der größte investigative Reporter seit Erfindung der Tastenkombination Strg+C, Strg+V. Manche sagen sogar Strg+Ronald. Unglaubliche Kombination. Funktioniert immer.
Heute befinden wir uns an einem Ort, an dem bislang Aktenordner, Kommentare, Gesetzessammlungen und Menschen mit erstaunlicher Ausdauer beim Lesen von Fußnoten das Sagen hatten:
der deutschen Justiz.
Doch jetzt gibt es offenbar einen neuen Kollegen.
Er trägt keine Robe.
Er hat kein Staatsexamen.
Er verlangt keine Besoldungsgruppe R2.
Und trotzdem scheint er bei der juristischen Recherche gelegentlich kräftig mitzumischen:
ChatGPT.
Am Hessischen Verwaltungsgerichtshof ging es in einem Beschluss vom 24. Juni 2026 eigentlich um eine komplizierte europarechtliche Frage zum Aufenthaltsrecht ukrainischer Staatsangehöriger. Eine Angelegenheit, bei der normale Menschen spätestens nach dem dritten Nebensatz bewusstlos auf die Tastatur sinken.
Doch plötzlich wurde die juristische Fachwelt von fünf kleinen Zeichenfolgen elektrisiert.
Nicht § 1.
Nicht Art. 267 AEUV.
Nein.
„source=chatgpt.com“
Fünfmal sollen entsprechende Bestandteile in Webverweisen aufgetaucht sein.
Meine Freunde: Das ist kein digitaler Fußabdruck mehr.
Das ist ChatGPT, das mit schlammigen Gummistiefeln durchs frisch gewischte Gerichtsfoyer marschiert.
Der neue wissenschaftliche Mitarbeiter heißt möglicherweise Chat
Offenbar wurde ChatGPT bei der Recherche nach schwer zugänglichen georgischen Rechtsquellen eingesetzt.
Das kann ich verstehen.
Georgisches Recht ist für einen hessischen Richter vermutlich nicht gerade das, was morgens neben der Kaffeemaschine liegt.
Also fragt man moderne Technik.
Früher hätte man einen wissenschaftlichen Mitarbeiter angerufen.
Heute möglicherweise:
„ChatGPT, finde mir bitte dieses georgische Dekret.“
Und ChatGPT antwortet sinngemäß:
„Sehr gern! Hier ist eine Quelle.“
Fantastisch!
Problem:
Die Quelle passt womöglich nicht.
Aber sie sieht hervorragend aus.
Und das ist schließlich schon die halbe Internetrecherche.
Das Dekret aus der Zukunft
Besonders wunderschön wird die Geschichte bei einem angeblichen georgischen Regierungsdekret vom 24. Februar 2026, durch das das Aufenthaltsrecht für Ukrainer bis Februar 2027 verlängert worden sein soll.
Dazu wurde offenbar eine Quelle verlinkt.
Nur hatte diese einen kleinen Schönheitsfehler:
Der Artikel stammte aus 2025.
Das ist beeindruckend.
Eine Quelle aus 2025 soll ein Ereignis aus 2026 belegen.
Meine Damen und Herren, das ist keine Halluzination.
Das ist juristische Zeitreise.
Doc Brown brauchte dafür einen DeLorean mit Fluxkompensator und 1,21 Gigawatt.
Eine KI braucht offenbar nur einen überzeugend klingenden Hyperlink.
Ich sehe völlig neue Möglichkeiten für die Rechtswissenschaft:
„Das Bundesverfassungsgericht entschied 2028 eindeutig…“
„Aber wir haben erst 2026!“
„Keine Sorge, Quelle vorhanden.“
BOOM. Präzedenzfall aus der Zukunft.
Großartige Effizienz!
Aber die Aussage stimmt doch!
Der Hessische Verwaltungsgerichtshof erklärte laut der Darstellung, dass die konkrete Angabe durch diese Fundstelle zwar nicht belegt werde. Nachrecherchen hätten jedoch ergeben, dass die Verlängerung tatsächlich aus anderen Quellen hervorgehe.
Das ist wichtig.
Die rechtliche Aussage kann also stimmen, obwohl der konkrete Quellenverweis danebenliegt.
Das kennen wir alle.
Wenn ich sage:
„Paris ist die Hauptstadt Frankreichs.“
und als Quelle die Speisekarte eines italienischen Restaurants in Bottrop angebe, bleibt Paris trotzdem Hauptstadt Frankreichs.
Meine Quellenarbeit bekommt allerdings möglicherweise eine Vier minus.
Genau hier liegt der wunderbare Kern dieser Geschichte.
Die KI sagt möglicherweise etwas Richtiges.
Die Quelle sagt möglicherweise etwas anderes.
Der Mensch überprüft es.
Dann stellt er fest: Die Information stimmt trotzdem.
Und am Ende sitzen alle Beteiligten da und fragen sich:
Warum haben wir eigentlich diesen Link drin?
Willkommen in der Digitalisierung.
Auch das Dekret von 2015 fährt Karussell
Damit nicht genug.
Auch bei einem georgischen Regierungsdekret von 2015 soll die Quellenlage Fragen aufwerfen. Der verlinkte Inhalt bezog sich offenbar auf eine Änderungsvorschrift aus 2025.
Das Gericht argumentierte, die aktuelle Fassung sei dennoch für den maßgeblichen Regelungsgehalt brauchbar; außerdem werde andernorts auf die passende Fassung verwiesen.
Das ist juristisch möglicherweise vollkommen vertretbar.
Satirisch ist es Gold.
Wir haben jetzt nämlich das Quellen-Hütchenspiel:
Unter Becher eins liegt 2015.
Unter Becher zwei liegt 2025.
Unter Becher drei liegt ChatGPT.
Und irgendwo darunter befindet sich die richtige Rechtslage.
„Wo ist das Dekret?“
Schieb-schieb-schieb.
„Hier!“
„Nein, das ist die Änderung.“
„Noch mal!“
KI darf suchen – aber der Mensch muss denken
Das Gericht verteidigte den KI-Einsatz grundsätzlich. Gerade bei schwer zugänglichen ausländischen Rechtsquellen könne ein solches Werkzeug helfen, Informationen überhaupt erst aufzuspüren.
Und hier sage sogar ich, Ronald Tramp:
Das ergibt Sinn.
Eine KI als Rechercheassistent kann ungeheuer praktisch sein.
Aber eine KI als Orakel?
Schwierig.
Denn ChatGPT kann dir in Sekunden eine Spur liefern.
Es kann dir aber nicht die Verantwortung abnehmen, zu prüfen, ob am Ende der Spur tatsächlich das gesuchte Gesetz liegt oder ein Reisebericht über Tiflis mit drei ähnlichen Schlüsselwörtern.
Das Gericht betonte deshalb, dass Gegenkontrollen vorgenommen worden seien.
Sehr gut.
Wir haben also das neue juristische Vier-Augen-Prinzip:
Zwei Augen Mensch, zwei Augen Algorithmus.
Wobei der Algorithmus keine Augen hat.
Also eigentlich wieder zwei.
Digitalisierung geschafft!
„source=chatgpt.com“ – der neue richterliche Wasserfleck
Besonders herrlich ist die Diskussion darüber, ob solche verräterischen URL-Bestandteile künftig entfernt werden sollten.
Ich sage:
Nein!
Lasst sie drin!
Wir brauchen Transparenz.
In Zukunft sollte jede KI-unterstützte Recherche einen kleinen Hinweis bekommen:
„Diese Fußnote wurde unter Beteiligung künstlicher Intelligenz hergestellt. Kann Spuren von Halluzinationen enthalten.“
Wie auf einer Packung Erdnüsse.
Vielleicht brauchen wir sogar ein neues juristisches Gütesiegel:
KI-geprüft, anschließend menschlich nachgeprüft, danach vorsichtshalber noch einmal gegoogelt.
Das wäre Deutschland.
Ronalds revolutionäre Justiz-KI
Natürlich habe ich bereits ein eigenes System entwickelt.
Es heißt:
RonaldGPT Legal Supreme Ultra Pro Max.
Es beantwortet jede Rechtsfrage innerhalb von drei Sekunden.
Beispiel:
„RonaldGPT, ist das zulässig?“
Antwort:
„Kommt darauf an.“
Perfekt!
Damit hat es das deutsche Jurastudium praktisch bestanden.
Premiumkunden bekommen sogar die Zusatzfunktion:
„Es ist umstritten.“
Und für 49,99 Euro monatlich folgt automatisch:
„Nach herrschender Meinung…“
Damit können Sie direkt promovieren.
Das eigentliche Problem sitzt nicht im Computer
Der hessische Fall zeigt nämlich weniger, dass KI grundsätzlich nichts in der Justiz verloren hätte.
Er zeigt etwas viel Interessanteres:
KI kann Recherche beschleunigen – und gleichzeitig neue Fehlerquellen schaffen.
Das Problem beginnt dann, wenn aus „Die KI hat eine interessante Quelle gefunden“ unbemerkt „Die Quelle wird schon stimmen“ wird.
Genau da darf niemand das Gehirn in den Energiesparmodus schicken.
Denn ein Sprachmodell kann sehr überzeugend auftreten.
Ich kenne das.
Ich mache das seit Jahren.
Aber überzeugendes Auftreten ersetzt keine korrekte Fundstelle.
Meistens jedenfalls.
Ronalds Urteil
Deshalb verkünde ich im Namen des gesunden Menschenverstands:
ChatGPT wird wegen übertriebener Hilfsbereitschaft zu lebenslanger Quellenkontrolle verurteilt.
Die Richter erhalten Bewährung.
Der Hyperlink bekommt zwölf Monate ohne Internetzugang.
Und Microsoft Word wird verpflichtet, künftig vor jedem Einfügen eines KI-generierten Links ein Fenster einzublenden:
„Sind Sie wirklich sicher?“
Dann:
„Wirklich wirklich?“
Und anschließend:
„Haben Sie draufgeklickt?“
Erst danach darf gespeichert werden.
Denn KI in der Justiz kann sinnvoll sein. Sie kann beim Finden helfen, übersetzen, strukturieren und Recherchewege eröffnen.
Aber am Ende muss jemand prüfen.
Ein Mensch.
Mit juristischem Sachverstand.
Und vorzugsweise jemand, der erkennt, dass ein Artikel aus 2025 Schwierigkeiten haben könnte, ein Dekret aus 2026 zu dokumentieren.
Sehr komplizierte Technologie.
Nennt sich:
Kalender.
Ihr
Ronald Tramp
Investigativer Reporter, oberster Quellenkontrolleur und einziger KI-Experte Deutschlands, der seine Halluzinationen noch vollständig selbst produziert.
