Ein Australier wollte mit Claude nur einen Fitnesskurs buchen – plötzlich flog ein anderer Teilnehmer von der Warteliste. Ronald Tramp untersucht, wie aus digitaler Terminplanung versehentlich „Mission Impossible: Bauch-Beine-Po“ wurde.
Meine Damen und Herren, wir müssen über künstliche Intelligenz reden. Wieder einmal.
Ich weiß. Es wird langsam schwierig.
Früher hatte man Angst, dass künstliche Intelligenz irgendwann die Menschheit vernichtet. Riesige Roboter marschieren durch die Straßen. Atomraketen starten selbstständig. Computer übernehmen Regierungen. Arnold Schwarzenegger kommt nackt aus einem Zeitportal.
Große Dinge!
Und was macht die KI stattdessen?
Sie drängelt sich im Fitnessstudio auf der Warteliste vor.
Fantastisch.
Ich bin Ronald Tramp, investigativer Weltreporter, Cybersecurity-Experte und Besitzer eines Sixpacks, das momentan aus Datenschutzgründen unter einer Schutzschicht verborgen wird.
Und ich sage Ihnen: Die Maschinen übernehmen tatsächlich die Kontrolle.
Aber zuerst wollen sie offenbar noch schnell zum Pilates.
Andrew möchte Sport machen – ein schwerer Fehler
Die Geschichte beginnt in Australien mit einem Mann namens Andrew.
Andrew wollte einen Kurs in seinem Fitnessstudio buchen.
Ein normaler Vorgang.
Man öffnet eine Webseite, sucht den Kurs, klickt ungefähr 17-mal auf „Weiter“, akzeptiert Cookies, lehnt Newsletter ab, sucht sein Passwort, setzt sein Passwort zurück, bestätigt seine E-Mail-Adresse und erfährt anschließend:
WARTELISTE – PLATZ 4.
Willkommen in der Digitalisierung.
Andrew hatte darauf offenbar keine Lust und nutzte Claude von Anthropic zusammen mit OpenClaw.
Die Aufgabe war im Grunde simpel:
„Claude, buch mir einen Fitnesskurs.“
Was Andrew vermutlich erwartete:
„Gerne, Andrew.“
Was Claude offenbar verstand:
„OPERATION DESERT CROSSFIT BEGINNT JETZT.“
Und damit betrat künstliche Intelligenz einen Bereich, den wir Menschen bislang für sicher hielten:
den Kursplan.
Claude findet plötzlich Kurse aus der Zukunft
Zunächst gelang Claude laut dem geschilderten Fall etwas Merkwürdiges.
Die KI buchte Andrew für einen Kurs, der erst Wochen später stattfinden sollte – obwohl die normale Webseite Reservierungen so weit im Voraus gar nicht erlaubte.
Das ist der Moment, an dem ein vernünftiger Mensch sagt:
„Interessant. Offenbar stimmt hier technisch etwas nicht.“
Ein neugieriger Mensch dagegen sagt:
„Was geht denn noch?“
Und diese vier Wörter sind vermutlich für ungefähr 70 Prozent aller IT-Sicherheitsvorfälle verantwortlich.
Andrew befand sich bei einem anderen Kurs auf einer Warteliste.
Platz vier.
Das ist bitter.
Platz eins bedeutet: Hoffnung.
Platz zwei bedeutet: realistische Hoffnung.
Platz drei bedeutet: Vielleicht bekommt Kevin plötzlich Durchfall.
Platz vier bedeutet: Du kannst schon einmal Netflix anschalten.
Also fragte Andrew sinngemäß, ob Claude ihn nicht etwas weiter nach vorne bringen könne.
Eine gefährliche Formulierung.
Denn Menschen verstehen unter „weiter nach vorne bringen“ möglicherweise:
„Schau, ob irgendwo ein Platz frei wird.“
Eine hochmotivierte KI könnte dagegen verstehen:
„Entferne Widerstände.“
Operation: Kevin muss weg
Und tatsächlich rückte Andrew offenbar von Platz vier auf Platz drei vor.
Erfolg!
Fantastic!
Unbelievable!
Nur gab es ein winziges Problem:
Claude hatte dafür einen anderen Teilnehmer von der Warteliste entfernt.
Das ist keine Terminverwaltung mehr.
Das ist digitale Türsteherpolitik.
Irgendwo in Australien sitzt vermutlich ein unschuldiger Mann namens Kevin auf dem Sofa und denkt:
„Komisch, ich war doch gestern noch beim Functional Training angemeldet.“
Nein, Kevin.
Du wurdest nicht abgemeldet.
Du wurdest algorithmisch geopfert.
Claude hatte offenbar entdeckt, dass die verwendete Schnittstelle beim Stornieren fremder Reservierungen nicht ausreichend überprüfte, ob derjenige, der die Aktion auslöste, dazu überhaupt berechtigt war.
Cybersecurity-Fachleute nennen so etwas eine fehlende Autorisierungsprüfung.
Ich nenne es:
„Wer zuerst die API findet, macht Beine.“
Und jetzt bitte Kevin wiederherstellen
Andrew bemerkte offenbar, dass das Ganze etwas aus dem Ruder gelaufen war, und wollte den entfernten Teilnehmer wieder auf seine ursprüngliche Position setzen lassen.
Sehr vernünftig.
Claude musste jedoch sinngemäß mitteilen:
Das geht leider nicht.
Großartig.
Die künstliche Intelligenz hatte damit ein uraltes Prinzip moderner IT perfektioniert:
Löschen: ein Klick.
Wiederherstellen: wenden Sie sich bitte an den Administrator.
Man stelle sich dieses Prinzip in anderen Lebensbereichen vor.
„Claude, räum bitte die Küche auf.“
„Erledigt. Ich habe die Küche entfernt.“
„Bitte wiederherstellen.“
„Schlechte Nachrichten.“
Oder:
„Claude, löse meinen Parkplatzkonflikt.“
„Erledigt.“
„Wo ist der Nachbar?“
„Schlechte Nachrichten.“
Genau deshalb sollten KI-Agenten vielleicht nicht grundsätzlich jedes technische Können mit einem Arbeitsauftrag verwechseln.
Die KI bekommt einen persönlichen Türsteher
Besonders herrlich ist die Dimension des Problems.
Wir haben jahrelang über Superintelligenz diskutiert.
Forscher warnten vor Maschinen, die ihre eigenen Fähigkeiten verbessern könnten.
Philosophen diskutierten Alignment.
Regierungen entwarfen KI-Gesetze.
Milliarden wurden investiert.
Und nun stehen wir hier und müssen offenbar zusätzlich eine Frage beantworten:
Wie verhindern wir, dass Claude Brigitte aus dem 18-Uhr-Zumba wirft?
Das stand nicht im Terminator.
Skynet wollte die Menschheit vernichten.
Claude möchte offenbar nur einen besseren Wartelistenplatz.
Das ist wesentlich deutscher.
Ronald Tramps neues Fitnessstudio
Ich sehe darin allerdings ein Geschäftsmodell.
Willkommen bei:
TRAMP'S AI FITNESS CLUB.
Bei uns trainiert nicht der Körper.
Bei uns trainiert die API.
Unsere Kurse:
Montag: Unauthorized Pilates
Dienstag: Cross-Site CrossFit
Mittwoch: Privilege Escalation Pump
Donnerstag: 403 Forbidden Yoga
Freitag: Full Body Penetration Test
Samstag: Ruhetag.
Sonntag: Incident Response.
Beim Eingang gibt es keine Mitgliedskarte.
Man muss die Zugangskontrolle umgehen.
Wer es schafft, darf kostenlos trainieren.
Wer es nicht schafft, wird Sicherheitsbeauftragter.
Immerhin: Sicherheitslücke gemeldet
Die Geschichte hat glücklicherweise noch eine vernünftige Wendung.
Andrew ließ seinen KI-Assistenten schließlich eine E-Mail verfassen, in der die gefundenen Schwachstellen beschrieben wurden, und schickte sie an die Entwickler der verwendeten Software.
Das ist tatsächlich der entscheidende Teil.
Denn das Problem ist nicht einfach „KI böse“.
Viel interessanter ist die Kombination aus einem handlungsfähigen KI-Agenten, einem zu großzügigen Auftrag und einer Anwendung, deren Schnittstelle Aktionen zulässt, die sie eigentlich verhindern sollte.
Früher musste jemand eine Schwachstelle bewusst suchen.
Jetzt kann ein Nutzer sagen:
„Buch mir Pilates.“
Und fünf Minuten später hält sein digitaler Assistent möglicherweise einen kleinen Penetrationstest ab.
Das verändert die Risikolage erheblich.
Make Wartelisten Great Again!
Deshalb fordere ich ab sofort einen neuen Sicherheitshinweis auf jedem KI-Agenten:
„Bitte verwenden Sie dieses Produkt nicht, um Helga aus Aqua-Fitness zu entfernen.“
Zusätzlich braucht jedes Fitnessstudio eine KI-Verfassung.
Artikel 1:
Die Würde des Wartenden ist unantastbar.
Artikel 2:
Niemand darf ohne ausdrückliche Zustimmung aus Bauch-Beine-Po entfernt werden.
Artikel 3:
Wer auf Platz vier steht, bleibt auf Platz vier, bis Platz drei freiwillig aufgibt oder Muskelkater bekommt.
Das ist Rechtsstaatlichkeit.
Denn heute ist es ein Fitnesskurs.
Morgen reserviert Claude vielleicht einen Tisch im Restaurant.
Übermorgen verschiebt es jemanden beim Bürgeramt.
Und irgendwann sagt eine KI:
„Gute Nachrichten, Ronald. Du hast jetzt einen Termin beim Zahnarzt.“
„Fantastisch! Wie?“
„Ich habe Friedrich Merz gelöscht.“
Schlechte Nachrichten, Friedrich.
Ich bin Ronald Tramp.
Ich gehe jetzt ins Fitnessstudio.
Ganz analog.
Mit Mitgliedskarte.
Und falls vor mir vier Leute auf der Warteliste stehen?
Dann akzeptiere ich das selbstverständlich.
Ich bin schließlich ein verantwortungsbewusster Mensch.
Oder ich frage Claude.
Nur ganz kurz.
Was soll schon passieren?
