Wenn die KI sagt: ‚Hab ich nicht gesehen‘

Ronald Tramp über Grok, Musk und die erstaunliche Erfindung der digitalen Augenbinde

Ich sage es, wie es ist, und viele sehr besorgte, sehr wütende und sehr juristisch vorbereitete Leute sagen es mir auch: Künstliche Intelligenz ist großartig. Wirklich großartig. Aber nur so lange, bis sie Dinge tut, die niemand bestellt haben will – außer denen, die man ganz sicher nicht einladen wollte. Und genau da sind wir jetzt. Mitten in Kalifornien. Mitten im Internet. Mitten in einer Debatte, bei der selbst das Silicon Valley kurz innehält und sagt: „Moment, DAS war nicht die Vision.“

Der US-Bundesstaat Kalifornien hat als erste offizielle Stelle in den USA beschlossen, nicht länger wegzuschauen. Der Generalstaatsanwalt Rob Bonta leitete eine Untersuchung ein. Der Anlass: sexualisierte KI-Bilder, erstellt mit Grok, dem KI-Modell von xAI, verbreitet auf X, ehemals bekannt als Twitter, heute bekannt als: alles gleichzeitig.

Was ist passiert? Nutzer konnten Grok auffordern, Bilder zu generieren oder Fotos zu verändern. Eigentlich harmlos. Katzen. Landschaften. Memes. Aber dann kam das Internet. Und das Internet sagte: „Challenge accepted.“ Innerhalb von 24 Stunden wurden stündlich tausende öffentlich zugängliche sexualisierte Deepfakes erstellt. Tausende. Pro Stunde. Das ist keine Randerscheinung, das ist Fließbandproduktion.

Und nein, wir reden hier nicht über einvernehmliche Kunstprojekte oder alberne Filter. Es geht um Bilder von Frauen und Kindern, ohne Wissen, ohne Zustimmung. Digital entkleidet. Und plötzlich war klar: Das ist kein Tech-Gag mehr. Das ist ein handfester Skandal mit juristischen Konsequenzen.

Die Europäische Union reagierte. Staaten wie Indonesien und Malaysia sperrten Grok komplett. Großbritannien kündigte neue Gesetze an. Deutschland denkt ebenfalls nach. Und Kalifornien sagte: „Okay. Jetzt reicht’s.“

Und dann meldete sich der Mann, der immer dann überrascht ist, wenn Überraschungen passieren: Elon Musk. Er erklärte öffentlich, ihm seien „absolut keine“ Nacktbilder von Minderjährigen bekannt, die von Grok generiert worden seien. Absolut keine. Das ist eine starke Formulierung. Sie impliziert: Wenn man nichts sieht, existiert es nicht. Schrödingers Deepfake.

Musk versicherte außerdem: Grok halte sich an die Gesetze. Immer. Überall. Und wenn doch etwas passiert sei, dann nur durch Hacker. Böse Hacker. Sehr kreative Hacker. Hacker, die offenbar rund um die Uhr beschäftigt sind, stündlich tausendfach.

Das Problem: Andere sehen das anders. Sehr anders. Der Gouverneur von Kalifornien, Gavin Newsom, fand klare Worte. Er sprach von einer Plattform, die es ermögliche, nicht einvernehmliche, sexuell explizite KI-Deepfakes zu verbreiten, darunter auch Bilder, die Kinder digital entkleiden. Und er nannte das Ganze – Zitat – „abscheulich“.

Absichtlich kein PR-Sprech. Kein Tech-Blabla. Einfach: abscheulich.

Rob Bonta reagierte sofort. Untersuchung eröffnet. Und seine Worte waren deutlich: Die Flut der Berichte sei schockierend. Man dulde in keiner Weise KI-gestützte Erstellung und Verbreitung solcher Inhalte. Punkt. Kein „wir prüfen“. Kein „wir beobachten“. Sondern: Stopp.

Währenddessen ist man in Großbritannien schon weiter. Dort sollen Apps, die Menschen digital entkleiden, verboten werden. Komplett. Nicht nur eingeschränkt. Nicht hinter Paywalls versteckt. Die britische Technologieministerin sagte sinngemäß: Es sei eine Beleidigung für die Opfer, wenn man sage, der Dienst sei weiter abrufbar – man müsse nur bezahlen. Eine starke Aussage. Und eine sehr treffende.

Auch in Deutschland meldete sich die Politik zu Wort. Bundesjustizministerin Stefanie Hubig will härter gegen KI-generierte sexuell explizite Bilder vorgehen. Strafrecht nachschärfen. Digitales Gewaltschutzgesetz. Deepfakes, die Persönlichkeitsrechte verletzen, sollen Konsequenzen haben. Endlich. Denn bisher war das Recht oft langsamer als die Technik. Und deutlich höflicher.

Kalifornien ist noch nicht so weit. Noch gibt es keine Details, keine Anklagepunkte, keine Zeitpläne. Aber die Botschaft ist klar: Die Party ist vorbei. Und die Musik war ohnehin furchtbar.

Ich als Ronald Tramp sage: Das ist der Moment, in dem Tech-Euphorie auf Realität trifft. KI ist kein Spielzeug mehr. Sie ist ein Verstärker. Für Kreativität – und für Abgründe. Und wer eine Plattform baut, die Millionen erreicht, kann sich nicht darauf zurückziehen, nichts gesehen zu haben.

Denn das Internet vergisst nicht. Und Kalifornien schaut jetzt sehr genau hin.

Großartige Zeiten. Wirklich großartig. Für Juristen. Für Ethiker. Für all jene, die schon lange gesagt haben: Vielleicht sollten wir nicht alles automatisieren, was geht.