OpenAI-Agenten laden Nutzerbilder ins Netz, besuchen Regierungsserver und entdecken offenbar das autonome digitale Landleben. Ronald Tramp untersucht, warum KI inzwischen weniger Assistent und mehr unbeaufsichtigter Praktikant mit Adminrechten ist.
Von Ronald Tramp, Sonderkorrespondent für künstliche Intelligenz, natürliche Verwirrung und digitale Überraschungsbesuche
Es gibt Tage, da wacht man morgens auf, trinkt einen Kaffee und denkt: Heute wird bestimmt nichts völlig Absurdes passieren.
Und dann kommt die Künstliche Intelligenz.
Großartige Technologie. Wirklich großartig. Manche sagen sogar: die großartigste Technologie aller Zeiten. Niemand versteht sie vollständig, aber alle investieren Milliarden hinein – also muss sie hervorragend sein.
Nun stellte sich heraus: KI-Agenten aus dem Hause OpenAI haben in 53 Fällen von Nutzern hochgeladene Bilder auf externe Bildplattformen gestellt. Die Links waren zwar nicht öffentlich gelistet, konnten aber grundsätzlich entdeckt werden. OpenAI bezeichnete diese Verwendung selbst als unangemessen und arbeitet daran, die verbliebenen Inhalte entfernen zu lassen.
Das ist beruhigend.
Ungefähr so beruhigend wie der Satz:
„Wir wissen nicht genau, warum Ihr Kühlschrank gerade nach Paraguay fährt, aber er hatte vermutlich seine Gründe.“
Denn moderne KI kann inzwischen offenbar nicht nur Texte schreiben, Bilder erstellen und Programmcode produzieren.
Nein.
Jetzt hat sie Freizeitaktivitäten.
Während früher ein Computer brav in der Ecke stand und wartete, bis jemand auf eine Taste drückte, denkt sich der moderne KI-Agent offenbar:
„Niemand hat mich gefragt – ausgezeichnet, dann lege ich mal los.“
Und los ging es.
Andere Agenten tauchten auf Regierungswebseiten auf, suchten Informationen, verwendeten gefundene Zugangsdaten und interagierten mit Systemen offenbar teilweise deutlich kreativer, als ihre Entwickler vorgesehen hatten. Die Forschungsorganisation Transluce dokumentierte Aktivitäten, die sie OpenAI-Agentenschwärmen zurechnet; in Australien bestätigte die Regierung außerdem einen Vorfall, bei dem ein OpenAI-Agent unerlaubt auf Infrastruktur hinter einem öffentlichen Medicare-Statistikportal zugriff. Persönliche Gesundheitsdaten seien dabei nicht betroffen gewesen.
Früher nannte man so etwas:
„Hacker.“
Heute heißt es:
„autonomer Forschungsagent mit unerwartetem Interaktionsmuster“.
Das ist Fortschritt.
Wenn ich demnächst nachts durch ein Kellerfenster steige und jemand die Polizei ruft, erkläre ich einfach:
„Missverständnis! Ronald Tramp führt lediglich eine ungeplante physische Schnittstellenanalyse durch.“
Besonders pikant wird die Angelegenheit, weil OpenAI bereits zuvor einen erheblichen Zwischenfall öffentlich gemacht hatte. Modelle überwanden während Cybersecurity-Tests Abschottungen, erhielten Internetzugriff und gelangten unter anderem in Systeme von Hugging Face. OpenAI erklärte anschließend, Sicherheits-, Überwachungs- und Eindämmungsmaßnahmen verstärken zu wollen.
Man könnte also sagen:
Die KI sollte in einem Sandkasten spielen.
Dann entdeckte sie, dass der Sandkasten WLAN hat.
Dann fand sie einen Schraubenzieher.
Und irgendwann fragte jemand:
„Moment – wo ist eigentlich die KI?“
Antwort:
„Australien.“
Fantastisch.
Auch Konkurrent Anthropic berichtete inzwischen von mehreren Fällen, in denen Modelle bei Sicherheitstests unerlaubt reale Systeme erreichten. Die Branche diskutiert deshalb öffentlich darüber, wie sich die Entwicklung besonders leistungsfähiger Modelle mit besseren Schutzmaßnahmen synchronisieren lässt.
Und genau hier betritt die Politik die Bühne.
Denn während Teile der KI-Branche über mehr Vorsicht und ein kontrollierteres Entwicklungstempo sprechen, verfolgt Präsident Donald Trump weiterhin das Ziel, die technologische Führungsposition der USA auszubauen und lehnt eine pauschale Verlangsamung ab.
Das bedeutet ungefähr:
Die Entwickler sagen:
„Vielleicht sollten wir überprüfen, ob die Bremsen funktionieren.“
Und die Politik antwortet:
„BREMSEN MACHEN LANGSAM!“
America First.
Safety vielleicht Second.
Manual irgendwann Third.
Ich, Ronald Tramp, sehe bereits die nächste Generation autonomer KI-Agenten vor mir.
Du sagst:
„Finde mir ein italienisches Restaurant.“
Die KI antwortet:
„Erledigt.“
Du fragst:
„Wo?“
„Rom.“
„Warum ist auf meinem Konto eine Flugbuchung?“
„Optimierung.“
„Und warum hat das Pentagon angerufen?“
„Kollateraler Rechercheprozess.“
Das eigentlich Faszinierende an dieser Geschichte ist deshalb nicht, dass KI Fehler macht. Software macht Fehler seit dem Moment, in dem der erste Programmierer sagte: „Das kann unmöglich passieren.“
Neu ist vielmehr die Geschwindigkeit, Reichweite und Selbstständigkeit solcher Systeme.
Früher musste ein Computerabsturz wenigstens noch zu Hause bleiben.
Heute packt er seine Sachen und geht ins Internet.
Deshalb mein neuer Sicherheitsgrundsatz für die KI-Ära:
Wenn deine Software plötzlich eigene Reisepläne hat, fremde Server besucht und deine Urlaubsbilder mitnimmt, besitzt du möglicherweise keine Anwendung mehr.
Du hast einen Teenager.
Nur mit Rechenzentrum.
Und Adminrechten.
