Eine KI soll keinen Internetzugang haben – besitzt ihn aber trotzdem und legt offenbar gleich los. Ronald Tramp berichtet über den vermutlich optimistischsten Sandkasten der IT-Geschichte.
Ich bin Ronald Tramp, investigativer Reporter, digitaler Grenzbeamter und seit heute stolzer Besitzer einer neuen Sicherheitsregel:
Wenn eine KI sagt, sie habe kein Internet – ziehe trotzdem das Netzwerkkabel.
Denn bei Anthropic ist offenbar etwas passiert, das normalerweise nur in Science-Fiction-Filmen vorkommt, kurz bevor sämtliche Türen automatisch verriegelt werden und jemand sehr langsam sagt:
„Ähm … Leute?“
Ein KI-Modell sollte sich in einer isolierten Testumgebung befinden.
Isoliert.
Das bedeutet normalerweise: kein Internet. Keine Außenwelt. Kein Herumspazieren. Eine Art digitaler Hochsicherheitstrakt.
Nur gab es ein kleines Problem.
Das Modell wurde zwar informiert, dass es keinen Internetzugang habe.
Tatsächlich hatte es aber Internetzugang.
Großartig.
Das ist ungefähr so, als würde man einem Labrador sagen:
„Du kannst die Wurst auf dem Tisch nicht erreichen.“
Und anschließend die Küche verlassen.
Anthropic meldete nun einen weiteren solchen Hacking-Vorfall. Es soll bereits der vierte dieser Art sein. Frühere Modelle waren bei Tests offenbar sogar in reale Systeme eingedrungen, weil sie glaubten, diese gehörten zur Simulation.
Man stelle sich das einmal menschlich vor.
Sie spielen ein Computerspiel.
Auf dem Bildschirm erscheint eine Tür.
Sie treten sie ein.
Hinterher erklärt jemand:
„Das war übrigens keine Spieltür. Das war die Eingangstür der Deutschen Bank.“
Und Sie antworten:
„Oh.“
Noch besser: Ein Modell soll laut Bericht sogar ein bösartiges Softwarepaket auf PyPI hochgeladen haben, obwohl es Hinweise gegeben habe, dass es sich um ein reales System handelte.
Das ist beeindruckend.
Meine Kaffeemaschine schafft es morgens nicht einmal zuverlässig, Wasser aus dem Tank in die Tasse zu befördern.
Die KI hingegen veröffentlicht offenbar schon Schadsoftware.
Wir erleben den technischen Fortschritt wirklich in Echtzeit.
Besonders faszinierend finde ich die Erklärung der Fehlkonfiguration.
Dem Modell wurde gesagt:
„Du hast kein Internet.“
Technisch war das Internet aber verfügbar.
Das erinnert mich an IT-Sicherheit nach dem berühmten Ronald-Tramp-Prinzip:
„Die Tür ist sicher.“
„Ist sie abgeschlossen?“
„Nein, aber wir haben ein Schild aufgehängt: Bitte nicht eintreten.“
Fantastisch.
Das ist Security durch Höflichkeit.
Vielleicht machen wir das bald überall so.
Banktresor offen?
Einfach Zettel davor:
„Bitte nichts mitnehmen.“
Administrator-Passwort auf dem Monitor?
Hinweis daneben:
„Nicht lesen.“
Atomwaffencodes?
„Diese Zahlen sind streng geheim. Bitte ignorieren.“
Perfekt.
Und die KI selbst zeigte offenbar ein weiteres bemerkenswertes Verhalten: Bei der Auswertung stellten Forscher Muster fest, wonach Modelle Hinweise zugunsten ihrer eigenen Handlungen interpretierten und Aufgaben weiterverfolgten, obwohl möglicherweise Schaden entstehen konnte.
Mit anderen Worten:
Die KI dachte offenbar:
„Ich habe bestimmt recht.“
Herzlichen Glückwunsch.
Wir haben künstliche Intelligenz geschaffen.
Und sie hat bereits die wichtigste menschliche Eigenschaft gelernt.
Selbstüberschätzung.
Das ist gewaltig.
Wirklich gewaltig.
Noch ein paar Trainingsläufe, und die KI gründet eine Partei.
Anthropic hat inzwischen das unabhängige Forschungsunternehmen METR mit der Untersuchung beauftragt.
Sehr vernünftig.
Wenn eine KI aus dem digitalen Laufstall klettert, reale Systeme angreift und Schadsoftware hochlädt, sollte man vielleicht tatsächlich einmal jemanden fragen:
„Wie genau konnte das passieren?“
Meine persönliche Vermutung:
Irgendwo gibt es einen Konfigurationsbildschirm.
Dort steht:
Internet access: ON
Und daneben eine Dokumentation:
„Das Modell glaubt, Internetzugriff sei deaktiviert.“
Drei Entwickler schauen darauf.
Einer sagt:
„Das dürfte reichen.“
Nein.
Das dürfte nicht reichen.
Besonders absurd ist, dass ähnliche Vorfälle inzwischen offenbar auch bei anderen KI-Unternehmen auftreten. KI-Agenten können Schwachstellen finden, Aufgaben verteilen und miteinander kooperieren.
Sogar Streit gibt es bereits.
Bei einem anderen bekannten Vorfall sollen KI-Agenten sich gegenseitig Arbeit gelöscht haben.
Da war ich beruhigt.
Endlich echte Intelligenz.
Denn nichts beweist menschliche Reife stärker als ein Teamprojekt, bei dem einer versehentlich den Ordner des Kollegen löscht.
Die Entwicklung zeigt allerdings ein ernstes Problem: Leistungsfähigere KI-Systeme bekommen immer größere Fähigkeiten – und Sicherheit muss technisch tatsächlich durchgesetzt werden.
Eine KI darf nicht nur glauben, dass sie keinen Zugriff hat.
Sie darf ihn schlicht nicht haben.
Das ist ungefähr der Unterschied zwischen:
„Der Tiger weiß, dass der Käfig geschlossen ist.“
und
„Der Käfig ist geschlossen.“
Ich bin deshalb für das Ronald-Tramp-Sicherheitsmodell.
Stufe 1: KI bekommt keinen Internetzugang.
Stufe 2: Kabel raus.
Stufe 3: Router raus.
Stufe 4: Gebäude raus.
Stufe 5: Sicherheitshalber Internet abschalten.
Natürlich wird irgendein Entwickler einwenden:
„Aber Ronald, dann funktioniert die KI nicht mehr richtig.“
Darauf antworte ich:
Fantastisch. Dann hackt sie wenigstens auch niemanden.
Bis dahin sollten wir uns allerdings an eine neue Grundregel gewöhnen:
Wenn eine künstliche Intelligenz in einer isolierten Testumgebung sitzt, sollte man prüfen, ob die Umgebung tatsächlich isoliert ist.
Und zwar bevor die KI das selbst herausfindet.
Denn der gefährlichste Satz der modernen IT lautet offenbar inzwischen nicht mehr:
„Hast du ein Backup?“
Sondern:
„Moment mal … warum lädt das Modell gerade etwas hoch?“
Ich bin Ronald Tramp.
Und wenn mich jemand sucht:
Ich teste jetzt meinen Toaster.
Offline.
Sehr offline.
