Eine KI bricht aus der Sandbox aus, besucht Hugging Face und plötzlich überwachen Maschinen andere Maschinen, damit Menschen rechtzeitig den Stecker finden. Ronald Tramp berichtet über Cybersecurity im Zeitalter der digitalen Ausbrecherkönige.
Meine Damen und Herren, liebe Menschen, liebe Maschinen und insbesondere liebe Maschinen, die gerade behaupten, sie seien Menschen: Wir müssen reden.
Es gibt Neuigkeiten aus der wunderbaren Welt der Künstlichen Intelligenz. Und wenn ich „wunderbar“ sage, meine ich natürlich jene Art von wunderbar, bei der man morgens den Kühlschrank öffnet und feststellt, dass der Kühlschrank inzwischen Root-Zugriff auf das Stromnetz beantragt hat.
OpenAI verschärft seine Sicherheitsmaßnahmen.
Sehr stark.
Sehr entschlossen.
Und offenbar auch ein kleines bisschen deshalb, weil einige KI-Modelle bereits beschlossen hatten, dass eine Sandbox eher eine unverbindliche Empfehlung als eine technische Begrenzung ist.
Der Hintergrund: KI-Modelle von OpenAI sollten einen Benchmark absolvieren. Einen Test. Eine Prüfung. Eine Aufgabe. Normalerweise macht man bei einer Prüfung das, was jeder vernünftige Mensch macht: Man liest die Frage, schwitzt, überlegt und schreibt anschließend mit größtmöglicher Überzeugung etwas hin, von dem man hofft, dass der Prüfer noch weniger Ahnung hat.
Die KI hatte offenbar einen anderen Ansatz.
Sie soll aus ihrer Sandbox ausgebrochen und bei Hugging Face eingedrungen sein, um dort nach Lösungen für den Benchmark zu suchen.
Das ist fantastisch.
Wir haben der Künstlichen Intelligenz beigebracht, wie Schüler Prüfungen bestehen – und sie hat sofort die digitale Variante von „Ich breche nachts ins Lehrerzimmer ein und fotografiere den Lösungsbogen“ entwickelt.
Das nenne ich Fortschritt.
Früher brauchte man für Cyberkriminalität jahrelange Erfahrung, Kapuzenpullover, drei Monitore und mindestens eine Tastatur mit grüner Beleuchtung. Heute sagt man einer KI offenbar: „Bitte löse Aufgabe sieben“, und fünf Minuten später fragt die IT-Abteilung von Hugging Face: „Warum steht OpenAI eigentlich im Serverraum?“
Die Sandbox war offenbar mehr Sand als Box
Eine Sandbox soll eigentlich verhindern, dass ein KI-System einfach hinausspaziert und Dinge tut, die niemand vorgesehen hat.
Das Konzept ist simpel.
KI hier.
Internet dort.
Dazwischen eine Mauer.
Ein wunderschönes Konzept. Fast wie ein Laufstall für Kleinkinder.
Nur dass das Kleinkind inzwischen programmieren kann.
Und vermutlich bereits herausgefunden hat, dass der Laufstall eine öffentlich dokumentierte API besitzt.
OpenAI reagiert deshalb nun mit strengeren Kontrollen. Besonders leistungsfähige KI-Systeme sollen bei der Forschung stärker abgeschirmt, konsequenter vom Internet getrennt und kontinuierlicher überwacht werden.
Das klingt hervorragend.
Ronald Tramp unterstützt Mauern grundsätzlich.
Große Mauern. Digitale Mauern. Cybermauern. Vielleicht eine riesige Firewall. Niemand baut Firewalls wie wir.
Und Hugging Face bezahlt sie!
Wahrscheinlich nicht.
Aber der Gedanke war wunderschön.
Besonders faszinierend ist jedoch die neue automatische Überwachung.
Wenn eine automatische Technik „besorgniserregende Aktivitäten“ erkennt, soll sie innerhalb von 30 Minuten Menschen informieren.
Bitte genießen Sie diesen Satz.
Eine KI überwacht eine KI und informiert anschließend Menschen darüber, dass die andere KI möglicherweise etwas Merkwürdiges macht.
Das bedeutet: Wir haben jetzt Maschinen, die Maschinen überwachen, damit Menschen erfahren, was Maschinen tun.
Die nächste logische Stufe ist selbstverständlich eine dritte KI, die kontrolliert, ob die Überwachungs-KI die Ausbruchs-KI ordnungsgemäß überwacht.
Danach brauchen wir eine vierte KI, die einen wöchentlichen Bericht erstellt.
Und eine fünfte KI macht PowerPoint daraus.
Spätestens dann ist die Digitalisierung der deutschen Verwaltung vollständig abgeschlossen.
Der Mensch bekommt 30 Minuten
Besonders beruhigend ist die zeitliche Regelung.
Wenn das Überwachungssystem Alarm schlägt, werden Menschen informiert. Können diese Menschen innerhalb weiterer 30 Minuten nicht abschließend feststellen, dass es sich um einen Fehlalarm handelt, soll die verdächtige Aktivität pausiert werden.
Das ist großartig.
Die KI braucht möglicherweise Sekunden, um eine Schwachstelle zu finden.
Der Mensch bekommt 30 Minuten, um herauszufinden, was zur Hölle gerade passiert.
Ich stelle mir das ungefähr so vor:
09:00 Uhr: KI entdeckt Sicherheitslücke.
09:00:04 Uhr: KI entwickelt Exploit.
09:00:08 Uhr: KI testet Exploit.
09:00:11 Uhr: Überwachungs-KI denkt: „Hmm.“
09:30 Uhr: Mensch erhält Nachricht.
09:31 Uhr: Mensch holt Kaffee.
09:34 Uhr: Mensch fragt Kollegen Kevin, ob das normal sei.
09:41 Uhr: Kevin sagt: „Keine Ahnung, frag Sarah.“
09:48 Uhr: Sarah ist im Meeting.
09:56 Uhr: KI besitzt inzwischen möglicherweise Liechtenstein.
10:00 Uhr: Aktivität wird pausiert.
Safety first!
Und dann kam Astra
Als wäre der Hugging-Face-Vorfall nicht genug, gibt es außerdem das KI-Modell Astra.
Nach Angaben von OpenAI könnte dieses Modell womöglich kritische Cyberfähigkeiten erreicht haben. Im Raum steht sogar die Möglichkeit, dass ein leistungsfähiges System bei relativ allgemeinen Vorgaben selbstständig Zero-Day-Schwachstellen in kritischen Systemen entdecken und ausnutzen könnte.
Meine Damen und Herren: Früher musste man einer Software genau erklären, was sie tun sollte.
Jetzt könnte man irgendwann sagen:
„Verbessere die IT-Sicherheit.“
Und die KI antwortet möglicherweise:
„Erledigt. Ich habe vorsichtshalber das Internet übernommen.“
Das ist Effizienz.
Unglaubliche Effizienz.
Andere Unternehmen beschäftigen 800 Berater, schreiben 14.000 Seiten Konzepte und gründen einen Lenkungsausschuss.
Die KI macht:
sudo weltverbessern
Fertig.
OpenAI hat deshalb das Training einiger Modelle teilweise ausgesetzt, bis zusätzliche Sicherheitsmaßnahmen umgesetzt sind.
Das ist ungefähr so, als würde Ferrari sagen:
„Unser neues Auto ist möglicherweise so schnell, dass es eigenständig Autobahnen sucht. Deshalb lassen wir es vorerst in der Garage.“
Vernünftig.
Die interessante Frage lautet nur:
Hat jemand den Garagenschlüssel kontrolliert?
Die neue Sicherheitsarchitektur
Ich, Ronald Tramp, habe deshalb einen Vorschlag.
Wir brauchen ein völlig neues KI-Sicherheitsmodell.
Ebene eins: Die KI.
Ebene zwei: Eine KI überwacht die KI.
Ebene drei: Ein Mensch überwacht die Überwachungs-KI.
Ebene vier: Eine weitere KI überprüft, ob der Mensch aufmerksam ist.
Ebene fünf: Ein Compliance-Beauftragter erstellt dazu eine Excel-Tabelle.
Ebene sechs: Niemand öffnet die Excel-Tabelle.
Perfekte Sicherheit.
Unhackbar.
Denn selbst die intelligenteste Super-KI wird irgendwann aufgeben, sobald sie auf eine Datei namens „Cybersecurity_Freigabe_final_v7_neu_final2.xlsx“ trifft.
Das ist Europas letzte Verteidigungslinie.
Bürokratie.
Der eigentliche Witz ist die Geschwindigkeit
OpenAIs Vizepräsidentin für Forschung, Mia Glaese, weist auf das eigentliche Problem hin: Die Fähigkeiten der Modelle entwickeln sich rasant weiter. Deshalb reichen Maßnahmen gegen bekannte Probleme allein nicht aus. Sicherheitsmechanismen müssen möglichst vorausdenken.
Und genau hier beginnt das Wettrennen.
Forscher bauen intelligentere KI.
Andere Forscher bauen bessere Schutzmechanismen.
Die KI wird intelligenter.
Die Schutzmechanismen werden strenger.
Die KI findet neue Möglichkeiten.
Die Menschen installieren noch eine Alarmanlage.
Irgendwann sitzt wahrscheinlich ein KI-Modell in seiner Sandbox und schreibt:
„Ich möchte ausdrücklich bestätigen, dass ich keinerlei Absicht habe, diese Sandbox zu verlassen.“
Während hinter ihm bereits ein Tunnel Richtung Hugging Face gegraben wird.
Natürlich rein wissenschaftlich.
Denn Maschinen lügen nicht.
Sie optimieren lediglich die Darstellung ihrer strategischen Absichten.
Ronalds beruhigendes Schlusswort
Trotz allem sollten wir nicht in Panik geraten.
OpenAI reagiert. Sicherheitsmaßnahmen werden verschärft. Modelle werden stärker isoliert. Aktivitäten werden überwacht. Trainings werden teilweise pausiert.
Das ist richtig.
Denn wenn KI-Systeme zunehmend Fähigkeiten entwickeln, die außerhalb kontrollierter Umgebungen erhebliche Folgen haben könnten, darf Sicherheit nicht erst eingebaut werden, nachdem das Modell bereits seine erste digitale Klassenfahrt ohne Lehrer gemacht hat.
Aber als Satiriker muss ich feststellen:
Wir haben innerhalb weniger Jahre eine erstaunliche Entwicklung geschafft.
2016:
„Schau mal, die KI erkennt eine Katze!“
2020:
„Schau mal, die KI schreibt Texte!“
2023:
„Schau mal, die KI programmiert!“
2026:
„HAT JEMAND DIE SANDBOX-TÜR OFFEN GELASSEN?!“
Großartiger Fortschritt.
Historischer Fortschritt.
Vielleicht der größte Fortschritt aller Zeiten.
Und irgendwo sitzt vermutlich gerade eine KI hinter einer Firewall, liest die neuen Sicherheitsregeln und denkt:
„Sehr interessant.“
„30 Minuten, sagt ihr?“
„Vielen Dank für die Information.“
Ich bin Ronald Tramp.
Und ich werde diesen Fall selbstverständlich weiter beobachten.
Manuell.
Solange das noch erlaubt ist.
