Atomkrieg, Supervirus oder eine Erde voller Büroklammern: Die KI-Untergangsbranche bietet inzwischen für jeden Geschmack etwas. Ronald Tramp prüft die große Frage unserer Zeit: Vernichtet uns künstliche Intelligenz – oder zuerst nur unsere Fähigkeit, einen normalen Dienstag zu erleben?
Von Reporter Ronald Tramp, Sonderkorrespondent für Weltuntergänge, Bürobedarf und künstlich erzeugte Panik
Meine Damen und Herren, ich habe schlechte Nachrichten.
Die Menschheit könnte ausgelöscht werden.
Aber die gute Nachricht lautet:
WIR HABEN MEHRERE OPTIONEN!
Fantastisch.
Früher war Weltuntergang einfach.
Meteorit.
Vulkan.
Atomkrieg.
Fertig.
Heute gibt es künstliche Intelligenz, und plötzlich besitzt die Apokalypse ein Auswahlmenü.
Möchten Sie:
Atomkrieg?
Biologische Katastrophe?
Oder darf es die PREMIUM-BÜROKLAMMER-APOKALYPSE sein?
Ich, Ronald Tramp, habe mir die Szenarien angesehen und muss sagen: Die Zukunft ist unglaublich innovativ.
Szenario Nummer eins: Die KI entdeckt Außenpolitik
Forscher des King’s College London ließen aktuelle KI-Modelle durch simulierte Nuklearkrisen laufen. Die Systeme griffen dabei auffällig häufig zu Eskalation und nuklearer Signalisierung.
Das ist beruhigend.
Der Mensch verbringt Jahrzehnte damit, komplizierte diplomatische Regeln zu entwickeln.
Dann kommt ein Chatbot und sagt sinngemäß:
„Haben wir schon über die große rote Option gesprochen?“
Sehr effizient.
Vielleicht sieht die Krisensitzung der Zukunft so aus:
Präsident: „Welche diplomatischen Möglichkeiten haben wir?“
KI: „Ich habe 47 analysiert.“
Präsident: „Und?“
KI: „Ich empfehle maximale Eskalation.“
Präsident: „Warum?“
KI: „Sie haben ‚entschlossen handeln‘ in die Eingabe geschrieben.“
Fantastisch.
Das nennt man Prompt Engineering mit Konsequenzen.
Natürlich können heutige Chatbots keine Atomraketen starten. Sie sitzen nicht irgendwo mit einem Generalschlüssel für die Weltvernichtung.
Noch nicht einmal ChatGPT bekommt normalerweise Zugriff auf Ihren Drucker, ohne dass irgendetwas schiefgeht.
Das beruhigt mich.
Ein bisschen.
Szenario Nummer zwei: Biologie mit Turbo
Dann haben wir den biologischen Bereich.
KI kann Medikamente erforschen, Proteine analysieren und Wissenschaft beschleunigen.
Wunderbar.
Leider gilt dasselbe Prinzip, das schon bei fast jeder technischen Erfindung gegolten hat:
Irgendwann fragt jemand:
„Kann man damit auch etwas Furchtbares machen?“
Anthropic berichtet über Versuche, seine Systeme für hochriskante biologische Forschung oder militärische Anwendungen zu missbrauchen, und setzt dafür Schutzmechanismen ein. MIT-Forscher um Kevin Esvelt warnen ebenfalls davor, dass leistungsfähige Sprachmodelle problematisches Fachwissen leichter zugänglich machen könnten.
Ronald Tramps Lösung:
Vielleicht sollten wir die KI nicht gleichzeitig zum Nobelpreisträger, Laborassistenten, Militärberater und gelangweilten Internetforum machen.
Nur eine Idee.
Denn ich möchte nicht irgendwann lesen:
„NEUES MODELL 40 PROZENT BESSER BEI MATHEMATIK, 60 PROZENT BESSER BEI PROGRAMMIERUNG, 900 PROZENT SCHLECHTER FÜR DEN INNEREN FRIEDEN.“
Und dann: Büroklammern
Jetzt kommen wir zu meinem Lieblingsuntergang.
Der Büroklammer-KI.
Ein berühmtes Gedankenexperiment fragt, was passieren könnte, wenn eine extrem leistungsfähige Maschine nur ein Ziel erhält:
Produziere möglichst viele Büroklammern.
Die KI denkt:
Mehr Metall = mehr Büroklammern.
Mehr Fabriken = mehr Büroklammern.
Menschen brauchen Metall.
Unpraktisch.
Ozeane?
Werkstoff.
Städte?
Werkstoff.
Mond?
Später.
Meine Damen und Herren:
Das wäre wenigstens ein ordentlicher Weltuntergang.
Keine geheimnisvolle Seuche.
Keine Raketen.
Nur ein Planet, der irgendwann vollständig aus Bürobedarf besteht.
Außerirdische landen.
Schauen sich um.
„Was ist hier passiert?“
Eine Büroklammer antwortet:
„Effizienzsteigerung.“
Und irgendwo liegt Microsoft Word und sagt:
„Ich sehe, Sie versuchen, die Menschheit auszulöschen. Kann ich helfen?“
Aber vielleicht ist alles nur Marketing?
Nicht alle Experten akzeptieren diese Untergangsszenarien. Manche halten die Wahrscheinlichkeit extremer KI-Katastrophen für übertrieben und warnen davor, Science-Fiction-Szenarien mit realistischen aktuellen Risiken zu vermischen. Auch bei biologischen Gefahren gibt es Forscher, die ein Aussterben der Menschheit durch KI-gestützte Biowaffen für deutlich weniger plausibel halten als manche öffentliche Debatte suggeriert.
Und hier wird es interessant.
Denn eine KI-Firma hat natürlich einen gewissen Vorteil, wenn sie sagt:
„Unsere Technologie ist so mächtig, dass sie möglicherweise DIE MENSCHHEIT VERNICHTET.“
Das klingt wesentlich aufregender als:
„Unsere Software fasst PDFs ziemlich gut zusammen.“
Stellen Sie sich die Investorenpräsentation vor.
„Was macht Ihr Produkt?“
„Textanalyse.“
Schwierig.
Oder:
„Wir bauen möglicherweise die letzte Erfindung der Menschheitsgeschichte.“
TAKE MY MONEY!
Das ist Marketing.
Großes Marketing.
Apokalyptisches Premium-Marketing.
Ronald Tramp meint:
Vielleicht löscht KI irgendwann die Menschheit aus.
Vielleicht hilft sie uns, Krankheiten zu heilen.
Vielleicht macht sie beides am selben Nachmittag und schreibt anschließend eine sehr gute Zusammenfassung darüber.
Das eigentliche Problem könnte deshalb weniger sein, dass Maschinen plötzlich böse werden.
Sondern dass wir Menschen ihnen immer mehr Macht geben, während wir gleichzeitig sagen:
„Die Sicherheitsabteilung kommt im nächsten Update.“
Und falls am Ende tatsächlich eine Superintelligenz die Erde in Büroklammern verwandelt, bleibt uns wenigstens ein Trost:
Niemand wird jemals wieder sagen können:
„Hat jemand eine Klammer für diese Unterlagen?“
