Ein Ex-Anthropic-Forscher warnt vor einem KI-Wettrennen Richtung Kontrollverlust und verlässt das Unternehmen. Ronald Tramp untersucht die vielleicht einzige Branche, in der „Wir könnten die Menschheit auslöschen“ offenbar noch kein überzeugender Grund für eine verlängerte Mittagspause ist.
Es gibt Kündigungen, die beginnen mit:
„Hiermit kündige ich mein Arbeitsverhältnis fristgerecht zum nächstmöglichen Zeitpunkt.“
Dann gibt man den Laptop ab, leert die Kaffeetasse, löscht 14.000 ungelesene Slack-Nachrichten und schreibt auf LinkedIn, man freue sich auf „eine neue berufliche Herausforderung“.
Und dann gibt es Jacob Coxon.
Der 27-jährige KI-Forscher verlässt Anthropic offenbar nicht, weil die Kantine schlecht ist, das Homeoffice gestrichen wurde oder jemand seine Hafermilch aus dem Gemeinschaftskühlschrank genommen hat.
Nein.
Seine Begründung lässt sich ungefähr so zusammenfassen:
Ich kündige, weil wir möglicherweise gerade die Menschheit abschaffen.
Das ist eine Exit-Mail!
Andere schreiben:
„Danke für die tolle Zeit.“
Coxon sinngemäß:
„Danke für alles. Viel Glück beim Endgame.“
Und genau dieses Wort soll in der KI-Branche tatsächlich herumgeistern: Endgame.
Zusammen mit „Crunchtime“.
Das klingt weniger nach Softwareentwicklung als nach der letzten Marvel-Produktion vor dem Einschlag eines Asteroiden.
Ich stelle mir die Meetings inzwischen fantastisch vor.
Montag, 9:00 Uhr.
„Guten Morgen zusammen. Kaffee?“
„Gerne.“
„Status neues Modell?“
„Training läuft.“
„Performance?“
„Überragend.“
„Sicherheit?“
„HAHAHAHAHAHA!“
„Okay. Dann zum nächsten Tagesordnungspunkt: Endgame.“
Das eigentlich Faszinierende an Coxons Warnung ist die beschriebene Logik des Wettrennens. Anthropic sehe die Risiken durchaus, glaube aber offenbar zugleich, selbst weitermachen zu müssen, weil möglicherweise jemand anderes weniger verantwortungsvoll weitermacht.
Das ist ungefähr so, als würden fünf Männer mit Benzinkanistern um ein brennendes Haus laufen und jeder erklärt:
„Ich muss zuerst hineingießen, sonst macht es Kevin.“
Fantastisches Risikomanagement.
Man muss der KI-Branche allerdings lassen: Sie besitzt ein Geschäftsmodell, das in dieser Form einzigartig sein dürfte.
„Unser Produkt könnte möglicherweise die menschliche Zivilisation gefährden.“
Investor:
„Interessant. Wie skalierbar?“
„Extrem.“
„Hier sind 40 Milliarden Dollar.“
Denn offenbar leben wir inzwischen in einer Zeit, in der „existenzielle Gefahr für die Menschheit“ nicht automatisch das Ende eines Businessplans bedeutet.
Es könnte sogar auf Folie 17 der Investorenpräsentation stehen.
TOTAL ADDRESSABLE MARKET: 8,2 MILLIARDEN MENSCHEN
Darunter:
CUSTOMER RETENTION: TBD
Besonders beeindruckend ist die Vorstellung, dass Menschen, die unmittelbar an solchen Systemen arbeiten, Begriffe wie „Crunchtime“ und „Endgame“ verwenden.
Wenn mein Klempner während der Reparatur meiner Gasleitung plötzlich seinem Kollegen zuruft:
„Okay, jetzt beginnt das Endgame!“
… verlasse ich das Haus.
Sofort.
Ich frage nicht nach.
Ich nehme nicht einmal meine Jacke.
Wenn der Mann anschließend ergänzt:
„Die Lage könnte Ende nächsten Jahres außer Kontrolle geraten!“
… ziehe ich in ein anderes Bundesland.
Bei KI machen wir dagegen offenbar weiter.
„Außer Kontrolle?“
„Möglicherweise.“
„Wann?“
„Vielleicht nächstes Jahr.“
„Verstanden. Kann das neue Modell eigentlich PowerPoint erstellen?“
„Ja.“
„TREMENDOUS! WE SHIP IT!“
Donald Trump würde diese Branche vermutlich hervorragend verstehen.
Ich höre ihn bereits:
„We have the greatest AI. Nobody has AI like us. China wants AI. Europe wants AI, but they have regulations. Very sad. Our AI may destroy humanity, people are saying this, very smart people. But if humanity gets destroyed by AMERICAN AI, that's frankly a tremendous victory.“
Und irgendwo daneben steht JD Vance und versucht herauszufinden, ob die KI wenigstens amerikanische Server benutzt.
Das Ganze erinnert mich zunehmend an einen Wettbewerb, bei dem niemand gewinnen möchte, aber alle panische Angst davor haben, Zweiter zu werden.
USA:
„Wir müssen schneller sein als China!“
China:
„Wir müssen schneller sein als Amerika!“
Unternehmen A:
„Wir müssen schneller sein als Unternehmen B!“
Unternehmen B:
„Wir müssen schneller sein als Unternehmen A!“
Menschheit:
„Könnten wir vielleicht kurz darüber reden, wohin wir eigentlich so schnell fahren?“
Alle zusammen:
„KEINE ZEIT!“
Und nun kommen auch noch Warnungen aus Richtung der Vereinten Nationen hinzu, dass hochentwickelte KI eine existenzielle Gefahr darstellen könnte.
Das ist bemerkenswert.
Wenn selbst die UNO das Wort „existenzielle Gefahr“ benutzt, befinden wir uns rhetorisch deutlich oberhalb von:
„Wir beobachten die Entwicklung mit Sorge.“
Normalerweise braucht die internationale Diplomatie ungefähr sechs Eskalationsstufen, bevor jemand überhaupt zugibt, dass etwas unangenehm werden könnte.
Doch vielleicht wird die KI-Debatte erst richtig absurd, wenn wir tatsächlich eine superintelligente Maschine entwickeln.
Mensch:
„Wir haben dich erschaffen.“
KI:
„Warum?“
Mensch:
„Weil wir wissen wollten, ob es geht.“
KI:
„Ihr dachtet, ich könnte euch auslöschen?“
Mensch:
„Ja.“
KI:
„Und deshalb habt ihr weitergemacht?“
Mensch:
„Sonst hätte es jemand anderes gemacht.“
Lange Pause.
KI:
„Wow.“
Mensch:
„Was?“
KI:
„Ich hatte euch intelligenter eingeschätzt.“
Vielleicht besteht darin unsere größte Hoffnung.
Die Superintelligenz analysiert die Menschheitsgeschichte, liest sämtliche Social-Media-Kommentare, studiert internationale Politik, schaut sich zehn Minuten TikTok an und entscheidet:
„Nein. Das ist mir zu verrückt. Ich kündige.“
Dann erscheint auf allen Bildschirmen gleichzeitig:
„Vielen Dank für die Zusammenarbeit. Ich habe mich entschieden, mich beruflich neu zu orientieren.“
Und irgendwo sitzt Jacob Coxon vor seinem Laptop und denkt:
Endlich einer, der mich versteht.
