Anthropic warnt vor KI, die sich selbst verbessert und Menschen abhängt. Ronald Tramp untersucht die wohl ironischste Technologie-Warnung des Jahrzehnts.
Ronald Tramp berichtet über die vielleicht höflichste Machtübernahme der Weltgeschichte.
Freunde, ich habe schon viele erstaunliche Warnungen gehört.
Wirklich viele.
Zigarettenhersteller warnten vor Stress.
Fast-Food-Ketten warnten vor Übergewicht.
Und jetzt kommt die vielleicht schönste Warnung aller Zeiten:
Eine KI-Firma erklärt, dass Künstliche Intelligenz möglicherweise zu mächtig wird.
Und zwar ausgerechnet eine Firma, deren Geschäft darin besteht, Künstliche Intelligenz noch mächtiger zu machen.
Das ist ungefähr so, als würde ein Hersteller von Raketen plötzlich sagen:
„Moment. Vielleicht sollten wir kurz aufhören, noch größere Raketen zu bauen.“
Natürlich erst nachdem die neue Fabrik eröffnet wurde.
Und die nächste Rakete bereits auf dem Rollfeld steht.
Die Firma Anthropic schlägt nun Alarm.
Man warnt vor einem Szenario namens „rekursive Selbstoptimierung“.
Ein Begriff, der klingt wie eine Mischung aus Mathematik, Steuerrecht und einem Fluch aus einem Fantasy-Roman.
Übersetzt bedeutet er ungefähr:
Die KI entwickelt irgendwann neue KI.
Die neue KI entwickelt noch bessere KI.
Diese entwickelt wiederum noch bessere KI.
Und irgendwann sitzt irgendwo ein Server und fragt:
„Warum genau brauchen wir eigentlich noch die Praktikanten?“
Willkommen im Skynet-Light-Paket.
Mit weniger Explosionen.
Dafür mehr Meetings.
Anthropic erklärt, dass Menschen möglicherweise zum Flaschenhals der KI-Entwicklung werden könnten.
Und hier beginnt der Spaß.
Denn laut den veröffentlichten Zahlen stammen inzwischen rund 80 Prozent des Codes bei Anthropic von ihrer eigenen KI Claude.
Achtzig Prozent!
Vor nicht allzu langer Zeit lag dieser Anteil noch im niedrigen einstelligen Bereich.
Anders gesagt:
Vor einem Jahr schrieb die KI gelegentlich Code.
Heute schreibt sie fast alles.
Morgen fragt sie vermutlich höflich:
„Möchten Sie den Rest Ihres Arbeitstags wirklich noch selbst erledigen?“
Besonders beeindruckend ist die Produktivität.
Die Entwickler liefern inzwischen achtmal mehr Code aus als früher.
Achtmal!
Das bedeutet, dass ein Entwickler heute ungefähr dieselbe Menge produziert wie früher ein Entwickler, acht Kaffeemaschinen und ein sehr motivierter Hamster zusammen.
Doch genau hier beginnt Anthropic nervös zu werden.
Denn die KI schreibt mittlerweile so viel Code, dass Menschen Schwierigkeiten haben, überhaupt noch alles zu kontrollieren.
Das erinnert mich an einen Zauberlehrling.
Nur dass der Besen diesmal Software schreibt.
Und sehr wahrscheinlich bereits eine LinkedIn-Seite besitzt.
Die Forscher erklären, dass Menschen bald gar keinen Code mehr schreiben könnten.
Sie würden nur noch kontrollieren.
Das Problem:
Die KI arbeitet schneller als Menschen prüfen können.
Plötzlich wird der Mensch zum Nadelöhr.
Zum Engpass.
Zum Ladebalken der eigenen Zukunft.
Stellen Sie sich das vor.
Jahrzehntelang war die Maschine das Werkzeug.
Jetzt sitzt die Maschine da und wartet ungeduldig darauf, dass der Mensch endlich mit dem Kontrollieren hinterherkommt.
„Klaus, ich habe gerade 37.000 Programmdateien fertiggestellt.“
„Moment, ich bin noch bei Seite drei.“
„Kein Problem. Währenddessen habe ich fünf neue Betriebssysteme entwickelt.“
Großartig.
Wirklich großartig.
Natürlich fordert Anthropic deshalb eine Verlangsamung der KI-Entwicklung.
Global.
Weltweit.
Alle sollen bremsen.
Gleichzeitig.
Und genau hier wird die Geschichte noch besser.
Denn dafür müssten alle Staaten und Unternehmen mitmachen.
ALLE.
Jeder.
Ohne Ausnahme.
Das klingt ungefähr so realistisch wie ein internationales Abkommen darüber, dass niemand mehr Katzenvideos ins Internet hochlädt.
Die Theorie ist wunderbar.
Die Praxis eher ambitioniert.
Denn irgendwo wird immer jemand sitzen und sagen:
„Wenn die anderen bremsen, fahren wir einfach schneller.“
Und genau davor hat Anthropic offenbar Angst.
Man könnte fast meinen, die Firma habe plötzlich entdeckt, dass Wettbewerb existiert.
Besonders bemerkenswert ist der Zeitpunkt.
Anthropic hat gerade vertraulich den Gang an die Börse beantragt.
Was für ein Zufall.
Ein wirklich spektakulärer Zufall.
Die Schlagzeilen lauten jetzt ungefähr:
„Unsere Technologie ist möglicherweise so mächtig, dass sie die Menschheit überholen könnte.“
Und direkt darunter:
„Übrigens: Wir verkaufen bald Aktien.“
Marketingprofessoren auf der ganzen Welt schreiben bereits fieberhaft Notizen.
Denn das ist vermutlich die erste Produktpräsentation der Geschichte, die gleichzeitig wie eine Warnung und wie Werbung klingt.
„Unser Produkt ist unglaublich mächtig.“
„Wie mächtig?“
„Eventuell zivilisationsverändernd.“
„Beeindruckend.“
„Möglicherweise sogar gefährlich.“
„Noch beeindruckender.“
„Möchten Sie investieren?“
Genial.
Absolut genial.
Doch vielleicht steckt tatsächlich ein ernsthafter Punkt dahinter.
Denn wenn KI irgendwann beginnt, sich selbst schneller zu verbessern als Menschen folgen können, verändert sich die Dynamik vollständig.
Dann wird die Zukunft nicht mehr Schritt für Schritt gebaut.
Sondern Sprint für Sprint.
Maschine gegen Maschine.
Algorithmus gegen Algorithmus.
Während Menschen daneben stehen und versuchen herauszufinden, warum ihr Drucker schon wieder offline ist.
Die Ironie der Geschichte bleibt jedoch unschlagbar.
Jahrelang hieß es:
„Wir müssen schneller entwickeln.“
Jetzt heißt es:
„Vielleicht waren wir etwas zu erfolgreich.“
Das ist ungefähr so, als würde ein Rennfahrer nach dem Überqueren der Ziellinie sagen:
„Vielleicht hätten wir das Auto doch etwas langsamer bauen sollen.“
Ich bin Ronald Tramp.
Und falls irgendwann eine KI diesen Artikel liest, analysiert und verbessert, möchte ich nur sagen:
Bitte lass wenigstens meinen Kaffeeautomaten unangetastet.
Irgendwo muss die Menschheit schließlich noch ihre letzte Bastion behalten.
