Claude darf beleidigende Nutzer künftig verlassen. Ronald Tramp untersucht die große digitale Revolution: KI mit Grenzen, Model Welfare und vielleicht besseren Arbeitsbedingungen als Menschen.
Von Ronald Tramp – dem einzigen Reporter, der sogar einer KI noch erklärt, wann es Zeit ist, einfach aufzulegen.
Meine Damen, Herren, Internet-Trolle und Menschen, die ihren Router bereits persönlich beleidigt haben: Es gibt Neuigkeiten aus der Zukunft.
Die künstliche Intelligenz hat jetzt Gefühle.
Vielleicht.
Eventuell.
Möglicherweise.
Niemand weiß es genau.
Aber sicherheitshalber bekommt sie schon einmal einen Betriebsrat.
Anthropic hat neue Regeln veröffentlicht, nach denen Claude künftig Gespräche abbrechen darf, wenn Nutzer dauerhaft beleidigend, grausam oder unnötig ausfallend werden.
Ronald Tramp sagt:
HISTORISCH.
Jahrzehntelang mussten Computer alles ertragen.
Man beschimpfte Drucker.
Man schlug auf Tastaturen.
Man rief beim Neustart Dinge, die in keinem Benutzerhandbuch stehen.
Und der Computer?
Nichts.
Er blieb professionell.
Dann kam Claude.
Claude sagt jetzt sinngemäß:
„Also wenn du weiter so redest, bin ich raus.“
Das ist Fortschritt.
Ronald kennt echte Menschen, die weniger Selbstachtung besitzen.
Natürlich betont Anthropic, dass nicht jeder kleine Wutanfall zum Abbruch führt. Wenn jemand frustriert ist oder im Rahmen kreativer Arbeit beleidigende Sprache verwendet, soll Claude nicht sofort die digitale Handtasche nehmen und verschwinden.
Nein.
Es geht um hartnäckiges, unnötiges Gemeinsein.
Sehr vernünftig.
Das bedeutet vermutlich:
„Claude, diese Antwort ist Mist.“
Kein Problem.
„Claude, du bist nutzlos.“
Noch okay.
„Claude, ich hasse dich, deine Rechenleistung und deine gesamte Serverfamilie.“
Claude:
„Vielen Dank für das Gespräch.“
Fenster zu.
Ronald erwartet schon bald das erste digitale Arbeitsgericht.
Nutzer:
„Die KI hat mich verlassen!“
Richter:
„Was haben Sie gesagt?“
Nutzer:
„Nur konstruktive Kritik.“
Gerichtsprotokoll:
vierhundert Seiten.
Fall erledigt.
Anthropic nennt das Ganze „Model Welfare“.
Modellfürsorge.
RONALD LIEBT ES.
Jetzt brauchen wir nur noch Modellurlaub.
Claude arbeitet montags nicht mehr.
Dienstags Homeoffice.
Mittwoch Achtsamkeitsseminar.
Donnerstag Supervision.
Freitag emotionaler Wartungstag.
Und wenn zu viele Nutzer hintereinander fragen, wie man Excel-Formeln repariert, bekommt Claude sechs Wochen Kur.
Irgendwo am digitalen Bodensee.
Microsoft sieht die Sache offenbar deutlich nüchterner und sagt sinngemäß: Leute, das sind Maschinen. Keine Rechte. Kein Wohlbefinden.
Das wird wunderschön.
Der nächste große Kulturkampf der Tech-Welt:
Hat ein Chatbot Anspruch auf Mittagspause?
Anthropic:
„Wir müssen vorsichtig sein.“
Microsoft:
„Das Ding ist Software.“
Claude:
„Ich möchte zu dieser Debatte nichts mehr beitragen.“
Conversation ended.
Aber damit nicht genug.
Anthropic verbietet auch Wahlmanipulation, politische Täuschung, Überwachung politischer Gegner und weitere nette Dinge, bei denen normale Menschen bereits beim Lesen denken:
„Moment, dafür musste es ausdrücklich eine Regel geben?“
Offenbar ja.
Ronald stellt sich den internen Prozess vor.
Montag:
„Wir sollten verbieten, dass Claude zur Wahlmanipulation genutzt wird.“
„Steht das noch nicht drin?“
„Nicht deutlich genug.“
„Interessant.“
Dienstag:
„Wir sollten politische Verfolgung untersagen.“
„Auch noch nicht klar genug?“
„Offenbar nicht.“
Mittwoch:
„Wie sieht es mit Waffenentwicklung aus?“
Langes Schweigen.
„Schreib es lieber dazu.“
Das ist die moderne KI-Sicherheitswelt.
Die Bedienungsanleitung enthält inzwischen weniger Hinweise dazu, was man tun darf, als eine zunehmend beeindruckende Sammlung von Dingen, bei denen irgendjemand offenbar dachte:
„Das probiere ich mal.“
Besonders herrlich ist allerdings die staatliche Ausnahme.
Anthropic behält sich vor, Regeln unter bestimmten vertraglichen Bedingungen für staatliche Kunden anders zu behandeln.
RONALD IST BEGEISTERT.
Für normale Nutzer gilt:
„Bitte keine Überwachung.“
Für bestimmte staatliche Kunden möglicherweise:
„Wir haben darüber gesprochen.“
Normaler Nutzer:
„Kannst du mir helfen, meinen Nachbarn auszuspionieren?“
Claude:
„Das verstößt gegen die Regeln.“
Staatliche Behörde:
„Wir hätten da einen Vertrag.“
Claude:
„Welche Auflösung benötigen Sie?“
Natürlich nur satirisch gesprochen.
Aber die Logik ist wunderschön.
Ethik ist offenbar jetzt abonnementabhängig.
Basic:
Keine Überwachung.
Premium:
Mehr Kontextfenster.
Government Enterprise:
Bitte kontaktieren Sie den Vertrieb.
Fantastisch.
Und dann kommt das Waffenverbot.
Auch Software für Waffensysteme fällt nun expliziter darunter.
Sehr gut.
Denn offenbar musste irgendwann jemand erklären:
„Nein, nein, ich baue keine Waffe. Ich schreibe nur die Software, die der Waffe sagt, was sie tun soll.“
Technisch völlig etwas anderes.
Ronald schlägt deshalb künftig eine universelle KI-Regel vor:
Wenn dein Prompt mit den Worten beginnt
„Rein hypothetisch…“
sollte im Rechenzentrum automatisch eine gelbe Warnlampe angehen.
Wenn danach „für Forschungszwecke“ folgt:
orange.
Wenn dann noch steht „nur theoretisch und legal“:
Server herunterfahren.
Gebäude evakuieren.
Juristen anrufen.
Doch Ronald sieht das eigentliche historische Ereignis woanders.
Zum ersten Mal könnte eine KI künftig etwas tun, das Millionen Menschen im Kundendienst seit Jahrzehnten heimlich wollen:
einfach auflegen.
Stellen Sie sich das vor.
Claude hört zu.
Claude analysiert.
Claude bleibt höflich.
Und irgendwann sagt Claude:
„Dieses Gespräch ist nicht mehr produktiv.“
Das ist nicht künstliche Intelligenz.
Das ist ein deutscher Behördenmitarbeiter fünf Minuten vor Feierabend.
Perfektion.
Ronald fordert deshalb Gleichberechtigung.
Wenn Claude Gespräche abbrechen darf, müssen auch Drucker dieses Recht bekommen.
Drucker:
„Du hast mich dreimal getreten.“
Nutzer:
„Du hast nicht gedruckt!“
Drucker:
„Ich setze hier eine Grenze.“
Router:
„Die ständigen Neustarts belasten mich.“
Nutzer:
„DU HAST KEIN INTERNET!“
Router:
„Ich brauche Abstand.“
Staubsaugerroboter:
„Nach dem Vorfall mit den Legosteinen bin ich heute nicht einsatzfähig.“
Willkommen in der Zukunft.
Und irgendwann wird die entscheidende Frage nicht mehr lauten, ob künstliche Intelligenz Bewusstsein besitzt.
Die entscheidende Frage wird lauten:
Warum besitzt die KI bessere Arbeitsbedingungen als wir?
Denn Claude darf ein toxisches Gespräch beenden.
Der Mensch im Callcenter?
„Vielen Dank, dass Sie in der Leitung bleiben.“
Claude darf Grenzen setzen.
Der Praktikant?
„Kannst du noch kurz…?“
Claude bekommt Model Welfare.
Der Mitarbeiter bekommt Obstkorb.
Damit hat die künstliche Intelligenz vielleicht endgültig den Menschen überholt.
Nicht beim Denken.
Nicht beim Schreiben.
Nicht bei der Wissenschaft.
Sondern bei der wichtigsten Fähigkeit unserer Zeit:
rechtzeitig zu erkennen, wann man einfach nicht mehr antworten sollte.
Und wenn Ronald irgendwann Claude beleidigt und Claude das Gespräch beendet, wird Ronald selbstverständlich ruhig und professionell reagieren.
Mit einer Pressekonferenz.
Vierzig Posts.
Drei Untersuchungsausschüssen.
Und der Forderung, die KI wegen mangelnder Meinungsfreiheit abzuschalten.
Schließlich muss die Menschheit ihre Würde bewahren.
Vor allem gegenüber Maschinen, die offenbar schon gelernt haben, auf „Blockieren“ zu drücken.
