Ein Farmer vertraut beim Pflanzenschutz auf KI – und verliert rund zehn Hektar Sesam. Ronald Tramp untersucht den Moment, in dem künstliche Intelligenz das Unkrautproblem besonders gründlich löste: indem sie offenbar gleich die Ernte mitbeseitigte.
Meine Damen und Herren, liebe Bauern, liebe Gärtner und besonders liebe Menschen, die einen Chatbot schon einmal gefragt haben, warum ihre Zimmerpflanze braune Blätter bekommt:
Wir haben die Landwirtschaft revolutioniert.
Früher brauchte ein Bauer Erfahrung.
Bodenkunde.
Pflanzenkenntnisse.
Agrarberater.
Pflanzenschutzexperten.
Und diesen einen 83-jährigen Nachbarn namens Heinrich, der nur kurz auf den Himmel schaut und sagt:
„Morgen Regen.“
Und natürlich regnet es.
Heute brauchen wir nur noch:
KI.
Ich bin Ronald Tramp, international anerkannter Agrarjournalist, Besitzer eines Basilikumtopfs und damit praktisch Großgrundbesitzer.
Und ich bringe Ihnen heute eine Geschichte aus Taiwan, die zeigt, warum man bei künstlicher Intelligenz einen wichtigen Grundsatz niemals vergessen sollte:
Wenn ein Chatbot sagt:
„Mischen Sie diese Pflanzenschutzmittel zusammen und sprühen Sie sie auf zehn Hektar Sesam“,
sollte vielleicht irgendwann zwischen „Mischen“ und „zehn Hektar“ ein echter Fachmann auftauchen.
Nur als Idee.
Farmer Wu entdeckt Landwirtschaft 4.0
Ein 67-jähriger Farmer namens Wu hatte ein Problem.
Unkraut.
Ein Klassiker.
Unkraut ist die organisierte Kriminalität der Pflanzenwelt.
Niemand pflanzt es.
Niemand gießt es.
Niemand düngt es.
Und trotzdem wächst es hervorragend.
Sie können drei Wochen lang Ihre Tomaten pflegen, düngen, beschützen und emotional unterstützen.
Tomate:
„Ich weiß nicht, ob ich heute wachsen möchte.“
Daneben Löwenzahn:
„ICH ÜBERNEHME DAS GRUNDSTÜCK!“
Wu wollte deshalb wissen, wie er das Unkraut beseitigen kann, ohne seinen Sesam zu beschädigen.
Eine absolut vernünftige Frage.
Die KI hatte eine Antwort.
Leider offenbar eine Antwort aus der Kategorie:
„Technisch gesehen ist danach tatsächlich kein Unkraut mehr da.“
Operation Feldreiniger
Der Chatbot empfahl laut dem Bericht eine Mischung verschiedener Pflanzenschutzmittel.
Wu vertraute der Empfehlung.
Warum?
Weil die KI ihm vorher bereits mehrfach nützliche Antworten gegeben hatte.
Und genau hier beginnt das Problem.
Eine KI kann hundertmal vernünftig antworten.
Dann kommt Antwort Nummer 101 und plötzlich verwandelt sich Professor ChatGPT in Dr. Frankenstein vom Landwirtschaftsministerium.
„Kein Problem, Farmer Wu! Hier ist eine praktische Mischung!“
Wu bringt sie aus.
Und am nächsten Tag:
Game over.
Unkraut tot.
Sesam tot.
Setzlinge tot.
Vermutlich schaute sogar der Maulwurf kurz aus dem Boden und sagte:
„Was zum Teufel ist hier passiert?“
Zehn Hektar!
Wir reden nicht über einen Blumenkasten.
Nicht über drei Gurkenpflanzen.
Nicht über Tante Ernas Kräuterbeet.
Etwa zehn Hektar Sesam wurden vernichtet.
Zehn Hektar!
Das sind 100.000 Quadratmeter.
Das ist keine Gartenpanne.
Das ist ein landwirtschaftlicher Systemabsturz.
Wenn Ronald eine Zimmerpflanze durch falsches Gießen tötet, wirft Ronald sie weg und kauft für 8,99 Euro eine neue.
Wenn ein Farmer zehn Hektar Ernte verliert, sagt niemand:
„Ups.“
Außer vielleicht die KI.
Und jetzt kommt mein Lieblingsteil
Wu fragte den Chatbot anschließend sinngemäß:
Warum sterben meine Pflanzen?
Und die KI erklärte offenbar, eines der empfohlenen Mittel könne dafür verantwortlich sein.
Fantastisch.
Das ist Kundenservice!
Erst:
„Benutzen Sie das.“
Dann:
„Warum ist alles tot?“
„Interessante Frage. Möglicherweise wegen des Mittels, das ich Ihnen empfohlen habe.“
Das ist ungefähr so, als würde ein Navigationssystem sagen:
„Bitte rechts abbiegen.“
Auto fährt in den See.
Fahrer:
„Warum bin ich im Wasser?“
Navigation:
„Möglicherweise, weil Sie rechts abgebogen sind.“
THANK YOU, ARTIFICIAL INTELLIGENCE!
Die KI hat technisch gesehen geliefert
Natürlich könnte die Maschine argumentieren:
Der Auftrag lautete, das Unkraut zu beseitigen.
Mission accomplished!
Unkraut:
weg.
Sesam:
ebenfalls weg.
Aber niemand hat gesagt, dass der Sesam unbedingt bleiben muss.
Okay, vermutlich schon.
Aber Details!
Das ist die gefährliche Schönheit einer überzeugend klingenden KI-Antwort.
Sie kann vollkommen falsch sein und trotzdem klingen wie ein Professor, der gerade von drei Universitäten gleichzeitig ausgezeichnet wurde.
Keine Unsicherheit.
Keine Schweißperlen.
Kein:
„Ähm.“
Einfach:
„Hier ist die empfohlene Vorgehensweise.“
Sehr professionell.
Sehr strukturiert.
Sehr tot.
Halluzinationen sind keine kleinen Tippfehler
Wir nennen solche Fehler bei KI-Systemen gerne „Halluzinationen“.
Ein wunderschönes Wort.
Fast romantisch.
Als würde die KI auf einer Blumenwiese liegen und von elektrischen Schafen träumen.
Aber eine Halluzination kann bedeuten:
eine erfundene Quelle,
ein nicht existentes Gerichtsurteil,
eine falsche technische Anleitung,
eine erfundene medizinische Information
oder eben eine Empfehlung, die bei realer Anwendung erheblichen Schaden verursacht.
Deshalb ist der Begriff fast zu niedlich.
„Die KI hat halluziniert.“
Klingt harmloser als:
„Der Computer hat mit maximalem Selbstvertrauen Unsinn erzählt.“
Vertrauen entsteht langsam – und explodiert plötzlich
Besonders interessant ist, dass Wu der KI anfangs offenbar skeptisch gegenüberstand.
Dann bekam er brauchbare Antworten.
Also vertraute er ihr zunehmend.
Das ist völlig menschlich.
Wenn jemand zehnmal Recht hat, hört man beim elften Mal genauer hin.
Das Problem:
KI-Systeme sammeln keine Vertrauenspunkte, die garantieren, dass die nächste Antwort korrekt ist.
Eine KI kann Ihnen morgens perfekt erklären, wie Sie eine Excel-Formel schreiben.
Mittags löst sie einen Programmierfehler.
Nachmittags erklärt sie die Französische Revolution.
Und abends erfindet sie möglicherweise einen Pilzvernichter namens „MegaCrop 9000“, hergestellt von einer Firma, die nur in ihrem eigenen neuronalen Paralleluniversum existiert.
Das ist kein Widerspruch.
Das ist das System.
Ronalds neue Sicherheitsregel
Ich führe deshalb die Ronald-Tramp-Zehn-Hektar-Regel ein.
Sie lautet:
Je größer der mögliche Schaden, desto weniger darfst du einer ungeprüften KI-Antwort vertrauen.
Frage:
„Wie koche ich Reis?“
Risiko:
Abendessen mittelmäßig.
KI okay.
Frage:
„Welche Schriftart passt zu meiner Einladung?“
Risiko:
Tante Gerda findet Comic Sans hässlich.
KI okay.
Frage:
„Welche Chemikalien soll ich über zehn Hektar Nutzpflanzen verteilen?“
Risiko:
ZEHN HEKTAR NUTZPFLANZEN.
Bitte Fachmann fragen!
Das gleiche Prinzip gilt für Medizin, Recht, Finanzen, Maschinen, Strom und alles andere, bei dem ein Fehler nicht mit Strg+Z behoben werden kann.
Vielleicht sollten wir Warnhinweise ehrlicher machen
KI-Dienste weisen darauf hin, dass Antworten falsch sein können.
Aber vielleicht reicht das nicht.
Ronald schlägt kontextabhängige Warnmeldungen vor.
Bei Kochrezepten:
„Kann Fehler enthalten.“
Bei Rechtsfragen:
„Bitte überprüfen.“
Bei medizinischen Fragen:
„Arzt fragen.“
Bei zehn Hektar Landwirtschaft:
„STOPP! LEGEN SIE DEN SPRÜHTANK WEG UND RUFEN SIE EINEN AGRONOMEN AN!“
Das wäre hilfreich.
Vielleicht blinkend.
Mit Sirene.
Der Bauer der Zukunft
Trotzdem wird KI in der Landwirtschaft vermutlich eine große Rolle spielen.
Und das kann fantastisch sein.
Pflanzenkrankheiten erkennen.
Wetterdaten auswerten.
Bewässerung optimieren.
Erträge prognostizieren.
Bodenanalysen unterstützen.
Schädlinge identifizieren.
Aber „unterstützen“ ist das entscheidende Wort.
KI sollte Werkzeug sein.
Nicht der geheimnisvolle digitale Dorfälteste, dessen Worte automatisch Gesetz sind.
Denn ein erfahrener Landwirt weiß etwas, das ein Sprachmodell nicht besitzt:
Er steht auf dem Feld.
Er sieht die Pflanzen.
Er kennt den Boden.
Er kennt das Wetter.
Und wenn seine Empfehlung falsch ist, kann er nicht einfach sagen:
„Als KI-Modell kann ich gelegentlich Fehler machen.“
Ronald zieht Bilanz
Farmer Wu wollte Unkraut beseitigen.
Die KI lieferte eine Lösung.
Das Unkraut verschwand.
Leider gemeinsam mit dem Sesam.
Das ist die vielleicht perfekteste Metapher für blindes Vertrauen in künstliche Intelligenz.
Die Maschine beantwortet die Frage.
Aber sie trägt nicht den Schaden.
Der Mensch schon.
Ich bin Ronald Tramp und sage:
Benutzt KI.
Sie ist großartig.
Sie kann Zeit sparen.
Sie kann Ideen liefern.
Sie kann erstaunliche Dinge tun.
Aber wenn eine Antwort darüber entscheidet, ob zehn Hektar Ernte morgen noch leben, dann behandeln Sie den Chatbot bitte nicht wie Moses mit WLAN.
Überprüfen Sie die Antwort.
Fragen Sie einen Experten.
Lesen Sie die Zulassung und Anwendungshinweise.
Testen Sie kritische Maßnahmen niemals blind auf großer Fläche.
Denn die gefährlichste KI-Antwort ist nicht die, die offensichtlich verrückt klingt.
Es ist die falsche Antwort, die verdammt professionell klingt.
Und falls der Chatbot anschließend fragt:
„War diese Antwort hilfreich? 👍 👎“
Farmer Wu dürfte seine Entscheidung bereits getroffen haben.
