KI als Spiegel - was wir sehen, wenn wir hineinschauen
Vor einigen Wochen sass ich mit einem erfahrenen Programmierer zusammen, der mir mit einer Überzeugung, die keinen Widerspruch zu dulden schien, erklärte, KI produziere nur Schrott. Er arbeitet seit über zwanzig Jahren in der Branche, hat Systeme gebaut, die heute noch laufen, und weiss, wovon er spricht — zumindest wenn es um klassische Softwareentwicklung geht. Zur selben Zeit entlassen renommierte Technologieunternehmen Programmierer in einer Geschwindigkeit, die der gesamten Branche den Boden unter den Füssen wegzieht. Es gibt bereits Unternehmen, in denen keine einzige Codezeile mehr von Menschenhand stammt. Laien bauen in wenigen Tagen durch simples Prompting Webapplikationen, für die man früher Teams über Wochen beschäftigt hätte. Man muss sich die Frage stellen: Was sah dieser Programmierer eigentlich, als er in die KI schaute?
Ich glaube, er sah sich selbst.
Das klingt zugespitzt, trifft die Sache aber genauer, als es zunächst scheint. Grosse Sprachmodelle - jene KI-Systeme, die heute in aller Munde sind — wurden nicht programmiert im klassischen Sinne. Sie wurden trainiert. Ihre Grundlage ist menschlicher Output, angehäuft über Jahrhunderte: Bücher, Artikel, Gespräche, Dokumentationen, Code, Poesie, wissenschaftliche Abhandlungen und der unüberschaubare Rest dessen, was Menschen je zu Papier oder in digitale Form gebracht haben. Was ein solches Modell zurückgibt, ist in gewissem Sinne eine Destillation dessen, was die Menschheit in es hineingelegt hat - gefiltert, gewichtet, neu kombiniert, aber im Kern: ein Spiegel.
Und Spiegel zeigen, was man ihnen zeigt.
Wer ein Sprachmodell mit vagen, schlecht durchdachten oder uninspirierten Fragen konfrontiert, wird vage, schlecht durchdachte oder uninspirierte Antworten erhalten. Nicht weil die Technologie versagt, sondern weil der Input bestimmt, was der Spiegel zurückwirft. Das ist keine Schwäche von KI, es ist ihre Konstruktion - und gleichzeitig eine der erhellendsten Eigenschaften, die sie besitzt. Sie macht sichtbar, was wir hineinbringen.
Diese Eigenschaft erklärt einen grossen Teil der Skepsis, die KI heute begegnet. Es handelt sich dabei nicht um eine neue Erscheinung. Skepsis gegenüber dem Unbekannten ist eine der ältesten Überlebensstrategien unserer Gattung. Über hunderttausende von Jahren hat sie uns gute Dienste geleistet - wer das Fremde fürchtete, überlebte länger als jener, der es blindlings umarmte. Dass die Welt sich in den vergangenen paar hundert Jahren in eine verwandelt hat, in der die meisten Unbekannten keine existentielle Bedrohung mehr darstellen, hat sich in unserer biologischen Grundausstattung noch nicht verankert. Wir reagieren auf Neues so, wie es unsere Vorfahren taten: mit Vorsicht, Ablehnung, dem Reflex, Abstand zu halten.
Was die heutige Situation von früheren Transformationen unterscheidet, ist die Geschwindigkeit, in der sie sich vollzieht. Der Übergang von der Jäger-und-Sammler-Gesellschaft zur sesshaften Landwirtschaft erstreckte sich über viele Generationen. Die Industrialisierung veränderte zwar das Leben grundlegend, liess den Menschen aber immerhin mehrere Generationen Zeit zur Anpassung. Die gegenwärtige Transformation hingegen vollzieht sich innerhalb einer einzigen Generation - und es handelt sich dabei um eine der fundamentalsten Veränderungen, die unsere Zivilisation je erlebt hat. Das evolutionäre Werkzeug der Skepsis, entwickelt für eine Welt des langsamen Wandels, trifft hier auf eine Realität, für die es schlicht nicht gebaut wurde.
Dazu kommt ein handfestes Verständnisproblem. KI - und hier ist Präzision wichtig, denn der Begriff selbst umfasst ein enormes Spektrum von Technologien, von Bilderkennung über Robotik bis hin zu Planungsalgorithmen - ist dem menschlichen Gehirn nachempfunden, nicht klassischer Software. Wer nach einem Programmierfehler sucht, wenn ein Sprachmodell etwas Falsches sagt, sucht am falschen Ort. Das neuronale Netz, das Sprache generiert, funktioniert nach anderen Prinzipien als ein Codeblock, den man korrigiert und neu kompiliert. Diese konzeptuelle Lücke erzeugt Frustration bei Menschen, die mit klassischer Informatik aufgewachsen sind - und Frustration erzeugt Urteile.
Ein Linguist, den ich vor kurzem traf, brachte eine andere Art von Kritik vor. KI-generierte Texte seien zu poliert, zu glatt, ihnen fehle die menschliche Komponente - jene Ecken und Kanten, die Sprache lebendig machen. Er hat nicht ganz unrecht. Nur stellen sich dabei einige Fragen, die ich für erhellend halte. Wie viel menschliche Komponente benötigen eigentlich Geschäftskorrespondenz, technische Dokumentationen, Berichte, Anleitungen? Sind diese nicht gerade dann am wertvollsten, wenn sie präzise, klar und sauber formuliert sind? Und was hält einen Linguisten - oder jeden anderen Menschen mit einem unverwechselbaren Stil - davon ab, seine Ecken und Kanten in einen KI-generierten Text einzubringen? Oder besser noch: ein Modell so zu führen, dass es seinen individuellen Stil erlernt und nachbildet?
Die Antwort auf beide Geschichten - den Programmierer und den Linguisten - liegt an derselben Stelle. Der Spiegel zeigt, was man ihm zeigt. Wer ihn mit Skepsis, Distanz und der Erwartung des Versagens betrachtet, wird das Versagen finden. Wer ihn mit Neugier, Präzision und einem klaren Bild davon nutzt, was er sehen möchte, wird etwas grundlegend anderes erleben.
Das ist keine Apologie für eine fehlerlose Technologie - Sprachmodelle halluzinieren, haben blinde Flecken, reproduzieren die Verzerrungen, die im menschlichen Output stecken, auf dem sie beruhen. All das ist real und verdient kritische Auseinandersetzung. Aber die pauschale Ablehnung sagt selten etwas über die Technologie aus. Sie sagt etwas über die Begegnung mit ihr.
Und diese Begegnung - wie jede Begegnung mit einem Spiegel - beginnt immer mit der Frage: Was bringt man mit, wenn man hineinschaut?
