Smarte Unwissenheit: Warum KI Antworten liefert, bevor wir die Frage verstehen

Wenn ein Sprachmodell heute in Sekundenschnelle einen Geschäftsplan oder ein Liebesgedicht auswirft, wirkt es, als ströme Bewusstsein durch Microchips. Wir applaudieren dem Ergebnis – und übersehen, dass darin nichts erklärt wird.

Genau diesen Kurzschluss hat unser Freund und Designforscher Michael Hohl bereits 2012 in seinem Essay „Knowing without Understanding“ seziert (Mit Titelleihgabe von David Weinberger). Michael, Professor für Designtheorie in Dessau mit Blick auf das Bauhaus, beschreibt dort eine Wissenskultur, die Muster feiert und Ursachen vergisst: Korrelation verdrängt Kausalität, Effizienz ersetzt Einsicht.

Ganz neu ist das Phänomen nicht. Schon die Römer bauten mit ihren legendären Beton z.B. das Pantheon Jahrhunderte, bevor sie seine Chemie verstanden. Aber: damals saß das Unverstandene am Rand des Handelns. Heute thront es im Zentrum: Algorithmen urteilen über Kreditwürdigkeit, Diagnosen, Verkehrsfluss und den Tod im Krieg. Sie liefern rasch und präzise, bleiben jedoch Gefangene jener Parameter, die Menschen gesetzt haben. Wo sie nicht rechnen können, fällt kein Licht.

Es geht um eine  „schlaue Unwissenheit“, in der Technik von der Prothese des Denkens zum Ersatz des Fragens wird. Je müheloser Systeme liefern, desto leiser wird das Warum – obwohl Verantwortung genau dort geboren wird. Das mag bei Versicherungsfällen verschmerzbar sein, aber Demokratie lebt vom Austausch verständlicher Gründe; schrumpft dieses Vokabular, gerät das Gemeinwesen ins Flüstern.

Das Gegenmittel ist keine Nostalgie, sondern eine Praxis des Begreifens. Wir brauchen Räume, in denen Irrtum als Einladung gilt, weil er zur Erklärung führt; Curricula, die Statistik als Werkzeug und Geschichte als Gewissen vermitteln; Unternehmenskulturen, die einer langsamen Frage denselben Wert zumessen wie einer schnellen Prognose. Technik darf Zeit schenken, doch sie kann uns nicht vom Denken beurlauben. Wenn heutige Systeme das Ergebnis glatter rechnen, als wir es denken können, geraten wir in eine Ästhetik des Rätsellosen: schön, schnell, schweigsam.

Deshalb lohnt genau auf die nächste Prognose zu schauen, die uns der Maschinenpark hinwirft. Wer dann einen Augenblick zögert und nach der Ursache fragt, handelt nicht langsam, sondern souverän. Vielleicht ist das der wahre Luxus der Gegenwart: sich Zeit zu nehmen, obwohl alles schon entschieden scheint.

Hohl, Michael. (2012). Knowing without understanding: A reflection upon different ways of knowing, solving problems and computational approaches.