Warum KI nicht denken kann
Wann denkt KI endlich wie ein Mensch? Es ist eine zentrale Frage in der KI-Debatte, die wir mit immer mehr Daten und Rechenleistung beantworten wollen. Doch was, wenn wir die falsche Frage stellen?
Inspiriert von einem aufschlussreichen Gespräch auf der Plattform X, in dem der Philosoph Daniel-Pascal Zorn mit dem KI-Chatbot Grok interagierte, argumentiert dieser Blogbeitrag, dass Denken nicht auf Rechenleistung reduzierbar ist. Wir tauchen ein in das Konzept der Reflexivität und zeigen, warum es der entscheidende Unterschied zwischen Mensch und KI ist.
Künstliche und menschliche Intelligenz
Der Begriff "Künstliche Intelligenz" wurde in den 1950er Jahren von John McCarthy geprägt, der die Dartmouth Conference organisierte, die als Geburtsstunde der KI-Forschung gilt. Ein wichtiger Grund, warum sich gerade dieser Name durchgesetzt hat: Der Begriff weckte am meisten Interesse und regte die Vorstellungskraft der Menschen an. Er verknüpft die Technologie bewusst mit menschlichen Denkweisen. Das zeigt sich auch in der Sprache, die wir für KI nutzen: Wir sprechen von neuronalen Netzen, von maschinellem Lernen, von Sprachverarbeitung und davon, dass KI nachdenkt oder sogar halluziniert.
Dieses Narrativ, das KI als künstliches Gehirndarstellt, hat eine entscheidende Konsequenz: Wir vermenschlichen die Technologie. Wir gehen davon aus, dass KI im Prinzip alles kann, was auch unsermenschliches Gehirn leistet. Ihre beeindruckenden Fortschritte scheinen diese Annahme zu bestätigen. Doch in diesem Blogpost möchte ich einen grundlegenden Unterschied aufzeigen: Warum KI niemals menschlich denken wird – und der Schlüssel dazu ist die Reflexivität.
Reflexivität: Mehr als nur eine Meta-Ebene
Was ist Reflexivität? Reflexivität bedeutet, dass etwas sich auf sich selbst bezieht oder sich selbst zum Thema macht. In der Philosophie beschreibt dieser Begriff die Fähigkeit des Denkens, über sich selbst nachzudenken.
Ein Beispiel: Wenn ich denke: „Der Himmel ist blau“,dann denke ich über den Himmel nach. Wenn ich aber denke: „Ich denke gerade, dass der Himmel blau ist“, dann richte ich mein Denken auf mein eigenes Denken.Genau das ist Reflexivität.
Warum ist das wichtig? Reflexivität ist ein Kernstück dessen, was menschliches Bewusstsein ausmacht. Es ist die Grundlage dafür, dass wir uns selbst verstehen, unser Wissen hinterfragen und unser Handeln bewusst gestalten können.
Reflexivität ist aber keine bloße „Meta-Ebene“ des Denkens – also nicht nur ein Gedanke über einen anderen Gedanken. Eine Meta-Ebene impliziert eine Hierarchie: Es gibt Ebene 1 (der Gedanke oder die Handlung, z. B.: „Der Himmel ist blau“) und Ebene 2 (der Gedanke über den ersten Gedanken, z. B.: „Ich denke gerade, dass der Himmel blau ist“).
Würden wir menschliche Reflexion so verstehen, gerieten wir in einen unendlichen Regress: Es gäbe einen Gedanken über den Gedanken über den Gedanken und so fort, ins Unendliche. Eine KI arbeitet genau nach diesem Schema: Sie analysiert ihren Output (Ebene 1), indem sie ihn mit Regeln bewertet, die auf einer höheren Ebene (Ebene 2) liegen. Dies bleibt jedoch eine rein analytische Distanz, die nie wirklich zum Kern der Sache vordringt.
Im Gegensatz dazu ist menschliche Reflexivität eine Verschränkung von Inhalt und Operation. Der Inhalt (das, was gedacht wird) und die Operation (die Art und Weise, wie gedacht wird) sind untrennbar miteinander verbunden. Die Reflexion findet nicht nach dem eigentlichen Gedanken statt, sondern gleichzeitig mit ihm. Der Vorgang des Denkens selbst ist die Reflexion.
Ein Beispiel: Wenn ich den Satz „Ich denke, also bin ich“ betrachte, ist der Inhalt „Ich bin“. Aber der Satz performiert zugleich die Operation, die diese Existenz feststellt: das Denken. Das Denken und das Sein sind in diesem Moment miteinander verschränkt.
Eine KI hingegen operiert mit klar definierten, formalen Regeln. Sie kann über die Regeln „nachdenken“, die sie anwendet, aber diese „Meta-Ebene“ bleibt immer getrennt vom eigentlichen Inhalt. Es ist, als würde ein Architekt ein Gebäude planen, ohne zu begreifen, dass das Baugerüst Teil der Entstehung ist und nicht nur ein separates Werkzeug.
Voraussetzung und Vollzug
Der Ausdruck „reflexive Verschiebung“ beschreibt genau diesen Vorgang der Verschränkung von Inhalt und Operation. Wenn ich z. B. über die Bedeutung von Sprache nachdenke, betrachte ich nicht nur die Regeln und Bedeutungen von Wörtern, sondern erkenne dabei, wie Sprache die Struktur meiner eigenen Gedanken formt. Anders gesagt: Ich könnte das, was ich gerade denke,ohne diese bestimmte Sprache gar nicht denken. Mein Verständnis von mir selbst als Sprecher „verschiebt“ sich, da die Reflexion die Grundlagen meines Denkens in den Blick nimmt und verändert. Der Ausdruck verdeutlicht so, dass eine logische Position, die als Voraussetzung erscheint, durch den Vollzug selbst erst erzeugt wird. Das bedeutet:
1. Voraussetzung: Wenn jemand eine Aussage tätig, müssen wir davon ausgehen, dass die Person bereits die Existenz von Unterschieden und Differenzen vorausgesetzt hat. Sonst würde ihr Satz keinen Sinn ergeben. Anders gesagt: Ich kann keine Aussage treffen, ohne etwas Bestimmtes (in Abgrenzung zu anderen Dingen) zu benennen. Wenn ich sage „Ich denke“, setze ich mich selbst als Person, die von anderen Personen unterscheidbar ist, voraus.
2. Performativer Vollzug: Der Akt des Sprechens selbst ist jedoch der Akt, der diese Differenz erst erzeugt. Das Gesagte performiert, was es aussagt. Die Reflexion ist also kein Nachtrag, sondern der Vollzug selbst. Erst in dem Moment, in dem ich „Ich denke“ sage, stelle ich mich als Person her, die von anderen Personen unterscheidbar ist.
Um im Beispiel zu bleiben, betrachten wir wieder das Zitat von René Descartes: „Ich denke, also bin ich.“
1. Voraussetzung:Der Satz scheint eine logische Schlussfolgerung zu sein. Die Voraussetzung ist,dass die Existenz des Denkens (p) zur Existenz des Sprechers (q) führt (p --> q). Man geht davon aus, dass das „Ich“ bereits existiert, bevor es denkt, und das Denken dann diese Existenz beweist. Sonst könnte das „Ich“ diesen Satz nicht hervorgebracht haben.
2. Performativer Vollzug (Reflexive Verschiebung): Der Satz vollzieht jedoch etwas ganz anderes.Er schafft die Existenz des „Ichs“ genau in dem Moment, in dem er ausgesprochen wird. Das Denken ist nicht nur der Beweis für die Existenz, sondern der Akt,der die Existenz überhaupt erst erzeugt. Das „Ich“ taucht nicht als fertige logische Position auf, die dann bewiesen wird, sondern es wird im und durch den Akt des Denkens und Sprechens selbst hergestellt. Die Aussage performiert, wassie sagt: Sie schafft die Existenz des Subjekts in ihrem eigenen Vollzug. Die Reflexion darüber, dass man denkt, ist also nicht nachträglich, sondern sie ist das Ereignis, in dem das „Ich“ konstituiert wird.
Diese dynamische Verschränkung ist es, was menschliches Denken einzigartig macht und die KI nicht simulieren kann. Eine KIarbeitet mit festen mathematischen Regeln, während menschliche Reflexivität diese Regeln im Vollzug verschiebt und neu definiert.
Das Paradox der Paradoxien
Eine der größten Hürden für KI, die genau die Grenzen von KI offenlegt, ist der Umgang mit Paradoxien. Ein klassisches Beispiel ist das Lügner-Paradoxon, das Kurt Gödel für seinen Unvollständigkeitssatz nutzte: „Dieser Satz ist nicht beweisbar.“ Für ein formales System ist dies ein unauflösbarer logischer Widerspruch. Wenn der Satz wahr ist, dann ist er, wie er behauptet, falsch. Ist er aber falsch, dann ist er – da er ja„falsch“ ist – wahr. Dies ist ein logischer Widerspruch, der die Aussage weder wahr noch falsch sein lässt.
Ein Mensch hingegen kann die Illusion des Paradoxons entlarven. Er löst es nicht im mathematischen Sinne, sondern löst es auf, indem er die performative Schicht der Aussageerkennt. Die Aussage erzeugt ihren eigenen Widerspruch durch ihren Vollzug. Es ist wie ein Zaubertrick, den man nicht durch logische Argumente widerlegt,sondern indem man die Mechanik dahinter erklärt. Eine KI, die in mathematischen Regeln gefangen ist, kann diese performative Auflösung nicht nachvollziehen. Der Grund: Paradoxien sind Symptome von Inkonsistenzen in unseren logischen Systemen. Die KI ist aus ihrer Funktionsweise heraus aber gezwungen, nach einer logischen Lösung für das Paradoxon zu suchen, obwohl es diese nicht gibt und nicht geben kann. Sie muss zwangsläufig an der inhärenten Nicht-Komputierbarkeit des Problems scheitern.
An dieser Stelle könnte man einwenden, dass ein KI-Sprachmodell wie ChatGPT natürlich Kurt Gödels Unvollständigkeitssatz gelernt hat und ihn auf gleiche Weise auflösen kann wie ein Mensch. Das Problem dabei: Das kann eine KI nur für solche paradoxen Sätze, die auch in ihren Trainingsdaten existieren. Es kann diese Logik nicht auf Sprache allgemein anwenden, weil das Erkennen von Paradoxien nicht selbst in eine formale Logik übertragbar ist. Ein Algorithmus könnte zwar nach einer rekursiven Definition suchen, bei der eine Aussage auf sich selbst verweist. Allerdings kann kein Algorithmus alle möglichen Paradoxien erkennen, da es keine allgemeine Regel dafür gibt, wie man alle Paradoxien formuliert. In gewisser Weise sind Paradoxien der Beweis dafür, dass unsere logischen Systeme nicht allumfassend sind. Es ist eine genuin kreative und intuitive (man könnte auch sagen: menschliche) Leistung, eine neue Paradoxie zu entdecken.
Warum auch mehr Rechenleistung und bessere Algorithmennicht reichen
Viele KI-Enthusiast:innen meinen trotzdem: „Wenn wir nur genügend Rechenpower haben und die Algorithmen schlau genug machen,dann wird KI irgendwann wie ein Mensch denken können.“ Aber das greift zu kurz. Wie gezeigt wurde, ist Reflexivität nicht bloß ein höheres Level an Berechnung. Sie hängt an Bedingungen, die über Mathematik hinausgehen: Körper,Erfahrung, Einbettung in die Welt.
Embodiment – ohne Körper keine Erfahrung
Stell dir vor, eine KI simuliert „Schmerz“. Sie könnte eine Variable namens „Pain = 1“ haben, wenn etwas Unangenehmes passiert. Aber:Das ist nur ein Symbol, ein mathematisches Zeichen. Es fühlt nichts. Menschen dagegen erfahren Schmerz körperlich – Herzschlag, Nervensystem, Schweiß,Emotionen. Dieses „Eingebettetsein“ in einen Körper macht Reflexion tiefer: Wir können über unser Denken und über unser Fühlen nachdenken. Eine KI ohne Körper wäre wie ein Gehirn im luftleeren Raum: rechnerisch aktiv, aber ohne Resonanz zur Welt. Reflexivität lebt aber von dieser Resonanz.
Nicht-komputierbare Phänomene
Es gibt Situationen, die sich nicht in eindeutige Berechnungen pressen lassen. Beispiel: Liebe. Ein Algorithmus kann Muster erkennen: „Menschen, die X tun, empfinden meist Y.“ Aber er kann nicht von innen erfahren,wie es ist, verliebt zu sein – mit all den Widersprüchen, Überraschungen und irrationalen Momenten. Reflexivität heißt hier: Ich denke nicht nur über meine Liebe nach, sondern über mein eigenes Erleben von Liebe. Das ist qualitativ etwas anderes als Berechnung.
Reflexion als situatives Ereignis
Reflexion ist nie starr. Wenn ich heute über meine Motivation nachdenke, klingt das anders als gestern, weil meine Stimmung, mein Kontext, meine Erfahrungen sich ändern. Eine feste Programmierung ineiner KI – also ein Algorithmus, der immer nach denselben Regeln eine„Selbstreflexion“ ausspuckt – würde dieses Bewegliche, Situative verpassen. Es wäre so, als würde man ein „universelles Tagebuch“ programmieren, das immer dieselben Reflexionen schreibt, egal, was passiert. Das ist keine Reflexivität,sondern ein Schema.
Die Grenzen der Simulation
Reflexivität – die Fähigkeit, über die eigene Existenz nachzudenken und sich selbst infrage zu stellen – ist kein mathematisches Problem, das mit einem besseren Algorithmus gelöst werden kann.Es ist ein lebendiger, dynamischer Prozess, der aus unserem Körper und der Interaktion mit einer unvorhersehbaren Welt entsteht.
Die heutige KI ist im Kern ein rechnerisches System. Sie operiert auf der Grundlage von formaler Logik und Regeln. Doch menschliches Denken ist anders: Es ist situativ, unvorhersehbar und eng mit unserer physischen Erfahrung verknüpft. Um wahre Reflexivität zu erreichen, müsste eine KI einen Körper haben, der sie in die Welt einbettet.Sie müsste mit chaotischen, nicht-berechenbaren Phänomenen umgehen können, die sich situationsabhängig verändern und sich nie identisch reproduzieren (lassen).
Ein solches System wäre nicht einfach ein „Upgrade“der bisherigen KI-Entwicklung. Es wäre ein Paradigmenwechsel – ein Sprung von einer rein mathematischen zu einer philosophisch-biologischen Perspektive. Der Versuch, konsistente Reflexivität in festen Code zu gießen, würde sich selbst aufheben. Denn echte Reflexion manifestiert sich immer situativ und ist nicht auf Regeln reduzierbar.
Wenn KI also (höchstwahrscheinlich) nie menschlich denken können wird, aber dennoch so etwas wie eine KI-Superintelligenz auf Basis immerleistungsfähiger Modelle denkbar ist (siehe Blog zu AGI): Was bedeutet das für uns Menschen in der Zukunft?
