Der Beitrag Die größten Denkfehler bei ChatGPT: Warum fast alle KI falsch nutzen erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

ChatGPT antwortet teilweise so überzeugend, dass viele Nutzer es unbewusst wie einen menschlichen Experten behandeln – mit Meinung, Haltung und Weltwissen. Genau das führt zu Denkfehlern, die die Qualität der Ergebnisse massiv verschlechtern.
Du hast das sicherlich schon selbst erlebt: Du fragst ein LLM (Large Language Model) wie ChatGPT etwas und bekommst eine überzeugend formulierte Antwort. Dann fragst du nach dem Gegenteil und wieder ist die Antwort überzeugend. Sind LLMs also widersprüchlich, unzuverlässig und beliebig? Gibt es ein anderes Problem, das nicht in dem LLM liegt?
LLMs erscheinen wie jemand, der eine Meinung hat, vielleicht sogar eine Überzeugung. Ein LLM ist aber kein menschlicher Kollege oder Experte, insbesondere nicht mit Charakter. Es ist ein System, das Antworten erzeugt und menschliche Kommunikation imitiert.
Deshalb jedoch schreiben wir diesen nicht-menschlichen Systemen menschliche Eigenschaften zu. In der Folge führt das dazu, dass wir bei der Nutzung von LLMs Denkfehler begehen, die sich gravierend auf die Ergebnisse auswirken.
KI ist kein Mensch, also hör auf sie so zu behandeln
Es ist naheliegend, ChatGPT und andere LLMs wie ein menschliches Gegenüber zu behandeln, denn so sind sie konstruiert: Die Kommunikation ist dialogisch und die Antworten wirken ruhig, höflich, strukturiert und klingen extrem selbstbewusst, als ob es keinen Zweifel an den gemachten Antworten gibt. LLMs klingen nicht wie Maschinen, sondern wie „jemand, der Bescheid weiß“. Aber genau dies führt zu fehlerhaften Schlussfolgerungen.
Wenn ein Mensch überzeugend spricht, unterstellen wir ihm meist eine gewisse innere Haltung. Bei einem Sprachmodell führt das zu einer fehlerhaften Nutzung. Denn es hat keine Überzeugungen, die es verteidigt. Es hat auch kein Weltbild, an dem es hängt.
Der erste Denkfehler, den es bei LLMs zu vermeiden gilt, ist deshalb erstaunlich simpel: Hör auf, in der Antwort eines LLM eine Meinung zu suchen. Frag stattdessen, welche Perspektive das Sprachmodell dir gerade erzeugt.
KI hat keine Meinung – und das ist auch gut so
Viele Nutzer machen in der Folge aus KI unbewusst so etwas wie ein digitales Gegenüber mit Charakter. Sie äußern dann Sätze wie: „Die KI findet das gut“, „Die KI hat ihre Meinung geändert“ oder „Die KI versteht doch, was ich meine“.
Das klingt harmlos. Ist es aber nicht. Denn diese Art zu sprechen verschiebt die Erwartung. Plötzlich soll KI so funktionieren wie ein Mensch. Aber dafür ist ein Sprachmodell nicht gebaut. Ein LLM erzeugt lediglich wahrscheinliche und Kontextpassende Antworten.
Das ist großartig, um menschliche Schwächen zu umgehen, denn weil LLMs keine eigenen Überzeugungen verteidigen, können sie etwas, das Menschen oft schlecht können: schnell die Perspektive wechseln.
Es kann also für deine Idee argumentieren, gegen deine Idee argumentieren, sie aus Kundensicht prüfen, aus Sicht eines Skeptikers zerlegen oder in eine nüchterne Risikoanalyse verwandeln. Ein LLM entwickelt aber (noch) keinen Charakter, wie es ein Mensch kann.
Wahrheit entsteht nicht durch gute Sprache
Der zweite große Denkfehler ist noch tückischer: Wir verwechseln Sprachqualität mit Kompetenz. Menschen reagieren stark auf sprachliche Sicherheit. Wer klar formuliert und strukturiert argumentiert, klingt glaubwürdig und wirkt dadurch kompetent. Und Glaubwürdigkeit und Kompetenz führt zu Vertrauen, was nur allzu menschlich ist. Bei der Nutzung von LLMs ist das jedoch gefährlich.
Denn LLMs sind gerade darin stark, plausibel klingende Formulierungen zu erzeugen. Sie können insbesondere Unsicherheiten in Sätze verpacken, die wie Gewissheiten klingen und Fehler so formulieren, dass man sie erst bemerkt, wenn man genau hinsieht. Genau deshalb sind Halluzinationen und faktisch falsche, aber sprachlich überzeugende Antworten von LLMs ein zentrales Risiko generativer KI.
Das Problem liegt nun in der Weise, wie du die Antworten von LLMs nutzt. Für Tatsachenbehauptungen, juristische Aussagen, Zahlen, Quellen oder belastbare Einordnungen reicht allein gute Sprache nicht aus. Dort sind Prüfungen erforderlich.
Denn Menschen glauben einer Antwort zu früh, weil sie sprachlich schon „fertig“ aussieht. Wenn du aber die Antworten von LLMs als Entwürfe für Ideen, für Varianten, für Formulierungsvorschläge oder neue Perspektiven betrachtest, sind sie wertvoll.
So holst du mehr aus einen Prompts
Ein weiterer Denkfehler liegt dann darin, dass Nutzer die erste Antwort eines LLM wie eine Art „endgültiges Ergebnis“ behandeln. Sie stellen eine Frage, lesen die Antwort und urteilen sofort: gut, schlecht, brauchbar, unbrauchbar. Damit ordnen sie jedoch fehlerhaft ein, wie LLMs in der Praxis am besten funktionieren: Der erste Output ist regelmäßig nicht das endgültige Ergebnis, sondern nur das erste Rohmaterial.
Es wirkt nämlich ein menschlicher Mechanismus, der Ankereffekt. Was wir zuerst sehen und im Falle von LLMs als Antwort bekommen, prägt unser Urteil übermäßig stark. Wenn die erste Antwort mittelmäßig ist, halten viele das Sprachmodell für schlecht. Wenn sie glänzend ist, überschätzen sie es. Beides ist falsch. LLMs reagieren auf Formulierung, Kontext und Prompt-Struktur. Schon kleinere Änderungen können deshalb Ausgaben deutlich verändern.
Deshalb zeigen sich gute Ergebnisse von LLMs selten im ersten Prompt. Sie zeigt sich vielmehr erst in den Schleifen danach. Wer deshalb gut mit LLMs arbeiten möchte, muss nachfragen und verschiedene Perspektiven abfragen.
Du musst deshalb umformulieren lassen, verdichten, zuspitzen, angreifen, vereinfachen, neu sortieren. Die Antwort von LLMs darfst du nicht wie ein Urteil, sondern wie einen Werkstoff behandeln.
KI besser als Mensch? Was LLMs gut können
Menschen mögen Bestätigung. Wir suchen Informationen, die zu unseren Annahmen passen, und wir verteidigen Ideen, in die wir schon, und sei es nur gedanklich, „investiert“ haben. Dies wird als „Confirmation Bias“ bezeichnet.
Im Umgang mit KI wird daraus aber ein Problem. Denn wenn du tendenziös fragst, liefert dir ein Sprachmodell oft brauchbare Antworten in genau dies Richtung der Frage. Nicht, weil es die Wahrheit gefunden hat, sondern weil es auf den von dir gesetzten Rahmen reagiert.
Daraus ergibt sich aber im Umkehrschluss ein oft unterschätzter Nutzen: Du kannst dir von einem LLM Gegenargumente liefern lassen, ohne dass jemand beleidigt ist, ein Ego verletzt wird oder eine Situation eskaliert.
Viele Nutzer erkennen nicht, dass LLMs regelmäßig nur bestätigen, was sie ohnehin schon dachten. Klüger jedoch wäre das Gegenteil: LLMs dazu zu benutzen, die eigene Komfortzone und die eigene Gedankenwelt anzugreifen.
Nicht die Qualität von LLMs, sondern die der Frage entscheidet
Ein damit verbundener Denkfehler ist dann schließlich, dass die Qualität der Antwort in den Eigenschaften, im Algorithmus und den Trainingsdaten eines LLMs liegen wird. Ein erstaunlich großer Teil des Ergebnisses hängt jedoch daran, wie du fragst.
LLMs reagieren auf Framing, Rollenbeschreibung, Zielsetzung, Beispiele, Kontext und Formulierungsnuancen. Sprache ist bei LLMs Steuerung. Wenn du unklar fragst, bekommst nicht einfach eine etwas schlechtere Antwort, sondern vielmehr eine Antwort auf eine unsauber gestellte Frage.
Das bedeutet aber: Bessere KI-Nutzung beginnt oft nicht mit „besserer“ KI, sprich mit besseren Modellen, sondern mit klarerem Denken in Form von klareren Fragestellungen und Aufgaben. Sobald du Zielgruppe, Zweck, Ton, Tiefe, Ausschlüsse und Erfolgskriterien für die Antwort klarer formulierst, verändert sich die Qualität der Antwort oft spürbar.
Das Sprechen mit LLMs, das sogenannte „Prompting“, ist deshalb nicht nur eine zu vernachlässigende Banalität. Gute Prompts erstellst du dann, wenn dir klar ist, was du eigentlich willst.
Sprachmodelle laden zu Missverständnissen ein
Natürlich sollte man nun noch erwähnen, dass die Art, wie LLMs entwickelt sind, nicht ganz unschuldig an unseren Denkfehlern sind. LLMs klingen freundlich, kohärent und selbstsicher.
Sie wirken oft so, als verstehen sie, was man von ihnen will. Genau dadurch entsteht fast automatisch der Eindruck, man habe es mit einem klar denkenden „digitalen Menschen“ zu tun.
Das Problem liegt also nicht nur beim Nutzer. Es liegt auch an der Art, wie LLMs erstellt werden und so Menschlichkeit simulieren.
Inzwischen wird dieses Phänomen unter dem Begriff „Anthropomorphisierung von LLMs“ diskutiert. Gerade deshalb jedoch braucht der Umgang mit LLMs ein klares Verständnis dafür, was sie können und was nicht.
Bessere Ergebnisse beginnen mit besseren Fragen
Am Ende läuft alles auf eine unbequeme, aber in meinen Augen wichtige Einsicht hinaus: Wenn du mit LLMs besser arbeiten willst, musst du deinen Umgang mit ihnen besser verstehen und anpassen.
Du musst aufhören, in flüssiger Sprache automatisch Wahrheit zu sehen, die erste Antwort für das schlussendliche Ergebnis zu halten und Bestätigung deiner Ansichten durch LLMs mit guten Gedanken zu verwechseln. Und vor allem musst du aufhören, ein Sprachmodell wie einen Menschen mit Haltung und Überzeugung zu betrachten.
Ein LLM ist im besten Fall ein Gedankenverstärker, ein Beschleuniger bei der Erstellung von Antworten, ein Perspektivengenerator und ein Widerspruchswerkzeug. Ein LLM ist kein digitaler Kollege mit Weisheit und Weltbild. Deshalb musst du aufhören, ein LLM an menschlichen Maßstäben zu messen. Wenn du das verstehst, bist du gegen Denkfehler besser gewappnet.
Auch interessant:
Der Beitrag Die größten Denkfehler bei ChatGPT: Warum fast alle KI falsch nutzen erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.