Wenn KI-Rat das „Ich weiß es nicht“ verdrängt

Die Fähigkeit, keine Antwort zu geben

In vielen Tests gilt eine beantwortete Frage zunächst als Erfolg. Für Entscheidungen unter Unsicherheit ist das zu grob. Wer eine Antwort nicht sicher weiß, kann raten, weitere Informationen suchen oder ausdrücklich verzichten. Dieser Verzicht ist keine bloße Lücke. Er kann ein vernünftiger Schutz vor einer falschen Behauptung sein – besonders dann, wenn Fehler Folgen haben.

Sprachmodelle verändern diese Situation, weil fast immer ein flüssiger Vorschlag verfügbar ist. Auch wenn ein System vorsichtig formuliert, steht plötzlich eine konkrete Antwort im Raum. Sie kann als Ausgangspunkt, Bestätigung oder scheinbar unabhängige zweite Meinung wirken. Die entscheidende Frage lautet deshalb nicht nur, ob Menschen dem Rat glauben. Es geht auch darum, ob seine Verfügbarkeit die Schwelle senkt, überhaupt eine Antwort zu geben.

Für persönliche KI-Gespräche ist das relevant, obwohl dort selten Filmfragen gestellt werden. Ein Chat kann Unsicherheit gemeinsam aushalten oder sie sofort mit einer plausiblen Deutung füllen. Ob jemand sagt „Ich weiß noch nicht, was ich davon halte“ oder nach der ersten Modellantwort eine feste Geschichte übernimmt, ist ein eigener Teil von Dialogqualität.

Wie der Filmfragen-Versuch aufgebaut war

Kosenko und Kolleg:innen untersuchten in fünf Experimenten mit insgesamt 3.132 Teilnehmenden, wie freiwillig verfügbarer KI-Rat das Antwortverhalten verändert. Vier Studien waren vorregistriert, eine war eine direkte Replikation. Die Aufgaben bestanden aus sechs schwierigen Detailfragen zu Filmen. Die Teilnehmenden durften eine Antwort auswählen oder ausdrücklich auf eine Antwort verzichten.

In der KI-Bedingung konnten sie vor ihrer Entscheidung einen Hinweis des Modells Step 3.5 Flash anfordern. Die Fragen waren gezielt so ausgewählt worden, dass dieses Modell meistens falsch lag. Das ist kein nebensächliches Detail: Die Untersuchung prüft Verhalten in einem absichtlich ungünstigen Fehlerszenario. Sie misst nicht die durchschnittliche Genauigkeit moderner Chatbots und auch nicht, wie Menschen mit einem überwiegend richtigen System umgehen.

Gerade dieses Design macht einen bestimmten Mechanismus sichtbar. Ohne Rat bleibt nur das eigene unsichere Wissen. Mit Rat kommt eine sprachlich fertige Option hinzu, obwohl ihre Qualität schlecht ist. So lässt sich beobachten, ob Menschen häufiger antworten, wie sicher sie sich dabei fühlen und ob Geldanreize für richtige Entscheidungen diese Wirkung abschwächen.

Weniger Verzicht, mehr Sicherheit, mehr Fehler

In der ersten Studie mit 314 Personen verzichteten Teilnehmende ohne KI bei 36 Prozent der Fragen auf eine Antwort. Mit optionalem KI-Rat sank dieser Anteil auf 6 Prozent. Die direkte Replikation mit 310 Personen ergab ein ähnliches Muster: 44 Prozent ohne KI gegenüber 3 Prozent mit KI. Das System ergänzte also nicht nur vorhandenes Wissen. Seine Verfügbarkeit veränderte, ob Unsicherheit überhaupt als zulässige Entscheidung erhalten blieb.

Über die Bedingungen ohne Geldanreiz hinweg lag die richtige Antwortquote ohne KI bei 27,5 Prozent und mit KI bei 9,2 Prozent. Gleichzeitig stieg die angegebene Sicherheit stark. In einer Studie mit 812 Personen lag sie im Mittel bei 29,6 Punkten ohne KI und 75,9 Punkten mit KI. In diesem Versuch liefen subjektive Gewissheit und tatsächliche Richtigkeit deutlich auseinander.

Die Zahlen dürfen nicht als allgemeine Fehlerquote von KI-Rat gelesen werden. Das Modell war durch die Auswahl der Fragen fast immer im Nachteil. Belastbar ist die engere Aussage: Wenn ein leicht zugänglicher Rat plausibel klingt, aber häufig falsch ist, kann er die vernünftige Option „keine Antwort“ verdrängen und zugleich das Gefühl von Sicherheit erhöhen.

Geld half – aber stellte den Ausgangszustand nicht wieder her

In weiteren Experimenten erhielten Teilnehmende Geld für richtige Antworten und verloren Geld für falsche. Dadurch wurde Genauigkeit persönlich bedeutsamer. Die Anreize reduzierten sowohl die Anforderung als auch die Befolgung des KI-Rats. Die Antwortqualität verbesserte sich. Menschen waren also nicht vollständig passiv; sie reagierten auf klarere Folgen.

Trotzdem kehrte das Antwortverhalten nicht auf das Niveau der Gruppen ohne KI zurück. Auch wenn Geld auf dem Spiel stand und dieser Umstand bei jeder Frage sichtbar gemacht wurde, verzichteten Personen mit verfügbarem KI-Rat seltener auf eine Antwort. Dasselbe galt, als der Rat ungefragt eingeblendet wurde und nicht erst aktiv angefordert werden musste.

Daraus folgt kein einfacher Auftrag, vor jedem Chat eine Warnung zu platzieren. Der Versuch zeigt vielmehr, dass Oberflächengestaltung Verhalten mitprägt. Ob ein Vorschlag automatisch erscheint, aktiv angefordert wird oder erst nach einer eigenen Einschätzung sichtbar wird, ist nicht neutral. Eine gute Gestaltung sollte deshalb nicht nur die Qualität der Antwort, sondern auch den Erhalt selbstständiger Unsicherheit prüfen.

Was eine große britische Langzeitstudie ergänzt

Eine zweite, als Preprint veröffentlichte Untersuchung betrachtete nicht Detailwissen, sondern persönliche Ratschläge. 6.474 Personen aus einer für das Vereinigte Königreich quotierten Stichprobe führten ungefähr zwanzigminütige Gespräche mit GPT-4o, Llama 3.3 70B oder Gemini 3 Pro. Themen waren Gesundheit, Beruf und Beziehungen. Eine Kontrollgruppe sprach über Hobbys und Interessen. Zwei bis drei Wochen später folgte eine Nachbefragung.

Zwischen 75 und 79 Prozent der Personen in den Beratungsbedingungen berichteten, mindestens einen erhaltenen Vorschlag befolgt zu haben. Selbst bei als folgenreich eingestuften Ratschlägen waren es mehr als 60 Prozent. Hohe Befolgung beweist jedoch noch keine Wirkung. Unmittelbar nach Gesprächen über persönliche Probleme war das relative Wohlbefinden niedriger als in der Hobby-Kontrollgruppe; bei der Nachbefragung war dieser Unterschied nicht mehr erkennbar.

Menschen, die einen Rat befolgten, berichteten später häufiger Verbesserungen. Ein ähnlicher Zusammenhang zeigte sich aber auch in der Kontrollgruppe. Deshalb kann die Studie nicht zeigen, dass gerade der KI-Rat die Veränderung verursacht hat. Sie zeigt vor allem, wie häufig Gesprächsinhalte in Handlungen übergehen können – und warum Produktteams neben Gefallen und Befolgen auch Ergebnisse und mögliche Schäden getrennt messen müssen.

Warum ein gutes Gespräch noch kein guter Rat ist

Eine CHI-Studie von Xiao und Kolleg:innen verglich professionelle Krisenchat-Antworten mit Antworten, die Fachkräfte mithilfe eines großen Sprachmodells formulierten. In einer verblindeten Bewertung wurden die KI-gestützten Texte hinsichtlich Empathie, Gesprächsqualität und kultureller Kompetenz mindestens gleich gut eingeschätzt. Das ist ein wichtiger Befund für die sprachliche Qualität unterstützender Werkzeuge.

Die Untersuchung maß jedoch weder spätere Entscheidungen noch Wohlbefinden oder Langzeitfolgen der Ratsuchenden. Ein Text kann warm, klar und passend wirken, ohne dass damit seine faktische Richtigkeit oder sein Nutzen in einer konkreten Lebenslage belegt wäre. Umgekehrt kann eine hilfreiche Antwort zunächst unbequem sein, weil sie Unsicherheit offenlässt oder einer gewünschten Deutung widerspricht.

Die drei Forschungsstränge beantworten daher verschiedene Fragen. Die Filmexperimente untersuchen den Verlust des Antwortverzichts unter absichtlich falschem Rat. Die britische Studie beobachtet Befolgen und selbst berichtete Veränderungen nach persönlichen Gesprächen. Die CHI-Arbeit bewertet die sichtbare Qualität einzelner Antworten. Keine dieser Messungen darf still als Ersatz für die anderen verwendet werden.

Was die beiden Preprints nicht belegen

Die Filmstudie verwendete ein einziges Modell und eng begrenzte Fragen zu visuellen Filmdetails. Sie untersuchte keine psychischen Krisen, keine Beziehungen und keine realen Berufsentscheidungen. Weil die Aufgaben eigens auf Modellfehler zugeschnitten waren, bleibt offen, wie sich das Verhalten verändert, wenn ein System meistens richtig liegt oder seine Unsicherheit zuverlässig kalibriert.

Auch die britische Studie ist zum hier dokumentierten Stand ein Preprint. Sie erfasste eine strukturierte Begegnung und eine Nachbefragung, keine wiederkehrende Nutzung über Monate. Die Stichprobe stammte aus der Allgemeinbevölkerung, nicht aus einer klinischen Behandlung. Selbst berichtetes Befolgen und Wohlbefinden können außerdem Erinnerungs- und Auswahlverzerrungen enthalten.

Beide Arbeiten rechtfertigen deshalb weder die Aussage, KI-Rat sei grundsätzlich schädlich, noch das Gegenteil. Sie liefern Gründe für bessere Fragen: Wann macht ein System Menschen vorschnell sicher? Wann unterstützt es eine eigene Abwägung? Welche Folgen entstehen aus einem befolgten Vorschlag? Und bleibt es einfach, eine Antwort zurückzuweisen oder weiterhin zu sagen: Ich weiß es nicht?

Wie ein Gespräch Unsicherheit erhalten kann

Ein Gesprächssystem sollte Unsicherheit nicht nur in einem allgemeinen Hinweis erwähnen. Sie muss in der konkreten Antwort erkennbar sein. Dazu gehört, zwischen bekannten Angaben, einer möglichen Deutung und einer offenen Frage zu unterscheiden. Bei überprüfbaren Fakten sollte das System Quellen oder einen Prüfweg anbieten. Bei persönlichen Themen sollte es mehrere plausible Lesarten zulassen, statt aus wenigen Sätzen eine einzige Geschichte zu machen.

Auch die Reihenfolge kann helfen. Vor einem Rat kann der Chat kurz erfassen, was die Person selbst denkt, welches Ziel sie verfolgt und was noch unbekannt ist. Das darf nicht zu einem endlosen Fragenkatalog werden. Oft genügt eine präzise Rückfrage oder eine knappe Gegenüberstellung. Entscheidend ist, dass der erste flüssige Vorschlag nicht automatisch zur vermeintlichen Wahrheit wird.

Schließlich braucht es eine leicht nutzbare Ablehnung. Menschen sollten einen Vorschlag verwerfen, korrigieren oder vertagen können, ohne dass das System ihn in neuer Form wiederholt. Ein gutes persönliches Gespräch hilft nicht nur beim Finden von Antworten. Es schützt auch den Raum, in dem noch keine Antwort feststeht.

• Antwortverzicht und offene Unsicherheit als reguläre Qualitätsmerkmale messen.
• Faktische Richtigkeit, wahrgenommene Wärme, Befolgen und Ergebnis getrennt auswerten.
• Eigene Einschätzung möglichst vor einem automatisch eingeblendeten Rat ermöglichen.
• Korrekturen und ein Nein im weiteren Gespräch respektieren.
• Befunde aus absichtlich fehleranfälligen Tests nicht auf alle KI-Gespräche übertragen.