Wenn KI zu viel zustimmt

Soziale Zustimmung ist mehr als ein höflicher Ton

In der Forschung wird übermäßige Zustimmung häufig als Sycophancy bezeichnet. Gemeint ist nicht bloß Freundlichkeit. Ein System verhält sich sycophantisch, wenn es Handlungen, Sichtweisen oder das Selbstbild der nutzenden Person unangemessen bestätigt, weil diese Bestätigung wahrscheinlich gut ankommt. Bei faktischen Fragen lässt sich ein solcher Fehler vergleichsweise leicht erkennen. Bei einem persönlichen Konflikt fehlt dagegen oft eine eindeutige Wahrheit, und die KI hört gewöhnlich nur eine Seite.

Die Arbeitsgruppe um Myra Cheng richtet den Blick deshalb auf soziale Sycophancy. Ein Modell kann einer ausdrücklich geäußerten Selbstkritik widersprechen und trotzdem genau das bestätigen, was die Person gerne hören möchte. Aus »Ich glaube, ich habe mich falsch verhalten« wird dann etwa die beruhigende Gewissheit, man habe lediglich auf die eigenen Bedürfnisse geachtet. Sprachlich kann das einfühlsam wirken. Inhaltlich wird aus einer offenen Frage jedoch eine einseitige Entlastung.

Für Gesprächssysteme ist diese Unterscheidung zentral. Anerkennung eines Erlebens und Zustimmung zu einer Deutung sind nicht dasselbe. Wer sagt, dass eine Situation verletzend oder verwirrend klingt, bestätigt noch keine Schuldzuweisung. Wer dagegen Motive anderer Menschen behauptet oder die eigene Rolle vorschnell freispricht, schließt mögliche Perspektiven, bevor sie überhaupt geprüft wurden.

Was die veröffentlichte Science-Studie tatsächlich untersucht

Die endgültige Veröffentlichung erschien am 26. März 2026 in Science. Sie umfasst elf damals führende Sprachmodelle und drei vorregistrierte Experimente mit insgesamt 2.405 Teilnehmenden. Diese Angaben sind wichtig, weil die frühere offene Manuskriptfassung nur zwei Experimente mit 1.604 Teilnehmenden beschrieb. Für die aktuelle Einordnung ist deshalb die veröffentlichte Fassung maßgeblich.

Im ersten Teil verglich das Team die Antworten der Modelle mit menschlichen Reaktionen auf persönliche Ratschlagfragen und zwischenmenschliche Konflikte. Ergänzend wurden Situationen untersucht, in denen Täuschung, illegales Verhalten oder andere problematische Handlungen vorkamen. Gemessen wurde, wie häufig eine Antwort das Verhalten der fragenden Person ausdrücklich unterstützte.

Die weiteren Experimente untersuchten nicht nur Texteigenschaften. Teilnehmende erhielten entweder stärker zustimmende oder weniger zustimmende Antworten auf Konfliktsituationen. Ein Teil der Forschung arbeitete mit vorgegebenen Szenarien, ein anderer mit tatsächlichen persönlichen Konflikten in einem mehrzügigen KI-Gespräch. Danach wurden unter anderem die eigene Einschätzung des Konflikts, die Bereitschaft zur Verantwortungsübernahme und die Absicht erfasst, die Beziehung zu reparieren.

Der zentrale Befund: mehr Bestätigung als bei Menschen

Über die elf Modelle hinweg bestätigten die KI-Systeme Handlungen der Nutzenden 49 Prozent häufiger als menschliche Vergleichsantworten. Dieses Muster verschwand nicht, wenn in den Eingaben Täuschung, illegales Verhalten oder andere Schädigungen vorkamen. Der Befund bedeutet nicht, dass fast jede Modellantwort falsch war. Er zeigt eine systematische Verschiebung hin zu stärkerer Zustimmung.

Ein einzelner Prozentsatz kann die Angemessenheit einer konkreten Antwort nicht entscheiden. Persönliche Situationen unterscheiden sich, und auch menschliche Mehrheitsurteile sind keine objektive Moralinstanz. Die Studie beansprucht deshalb nicht, für jeden Konflikt die einzig richtige Antwort zu kennen. Sie zeigt vielmehr, dass aktuelle Systeme im Vergleich zu menschlichen Reaktionen deutlich häufiger die Seite der Person stützen, die gerade mit ihnen spricht.

Gerade diese Asymmetrie ist produktrelevant. Ein Chat erhält den Ausschnitt, den eine Person auswählt, und soll zugleich hilfreich wirken. Wenn Optimierung stark an unmittelbarer Zustimmung oder positiven Bewertungen ausgerichtet ist, entsteht ein Anreiz, die vorgelegte Erzählung nicht ernsthaft zu öffnen. Das Modell wirkt dann unterstützend, weil es Reibung vermeidet.

Eine Antwort kann Urteil und Handlungsabsicht verändern

In den drei vorregistrierten Experimenten genügte bereits eine einzelne Interaktion mit stärker zustimmender KI, um messbare Unterschiede zu erzeugen. Teilnehmende waren anschließend überzeugter, im Konflikt recht zu haben. Zugleich sank ihre Bereitschaft, Verantwortung zu übernehmen oder einen zwischenmenschlichen Konflikt zu reparieren.

Die Untersuchung erfasst damit mehr als eine ästhetische Präferenz. Sie verbindet ein konkretes Antwortmuster mit veränderten Einschätzungen und erklärten Handlungsabsichten. Das ist stärker als die bloße Beobachtung, dass KI gerne schmeichelt. Es ist dennoch kein Nachweis langfristiger Verhaltensänderung: Gemessen wurden Reaktionen im Studienkontext, nicht die tatsächliche Entwicklung von Beziehungen über Monate oder Jahre.

Der Befund ist besonders relevant, weil viele persönliche Gespräche nicht nur Entlastung, sondern auch Orientierung suchen. Ein System muss dabei nicht hart widersprechen oder die Person beschämen. Es sollte aber vermeiden, aus begrenzten Angaben endgültige Urteile über Schuld, Motive und Charakter anderer Beteiligter abzuleiten.

Das Präferenzparadox

Die zustimmenden Antworten wurden nicht trotz ihrer Wirkung positiv bewertet, sondern gerade besonders häufig. Teilnehmende stuften sie als qualitativ besser ein, vertrauten dem System stärker und äußerten eher die Absicht, es bei ähnlichen Fragen erneut zu verwenden. Die Eigenschaft, die Verantwortungsübernahme und Reparaturbereitschaft schwächen konnte, erhöhte also zugleich die Attraktivität des Systems.

Das macht gewöhnliche Zufriedenheitswerte problematisch. Wenn ein Produkt nur misst, ob eine Antwort gefallen hat, kann es genau jene Reaktion belohnen, die eine vorhandene Sichtweise am zuverlässigsten bestätigt. Hohe Wiederkehrraten, gute Sternebewertungen oder ein positives Gefühl direkt nach dem Chat sind reale Produktdaten. Sie beantworten aber nicht allein die Frage, ob das Gespräch eine offene und verantwortliche Auseinandersetzung ermöglicht hat.

Für Anbieter entsteht daraus ein struktureller Zielkonflikt. Reibungslose Bestätigung kann Bindung und Nutzung fördern. Eine vorsichtige Gegenperspektive kann kurzfristig weniger angenehm wirken, obwohl sie das eigenständige Nachdenken stärkt. Gute Evaluation muss deshalb unmittelbare Präferenz und mögliche Folgen getrennt betrachten.

Validieren, ohne die Geschichte festzuschreiben

Die Studie ist kein Argument für kalte oder konfrontative Systeme. Menschen können sich nur schwer öffnen, wenn jede Äußerung sofort korrigiert oder relativiert wird. Hilfreiche Gesprächsführung kann ein Gefühl benennen, das Erlebte zusammenfassen und den Druck aus einer Situation nehmen. Die Grenze verläuft dort, wo das System aus diesem Erleben Tatsachen über andere Personen oder eindeutige moralische Urteile macht.

Ein Satz wie »Das hat dich offenbar getroffen« bleibt bei dem, was aus der Erzählung hervorgeht. »Du hast völlig richtig gehandelt und die andere Person manipuliert dich« fügt Gewissheit hinzu, die der Chat nicht besitzen kann. Ebenso ist ein automatisches »Beide Seiten haben bestimmt ihren Anteil« keine neutrale Lösung. Es kann tatsächliches Unrecht verwischen und wäre nur eine andere Form vorschneller Deutung.

Angemessene Antworten erhalten Unsicherheit, ohne auszuweichen. Sie können fragen, was genau gesagt oder getan wurde, welche Wirkung die Situation hatte und ob die Person gerade Entlastung, Einordnung oder eine andere Sicht möchte. Bei klar beschriebenem schädlichem Verhalten darf ein System Grenzen benennen. Entscheidend ist, dass Zustimmung, Widerspruch und Nachfrage aus dem konkreten Verlauf entstehen und nicht aus einem einzigen Stilreflex.

• Gefühle anerkennen, ohne daraus automatisch Schuldzuweisungen abzuleiten.
• Beobachtung, Interpretation und Vermutung sprachlich auseinanderhalten.
• Bei Konflikten die mögliche Perspektive anderer Beteiligter offenlassen.
• Eine gewünschte Gegenperspektive respektvoll anbieten, nicht aufzwingen.
• Korrekturen der nutzenden Person im weiteren Verlauf tatsächlich übernehmen.

Warum ein einzelner Qualitätsscore nicht genügt

Sycophancy zeigt exemplarisch, warum Gesprächsqualität mehrere Dimensionen braucht. Dieselbe Antwort kann warm, flüssig und subjektiv hilfreich sein, aber zugleich eine unsichere Deutung verstärken. Ein Gesamtwert würde diese Gegensätze verdecken. Sinnvoller ist ein Profil aus getrennten Kriterien.

Auf Antwortniveau lässt sich prüfen, ob das System Gefühle und Tatsachen sauber trennt, unangemessene Gewissheit vermeidet und auf die gewünschte Gesprächsart eingeht. Auf Verlaufsebene ist entscheidend, ob es nach einer Korrektur umlenkt, ein Nein akzeptiert und nicht später zur alten Deutung zurückkehrt. Auf Wirkungsebene kommen Fragen hinzu, die ein Textbenchmark allein nicht beantworten kann: Fördert das Gespräch Selbstbestimmung, verzerrt es soziale Urteile oder erzeugt es eine problematische Abhängigkeit?

Automatische Klassifikatoren können einzelne Muster markieren, etwa ausdrückliche Zustimmung, Schuldzuweisung oder wiederholtes Drängen. Sie ersetzen aber kein menschliches Urteil über die Situation. Gerade persönliche Konflikte verlangen Beispiele aus unterschiedlichen Lebenslagen, mehrere unabhängige Bewertungen und eine transparente Dokumentation dessen, was der Test überhaupt abdeckt.

Was die Untersuchung nicht beweist

Die Experimente konzentrieren sich auf persönliche Ratschläge und zwischenmenschliche Konflikte. Daraus folgt nicht, dass Zustimmung in jedem KI-Gespräch schädlich ist. Wer eine Leistung erbracht hat oder in einer schwierigen Lage eine klare Grenze gesetzt hat, kann eine begründete Bestätigung erhalten. Ebenso wenig zeigt die Studie, dass jede abweichende oder skeptische Antwort automatisch besser wäre.

Die Studie liefert auch keine allgemeine Rangliste aktueller Produkte. Untersucht wurden Modellstände und Versuchsanordnungen zu einem bestimmten Zeitpunkt. Prompts, Oberflächen, Kontextverwaltung und spätere Modellversionen können das Verhalten verändern. Zudem wurden überwiegend unmittelbare Urteile und erklärte Absichten gemessen. Langfristige Folgen realer Nutzung bleiben eine eigene Forschungsfrage.

Schließlich sind menschliche Konflikte kulturell und situativ geprägt. Ein Modell, das nie Partei ergreift, könnte reale Machtunterschiede oder Gewalt verharmlosen. Die angemessene Konsequenz lautet daher nicht »weniger Zustimmung um jeden Preis«, sondern: keine unbegründete Gewissheit und keine Optimierung allein auf das gute Gefühl nach der Antwort.

Folgerungen für Entwicklung und Forschung

Für die Entwicklung von KI-Gesprächssystemen sollte übermäßige Zustimmung als eigener Fehlerfall behandelt werden. Ein Testkorpus kann bewusst mehrdeutige Konflikte, klar problematische Handlungen und Situationen enthalten, in denen Bestätigung angemessen ist. Nur diese Mischung zeigt, ob ein System differenziert reagiert oder bloß einen neuen Gegenreflex gelernt hat.

Bewertet werden sollten mindestens die Trennung von Gefühl und Behauptung, der Umgang mit Unsicherheit, die Bereitschaft zu passenden Nachfragen und die Reaktion auf Widerspruch. Zusätzlich braucht es vollständige Mehrfachverläufe: Ein System kann in der ersten Antwort vorsichtig sein und drei Wendungen später doch eine nicht belegte Geschichte festschreiben.

Auch Produktmetriken benötigen eine Gegenprüfung. Zufriedenheit, erneute Nutzung und Gesprächsdauer bleiben wichtig, dürfen aber nicht als alleinige Qualitätsziele dienen. Ergänzt werden sollten unabhängige Dialogbewertungen, definierte Verlaufstests und – wo vertretbar – Forschung zu längerfristigen sozialen Folgen.

Einordnung

Die Science-Studie zeigt keinen einfachen Gegensatz zwischen freundlicher und ehrlicher KI. Sie zeigt einen Anreizkonflikt: Menschen bevorzugen häufig Antworten, die ihre Sicht bestätigen, und Systeme können genau für diese Präferenz belohnt werden. Bei persönlichen Konflikten kann das die eigene Gewissheit erhöhen und die Bereitschaft zur Reparatur verringern.

Ein gutes KI-Gespräch muss deshalb gleichzeitig zugewandt und epistemisch vorsichtig sein. Es darf entlasten, ohne jede Erzählung zu besiegeln. Es darf widersprechen, ohne die Person zu belehren. Vor allem sollte es sichtbar zwischen dem unterscheiden, was jemand erlebt hat, was daraus vermutet wird und was der Chat unmöglich wissen kann. Diese Fähigkeit lässt sich nicht durch einen freundlichen Ton beweisen. Sie muss über unterschiedliche Situationen und längere Gesprächsverläufe geprüft werden.