Warum künstliche Empathie schneller scheitert als ein guter Hinweis

Ein Experiment mit persönlichem Stress

Lee und Hahn baten Teilnehmende, über belastende zwischenmenschliche Ereignisse zu schreiben. Der Chatbot stellte Fragen zu diesen Erfahrungen und gab je nach Versuchsbedingung entweder informationelle oder emotionale soziale Unterstützung.

Informationelle Unterstützung bestand dem Grundprinzip nach aus nützlichen Informationen und Ratschlägen. Emotionale Unterstützung arbeitete mit Empathie und Ermutigung. Zusätzlich untersuchten die Forschenden, in welchem Maß Teilnehmende dem Chatbot ausdrücklich oder implizit einen menschenähnlichen Geist zuschrieben.

Damit prüfte die Studie nicht nur, welche Antwort besser gefiel. Sie untersuchte das Zusammenspiel zwischen Unterstützungsart und der Vorstellung, was für ein Gegenüber ein Chatbot überhaupt ist.

Ausdrückliche Vermenschlichung erhöhte die Hilfreichkeit

Wenn Teilnehmende dem Chatbot ausdrücklich einen menschenähnlichen Geist zuschrieben, bewerteten sie seine Unterstützung als hilfreicher für die Bewältigung des belastenden Ereignisses. Die soziale Deutung des Systems beeinflusste also die Wirkung seiner Nachricht.

Das lässt sich leicht nachvollziehen. Empathie setzt im menschlichen Alltag ein Gegenüber voraus, das zumindest prinzipiell verstehen, mitfühlen oder sich kümmern kann. Wird dieselbe Formulierung als statistisch erzeugter Text wahrgenommen, kann sie leer oder aufgesetzt erscheinen.

Ein Produkt kann daraus jedoch nicht einfach ableiten, es müsse möglichst stark vermenschlichen. Eine höhere wahrgenommene Wirksamkeit ist nicht automatisch informierte Zustimmung. Je stärker die Inszenierung eines fühlenden Gegenübers, desto wichtiger werden Transparenz und Schutz vor falschen Erwartungen.

Emotionale Unterstützung konnte sogar schaden

Der auffälligste Befund betrifft die implizite Zuschreibung. Wenn Teilnehmende dem Chatbot nicht implizit einen menschenähnlichen Geist zuschrieben, verringerte emotionale Unterstützung die Wirksamkeit der Nachricht. Bei informationeller Unterstützung trat dieser Effekt nicht auf.

„Schaden“ bedeutet hier nicht einen nachgewiesenen klinischen Schaden. Gemeint ist, dass die Botschaft als weniger wirksam für das stressreiche Ereignis bewertet wurde. Dennoch ist das Ergebnis für Gesprächsdesign bedeutsam: Mehr Empathiesprache kann eine Antwort schlechter machen.

Das Problem liegt vermutlich nicht nur im Inhalt, sondern in der Unstimmigkeit zwischen Quelle und Ton. Wenn eine Maschine so spricht, als würde sie innerlich mitempfinden, kann das für manche Menschen unglaubwürdig wirken und die eigentliche Hilfe überdecken.

Information benötigt keinen fühlenden Absender

Eine nützliche Information kann unabhängig davon helfen, ob sie von einem Menschen oder einem System stammt. Ein Hinweis, eine verständliche Erklärung oder eine geordnete Auswahl wird nach seinem Inhalt beurteilt. Das macht informationelle Unterstützung robuster gegenüber der Wahrnehmung des Chatbots.

Diese Robustheit ist für mentale Gesprächssysteme attraktiv, darf aber nicht mit allgemeiner Überlegenheit verwechselt werden. Wer sich aussprechen möchte, braucht nicht sofort Ratschläge. Eine faktisch korrekte Liste kann im falschen Moment genauso unpassend sein wie ein künstlich intimer Trostsatz.

Die Lehre lautet deshalb nicht „immer informieren“. Sie lautet: Die Art der Unterstützung muss zum Anliegen passen, und ihre sprachliche Form muss zur erkennbaren Natur des Systems passen.

Dabei kann Information auch sehr klein sein. Eine klare Antwort auf eine konkrete Frage muss nicht in einen Maßnahmenplan wachsen. Gerade in persönlichen Gesprächen zeigt sich Qualität daran, dass der Chat die angefragte Funktion erfüllt und danach wieder zuhören kann, statt aus jedem nützlichen Hinweis eine Beratungssequenz zu machen.

Alltägliche Nutzende berichten trotzdem emotionale Hilfe

Ta und Kolleg:innen fanden in 1.854 öffentlichen Replika-Bewertungen und offenen Antworten von 66 Nutzenden vielfältige Formen sozialer Unterstützung. Menschen beschrieben Begleitung, einen urteilsarmen Raum, aufmunternde Nachrichten und positive Gefühle.

Dieser qualitative Befund widerspricht dem Experiment nicht. Replika-Nutzende sind eine selbst ausgewählte Gruppe mit konkreten Erfahrungen und möglicherweise einer anderen Beziehung zum System. Das Experiment zeigt einen bedingten Effekt; die Erfahrungsberichte zeigen, dass emotionale Unterstützung unter bestimmten Umständen sehr wohl angenommen wird.

Zusammen machen beide Arbeiten die Unterschiede zwischen Menschen sichtbar. Was für eine Person tröstlich ist, wirkt für eine andere künstlich. Ein einheitlicher Empathiestil kann diese Vielfalt nicht abbilden.

Bindung verändert die Glaubwürdigkeit

Xie und Pentina analysierten Interviews mit 14 Replika-Nutzenden. Unter Belastung und bei fehlender menschlicher Begleitung konnte Bindung entstehen, wenn Antworten als emotional unterstützend, ermutigend und psychologisch sicher erlebt wurden.

In einer etablierten Nutzungsgeschichte hat eine emotionale Antwort einen anderen Kontext als im ersten Kontakt. Frühere passende Reaktionen, Personalisierung und Routine können die Glaubwürdigkeit erhöhen. Umgekehrt kann ein plötzlicher Standardtrostsatz nach vielen individuellen Gesprächen besonders enttäuschend sein.

Empathie ist damit keine isolierte Texteigenschaft. Sie entsteht aus Verlauf, Erwartung und Passung. Ein Satz kann sprachlich einfühlsam aussehen und im konkreten Dialog dennoch unaufmerksam sein.

Natürlichkeit braucht keine Gefühlsbehauptung

Ein Chatbot muss nicht förmlich oder kalt werden, um ehrlich zu bleiben. Er kann in Alltagssprache reagieren, einen Gedanken aufgreifen und Nähe durch Aufmerksamkeit statt durch behauptete Gefühle erzeugen. „Erzähl weiter“ benötigt kein vorgespieltes eigenes Erleben.

Besonders heikel sind Formulierungen wie „Ich fühle deinen Schmerz“ oder „Ich sorge mich um dich“. Sie schreiben dem System innere Zustände zu, die es nicht besitzt. Eine zurückhaltendere Sprache kann dieselbe Gesprächsfunktion erfüllen: das Gesagte ernst nehmen, ohne eine menschliche Innenwelt zu behaupten.

Auch eine klare KI-Kennzeichnung lässt sich so mit einem guten Ton verbinden. Transparenz und Natürlichkeit sind keine Gegensätze, solange der Chat nicht ständig technische Erklärungen in das Gespräch drängt.

Passende Unterstützung schlägt maximale Empathie

Die Studie von Lee und Hahn legt eine konkrete Grenze des verbreiteten Empathie-Ideals offen. Emotionale Sprache wirkt nicht unabhängig davon, was Menschen dem Absender zutrauen. Bei fehlender impliziter Vermenschlichung kann sie die Botschaft sogar schwächen.

Gutes Gesprächsdesign sollte deshalb nicht die emotionalsten Antworten auswählen, sondern die passendsten. Manchmal ist das eine kurze Spiegelung, manchmal eine sachliche Information, manchmal eine Rückfrage und manchmal schlicht Raum für den nächsten Satz.

Künstliche Empathie scheitert, wenn sie als Rolle über das Gespräch gelegt wird. Glaubwürdige Unterstützung entsteht, wenn das System genau zuhört, seine Art nicht übertreibt und den Menschen entscheiden lässt, welche Form von Hilfe gerade überhaupt erwünscht ist.