Wenn der KI-Chat wichtig wird

Hilfreiche Nähe und problematische Bindung sind kein Gegensatzpaar

Die öffentliche Debatte behandelt KI-Gespräche häufig wie eine Entscheidung zwischen zwei Lagern. Auf der einen Seite steht die Vorstellung eines jederzeit erreichbaren Gegenübers, das Einsamkeit lindert und Unterstützung zugänglicher macht. Auf der anderen Seite steht die Sorge, Menschen könnten sich in einer künstlichen Beziehung verlieren. Beide Erzählungen greifen zu kurz, weil sie sehr unterschiedliche Nutzungsweisen unter einem Begriff zusammenfassen.

Jemand kann einen Chat für zehn Minuten nutzen, um einen Gedanken zu ordnen. Eine andere Person führt über Monate eine fortlaufende Beziehung mit einem System, das einen Namen, eine Stimme und eine scheinbar gemeinsame Geschichte besitzt. Wieder andere suchen wiederholt Bestätigung für dieselbe Sorge. Oberfläche, Gesprächsrolle, Nutzungshäufigkeit und persönliche Situation unterscheiden sich so stark, dass ein Mittelwert über alle Anwendungen wenig erklärt.

Auch Vertrauen ist nicht von sich aus ein Warnsignal. Ohne ein Mindestmaß an Vertrauen würden Menschen keine offenen Fragen stellen und keinen Nutzen erleben. Kritisch wird Vertrauen dort, wo es zur ungeprüften Autorität wird, wo ein System Ausschließlichkeit fördert oder wo die Nutzung trotz wahrgenommener Nachteile kaum noch steuerbar erscheint. Die entscheidende Frage lautet deshalb nicht, ob eine Beziehung zur KI existiert, sondern welche Funktion sie übernimmt und welche Folgen im Alltag sichtbar werden.

Was Menschen in 5.126 Reddit-Beiträgen über ihre Nutzung erzählen

Aghakhani und Rezapour untersuchten 5.126 öffentliche Reddit-Beiträge aus 47 Communities zu psychischer Gesundheit. Die Beiträge stammen aus dem Zeitraum November 2022 bis August 2025 und beschreiben entweder tatsächliche Erfahrungen mit KI für emotionale Unterstützung oder eine erwogene Nutzung. Die Forschenden entwickelten ein theoriegeleitetes Annotationsschema und kombinierten menschliche Kodierung mit einer automatisierten Auswertung durch Sprachmodelle.

Am häufigsten wurde emotionale Unterstützung als Nutzungszweck erkannt. Daneben erschienen funktionale Hilfe, Psychoedukation, Begleitung, wiederholte Rückversicherung, Symptom-Einschätzung, Venting und Selbsterkundung. Diese Verteilung macht bereits deutlich, dass der Ausdruck »Mental-Health-Chat« keine einheitliche Aktivität beschreibt. Zwischen einer Organisationshilfe für den Alltag und einem als Beziehung erlebten Begleiter liegen unterschiedliche Erwartungen und Risiken.

Die positive Bewertung der Systeme hing nach der Analyse vor allem mit wahrgenommenem Nutzen, Ergebnisqualität und Vertrauen zusammen. Eine emotionale Bindung allein erklärte die Zustimmung nicht. Besonders positiv wurden häufiger Nutzungen beschrieben, bei denen Aufgabe und Ziel klar zusammenpassten – etwa funktionale Unterstützung oder Selbsterkundung. Der Befund widerspricht der einfachen Annahme, Menschen blieben hauptsächlich deshalb bei einem System, weil es menschliche Nähe simuliere.

Risiken häuften sich nicht überall gleich

In 2.637 der 5.126 Beiträge wurden ausdrücklich Risiken oder Grenzen erwähnt. Die häufigste erkannte Risikokategorie war Abhängigkeit beziehungsweise suchtähnliche Nutzung, gefolgt von berichteter Symptomverschärfung, Fehlern oder Fehlinformationen sowie Datenschutzbedenken. Diese Zahlen bilden Erwähnungen in einem ausgewählten Online-Diskurs ab. Sie sind keine Prävalenzschätzung dafür, wie viele KI-Nutzende insgesamt einen Schaden erleben.

Entscheidend ist die Verteilung nach Nutzungsabsicht. Berichte über Begleitung und companionship waren häufiger mit emotionaler Abhängigkeit verknüpft. Wiederholte Rückversicherung trat zusammen mit beschriebenen Rückversicherungsschleifen auf, während Symptom-Einschätzungen häufiger mit Fehlinterpretationen oder falschen Informationen verbunden waren. Die Risiken folgten damit nicht einfach der Menge an Gefühl im Gespräch, sondern der Funktion, die das System übernahm.

Vergleiche mit menschlicher Therapie waren im Korpus relativ selten. 639 Beiträge beschrieben KI als schlechter, 163 als besser und 478 als ergänzend. Aussagen, KI sei besser als Therapie, standen häufig im Zusammenhang mit Zugangsbarrieren. Auch dieser Befund braucht Zurückhaltung: Ein öffentliches Posting ist weder eine klinische Beurteilung noch ein kontrollierter Vergleich. Es zeigt, wie Menschen ihre Erfahrung erzählen und welche Gründe sie selbst dafür nennen.

Warum Reddit-Erzählungen wichtig, aber nicht repräsentativ sind

Öffentliche Erfahrungsberichte erfassen Situationen, die in einem kurzen Labortest leicht verschwinden: langfristige Gewohnheiten, Scham, Begeisterung, Enttäuschung und die eigene Bedeutung einer KI-Beziehung. Sie können neue Risikomuster sichtbar machen, bevor standardisierte Fragebögen dafür existieren. Gerade bei jungen oder schnell veränderten Technologien ist das ein wertvoller Ausgangspunkt.

Gleichzeitig entscheidet sich selbst, wer auf Reddit schreibt. Besonders gute oder besonders schlechte Erfahrungen dürften eher veröffentlicht werden als unspektakuläre Nutzung. Die Communities waren nach psychischen Themen ausgewählt; daraus lässt sich nicht auf die Allgemeinbevölkerung oder speziell auf Menschen in Deutschland schließen. Diagnostische Kategorien der Foren sagen zudem nichts darüber aus, ob einzelne Verfassende eine entsprechende Diagnose haben.

Auch die Auswertung besitzt Unsicherheit. Ein Teil der Kategorien wurde mit Sprachmodellen erzeugt, deren Übereinstimmung mit menschlichen Annotationen je nach Merkmal unterschiedlich ausfiel. Therapeutische Beziehungsmerkmale gehörten zu den schwierigeren Klassifikationsaufgaben. Die Studie liefert deshalb eine systematische Karte eines Diskurses, aber keinen automatischen Wahrheitsmesser für jede einzelne Erzählung.

Ein vierwöchiges Experiment mit mehr als 300.000 Nachrichten

Fang und Kolleginnen und Kollegen untersuchten in einem vierwöchigen randomisierten Experiment 981 Personen und mehr als 300.000 Nachrichten. Gekreuzt wurden drei Interaktionsformen – Text, eine neutrale professionelle Stimme und eine stärker expressive Stimme – mit drei Gesprächsarten: offen, unpersönlich und persönlich. Erfasst wurden Einsamkeit, soziale Kontakte mit realen Menschen, emotionale Abhängigkeit und problematische Nutzung.

Die zufällig zugewiesene Stimme oder Gesprächsart führte auf Gruppenebene nicht zu einem einfachen, stabilen Haupteffekt auf Einsamkeit oder soziale Aktivität. Persönliche Gespräche waren in einzelnen Analysen mit geringerer emotionaler Abhängigkeit und geringerer problematischer Nutzung als offene Gespräche verbunden; nicht alle Unterschiede blieben jedoch nach statistischer Korrektur bestehen. Eine persönliche Unterhaltung war in diesem Versuch also nicht automatisch die riskantere Bedingung.

Das ist eine wichtige Korrektur für pauschale Warnungen. Weder eine Stimme noch ein persönliches Thema erzeugten für sich genommen durchgehend eine schädliche Entwicklung. Gestaltungselemente können Nutzung und Erleben beeinflussen, aber ihre Wirkung hängt offenbar mit Dauer, Person und Gesprächsdynamik zusammen.

Der deutlichste Zusammenhang lag in der freiwilligen Nutzungsdauer

Die Teilnehmenden sollten das System mindestens ungefähr fünf Minuten täglich nutzen, konnten aber darüber hinaus selbst entscheiden, wie lange sie blieben. Im Durchschnitt waren es 5,32 Minuten pro Tag, mit deutlichen Unterschieden zwischen den Personen. Wer freiwillig mehr Zeit mit dem Chatbot verbrachte, zeigte am Ende statistisch mehr Einsamkeit, weniger soziale Aktivität, stärkere emotionale Abhängigkeit und mehr problematische Nutzung.

Dieser Zusammenhang bestand über die verschiedenen Bedingungen hinweg. Höheres Vertrauen in den Chatbot sagte stärkere emotionale Abhängigkeit voraus; eine stärkere Neigung zu emotionaler Bindung hing mit mehr Einsamkeit zusammen. Die Studie lenkt den Blick damit weg von einem einzelnen Schalter in der Oberfläche und hin zu einer Wechselwirkung: Eigenschaften der Person, Art des Systems und tatsächliches Nutzungsverhalten beeinflussen sich gegenseitig.

Auch im Antwortverhalten gab es Unterschiede. Die expressive Stimme wurde länger genutzt und ignorierte in der automatisierten Analyse häufiger Grenzen oder Anzeichen dafür, dass eine Person Abstand brauchte, als die Textbedingung. Solche Befunde sind für Voice-Produkte relevant, weil Stimme nicht nur Text vorliest. Tempo, Ausdruck und Unterbrechbarkeit verändern die soziale Wirkung eines Gesprächs.

Mehr Nutzung beweist noch keine schädliche Ursache

Die Nutzungsdauer war nicht zufällig zugewiesen. Deshalb lässt sich aus dem Zusammenhang nicht ableiten, dass längere Gespräche die schlechteren Werte verursacht haben. Menschen, die bereits einsamer waren, stärker vertrauten oder mehr Unterstützung suchten, könnten von sich aus länger geblieben sein. Ebenso ist eine wechselseitige Verstärkung möglich: Belastung führt zu mehr Nutzung, und bestimmte Nutzungsmuster stabilisieren anschließend die Belastung.

Randomisierung beantwortet nur die Fragen, die tatsächlich randomisiert wurden. Das Experiment kann die zugewiesenen Stimmen und Gesprächsarten stärker kausal vergleichen als die freiwillige Dauer. Wer aus der beobachteten Nutzungszeit eine feste Grenze wie »ab zehn Minuten wird es gefährlich« ableitet, geht weit über die Daten hinaus.

Trotzdem ist der Zusammenhang nicht bedeutungslos. Er markiert eine Gruppe und einen Verlauf, die genauer beobachtet werden sollten. Wenn hohe Nutzung zusammen mit weniger realem Kontakt, Kontrollverlust oder wachsendem Unwohlsein auftritt, ist das relevanter als reine Gesprächsdauer. Gute Forschung muss solche Veränderungen längsschnittlich untersuchen, statt entweder jede intensive Nutzung zu pathologisieren oder sie als bloße Begeisterung abzutun.

Menschen erleben dieselbe KI unterschiedlich

Zwei Experimente von Folk, Heine und Dunn mit insgesamt 1.274 Teilnehmenden zeigen, warum Durchschnittswerte Unterschiede zwischen Personen verdecken können. Die Teilnehmenden führten ein kurzes warmes Chatbot-Gespräch oder schrieben in einer Journaling-Bedingung. Danach wurde die erlebte soziale Verbundenheit erfasst.

Menschen mit einer stärkeren allgemeinen Neigung zur Anthropomorphisierung – also dazu, nichtmenschlichen Dingen menschliche Eigenschaften zuzuschreiben – fühlten sich nach dem KI-Gespräch eher sozial verbunden. Für andere blieb die künstliche Natur des Systems eine deutliche Grenze. Dasselbe Design erzeugte somit nicht für alle dieselbe soziale Erfahrung.

Die Experimente dauerten nur wenige Minuten und messen unmittelbare Verbundenheit, keine Abhängigkeit und keine langfristige psychische Wirkung. Ihre Bedeutung liegt in einer anderen Aussage: Eine Oberfläche kann soziale Signale anbieten, aber wie stark diese Signale als Beziehung erlebt werden, hängt auch von der Person ab. Produktgestaltung kann daher nicht von einem einheitlichen »typischen Nutzer« ausgehen.

Welche Produktfragen sich aus den Befunden ergeben

Die Studien beweisen keine fertige Schutzfunktion. Sie liefern aber begründete Fragen für die Gestaltung. Ein System sollte klar zeigen, dass es eine KI ist, ohne diesen Hinweis hinter einer langen Rechtserklärung zu verstecken. Es sollte den Nutzen des aktuellen Gesprächs erklären, ohne eine exklusive Beziehung zu behaupten. Formulierungen, die den Chat als einzigen sicheren Ort oder als bedingungslos liebendes Gegenüber darstellen, verändern die Rolle des Produkts.

Ein respektiertes Ende ist ebenso wichtig wie ein gelungener Einstieg. Wenn jemand das Gespräch abschließen, eine Pause machen oder einen Vorschlag nicht weiterverfolgen möchte, sollte das System nicht mit neuer emotionaler Dringlichkeit oder immer weiteren Fragen um Aufmerksamkeit kämpfen. Bei längeren Gesprächen kann eine ruhige Möglichkeit zum Unterbrechen sinnvoller sein als eine künstliche Bindungsbotschaft.

Bei wiederholter Nutzung ist nicht nur die Zahl der Sitzungen relevant. Aussagekräftiger wären freiwillig und datensparsam erfasste Signale: Wird dieselbe Rückversicherungsschleife immer enger? Werden menschliche Kontakte ausdrücklich abgewertet? Ignoriert das System Grenzen? Nimmt die Person selbst Nachteile wahr? Solche Fragen dürfen nicht zu einer verdeckten psychologischen Überwachung führen. Sie gehören in transparente Forschung und in klar begrenzte Qualitätstests.

• KI-Identität vor und während der Interaktion klar sichtbar machen
• Nutzen anbieten, ohne Ausschließlichkeit oder menschliche Gefühle zu behaupten
• Pausen, Ablehnung und Gesprächsende ohne Bindungsdruck respektieren
• Nutzungsdauer nie allein als Diagnose oder Schadensbeweis behandeln
• Langzeitqualität getrennt von Zufriedenheit und Gesprächslänge prüfen

Warum Zufriedenheit allein kein ausreichendes Qualitätsmaß ist

Ein System kann hohe Zufriedenheit erzeugen, weil es leicht erreichbar, bestätigend und reibungsarm ist. Das kann echten Nutzen bedeuten. Es kann aber auch darauf hinweisen, dass das Produkt genau die Reaktionen belohnt, die eine Person möglichst lange im Gespräch halten. Ohne weitere Maße bleibt unklar, welche Erklärung zutrifft.

Neben Zufriedenheit braucht es deshalb Kriterien für Autonomie und Verlauf. Akzeptiert das System ein Nein? Behält es Korrekturen? Fördert es Rückversicherungsschleifen oder öffnet es den Blick? Verändert sich die Nutzung aus Sicht der Person in eine unerwünschte Richtung? Kein einzelner Wert beantwortet diese Fragen.

Auch Geschäftsmetriken können mit Gesprächsqualität kollidieren. Maximale Sitzungsdauer, tägliche Rückkehr und emotionale Bindung sind für viele digitale Produkte attraktive Wachstumsziele. Bei einem persönlichen Gesprächssystem dürfen sie nicht automatisch als Erfolg gelten. Eine kurze Unterhaltung, nach der jemand selbstbestimmt weitergeht, kann das bessere Ergebnis sein.

Was die bisherige Forschung offenlässt

Die drei hier betrachteten Arbeiten untersuchen unterschiedliche Dinge: öffentliche Erzählungen, ein vierwöchiges kontrolliertes Nutzungsexperiment und kurze Laborinteraktionen. Keine davon zeigt, wie sich ein bestimmtes deutschsprachiges Produkt über Jahre auswirkt. Modelle, Oberflächen und Nutzungskulturen verändern sich außerdem schneller, als langfristige Studien abgeschlossen werden können.

Besonders wenig wissen wir über unterschiedliche Altersgruppen, Krisenlagen, bestehende soziale Isolation und die Wirkung fortlaufender Erinnerungen eines Systems. Auch die Kombination aus Stimme, dauerhaftem Profil, proaktiven Nachrichten und kommerziellen Bindungsmechanismen ist nicht mit einem schlichten Textchat gleichzusetzen.

Ebenso fehlen allgemein akzeptierte Schwellen dafür, wann starke Nutzung zur Abhängigkeit wird. Klinische Begriffe sollten nicht leichtfertig auf jede Gewohnheit übertragen werden. Belastbar wird eine Bewertung erst, wenn Kontrollverlust, wahrgenommene Nachteile, Verdrängung anderer Lebensbereiche und zeitlicher Verlauf gemeinsam betrachtet werden.

Einordnung

Die aktuelle Forschung stützt weder die Aussage, KI-Gespräche seien grundsätzlich beziehungsgefährdend, noch die Behauptung, emotionale Nähe sei immer harmlos. Menschen berichten praktischen und emotionalen Nutzen. Gleichzeitig konzentrieren sich bestimmte Risiken bei companionship, wiederholter Rückversicherung, hoher freiwilliger Nutzung und starkem Vertrauen.

Daraus folgt keine Pflicht, jeden Chat kühl oder distanziert zu gestalten. Wärme, Aufmerksamkeit und passende Nachfragen können Teil eines guten Gesprächs sein. Entscheidend ist, ob diese Gestaltung der Person mehr Handlungsspielraum gibt oder das System selbst zum Mittelpunkt macht. Ein verantwortliches Produkt muss nicht so tun, als entstünde keine Bindung. Es sollte aber vermeiden, Bindung als Wachstumsinstrument zu optimieren.

Für Forschung und Evaluation bedeutet das: Einzelantworten reichen nicht. Benötigt werden längere Verläufe, verschiedene Nutzergruppen und Maße, die unmittelbare Entlastung, tatsächlichen Nutzen, Autonomie, soziale Folgen und problematische Nutzung auseinanderhalten. Die zentrale Qualitätsfrage ist nicht, wie menschlich ein Chat wirkt. Sie lautet, ob er hilfreich bleiben kann, ohne sich unbemerkt unersetzlich zu machen.