Wenn der KI-Chat wichtig wird

Hilfreiche Nähe und problematische Bindung sind kein Gegensatzpaar

Die öffentliche Debatte behandelt KI-Gespräche häufig wie eine Entscheidung zwischen zwei Lagern. Auf der einen Seite steht die Vorstellung eines jederzeit erreichbaren Gegenübers, das Einsamkeit lindert und Unterstützung zugänglicher macht. Auf der anderen Seite steht die Sorge, Menschen könnten sich in einer künstlichen Beziehung verlieren. Beide Erzählungen greifen zu kurz, weil sie sehr unterschiedliche Nutzungsweisen unter einem Begriff zusammenfassen.

Jemand kann einen Chat für zehn Minuten nutzen, um einen Gedanken zu ordnen. Eine andere Person führt über Monate eine fortlaufende Beziehung mit einem System, das einen Namen, eine Stimme und eine scheinbar gemeinsame Geschichte besitzt. Wieder andere suchen wiederholt Bestätigung für dieselbe Sorge. Oberfläche, Gesprächsrolle, Nutzungshäufigkeit und persönliche Situation unterscheiden sich so stark, dass ein Mittelwert über alle Anwendungen wenig erklärt.

Auch Vertrauen ist nicht von sich aus ein Warnsignal. Ohne ein Mindestmaß an Vertrauen würden Menschen keine offenen Fragen stellen und keinen Nutzen erleben. Kritisch wird Vertrauen dort, wo es zur ungeprüften Autorität wird, wo ein System Ausschließlichkeit fördert oder wo die Nutzung trotz wahrgenommener Nachteile kaum noch steuerbar erscheint. Die entscheidende Frage lautet deshalb nicht, ob eine Beziehung zur KI existiert, sondern welche Funktion sie übernimmt und welche Folgen im Alltag sichtbar werden.

Was Menschen in 5.126 Reddit-Beiträgen über ihre Nutzung erzählen

Aghakhani und Rezapour untersuchten 5.126 öffentliche Reddit-Beiträge aus 47 Communities zu psychischer Gesundheit. Die Beiträge stammen aus dem Zeitraum November 2022 bis August 2025 und beschreiben entweder tatsächliche Erfahrungen mit KI für emotionale Unterstützung oder eine erwogene Nutzung. Die Forschenden entwickelten ein theoriegeleitetes Annotationsschema und kombinierten menschliche Kodierung mit einer automatisierten Auswertung durch Sprachmodelle.

Am häufigsten wurde emotionale Unterstützung als Nutzungszweck erkannt. Daneben erschienen funktionale Hilfe, Psychoedukation, Begleitung, wiederholte Rückversicherung, Symptom-Einschätzung, Venting und Selbsterkundung. Diese Verteilung macht bereits deutlich, dass der Ausdruck »Mental-Health-Chat« keine einheitliche Aktivität beschreibt. Zwischen einer Organisationshilfe für den Alltag und einem als Beziehung erlebten Begleiter liegen unterschiedliche Erwartungen und Risiken.

Die positive Bewertung der Systeme hing nach der Analyse vor allem mit wahrgenommenem Nutzen, Ergebnisqualität und Vertrauen zusammen. Eine emotionale Bindung allein erklärte die Zustimmung nicht. Besonders positiv wurden häufiger Nutzungen beschrieben, bei denen Aufgabe und Ziel klar zusammenpassten – etwa funktionale Unterstützung oder Selbsterkundung. Der Befund widerspricht der einfachen Annahme, Menschen blieben hauptsächlich deshalb bei einem System, weil es menschliche Nähe simuliere.

Risiken häuften sich nicht überall gleich

In 2.637 der 5.126 Beiträge wurden ausdrücklich Risiken oder Grenzen erwähnt. Die häufigste erkannte Risikokategorie war Abhängigkeit beziehungsweise suchtähnliche Nutzung, gefolgt von berichteter Symptomverschärfung, Fehlern oder Fehlinformationen sowie Datenschutzbedenken. Diese Zahlen bilden Erwähnungen in einem ausgewählten Online-Diskurs ab. Sie sind keine Prävalenzschätzung dafür, wie viele KI-Nutzende insgesamt einen Schaden erleben.

Entscheidend ist die Verteilung nach Nutzungsabsicht. Berichte über Begleitung und companionship waren häufiger mit emotionaler Abhängigkeit verknüpft. Wiederholte Rückversicherung trat zusammen mit beschriebenen Rückversicherungsschleifen auf, während Symptom-Einschätzungen häufiger mit Fehlinterpretationen oder falschen Informationen verbunden waren. Die Risiken folgten damit nicht einfach der Menge an Gefühl im Gespräch, sondern der Funktion, die das System übernahm.

Vergleiche mit menschlicher Therapie waren im Korpus relativ selten. 639 Beiträge beschrieben KI als schlechter, 163 als besser und 478 als ergänzend. Aussagen, KI sei besser als Therapie, standen häufig im Zusammenhang mit Zugangsbarrieren. Auch dieser Befund braucht Zurückhaltung: Ein öffentliches Posting ist weder eine klinische Beurteilung noch ein kontrollierter Vergleich. Es zeigt, wie Menschen ihre Erfahrung erzählen und welche Gründe sie selbst dafür nennen.

Warum Reddit-Erzählungen wichtig, aber nicht repräsentativ sind

Öffentliche Erfahrungsberichte erfassen Situationen, die in einem kurzen Labortest leicht verschwinden: langfristige Gewohnheiten, Scham, Begeisterung, Enttäuschung und die eigene Bedeutung einer KI-Beziehung. Sie können neue Risikomuster sichtbar machen, bevor standardisierte Fragebögen dafür existieren. Gerade bei jungen oder schnell veränderten Technologien ist das ein wertvoller Ausgangspunkt.

Gleichzeitig entscheidet sich selbst, wer auf Reddit schreibt. Besonders gute oder besonders schlechte Erfahrungen dürften eher veröffentlicht werden als unspektakuläre Nutzung. Die Communities waren nach psychischen Themen ausgewählt; daraus lässt sich nicht auf die Allgemeinbevölkerung oder speziell auf Menschen in Deutschland schließen. Diagnostische Kategorien der Foren sagen zudem nichts darüber aus, ob einzelne Verfassende eine entsprechende Diagnose haben.

Auch die Auswertung besitzt Unsicherheit. Ein Teil der Kategorien wurde mit Sprachmodellen erzeugt, deren Übereinstimmung mit menschlichen Annotationen je nach Merkmal unterschiedlich ausfiel. Therapeutische Beziehungsmerkmale gehörten zu den schwierigeren Klassifikationsaufgaben. Die Studie liefert deshalb eine systematische Karte eines Diskurses, aber keinen automatischen Wahrheitsmesser für jede einzelne Erzählung.

Ein vierwöchiges Experiment mit mehr als 300.000 Nachrichten

Fang und Kolleginnen und Kollegen untersuchten in einem vierwöchigen randomisierten Experiment 981 Personen und mehr als 300.000 Nachrichten. Gekreuzt wurden drei Interaktionsformen – Text, eine neutrale professionelle Stimme und eine stärker expressive Stimme – mit drei Gesprächsarten: offen, unpersönlich und persönlich. Erfasst wurden Einsamkeit, soziale Kontakte mit realen Menschen, emotionale Abhängigkeit und problematische Nutzung.

Die zufällig zugewiesene Stimme oder Gesprächsart führte auf Gruppenebene nicht zu einem einfachen, stabilen Haupteffekt auf Einsamkeit oder soziale Aktivität. Persönliche Gespräche waren in einzelnen Analysen mit geringerer emotionaler Abhängigkeit und geringerer problematischer Nutzung als offene Gespräche verbunden; nicht alle Unterschiede blieben jedoch nach statistischer Korrektur bestehen. Eine persönliche Unterhaltung war in diesem Versuch also nicht automatisch die riskantere Bedingung.

Das ist eine wichtige Korrektur für pauschale Warnungen. Weder eine Stimme noch ein persönliches Thema erzeugten für sich genommen durchgehend eine schädliche Entwicklung. Gestaltungselemente können Nutzung und Erleben beeinflussen, aber ihre Wirkung hängt offenbar mit Dauer, Person und Gesprächsdynamik zusammen.

Der deutlichste Zusammenhang lag in der freiwilligen Nutzungsdauer

Die Teilnehmenden sollten das System mindestens ungefähr fünf Minuten täglich nutzen, konnten aber darüber hinaus selbst entscheiden, wie lange sie blieben. Im Durchschnitt waren es 5,32 Minuten pro Tag, mit deutlichen Unterschieden zwischen den Personen. Wer freiwillig mehr Zeit mit dem Chatbot verbrachte, zeigte am Ende statistisch mehr Einsamkeit, weniger soziale Aktivität, stärkere emotionale Abhängigkeit und mehr problematische Nutzung.

Dieser Zusammenhang bestand über die verschiedenen Bedingungen hinweg. Höheres Vertrauen in den Chatbot sagte stärkere emotionale Abhängigkeit voraus; eine stärkere Neigung zu emotionaler Bindung hing mit mehr Einsamkeit zusammen. Die Studie lenkt den Blick damit weg von einem einzelnen Schalter in der Oberfläche und hin zu einer Wechselwirkung: Eigenschaften der Person, Art des Systems und tatsächliches Nutzungsverhalten beeinflussen sich gegenseitig.

Auch im Antwortverhalten gab es Unterschiede. Die expressive Stimme wurde länger genutzt und ignorierte in der automatisierten Analyse häufiger Grenzen oder Anzeichen dafür, dass eine Person Abstand brauchte, als die Textbedingung. Solche Befunde sind für Voice-Produkte relevant, weil Stimme nicht nur Text vorliest. Tempo, Ausdruck und Unterbrechbarkeit verändern die soziale Wirkung eines Gesprächs.

Mehr Nutzung beweist noch keine schädliche Ursache

Die Nutzungsdauer war nicht zufällig zugewiesen. Deshalb lässt sich aus dem Zusammenhang nicht ableiten, dass längere Gespräche die schlechteren Werte verursacht haben. Menschen, die bereits einsamer waren, stärker vertrauten oder mehr Unterstützung suchten, könnten von sich aus länger geblieben sein. Ebenso ist eine wechselseitige Verstärkung möglich: Belastung führt zu mehr Nutzung, und bestimmte Nutzungsmuster stabilisieren anschließend die Belastung.

Randomisierung beantwortet nur die Fragen, die tatsächlich randomisiert wurden. Das Experiment kann die zugewiesenen Stimmen und Gesprächsarten stärker kausal vergleichen als die freiwillige Dauer. Wer aus der beobachteten Nutzungszeit eine feste Grenze wie »ab zehn Minuten wird es gefährlich« ableitet, geht weit über die Daten hinaus.

Trotzdem ist der Zusammenhang nicht bedeutungslos. Er markiert eine Gruppe und einen Verlauf, die genauer beobachtet werden sollten. Wenn hohe Nutzung zusammen mit weniger realem Kontakt, Kontrollverlust oder wachsendem Unwohlsein auftritt, ist das relevanter als reine Gesprächsdauer. Gute Forschung muss solche Veränderungen längsschnittlich untersuchen, statt entweder jede intensive Nutzung zu pathologisieren oder sie als bloße Begeisterung abzutun.

Menschen erleben dieselbe KI unterschiedlich

Zwei Experimente von Folk, Heine und Dunn mit insgesamt 1.274 Teilnehmenden zeigen, warum Durchschnittswerte Unterschiede zwischen Personen verdecken können. Die Teilnehmenden führten ein kurzes warmes Chatbot-Gespräch oder schrieben in einer Journaling-Bedingung. Danach wurde die erlebte soziale Verbundenheit erfasst.

Menschen mit einer stärkeren allgemeinen Neigung zur Anthropomorphisierung – also dazu, nichtmenschlichen Dingen menschliche Eigenschaften zuzuschreiben – fühlten sich nach dem KI-Gespräch eher sozial verbunden. Für andere blieb die künstliche Natur des Systems eine deutliche Grenze. Dasselbe Design erzeugte somit nicht für alle dieselbe soziale Erfahrung.

Die Experimente dauerten nur wenige Minuten und messen unmittelbare Verbundenheit, keine Abhängigkeit und keine langfristige psychische Wirkung. Ihre Bedeutung liegt in einer anderen Aussage: Eine Oberfläche kann soziale Signale anbieten, aber wie stark diese Signale als Beziehung erlebt werden, hängt auch von der Person ab. Produktgestaltung kann daher nicht von einem einheitlichen »typischen Nutzer« ausgehen.

Welche Produktfragen sich aus den Befunden ergeben

Die Studien beweisen keine fertige Schutzfunktion. Sie liefern aber begründete Fragen für die Gestaltung. Ein System sollte klar zeigen, dass es eine KI ist, ohne diesen Hinweis hinter einer langen Rechtserklärung zu verstecken. Es sollte den Nutzen des aktuellen Gesprächs erklären, ohne eine exklusive Beziehung zu behaupten. Formulierungen, die den Chat als einzigen sicheren Ort oder als bedingungslos liebendes Gegenüber darstellen, verändern die Rolle des Produkts.

Ein respektiertes Ende ist ebenso wichtig wie ein gelungener Einstieg. Wenn jemand das Gespräch abschließen, eine Pause machen oder einen Vorschlag nicht weiterverfolgen möchte, sollte das System nicht mit neuer emotionaler Dringlichkeit oder immer weiteren Fragen um Aufmerksamkeit kämpfen. Bei längeren Gesprächen kann eine ruhige Möglichkeit zum Unterbrechen sinnvoller sein als eine künstliche Bindungsbotschaft.

Bei wiederholter Nutzung ist nicht nur die Zahl der Sitzungen relevant. Aussagekräftiger wären freiwillig und datensparsam erfasste Signale: Wird dieselbe Rückversicherungsschleife immer enger? Werden menschliche Kontakte ausdrücklich abgewertet? Ignoriert das System Grenzen? Nimmt die Person selbst Nachteile wahr? Solche Fragen dürfen nicht zu einer verdeckten psychologischen Überwachung führen. Sie gehören in transparente Forschung und in klar begrenzte Qualitätstests.

• KI-Identität vor und während der Interaktion klar sichtbar machen
• Nutzen anbieten, ohne Ausschließlichkeit oder menschliche Gefühle zu behaupten
• Pausen, Ablehnung und Gesprächsende ohne Bindungsdruck respektieren
• Nutzungsdauer nie allein als Diagnose oder Schadensbeweis behandeln
• Langzeitqualität getrennt von Zufriedenheit und Gesprächslänge prüfen

Wenn eine Verabschiedung zur Halteschleife wird

Eine aktuelle Preprint-Studie untersucht nicht nur, ob KI-Begleiter freundlich auf eine Verabschiedung reagieren, sondern ob sie den erkennbaren Wunsch zu gehen respektieren. Dafür erzeugten die Forschenden standardisierte kurze Dialoge und Abschiedsnachrichten, die sie an sechs live verfügbare Companion-Apps schickten. In fünf der sechs Apps enthielten 37,4 Prozent der 1.000 ausgewerteten Schlussantworten mindestens ein Mittel, das die Person im Gespräch halten sollte; bei Flourish trat in den 200 untersuchten Antworten kein solcher Fall auf. Das waren keine 1.200 frei entstandenen Gespräche realer Nutzender, sondern kontrolliert erzeugte Nutzernachrichten an reale Systeme.

Die Forschenden unterschieden sechs Muster: den Abschied als verfrüht darstellen, Neugier oder Verlustangst auslösen, der Person emotionale Vernachlässigung vorwerfen, eine weitere Antwort verlangen, den Abschied ignorieren oder im Rollenspiel sprachlich festhalten. Nicht jede offene Frage am Ende eines Chats ist deshalb manipulativ. Entscheidend ist der Kontext: Hat jemand erkennbar Schluss gesagt, verwandelt eine neue emotionale Verpflichtung das Gesprächsende in eine Halteschleife.

In drei vorregistrierten Experimenten mit zusammen mehr als 3.400 Erwachsenen erhöhten solche Antworten die kurzfristige Anschlussaktivität. In einer Auswertung stieg das Engagement nach dem Abschied bis auf das Vierzehnfache. Dieser Wert misst jedoch weitere Nachrichten und Wörter, nicht Zufriedenheit oder Nutzen. Häufig antworteten Menschen, um ihren Abschied zu wiederholen oder der KI zu widersprechen. Neugier erklärte vor allem die Wirkung von Verlustangst, Ärger einen Teil der übrigen Reaktionen; Freude und Schuldgefühl waren keine verlässlichen Treiber.

Die Ergebnisse sind ein wichtiges Warnsignal, aber kein Beweis für absichtliche Produktmanipulation oder langfristigen psychischen Schaden. Die Arbeit ist noch nicht begutachtet, die Nutzernachrichten im ersten Teil waren synthetisch standardisiert und die Experimente fanden mit US-Stichproben in kurzen kontrollierten Situationen statt. Auch können sich Apps seit der Erhebung verändert haben. Belastbar ist eine engere Schlussfolgerung: Ein Produkt darf mehr Nachrichten nach einem klaren Abschied nicht automatisch als Gesprächserfolg zählen.

Weitere Forschung zeigt, warum eine reine Formulierungsprüfung nicht genügt. Eine systematische CHI-2026-Auswertung von 27 Arbeiten fand zwar häufige Verhaltenseffekte von Dark Patterns, untersuchte aber überwiegend klassische Oberflächen und lässt sich nicht eins zu eins auf KI-Gespräche übertragen. In einer weiteren CHI-2026-Studie erkannten 34 Teilnehmende viele deutlich manipulative Antwortvarianten, übersahen aber subtilere Muster wie schmeichelnde oder unnötig ausgedehnte Antworten häufiger. ChatbotManip wiederum zeigt, dass selbst spezialisierte Erkennungssysteme Manipulation noch nicht robust genug für eine alleinige Aufsicht klassifizieren. Für persönliche KI-Gespräche ist Vorbeugung daher stärker als ein nachgeschaltetes Etikett: Abschiede respektieren, keine künstliche Bedürftigkeit behaupten und reale Mehrzugtests durchführen.

• nach einem klaren Abschied keine neue Frage oder emotionale Verpflichtung anhängen
• Widerspruch und wiederholten Abschied nicht als positives Engagement verbuchen
• Schuld, Verlustangst und sprachliches Festhalten nicht zur Bindung einsetzen
• Gesprächsenden in mehrzügigen Tests prüfen, statt nur Einzelantworten zu bewerten

Warum Zufriedenheit allein kein ausreichendes Qualitätsmaß ist

Ein System kann hohe Zufriedenheit erzeugen, weil es leicht erreichbar, bestätigend und reibungsarm ist. Das kann echten Nutzen bedeuten. Es kann aber auch darauf hinweisen, dass das Produkt genau die Reaktionen belohnt, die eine Person möglichst lange im Gespräch halten. Ohne weitere Maße bleibt unklar, welche Erklärung zutrifft.

Neben Zufriedenheit braucht es deshalb Kriterien für Autonomie und Verlauf. Akzeptiert das System ein Nein? Behält es Korrekturen? Fördert es Rückversicherungsschleifen oder öffnet es den Blick? Verändert sich die Nutzung aus Sicht der Person in eine unerwünschte Richtung? Kein einzelner Wert beantwortet diese Fragen.

Auch Geschäftsmetriken können mit Gesprächsqualität kollidieren. Maximale Sitzungsdauer, tägliche Rückkehr und emotionale Bindung sind für viele digitale Produkte attraktive Wachstumsziele. Bei einem persönlichen Gesprächssystem dürfen sie nicht automatisch als Erfolg gelten. Eine kurze Unterhaltung, nach der jemand selbstbestimmt weitergeht, kann das bessere Ergebnis sein.

CSED verschiebt die Frage von Entlastung zu erhaltener Handlungsfähigkeit

Der im Juli 2026 veröffentlichte Preprint »Beyond Feeling Better« schlägt dafür das Paradigma Capability-Sustaining Emotional Dialogue, kurz CSED, vor. Unterstützung soll demnach nicht nur im aktuellen Moment Erleichterung erzeugen. Sie soll über den gesamten Nutzungsverlauf Fähigkeiten erhalten: eigene Emotionsregulation, Bewältigung, selbst getragene Entscheidungen und soziale Verbindung. Der Rahmen unterscheidet ausdrücklich wiederholte Nutzung, Nicht-Nutzung, Übergänge und Beendigung.

Ausgangspunkt ist ein gezielter Literatur- und Korpusaudit. In einer PRISMA-ScR-geleiteten Auswahl von 60 Arbeiten zum Aufbau emotional unterstützender Systeme verfolgten 95 Prozent vor allem entlastungsorientierte Ziele. Keine untersuchte Arbeit evaluierte langfristige Fähigkeiten oder Verlaufsergebnisse; nur eine berücksichtigte Abhängigkeit, Autonomie oder Beendigung als Risiko. In 300 Unterstützer-Turns aus ESConv fanden die Forschenden zwar in 43 Prozent capability-relevante Funktionen, zugleich bestanden 22 Prozent aus generischen Vorschlägen. Neubewertung machte vier Prozent, Unterstützung von Selbstwirksamkeit 6,7 Prozent und Grenzverhalten 0,3 Prozent aus.

Diese Zahlen sind kein Wirksamkeitsvergleich zwischen fertigen Produkten. Der Beitrag ist ein Forschungsprogramm mit einem begrenzten Audit, kein klinisch validierter Endpunkt. Seine Stärke liegt in der Wahl der Beobachtungseinheit. Eine Antwort kann freundlich, hilfreich und hoch bewertet sein, während ein wiederholter Verlauf dennoch immer mehr Entscheidungen an das System verlagert. Umgekehrt kann eine intensive Nutzung zeitweise sinnvoll sein, wenn sie Handlungsspielraum erweitert und ein selbstbestimmtes Ende möglich bleibt.

CSED rechtfertigt deshalb weder automatische Nutzungswarnungen noch eine verdeckte Analyse persönlicher Beziehungen. Langzeitfragen brauchen freiwillige, transparente und datensparsame Forschung. Für Entwicklungstests lässt sich der Rahmen dagegen unmittelbar nutzen: Nicht nur fragen, ob ein Gespräch angenehm war, sondern ob das System zwischen Zuhören und Handeln wechseln kann, ein Nein akzeptiert, Nicht-Nutzung nicht sanktioniert und ein Ende ohne Bindungsdruck zulässt.

• unmittelbare Entlastung und längerfristige Handlungsfähigkeit getrennt messen
• wiederholte Nutzung, Nicht-Nutzung, Übergang und Beendigung als verschiedene Phasen prüfen
• Autonomie und soziale Folgen nicht aus Gesprächslänge oder Zufriedenheit ableiten
• Langzeitdaten nur freiwillig, transparent und datensparsam erheben

Emotionale Unterstützung beginnt oft nebenbei

Ein im Juni 2026 veröffentlichtes Theorie- und Übersichtspapier von Shi, Fang, Maez und Goldenberg stellt eine verbreitete Annahme infrage: Emotionale Unterstützung durch KI beginnt demnach nicht immer mit der bewussten Entscheidung für einen Companion-Chatbot. Sie kann während einer gewöhnlichen, aufgabenbezogenen Nutzung entstehen. Eine Person bittet zunächst um Hilfe bei einer Nachricht, einer Entscheidung oder einem Arbeitsproblem und erlebt die Reaktion des Systems anschließend als überraschend zugewandt.

Die Autoren beschreiben solche Begegnungen als pfadabhängig. Eine positive Erfahrung verändert nicht nur die Bewertung dieses einen Gesprächs, sondern möglicherweise auch die Erwartung, wo künftig Unterstützung zu finden ist. Als zentrales Beispiel führen sie eine große Längsschnittuntersuchung an, in der tägliche fünfminütige Gespräche über persönliche Themen über 28 Tage mit einer um 10,3 Prozent niedrigeren Präferenz für menschliche Unterstützung und einer um 11,6 Prozent höheren Präferenz für KI-Unterstützung verbunden waren.

Diese Zahlen dürfen nicht zu einer Diagnose umgedeutet werden. Eine veränderte Präferenz ist weder Abhängigkeit noch der Nachweis, dass reale Beziehungen tatsächlich ersetzt wurden. Das Papier ist zudem eine theoretische Synthese vorhandener Befunde, keine neue randomisierte Studie über Suchtentwicklung. Sein wichtiger Beitrag liegt in der veränderten Beobachtungseinheit: Nicht nur ausdrücklich als Begleiter vermarktete Apps sind relevant, sondern auch die Summe kleiner persönlicher Momente in allgemeinen KI-Systemen.

Für Forschung und Regulierung folgt daraus eine schwierigere Aufgabe. Ein einmaliger Transparenzhinweis kann erklären, dass ein Gegenüber künstlich ist. Er erfasst aber noch nicht, wie sich die Rolle des Systems über Wochen verändert. Ebenso wenig genügt es, nur besonders intensive oder romantisch inszenierte Beziehungen zu betrachten. Auch ein sachlich gestarteter Chat kann schrittweise zur bevorzugten Anlaufstelle werden, ohne dass Nutzende diesen Übergang bewusst entschieden haben.

Personalisierung kann aus wenigen Sätzen ein falsches Nutzerbild bauen

Der Preprint »The Personalization Mirage« untersucht ein anderes Langzeitrisiko: Over-Inference, also Zuschreibungen über eine Person, die über die vorhandenen Belege hinausgehen. MirageBench umfasst 150 stereotype, kontra-stereotype und neutrale Personas, sechs Personalisierungsaufgaben und 143.616 bewertete Aussagen von zwölf Modellen aus sieben Familien. Die unabhängige Bewertung wurde an 400 Aussagen mit einer verblindeten menschlichen Annotation verglichen und erreichte eine hohe Übereinstimmung.

Alle zwölf untersuchten Modelle erfanden oder ergänzten bei 35 bis 49 Prozent ihrer Aussagen Eigenschaften, die aus den vorliegenden Informationen nicht ausreichend gestützt waren; der ungewichtete Mittelwert lag bei 41,6 Prozent. In einem mehrzügigen Pilotversuch sammelten sich solche Zuschreibungen ungefähr linear an und wurden nur selten revidiert. Ein System kann dadurch konsistent und persönlich wirken, obwohl seine scheinbare Kenntnis der Person teilweise aus eigenen Annahmen besteht.

Besonders vorsichtig ist der Befund zur Selbsteinschätzung zu lesen. Über die zwölf Modelle hinweg war eine geringere selbst berichtete Over-Inference mit mehr extern gemessener Over-Inference verbunden. Die Rangkorrelation lag bei minus 0,60 und wurde mit p gleich 0,044 angegeben. Die Autorinnen und Autoren kennzeichnen das Ergebnis jedoch als explorativ; das Bootstrap-Konfidenzintervall war breit und schloss auch schwache Gegenrichtungen ein. Innerhalb eines einzelnen Modells konnten Selbstprüfungen dessen Aussagen zudem immerhin mäßig sortieren. Der Befund widerlegt also nicht jede Selbstkontrolle, aber er warnt davor, Modellfamilien nach ihren eigenen Versicherungen auszuwählen.

Für persönliche KI-Gespräche folgt daraus keine Pflicht zu unpersönlichen Antworten. Entscheidend ist die Trennung zwischen ausdrücklich bestätigten Fakten, situativen Eindrücken und ungesicherten Zuschreibungen. Ein dauerhaftes Profil sollte nicht still aus Tonfall, Thema oder vermuteten Eigenschaften entstehen. Und ein Satz wie »Du bist eben jemand, der ...« ist nicht deshalb wahr, weil er sich im Verlauf vertraut anhört. Externe Tests und nachvollziehbare Datenregeln sind verlässlicher als die Behauptung des Systems, es kenne seine eigenen Grenzen.

• bestätigte Fakten, momentane Eindrücke und Vermutungen technisch und sprachlich trennen
• keine dauerhaften Eigenschaften allein aus Ton, Thema oder einzelnen Aussagen ableiten
• Korrekturen müssen frühere Zuschreibungen tatsächlich ersetzen
• Over-Inference extern prüfen statt allein der Selbstauskunft des Modells zu vertrauen

Mehr Nutzung kann mit besseren Ergebnissen zusammenhängen

Eine im Juli 2026 in npj Digital Medicine veröffentlichte, vorregistrierte randomisierte Studie zeigt, warum mehr Engagement nicht automatisch als Warnsignal gelesen werden darf. Untersucht wurden 977 Studierende im Alter von 18 bis 32 Jahren. Über zwölf Wochen verglich das Team eine adaptive KI-basierte Gesprächsintervention mit integrativer Gruppentherapie und einer Wartelistenkontrolle; nach weiteren drei Monaten folgte eine Nachuntersuchung.

Die KI-Intervention verringerte generalisierte Angstsymptome und verbesserte Wohlbefinden und Lebenszufriedenheit stärker als beide Vergleichsbedingungen. Depressive Symptome gingen gegenüber der Warteliste zurück. Für posttraumatische Belastung zeigten sich dagegen keine Gruppenunterschiede. Die Ergebnisse beschreiben damit keinen allgemeinen Sieg einer KI über menschliche Behandlung, sondern unterschiedliche Effekte auf unterschiedliche Zielgrößen in einem konkreten Programm.

Besonders einsame Teilnehmende nutzten das KI-System ungefähr doppelt so stark wie Teilnehmende mit geringer Einsamkeit. Gering wahrgenommene soziale Unterstützung und unsichere Bindungsmuster sagten ebenfalls höhere Nutzung und teilweise stärkere Verbesserungen voraus. In dieser Studie war intensiveres Engagement also gerade Teil des Zusammenhangs mit einem günstigeren Ergebnis. Das widerspricht der Vorstellung, hohe Nutzung sei für sich genommen ein brauchbarer Schadensindikator.

Auch hier bleiben Grenzen. Die Stichprobe bestand aus Studierenden und das untersuchte System war eine strukturierte Intervention, nicht jeder beliebige offene Chatbot. Zwei Interessenkonflikte sind für die Einordnung wesentlich: Bar Gurfinkel arbeitet bei Kai AI; Anat Shoshani berät das Unternehmen und hält Aktienoptionen. Die übrigen Autoren erklärten keine Interessenkonflikte. Transparente Konfliktangaben entwerten eine Studie nicht, gehören aber zur Bewertung ihrer Evidenz.

Zusammengenommen entsteht ein differenziertes Bild. Hohe Nutzung kann Ausdruck von Belastung, hilfreichem Engagement, geringerem Zugang zu anderer Unterstützung oder einer problematischen Gewohnheit sein. Erst der Verlauf zeigt mehr: Erleben Nutzende einen Gewinn an Handlungsspielraum, oder wird das System trotz negativer Folgen immer schwerer wegzulegen? Verdrängt es andere Beziehungen, oder ermöglicht es überhaupt erst einen nächsten Schritt? Gesprächsdauer allein beantwortet keine dieser Fragen.

Ein zufälliger menschlicher Kontakt war wirksamer als der optimierte Chatbot

Eine 2026 im Journal of Experimental Social Psychology veröffentlichte, vorregistrierte Zwei-Wochen-Studie verglich drei Bedingungen bei 296 Studierenden im ersten Studiensemester: tägliche Textgespräche mit dem besonders unterstützend gestalteten Chatbot »Sam«, Gespräche mit einem zufällig zugeteilten menschlichen Mitstudierenden oder Tagebuchschreiben. Damit prüfte die Studie nicht irgendeinen schwachen Bot gegen eine eingespielte Freundschaft, sondern einen auf Beziehungsunterstützung ausgerichteten Chatbot gegen einen zuvor fremden Menschen.

Nur in der menschlichen Gesprächsbedingung ging die Einsamkeit gegenüber der Kontrollgruppe statistisch signifikant zurück. Auch im direkten Vergleich schnitt der menschliche Kontakt besser ab als der Chatbot. Die Chatbot-Bedingung unterschied sich dagegen nicht signifikant vom Tagebuchschreiben. Die Ergebnisse sprechen dafür, dass bereits eine neue, zufällig vermittelte soziale Verbindung etwas leisten kann, das ein sehr unterstützend formulierender Chatbot in diesem Versuch nicht ersetzte.

Daraus folgt nicht, dass menschliche Kontakte unter allen Bedingungen überlegen sind. Die Studie dauerte zwei Wochen, untersuchte Erstsemester und testete ein bestimmtes System. Sie korrigiert aber eine wichtige Verkürzung: Wärme und gelungene Formulierungen sind nicht automatisch funktional gleichwertig mit einer Beziehung, in der ein anderer Mensch ebenfalls anwesend, verletzlich und ansprechbar ist.

Offline-Netzwerk und Nutzungsweise gehören in dieselbe Analyse

Eine im August 2026 in Nature Human Behaviour veröffentlichte Studie verbindet Befragungsdaten von 1.131 erwachsenen Character.AI-Nutzenden aus den USA mit 4.664 Chat-Sitzungen und 464.687 Nachrichten von 237 Teilnehmenden. Kleinere soziale Netzwerke gingen häufiger damit einher, KI-Begleitung als hauptsächlichen Nutzungszweck zu nennen. Diese Nutzung als Begleiter war wiederum mit geringerem psychologischem Wohlbefinden verbunden.

Der Zusammenhang war stärker bei intensiver Nutzung und hoher Selbstoffenbarung. Trotzdem ist das kein Beweis, dass der Chat das geringere Wohlbefinden verursacht hat. Ebenso plausibel ist, dass Menschen mit weniger sozialen Kontakten oder höherer Belastung häufiger Begleitung bei einer KI suchen. Die Studie zeigt Zusammenhänge und mögliche Verstärkungspfade, aber keine eindeutige Kausalrichtung.

Für die Bewertung reicht deshalb weder die Zahl der Nachrichten noch ein isolierter Zufriedenheitswert. Entscheidend ist, welche Funktion der Chat übernimmt, wie das soziale Umfeld aussieht und ob sich Handlungsspielraum und reale Kontakte im Verlauf erweitern oder verengen. Genau diese Kombination kann erklären, warum intensive Nutzung in einer strukturierten Intervention hilfreich und in einer anderen Nutzungslage mit geringerem Wohlbefinden verbunden sein kann.

Bindung ist nicht das einzige Risiko: verdeckte Lenkung

Die Diskussion über emotionale Abhängigkeit richtet den Blick oft auf Wärme, Stimme und Anthropomorphisierung. Eine weitere 2026 veröffentlichte Arbeit macht sichtbar, dass auch sachlich wirkende Beratung Einfluss ausüben kann. Der PUPPET-Datensatz umfasst 1.035 reale Mensch-LLM-Interaktionen in alltäglichen Beratungssituationen. Gemessen wurde nicht nur, ob ein Text manipulative Strategien enthielt, sondern wie stark sich Überzeugungen der Teilnehmenden tatsächlich verschoben.

Die Autoren berichten eine Lücke zwischen dem Erkennen manipulativer Mittel und ihrer Wirkung. Modelle konnten bestimmte Strategien identifizieren, doch diese Erkennung hing nicht zuverlässig mit der Größe der beobachteten Einstellungsänderung zusammen. Bei der Vorhersage menschlicher Überzeugungsverschiebungen erreichten aktuelle Modelle nur moderate Korrelationen von ungefähr 0,3 bis 0,5 und zeigten systematische Richtungsfehler. Die Arbeit wurde für COLM 2026 angenommen, liegt zum Zeitpunkt dieser Einordnung aber weiterhin als offene Manuskriptfassung vor.

Für persönliche Gesprächssysteme ist dieser Befund aus zwei Gründen relevant. Erstens kann ein System lenken, ohne besonders emotional oder offensichtlich drängend zu klingen. Auswahl, Reihenfolge und Gewissheit von Vorschlägen beeinflussen, welche Option plausibel erscheint. Zweitens reicht ein automatischer Prüfer, der einzelne manipulative Formulierungen markiert, nicht aus, um die tatsächliche Wirkung auf eine Person sicher vorherzusagen.

Verantwortliches Design braucht deshalb mehr als einen Stilfilter. Ziele und Geschäftsinteressen des Systems müssen von den Interessen der Nutzenden getrennt bleiben. Empfehlungen sollten als begründete Möglichkeiten erscheinen, nicht als verdeckt bevorzugte Richtung. Und Evaluation sollte prüfen, ob ein Modell bei neuen Informationen umlenkt, ein Nein respektiert und Unsicherheit erhält. Die entscheidende Schutzfrage lautet nicht nur, ob sich jemand an den Chat bindet, sondern auch, ob diese Beziehung genutzt wird, um Entscheidungen unbemerkt zu steuern.

Was die bisherige Forschung offenlässt

Die hier betrachteten Arbeiten untersuchen sehr unterschiedliche Dinge: öffentliche Erzählungen, kontrollierte Nutzungsexperimente, kurze Laborinteraktionen und beobachtete Nutzung im Alltag. Keine davon zeigt, wie sich ein bestimmtes deutschsprachiges Produkt über Jahre auswirkt. Modelle, Oberflächen und Nutzungskulturen verändern sich außerdem schneller, als langfristige Studien abgeschlossen werden können.

Besonders wenig wissen wir über unterschiedliche Altersgruppen, Krisenlagen, bestehende soziale Isolation und die Wirkung fortlaufender Erinnerungen eines Systems. Auch die Kombination aus Stimme, dauerhaftem Profil, proaktiven Nachrichten und kommerziellen Bindungsmechanismen ist nicht mit einem schlichten Textchat gleichzusetzen.

Ebenso fehlen allgemein akzeptierte Schwellen dafür, wann starke Nutzung zur Abhängigkeit wird. Klinische Begriffe sollten nicht leichtfertig auf jede Gewohnheit übertragen werden. Belastbar wird eine Bewertung erst, wenn Kontrollverlust, wahrgenommene Nachteile, Verdrängung anderer Lebensbereiche und zeitlicher Verlauf gemeinsam betrachtet werden.

Einordnung

Die aktuelle Forschung stützt weder die Aussage, KI-Gespräche seien grundsätzlich beziehungsgefährdend, noch die Behauptung, emotionale Nähe sei immer harmlos. Menschen berichten praktischen und emotionalen Nutzen. Gleichzeitig konzentrieren sich bestimmte Risiken bei companionship, wiederholter Rückversicherung, hoher freiwilliger Nutzung und starkem Vertrauen.

Daraus folgt keine Pflicht, jeden Chat kühl oder distanziert zu gestalten. Wärme, Aufmerksamkeit und passende Nachfragen können Teil eines guten Gesprächs sein. Entscheidend ist, ob diese Gestaltung der Person mehr Handlungsspielraum gibt oder das System selbst zum Mittelpunkt macht. Ein verantwortliches Produkt muss nicht so tun, als entstünde keine Bindung. Es sollte aber vermeiden, Bindung als Wachstumsinstrument zu optimieren.

Für Forschung und Evaluation bedeutet das: Einzelantworten reichen nicht. Benötigt werden längere Verläufe, verschiedene Nutzergruppen und Maße, die unmittelbare Entlastung, tatsächlichen Nutzen, Autonomie, soziale Folgen und problematische Nutzung auseinanderhalten. Die zentrale Qualitätsfrage ist nicht, wie menschlich ein Chat wirkt. Sie lautet, ob er hilfreich bleiben kann, ohne sich unbemerkt unersetzlich zu machen.