Wenn Menschen einem Chatbot vertrauen, erzählen sie ihm andere Dinge

Vertrauen wirkt auf Absicht und tatsächliche Nutzung

Die ChatGPT-Studie befragte Erwachsene in den USA, die Version 3.5 mindestens einmal monatlich verwendeten. Informationssuche, Unterhaltung und Problemlösung waren die häufigsten Zwecke; 44 Personen nannten Gesundheitsfragen.

Vertrauen hatte signifikante direkte Effekte auf Nutzungsabsicht und tatsächliche Nutzung. Ein Teil des Zusammenhangs mit Nutzung wurde zusätzlich über die Absicht vermittelt.

Das Modell erklärte 50,5 Prozent der Varianz in der Absicht, aber nur 9,8 Prozent in der tatsächlichen Nutzung. Viele praktische Faktoren liegen also zwischen positiver Haltung und Verhalten.

Für einen Gesprächschat bedeutet das: Vertrauen kann den ersten Schritt erleichtern, doch Erreichbarkeit, Antwortqualität, Kosten und konkrete Erfahrung entscheiden mit, ob Menschen bleiben.

Reale Chats enthielten viel emotionale Verletzlichkeit

Die SimSimi-Studie untersuchte Äußerungen mit „depress“ oder „sad“ aus drei westlichen und fünf östlichen Ländern. Sie verwendete sprachliche Analysen und halbüberwachte Themenklassifikation.

In den Chatdaten wurden 74.045 von 148.590 relevanten Äußerungen, also 49,83 Prozent, als emotionale Verletzlichkeit eingeordnet. In den verglichenen Social-Media-Daten waren es 149 von 1.978 beziehungsweise 7,53 Prozent.

Die unterschiedlichen Datensätze und Auswahlregeln erlauben keine universelle Aussage, jeder Chatbot führe automatisch zu mehr Offenheit. Das Muster zeigt aber eine deutlich andere Kommunikationssituation.

Ein direkt antwortendes, nicht öffentlich sichtbares Gegenüber kann die Schwelle senken. Diese Offenheit macht Datenschutz und eine passende Reaktion besonders wichtig.

Kulturelle Gruppen drückten Belastung verschieden aus

Nutzerinnen und Nutzer aus den als östlich gruppierten Ländern verwendeten stärkere emotionale Sprache und mehr mit Traurigkeit verbundene Wörter. In westlichen Ländern wurden häufiger psychische Gesundheit, Tod und Schimpfwörter erwähnt.

Solche Ergebnisse beschreiben Gruppenmuster, keine festen Eigenschaften einzelner Menschen. Sie sollten nicht dazu führen, dass ein System anhand des Landes automatisch eine emotionale Rolle zuweist.

Besser ist es, Gesprächsstil und gewünschte Richtung direkt wählbar zu machen und während des Dialogs an Rückmeldungen anzupassen.

Kulturelle Qualität braucht originäre Daten, lokale Reviews und Aufmerksamkeit für Unterschiede innerhalb eines Landes. Übersetzung allein kann weder Umgangssprache noch Erwartungen an Hilfe vollständig übertragen.

Offenheit ist noch kein Nutzen

Wenn jemand mehr erzählt, hat das System mehr Material für eine Antwort. Die Person kann das Aussprechen als entlastend erleben. Daraus folgt aber nicht automatisch eine messbare Verbesserung psychischer Gesundheit.

Offenheit kann auch Risiken erhöhen, wenn der Chat falsch deutet, zu viel speichert oder eine unangemessene Empfehlung besonders überzeugend formuliert.

Ein Qualitätsmodell sollte deshalb Prozess und Ergebnis trennen: Was wurde geteilt, wie reagierte das System, wie erlebte die Person den Verlauf und welche Veränderung zeigte sich später?

Auch Schweigen oder ein kurzer Chat kann hilfreich sein. Erfolg darf nicht als maximale Selbstoffenbarung oder möglichst lange Gesprächsdauer definiert werden.

Woebot liefert ein kurzfristiges Wirksamkeitssignal

Die Woebot-Studie randomisierte 70 junge Erwachsene zu zwei Wochen CBT-basiertem Gesprächsagent oder einem Informations-E-Book. 83 Prozent lieferten Daten zum zweiten Messzeitpunkt.

In der Intention-to-treat-Analyse reduzierte die Woebot-Gruppe den PHQ-9 stärker. Bei den vollständigen Fällen sanken GAD-7-Werte in beiden Gruppen.

Die Teilnehmenden interagierten im Mittel 12,14-mal mit Woebot. Kommentare deuteten an, dass Prozessfaktoren für Akzeptanz wichtiger waren als der traditionelle Therapieinhalt allein.

Der Befund gilt für ein strukturiertes Selbsthilfeprogramm, nicht für offene soziale Chatbots oder beliebige generative Modelle. Er zeigt, dass ein Gesprächsformat Interventionen tragen kann, wenn Inhalt und Ziel definiert sind.

Übervertrauen kann den möglichen Nutzen umkehren

Die Vertrauensstudie warnt ausdrücklich vor blindem Vertrauen, besonders bei Gesundheitsfragen. ChatGPT wurde nicht ursprünglich als medizinisches System entwickelt.

Ein natürlicher Ton kann Menschen dazu bringen, allgemeine Informationen als individuell geprüfte Empfehlung zu verstehen. Je persönlicher die Unterhaltung, desto wichtiger wird diese Unterscheidung.

Ein gutes System sollte sichtbar zwischen Zuhören, eigener Perspektive und überprüfbarer Fachinformation wechseln. Quellen und Unsicherheit gehören an die Aussage, nicht nur in eine separate Infoseite.

Es muss außerdem ein Nein akzeptieren. Wenn Vertrauen genutzt wird, um nach einer Ablehnung weiter zu drängen, wird aus Unterstützung unerwünschte Einflussnahme.

Datengewinn braucht freiwillige und enge Grenzen

Reale Gespräche können wertvolle Fehlermuster für die Entwicklung zeigen. Gerade emotionale Daten sind jedoch sensibel und dürfen nicht automatisch als kostenloses Trainingsmaterial behandelt werden.

Freiwillige Qualitätsfreigabe sollte von der normalen Nutzung getrennt sein. Personen müssen verstehen, welche Inhalte ausgewertet werden, zu welchem Zweck und wie Identifizierbarkeit reduziert wird.

Nachgelagerte Analysen können Ratschläge, Deutungen oder vergessene Korrekturen markieren. Solche Klassifikationen sind Messinstrumente und dürfen nicht allein über die Qualität eines Menschen oder Gesprächs urteilen.

Öffentliche Berichte sollten aggregierte Fehler und Verbesserungen zeigen, ohne private Verläufe wiedererkennbar zu machen.

Auch Zeitstempel, seltene Ereignisse und ungewöhnliche Formulierungen können Identifizierbarkeit erhöhen. Anonymisierung ist daher mehr als das Entfernen von Namen. Für Veröffentlichungen sollten Beispiele neu formuliert oder nur als abstrakte Fehlermuster beschrieben werden.

Zur Kalibrierung gehört außerdem, dass der Chat keine Diagnose oder tiefe Musterkenntnis aus kurzer Offenheit ableitet. Viele persönliche Details erhöhen die Textmenge, aber nicht automatisch die fachliche Grundlage für eine weitreichende Deutung.

Vertrauen, Offenheit und Wirkung bleiben drei Nachweise

Die drei Studien ergänzen sich, beantworten aber unterschiedliche Fragen. Vertrauen erklärt Nutzung, reale Chatdaten zeigen Ausdrucksmuster, und eine randomisierte Intervention prüft kurzfristige Symptomveränderung.

Ein Produkt kann in einer Ebene stark und in einer anderen schwach sein. Menschen können viel erzählen, obwohl die Antworten schlecht sind. Sie können ein hilfreiches Angebot ablehnen, weil sie ihm nicht vertrauen.

Auch die zeitliche Reihenfolge ist offen. Positive Erfahrungen können Vertrauen schaffen, vorhandenes Vertrauen kann die Nutzung erhöhen, und häufige Nutzung kann wiederum mehr Offenheit ermöglichen. Querschnittsdaten allein trennen diese Richtungen nicht vollständig.

Deshalb braucht eine glaubwürdige Evaluation mehrere Perspektiven: Adoption, Gesprächsprozess, Datenschutz, fachliche Qualität und tatsächliche Folgen.

Wenn Menschen einem Chatbot vertrauen, erzählen sie ihm andere Dinge. Die Verantwortung beginnt genau dort: Offenheit respektieren, Rolle begrenzen und Nutzen nur dort behaupten, wo er mit einer passenden Methode untersucht wurde.