Bei psychologischen KI-Apps prüft Nutzerlob keine Krisensicherheit

Die falsche Abkürzung von Zufriedenheit zu Wirkung

Bei digitalen Angeboten werden gute Nutzungserfahrungen schnell als Beleg für einen gesundheitlichen Nutzen gelesen. Bei psychologischen Gesprächssystemen ist diese Abkürzung besonders verführerisch. Wer sich verstanden fühlt, länger im Dialog bleibt oder eine App positiv bewertet, beschreibt zunächst eine Erfahrung mit dem Produkt. Daraus lässt sich nicht ableiten, dass Symptome verlässlich zurückgehen, Veränderungen anhalten oder das System in schwierigen Situationen angemessen reagiert. Wahrgenommene Qualität und nachgewiesene Wirkung sind unterschiedliche Größen.

Unsere redaktionelle These lautet deshalb: Nutzerrezensionen sind für die Gestaltung solcher Systeme unverzichtbar, aber als Sicherheits- oder Wirksamkeitsnachweis ungeeignet. Sie machen sichtbar, welche Gesprächseigenschaften Nähe erzeugen und an welchen Stellen die Interaktion zerfällt. Gerade dadurch legen sie eine heikle Konstruktion offen. Ein System kann überzeugend genug sein, um persönliche Offenheit und Bindung hervorzurufen, ohne zugleich über das Verständnis, die Zuständigkeit oder die geprüfte Verlässlichkeit zu verfügen, die Nutzer:innen ihm möglicherweise zuschreiben.

Zehn Apps, zwei Plattformen und eine klar begrenzte Frage

Haque und Rubya führten eine explorative Beobachtung von zehn kommerziell verfügbaren, populären Mental-Health-Apps mit integrierter Gesprächsfunktion durch. Die Angebote richteten sich laut Studie an verschiedene psychische Anliegen und versprachen Unterstützung oder Behandlung. Zusätzlich analysierten die Forschenden qualitativ 3.621 Rezensionen aus dem Google Play Store und 2.624 aus dem Apple App Store. Untersucht wurde damit vor allem, welche Eigenschaften die Apps anbieten und wie Nutzer:innen diese in öffentlich zugänglichen Bewertungen beschreiben.

Dieses Design ist für einen Marktüberblick ergiebig. Es erfasst Erfahrungen über mehrere Produkte und beide großen App-Plattformen hinweg, statt lediglich ein einzelnes System im Labor zu betrachten. Zugleich setzt es eine deutliche Wissensgrenze: Die Studie ist kein klinischer Wirksamkeitstest. Rezensionen enthalten Selbstauskünfte und Bewertungen, aber keine in der Studie erhobenen Diagnosen, kontrollierten Vergleichsbedingungen oder langfristig gemessenen Behandlungsergebnisse. Die Publikation fragt nach Angebot und Wahrnehmung, nicht danach, ob eine bestimmte Intervention nachweislich wirkt.

Diese Begrenzung mindert den Erkenntniswert nicht, solange man sie ernst nimmt. Die Untersuchung liefert eine Kartografie der Reibungspunkte kommerzieller Gesprächsprodukte. Sie zeigt, welche Erwartungen durch Verfügbarkeit, Personalisierung und menschenähnliche Sprache entstehen. Sie kann jedoch nicht klären, wie häufig bestimmte Erfahrungen unter allen Nutzer:innen vorkommen oder welche gesundheitlichen Folgen eine längere Nutzung hat. Solche Aussagen würden ein anderes Studiendesign erfordern.

Warum sich Menschen einer Software anvertrauen

In der Leitstudie wurden personalisierte und menschenähnliche Interaktionen positiv aufgenommen. Nutzer:innen beschrieben außerdem einen als urteilsfrei empfundenen Raum, in dem es leichter fiel, sensible Informationen mitzuteilen. Die ständige Erreichbarkeit und die bequeme Nutzung gehörten ebenfalls zu den geschätzten Eigenschaften. Das System verlangt keinen Termin und reagiert unabhängig von Tageszeit oder Ort. Diese Niedrigschwelligkeit kann besonders relevant sein, wenn Gespräche mit Freund:innen, Familie oder Fachpersonen nicht gewünscht oder nicht erreichbar sind.

Der Befund erlaubt eine plausible, aber begrenzte Interpretation: Offenheit gegenüber einer Maschine muss keine Verwechslung mit einem Menschen voraussetzen. Schon die Erwartung, nicht beschämt, unterbrochen oder sozial beurteilt zu werden, kann die Gesprächsschwelle senken. Das ist eine reale Produktqualität. Es bleibt jedoch eine wahrgenommene Qualität der Interaktion. Ob die mitgeteilten Informationen angemessen eingeordnet werden und ob die Antwort tatsächlich hilfreich ist, steht auf einem anderen Blatt.

Menschenähnlichkeit erhöht auch den Schaden schlechter Antworten

Die von Haque und Rubya ausgewerteten Rezensionen dokumentieren nicht nur Zustimmung. Unpassende Antworten und falsche Annahmen über die Persönlichkeit der Nutzer:innen führten zu Frustration und nachlassendem Interesse. Das ist mehr als ein gewöhnliches Bedienproblem. Ein Gesprächssystem nimmt Äußerungen auf, formuliert Bezüge und erzeugt damit den Eindruck, es habe die Person und ihre Situation erfasst. Scheitert diese Anschlussfähigkeit, bricht nicht lediglich eine Funktion ab; die zuvor aufgebaute Glaubwürdigkeit des Dialogs wird beschädigt.

Hier liegt ein grundlegender Gestaltungskonflikt. Je stärker ein Produkt menschliche Zugewandtheit simuliert, desto höher wird die Erwartung an Kontexttreue und angemessene Reaktion. Eine freundliche Formulierung kann die inhaltliche Fehlannahme sogar verdecken. Unsere Einordnung ist daher strenger als die übliche Forderung nach natürlicheren Antworten: Nicht maximale Menschenähnlichkeit sollte das Ziel sein, sondern eine Gesprächsform, deren Anmutung nicht mehr Verständnis verspricht, als das System zuverlässig leisten kann.

Rund um die Uhr erreichbar, aber nicht krisenfest

Besonders deutlich wird der Konflikt bei Krisen. Die Leitstudie hält fest, dass permanente Verfügbarkeit grundsätzlich den Eindruck einer jederzeit verfügbaren Krisenunterstützung erzeugen kann. Zugleich fehlte selbst neueren untersuchten Systemen das erforderliche Verständnis, um eine Krise angemessen zu erkennen. Die Studie beschreibt außerdem das Risiko einer übermäßigen Bindung: Nutzer:innen können sich stark an ein System gewöhnen und seine Gesellschaft dem Kontakt mit Freund:innen oder Familie vorziehen.

Diese beiden Befunde gehören zusammen. Ständige Präsenz ist nicht bloß ein Zugangsvorteil, sondern kann die Stellung des Produkts im sozialen Umfeld verändern. Eine App, die jederzeit reagiert, kann subjektiv verlässlicher erscheinen als Menschen, obwohl ihre Krisenerkennung gerade nicht verlässlich belegt ist. Aus der Studie folgt nicht, dass Nutzung zwangsläufig isoliert. Sie benennt jedoch ein Risiko: Technische Verfügbarkeit kann als fürsorgliche Zuständigkeit missverstanden werden.

Redaktionell halten wir deshalb die Rede von einer jederzeit verfügbaren Unterstützung für unvollständig, solange nicht ebenso sichtbar ist, wo Erkennung und Reaktion enden. Eine Uhrzeit kennt das System nicht als Grenze; fachliche Kompetenzgrenzen hat es trotzdem. Erreichbarkeit ist eine Betriebseigenschaft, keine Garantie angemessener Hilfe.

Der Nahblick auf Wysa bestätigt das Muster

Chaudhry und Debi untersuchten 159 Rezensionen zur App Wysa, die zwischen Januar 2020 und März 2024 auf deren Google-Play-Seite veröffentlicht worden waren. Die Beiträge wurden offen und induktiv codiert. Die thematische Analyse ergab sieben größere Themen: ein vertrauensförderndes Umfeld, allgegenwärtiger Zugang, wahrgenommene Wirksamkeit, erwünschte Menschenähnlichkeit, Grenzen der KI, der Wunsch nach zusammenhängenden und vorhersehbaren Dialogen sowie Verbesserungsbedarf an der Benutzeroberfläche.

Die kleinere, auf ein Produkt und eine Plattform konzentrierte Untersuchung erweitert den breiteren Marktüberblick der Leitstudie. Auch hier stehen Bindung und Zugänglichkeit neben Brüchen in der Gesprächsqualität. Nutzer:innen berichteten, Wysa könne eine Verbindung fördern und zu als positiv empfundenen Schritten beitragen. Das bleibt ausdrücklich eine Wahrnehmung aus Rezensionen. Die Studie weist keine klinische Wirksamkeit nach, auch wenn ihre Autorinnen die berichteten Erfahrungen als Hinweis auf emotionales Wohlbefinden, Resilienz und Selbstverbesserung einordnen.

Interessant ist vor allem der Wunsch nach Kohärenz und Vorhersehbarkeit. Er widerspricht der Annahme, ein psychologisches KI-Gespräch müsse vor allem überraschend menschlich wirken. Für sensible Anwendungen könnte berechenbares Verhalten wertvoller sein als sprachliche Virtuosität. Das ist eine redaktionelle Schlussfolgerung aus den beschriebenen Themen, kein von der Studie getesteter Produktvergleich.

Die Ersatzfrage verdeckt die eigentliche Evidenzlücke

Zhang und Wang diskutieren, ob KI künftig Funktionen von Psychotherapeut:innen übernehmen kann. Ihr Beitrag verweist auf mögliche Vorteile wie Skalierbarkeit, kontinuierliche Verfügbarkeit, Datenverarbeitung und einen leichteren Zugang. Gleichzeitig behandelt er Grenzen bei Langzeitgedächtnis, algorithmischer Verzerrung, Datenschutz, ethischer Beurteilung, echter Empathie und der Interpretation nonverbaler oder kultureller Zusammenhänge. Die Autor:innen plädieren letztlich für menschliche Aufsicht und eine ergänzende statt verdrängende Rolle.

Der bereitgestellte Text beschreibt allerdings keine eigene randomisierte Versuchsanordnung mit Stichprobe, Intervention und Resultaten. Er bündelt Argumente und verweist auf andere Arbeiten. Dabei hält er selbst fest, dass vorläufige Studien häufig kleine Gruppen und keine langfristige Nachbeobachtung haben und dass kurzfristige Verbesserungen nicht ohne Weiteres anhalten. Weitergehende Aussagen über eine Gleichwertigkeit oder Überlegenheit gegenüber menschlicher Behandlung lassen sich daraus nicht ableiten.

Die Frage nach dem vollständigen Ersatz ist ohnehin zu grob. Sie vermischt Funktionen, die unterschiedlich geprüft werden müssten: Gesprächseröffnung, strukturierte Übungen, Dokumentation, emotionale Begleitung, Risikoerkennung und verantwortliche Versorgung. Eine Maschine kann bei einer dieser Aufgaben nützlich sein und bei einer anderen scheitern. Wer nur nach Ersatz fragt, übersieht genau jene Übergänge, an denen aus einer angenehmen Unterhaltung eine sicherheitsrelevante Erwartung wird.

Entscheidend ist, welches Versprechen die Oberfläche erzeugt

Aus den drei Publikationen ergibt sich kein abschließendes Urteil über psychologische KI-Anwendungen. Dafür sind ihre Fragen und Methoden zu begrenzt. Gemeinsam machen sie aber eine belastbare Unterscheidung möglich: Rezensionen können Akzeptanz, Offenheit, Bindung, Irritation und Bedienprobleme sichtbar machen. Sie können weder klinische Effekte noch Krisensicherheit oder langfristige Folgen bestätigen. Der Übergang von der einen Aussage zur anderen wäre methodisch unzulässig.

Für die Produktentwicklung liegt die anspruchsvollste Aufgabe deshalb nicht allein in besseren Formulierungen. Sie besteht darin, die soziale Bedeutung des Dialogs nicht größer werden zu lassen als seine geprüfte Leistungsfähigkeit. Personalisierung, ständige Erreichbarkeit und urteilsfrei wirkende Sprache sind keine neutralen Komfortmerkmale. Sie beeinflussen, wie viel Vertrauen Nutzer:innen investieren, was sie offenlegen und welche Verantwortung sie dem System zuschreiben.

Unsere redaktionelle Position ist klar: Je überzeugender eine psychologische KI-App Nähe herstellt, desto weniger darf sie sich hinter dem Status eines bloßen digitalen Werkzeugs verstecken. Damit ist keine pauschale Ablehnung solcher Angebote begründet. Wohl aber eine strengere Beweislast für Aussagen über Wirkung und Sicherheit. Gute Rezensionen zeigen, dass ein Gespräch angenommen wird. Ob es seinen impliziten Versprechen standhält, beginnt erst jenseits des App-Stores.