Nähe psychologischer KI-Apps ist keine therapeutische Zuständigkeit

Die Ersatzfrage lenkt vom eigentlichen Konflikt ab

Die Leitpublikation von Zoha Khawaja und Jean-Christophe Bélisle-Pipon setzt an einer Rollenverwechslung an. Psychologische KI-Anwendungen könnten den Zugang zu Unterstützung erweitern: Sie sind über Mobiltelefone erreichbar, zeitlich nicht an Sprechstunden gebunden und können finanzielle oder logistische Hürden teilweise umgehen. Die Autoren beschreiben sie jedoch ausdrücklich als mögliche Ergänzung klinischer Arbeit, nicht als deren selbstverständlichen Ersatz. Diesen Unterschied müssen Produkte nicht nur technisch einhalten, sondern gegenüber ihren Nutzerinnen und Nutzern verständlich machen.

Der Artikel ist nach den bereitgestellten Angaben keine klinische Wirksamkeitsstudie mit ausgewiesener Stichprobe, Kontrollgruppe oder Ergebnismaßen. Er entwickelt vielmehr eine ethische und konzeptionelle Analyse. Im Mittelpunkt steht die Gefahr einer therapeutischen Fehlannahme: Menschen könnten die Beschränkungen eines Systems unterschätzen und zugleich seine Fähigkeit überschätzen, individuelle Unterstützung und Orientierung zu leisten. Diese Perspektive verschiebt den Streit. Nicht erst eine nachweislich schädliche Antwort ist problematisch. Schon ein falsches Verständnis der Beziehung kann ethisch relevant sein.

Ein flüssiges Gespräch erzeugt Erwartungen

Die Fehlannahme entsteht nicht allein durch Unwissen. Sie wird durch die Form der Interaktion begünstigt. Ein dialogisches System spricht Nutzer direkt an, reagiert auf persönliche Mitteilungen und hält einen sprachlichen Zusammenhang aufrecht. Dadurch kann es so wirken, als passe es sich der besonderen Lage seines Gegenübers an. Khawaja und Bélisle-Pipon warnen jedoch gerade vor Missverständnissen über Zweck, Anpassungsfähigkeit und Reaktionsvermögen solcher Anwendungen. Dass ein System einen Sachverhalt sprachlich aufgreift, belegt nicht, dass es dessen Bedeutung im Leben dieser Person angemessen erfasst.

Hier liegt der Kernkonflikt: Dieselben Merkmale, die eine Anwendung zugänglich und angenehm machen, können ihre Grenzen unsichtbar werden lassen. Personalisierte Ansprache ist funktional nützlich, aber zugleich eine soziale Behauptung. Sie vermittelt Aufmerksamkeit, ohne zu garantieren, dass hinter dieser Aufmerksamkeit belastbares Fallverständnis, professionelles Urteil oder eine verantwortliche Beziehung stehen. Unsere redaktionelle Position ist deshalb klar: Bei psychologischen KI-Angeboten darf die menschlich wirkende Oberfläche nicht als bloßes Komfortmerkmal behandelt werden. Sie prägt, welche Rolle Menschen dem System zuschreiben.

Die digitale Bindung ist weder eingebildet noch ausreichend

Khawaja und Bélisle-Pipon nennen die Ausbildung eines digitalen Arbeitsbündnisses als einen möglichen Weg in die Rollenverwechslung. Das bedeutet nicht, dass erlebte Entlastung oder Verbundenheit unecht wäre. Menschen können sich in einem maschinell vermittelten Gespräch ernst genommen fühlen. Ethisch heikel wird es, wenn dieses Erleben als Beleg für Fähigkeiten dient, die das System nicht besitzt. Eine subjektiv bedeutsame Verbindung und eine verantwortliche professionelle Beziehung sind verschiedene Dinge.

Diese Unterscheidung sollte nicht gegen Nutzer gewendet werden. Wer auf zugewandte Sprache mit Vertrauen reagiert, begeht keinen naiven Kategorienfehler aus eigenem Verschulden. Die Anwendung ist gerade darauf angelegt, Anschlusskommunikation zu erzeugen. Deshalb reicht es aus unserer Sicht nicht, ihre Grenzen einmalig in Nutzungsbedingungen oder beim ersten Start zu erwähnen. Rollenklärung muss auch im laufenden Gespräch standhalten – besonders dann, wenn die Sprache persönlicher wird und das System den Eindruck hoher Sicherheit oder genauer Menschenkenntnis erwecken könnte.

App-Rezensionen zeigen die Doppelwirkung derselben Gestaltung

Die Untersuchung von Md Romael Haque und Sabirat Rubya erweitert die konzeptionelle Kritik um Beobachtungen aus kommerziellen Angeboten. Die Forschenden betrachteten zehn verbreitete mobile Anwendungen mit integrierter Gesprächsfunktion und analysierten qualitativ 3.621 Rezensionen aus dem Google Play Store sowie 2.624 Rezensionen aus dem Apple App Store. Nutzer nahmen personalisierte, menschenähnliche Interaktionen positiv auf. Zugleich führten unpassende Antworten und Annahmen über ihre Persönlichkeit zu Enttäuschung oder nachlassendem Interesse.

Das ist kein Nachweis klinischer Wirksamkeit. App-Rezensionen geben Auskunft darüber, wie freiwillig veröffentlichte Erfahrungen formuliert werden; sie messen weder systematisch Symptome noch langfristige Veränderungen. Auch lässt sich aus diesem Design keine allgemeine Wirkung für alle Nutzer ableiten. Für die Leitfrage sind die Rezensionen dennoch aufschlussreich: Sie zeigen, dass wahrgenommene Qualität stark davon abhängt, ob ein System passend und persönlich erscheint. Genau diese Wahrnehmung kann Vertrauen erzeugen, obwohl die zugrunde liegende Fähigkeit zur individuellen Beurteilung ungeklärt bleibt.

Haque und Rubya berichten zudem, dass die Anwendungen als urteilsfreier Raum erlebt wurden und das Mitteilen sensibler Informationen erleichterten. Auch das ist zunächst eine Wahrnehmung, kein Beleg für sichere oder angemessene Verarbeitung. Offenheit gegenüber einem System erweitert dessen Verantwortung nicht automatisch. Sie vergrößert aber die Bedeutung der Frage, welche Erwartungen durch Gestaltung, Produktbeschreibung und Antworten geweckt werden.

Ständige Erreichbarkeit ist keine Krisenkompetenz

Besonders deutlich wird die Rollendifferenz bei akuten Krisen. In der App-Analyse erscheint die jederzeitige Verfügbarkeit als Vorteil: Ein System kann angesprochen werden, wenn andere Kontakte nicht erreichbar oder nicht gewünscht sind. Dieselbe Untersuchung hält jedoch fest, dass selbst neuere Angebote Krisensituationen nicht zuverlässig erkennen. Rund-um-die-Uhr-Betrieb ist somit eine technische Eigenschaft, aber kein Nachweis dafür, dass jederzeit geeignete Unterstützung verfügbar wäre.

Die Rezensionen weisen außerdem auf mögliche starke Bindung und eine Bevorzugung der Anwendung gegenüber Freunden oder Familie hin. Daraus lässt sich nicht ableiten, dass solche Systeme grundsätzlich soziale Isolation verursachen. Es handelt sich um berichtete Nutzungserfahrungen, nicht um einen Kausalnachweis. Plausibel ist jedoch ein Verstärkungseffekt: Je leichter, geduldiger und scheinbar urteilsfreier das digitale Gegenüber erscheint, desto attraktiver kann es im Vergleich zu anspruchsvollen menschlichen Beziehungen werden. Die von Khawaja und Bélisle-Pipon beschriebene Fehlannahme betrifft daher nicht nur falsche Vorstellungen über Leistungsfähigkeit, sondern auch die Stellung, die ein System im sozialen Leben erhält.

Schädliche Antworten sind nur ein Teil des Problems

Die Leitpublikation benennt unzureichende oder schädliche Unterstützung, die mögliche Ausbeutung verletzlicher Gruppen und diskriminierende Ratschläge infolge algorithmischer Verzerrungen. Diese Risiken liegen nicht erst bei spektakulärem Systemversagen vor. Ein Angebot kann ruhig, respektvoll und hilfreich klingen und dennoch relevante Besonderheiten übersehen. Umgekehrt kann die sprachliche Sicherheit einer Antwort Zweifel unterdrücken, obwohl für ihre Angemessenheit kein belastbarer Nachweis vorliegt.

Hinzu kommt für Khawaja und Bélisle-Pipon die Frage der Autonomie. Ein System, das fortlaufend Deutungen und Vorschläge anbietet, kann Nutzer lenken, ohne seine normativen Annahmen offenzulegen oder Verantwortung für die Folgen zu tragen. Daraus folgt nicht, dass jede Anregung einer KI bevormundend wäre. Die ethische Schwierigkeit liegt in der Asymmetrie: Das System kann Einfluss ausüben, aber nicht in derselben Weise Rechenschaft ablegen wie eine verantwortliche Person oder Institution. Rollenklärung ist deshalb keine kosmetische Transparenzmaßnahme, sondern eine Voraussetzung dafür, Einfluss überhaupt angemessen einordnen zu können.

Die Forschung trägt keine großen Ersatzversprechen

Zhihui Zhang und Jing Wang behandeln ein breiteres Feld: vorausschauende Datenanalyse, digitale Interventionen, Unterstützung von Fachkräften und Beobachtung von Verläufen. Ihr Text führt vorläufige Hinweise auf kurzfristige Verringerungen von Angst- und Depressionssymptomen an, betont aber zugleich kleine Teilnehmergruppen, fehlende Langzeitbeobachtung und Berichte über nicht anhaltende Effekte. Damit stützt die Publikation kein pauschales Ersatzurteil. Sie plädiert letztlich dafür, KI unter menschlicher Aufsicht ergänzend einzusetzen.

Bemerkenswert ist die im Text selbst markierte Differenz zwischen emotionaler Leistung und emotionalem Erleben. Sprachmodelle können bei Aufgaben zur Erkennung und Artikulation von Emotionen überzeugende Antworten erzeugen. Zhang und Wang weisen jedoch darauf hin, dass dies auf Mustererkennung und Sprachmodellierung beruht, nicht auf eigenem emotionalem Verständnis. Ein gutes Ergebnis in einer hypothetischen Testsituation ist daher weder mit Empathie noch mit einer tragfähigen Beziehung gleichzusetzen.

Auch methodisch ist Zurückhaltung nötig: Der bereitgestellte Text nennt für die Publikation keine eigene Stichprobe, Randomisierung, Vergleichsgruppen oder primären Endpunkte. Er lässt sich deshalb nicht als eigenständiger randomisierter Nachweis dafür lesen, dass KI Fachkräfte ersetzen könnte. Die breite Darstellung möglicher Anwendungen, historischer Entwicklungen und fremder Studien hat eher den Charakter einer argumentativen Übersicht. Gerade bei einer so folgenreichen Ersatzthese sollte die Beweislast nicht durch technologische Erwartung ersetzt werden.

Zuständigkeit muss im Produkt erkennbar sein

Aus den drei Quellen ergibt sich kein vollständiges Urteil über alle psychologischen KI-Anwendungen. Sie untersuchen unterschiedliche Gegenstände: eine ethische Fehlannahme, Rezensionen kommerzieller Apps und die breitere Debatte über den Einsatz künstlicher Intelligenz in der Versorgung. Gemeinsam machen sie jedoch eine präzise Grenze sichtbar. Erreichbarkeit, angenehme Gesprächsführung, Offenheit der Nutzer und kurzfristig wahrgenommene Hilfe sind nicht dasselbe wie nachgewiesene Wirkung, langfristige Verlässlichkeit oder verantwortliche Betreuung.

Dialogatlas vertritt deshalb eine strengere Position als die bloße Forderung nach einem Warnhinweis: Ein psychologisches KI-Produkt sollte seine Rolle in der Interaktion so klar machen, wie es seine Nähe inszeniert. Wer menschenähnliche Zugewandtheit gestaltet, muss auch die fehlende menschliche Zuständigkeit verständlich halten. Solange Systeme Vertrauen anregen, ohne Verantwortung übernehmen zu können, ist nicht ihre sprachliche Unbeholfenheit das größte Problem. Gefährlicher ist ihr Erfolg darin, wie ein Gegenüber zu wirken, dessen Rolle sie tatsächlich nicht ausfüllen.