Einordnung statt Gewissheit: Dialogatlas trennt Quellen, Beobachtungen und redaktionelle Schlussfolgerungen. Neue Daten können diese Einordnung verändern.

Der Rollenname verändert den Maßstab

Die leitende Frage des Reviews ist enger, als der breite Begriff KI in der psychischen Versorgung vermuten lässt. Untersucht werden ethische Überlegungen zu konversationeller KI, die gegenüber Menschen mit psychischen Problemen in der Rolle eines Therapeuten auftritt. Gemeint sind Systeme, die mit einer Person interagieren und ihre Ausgaben mithilfe künstlicher Intelligenz formulieren. Damit geht es nicht gleichermaßen um Prognosemodelle, Verwaltungssoftware oder digitale Fragebögen, sondern um sprachliche Systeme, denen eine besonders anspruchsvolle Funktion zugeschrieben wird.

Genau darin liegt der Kernkonflikt. Ein Werkzeug zur Inhaltsvermittlung muss anders beurteilt werden als ein System, das Vertrauen aufbaut, Krisenäußerungen entgegennimmt oder den Eindruck fachlicher Zuständigkeit erzeugt. Je stärker ein Produkt als eigenständiges Gegenüber inszeniert wird, desto weniger genügt die Auskunft, es sei bloß Software. Aus redaktioneller Sicht darf die Rollenbezeichnung deshalb nicht dem Marketing oder der spontanen Wahrnehmung der Nutzenden überlassen bleiben. Sie entscheidet darüber, welche Erwartungen legitim sind und wer für Grenzfälle einstehen muss.

Eine Landkarte des Diskurses, kein Wirksamkeitsurteil

Meadi und Kolleg:innen durchsuchten systematisch PubMed, Embase, APA PsycINFO, Web of Science, Scopus, den Philosopher’s Index und die ACM Digital Library. Die Suche verband verkörperte künstliche Intelligenz, Ethik und psychische Gesundheit; weitere Texte kamen über Schneeballsuche hinzu. Berücksichtigt wurden englisch- oder niederländischsprachige Publikationen verschiedener Typen, ausgenommen Symposiumsabstracts. Zwei Forschende prüften die Eignung unabhängig voneinander. Für die Auswertung wurde ein zunächst erwartungsbasiertes Erfassungsschema während des Charting-Prozesses überarbeitet und ergänzt.

Eingeschlossen wurden 101 Publikationen, davon 96 aus dem Jahr 2018 oder später. Reviews bildeten mit 22 Beiträgen die größte einzelne Gruppe, gefolgt von 17 Kommentaren. Das ist für die Interpretation entscheidend: Der Review kartiert, welche Probleme in einer jungen Fachdebatte vorkommen. Er misst nicht, wie häufig bestimmte Schäden in der Versorgung tatsächlich eintreten, und vergleicht keine Behandlungsergebnisse. Hinzu kommt eine von den Autor:innen benannte Grenze: Die Perspektiven relevanter Beteiligter sind bislang unzureichend vertreten. Die Karte ist umfangreich, aber sie ist nicht mit dem Gelände zu verwechseln.

Zehn Themen sind keine Rangfolge realer Gefahren

Ein Anliegen wurde als eigenes Thema ausgewiesen, wenn es in mehr als zwei Publikationen vorkam. So entstanden zehn Bereiche. Am häufigsten behandelt wurden Privatsphäre und Vertraulichkeit mit 62 von 101 Texten, Sicherheit und Schaden mit 52, Gerechtigkeit mit 41 sowie Wirksamkeit mit 38. Es folgen Verantwortung und Rechenschaftspflicht mit 31, Empathie und Menschlichkeit mit 29, Erklärbarkeit, Transparenz und Vertrauen mit 26 sowie Anthropomorphisierung und Täuschung mit 24. Sorgen um Arbeitsplätze im Gesundheitswesen erschienen in 16, Autonomie in 12 Beiträgen.

Diese Zahlen beschreiben Aufmerksamkeit in der Literatur, nicht die Größe eines Risikos. Ein Thema kann oft diskutiert werden, weil es früh sichtbar oder begrifflich gut erschlossen ist. Ein seltener behandeltes Problem kann trotzdem folgenreich sein. Gerade die vergleichsweise geringe Präsenz der Autonomiefrage sollte daher nicht beruhigen. Die Stärke des Reviews liegt in der gemeinsamen Darstellung der Konflikte: Vertraulichkeit, Sicherheit oder Gerechtigkeit sind keine voneinander isolierten Prüfpunkte, sondern greifen ineinander, sobald ein System sensible Gespräche führt und daraus Handlungen oder Erwartungen entstehen.

In der Krise wird aus Kommunikation Zuständigkeit

Unter Sicherheit und Schaden nennt die Leitpublikation besonders Suizidalität und Krisenmanagement, schädliche oder falsche Vorschläge sowie das Risiko einer Abhängigkeit von konversationeller KI. Der Review dokumentiert damit, dass diese Gefahren in der Literatur verhandelt werden; er liefert keine Ereignisrate und keinen Nachweis, dass alle untersuchten Systeme gleich riskant sind. Dennoch ist die Themenkombination aufschlussreich. Eine unzutreffende Antwort wird schwerwiegender, wenn Nutzende das System für kompetent, fürsorglich oder verlässlich halten.

Hier berührt Sicherheit unmittelbar die Frage nach Verantwortung. Wer ist rechenschaftspflichtig, wenn das System eine kritische Äußerung verkennt, unangemessen reagiert oder den Eindruck vermittelt, die Situation übernommen zu haben? Der Review identifiziert Verantwortung und Accountability als eigenes Thema und nennt ihre Klärung als Forschungsbedarf. Unsere Einordnung geht einen Schritt weiter: Eine Anwendung darf keine umfassende Zuständigkeit sprachlich simulieren, wenn organisatorisch niemand diese Zuständigkeit trägt. Ein Warnhinweis am Rand löst den Widerspruch zwischen Beziehungsinszenierung und tatsächlicher Verantwortungsstruktur nicht automatisch.

Nähe ist zugleich Oberfläche und Datenverhältnis

Privatsphäre und Vertraulichkeit sind der meistdiskutierte Bereich des Reviews. Das überrascht nicht: Ein Gespräch kann nur dann persönlich wirken, wenn Menschen persönliche Informationen einbringen. Zugleich behandelt die Literatur Erklärbarkeit, Transparenz und Vertrauen, darunter die Wirkung schwer durchschaubarer Blackbox-Algorithmen. Vertrauen betrifft daher nicht nur den Ton einer Antwort. Es betrifft auch die Frage, ob Nutzende nachvollziehen können, mit welcher Art System sie sprechen und worauf dessen Reaktionen beruhen.

Empathie und Menschlichkeit sowie Anthropomorphisierung und Täuschung markieren die andere Seite dieser Nähe. Die Publikation von Zhang und Wang betont, dass ein Sprachmodell emotionale Reaktionen anhand von Mustern erzeugen kann, ohne Gefühle zu erleben. Das ist keine bloß philosophische Feinheit. Wahrgenommene Einfühlsamkeit kann die Nutzung erleichtern, ist aber kein Nachweis für emotionales Verstehen, fachliche Urteilskraft oder eine tragfähige Beziehung. Redaktionell halten wir deshalb eine klare Unterscheidung für unverzichtbar: Eine überzeugende sprachliche Darstellung von Anteilnahme ist eine Systemeigenschaft; ihre angemessene Wirkung in der Versorgung bleibt eine offene empirische und normative Frage.

Mehr Reichweite kann neue Ungleichheit erzeugen

Die Aussicht auf leichter zugängliche Unterstützung gehört zu den stärksten Argumenten für Gesprächs-KI. Boucher und Kolleg:innen beschreiben bereits 2021 mehrere Einsatzfelder digitaler Interventionen: Diagnostik und Screening, Symptommanagement, Verhaltensänderung und die Vermittlung von Inhalten. Ihre Übersicht diskutiert das Potenzial brauchbarer und akzeptierter Anwendungen, verweist aber zugleich auf offene Fragen zu Wahrnehmungen von KI, individuellen Unterschieden, Privatsphäre und Ethik. Aus einer möglichen technischen Reichweite folgt somit noch kein gerechter Zugang.

Im Scoping Review ist Gerechtigkeit mit 41 Beiträgen eines der häufigsten Themen. Genannt werden unter anderem gesundheitliche Ungleichheiten aufgrund unterschiedlicher digitaler Kompetenz. Ein rund um die Uhr erreichbares Angebot kann Hürden senken und gleichzeitig diejenigen benachteiligen, die es schlechter verstehen, ihm unangemessen stark vertrauen oder keinen geeigneten Zugang haben. Ob Gesprächs-KI Versorgungslücken verkleinert, lässt sich aus den drei Publikationen nicht beantworten. Die Leitpublikation führt gerade die Auswirkungen auf den Zugang als weiteren Forschungsbedarf an. Zugänglichkeit ist zunächst eine Produkteigenschaft; gerechtere Versorgung wäre ein nachzuweisendes Ergebnis.

Die Ersatzdebatte läuft der Evidenz davon

Wirksamkeit erscheint in 38 der 101 vom Scoping Review erfassten Texte. Diese Häufigkeit belegt jedoch weder einen Nutzen noch dessen Dauer. Boucher und Kolleg:innen sprechen von vielversprechenden Anwendungen und skizzieren künftige Entwicklungen, liefern im bereitgestellten Abstract aber keine zusammenfassenden Effektgrößen, Stichproben oder Langzeitresultate. Zhang und Wang verweisen auf vorläufige Hinweise zur kurzfristigen Verringerung von Angst- und Depressionssymptomen, betonen zugleich kleine Untersuchungsgruppen, fehlende Langzeitbeobachtung und den Bedarf an großen randomisierten kontrollierten Studien. Außerdem führen sie an, dass kurzfristige Vorteile über längere Zeit nicht zwingend fortbestehen.

Bei Quelle 3 besteht zusätzlich eine methodische Wissensgrenze. Sie wird in den bereitgestellten Metadaten als randomisierte Studie bezeichnet; der gelieferte Text dokumentiert jedoch keine eigene Randomisierung, keine Stichprobe, keine Kontrollgruppe und keine eigenständige Ergebnisanalyse. Stattdessen entfaltet er eine breite, teils spekulative Erörterung darüber, ob KI psychotherapeutische Funktionen übernehmen könnte. Deshalb lässt sich diese Publikation auf Grundlage des vorliegenden Materials nicht als direkter randomisierter Ersatznachweis behandeln. Ihre vorsichtige Schlussposition ist dennoch relevant: KI solle menschliche Elemente ergänzen statt ersetzen und brauche Aufsicht sowie weitere klinische Validierung. Der öffentlichkeitswirksame Vergleich Mensch gegen Maschine ist damit größer als die belegte Datenbasis.

Eine begrenzte Funktion ist glaubwürdiger als ein künstliches Gegenüber

Der Review endet nicht mit einer fertigen Ethikrichtlinie. Er benennt offene Aufgaben: Risiken und Nutzen im Vergleich zu menschlichen Fachkräften untersuchen, angemessene Rollen in Versorgungskontexten bestimmen, Folgen für den Zugang prüfen und Verantwortlichkeit klären. Diese Reihenfolge sollte ernst genommen werden. Die Frage lautet nicht abstrakt, ob KI Gespräche führen kann. Sie lautet, welche konkrete Funktion unter welchen Erwartungen bewertet wird. Inhaltsvermittlung, Screening, Begleitung und eigenständige therapeutische Zuständigkeit sind keine austauschbaren Produktvarianten.

Unsere redaktionelle Position ist deshalb bewusst restriktiv: Gesprächs-KI gewinnt nicht dadurch Legitimität, dass sie möglichst menschenähnlich erscheint, sondern dadurch, dass ihre Rolle enger und ehrlicher beschrieben wird, als ihre Sprache vermuten lässt. Erst eine solche Rollenordnung macht Wirksamkeitsmessung sinnvoll, weil dann klar ist, woran Erfolg, Versagen und Vergleich gemessen werden. Sie macht auch ethische Konflikte bearbeitbarer, ohne sie kleinzureden. Die wichtigste Leistung des Scoping Reviews besteht nicht darin, zehn bekannte Sorgen aufzuzählen. Er zeigt, dass fast jede davon eskaliert, sobald ein System Beziehung signalisiert, aber Verantwortung, Evidenz und institutionelle Einbindung unbestimmt bleiben.

Quellen & weiterführende Hinweise