Einordnung statt Gewissheit: Dialogatlas trennt Quellen, Beobachtungen und redaktionelle Schlussfolgerungen. Neue Daten können diese Einordnung verändern.

Die große Ersatzfrage ist zu grob für die vorhandene Forschung

Die Leitpublikation von Guo und Kolleg:innen untersucht Anwendungen großer Sprachmodelle für psychische Gesundheit in drei breiten Feldern: frühes Screening, digitale Interventionen und klinische Nutzung. Schon diese Gliederung zeigt das Grundproblem der öffentlichen Debatte. Ein Modell, das psychisch relevante Hinweise in Texten erkennt, erfüllt eine andere Funktion als ein System, das ein unterstützendes Gespräch führt. Beides unterscheidet sich wiederum von einem Werkzeug, das Fachpersonal im klinischen Alltag unterstützt. Aus einem guten Resultat in einem Feld folgt keine Eignung für die anderen.

Die Ersetzungsfrage verschleift diese Unterschiede. Sie lädt dazu ein, sprachliche Gewandtheit als einheitliche professionelle Kompetenz zu behandeln. Das ist weder durch die Übersicht noch durch die beiden Vergleichsquellen gedeckt. Unsere Einordnung ist daher methodisch: Wer nach einem vollständigen Berufsrollen-Ersatz fragt, verlangt von der Forschung eine Antwort auf ein Paket von Aufgaben, Beziehungen und Verantwortlichkeiten, das die untersuchten Studien gar nicht gemeinsam abbilden. Eine nüchternere Debatte beginnt mit der Frage, welche konkrete Leistung geprüft wurde und woran ihr Erfolg gemessen wurde.

Vierzig Studien ergeben eine Landkarte, keinen einheitlichen Wirksamkeitswert

Guo und Kolleg:innen arbeiteten nach den PRISMA-Leitlinien und durchsuchten MEDLINE über PubMed, IEEE Xplore, Scopus, JMIR sowie die ACM Digital Library. Berücksichtigt wurden englischsprachige Artikel vom 1. Januar 2017 bis zum 30. April 2024. Insgesamt gingen 40 Publikationen in die Auswertung ein. Davon befassten sich 15 mit der Erkennung psychischer Belastungen oder suizidaler Gedanken durch Textanalyse, sieben mit großen Sprachmodellen als dialogischen Systemen und 18 mit weiteren Anwendungen und Evaluationen im Feld psychischer Gesundheit.

Das ist für ein schnell wachsendes Forschungsgebiet ein aufschlussreicher Überblick, aber keine homogene Sammlung klinischer Wirksamkeitsstudien. Die Übersicht führt verschiedene Modelle, Datenquellen, Methoden und Zielgrößen zusammen. Entsprechend darf ihre Gesamtzahl nicht wie die Stichprobe eines einzigen Experiments gelesen werden. Hinzu kommt die Beschränkung auf englischsprachige Literatur. Die Autor:innen benennen gerade den Mangel an mehrsprachigen, von Fachleuten annotierten Datensätzen als Problem. Was in einer Sprache oder einem Datensatz funktioniert, ist damit nicht automatisch auf andere Bevölkerungen, Ausdrucksweisen oder Versorgungskontexte übertragbar.

Bei der Texterkennung liegt der greifbarste Nutzen

Einen positiven Befund sollte man nicht kleinreden: Die Übersicht berichtet gute Leistungen großer Sprachmodelle bei der Erkennung psychischer Probleme in Texten. Darin liegt ein plausibler Nutzen für frühes Screening und die Auswertung großer Textmengen. Modelle können sprachliche Muster verarbeiten, die für Hinweise auf Belastungen oder suizidale Gedanken relevant sind. Gerade hier spielen ihre Skalierbarkeit und ihre Fähigkeit zur Verarbeitung umfangreicher Daten ihre technischen Stärken aus.

Doch Erkennung ist noch keine nachgewiesene Verbesserung der Versorgung. Ein Klassifikationsergebnis sagt zunächst, wie ein System Texte zuordnet; es belegt nicht von selbst, dass Menschen dadurch langfristig bessere gesundheitliche Ergebnisse erreichen. Ebenso wenig begründet eine statistische Zuordnung allein eine klinische Entscheidung. Diese Trennung ist keine Abwertung des Nutzens, sondern seine Präzisierung. Redaktionell halten wir die Analyse- und Hinweisfunktion deshalb für einen wesentlich belastbareren Ausgangspunkt als die Behauptung, ein Sprachmodell könne eine umfassende professionelle Rolle übernehmen.

Zugängliche Gespräche sind ein realer Vorteil, aber kein Sammelbeweis

Guo und Kolleg:innen sehen außerdem Potenzial für zugängliche und weniger stigmatisierende digitale Angebote. Gesprächssysteme sind nicht an Sprechzeiten gebunden und können eine niedrigschwellige Form der Interaktion ermöglichen. Dieser Vorteil ist praktisch bedeutsam: Ein Angebot kann wertvoll sein, weil es erreichbar ist und Menschen die Nutzung leichter fällt. Die Übersicht weist damit auf eine Qualität hin, die in einer ausschließlich auf klinische Endpunkte verengten Debatte leicht übersehen wird.

Zugänglichkeit, Akzeptanz und Wirksamkeit bleiben dennoch verschiedene Größen. Eine als angenehm oder entlastend wahrgenommene Unterhaltung beweist weder korrekte Inhalte noch nachhaltige Effekte. Die Publikation von Zhang und Wang erweitert diesen Punkt: Sie verweist auf vorläufige Studien mit möglichen kurzfristigen Verbesserungen bei Angst- und Depressionssymptomen, betont aber kleine Gruppen, fehlende Langzeitbeobachtung und unsichere Dauerhaftigkeit. Das bereitgestellte Quellenmaterial beschreibt für diese Publikation keine eigene randomisierte Untersuchung; sie ist hier daher als argumentierender Überblick einzuordnen, nicht als eigenständiger Wirksamkeitsnachweis.

Schon vor generativen Modellen war das Bild vorsichtig positiv

Die Übersichtsarbeit von Vaidyam und Kolleg:innen aus dem Jahr 2019 bietet einen nützlichen historischen Vergleich. Ihre systematische Suche vom Juni 2018 umfasste sechs Datenbanken. Von 1466 gefundenen Einträgen erfüllten acht Studien die Einschlusskriterien; zwei weitere kamen über die Prüfung von Literaturverzeichnissen hinzu. Die insgesamt zehn Studien betrafen dialogische Systeme für Menschen mit psychischen Erkrankungen oder erhöhtem Risiko, darunter Depression, Angst, Schizophrenie, bipolare Störungen und Substanzgebrauchsstörungen.

Der damalige Befund war vorläufig, aber nicht bloß warnend. Die Arbeiten berichteten Potenzial besonders für Psychoedukation und Selbstadhärenz; auch die Zufriedenheitswerte waren durchweg hoch. Zugleich verhinderten heterogene Studiendesigns und uneinheitliche Ergebnisberichte eine robuste Gesamtaussage zur Effektivität. Bemerkenswert ist die Kontinuität bis 2024: Die Technik ist sprachlich leistungsfähiger geworden, doch die grundlegende Evidenzfrage bleibt ähnlich. Positive Nutzungserfahrungen und plausible Einzelanwendungen stehen einer Forschungslandschaft gegenüber, deren Zielgrößen und Prüfverfahren noch nicht ausreichend vereinheitlicht sind.

Emotional passende Sprache wird leicht mit Verstehen verwechselt

Zhang und Wang heben hervor, dass aktuelle Modelle emotionale Bestandteile hypothetischer Situationen sprachlich erkennen und artikulieren können. Sie beziehen sich unter anderem auf eine Untersuchung mit der Levels of Emotional Awareness Scale, in der Antworten von ChatGPT mit denen der Allgemeinbevölkerung vergleichbar waren oder darüber lagen. Das ist ein interessanter Befund über erzeugte Sprache. Die Autor:innen stellen jedoch selbst klar, dass das System Emotionen nicht erlebt, sondern Muster verarbeitet und passende Formulierungen generiert.

Diese Unterscheidung ist für KI-Gespräche zentral. Sprachliche Einfühlung kann für Nutzer:innen angenehm, hilfreich oder öffnend sein, ohne dass dahinter menschliches Erleben steht. Umgekehrt folgt aus fehlendem Erleben nicht automatisch, dass jede unterstützende Formulierung wertlos wäre. Unsere redaktionelle Position liegt zwischen diesen Kurzschlüssen: Entscheidend ist nicht, ob die Maschine innerlich fühlt, sondern ob ihre konkrete Antwort verlässlich, situationsangemessen und für den vorgesehenen Zweck geprüft ist. Eine überzeugende Simulation darf dabei nicht als Beleg für diagnostisches Urteil, langfristige Beziehungskontinuität oder klinische Wirksamkeit umgedeutet werden.

Der klinische Einsatz scheitert derzeit weniger am Ton als an Verlässlichkeit

Die schärfste Bewertung der Leitpublikation betrifft die klinische Nutzung. Guo und Kolleg:innen kommen zu dem Schluss, dass deren gegenwärtige Risiken den Nutzen übersteigen könnten. Genannt werden inkonsistente Ausgaben, erfundene Inhalte, eingeschränkte Nachvollziehbarkeit aufgrund des Black-Box-Charakters, Datenschutzprobleme und das Fehlen eines umfassenden, vergleichbaren ethischen Rahmens. Hinzu kommt die Gefahr einer übermäßigen Abhängigkeit von den Systemen – sowohl aufseiten von Patient:innen als auch von Ärzt:innen.

Zhang und Wang ergänzen Probleme der algorithmischen Verzerrung und der begrenzten Langzeitkontinuität. Sprachmodelle können frühere Interaktionen nicht ohne Weiteres dauerhaft und kohärent integrieren; dafür sind zusätzliche technische Prozesse nötig. Der Vergleich der Quellen legt damit eine wichtige Verschiebung nahe: Die entscheidende Schwäche ist nicht, dass KI-Antworten grundsätzlich kalt oder unbrauchbar wären. Sie können im Gegenteil bemerkenswert passend wirken. Problematisch ist, dass diese Qualität schwanken kann und dass flüssige Sprache Fehler besonders glaubwürdig erscheinen lässt. Je folgenreicher der Einsatz, desto weniger genügt der Eindruck eines guten Gesprächs.

Eine brauchbare Rollenverteilung beginnt unterhalb des großen Versprechens

Die systematische Übersicht lehnt große Sprachmodelle nicht pauschal ab. Sie beschreibt sie ausdrücklich als mögliche klinische Hilfsmittel und fordert weitere Forschung und Entwicklung. Auch die älteren Befunde zu Psychoedukation, Adhärenz und hoher Zufriedenheit sprechen gegen eine reflexhafte Abwehr. Aus dem Material ergibt sich vielmehr eine gestufte Perspektive: Hinweise in Texten erkennen, Informationen zugänglich vermitteln oder Facharbeit unterstützen sind enger umrissene Aufgaben als eigenständige Diagnostik, Behandlung und langfristige Begleitung.

Genau hier sollte die Debatte nach unserer Auffassung ansetzen. Nicht jedes KI-Gespräch muss an der maximalen Behauptung gemessen werden, einen ganzen Beruf ersetzen zu können. Aber jeder beanspruchte Zweck braucht seine passende Prüfung: Klassifikationsgüte für Erkennung, Nutzbarkeit für Zugang, konsistente Inhalte für Information und belastbare klinische Endpunkte für gesundheitliche Wirkung. Die drei Publikationen beantworten nicht alle Fragen zu psychischer Versorgung mit KI. Sie reichen jedoch für eine klare redaktionelle Konsequenz: Große Sprachmodelle werden weder durch menschenähnliche Sprache zu Psychotherapeut:innen noch durch ihre Grenzen bedeutungslos. Ihr vernünftiger Platz entsteht dort, wo Aufgaben enger gefasst werden als das Versprechen.

Quellen & weiterführende Hinweise