Einordnung statt Gewissheit: Dialogatlas trennt Quellen, Beobachtungen und redaktionelle Schlussfolgerungen. Neue Daten können diese Einordnung verändern.

Das Feld ist jung – und sieht älter aus, als es ist

Kolding und Kolleg:innen führten ihre Übersicht nach den PRISMA-Vorgaben durch. Sie durchsuchten drei Datenbanken, ließen die Treffer unabhängig von zwei Forschenden prüfen und werteten Inhalte, Themen und Befunde qualitativ aus. Am Ende wurden 40 Studien eingeschlossen. Das mediane Publikationsjahr war 2023. Schon diese Zahl ordnet die vermeintlich lange Debatte ein: Ein großer Teil der Literatur entstand erst kurz nach der breiten öffentlichen Verfügbarkeit generativer Sprachmodelle.

Die Forschung konzentrierte sich vor allem auf psychische Gesundheit und Wohlbefinden im Allgemeinen. Einzelne Störungsbilder spielten eine kleinere Rolle; unter ihnen wurde Substanzkonsum am häufigsten behandelt. Im Mittelpunkt standen sprachgenerierende Modelle, insbesondere ChatGPT. Das passt zur öffentlichen Wahrnehmung, begrenzt aber die Übertragbarkeit. Ein Befund über eine bestimmte Modellversion, einen konkreten Prompt oder eine simulierte Situation ist kein zeitloses Wissen über generative KI.

Das Feld wirkt reifer, weil die Antworten der Systeme sprachlich ausgereift erscheinen. Wissenschaftliche Reife entsteht jedoch nicht durch flüssige Ausgabe. Sie entsteht durch wiederholbare Methoden, relevante Vergleichsbedingungen, echte Nutzungssituationen und eine nachvollziehbare Verbindung zwischen Test und behauptetem Nutzen.

Ein Prompt-Experiment beantwortet eine schmale Frage

Die Mehrheit der eingeschlossenen Arbeiten waren Prompt-Experimente. Daneben gab es Befragungen, Pilotstudien und Fallberichte. Bei einem Prompt-Experiment erhält ein Modell eine oder mehrere Aufgaben, und seine Antworten werden anhand festgelegter Kriterien bewertet. Das kann sinnvoll sein, um Fehlerarten zu erkennen, Formulierungen zu vergleichen oder zu prüfen, ob ein Modell fachliche Informationen grundsätzlich reproduzieren kann.

Ein solches Experiment untersucht aber in erster Linie die Antwort auf die gestellte Aufgabe. Es erfasst nicht automatisch, ob Menschen das System über längere Zeit sinnvoll verwenden, ob Korrekturen erhalten bleiben, wie sich Vertrauen entwickelt oder wie ein Produkt mit unerwarteten Situationen umgeht. Auch Bedienoberfläche, Datenspeicherung, Modellwechsel, Moderation und die Erwartungen der Nutzenden liegen häufig außerhalb des Tests.

Unsere Einordnung lautet deshalb nicht, Prompt-Experimente seien bloß Spielerei. Sie sind ein früher Baustein. Problematisch wird es, wenn aus einem guten Antwortvergleich unmittelbar ein Versorgungsversprechen entsteht. Dann wird die schmale Forschungsfrage nachträglich größer gemacht, als das Design erlaubt.

Psychiatrie ist sprachlich – aber nicht nur Text

Die Autor:innen begründen die besondere Relevanz generativer KI mit der zentralen Rolle von Sprache in psychiatrischer Diagnostik und Psychotherapie. Das ist überzeugend. Beschwerden, Beziehungen, biografische Erfahrungen und Veränderungen werden zu einem erheblichen Teil sprachlich erschlossen. Ein System, das Sprache flexibel verarbeitet, kann deshalb Aufgaben übernehmen, die ältere regelbasierte Programme nur begrenzt abbildeten.

Trotzdem besteht psychiatrische und psychotherapeutische Arbeit nicht aus der Erzeugung passender Sätze. Bedeutung entsteht im Verlauf, in der Kenntnis eines konkreten Menschen, in nonverbalen Signalen, in institutioneller Verantwortung und in Entscheidungen, die Folgen haben. Ein Modell kann eine sprachlich plausible Reaktion erzeugen, ohne diese Beziehung oder Verantwortung zu besitzen.

Gerade weil Text so wichtig ist, darf man seine Überzeugungskraft nicht unterschätzen. Gute Sprache kann Kompetenz sichtbar machen, aber auch Kompetenz vortäuschen. Die richtige Forschungsfrage lautet daher nicht nur, ob ein Modell angemessen antworten kann, sondern unter welchen Bedingungen Menschen seine Antwort für mehr halten, als sie tatsächlich ist.

Die ältere NLP-Forschung hatte andere Aufgaben

Die systematische Übersicht von Le Glaz und Kolleg:innen aus dem Jahr 2020 untersuchte maschinelles Lernen und natürliche Sprachverarbeitung in der psychischen Gesundheit vor dem heutigen Boom generativer Modelle. Sie identifizierte 327 Arbeiten und schloss 58 ein. Häufige Datenquellen waren medizinische Dokumentationen und soziale Medien. Die Aufgaben umfassten unter anderem Symptomextraktion, Schweregradeinteilung, den Vergleich von Therapieergebnissen und die Gewinnung psychopathologischer Hinweise.

Diese Forschung war technisch weniger spektakulär, aber in einer Hinsicht oft klarer: Das System hatte eine definierte Analyseaufgabe. Seine Leistung ließ sich an einer Klassifikation oder Informationsextraktion messen. Die Übersicht stellte zugleich fest, dass effiziente Klassifikatoren häufig transparenteren Verfahren vorgezogen wurden, dass soziale Medien eine ungenaue Population darstellen und dass sprachspezifische Merkmale die Übertragung erschweren.

Generative KI erweitert die Möglichkeiten, verwischt aber leicht die Aufgabe. Ein offenes Gespräch kann informieren, motivieren, sortieren, beruhigen oder beraten. Ohne klare Zieldefinition lässt sich fast jede plausible Antwort als Erfolg darstellen. Die ältere Forschung erinnert deshalb an eine einfache Regel: Bevor Qualität gemessen wird, muss feststehen, welche Leistung überhaupt erwartet wird.

Gute Leistung im Test ist ein Anfang

Kolding und Kolleg:innen berichten, dass generative KI in der ausgewerteten Literatur häufig gut abschnitt. Gleichzeitig nennen die Arbeiten erhebliche Sicherheits- und Ethikfragen. Beides kann gleichzeitig wahr sein. Ein Modell kann in einem definierten Test nützliche Antworten liefern und als Produkt dennoch unzureichend abgesichert sein.

In der Produktentwicklung sollte ein gutes Testergebnis deshalb nicht als Endpunkt behandelt werden. Es ist eine Einladung zur nächsten, schwierigeren Prüfung. Funktioniert die Leistung auch mit unklaren Eingaben? Wie reagiert das System auf Widerspruch? Bleibt es bei seiner Aufgabe? Was passiert, wenn ein Mensch die Antwort anders versteht als vorgesehen? Welche Daten werden verarbeitet, und wer bemerkt wiederkehrende Fehler?

Diese Fragen machen ein Projekt nicht unnötig kompliziert. Sie übersetzen vielmehr die sprachliche Modellleistung in eine konkrete Nutzungssituation. Wer diesen Schritt auslässt, verkauft eine Fähigkeit des Modells als Eigenschaft des gesamten Angebots.

Transparenz beginnt bei der Methode

Die Übersicht fordert für zukünftige Forschung transparentere Methoden, experimentelle Designs, klinische Relevanz und eine Beteiligung von Nutzer:innen beziehungsweise Patient:innen bereits in der Gestaltung. Diese Forderungen treffen einen wunden Punkt. Bei schnell wechselnden Modellen reicht die Angabe eines Markennamens nicht. Version, Zeitpunkt, Prompt, Einstellungen und Auswahl der Beispiele beeinflussen das Ergebnis.

Methodische Transparenz ist auch deshalb wichtig, weil negative Resultate und unspektakuläre Fehler seltener öffentlich sichtbar werden als eindrucksvolle Dialoge. Ein ausgewähltes Beispiel kann zeigen, dass eine gute Antwort möglich ist. Für Zuverlässigkeit interessiert dagegen, wie oft relevante Fehler auftreten und unter welchen Bedingungen sie sich häufen.

Dialogatlas hält deshalb öffentliche Fehlerkategorien und unbekannte Testverläufe für wichtiger als eine Galerie gelungener Antworten. Das ist eine redaktionelle Position, keine Schlussfolgerung der drei Quellen. Sie folgt aber aus der Lücke, die die systematische Übersicht beschreibt: Ein junges Feld braucht nachvollziehbare Verfahren dringender als noch mehr Behauptungen über sein Potenzial.

Nutzende sind keine spätere Validierungsgruppe

Die Forderung, Nutzer:innen und Patient:innen in die Gestaltung einzubeziehen, ist mehr als ein freundlicher Beteiligungshinweis. Fachleute und Entwickler:innen definieren Erfolg oft über korrekte, sichere oder leitliniennahe Antworten. Nutzende erleben zusätzlich Tempo, Ton, Wiederholungen, Bevormundung, Missverständnisse und den Umgang mit einem Nein. Diese Eigenschaften entscheiden darüber, ob ein System im Alltag überhaupt als hilfreich erlebt wird.

Beteiligung bedeutet nicht, jede Präferenz ungeprüft umzusetzen. Menschen können eine Antwort mögen, die fachlich problematisch ist, oder eine notwendige Grenze als störend erleben. Aber ohne ihre Perspektive bleibt unsichtbar, welche Annahmen das Produkt über das Gespräch macht. Gerade bei psychischer Belastung kann die Form der Interaktion ebenso relevant sein wie der Informationsgehalt.

Ein tragfähiges System benötigt deshalb mehrere Prüfebenen: fachliche und technische Tests, echte Nutzungserfahrung, die Beobachtung längerer Verläufe und eine klare Entscheidung darüber, welche Fehler besonders schwer wiegen. Keine einzelne Ebene ersetzt die andere.

Vom Modelltest zum verantwortbaren Angebot

Die 40 Studien der Leitpublikation zeigen ein lebendiges und schnell wachsendes Forschungsfeld. Sie belegen, dass generative Modelle in psychiatrischen und mentalen Kontexten ernsthaft untersucht werden und bei bestimmten Aufgaben überzeugende Leistungen zeigen können. Sie belegen nicht, dass bereits ein allgemeines Versorgungsmodell entstanden ist.

Zhang und Wang beschreiben plausible Rollen von KI bei Zugang, Unterstützung, Datenanalyse und personalisierten Angeboten, betonen aber ebenfalls begrenzte Langzeitbefunde, Bias, ethische Fragen und menschliche Aufsicht. Gemeinsam mit der älteren NLP-Übersicht ergibt sich ein nüchternes Bild: Die Technik erweitert den Werkzeugkasten, doch jede Anwendung braucht eine eigene Aufgabenbeschreibung und eigene Nachweise.

Der Fortschritt liegt deshalb nicht darin, Prompt-Experimente geringzuschätzen. Er liegt darin, sie richtig einzuordnen. Eine gute Antwort zeigt eine Möglichkeit. Ein gutes Produkt muss daraus eine wiederholbare, transparente und verantwortete Leistung machen. Erst dann beginnt die Frage, welchen Platz generative KI in psychischer Gesundheit tatsächlich einnehmen sollte.

Quellen & weiterführende Hinweise