Co-Design ist bei Mental-Health-KI kein Wirksamkeitsnachweis

Die Gesprächsrolle entsteht nicht im Rechenmodell

Grovés Beitrag behandelt ein System, das gemeinsam mit Jugendlichen, Technologiepartnern und fachlichen Beteiligten entwickelt wurde. Ein Teil arbeitet mit künstlicher Intelligenz und regelbasierten Verfahren der natürlichen Sprachverarbeitung. Vorgesehen ist, evidenzbasierte Ressourcen, Informationen über psychische Gesundheit, Unterstützung des Wohlbefindens und adaptive Bewältigungsstrategien zu vermitteln. Das ist eine klar begrenztere Beschreibung als die Vorstellung einer frei agierenden digitalen Fachperson.

Der zentrale Gegenstand ist nicht die Leistungsfähigkeit eines Modells, sondern die soziale Form des Angebots. Interviews und Befragungen flossen laut Publikation in Persönlichkeit und Figur des Systems ein; außerdem werden Gesprächsgestaltung und Inhaltsentwicklung behandelt. Jugendliche erscheinen damit nicht bloß als spätere Nutzergruppe, sondern als Beteiligte an der Definition dessen, wie das System spricht und auftritt. Redaktionell halten wir diese Verschiebung für wesentlich: Bei sensiblen Gesprächen ist die Rolle kein dekorativer Überzug einer technischen Funktion. Sie beeinflusst, welche Erwartungen das Produkt überhaupt erzeugt.

Grové dokumentiert Entwicklung, nicht Behandlungserfolg

Die Forschungsleistung der Leitpublikation liegt im partizipativen Entwicklungsprozess. Sie fragt sinngemäß, wie ein digitales Mental-Health- und Wellbeing-Angebot mit und für junge Menschen gestaltet werden kann und welche Lehren oder Vorbehalte sich daraus ergeben. Der Text erörtert auch einen möglichen Einsatz in weiterführenden Schulen oder Gesundheitseinrichtungen – ausdrücklich in Verbindung mit dortigen Wohlbefindens- oder Versorgungsteams. Das spricht gegen die Lesart eines isolierten Selbsthilfeautomaten.

Aus den bereitgestellten Angaben gehen jedoch weder Stichprobengrößen noch Rekrutierung, genaue Auswertungsverfahren oder kontrollierte Vergleiche hervor. Ebenso werden keine klinischen Endpunkte, Nutzungszeiträume oder Sicherheitsresultate berichtet. Deshalb lässt sich aus dieser Quelle nicht ableiten, dass das Angebot Angst, depressive Beschwerden oder schulischen Stress reduziert. Auch Akzeptanz oder langfristige Nutzung sind mit den vorliegenden Informationen nicht belegt.

Diese Grenze schmälert den Beitrag nicht, solange man ihn als Entwicklungsbericht liest. Problematisch würde es erst, wenn ein gelungener Beteiligungsprozess als Beleg für Wirksamkeit ausgegeben würde. Co-Design kann zeigen, welche Sprache, Figur oder Gesprächsstruktur Jugendliche bevorzugen und welche Inhalte ihnen relevant erscheinen. Es kann nicht allein feststellen, ob das fertige System in belastenden Situationen zuverlässig hilft, schadet oder folgenlos bleibt.

Passung ist ein eigener, aber begrenzter Evidenztyp

Beteiligung kann ein reales Entwicklungsproblem bearbeiten: Erwachsene Fachleute und Produktteams wissen nicht automatisch, wie Jugendliche ein digitales Gegenüber wahrnehmen. Ein fachlich korrekter Inhalt kann an einer unpassenden Figur, einem belehrenden Ton oder einer unglaubwürdigen Gesprächsführung scheitern. Grovés Vorgehen ist deshalb mehr als eine freundliche Designgeste. Es erschließt Wissen über die vorgesehene Nutzungssituation, das nicht aus technischen Tests stammt.

Trotzdem darf wahrgenommene Passung nicht mit gesundheitlicher Wirkung verschmolzen werden. Eine sympathische Figur kann die Nutzung erleichtern; ob sie das tatsächlich tut, müsste gesondert untersucht werden. Selbst häufige oder lange Nutzung wäre noch kein Beweis für einen positiven gesundheitlichen Ausgang. Unsere redaktionelle Position ist daher: Co-Design gehört in die Evidenzkette, aber an deren Anfang. Es begründet die Relevanz und Annehmbarkeit eines Konzepts, nicht dessen klinischen Anspruch.

Die Persönlichkeit des Systems ist keine Nebensache

Dass Interviews und Befragungen die Persönlichkeit und Charaktergestaltung beeinflussten, verweist auf einen unterschätzten Bereich der Produktentwicklung. Ein digitales System spricht nicht neutral. Wortwahl, Antwortlänge, Umgang mit Unsicherheit und die Darstellung als Figur legen nahe, ob es eher informiert, begleitet, anleitet oder Autorität beansprucht. Je menschlicher und zugewandter diese Darstellung wirkt, desto wichtiger wird eine präzise Grenze zwischen vermittelter Nähe und tatsächlicher Zuständigkeit.

Die Quelle berichtet Beispiele für Gesprächs- und Inhaltsentwicklung, erlaubt anhand der bereitgestellten Zusammenfassung aber keine detaillierte Prüfung einzelner Dialoge. Offen bleibt damit, wie das System Mehrdeutigkeit, akute Belastung oder missverständliche Eingaben behandelt. Diese Wissensgrenze sollte nicht mit Vermutungen gefüllt werden. Aus dem beschriebenen Ziel folgt lediglich, dass Ressourcen, Informationen und Bewältigungsstrategien kommuniziert werden sollen – nicht, dass jede Antwort fachlich korrekt, situationsgerecht oder sicher ist.

Die NLP-Forschung untersucht oft ein anderes Problem

Die systematische Übersichtsarbeit von Le Glaz und Kolleg:innen erweitert den Blick auf maschinelles Lernen und natürliche Sprachverarbeitung in der psychischen Gesundheit. Nach einer Suche in vier medizinischen Datenbanken wurden von 327 identifizierten Artikeln 58 in eine qualitative Auswertung aufgenommen. Die untersuchten Arbeiten waren methodisch und thematisch heterogen. Zu ihren Zielen gehörten das Extrahieren von Symptomen, die Klassifikation von Krankheitsschwere, Vergleiche von Behandlungseffektivität und die Gewinnung psychopathologischer Hinweise.

Diese Forschungslandschaft ist nicht deckungsgleich mit einem dialogischen Angebot für Jugendliche. Große Teile betreffen medizinische Akten oder soziale Medien und damit die Analyse vorhandener Sprache, nicht das Führen eines unterstützenden Gesprächs. Die Übersichtsarbeit stellt zudem fest, dass leistungsfähige Klassifikatoren gegenüber transparenten Modellen bevorzugt wurden. Für ein Gesprächssystem entsteht daraus ein Konflikt: Technische Vorhersagegüte kann relevant sein, doch in einem sensiblen Anwendungskontext müssen Antworten auch nachvollziehbar begrenzt und organisatorisch verantwortet werden.

Le Glaz und Kolleg:innen warnen außerdem vor der Ungenauigkeit von Social-Media-Nutzer:innen als Kohorte und verweisen auf sprachspezifische Merkmale. Das ist für Jugendangebote besonders bedeutsam. Ein System, das in einer Sprache oder anhand bestimmter Datentypen funktioniert, lässt sich nicht ohne Weiteres auf andere sprachliche und kulturelle Kontexte übertragen. Grovés lokale Beteiligungslogik und die methodische Breite des Reviews weisen damit auf dieselbe Aufgabe: Kontext muss untersucht werden, nicht bloß behauptet.

Generative KI erhöht den Begründungsdruck

Torous und Blease richten den Blick 2024 auf generative KI. Soweit der bereitgestellte Text erkennen lässt, berichten sie keine eigene randomisierte Interventionsstudie, sondern ordnen mögliche Anwendungen und gegenwärtige Probleme ein. Sie unterscheiden administrative Unterstützung, Dokumentation, Ausbildung und Symptommonitoring von den wesentlich anspruchsvolleren Fragen nach Prävention, Diagnose und Behandlung. Forschung an nichtklinischen Stichproben habe sich teils auf wahrgenommene Empathie statt auf klinische Ergebnisse konzentriert.

Diese Unterscheidung verschärft die Bewertung von Co-Design. Ein als einfühlsam wahrgenommenes System kann kommunikativ gelungen sein, ohne eine nachgewiesene Wirkung zu entfalten. Torous und Blease verweisen zudem auf fehlende Evidenz für die Steuerung psychischer Behandlung, unzureichenden Datenschutz, mögliche Verzerrungen und die Gefahr schwer erkennbarer Fehler. Für klinische Behauptungen fordern sie hochwertige randomisierte kontrollierte Prüfungen, einschließlich geeigneter digitaler Vergleichsangebote. Das ist eine andere Evidenzstufe als die Entwicklung von Persönlichkeit und Dialogen.

Einbettung entscheidet über die reale Bedeutung

Grovés Überlegung, das Angebot zusammen mit schulischen oder gesundheitlichen Teams einzusetzen, ist deshalb mehr als eine Frage des Vertriebskanals. Die Umgebung bestimmt, wer das System erklärt, wer Rückmeldungen erhält und wie seine begrenzte Rolle kenntlich wird. Die Publikation belegt allerdings nicht, dass eine solche Einbettung bereits erfolgreich umgesetzt oder bewertet wurde. Sie formuliert einen möglichen Kontext, keinen Implementierungserfolg.

Torous und Blease argumentieren ähnlich gegen dauerhaft isolierte Programme. Sie betonen neben Evidenz und Datenschutz auch Beteiligung, klinische Einbindung und Interoperabilität. Dabei geht es nicht nur um technische Anschlüsse. Auch Fachkräfte müssen ein System tatsächlich nutzen können, und Arbeitsabläufe, Regulierung sowie Qualifizierung beeinflussen die Einführung. Ein gut gestaltetes Jugendangebot kann daher an der institutionellen Wirklichkeit scheitern, selbst wenn seine Figur Zustimmung findet. Umgekehrt macht eine Einbindung ein ungeprüftes System nicht automatisch sicher.

Nach dem Co-Design beginnt die eigentliche Prüfung

Aus den drei Publikationen ergibt sich kein vollständiges Bewertungsmodell, wohl aber eine klare Reihenfolge der offenen Fragen. Zuerst muss ein Angebot für seine Zielgruppe verständlich und relevant gestaltet werden. Danach sind technische Zuverlässigkeit, Datenschutz, Verzerrungen und sprachlich-kulturelle Übertragbarkeit zu untersuchen. Werden gesundheitliche Wirkungen versprochen, braucht es schließlich Untersuchungen, die über Zustimmung, wahrgenommene Empathie oder Modellleistung hinausgehen und tatsächliche Ergebnisse sowie mögliche Schäden erfassen.

Unsere redaktionelle These bleibt bewusst streng: Beteiligung Jugendlicher ist eine Voraussetzung für verantwortliches Design, aber kein Gütesiegel für das fertige Produkt. Grovés Beitrag ist gerade dann wertvoll, wenn man ihn nicht überlädt. Er zeigt, wie die künftigen Nutzer:innen an Stimme und Gestalt eines Systems mitwirken können. Ob dieses System im Schul- oder Versorgungskontext nützt, sicher bleibt und tragfähig eingebunden werden kann, ist damit nicht beantwortet. Die seriöse nächste Veröffentlichung müsste nicht nur erzählen, wie das Gespräch gestaltet wurde, sondern prüfen, was nach diesem Gespräch geschieht.