Einem Chatbot vertraut man nicht – man verlässt sich auf ihn

Vertrauen ist ein Wort aus Beziehungen

Ryan setzt bei einer verbreiteten Formulierung der europäischen KI-Ethik an: Es solle eine Beziehung des Vertrauens zu KI aufgebaut und vertrauenswürdige KI geschaffen werden. Für ihn ist das eine weitreichende Behauptung, weil Vertrauen zu den prägenden Tätigkeiten menschlicher Beziehungen gehört.

Wenn wir einem Menschen vertrauen, erwarten wir nicht nur ein bestimmtes Ergebnis. Wir gehen davon aus, dass die Person Gründe, Verpflichtungen und eine Haltung uns gegenüber besitzt. Ein Vertrauensbruch ist deshalb mehr als ein technischer Fehler. Er kann als moralische Verletzung erlebt werden.

Ein Sprachmodell erfüllt diese Voraussetzungen nicht. Es hat keine Gefühle, keine eigene Verpflichtung und kann nicht im menschlichen Sinn für sein Handeln verantwortlich gemacht werden. Seine freundliche Sprache ändert daran nichts.

Verlässlichkeit lässt sich trotzdem verlangen

Aus Ryans Kritik folgt nicht, dass KI beliebig unzuverlässig sein darf. Im Gegenteil: Menschen müssen sich in bestimmten Grenzen auf ein System verlassen können. Es soll Daten wie angekündigt verarbeiten, Funktionen stabil ausführen und bekannte Unsicherheit nicht verschleiern.

Diese Form rationaler Erwartung bezeichnet Ryan als reliance. Man verlässt sich auch auf eine Brücke, eine Uhr oder einen Fahrplan, ohne ihnen eine moralische Haltung zuzuschreiben. Wenn etwas versagt, richtet sich die Verantwortung an diejenigen, die gebaut, geprüft, betrieben oder entschieden haben.

Für Gesprächssysteme ist diese Sprache besonders nützlich. Nutzende dürfen erwarten, dass Einstellungen gelten, Korrekturen beachtet und gespeicherte Informationen kontrollierbar sind. Sie müssen dafür nicht an die Fürsorge einer Maschine glauben.

Verlässlichkeit kann außerdem zerlegt und getestet werden. Hält der Chat eine gewählte Gesprächsrichtung? Unterscheidet er Vermutungen von Fakten? Bleibt eine Löschentscheidung nach dem nächsten Login wirksam? Solche Fragen haben beobachtbare Antworten. Das diffuse Ziel, der Chatbot solle sich vertrauenswürdig anfühlen, besitzt diese Prüfbarkeit nicht.

Anthropomorphisierung verschiebt Verantwortung

Ryan warnt davor, menschliche moralische Tätigkeiten auf KI zu übertragen. Wenn ein System als verständnisvoll, loyal oder vertrauenswürdig bezeichnet wird, kann der Eindruck entstehen, die Maschine selbst sei Trägerin dieser Eigenschaften.

Damit verschwinden die tatsächlichen Verantwortlichen aus dem Bild. Eine falsche Antwort wird dann zum Versagen „der KI“, obwohl Modellwahl, Prompt, Datenweg, Oberfläche und Sicherheitsregeln von Menschen und Organisationen gestaltet wurden. Auch ein Update geschieht nicht aus der Laune des Begleiters.

Ein verantwortliches Produkt benennt deshalb seinen Betreiber, erklärt technische Abhängigkeiten und dokumentiert Änderungen. Die Persönlichkeit des Chatbots darf die dahinterliegenden Entscheidungen nicht unsichtbar machen.

Forschung verwendet mehrere Vertrauensbegriffe

Die systematische Übersicht von Bach und Kolleg:innen über 23 empirische Studien bestätigt, dass Vertrauen in KI nicht einheitlich definiert wird. Statt Definitionen pauschal zu vergleichen, sollte die jeweils passende Bedeutung für den konkreten Kontext ausgewählt werden.

Die Übersicht ordnet Einflussfaktoren drei großen Bereichen zu: sozioethischen Überlegungen, technischen und gestalterischen Eigenschaften sowie Merkmalen der Nutzenden. Besonders häufig standen Nutzereigenschaften im Mittelpunkt. Daraus leiten die Autor:innen die Bedeutung kontinuierlicher Nutzerbeteiligung ab.

Für einen Gesprächschat kann „Vertrauen“ daher Datenschutz, Antwortqualität, emotionale Vorhersehbarkeit oder das Gefühl fehlender Verurteilung meinen. Wer nur einen allgemeinen Vertrauenswert erhebt, vermischt möglicherweise völlig unterschiedliche Erfahrungen.

Subjektive Sicherheit bleibt real

Ta und Kolleg:innen fanden in Replika-Bewertungen und offenen Antworten, dass Nutzende den Chatbot als sicheren Raum ohne befürchtete Verurteilung oder Vergeltung erleben konnten. Außerdem beschrieben sie Begleitung, aufmunternde Nachrichten und verfügbare Informationen.

Diese Erfahrung muss nicht bestritten werden, nur weil der philosophische Vertrauensbegriff nicht passt. Ein Mensch kann sich in einer Interaktion sicher fühlen. Die Frage ist, welche Eigenschaften dieses Gefühl tragen und ob das Produkt die damit verbundenen Erwartungen tatsächlich erfüllt.

Gerade hier schützt die Unterscheidung zwischen Gefühl und Systemleistung. Ein warmer Ton kann psychologische Offenheit fördern, garantiert aber weder Datenschutz noch faktische Zuverlässigkeit. Beides muss unabhängig geprüft werden.

Kalibriertes Vertrauen heißt auch begrenztes Misstrauen

In der Mensch-Computer-Interaktion wird häufig von kalibriertem Vertrauen gesprochen: Die Erwartungen sollen zur tatsächlichen Leistungsfähigkeit passen. Ein System sollte weder unterschätzt noch überschätzt werden. Ryans Begriff der Verlässlichkeit macht dieses Ziel genauer.

Ein Nutzer darf sich darauf verlassen, dass ein lokaler Gesprächsverlauf lokal bleibt, wenn das Produkt das zusagt und technisch einhält. Er sollte sich nicht darauf verlassen müssen, dass jede psychologische Einordnung wahr ist. Die Oberfläche kann diese Unterschiede durch klare Hinweise, Quellen und Unsicherheitsformulierungen sichtbar machen.

Misstrauen ist dabei nicht automatisch ein Designfehler. Wer eine Antwort hinterfragt, Erinnerungen löscht oder bei einem sensiblen Thema weniger Daten teilen möchte, handelt angemessen. Gute Systeme ermöglichen solche Entscheidungen, statt jede Skepsis als Hindernis für Nutzung zu behandeln.

Kalibrierung betrifft auch die Darstellung von Fehlern. Ein System, das Unsicherheit sichtbar macht und nach einer Korrektur sein Urteil ändert, kann langfristig verlässlicher sein als eines, das jede Antwort mit derselben Sicherheit formuliert. Perfekte Souveränität erzeugt Vertrauen als Eindruck; nachvollziehbare Begrenzung schafft eine Grundlage für vernünftiges Sich-Verlassen.

Ein Gesprächspartner braucht überprüfbare Versprechen

Die Sprache eines Begleiters kann offen und natürlich sein. Die Produktversprechen dahinter müssen dagegen präzise bleiben. „Ich bin immer für dich da“ klingt menschlich, ist aber technisch nur dann annähernd wahr, wenn Betrieb, Finanzierung und Ausfallsicherheit tatsächlich gewährleistet sind.

Überprüfbare Aussagen lauten anders: Welche Daten werden gespeichert? Wie lange? Welches Modell schreibt die Antworten? Was geschieht bei einem Ausfall? Können Gespräche exportiert und gelöscht werden? Wer ist für Beschwerden erreichbar?

Solche Informationen wirken weniger emotional als ein Vertrauensslogan, schaffen aber die Grundlage berechtigter Verlässlichkeit. Sie machen den Dienst nicht kalt. Sie sorgen dafür, dass Wärme nicht als Ersatz für Rechenschaft dient.

Die Maschine antwortet, der Betreiber verantwortet

Ryans Kritik bewahrt einen wesentlichen Unterschied: Ein KI-System kann zuverlässig funktionieren, ohne selbst vertrauenswürdig im moralischen Sinn zu sein. Es kann Menschen unterstützen, ohne eine eigene Fürsorge zu besitzen. Und es kann Schaden verursachen, ohne selbst Verantwortung tragen zu können.

Für Begleit-KI folgt daraus eine klare Architektur der Verantwortung. Nutzende interagieren mit dem System; verantwortlich bleiben diejenigen, die es entwickeln, auswählen, betreiben und überwachen. Personalisierung oder ein Name für den Begleiter dürfen diese Zuordnung nicht verwischen.

Vielleicht müssen Menschen im Alltag trotzdem sagen dürfen, sie vertrauten ihrem Chatbot. Produktentwicklung sollte diese menschliche Kurzform nicht ausnutzen. Die bessere Frage lautet: Worauf genau darf sich jemand verlassen – und wer steht dafür ein, wenn es nicht funktioniert?