Thema
Transparenz, Verantwortung, Datenschutz und Grenzen vertretbarer Systeme.
7 BeiträgeForschungsüberblick
Eine USENIX-Studie zeigt, dass verständliche Löschmöglichkeiten bei sensiblen KI-Gesprächen mehr bewirken können als technisch anspruchsvolle Datenschutzversprechen. Das macht Datenkontrolle zu einem Teil der Gesprächsqualität.
ErstveröffentlichtEinordnung
In einem Experiment waren die Folgen emotionaler Selbstoffenbarung vergleichbar, egal ob Teilnehmende an einen Chatbot oder einen Menschen als Gegenüber glaubten. Transparenz und Wirkung sind damit kein Widerspruch.
ErstveröffentlichtEinordnung
Zwei Experimente zeigen, dass Chatbot-Offenlegung in kritischen Services Vertrauen und Bindung senken kann. Wenn der Bot scheitert, konnte Transparenz dagegen positiv wirken. Kontext verändert die Reaktion.
ErstveröffentlichtEinordnung
Eine Übersicht mit mehr als 370 Referenzen ordnet Risiken als inhärente Probleme, Angriffe und unbeabsichtigte Fehler. Vier V&V-Säulen verbinden Evaluation, Verifikation, Laufzeitmonitoring und Regulierung.
ErstveröffentlichtEinordnung
KI-Begleiter können Nähe vermitteln, persönliche Offenheit fördern und zugleich neue Abhängigkeiten oder Verletzungen erzeugen. Eine europäische Einordnung zeigt, warum Transparenz, Datenschutz und Produktgestaltung zusammengehören.
ErstveröffentlichtEinordnung
Fachwissen, Reaktionsfähigkeit, Gestaltung, Marke, wahrgenommenes Risiko und Datenschutz wirken zusammen. Für sensible Gespräche ist Vertrauen deshalb eine Eigenschaft des gesamten Systems.
ErstveröffentlichtEinordnung
Ein Klassifikator kann riskante Formulierungen markieren. Ob ein Gesprächssystem dadurch sicher handelt, hängt jedoch auch von Datenpassung, Fehlerarten, Reaktion, Monitoring und klarer Verantwortung ab.
Erstveröffentlicht