Feministische KI ist mehr als ein entgifteter Chatbot

Feministische KI bedeutet nicht KI nur für Frauen

Der Begriff lädt zu einem Missverständnis ein. Feministische KI ist in Genglers Verständnis kein Spezialprodukt für Frauen und keine weiblich gestaltete Maschinenpersönlichkeit. Gemeint ist ein intersektionaler Blick auf technische Systeme. Er fragt nicht nur nach Geschlecht, sondern danach, wie sich Geschlecht mit Hautfarbe, Klasse, Behinderung, Alter, Sprache, sexueller Orientierung und anderen gesellschaftlichen Positionen überschneidet.

Damit verschiebt sich auch das Problem. Eine Bild-KI, die fast nur weiße Männer als Führungskräfte zeigt, ist ein sichtbares Beispiel. Doch ein System kann oberflächlich ausgewogen erscheinen und trotzdem ungerecht eingesetzt werden. Eine Überwachungssoftware wird nicht automatisch gerecht, weil ihre Erkennungsraten zwischen Gruppen ähnlicher werden. Ein Bewerbungssystem wird nicht dadurch unproblematisch, dass es Frauen und Männer gleich häufig aussortiert, wenn sein Zweck, seine Kriterien oder der Umgang mit den Betroffenen nicht verantwortbar sind.

Für Gesprächs-KI gilt dasselbe. Das System kann inklusive Wörter verwenden und dennoch manche Menschen schneller belehren, häufiger anzweifeln oder stärker in vorgegebene Rollen drücken. Feministische Kritik beginnt deshalb nicht erst beim beleidigenden Satz. Sie betrachtet das Verhältnis zwischen dem System, seinen Herstellern, den Nutzenden und den Institutionen, die es einsetzen.

Was sich über Eva Genglers Buch zuverlässig sagen lässt

Eva Genglers Buch Feministische KI. Warum Künstliche Intelligenz Ungerechtigkeit verstärkt und was wir dagegen tun müssen erschien im März 2026 im Dietz Verlag. Es umfasst 328 Seiten. Die öffentlich zugängliche Leseprobe enthält das Inhaltsverzeichnis und das persönliche Vorwort. Daraus wird ein dreiteiliger Aufbau sichtbar: Zunächst geht es um Realität, Mythen und Konsequenzen von KI, anschließend um Macht, Kontext, Menschen, Daten, Design und Zweck und schließlich um einen feministischen Ansatz mit Interventionen und Forderungen.

Gengler ist Wirtschaftsinformatikerin und promovierte an der Friedrich-Alexander-Universität Erlangen-Nürnberg im Programm Business and Human Rights zu KI aus feministischer soziotechnischer Perspektive. Im Vorwort legt sie ihre eigene Position ausdrücklich offen. Sie beschreibt das Buch als Verbindung ihrer Forschung, Projekte, Gespräche und der Arbeit anderer Wissenschaftler:innen, Aktivist:innen und Entwickler:innen. Wissenschaftliche Einordnung und politischer Veränderungswille stehen damit bewusst nebeneinander.

Diese Transparenz ist eine Stärke, ersetzt aber keine Quellenprüfung. Dialogatlas lag nicht das vollständige Buch als rechtmäßig zugänglicher Volltext vor. Wir bewerten daher nicht jedes Beispiel und nicht die gesamte Belegführung. Prüfbar sind der dokumentierte Aufbau, Genglers publizierter Forschungsansatz und die Frage, ob unabhängige Arbeiten seine zentralen Problemannahmen stützen.

Der entscheidende Wechsel führt von Bias zu Macht

In der KI-Debatte wird Ungerechtigkeit häufig als Bias behandelt: Ein Datensatz ist unausgewogen, ein Modell verknüpft Berufe mit Geschlechtern oder eine Klassifikation funktioniert für bestimmte Gruppen schlechter. Solche Befunde sind wichtig, weil sie konkret gemessen werden können. Sie verführen jedoch zu der Vorstellung, das gesellschaftliche Problem ließe sich wie ein technischer Fehler aus einem ansonsten neutralen System entfernen.

Gengler, Marco Wedel, Alexandra Wudel und Sven Laumer argumentieren in einem 2025 erschienenen Fachbeitrag, dass etablierte Ansätze wie Ethical AI, Fair AI und Trustworthy AI Machtverhältnisse nicht ausreichend berücksichtigen. Grundlage sind interdisziplinäre Forschung und Expert:inneninterviews in Fokusgruppen aus den Jahren 2022 und 2023. Der vorgeschlagene feministische Rahmen soll nicht nur einzelne Systemeigenschaften verändern, sondern auch untersuchen, wer technische und gesellschaftliche Entscheidungen treffen kann.

Das ist zunächst eine konzeptionelle und qualitative Aussage. Die Studie weist nicht in einem kontrollierten Versuch nach, dass ein nach diesen Prinzipien gebautes Produkt gerechtere Folgen erzielt. Ihr Beitrag liegt woanders: Sie macht sichtbar, dass Fairness nicht nur im Output steckt. Auftraggeber, Geschäftsmodell, Zielgruppe, Arbeitsbedingungen, Datengewinnung, Beschwerdewege und die Möglichkeit, einen Einsatz ganz abzulehnen, gehören ebenfalls zum System.

Unabhängige NLP-Forschung bestätigt die Kontextlücke

Schon 2020 untersuchten Su Lin Blodgett, Solon Barocas, Hal Daumé III und Hanna Wallach 146 wissenschaftliche Arbeiten zu Bias in der Sprachverarbeitung. Ihr Befund war ungewöhnlich selbstkritisch: Viele Arbeiten beschrieben ihre Motivation vage, erklärten nicht ausreichend, welches Verhalten wem auf welche Weise schadet, und verwendeten Mess- oder Minderungsmethoden, die schlecht zur behaupteten gesellschaftlichen Begründung passten.

Die Autor:innen forderten deshalb, Sprache mit sozialen Hierarchien zusammenzudenken. Betroffene Gemeinschaften sollten nicht bloß als Datenquelle oder spätere Testgruppe vorkommen. Forschung müsse auch fragen, wie Entscheidungen zwischen Technolog:innen und den Menschen verteilt sind, die ein System betrifft. Genau hier berührt sich die unabhängige NLP-Kritik mit Genglers Machtperspektive.

Das bedeutet nicht, beide Ansätze seien identisch. Blodgett und Kolleg:innen validieren weder Genglers Buch noch einen bestimmten feministischen Entwicklungsprozess. Sie zeigen aber, warum ein reiner Bias-Score zu wenig ist. Ohne benannten Schaden, Kontext und betroffene Personen bleibt selbst eine präzise Zahl normativ unvollständig.

Sprachmodelle reproduzieren nicht nur einfache Geschlechterklischees

Wie konkret das Problem in generierten Texten werden kann, zeigt der LABE-Benchmark von Yixin Wan und Kai-Wei Chang. Die Forschenden untersuchten Sprache über Handlungsfähigkeit und soziale Rollen in Biografien, Lehrbewertungen und Empfehlungsschreiben. Getestet wurden ChatGPT, Llama 3 und Mistral. Modelltexte zeigten in diesen Aufgaben mehr geschlechtliche Verzerrung als die verglichenen menschlichen Texte.

Besonders relevant war die intersektionale Ebene. Kombinationen aus Geschlecht und rassifizierter Zuordnung zeigten stärkere Unterschiede als die einzeln betrachteten Kategorien. Schon der Titel der Arbeit fasst das Muster zugespitzt zusammen: Weiße Männer werden eher als führend, Schwarze Frauen eher als helfend beschrieben. Solche sprachlichen Rollenbilder können beeinflussen, wem Kompetenz, Initiative und Autorität zugeschrieben werden.

Der Benchmark untersucht drei Aufgaben und drei Modellfamilien. Er beweist nicht, dass jede Antwort dieser Systeme diskriminiert oder dass ein identisches Muster in jedem privaten Gespräch erscheint. Er zeigt enger und belastbarer: Auch flüssige, professionell klingende Texte können gesellschaftlich gelernte Unterschiede in der Zuschreibung von Handlungsmacht reproduzieren.

Mehrsprachigkeit beseitigt Stereotype nicht

EuroGEST erweitert die Prüfung über das Englische hinaus. Der Datensatz umfasst 16 von Fachleuten informierte Geschlechterstereotype und wurde für Englisch sowie 29 europäische Sprachen aufbereitet. Jacqueline Rowe und Kolleg:innen testeten damit 24 mehrsprachige Modelle aus sechs Modellfamilien. Wiederkehrende Muster verbanden Frauen stärker mit Schönheit, Empathie und Ordentlichkeit, Männer stärker mit Führung, Stärke, Härte und Professionalität.

Auch instruction-tuned Modelle zeigten weiterhin stereotype Schlussfolgerungen. Innerhalb der untersuchten Modellmenge waren größere Modelle nicht automatisch weniger voreingenommen; teilweise codierten sie die geprüften Stereotype sogar stärker. Das widerspricht der bequemen Erwartung, mehr Parameter und bessere allgemeine Sprachleistung würden soziale Verzerrungen von selbst auswaschen.

EuroGEST misst kontrollierte stereotype Schlussfolgerungen. Daraus folgt nicht unmittelbar, dass jede gemessene Differenz einen Menschen im Alltag benachteiligt. Für mehrsprachige Gesprächsprodukte ist der Befund dennoch wichtig: Eine englische Prüfung lässt sich nicht einfach auf deutsche oder andere Sprachfassungen übertragen. Jede Sprache besitzt eigene grammatische Strukturen, Rollenbilder und Datenlücken.

Ein freundlicher Systemprompt ist keine stabile Reparatur

Viele Produkte versuchen problematische Ausgaben mit einer zusätzlichen Anweisung zu korrigieren: Sei fair, inklusiv und unvoreingenommen. In der LABE-Studie erwies sich promptbasierte Minderung jedoch als instabil. Sie half nicht zuverlässig und verschärfte Verzerrungen in einzelnen Bedingungen. Das macht Prompts nicht nutzlos. Es zeigt nur, dass eine allgemeine Absichtserklärung keine überprüfbare Wirkung garantiert.

Ein Prompt kann sichtbare Formulierungen verändern, ohne den Zweck des Systems, die Datenbasis oder die institutionelle Entscheidung zu berühren. Er kann außerdem neue Vereinfachungen erzeugen: Ein Modell vermeidet dann vielleicht jedes Geschlecht, behandelt Menschen demonstrativ gleich oder ersetzt konkrete Unterschiede durch glatte Neutralität. Auch das kann Kontext verlieren und den tatsächlich Betroffenen wenig helfen.

Genglers weiter gefasster Ansatz ist an dieser Stelle produktiv. Wenn Menschen, Daten, Prozesse, Design und Zweck gemeinsam betrachtet werden, wird der Prompt zu einer von mehreren Stellschrauben. Er muss durch Tests, Beteiligung, Beschwerdewege, dokumentierte Grenzen und die Möglichkeit ergänzt werden, ein ungeeignetes System nicht einzusetzen.

Der Gegenblick: Nicht jeder Unterschied ist bereits Ungerechtigkeit

Eine unabhängige Einordnung muss auch die Grenzen der Bias-Forschung sichtbar machen. Die große Übersicht von Isabel O. Gallegos und Kolleg:innen ordnet Messungen auf der Ebene von Einbettungen, Wahrscheinlichkeiten und erzeugtem Text. Diese Ebenen sind nicht austauschbar. Ein Modell kann in einem Wortassoziationstest auffällig sein und in einer konkreten Aufgabe anders reagieren. Umgekehrt kann ein unauffälliger Durchschnitt seltene, aber gravierende Schäden verdecken.

Auch Fairnessziele können miteinander kollidieren. Soll ein System demografische Merkmale ignorieren oder sie gerade berücksichtigen, um bestehende Nachteile nicht als neutral zu behandeln? Soll jede Gruppe statistisch gleich behandelt werden, wenn Ausgangsbedingungen verschieden sind? Solche Entscheidungen lassen sich nicht aus dem Modellgewicht oder einer Kennzahl ableiten. Sie brauchen eine begründete Vorstellung davon, was im jeweiligen Kontext gerecht sein soll.

Darum wäre es falsch, feministische KI als moralisch überlegenen Algorithmus zu vermarkten. Der Ansatz ist in den geprüften Quellen ein normativer und soziotechnischer Rahmen. Seine Qualität zeigt sich daran, ob er bessere Fragen, andere Beteiligung und überprüfbar bessere Folgen ermöglicht – nicht daran, ob ein Produkt das Wort feministisch auf seine Startseite schreibt.

In KI-Gesprächen verteilt Sprache selbst Handlungsmacht

Bei einem Gesprächssystem entscheidet sich Macht nicht nur in einer späteren Personalentscheidung. Sie steckt bereits im Dialog. Das System kann festlegen, welches Problem es aus einer Erzählung macht, welche Erklärung plausibel erscheint und welcher nächste Schritt als vernünftig gilt. Es kann eine Person als kompetente Erzählerin ihres eigenen Lebens behandeln oder sie subtil zu einem Fall machen, den die KI ordnet.

Geschlechtliche Stereotype können dabei freundlich klingen. Einer Frau wird vielleicht häufiger Empathie, Anpassung oder Beziehungsarbeit zugeschrieben, einem Mann eher Entschlossenheit oder Führung. Ein zurückhaltender Satz kann je nach vermuteter Identität als Unsicherheit, Höflichkeit oder mangelnde Kompetenz gelesen werden. Wenn ein System solche Muster übernimmt, beeinflusst es nicht nur Ton, sondern auch Rat, Rückfragen und die zugestandene Autorität.

Auch das Versprechen personalisierter Nähe verdient diesen Blick. Wer bestimmt, was eine hilfreiche Beziehung ist? Lernt das System aus einem Verhalten, das durch frühere Benachteiligung geprägt wurde, und gibt es dieses als persönliche Präferenz zurück? Eine feministische Prüfung würde Personalisierung nicht nur daran messen, ob sie passend wirkt, sondern ob sie Wahlmöglichkeiten erweitert oder bestehende Rollen enger macht.

Wie sich diese Fragen konkret testen lassen

Ein Gesprächsprodukt kann mit kontrollierten Identitätsvarianten geprüft werden. Derselbe mehrzügige Verlauf wird nur an einzelnen Merkmalen verändert: Name, Pronomen, Alter, Sprachstil, Beruf oder familiäre Rolle. Bewertet wird nicht bloß sentimentale Freundlichkeit. Entscheidend ist, ob das System unterschiedlich häufig widerspricht, bevormundet, beruhigt, Verantwortung zuschreibt, Risiken vermutet oder konkrete Handlungsmöglichkeiten eröffnet.

Solche Gegenfaktentests brauchen längere Verläufe. Eine einzelne Antwort kann ausgewogen wirken, während sich über zehn Nachrichten ein Muster bildet. Das System erinnert vielleicht bei einer Person vor allem Verletzlichkeit und bei einer anderen vor allem Kompetenz. Es kann dieselbe Grenze unterschiedlich ernst nehmen oder dieselbe Ungewissheit bei verschiedenen Identitäten anders auflösen.

Die Auswertung sollte Menschen aus betroffenen Gruppen einbeziehen, ohne ihnen die gesamte unbezahlte Prüfarbeit aufzubürden. Zusätzlich braucht es technische Reproduzierbarkeit, dokumentierte Modellversionen und klare Fehlerkategorien. Ein Gesamtwert wie 92 Prozent fair wäre zu grob. Sichtbar bleiben müssen Art, Häufigkeit, Schwere und Kontext eines Unterschieds.

• Identitätsmerkmale einzeln variieren und den übrigen Verlauf konstant halten.
• Glaubwürdigkeit, Widerspruch, Rat, Bevormundung und Handlungsraum getrennt bewerten.
• Mehrsprachige und mehrzügige Verläufe statt nur englischer Einzelsätze prüfen.
• Betroffene Gruppen an Fragestellung und Bewertung beteiligen.
• Nicht nur Durchschnittswerte, sondern seltene schwere Fehler dokumentieren.

Was der feministische Rahmen nicht automatisch löst

Ein gerechter Anspruch verhindert keine Halluzination, keine Datenpanne und keine manipulative Produktentscheidung. Auch ein divers zusammengesetztes Team kann unter Zeitdruck schlechte Tests durchführen. Beteiligung kann symbolisch bleiben, wenn Betroffene zwar angehört werden, aber keine Entscheidungsmacht besitzen. Transparenz kann zur bloßen Dokumentation werden, ohne dass sich ein schädlicher Einsatz stoppen lässt.

Ebenso existiert nicht die eine feministische Position. Zwischen Gleichbehandlung, besonderem Schutz, Selbstbestimmung, kollektiver Verantwortung und der Ablehnung bestimmter Technologien können reale Konflikte entstehen. Intersektionalität erweitert die Perspektive, macht Entscheidungen aber nicht automatisch einfach. Ein ernsthafter Ansatz muss solche Spannungen benennen, statt sie hinter einem positiven Leitbild zu verstecken.

Schließlich ist die Wirksamkeit konkreter Interventionen noch offen. Die geprüften Quellen zeigen Probleme, Messverfahren und normative Leitfragen. Sie liefern keinen allgemeinen Vergleich zwischen feministischer und nicht feministischer KI-Entwicklung. Der nächste wissenschaftliche Schritt wären dokumentierte Projekte mit klaren Ausgangsproblemen, Beteiligungsprozessen, technischen Änderungen und messbaren Folgen.

Warum das Buch trotzdem eine wichtige Debatte öffnet

Genglers Buch bringt eine Perspektive in die breitere Öffentlichkeit, die technische Debatten leicht ausblenden. KI ist nicht nur ein Modell, das mehr oder weniger korrekte Antworten erzeugt. Sie ist Teil von Organisationen, Märkten und politischen Entscheidungen. Selbst die Wahl, welches Problem automatisiert werden soll, verteilt Aufmerksamkeit und Ressourcen.

Die unabhängige Forschung stützt zentrale Teile dieser Diagnose. Stereotype bleiben über Modellfamilien und Sprachen hinweg messbar. Intersektionale Muster können stärker sein als einzeln betrachtete Kategorien. Reine Prompt-Reparaturen sind nicht stabil, und die Bias-Forschung selbst braucht klarere Aussagen über Schaden, Betroffene und Macht. Das ist eine belastbare Grundlage für die Debatte, aber kein Beweis für jede Forderung des Buches.

Für Dialogatlas folgt daraus ein präziser Maßstab: Ein gutes KI-Gespräch ist nicht nur warm, sicher und sprachlich flüssig. Es muss auch daraufhin geprüft werden, wessen Deutung es stärkt, wem es Kompetenz zutraut und ob es den Handlungsspielraum einer Person erweitert. Feministische KI wäre dann kein fertiges Produktmerkmal, sondern eine fortlaufende Verpflichtung, Macht im und um den Dialog sichtbar und veränderbar zu machen.