In der Hausarbeit wird eine Betrachtung KI-basierter Tools vorgenommen, deren Einsatz aufgrund des inhärenten Gender Bias zu einer Benachteiligung von Frauen führen kann. Die Legitimität des Einsatzes dieser Tools wird sodann aus einer philosophisch-ethischen Perspektive geprüft.
Neben diesen Benachteiligungen der Frauen in Bereichen der Lebens- und Arbeitswelt zeigen sich die Ungerechtigkeiten auch in algorithmischen Systemen. KI-Systemen können frauenfeindliche und diskriminierende Daten verbreiten, beispielsweise durch sogenannte Gender Bias. Diese tragen unter anderem dazu bei, Genderstereotype zu reproduzieren und die Diskriminierung von Frauen und Mädchen zu fördern. Diese Arbeit gibt einen groben Überblick darüber, was unter Gender Bias verstanden werden kann und wie dieser in Systemen der Künstlichen Intelligenz entsteht. Um die Auswirkungen von Gender Bias in KI-Systemen zu veranschaulichen, wird das Beispiel der KI-basierten Recruiting Tools betrachtet und anhand des Fallbeispiels „Amazon“ diskutiert. Der Schwerpunkt der Arbeit liegt auf der Untersuchung der ethischen Implikationen von durch Gender Bias verzerrten KI-Systemen. Insgesamt soll die Frage beantwortet werden, wann und inwiefern der Einsatz verzerrter KI-Systeme problematisch ist.
Inhaltsverzeichnis
1 Einführung
2 Gender Bias
2.1 Definition
2.2 Entstehung/Ursachen
3 Gender Bias am Beispiel KI-basierter Recruiting Tools
3.1 Überblick über Funktionsweise und Einsatzbereich von Recruiting Tools
3.2 Fallbeispiel „Amazon“
4 Ethische Diskussion
4.1 Gleichbehandlung zur Weiterentwicklung der Gesellschaft
4.2 Recht auf gleiche Rechte und Chancen
4.3 Recht auf Selbstverwirklichung
5 Resümee
Zielsetzung und Themenschwerpunkte
Die vorliegende Arbeit untersucht die ethischen Implikationen geschlechtsbezogener Verzerrungseffekte (Gender Bias) in Systemen der Künstlichen Intelligenz. Am konkreten Anwendungsbereich KI-basierter Recruiting Tools und anhand eines realen Fallbeispiels wird analysiert, wie bestehende gesellschaftliche Ungleichheiten in algorithmische Systeme einfließen und dort reproduziert werden. Zentrale Leitfrage ist hierbei, wann und inwiefern der Einsatz verzerrter KI-Systeme in Rekrutierungsprozessen aus philosophisch-ethischer Sicht problematisch ist.
- Begriffliche Bestimmung von Gender Bias und Analyse von dessen Ursachen in Algorithmen (vererbter, technischer und emergenter Bias)
- Funktionsweise, Entwicklungsstufen und Einsatzbereiche moderner Recruiting-Technologien
- Kritische Aufarbeitung des Fallbeispiels des KI-gestützten Bewerbungssystems von Amazon
- Ethische Beurteilung der Gleichbehandlung auf Grundlage des Utilitarismus von John Stuart Mill
- Analyse von Fairness und Verteilungsgerechtigkeit im Rahmen der Gerechtigkeitstheorie von John Rawls
- Bewertung individueller Entfaltungschancen anhand des Fähigkeitenansatzes (Capabilities Approach) von Martha Nussbaum
Auszug aus dem Buch
3.2 Fallbeispiel „Amazon“
Ein Team von Amazon entwickelte im Jahr 2014 ein Recruiting Tool in Form eines Chatbots, das eingesetzt werden sollte, um Lebensläufe von Kandidat*innen zu prüfen. Das Tool befand sich auf der Technologisierungsstufe der Spezialisierten KI und war dazu konzipiert, die Bewerbungen autonom zu analysieren und dabei zu ranken, indem ein bis fünf Sterne vergeben wurden. Ziel war es, besonders talentierte und qualifizierte Bewerber*innen herauszufiltern und rekrutieren zu können. Bereits ein Jahr nachdem der Chatbot erschien, erkannte das Unternehmen jedoch, dass Bewerber*innen für Jobs im technischen Bereich nicht geschlechtsneutral bewertet wurden. Grund dafür war, dass das Tool darauf trainiert wurde, bestimmte Muster in Lebensläufen zu erkennen und in die Bewertung miteinzubeziehen. Als Trainingsdaten wurden dabei Lebensläufe von Bewerbungen der letzten zehn Jahren verwendet, wobei die meisten Bewerber*innen männlich waren.
Das Geschlecht der Bewerber*innen wurde so von dem Recruiting Tool bei der Bewertung miteinbezogen, wobei aufgrund des Geschlechts Schlüsse zur Tauglichkeit für den Beruf gezogen wurden. Bewerber*innen, die mit dem sensiblen Attribut „Woman“ versehen waren, wurden daher grundsätzlich schlechter eingestuft als Bewerber*innen mit dem Attribut „Man“. Es wurden ebenfalls Absolvent*innen herabgestuft, die in ihrem Lebenslauf angaben, reine Frauenhochschulen besucht zu haben. Amazons System hat sich folglich aufgrund der nicht-repräsentativen Trainingsdaten ein Entscheidungsmuster angeeignet, nach dem männliche Kandidat*innen als geeigneter beurteilt werden.
Auch wenn das Unternehmen Amazon bestreitet, sich bei der Einstellung neuer Mitarbeiter*innen auf das Recruiting Tools verlassen zu haben, macht dieses Fallbeispiel deutlich, welche Auswirkungen Gender Bias bei algorithmischen Systemen wie KI-basierten Recruiting Tools haben können. Würden Einstellungsprozesse ausschließlich über algorithmische Technologien betrieben werden, so würde das bei verzerrten Daten oder Systemen dazu führen, dass Frauen noch mehr benachteiligt werden, als es in der Lebenswirklichkeit bereits der Fall ist. Anstatt sich von geschlechterbezogenen Entscheidungen und frauendiskriminierenden Sichtweisen zu distanzieren, würden diese durch den Gender Bias in der Gesellschaft noch weiter verstärkt oder verbreitet werden. Im Zuge der Diskussion zu dem Amazon-Fallbeispiel äußerten KI-Kritiker außerdem, dass es im Allgemeinen äußerst schwierig bis unmöglich sei, einen Arbeitgeber aufgrund von automatisierten Einstellungsverfahren, wie beim Einsatz von KI-basierten Recruiting Tools, zu verklagen. Das liegt vor allem daran, dass der Einsatz solcher Technologien meist gar nicht transparent gemacht wird.
Kapitelübersichten
1 Einführung: Das Kapitel thematisiert die Diskrepanz zwischen dem verfassungsrechtlichen Gleichheitsgebot des Grundgesetzes und der gesellschaftlichen Realität der Benachteiligung von Frauen, welche sich auch in algorithmischen Systemen widerspiegelt, und umreißt die ethische Fragestellung der Untersuchung.
2 Gender Bias: Dieses Kapitel liefert eine Definition des Begriffs Bias als unfaire, systematische Diskriminierung und skizziert die drei zentralen Entstehungsursachen vererbter, technischer und emergenter Verzerrungen in datenverarbeitenden Systemen.
3 Gender Bias am Beispiel KI-basierter Recruiting Tools: Es wird ein systematischer Überblick über verschiedene Technologisierungsgrade automatisierter Bewerbungssysteme geboten und anhand des praxisrelevanten Fallbeispiels eines Chatbots von Amazon aufgezeigt, wie unzureichende Trainingsdaten zu systematischer Benachteiligung von Bewerberinnen führten.
4 Ethische Diskussion: In einer fundierten philosophischen Abwägung wird der Einsatz voreingenommener Rekrutierungssysteme anhand der Gleichberechtigungslehre von John Stuart Mill, der Verteilungsgerechtigkeit von John Rawls sowie des Fähigkeitenansatzes von Martha Nussbaum kritisch beleuchtet.
5 Resümee: Das Abschlusskapitel fasst die zentralen Argumente zusammen und beantwortet die Leitfrage dahingehend, dass Gender Bias in KI-Systemen stets dort ethisch unzulässig ist, wo Handlungsfreiheiten beschnitten, Selbstverwirklichung verhindert und Chancengleichheit untergraben werden.
Schlüsselwörter
Gender Bias, Künstliche Intelligenz, Recruiting Tools, Diskriminierung, Gleichberechtigung, John Stuart Mill, John Rawls, Martha Nussbaum, Capabilities Approach, Chancengleichheit, Algorithmen, Amazon
Häufig gestellte Fragen
Worum geht es in dieser Arbeit grundsätzlich?
Die Arbeit befasst sich mit dem Phänomen geschlechtsspezifischer Verzerrungseffekte in daten- und KI-gestützten Systemen und untersucht die daraus resultierenden ethischen Fragestellungen für Gesellschaft und Individuum am praktischen Beispiel automatisierter Personalrekrutierung.
Welche zentralen Themenfelder werden abgedeckt?
Zu den thematischen Schwerpunkten gehören die informatische und soziologische Definition von Bias, die Funktionsweisen KI-basierter Personaltools, reale Fallbeispiele diskriminierender Software sowie philosophische Gerechtigkeits- und Gleichberechtigungstheorien.
Was ist das primäre Ziel beziehungsweise die Forschungsfrage der Publikation?
Das primäre Ziel ist die Beantwortung der Frage, wann und unter welchen Voraussetzungen der Einsatz von durch Gender Bias verzerrten KI-Systemen im Recruiting ethisch problematisch und gesellschaftlich untragbar ist.
Welche wissenschaftliche Methodik liegt der Untersuchung zugrunde?
Es handelt sich um eine theoretisch-analytische Arbeit der praktischen Philosophie, die eine interdisziplinäre Literaturanalyse technischer Grundlagen und soziologischer Befunde mit einer normativ-ethischen Text- und Argumentationsanalyse verbindet.
Was wird im Hauptteil detailliert behandelt?
Im Hauptteil werden nach einer Ursachenanalyse algorithmischer Verzerrungen die Technologiestufen von Recruiting-Tools dargestellt, das Scheitern des Amazon-Chatbots analysiert und die ethischen Implikationen anhand der Theorien von Mill, Rawls und Nussbaum diskutiert.
Welche Schlüsselbegriffe charakterisieren die Publikation?
Zentrale Leitbegriffe sind Gender Bias, KI-Systeme, Personalrekrutierung, Verteilungsgerechtigkeit, Urzustand, Capabilities Approach, Diskriminierung und Selbstverwirklichung.
Welche drei Ursachen für das Auftreten von Bias in Algorithmen werden unterschieden?
Die Arbeit differenziert zwischen vererbtem Bias (Vorurteile aus historischen Trainingsdaten), technischem Bias (Fehler im algorithmischen Design oder Modellgrenzen) und emergentem Bias (Diskrepanzen zwischen ursprünglichem Systemdesign und späterem realem Nutzungskontext).
Warum führte das Recruiting-Tool von Amazon im Fallbeispiel zu systematischer Diskriminierung?
Da der Chatbot mit Bewerbungsdaten der vorangegangenen zehn Jahre trainiert wurde, in denen vor allem Männer eingestellt worden waren, leitete das System ab, dass männliche Bewerber geeigneter seien, und stufte Lebensläufe mit Attributen wie „Frau“ oder Besuchen von Frauenhochschulen systematisch herab.
Wie bewertet Martha Nussbaums Fähigkeitenansatz die Auswirkungen von Gender Bias in Recruiting Tools?
Nach Nussbaums Capabilities Approach besitzt jeder Mensch ein Recht auf Entfaltung grundlegender Fähigkeiten und freie Berufswahl; wird Frauen diese Wahlmöglichkeit durch verzerrte Algorithmen genommen, werden sie als bloße Mittel degradiert, was ihre Menschenwürde und ihr Recht auf Selbstverwirklichung verletzt.
- Arbeit zitieren
- Anonym (Autor:in), 2023, Gender Bias in KI-Systemen, München, GRIN Verlag, https://www.grin.com/document/1761319
