Trotz des vermeintlich vorteilhaften Einsatzes von People-Analytics-Tools wirft ihre Verwendung auch eine Vielzahl an rechtlichen Fragen auf. Schließlich müssen AG innerhalb eines Recruiting-Prozess verschiedene rechtliche Regelungen der DS-GVO, des BetrVGs und des AGGs einhalten. Diese gelten auch wenn eine Einstellung mittels der KI eines People-Analytics-Tools vorgenommen wird.
Im Gegensatz zu den datenschutzrechtlichen oder betriebsverfassungsrechtlichen Komplikationen wurden die offenen Fragen hinsichtlich der Vereinbarkeit mit dem AGG und dem Vorliegen einer möglichen Diskriminierung bisher kaum untersucht. Aus diesem Grund soll sich diese Ausarbeitung der Beantwortung der folgenden Frage widmen: Unter welchen Bedingungen liegt eine Diskriminierung i. S. d. AGGs bei der Nutzung von KI durch die Anwendung von People-Analytics-Tools im Recruiting-Prozess vor und unter welchen Umständen können Arbeitgeber dafür haften?
Verstöße gegen das Benachteiligungsgebot nach § 7 AGG i. V. m. § 1 AGG sind, auch ohne den Einsatz von KI, Gegenstand einer Vielzahl von Rechtsfällen. Verschiedene Studien belegen die Benachteiligung von Bewerbern aufgrund ihrer ethischen Herkunft, ihres Geschlechts oder ihrer Religionszugehörigkeit. Während eine Bewerberin mit deutscher Herkunft mit einer Wahrscheinlichkeit von 20% zum Vorstellungsgespräch eingeladen wurde, führten die Bewerbungsunterlagen einer türkischstämmigen Kandidaten, die auf ihrem Bewerbungsfoto ein Kopftuch trägt, nur in 4,2 % der Fälle zu einer Einladung zum persönlichen Gespräch.
Es ist demnach auch zu untersuchen, ob der Einsatz von KI diesem Risiko entgegen wirken kann oder ob die Gefahr der Diskriminierung durch den Einsatz von People-Analytics-Tools steigt. Fraglich ist somit, ob der Einsatz von KI in Form eines People-Analytics-Tools für Unternehmen von Vorteil ist. Dafür wird im Rahmen dieser Ausarbeitung untersucht, unter welchen Umständen der AG für die Software haften muss oder ob KI selbst haftbar gemacht werden kann. So wäre es denkbar,
den Software-Betreiber bzw. den Software-Entwickler in Regress zu nehmen.
Darüber hinaus sind eingangs Rechtsfragen hinsichtlich der Anwendbarkeit des AGGs auf diese moderne und intelligente Form der Technik im Recruiting zu klären und im späteren Verlauf der Anpassungsbedarf des AGGs darzustellen. Es gilt außerdem erste bereits bestehende Ansätze aufzuzeigen, die einen Einsatz von People-Analytics-Tools unter Einhaltung der Rechtsnormen des AGGs ermöglichen.
Inhaltsverzeichnis
1. Einleitung
1.1 Forschungsgegenstand
1.2. Gang der Untersuchung
2. Grundlagen
2.1 Rechtlicher Rahmen des AGGs
2.1.1 Europäische Richtlinien als Grundlage des AGGs
2.1.2 Diskriminierungsverbote vor in Kraft treten des AGGs
2.1.3 Abgrenzung des AGGs zum Arbeitsrecht
2.1.4 Abgrenzung des AGGs zum Datenschutzrecht
2.1.5 Zwischenergebnis
2.2 Recruiting-Prozess
2.2.1 Anforderungsprofil und Stellenausschreibung
2.2.2 Vorauswahl/Vorselektion
2.2.3 Feinselektion
2.2.3.1 Telefon- und Videointerviews
2.2.3.2 Persönliche Interviews
2.2.4 Unterstützung des Recruiting-Prozesses durch ein Bewerbermanagementsystem
2.3 Künstliche Intelligenz im Recruiting
2.3.1 Definition: Künstliche Intelligenz
2.3.2 People-Analytics-Tools
2.3.2.1 Micro-Targeting /Audience Targeting / Programmatic Job Advertising
2.3.2.2 Matching-Algorithmen / AI-Matching
2.3.2.3 CV-Parsing
2.3.2.4 Sprach- oder Videoanalyse-Software
2.3.2.5 Online-Persönlichkeitstests
3. Automatisierte Diskriminierung im Recruiting durch den Einsatz von KI?
3.1 Mögliche Ursachen für die Entstehung von Diskriminierung durch die Nutzung von Algorithmen innerhalb einer KI
3.1.1 Diskriminierende Input-Daten oder diskriminierende Programmierer
3.1.2 Korrelationen anstelle von Kausalitäten
3.1.3 Gruppenbildung als diskriminierungsrelevanter Effekt
3.1.4 Unzulässige Fragen im Recruiting-Prozess
3.1.5 Zwischenergebnis
3.2 Haftung des Unternehmens für eine Diskriminierung i. S. d. AGGs durch den Einsatz von KI gem. § 15 Abs. 1 AGG
3.2.1 Sachlicher und persönlicher Anwendungsbereich
3.2.1.1 Sachlicher Anwendungsbereich
3.2.1.2 Persönlicher Anwendungsbereich
3.2.1.3 Zwischenergebnis
3.2.2 Geschütztes Merkmal nach § 1 AGG
3.2.2.1 Automatisierte Alters-Diskriminierung
3.2.2.2 Benachteiligung aufgrund einer Behinderung
3.2.2.3 Diskriminierung wegen der ethnischen Herkunft
3.2.2.4 Benachteiligung aufgrund des Geschlechts
3.2.2.5 Zwischenergebnis
3.2.3 Benachteiligung i. S. d. § 3 AGG
3.2.3.1 Unmittelbare Benachteiligung nach § 3 Abs. 1 AGG
3.2.3.1.1 Behandlung
3.2.3.1.2 Weniger günstige Behandlung
3.2.3.1.3 Kausalität
3.2.3.1.4 Zwischenergebnis
3.2.3.2 Mittelbare Benachteiligung i. S. d. § 3 Abs. 2 AGG
3.2.3.2.1 Neutrale Merkmale
3.2.3.2.2 Benachteiligende Wirkung
3.2.3.2.3 Rechtfertigung nach § 3 Abs. 2 Hs. 2 AGG
3.2.3.2.4 Zwischenergebnis
3.2.4 Zwischenergebnis
3.2.5 Rechtfertigung nach § 8 AGG
3.2.6 Verschulden
3.2.6.1 Verschulden bei fehlerhafter Programmierung
3.2.6.2 Verschulden bei programmtechnischen Versagen
3.2.6.3 Verschulden durch Nichteinhaltung der Maßnahmen und Pflichten eines Arbeitgebers gem. § 12 AGG
3.2.6.4 Zwischenergebnis
3.2.7 Frist und Rechtsfolge
3.3 Entschädigungsanspruch nach § 15 Abs. 2 AGG
3.4 In Regress nehmen des Entwicklers des People-Analytics-Tools
4. People-Analytics-Tools AGG-konform gestalten
5. Fazit
Zielsetzung & Themen
Die Arbeit untersucht, unter welchen rechtlichen Bedingungen der Einsatz von People-Analytics-Tools (KI) im Recruiting-Prozess zu einer Diskriminierung im Sinne des Allgemeinen Gleichbehandlungsgesetzes (AGG) führen kann und unter welchen Voraussetzungen Arbeitgeber hierfür schadensersatz- oder entschädigungspflichtig werden können.
- Rechtliche Grundlagen des AGG im Kontext moderner Recruiting-Technologien
- Analyse potenzieller Diskriminierungsursachen durch KI-gestützte Algorithmen
- Haftungsfragen für Unternehmen bei Diskriminierung durch People-Analytics-Systeme
- Prüfung von Rechtfertigungsgründen für den Einsatz solcher Tools
- Strategien zur AGG-konformen Ausgestaltung von Recruiting-KI-Systemen
Auszug aus dem Buch
1. Einleitung
Künstliche Intelligenz (KI) ist inzwischen allgegenwärtig. Ihre Omnipräsenz begleitet die Gesellschaft durch den Alltag und hat sich bereits einige Jahre zuvor Zutritt zur Arbeitswelt verschafft. Jemanden zu beobachten, wie er über sein Smartphone mit Siri oder Alexa spricht, oder auf seine Smartwatch schaut, um neben der Uhrzeit auch die Anzahl der bereits gelaufenen Schritte oder seine Herzfrequenz zu überprüfen und seinen aktuellen Standort zu erfahren – heutzutage ein gewohnter Anblick. Die Produktion eines neuen Autos ohne die Unterstützung von intelligenten Robotern – in der heutigen Zeit nur schwer vorstellbar. Die Vorstellung eine KI darüber entscheiden zu lassen, wer den ausgeschriebenen Job bekommt, sehen viele Bewerber jedoch mit mehr Skepsis entgegen. Für Arbeitgeber (AG) spricht vor allem die Effizienzsteigerung und der scheinbar objektivere Recruiting-Prozess für einen Einsatz von KI im Recruiting-Prozess. So gehen 47,5 % der 1000 größten deutschen Unternehmen davon aus, dass die computergesteuerte und automatische Selektion von Bewerbungen in Zukunft immer häufiger genutzt werden wird. Bereits heute werden intelligente Tools, sogenannte People-Analytics-Tools, im Bewerbungsprozess eingesetzt. Sie zeigen passenden Kandidaten Stellenausschreibungen auf Social-Media-Kanälen an, sie bewerten Lebensläufe, sie führen erste Interviews durch und bewerten Kandidaten mit Hilfe von Big-Data-Analysen hinsichtlich ihrer Eignung für die zu besetzende Vakanz.
Zusammenfassung der Kapitel
1. Einleitung: Die Einleitung beleuchtet die zunehmende Verbreitung von KI im Recruiting und leitet daraus die Forschungsfrage ab, wie sich der Einsatz dieser Tools mit dem AGG vereinbaren lässt.
2. Grundlagen: Dieses Kapitel erläutert den rechtlichen Rahmen des AGG und beschreibt gängige Recruiting-Prozesse, um die Einsatzmöglichkeiten von People-Analytics-Tools einordnen zu können.
3. Automatisierte Diskriminierung im Recruiting durch den Einsatz von KI?: Der Hauptteil untersucht die Ursachen für diskriminierende Algorithmen und die rechtlichen Haftungsrisiken für Unternehmen bei Verstößen gegen das AGG.
4. People-Analytics-Tools AGG-konform gestalten: Hier werden präventive Ansätze vorgestellt, wie Unternehmen Risiken minimieren und KI-Tools transparenter und fairer einsetzen können.
5. Fazit: Das Fazit fasst die rechtlichen Herausforderungen zusammen und betont, dass trotz der Risiken ein effizienterer Recruiting-Prozess durch KI bei sorgfältiger Kontrolle möglich ist.
Schlüsselwörter
Allgemeines Gleichbehandlungsgesetz, AGG, Künstliche Intelligenz, KI, People-Analytics, Recruiting, Diskriminierung, Haftung, Arbeitsrecht, Schadensersatz, Algorithmen, Datenschutz, Eignungsdiagnostik, Bewerberauswahl, Benachteiligung
Häufig gestellte Fragen
Worum geht es in dieser wissenschaftlichen Arbeit im Kern?
Die Arbeit analysiert die rechtliche Zulässigkeit und die potenziellen Diskriminierungsrisiken von KI-gestützten Recruiting-Tools unter Berücksichtigung des Allgemeinen Gleichbehandlungsgesetzes (AGG).
Welche zentralen Themenfelder deckt die Untersuchung ab?
Zentrale Themen sind die Anwendbarkeit des AGG auf KI-Prozesse, die Identifikation von Diskriminierungsfaktoren in Algorithmen sowie die zivilrechtliche Haftung von Unternehmen für KI-Entscheidungen.
Was ist das primäre Ziel oder die Forschungsfrage?
Es soll geklärt werden, unter welchen Bedingungen People-Analytics-Tools diskriminierend im Sinne des AGG wirken und ob bzw. unter welchen Umständen Arbeitgeber für diese Diskriminierungen rechtlich haften.
Welche wissenschaftlichen Methoden werden angewandt?
Die Arbeit basiert auf einer juristischen Analyse, die sich auf einschlägige Gesetze, Kommentarliteratur, aktuelle Urteile sowie Studien zur Diskriminierung im Recruiting stützt.
Was wird im Hauptteil der Arbeit schwerpunktmäßig behandelt?
Der Hauptteil befasst sich detailliert mit den Ursachen für Diskriminierung durch Algorithmen, den Voraussetzungen einer unmittelbaren und mittelbaren Benachteiligung sowie den Zurechnungsfragen der Haftung nach § 15 AGG.
Welche Schlüsselbegriffe charakterisieren die Arbeit?
Die Arbeit wird maßgeblich durch Begriffe wie Diskriminierungsverbot, Kausalität, Haftungsrisiko, Transparenz und automatisierte Entscheidungsfindung bestimmt.
Inwiefern beeinflussen anonymisierte Bewerbungsverfahren das Risiko?
Anonymisierte Verfahren können das Risiko in der Vorauswahl senken, da diskriminierende Merkmale wie Alter oder Herkunft initial ausgeblendet werden, wobei jedoch Förderpflichten für Schwerbehinderte weiterhin beachtet werden müssen.
Kann ein Unternehmen den Software-Entwickler für Diskriminierungen haftbar machen?
Ja, ein Unternehmen kann den Entwickler bei Vorliegen eines Produktmangels (z. B. durch diskriminierende Programmierung) nach den allgemeinen Regeln des Kauf- oder Werkvertragsrechts in Regress nehmen.
- Quote paper
- Virginia Hildebrand (Author), 2020, Automatisierte Diskriminierung im Recruiting durch den Einsatz von KI? Die Rolle von People-Analytics-Tools im Recruiting-Prozess, Munich, GRIN Verlag, https://www.grin.com/document/1257365
