Im Unternehmen fällt der rechtliche Umgang mit KI-Systemen meist in das Aufgabenfeld der Rechts- bzw. der Compliance-Abteilung. Diese müssen sich mit einer Reihe an Fragen beschäftigen, die der Einsatz von KI mit sich bringt. Zum einen stellt sich die Frage, ob und inwiefern KI in der Gesellschaft überhaupt eingesetzt werden kann, darf oder gar muss. Zum anderen gilt es zu untersuchen, wie sich der KI-Einsatz auf das Compliance-Programm der Gesellschaft auswirkt. Diese Wechselwirkungen zwischen KI und Compliance prägen das noch im Unternehmensumfeld relativ junge Fachgebiet der KI-Compliance.
Die Anschaffung von KI-Systemen in Unternehmen erfordert in der Regel beträchtliche finanzielle Ressourcen und Datenmengen, weshalb KI derzeit insbesondere für größere und finanzstarke Unternehmen – meist in der Rechtsform der AG – von Relevanz ist. Ferner ist eine solche Maßnahme auch in der Regel eine, die der Vorstand als Leitungsorgan zu treffen hat. Dieser trägt ebenfalls die Compliance-Verantwortung in der Gesellschaft. Ziel dieser Arbeit ist es daher, die rechtlichen Implikationen des Einsatzes von KI-Systemen in Aktiengesellschaften, insbesondere hinsichtlich der Compliance-Pflichten des Vorstands, zu analysieren. Hierfür gilt es zunächst ein theoretisches Fundament zu KI (Teil B), sowie zu Compliance in Aktiengesellschaften (Teil C) aufzubauen. Sodann wird der KI-Einsatz in der AG (Teil D) in Blick genommen. Neben den Einsatzmöglichkeiten geht es auch um die Frage der rechtmäßigen Zulässigkeit des KI-Einsatzes, sowie um eine mögliche Pflicht des Vorstands zum KI-Einsatz. Infolgedessen werden dann die Auswirkungen auf die Compliance-Pflichten des Vorstands analysiert (Teil E). Hierbei werden die zugrundeliegenden Rechtsquellen, als auch der anzuwendende Sorgfaltsmaßstab des Vorstands betrachtet. Einen Schwerpunkt bilden zudem die einzelnen Compliance-Pflichten beim KI-Einsatz. Zum Schluss werden die Kernthesen in einem Fazit zusammengefasst und ein Ausblick gegeben (Teil F).
Gliederung
A. Einleitung
I. KI als Chance und Gefahr im Unternehmen
II. Ziel und Struktur der Arbeit
B. Grundlagen der Künstlichen Intelligenz
I. Definition von KI
1. Definitionsprobleme
2. Die Definition in der KI-VO
a) Definition im Kommissionsentwurf
b) Definition aus den Trilog-Verhandlungen
aa) Maschinenbasiertes System
bb) Grad an Autonomie
cc) Anpassungsfähigkeit während des Gebrauchs
dd) Explizite oder implizite Ziele
ee) Ableitung eines Outputs aus einem Input
c) Abgrenzung zu KI-Systemen mit allgemeinem Verwendungszweck
II. Risiken der KI
1. Autonomierisiko
2. Opazitätsrisiko
3. Diskriminierungsrisiko
4. Risiko der Verantwortungslücken
5. Sicherheitsrisiko
6. Rechtsrisiko
C. Compliance in der Aktiengesellschaft
I. Definition und Funktion von Compliance
II. Rechtliche Grundlagen von Compliance
III. Umfang und Inhalte der Compliance-Pflicht
1. Präventive Compliance-Maßnahmen
2. Aufklärende Maßnahmen bei Verdachtsfällen
3. Maßnahmen zur repressiven Sanktionierung von Compliance-Verstößen
D. Einsatz von KI in der Aktiengesellschaft
I. Möglichkeiten des Einsatzes von KI in der Aktiengesellschaft
1. KI in der unternehmerischen Tätigkeit
2. KI im Vorstand
a) als Leitungsorgan
b) Leitungsunterstützender Einsatz
II. Recht zum Einsatz von KI in der Aktiengesellschaft
1. Rechtliche Qualifizierung des KI-Einsatzes
2. Anwendung der Delegationsgrundsätze bei KI-Systemen
a) Unterscheidung zwischen Leitungs- und Geschäftsführungsaufgaben
b) Grundsatz der Leitungsverantwortung des Vorstands
c) Gesetzliche Leitungsaufgaben
3. Art. 22 DSGVO
III. Pflicht zum Einsatz von KI in der Aktiengesellschaft
E. Auswirkungen des Einsatzes von KI auf die Compliance-Pflichten
I. Rechts(erkenntnis)quellen
1. Aktiengesetz (AktG)
2. KI-Verordnung (KI-VO)
a) Überblick zur KI-VO
b) Relevanz der KI-VO aus der Sicht einer AG
3. Weitere Gesetze
4. Soft Law Regelwerke
II. Sorgfaltsmaßstab des Vorstands
1. Analogie von § 80 Abs. 2 und 3 WpHG
2. Heranziehung der ISION-Rechtsprechung
3. Flexibilisierung des Sorgfaltsmaßstabs
III. Pflichten bei der Einführung von KI-Systemen
1. Pflicht zur sorgfältigen Auswahl und Überprüfung des KI-Systems
2. Organisationspflichten
a) Rechtmäßigkeit des KI-Einsatzes
b) Ethische Aspekte des KI-Einsatzes
IV. Pflicht zur Information, Transparenz und Einweisung
1. Informations- und Transparenzpflichten
2. Einweisungspflichten
a) Einweisung des Vorstands
b) Einweisung der Mitarbeitenden
V. Pflicht zur angemessenen Datenausstattung des KI-Systems
VI. Pflicht zur ordnungsgemäßen Überwachung des KI-Systems
1. Facetten der Überwachungspflicht
a) Überwachung der Neutralität und Funktion
b) Überwachung der Risikoentwicklung
c) Überwachung der Cybersicherheit
d) Überwachung von Markt- und Produktentwicklungen
2. Ausgestaltung der Überwachungspflicht
a) Intensität der Überwachung
b) Überwachung der KI „per Design“
c) Menschliche Aufsicht
d) Notfallabschaltung
VII. Pflicht zur Dokumentation
VIII. Pflicht zur Plausibilisierung von KI-Ergebnissen
1. Herangehensweisen zur Plausibilitätsprüfung
2. Umfang der Plausibilitätsprüfung
IX. Pflicht zur Festlegung von Verantwortlichkeiten
1. Verantwortlichkeiten im Rahmen der KI-Haftung
2. Verantwortlichkeiten im Rahmen der Wissensorganisation
F. Fazit
I. Zusammenfassung der Ergebnisse
II. Ausblick
Zielsetzung & Themen
Die vorliegende Arbeit analysiert die rechtlichen Implikationen des Einsatzes von KI-Systemen in Aktiengesellschaften (AG), mit einem besonderen Fokus auf die Compliance-Pflichten des Vorstands. Ziel ist es zu untersuchen, unter welchen Voraussetzungen eine Nutzung rechtlich zulässig ist und wie der Vorstand seine Organisations- und Überwachungspflichten in Bezug auf die spezifischen KI-Risiken erfüllen muss, um Haftungsrisiken zu vermeiden.
- Rechtliche Qualifizierung von KI-Systemen als technisches Hilfsmittel oder Delegationsgegenstand
- Analyse der KI-spezifischen Risiken (Autonomie, Opazität, Diskriminierung, Verantwortungslücken)
- Bestimmung des Sorgfaltsmaßstabs des Vorstands bei der Einführung und Nutzung von KI
- Integration von KI-Anforderungen in die bestehende Compliance-Organisation der AG
- Durchführung von Konformitätsprüfungen und Plausibilisierungsmaßnahmen für KI-Ergebnisse
Auszug aus dem Buch
1. Autonomierisiko
Eines der essenziellen Eigenschaften von KI ist die Fähigkeit zum autonomen Handeln.65 Damit gemeint ist, dass dem Verhalten des KI-Systems an einer Determinierung fehlt.66 Der Algorithmus des KI-Systems ist so ausgestaltet, dass äußere Reize wahrgenommen, verarbeitet und daraus eigenständig Rückschlüsse gezogen werden.67 Das „eigenständige Agieren“ birgt das Risiko, dass KI-basierte Anwendungen unbeabsichtigte Ergebnisse (Fehler) liefern.68 Ein solches Fehlverhalten kann darauf zurückzuführen sein, dass das KI-System nicht mit allen möglichen Fallkonstruktionen der Realität, sondern nur mit den wahrscheinlich auftretenden Anwendungsfällen „unter Laborbedingungen“ angelernt wurde. Als Folge kann es dann dazu kommen, dass das KI-System eine mathematisch zwar richtige, aber unerwünschte Reaktion auslöst.69 Solche Fehler sind zudem auch nicht vermeidbar, da es vor allem in komplexen Umgebungsszenarien nicht möglich ist, alle praktischen Anwendungsfälle abzudecken.70 Damit besteht ein gewisser Grad an Unvorhersehbarkeit der Ergebnisse. An dieser Stelle lässt sich entgegnen, dass die Ziele einer KI durch den Menschen vorgegeben werden.71 Demnach dürfte die Zielsetzung durch den Menschen die allgemeinen Handlungsmöglichkeiten des KI-Systems beschränken, indem ein Autonomiebereich72 definiert wird. Allerdings verhindert dies nicht, dass das KI-System sich dennoch gegen die bestmögliche Handlungsoption zur Zielerreichung entscheidet.73 Daher kann die Zielsetzung durch den Menschen nur eingeschränkt das Autonomierisiko verringern.
Zusammenfassung der Kapitel
A. Einleitung: Diese Einleitung führt in das Thema Künstliche Intelligenz als unternehmerisches Trendthema ein und erläutert die Forschungsfrage hinsichtlich der Compliance-Pflichten bei deren Einsatz in Aktiengesellschaften.
B. Grundlagen der Künstlichen Intelligenz: Hier werden Definitionsprobleme und die verschiedenen Kategorien der KI (schwache, starke, Superintelligenz) beleuchtet sowie die spezifischen Risiken wie Autonomie, Opazität und Diskriminierung erörtert.
C. Compliance in der Aktiengesellschaft: In diesem Teil wird die Rolle der Compliance als Schutzfunktion für die AG definiert und ihre rechtliche Herleitung aus den allgemeinen Leitungspflichten des Vorstands dargelegt.
D. Einsatz von KI in der Aktiengesellschaft: Der Abschnitt befasst sich mit den praktischen Anwendungsmöglichkeiten von KI und bewertet die rechtlichen Grenzen für einen Einsatz, insbesondere im Kontext von Vorstandsentscheidungen und Delegationsregeln.
E. Auswirkungen des Einsatzes von KI auf die Compliance-Pflichten: Dieser Hauptteil analysiert, wie sich der Einsatz von KI auf die Sorgfalts- und Organisationspflichten des Vorstands auswirkt und welche neuen Anforderungen sich aus Rechtsquellen wie der KI-Verordnung ergeben.
F. Fazit: Das Fazit fasst die Kernergebnisse der Untersuchung zusammen und gibt einen Ausblick auf die notwendige kontinuierliche Weiterentwicklung der Compliance-Strukturen angesichts der technologischen Dynamik.
Schlüsselwörter
KI-Compliance, Aktiengesetz, Vorstand, Compliance-Organisation, KI-Verordnung, Sorgfaltsmaßstab, Autonomierisiko, Opazitätsrisiko, Diskriminierungsrisiko, Leitungsverantwortung, Plausibilitätsprüfung, Datenqualität, Algorithmus, Risikomanagement, Haftungsrisiko
Häufig gestellte Fragen
Worum geht es in dieser Arbeit grundsätzlich?
Die Arbeit befasst sich mit den Compliance-Anforderungen, die entstehen, wenn Aktiengesellschaften Künstliche Intelligenz einsetzen, und wie der Vorstand dabei seinen Sorgfaltspflichten nachkommen muss.
Was sind die zentralen Themenfelder?
Zu den zentralen Themen gehören die technischen Grundlagen und Risiken von KI, die bestehenden Aktiengesellschafts- und Compliance-Strukturen sowie die Auswirkungen der neuen EU-KI-Verordnung.
Was ist das primäre Ziel der Forschungsfrage?
Die Untersuchung zielt darauf ab, aufzuzeigen, wie KI-Systeme ohne Verletzung von Sorgfaltspflichten in die Managementprozesse einer AG integriert werden können.
Welche wissenschaftliche Methode wird verwendet?
Die Arbeit stützt sich auf eine juristische Analyse unter Berücksichtigung aktueller Gesetzesvorhaben, Rechtsprechung und rechtswissenschaftlicher Literatur.
Was wird im Hauptteil der Arbeit behandelt?
Der Hauptteil analysiert detailliert die Pflichten des Vorstands bei Einführung, Überwachung und Dokumentation von KI-Systemen sowie die Notwendigkeit einer spezifischen Anpassung der Wissensorganisation.
Welche Schlüsselwörter charakterisieren die Arbeit?
KI-Compliance, Aktiengesetz, Vorstand, Risikomanagement, Sorgfaltsmaßstab, Delegation, Transparenz, Opazität und Plausibilitätskontrolle.
Wie unterscheidet sich die KI-Überwachung von herkömmlichen IT-Kontrollen?
KI erfordert aufgrund ihrer Autonomie und Blackbox-Problematik eine intensivere Überwachung, bei der auch das Lernverhalten und die Qualität der Trainingsdaten ständig validiert werden müssen.
Darf eine KI-Software von einer AG als "Vorstandsmitglied" genutzt werden?
Nach geltendem deutschen Aktienrecht (§ 76 Abs. 3 S. 1 AktG) ist die Vorstandsbesetzung zwingend natürlichen Personen vorbehalten, weshalb eine KI-Software nicht als ordentliches Organmitglied fungieren kann.
- Quote paper
- Anshan Khanna (Author), 2024, KI-Compliance in der Aktiengesellschaft, Munich, GRIN Verlag, https://www.grin.com/document/1558745
