Digitalisierung im Gesellschaftsrecht. Besteht für den Vorstand einer Kapitalgesellschaft die Pflicht zur Nutzung von KI-Systemen?

Inhaltsverzeichnis

Abkürzungsverzeichnis

1. Einleitung

2. Kl-Systeme

3. DieAufgabeneinesVorstands

4. NutzungvonKlimVorstand
4.1 Kl als Mitglied des Vorstands
4.2 Zulässigkeit des Einsatzes von Kl-Systemen im Vorstand
4.2.1 Grenzen der Delegation von Leitungsaufgaben
4.2.2Technische Beherrschbarkeitvon Kl-Systemen

5. Pflicht zum Einsatz von Kl innerhalb des Vorstands
5.1 Einsatz von Kl zur Informationsbeschaffung
5.1.1 Handeln auf Basis angemessener Informationen
5.1.2 Überlegenheit von Algorithmen im Rahmen der Informationsbeschaffung
5.2 Einsatz von Kl-Systemen zur Delegation von Aufgaben
5.2.1 Bestehender verpflichtender Einsatz von Kl-Systemen
5.2.2 ISION-Grundsätze
5.2.3 Voraussetzungen für den Einsatz von Kl-Systemen im Rahmen der Aufgabendelegation

6. Fazit

Literaturverzeichnis

1. Einleitung

Eine erstmalige Berührung mit dem Begriff der künstlichen Intelligenz (KI) lässt die meisten Menschen an Superhelden-Filme wie „Iron Man“ denken. Nicht selten rettet J.A.R.V.I.S., die künstlich-intelligente Stimme aus dem Off, den Geschäfts­mann Tony Stark aus lebensgefährlichen Situationen, geht in die Diskussion mit ihm bei wichtigen Entscheidungen oder unterstützt ihn mit den richtigen Informa­tionen, sobald ein Plan gemacht werden muss, um die Welt zu retten.¹ Allerdings sind solche künstlich-intelligenten Wegbegleiter schon längst nicht mehr allein den Fantasien von Drehbuchautoren vorbehalten. Sie haben bereits vor einigen Jahren Einzug in die Realität erhalten. So hat bereits 2014 eine Venture-Capital-Gesell- schaft aus China einen Algorithmus in seinen Vorstand berufen. Er unterstützte den Vorstand bei der Auswahl und Finanzierung von zwei Unternehmen. Der Gesell­schaft zu Folge wurde dem Algorithmus lediglich eine Beobachter-Rolle zuteil, dessen Beobachtungen der Vorstand in seine Entscheidungen miteinbezog. Nichts­destotrotz eröffnete diese Entscheidung des Vorstandes eine grundlegende gesell­schaftsrechtliche Frage: Dürfen Algorithmen die Unternehmensleitung unterstüt­zen oder gegebenenfalls sogar übernehmen?²

Nach aktueller Rechtslage scheidet zwar eine formale Bestellung von KI zum Vor­stands- oder Geschäftsführungsmitglied aus.³ Aber wie sieht es mit anderen Formen der Einbeziehung intelligenter Tools in den Vorstand aus?

Algorithmen oder KI als Berater oder als informelles, also rein beratendes Vor­standsmitglied wäre in einer Aktiengesellschaft (AG) nach aktueller Rechtslage durchaus möglich.⁴

Setzt man nun voraus, dass die Delegation von Entscheidungen an KI unter be­stimmten Voraussetzungen zulässig ist, stellt sich die Frage: Könnte die Delegation von Aufgaben an KI-Systeme für den Vorstand sogar verpflichtend sein oder wer- den?⁵

Schließlich ist es nicht bestreitbar, dass Algorithmen bei dem Erfassen, Auswerten und systematischen Analysieren von Datenmengen in größerem Umfang dem menschlichen Gehirn deutlich überlegen sind. Jedoch sinkt diese Überlegenheit wiederum bei einzelnen Entscheidungen, die eine Bewertung erfordern oder die Ermessensspielräume gewähren.⁶ Fraglich ist somit jedoch, ob diese Überlegenheit auch in Fällen besteht, in denen eine KI vergleichbar mit einem Organmitglied komplexe bewertende Entscheidungen auf unterschiedlichen Themengebieten tref­fen muss.⁷

Der Vorstand einer Kapitalgesellschaft hat die Entscheidungen für das Unterneh­men auf Basis angemessener Informationen zu treffen. Diese Pflicht des Vorstandes geht aus der im Aktienrecht verankerten Business Judgement Rule hervor. Nach § 93 Abs. 1 S. 2 AktG überschreitet ein Vorstandsmitglied seinen Entscheidungs­spielraum, sobald die getroffenen unternehmerischen Entscheidungen nicht auf ei­ner angemessenen Informationsgrundlage basieren.⁸ Fraglich ist diesbezüglich, ob sich daraus eine Pflicht zur Nutzung von intelligenten Algorithmen zur Entschei­dungsfindung ableiten lässt und welchen Einfluss die zunehmende Genauigkeit und der gängigere Einsatz von KI sowie die mit ihr verbundenen abnehmenden An- schaffungs- und Einsatzkosten haben.⁹

Die nun aufgeworfenen Fragen sollen im Rahmen dieser Ausarbeitung beantwortet werden, um schließlich beantworten zu können, ob für Vorstände eine Pflicht zur Nutzung von KI-Systemen besteht.

Dafür werden im zweiten Kapitel auf die Definitionsmöglichkeiten von KI-Syste- men eingegangen. Im dritten Kapitel werden die Aufgaben des Vorstands erläutert. Darauf basierend werden die Nutzungsmöglichkeiten von KI-Systemen im Vor­stand näher betrachtet. Im ersten Schritt des Kapitels wird dargestellt, aus welchen Gründen KI-Systeme keine Vorstandsmitglieder sein können und im zweiten Schritt wird geprüft, welche anderen rechtlich zulässigen Einsatzmöglichkeiten für KI-Systemen im Vorstand bestehen. Darauf aufbauend wird im Hauptteil die Pflicht zum Einsatz von KI-Systemen im Rahmen der Vorstandstätigkeit geprüft.

Hierbei wird zwischen dem Einsatz von KI zur Informationsbeschaffung und dem Einsatz von KI zur Delegation von Aufgaben unterschieden.

2. KI-Systeme

Die Definitionsmöglichkeiten für den Begriff der künstlichen Intelligenz sind ge­nauso vielfältig, wie sie selbst.¹⁰ Die Besonderheit von KI wird wohl im direkten Vergleich zu herkömmlicher Software am deutlichsten, denn letztere verfolgt le­diglich ein simples Wenn-Dann-Schema und führt ihren Prozess mittels eines Al­gorithmus so aus, wie sie von den Befehlen des Softwareprogrammierers vorgege­ben werden.¹¹ Ein Algorithmus im Allgemeinen ist definiert als ein Verfahren, in dem eine Inputmenge (Eingabeinformationen) von Befehlen und Anweisungen ver­arbeitet wird, wodurch schlussendlich ein Outputmenge (Ausgabeinformation) ge­neriert wird.¹²

KI hingegen dient als Oberbegriff für komplexe Software, die darauf ausgelegt ist, Probleme zu lösen und infolgedessen eine Intelligenz zu zeigen, die mit der eines Menschen vergleichbar ist.¹³ Sie beinhaltet einen Software-Code mit Hilfe dessen menschliches Verhalten beim Lernen durch Erfahrungen nachgebildet werden soll. Aus diesem Grund wird auch vom sogenannten „machine learning“ gesprochen. Die KI lernt über Erfolgs- und Misserfolgsmeldungen zu einer Problemstellung, aus diesen entwickelt sie eigenständig Lösungen und wendet diese im Anschluss auf verwandte Problemstellungen an. Die KI schreibt somit erfahrungsgestützt ih­ren eigenen Algorithmus fort.¹⁴

Die verschiedenen Anwendungsfelder von KI und die unterschiedlichen Technolo­gien, die auf KI basieren, können wiederum für unterschiedliche Aufgaben genutzt werden, so kann KI dafür genutzt werden die Datenbereitstellung zu koordinieren, Datentrends analysieren, Prognosen aufstellen, die Unsicherheit innerhalb einer Entscheidung quantifizieren und Informationen in einer für den Nutzer geeigneten Form bereitstellen sowie im Handlungsoptionen vorschlagen.¹⁵ Die wichtigste Auf­gabe einer KI besteht folglich darin menschliche Entscheidungen zu unterstützen oder sogar zu ersetzen, insbesondere unter der Bedingung der Unsicherheit. Sie soll vor allem in der Entscheidungsfindung Abhilfe leisten.¹⁶ Eine Entscheidungsfin­dung erfordert Daten, desto komplexer die Entscheidung ist umso mehr Daten wer­den benötigt, um eine Entscheidung auf Basis einer informierten und rationalen Grundlage zu treffen. Da sich KI vortrefflich für die Verarbeitung von großen Da­tenmengen, auch Big Data genannt, eignet, kann sie die Entscheidungsfindung ver­bessern. KI kann Unsicherheiten in jeglicher Form mittels Prognosen reduzieren.¹⁷ An Ihre Grenzen stößt KI derzeit noch, wenn es darum geht eigene Wertentschei­dungen zu treffen, noch fehlt ihr die Fähigkeit zur wertenden Abwägung.¹⁸

3. Die Aufgaben eines Vorstands

Der Vorstand ist das Kollegialorgan, dem die Leitung der AG unter eigener Ver­antwortung zu gewiesen wird. Dies ist geregelt in § 76 AktG, der die Kompetenzen des Vorstands festschreibt. Er ist als einziges Organ der AG dazu befugt, die Ge­schicke der AG aus eigener Initiative zu lenken.¹⁹ Anders als in einer Gesellschaft mit beschränkter Haftung (GmbH) können die Anteilseigener den Vorstand der AG mittels Weisungen nicht beschränken. Darüber hinaus kann die Vorstandstätigkeit außerhalb von Unternehmensverträgen gem. § 291 Abs. 1 AktG und der Eingliede­rung nach § 323 Abs. 1 AktG nicht auf Dritte übertragen werden.²⁰

Die Aufgabe des Vorstands beinhaltet im Rahmen des aktienrechtlichen Leitungs­begriffs vor allem die Geschäftsführung nach § 77 AktG und die Vertretung des Unternehmens gem. § 78 AktG. Selbstverständlich kann nicht jede einzelne Ge­schäftstätigkeit eine Angelegenheit des Vorstands sein.²¹ Die Leitungsaufgabe des Vorstands umfasst viel eher die Bereiche, die nicht an eine nachgelagerte Unter­nehmensebene oder an externe Dritte delegierbar sind. Der Vorstand hat somit die Berechtigung und Verpflichtung, die Leitlinien der Unternehmenspolitik festzule­gen und unternehmerische Funktionen zu erfüllen. Diese implizieren das Planen und Koordinieren der Unternehmenstätigkeit, die Besetzung von Führungspositio­nen, die Unternehmenskontrolle sowie alle dem Vorstand darüber hinaus explizit zugewiesenen Aufgaben. Bei der Wahrnehmung seiner Aufgaben hat der Vorstand stets die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anzuwen­den, gem. § 93 Abs. 1 S. 1 AktG. ²²

Der Deutsche Corporate Governance Codex (DCGK) beschreibt die Leitungsauf­gabe im ersten von fünf Grundsätzen wie folgt. Das Unternehmen wird unter eige­ner Verantwortung im Unternehmensinteresse durch den Vorstand geleitet. Die Vorstandsmitglieder tragen die Verantwortung für die Leitung des Unternehmens und der Vorstandsvorsitzende koordiniert die Aufgaben der Vorstandsmitglieder.²³ Nach dem zweiten Grundsatz des DCGK ist der Vorstand für die Entwicklung der strategischen Ausrichtung des Unternehmens zuständig. Diese hat er mit dem Auf­sichtsrat abzustimmen und für dessen Umsetzung Sorge zu tragen.²⁴ Dem vierten Grundsatz nach hat der Vorstand für einen verantwortungsvollen Umgang mit Ri­siken hinsichtlich der Geschäftstätigkeit zu sorgen. Er hat deshalb für ein geeigne­tes und wirksames Kontroll- und Risikomanagementsystem zu sorgen. Ferner hat der Vorstand sicher zu stellen, dass gesetzliche Bestimmungen und interne Richtli­nien eingehalten werden und auf die Beachtung dieser Regelungen mittels wirksa­mer Compliance hinzuwirken.²⁵

Der Vorstand befindet sich somit im wichtigsten Entscheidungszentrum der Gesell- schaft.²⁶ Neben der täglichen Geschäftsführung ist er für die strategische Ausrich­tung des Unternehmens zuständig. Diese strategischen Geschäftsentscheidungen sind zugleich die komplexesten Entscheidungen, die innerhalb eines Unternehmens getroffen werden müssen. Diese Entscheidungen beinhalten gewöhnlich verschie­dene Optionen und gehen meist über die Wahl zwischen zwei Alternativen hinaus. Es wird deutlich, dass das Organ, welches einem menschlichen Gehirn am nächsten kommt, der Vorstand ist. Daher könnte KI vor allem für die Entscheidungen dieses Leitungsorgans zukünftig eine wichtige Rolle spielen.²⁷

4. Nutzung von KI im Vorstand

KI kann bereits heute für uns Menschen einfache Entscheidungen treffen, fraglich ist jedoch, ob sie das auch dürfen sollte. Diese Möglichkeit wird derzeit in vielen Zusammenhängen auf politischer, ethnischer und rechtlicher Ebene diskutiert. Auch innerhalb von Unternehmen können Entscheidungen getroffen werden, vor allem Entscheidungen des Vorstands, die durch KI unterstützt oder sogar getroffen werden. Unklar ist nach aktueller Rechtslage allerdings, in welcher Form KI den Vorstand unterstützen darf oder sogar dazu verpflichtet werden wird.²⁸

4.1 KI als Mitglied des Vorstands

Wie bereits festgestellt, ist es für KI technisch sowohl möglich, Entscheidungen vorzubereiten und Handlungsoptionen für die Entscheidung zu bieten, als auch die zu treffende Entscheidung selbst zu wählen. Allerdings werden diese technischen Möglichkeiten durch den geltenden rechtlichen Rahmen begrenzt.²⁹ Die Mitglieder eines Vorstands einer AG müssen natürliche, uneingeschränkt geschäftsfähige Per­sonen sein, gem. § 76 Abs. 3 S. 1 AktG. Nach aktueller Rechtslage gibt weder nach deutschem Gesellschaftsrecht noch nach einer Vielzahl ausländischer Rechtsord­nungen eine im Rechtsverkehr anerkannte KI, die als E-Person oder digitale Person mit eigener Rechtsfähigkeit und eigenem Vermögen ausgestattet ist.³⁰ Wodurch es für KI nicht möglich ist, Mitglied eines Vorstands zu werden. Es ist außerdem zu bedenken, dass selbst wenn eine solche E-Person geschaffen werden sollte, diese für eine große Anzahl grundlegender gesetzlicher Mechanismen nicht empfänglich ist. Ein KI-System als Vorstandsmitglied befürchtet nicht abberufen zu werden und würde im Fall einer strafbaren Entscheidung nicht ins Gefängnis gehen oder andere rechtliche Sanktionen fürchten.³¹

4.2 Zulässigkeit des Einsatzes von KI-Systemen im Vorstand

Neben der selbstständigen Übernahme von Leitungsaufgaben als eigenständiges Vorstandsmitglied wäre es auch möglich, die menschlichen Vorstandsmitglieder in Ihren Entscheidungen durch KI zu unterstützen, vergleichbar mit einem Assistenz­system im Auto. Eine solche Unterstützung könnte sich umsetzen lassen, indem Entscheidungsaufgaben an KI delegiert werden.³² In diesem Fall bedarf es keiner eigenständigen Rechts- oder Organfähigkeit der KI, da sie als bloße Unterstützung der menschlichen Entscheidung zumindest aus rechtlicher Sicht im Hintergrund verbleibt. Darüber hinaus ist der Vorstand in diesem Fall auch nicht an die gebote­nen Entscheidungsoptionen oder Handlungsempfehlungen gebunden, sondern er kann diese Optionen auch ablehnen.³³ Es ist allerdings zu diskutieren in wie weit den Empfehlungen der KI nicht doch gefolgt werden wird, da das zugrunde lie­gende, umfangreiche Datenmaterial durch die menschlichen Vorstandsmitglieder nicht zu überprüfen oder eigenständig zu bewerten ist. Schließlich lässt sich bereits heute feststellen, dass Computertechnologien das menschliche Entscheidungsver­halten zunehmend beeinflussen, ohne den Nutzer jedoch eine Entscheidung aufzu­zwingen. Diese Tendenz, die unter dem Begriff: „Persuasive Technologies“ unter­sucht wird, kann bereits heute bei Smartphone- und Facebook-Usern beobachtet werden. Diese Tendenz könnte sich auch auf Vorstandsmitglieder übertragen las­sen, sofern KI im Unternehmen auf dieser Ebene eingesetzt wird.³⁴

Ungeachtet dessen ist es faktisch unmöglich für den Vorstand jede Aufgabe selbst zu unterstützen. Er bedarf demnach vielfältiger Unterstützung. Fraglich ist, ob eine solche Delegation an KI vergleichbar sein könnte mit der vertikalen Aufgabendele­gation an Mitarbeiter oder an externe Dritte, da zum aktuellen Zeitpunkt keine Rechtsprechung und -rechtswissenschaftlichen Ausarbeitungen zur Delegation an Algorithmen veröffentlicht wurden.³⁵

[...]

¹ N.N., Mark Zuckerberg orientiert sich am „Iron Man“, Internetquelle; N.N., „Jarvis, mach die Tür auf“, Internetquelle; N.N., J.A.R.V.I.S., Internetquelle.

² Möslein, ZIP 5/2018, 204 (206); Lücke, BB 2019, 1986 (1987).

³ Möslein, ZIP 5/2018, 204 (212); Weber/Kiefner/Jobst, NZG 2018, 1131 (1136).

⁴ Lücke, BB 2019, 1986 (1989); Möslein, ZIP 5/2018, 204 (208).

⁵ Möslein, ZIP 5/2018, 204 (209); Lücke, BB 2019, 1986 (1989).

⁶ Lücke, BB 2019, 1986 (1987); Zetzsche, AG 2019, 1 (6).

⁷ Lücke, BB 2019, 1986 (1990); Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 10.

⁸ Spindler, in: MünchKomm-AktG, § 93 Rn. 55; Fleischer, ZIP 2004, 685 (691).

⁹ Möslein, ZIP 5/2018, 204 (209); Lücke, BB 2019, 1986 (1989).

¹⁰ Freyler, NZA 2020, 284 (284); Herberger, NJW 2018, 2825 (2826).

¹¹ Steege, MMR 2019, 715 (716); Martini, Blackbox Algorithmus, S. 18; Dettling/Krüger, MMR 2019, 211 (212).

¹² V. Lewinski/de Barros Fritz, NZA 2018, 620 (620); Freyler, NZA 2020, 284 (285); Martini, Blackbox Algorithmus, S. 18.

¹³ Jaeger, Mit künstlicher Intelligenz an die Weltspitze, Internetquelle; Petry/Jäger, Digital HR, S. 46.

¹⁴ Zetzsche, AG 2019, 1 (5); Weber/Kiefner/Jobst, NZG 2018, 1131 (1131 f.).

¹⁵ Lücke, BB 2019, 1986 (1987); Zetzsche, AG 2019, 1 (7).

¹⁶ Lücke, BB 2019, 1986 (1989); 16 Möslein, ZIP 2018, 204 (205).

¹⁷ Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 17; Weber/Kiefner/Jobst, NZG 2018 1131 (1133).

¹⁸ Möslein, ZIP 2018, 204 (207); Lücke, BB 2019, 1986 (1991).

¹⁹ Koch, in: Hüffer AktG, § 76 Rn. 1; Ihring/Schäfer, in: Rechte und Pflichten des Vorstands, § 1 Rn. 1; Spindler, in: MünchKomm AktG, § 76 Rn. 1.

²⁰ Ihring/Schäfer, in: Rechte und Pflichten des Vorstands, § 1 Rn. 1; Spindler, in: MünchKomm AktG, § 76 Rn. 18.

²¹ Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 12; Ihring/Schäfer, in: Rechte und Pflichten des Vorstands, § 1 Rn. 3.

²² Ihring/Schäfer, in: Rechte und Pflichten des Vorstands, § 1 Rn. 3; Spindler, in: MünchKomm AktG, § 76 Rn. 16.

²³ Regierungskommission Deutscher Corporate Governance Kodex, Deutscher Corporate Governance Kodex, Internetquelle; Spindler, in: MünchKomm AktG, § 76 Rn. 16.

²⁴ Ihring/Schäfer, in: Rechte und Pflichten des Vorstands, § 1 Rn. 2; Regierungskommission Deutscher Corporate Governance Kodex, Deutscher Corporate Governance Kodex, Internetquelle.

²⁵ Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 18; Lücke, BB 2019, 1986 (1990). Corporate Governance Kodex, Deutscher Corporate Governance Kodex, Internetquelle.

²⁶ Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 18; Lücke, BB 2019, 1986 (1990).

²⁷ Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 18; Lücke, BB 2019, 1986 (1987).

²⁸ Möslein, ZIP 2018, 204 (208); Weber/Kiefner/Jobst, NZG 2018, 1131 (1131 ff).

²⁹ Lücke, BB 2019, 1986 (1988); Weber/Kiefner/Jobst, NZG 2018, 1131 (1136).

³⁰ Möslein, ZIP 2018, 204 (208); Lücke, BB 2019, 1986 (1988); BT-Drs. 19/23700, S. 75.

³¹ Lücke, BB 2019, 1986 (1988); BT-Drs. 19/23700, S. 75.

³² Möslein, in: Künstliche Intelligenz und Robotik § 13 Rn. 22; Weber/Kiefner/Jobst, NZG 2018, 1131 (1134).

³³ Weber/Kiefner/Jobst, NZG 2018, 1131 (1134); Möslein, ZIP 2018, 204 (208 f.).

²⁴ Möslein, in: Künstliche Intelligenz und Robotik, § 13 Rn. 23.

³⁵ Möslein, ZIP 2018, 204 (208); derselbe, in: Künstliche Intelligenz und Robotik, § 13 Rn. 23.