Der Einfluss der Digitalisierung auf die Vorstandspflichten. Digitalisierung im Bürgerlichen Recht

Inhaltsverzeichnis

A. Einleitung

B. Auswirkungen auf die Leitungsaufgaben / Kompetenzverschiebung

C. Der Einsatz von Algorithmen und seine gesellschaftsrechtlichen Implikationen
1. Eigene Rechts- und Organfähigkeit - Algorithmen als Geschäftsleiter?
2. Delegation von Entscheidungen an Algorithmen
a) Möglichkeiten und Grenzen der Delegation (Dogmatik der „vertikalen“ Delegation)
b) Übertragbarkeit der Grundsätze auf Algorithmen?
c) Anknüpfungspunkte zur Entwicklung algorithmischer Organisationspflichten
d) Verpflichtung zum Einsatz von Algorithmen?
3. Verantwortung/ Haftungsfragen
a) Haftung für fremdes Verschulden über §§ 278, 831 BGB?
b) Anwendbarkeit der Haftungsregeln der vertikalen Delegation?
c) Aufstellen von Organisationspflichten / Lösung: § 80 II WpHG analog?
d) Kategorien „falscher“ Algorithmenentscheidungen
e) Besonderheiten bei Legal Tech/ „Ision“ Entscheidung

D. Thesen

Literaturverzeichnis

Abbildung in dieser Leseprobe nicht enthalten

A. Einleitung

Dass die Digitalisierung das Recht vor neue und grundlegende Herausforderungen stellt, offenbart sich schon dadurch, dass sich u.a. die zivilrechtliche Abteilung des 71. Deutschen Juristentags, als auch die Zivilrechtslehrertagung im September 2017 intensiv mit dem Thema beschäftigt haben.¹ Die Auswirkungen auf das Gesellschaftsrecht wurden dabei erstaunlicherweise vernachlässigt und auch sonst beschränkte sich das spärliche Schrifttum tendenziell auf die Möglichkeiten, welche die verbesserte elektronische Kommunikation und der Informationsaustausch über das Internet bieten.² Während dies zweifellos auch folgenschwere Erscheinungsformen der Digitalisierung sind, handelt es sich doch um eher formale Auswirkungen.³ Die fundamentaleren Fragen des Gesellschaftsrechts werden maßgeblicher beeinflußt, durch die Möglichkeiten und Folgen, die der sich schnell verbreitende Einsatz von selbstlernenden Algorithmen bzw. Künstlicher Intelligenz mit sich bringt.⁴ Seit Anfang 2018 hat sich erfreulicherweise auch die deutsche juristische Literatur vermehrt mit solchen „materiellen“ Auswirkungen der Digitalisierung beschäftigt.⁵ Im Mittelpunkt dieser Entwicklung stehen vor allem Daten, deren Sammlung, Analyse und Auswertung, um darauf basierend, genauere Vorhersagen zu treffen.⁶ Da der Einsatz von selbstlernenden Algorithmen dort am meisten Sinn macht, wo die komplexesten und auf zahlreichen Daten basierenden Prognoseentscheidungen getroffen werden, werden sie vermehrt bei unternehmerischen Leitungsentscheidungen im board room eingesetzt.⁷ Daher stellt sich die Frage, welche Auswirkungen dies auf die Vorstandspflichten hat: Inwieweit kann das gesellschaftsrechtliche Instrumentarium für algorithmenbasierte Leitungsentscheidungen herangezogen werden? Wer haftet bei fehlerhaften Entscheidungen? Kann eine Nutzungspflicht bestehen? Können Algorithmen selbst Geschäftsleiter sein? (C.) Neben diesen allgemeineren Fragen, werden die Besonderheiten bei algorithmischen Entscheidungen im juristischen Kernbereich durch Legal Tech untersucht. Zunächst werden jedoch kurz die zentralen Auswirkungen der Digitalisierung auf traditionelle Leitungsaufgaben und Kompetenzverschiebungen erörtert (B.).

B. Auswirkungen auf die Leitungsaufgaben / Kompetenzverschiebung

Die Digitalisierung hat zweifellos zahlreiche Auswirkungen auf die Corporate Governance.⁸ Unzweifelhaft ist dabei, dass Vorstände andere Kompetenzen benötigen als noch vor zehn Jahren. Vor allem das Sammeln und der Umgang mit Daten ist einer der entscheidenden Erfolgsfaktoren eines Unternehmens in der digitalisierten Welt, ferner die Digitalisierung der Geschäftsprozesse und Offenheit gegenüber neuen Geschäftsmodellen.⁹

Dadurch gewinnen die IT-Sicherheit und das Datenmanagement eine gravierende Bedeutung für das Wohl vieler Unternehmen und werden zu einem erheblichen Risikofaktor i.S.d. § 91 Abs. 2 AktG („IT Sicherheit als Chefsache“).¹⁰ Die wesentlichen Leitlinien müssen mehr denn je vom Vorstand vorgegeben werden.¹¹ Zwar ist eine vertikale Delegation von Vorbereitungshandlungen möglich, jedoch muss eine direkte Anbindung an die Geschäftsführung bzw. die Letztentscheidungskompetenz gewahrt bleiben.¹² Im Finanzmarktbereich ist dieser Entwicklung bereits durch die MaRisk Rechnung getragen, wobei zum jetzigen Zeitpunkt noch nicht absehbar ist, ob sich diese Anforderungen auch pauschal auch auf außerhalb des Finanzmarktbereichs tätige Unternehmen übertragen lassen.¹³ Auch die Compliance Verantwortung ist von den Auswirkungen betroffen. Welchen Umfang die „Legalitätsdurchsetzungspflicht“ hat, ist im Detail umstritten, dem Vorstand obliegt es wohl nicht grundsätzlich, seine Compliance Maßnahmen in Form eines Compliance Management Systems (CMS) zu standardisierten und zu institutionalisieren.¹⁴ Hinsichtlich des „wie“ der Compliance Maßnahmen ist die Business Judgement Rule unstreitig anwendbar, mithin besteht ein Organisationsermessen.¹⁵ Jedenfalls bei größeren, börsennotierten Aktiengesellschaften wird sich dieses regelmäßig zu einer Pflicht zu Errichtung eines CMS verdichten, wenn sich anders kein gleich effektives System umsetzen lässt. Die ausgestaltenden Maßnahmen hängen von verschiedensten Einzelfaktoren des jeweiligen Unternehmens und einer Risikoanalyse ab.¹⁶ Unter dem Begriff „Digital Compliance“ beschreibt Neufang, wie selbstlernende Algorithmen Gesetzesverstöße schon anhand von Vorbereitungshandlungen erkennen und verhindern können.¹⁷ Auch das Risikofrüherkennungssystem könnte durch den Einsatz selbstlernender Algorithmen optimiert werden. Da die Ausgestaltung beider Systeme eine unternehmerische Entscheidung im Sinne der Business Judgement Rule ist,¹⁸ kann sich bei entsprechender Effektivität, Kostengünstigkeit und Überlegenheit eine Nutzungspflicht ergeben.¹⁹

C. Der Einsatz von Algorithmen und seine gesellschaftsrechtlichen Implikationen

Es ist weitgehend bekannt, dass viele Finanzdienstleistungsinstitute Teile ihrer Anlage-entscheidungen mittels Algorithmen treffen.²⁰ Der wohl entscheidenste Fortschritt in der Algorithmenforschung der letzten zehn Jahre, ist die starke Verbesserung selbstlernender Algorithmen.²¹ Dies bedeutet Algorithmen können ihre „Fähigkeiten“ verbessern, ohne dass ein Mensch vorher exakt programmieren, also beschreiben müsste, wie die gestellten Aufgaben zu erfüllen und die vorgegebenen Ziele zu erreichen sind.²² Das Problem, dass ein Mensch vielmehr Fähigkeiten hat bzw. „Sachen“ kann, als er zu Beschreiben, ergo zu Programmieren vermag, wird durch die Selbstlernfunktion größtenteils gelöst.²³ Algorithmen erlernen Neues anhand von zahlreichen Beispielen und durch strukturiertes Feedback.²⁴ Bisher können Algorithmen keine wertenden Entscheidungen treffen, da diese sich nicht beschreiben und damit auch nicht programmieren lassen; eine solche Entwicklung ist aber nicht per se ausgeschlossen.²⁵ Daher können Algorithmen jedenfalls zurzeit nicht bei wertenden Strategieentscheidungen eingesetzt werden.²⁶ Bei Datenauswertung und Prognoseentscheidungen hingegen sind Algorithmen dem Menschen in Schnelligkeit und Effektivität weit überlegen, daher werden Algorithmen bei zahlen- und datenbasierte Leitungsentscheidungen schon heute vermehrt eingesetzt.²⁷ Möslein hat vor kurzem – soweit ersichtlich als erster – die sich aus dem Einsatz von Algorithmen ergebenden gesellschaftsrechtlichen Implikationen umfangreich erörtert.²⁸

1. Eigene Rechts- und Organfähigkeit - Algorithmen als Geschäftsleiter?

Eine Venture Capital Gesellschaft aus Hongkong hat im Jahre 2014 einem Algorithmus namens Vital einen Beobachterstatus im Vorstand eingeräumt, mit der Absicht sein Arbeitsergebnis bei Investitionsentscheidungen zu berücksichtigen.²⁹ Vital hatte zwar kein Stimmrecht und nicht die rechtliche Stellung eines Vorstandsmitglieds, dennoch ist es angesichts der rasanten technischen Entwicklung von Algorithmen in der letzten Dekade und deren Überlegenheit in bestimmten Bereichen,³⁰ nicht abwegig der grundlegenden Frage nachzugehen, ob Algorithmen selber die Geschäftsleitung übernehmen können.³¹

Im deutschen Kapitalgesellschaftsrecht ist eine solche Gestaltung de lege lata ausgeschlossen, da sowohl das AktG als auch das GmbHG vorgeben, dass nur „natürliche, unbeschränkt geschäftsfähige Personen“ Geschäftsführer bzw. Vorstandsmitglieder sein können (vgl. § 6 II 1 GmbHG und § 76 III 1 AktG). Da im Personengesellschaftsrecht auch juristische Personen organfähig sind und es zumindest keine unbedingten Gründe für eine Ungleichbehandlung der Gesellschaftsformen gibt, ließe sich die Hürde der natürlichen Person eventuell noch über eine Berufung auf Art. 12 GG einreißen.³² Dazu müssten Algorithmen aber grundsätzlich rechtsfähig sein, was sie de lege lata – soweit ersichtlich - nach keiner Rechtsordnung sind.³³ Allerdings sind Gestaltungsmöglichkeiten denkbar: Gesellschaftsformen wie die GmbH oder LLC können als eine Art rechtliches Gehäuse verwenden werden, wodurch der Algorithmus faktisch Rechtsfähigkeit erlangen könnte.³⁴ Bei der GmbH könnte sich dieses Konstrukt durch den „Verlust“ des einzigen Gesellschafters einer Ein-Mann-GmbH verwirklichen, wobei das rechtliche Schicksal der Gesellschaft als „Kein-Mann-GmbH“ umstritten ist.³⁵

In den USA wird bisher auf zahlreiche Gefahren hingewiesen, die rechtsfähige Algorithmen mit sich bringen könnten. Eine Gesetzesänderung wird mithin – soweit ersichtlich – abgelehnt.³⁶ Beispielsweise besteht die Befürchtung, dass jegliche Vollstreckung bzw. Strafbewehrung aufgrund ihrer nicht menschlichen Natur leerliefe.³⁷

Bedenkenswert ist in dem Zusammenhang auch, dass die Kontroll- und Steuerungsstrategien des Kapitalgesellschaftsrechts und speziell des Aktienrechts für menschliche Entscheidungsträger entwickelt wurden und insoweit nicht ohne weiteres auf Algorithmen übertragbar sind.³⁸ Algorithmen entscheiden aufgrund ihrer analytischen Struktur anders als Menschen und bergen andere Gefahren.³⁹ Z.b. ist es nicht vorstellbar, wie „Roboter“ Geschäftsleiter eine Treuepflicht gegenüber der Gesellschaft befolgen können.⁴⁰

2. Delegation von Entscheidungen an Algorithmen

Da Algorithmen keine eigene Organfähigkeit zukommt, ist fraglich, ob und wann ein unterstützender Einsatz von Algorithmen geboten oder sogar verpflichtend ist und welche gesellschaftsrechtlichen Konsequenzen sich ergeben. Mit dieser Thematik hat sich die Rechtsprechung noch nicht beschäftigt. Möslein schlägt vor, auf die Grundsätze der „vertikalen“ Delegation zurückzugreifen.⁴¹

a) Möglichkeiten und Grenzen der Delegation (Dogmatik der „vertikalen“ Delegation)

Die Delegation an nachgeordnete Mitarbeiter und Unternehmensexterne ist allgemein zulässig, da die Komplexität des Wirtschaftslebens eine Arbeitsteilung unausweichlich macht.⁴² Anders als andere Rechtsordnungen verlangt das deutsche Aktienrecht keine Satzungsklausel, die Delegation erst zulässt.⁴³ Bei der sog. „vertikalen“ Delegation ist zu beachten, dass Leitungsaufgaben, die in den Aufgabenbereich des Gesamtvorstands fallen, nicht auf nachgelagerte Ebenen (oder auf Unternehmensexterne) delegiert werden dürfen.⁴⁴ Dies sind namentlich solche Aufgaben, die das Gesetz ausdrücklich dem Leitungsorgan zuweist oder die zu den originären Leitungsaufgaben zählen. Die Leitungsmacht wird nicht berührt, wenn lediglich Hilfsfunktionen wie die Vorbereitung oder Ausführung delegiert werden, wohingegen die Entscheidungsverantwortung selbst beim Vorstand verbleibt.⁴⁵ Ein eigenes Entscheidungsermessen des Dritten ist unschädlich, solange der Vorstand die Letztentscheidungskompetenz innehat.⁴⁶ Die Restzuständigkeit der Leitungsaufgabe erfordert die Einrichtung entsprechender Einsichts-, Überwachungs- und Informationsrechte. Der Vorstand hat die Personen oder Externen sorgfältig auszuwählen, einzuweisen und zu überwachen (Restzuständigkeit der Leitungsaufgabe), sowie Richtlinien vorzugeben.⁴⁷

b) Übertragbarkeit der Grundsätze auf Algorithmen?

Die Grundsätze lassen sich teilweise für den Einsatz von Algorithmen nutzbar machen.⁴⁸ Zur Wahrung der Letztentscheidungskompetenz muss gewährleistet werden, dass der Vorstand ein gewisses technisches Grundverständnis über die Arbeitsweise, Grenzen und Eigenlogik der Algorithmenentscheidung hat.⁴⁹ Andernfalls können die Organmitglieder nicht beurteilen, wie das System zu seinem Arbeitsergebnis kommt, das als Organentscheidung oder als Informationsgrundlage übernommen werden soll. Eine Verpflichtung zur Übernahme des Arbeitsergebnisses eines Algorithmus scheidet in jedem Fall aus und verstieße gegen die Leitungsverantwortung.

Schwieriger gestaltet sich die Übertragung der Einsichts-, Informations- und Überwachungsrechte, sowie die Vorgabe von Richtlinien. Die Kontrolle und Organisation von Algorithmen bedarf anderer Mechanismen als die gegenüber eines Menschen, nicht zuletzt auch weil Algorithmen die Rechtsfähigkeit fehlt.

c) Anknüpfungspunkte zur Entwicklung algorithmischer Organisationspflichten

Zunächst ist zu beachten, dass ein selbstlernender Algorithmus regelmäßig keine Zwischenergebnisse offenlegt. Das bei Menschen nun bewältigte Problem, weniger erklären zu können, als man weiß,⁵⁰ haben Algorithmen paradoxerweise umgekehrt auch: sie wissen mehr als sie darlegen können.⁵¹ Teilweise bestehen algorithmenbasierte Entscheidungen aus hundert Millionen verschiedener Komponenten, welche jeweils nur einen marginalen Anteil zu der Entscheidung beisteuern.⁵² Eine rationale Erläuterung und eine Bereitstellung einer Zusammensetzung einzelner Ursachen wird oft nicht möglich sein, tendenziell je weniger, je größer die Datenmenge ist. Eine laufende inhaltliche Überwachung ist daher schwer zu verwirklichen. Letztlich dürfte der eigentliche Arbeitsvorgang vermutlich auch regelmäßig zu kurz dafür sein. Anknüpfungspunkt für Organisationspflichten können daher nur die ursprüngliche Auswahl bzw. Programmierung oder Konfiguration des Algorithmus sein, sowie eine laufende technische Überwachung bzw. Absicherung vor Dritteinflüßen. Änderungen an der Programmierung können regelmäßig nur durch Fachleute vorgenommen werden.

Durch diese technische Steuer- und Beherrschbarkeit ergeben sich aber auch andere Gefahren als bei Menschen.⁵³ Einerseits besteht aufgrund der analytischen Struktur nicht das Risiko opportunistischen Verhaltens. Andererseits werden Algorithmen zu einem Machtfaktor, da die Richtlinien und Ziele des Algorithmus ausschließlich von denjenigen vorgegeben (und oftmals verstanden) werden können, die den Algorithmus „herstellen“ oder programmieren. Dadurch werden Freiheitsräume in einer Weise definiert, in der dies ähnlich sonst nur das Recht zu tuen vermag („code is law“).⁵⁴ Daher entsteht eine Sorge über unbeabsichtigte oder beabsichtige negative Folgen des Algorithmeneinsatzes. Aufgrund dieser Machtposition wird über einen „Algorithmen TÜV“ und andere Begrenzungsmöglichkeiten beabsichtigter oder unbeabsichtigter negativer Folgen diskutiert.⁵⁵ Diese allenfalls gegenüber. Verbrauchern sinnvolle Einrichtung ist im Ergebnis wohl abzulehnen:⁵⁶ Im Aktienrecht besteht kein vergleichbares Schutzbedürfnis für Geschäftsleiter. Ihnen kann zugemutet werden, sich im Rahmen ihrer unternehmerischen Sorgfaltspflicht gem. § 93 I 1 AktG, von dem Hersteller bzw. Programmierer über die Spezifika des Algorithmus und seine Risiken aufklären zu lassen. Diese Ausführungen sind im Rahmen von Haftungsfragen bei der Herausbildung von Organisationspflichten zu beachten.

d) Verpflichtung zum Einsatz von Algorithmen?

Aufgrund der unbestrittenen Überlegenheit von Algorithmen bei bestimmten Entscheidungen könnte sich unter speziellen Voraussetzungen eine Verpflichtung zu deren Einsatz ergeben. Dabei ist dogmatischer Anknüpfungspunkt aller Überlegungen stets die Business Judgement Rule (BJR), welche in § 93 I 2 AktG kodifiziert ist.⁵⁷ Gem. § 93 I 2 AktG wird der unternehmerische Entscheidungsspielraum überschritten, wenn das Vorstandsmitglied nicht vernünftigerweise davon ausgehen durfte, auf Grundlage angemessener Informationen zu handeln.

Zur Herstellung einer angemessener Informationsgrundlage, ist der Vorstand verpflichtet, „alle verfügbaren Informationsquellen tatsächlicher und rechtlicher Art“ auszuschöpfen.⁵⁸ Dabei können wohl nie alle existierenden Erkenntnismöglichkeiten ausgeschöpft werden, sondern der Vorstand muss eine selbstständige Kosten/ Nutzen Abwägung durchführen.⁵⁹ Nur die vernünftigerweise zu beachtenden Informationen müssen eingeholt und bei der Entscheidung beachtet werden.⁶⁰ Auch die Rechtsprechung gestattet mit der Anpassung der Informationsgrundlage an die „konkrete Entscheidungssituation“ einen Spielraum.⁶¹ Es ist nicht ausschlaggebend, ob die Entscheidung tatsächlich auf Basis angemessener Informationen getroffen wurde, solange das Vorstandsmitglied dies vernünftigerweise annehmen durfte.⁶² Inwieweit hinsichtlich der Abwägungsentscheidung eine gerichtliche Kontrolle stattfinden kann, ist im Einzelnen umstritten.⁶³ Eine vermittelnde und die wohl überzeugendste Ansicht, überprüft die Informationsermittlung auf ihre Plausibilität.⁶⁴ Aus diesen Erwägungen lässt sich folglich keine absolute Pflicht zum Einsatz von Algorithmen ableiten, da den Vorstandsmitgliedern ein gewisser Spielraum hinsichtlich der Wahl der Informationquellen verbleibt. Ein solcher Spielraum dürfte sich aber stetig verkleinern oder ganz erlischen, denn je treffsicherer und kostengünstiger Algorithmen bzw. Künstliche Intelligenz werden und je mehr sich ihr Einsatz in der unternehmerischen Praxis etabliert, desto eher ist ein Verzicht nicht plausibel.⁶⁵ Dabei kommt es im Einzelfall auch auf die Größe des Unternehmens an und ob der Einsatz des Algorithmus zumutbar ist, sowie auf die Größe der Datenmengen; denn die Überlegenheit von Algorithmen ist umso stärker, je größer, komplexer und berechnungsintensiver die Datenmenge ist. Das Sammeln großer Datenmengen hat daher regelmäßig nicht nur positive Folgen, sondern führt dazu, dass diese durch Algorithmen nutzbar gemacht werden müssen und der Vorstand die Informationen im Rahmen seiner Sorgfaltspflicht aus § 93 I 1 AktG beachten muss. Daher wird es zurecht für absehbar gehalten, dass sich in Zeiten von Big Data eine kapitalgesellschaftsrechtliche Nutzungspflicht für Algorithmen herausbildet.⁶⁶

Relevant kann dies auch für die Wissenszurechnung innerhalb des Unternehmens werden: Informationen, deren Relevanz für andere Personen im Unternehmen für den Wissenden erkennbar ist, müssen gespeichert, weitergeleitet oder zumindest abrufbar gehalten werden. Andernfalls wird Kenntnis bzw. fahrlässige Unkenntnis des Betroffenen fingiert.⁶⁷ Je nach Auslegung kann dies zu einer umfassenden Wissenszurechnung führen. Fraglich ist auch, ob aus dem bloßen Vorhandensein bestimmter Datenmengen, aus denen durch Einsatz eines Algorithmus entsprechende Informationen gewonnen werden könnten, schon eine Wissenszurechnung begründet werden kann.⁶⁸ Darauf kann hier aus Platzgründen nicht eingegangen werden.

[...]

---

¹ Faust, Digitale Wirtschaft – Analoges Recht, Gutachten A zum 71. DJT 2016; zsf. und mit Kritik: Spindler, Digitale Wirtschaft; das Programm der Zivilrechtslehrertagung ist abrufbar unter http://www.zlv-info.de/fileadmin/PDF/Tagung/Programm_2017.pdf und wird voraussichtlich in einem Sonderheft des AcP noch dieses Jahr veröffentlicht.

² Mit der Folge, dass Themen wie die virtuelle Hauptversammlung, Online Gründungen und die allgemeine Optimierung der Kommunikation mit Gesellschaftern und Investoren im Mittelpunkt standen: MwN v.a. Spindler, Gesellschaftsrecht und Digitalisierung, S.20ff; Möslein, Robots in the Board Room, S.3ff. Siehe auch Gutachten der Informal Company Law Expert Group (ICLEG): Report on digitalisation in company law, March 2016, abrufbar unter: https://ec.europa.eu/info/sites/info/files/icleg-report-on-digitalisation-24-march-2016_en.pdf (zuletzt abgerufen am 22.6.2018), welches Digitalisierung auf elektronische Kommunikation beschränkt.

³ So auch: Möslein, Digitalisierung im Gesellschaftsrecht, S.205; Möslein, Robots in the Board Room, S.3ff.

⁴ Auch unter Industrie 4.0 gängig. Vgl. z.B. Dossier zur Digitalisierung des BMWi: https://www.bmwi.de/Redaktion/DE/Dossier/digitalisierung.html?, zuletzt abgerufen am 16.06.2018; Veith (u.a.), How Legal Technology will Change the Business of Law; Brynjolfsson/McAfee, The Business of AI; Möslein, Robots int the Board Room, S.4.

⁵ 2018 erschienen: Möslein, Digitalisierung im Gesellschaftsrecht; Spindler, Gesellschaftsrecht und Digitalisierung; Möslein, Robots in the Boardroom (im Erscheinen); Spindler, Zukunft der Digitalisierung; Hähnchen/Bommel, Digitalisierung und Rechtsanwendung; Wagner, Einsatzbereiche Legal Tech; Wagner, Legal Tech und Legal Robots in Unternehmen.

⁶ Brynjolfsson/McAfee, The Business of AI; Möslein, Robots in the Board Room, S.7f.

⁷ Brynjolfsson/McAfee, The Business of AI; Möslein, Digitalisierung im Gesellschaftsrecht, S.205; Agrawal/Gans/Goldfarb, The Simple Economics of Machine Intelligence; Möslein, Robots in the Board Room, S.7f; Agrawal/Gans/Goldfarb, Exploring the Impact of AI: Prediction vs. Judgement, S.1ff.

⁸ Hilb, Governance of Digitalization, S.11ff; R.Müller, Digitalization Decisions at the Board Level, S.50; Fenwick/Kaal/Vermeulen, Corporate Governance of Todays Winnning Companies, S.3ff.

⁹ „The use of data and algorithms will distinguish the succesful companies of the future.“: aus: Fenwick/Kaal/Vermeulen, Corporate Governance of Todays Winnning Companies, S.3.

¹⁰ Begriff u.a.: Spindler, Gesellschaftsrecht und Digitalisierung, S.41.

¹¹ Spindler, Gesellschaftsrecht und Digitalisierung, S.41; Schmidl, Hauschka Corporate Compliance, § 28, Rn.1ff; zu Errichtung eines Risikofrüherkennungssystems: Fleischer, Spindler/Stilz AktG, § 91, Rn. 34Ff; Ausgestaltung IT Sicherheit im Einzelnen: Schmidl, Hauschka Corporate Compliance, § 28, Rn. 46 ff.

¹² Zu den Möglichkeiten der vertikalen Delegation mwN: C.2.a).

¹³ Meinungsspektrum: Fleischer, Aktienrechtliche Compliance Pflichten, S.325.

¹⁴ Fleischer, Spindler/Stilz AktG, § 91, Rn.47ff; Schmidl, Hauschka Corporate Compliance, § 28, Rn.3; Harbarth, Compliance in börsennotierten Unternehmen, S.153; Fleischer, Aktienrechtliche Compliance Pflichten, S.324.

¹⁵ Statt aller: Harbarth, Compliance in börsennotierten Unternehmen, S.151.

¹⁶ Fleischer, Spindler/Stilz AktG, § 91, Rn. 54.

¹⁷ Neufang, Digital Compliance, S.251ff.

¹⁸ Harbarth, Compliance in börsennotierten Unternehmen, S.151; Für das Risikomanagementsystem: Fleischer, Spindler/Stilz AktG, § 91, Rn. 34ff..

¹⁹ Siehe dazu unten C.2.d).

²⁰ MwN: Möslein/Lordt, Rechtsfragen des Robo-Advice, S.173ff; Wagner, Legal Tech im Unternehmen, S.1098.

²¹ Brynjolfsson/McAfee, The Business of AI.

²² Brynjolfsson/McAfee, The Business of AI.

²³ Sogenanntes Polanyi's Paradox ; Brynjolfsson/McAfee, The Business of AI.

²⁴ Z.b. wird Gesichts- oder Spracherkennung durch anhand von zahlreichen Beispielen und strukturiertes Feedback erlernt; Ausführlicher: Brynjolfsson/McAfee, The Business of AI.

²⁵ Hähnchen/Bommel, Rechtsanwendung und Digitalisierung, S.337ff; Agrawal/Gans/Goldfarb, The Simple Economics of Machine Intelligence.

²⁶ Ausführlicher: Möslein, Robots in the Board Room, S. 14f.

²⁷ Möslein, Robots in the Boardroom, S.2; Fenwick/Kaal/Vermeulen, Corporate Governance of Todays Winnning Companies, S.3; Agrawal/Gans/Goldfarb, The Simple Economics of Machine Intelligence; Brynjolfsson/McAfee, The Business of AI.

²⁸ Möslein, Digitalisierung im Gesellschaftsrecht, S.204 ff; Möslein, Robots in the Boardroom, S.2.

²⁹ MwN: Möslein, Digitalisierung im Gesellschaftsrecht, S.206; Aus den Medien statt aller: Wile, „A Venture Capital Firm just named an Algorithm to its board of Directors“, Business Insider 13.05.2014, abrufbar unter: http://www.businessinsider.com/vital-named-to-board-2014-5?IR=T.

³⁰ Brynjolfsson/McAfee, The Business of AI.

³¹ Davon zeugt auch die reichliche Literatur zu dem Thema: Möslein, Robots in the Boardroom; LoPucki, Algorithmic entities; Kroll (u.a.), Accountable Algorithms, S.636ff; Burri, Free Movement of Algorithms.

³² Ablehnend: Gehrlein, Leitung einer juristischen Person durch juristische Personen, S.566f; Möslein, Digitalisierung im Gesellschaftsrecht, S.208.

³³ Auch wenn es Befürworter gibt: vgl. mwN: Möslein, Digitalisierung im Gesellschaftsrecht, S.207.

³⁴ Möslein, Robots in the Board Room, S.16; Ausführlich dazu: Bayern (u.a.), Company Law and autonomous Systems, S.3ff.

³⁵ Bayern (u.a.), Company Law and autonomous, S.5f.

³⁶ Ausführlich, v.a. zu den Gefahren: LoPucki, Algorithmic entities, S.11ff; Möslein, Digitalisierung im Gesellschaftsrecht, S.207.

³⁷ Kroll (u.a.), Accountable Algorithms, S.636ff; LoPucki, Algorithmic entities, S.11.ff.

³⁸ Möslein, Robots in the Boardroom, S.2ff; Fenwick/Kaal/Vermeulen, Corporate Governance of Todays Winning Companies, S.45.

³⁹ Dazu sogleich unter C.2.c); Möslein, Robots in the Boardroom, S.2ff; LoPucki, Algorithmic entities, S.11ff.

⁴⁰ Viele Gesellschaftsrechte fordern eine Treuepflicht ggü. der Gesellschaft: Kraakman (u.a), Anatomy of Corporate Law, S. 64.

⁴¹ Möslein, Digitalisierung im Gesellschaftsrecht, S.208ff.

⁴² Vetter, HdB Managerhaftung, S.656.

⁴³ Möslein, Digitalisierung im Gesellschaftsrecht, S.208.

⁴⁴ MwN: Spindler, MüKo AktG, § 76, Rn.18; Vetter, HdB Managerhaftung, S.658.

⁴⁵ Spindler, MüKo AktG, § 76, Rn.18f; Fleischer, Spindler/Stilz AktG, § 93, Rn. 99.

⁴⁶ Vetter, HdB Managerhaftung, S.658; Möslein, Digitalisierung im Gesellschaftsrecht, S.208; Fleischer, Spindler/Stilz AktG,§ 76, Rn. 65, § 93, Rn. 99; Spindler, MüKo AktG, § 76, Rn.18.

⁴⁷ BGHZ 133, 370, 377; Spindler, MüKo AktG, § 76, Rn.18; Vetter, HdB Managerhaftung, S.659; Fleischer, Spindler/Stilz AktG, § 76, Rn. 65; Möslein, Digitalisierung im Gesellschaftsrecht, S.208.

⁴⁸ So auch: Möslein, Digitalisierung im Gesellschaftsrecht, S.204, 207ff; Wagner, Legal Tech und Legal Robots in Unternehmen, S.1099.

⁴⁹ Möslein, Digitalisierung im Gesellschaftsrecht, S.209; Wagner, Legal Tech und Legal Robots in Unternehmen, S.1098.

⁵⁰ Vgl. Oben: sogenanntes Polanyi's Paradox.

⁵¹ Unter „Risks and Limits“: Brynjolfsson/McAfee, The Business of AI.

⁵² Brynjolfsson/McAfee, The Business of AI.

⁵³ Ausführlich zu den Gefahren: LoPucki, Algorithmic entities, S.11ff.

⁵⁴ Lessig, Code is Law.

⁵⁵ Ausführlich und mwN: Spindler, Zukunft der Digitalisierung, S.45ff.

⁵⁶ Spindler, Zukunft der Digitalisierung, S.45ff; Möslein, Digitalisierung im Gesellschaftsrecht, S.212.

⁵⁷ Möslein, Digitalisierung im Gesellschaftsrecht, S.209; Wagner, Legal Tech und Legal Robots in Unternehmen, S.1099; Spindler, Gesellschaftsrecht und Digitalisierung, S.43.

⁵⁸ BGH NJW 2008, 3361; Spindler, Gesellschaftsrecht und Digitalisierung, S.43; Spindler, MüKoAktG, § 93, Rn.48; Hüffer, Hüffer/Koch AktG, § 93, Rn. 20Ff; Hopt/Roth, GroßKomm AktG, § 93, Rn. 105.

⁵⁹ BGHZ 197, 304; Spindler, Gesellschaftsrecht und Digitalisierung, S.43; Hopt/Roth, GroßKomm AktG, § 93, Rn. 105.

⁶⁰ MwN und zum Meinungsspektrum: Hopt/Roth, GroßKomm AktG, § 93, Rn. 105.

⁶¹ BGH NJW 2017, 580; BGH NZG 2008, 751, 752; Spindler, Gesellschaftsrecht und Digitalisierung, S.43.

⁶² Spindler, Gesellschaftsrecht und Digitalisierung, S.43.

⁶³ Meinungsspektrum: Fleischer, Spindler/Stilz AktG, § 93, Rn.71a.

⁶⁴ Spindler, MüKoAktG, § 93, Rn. 48; Hüffer, Hüffer/Koch AktG, § 93, Rn.21; Bachmann, Reformbedarf bei der BJR, S. 11.

⁶⁵ Möslein, Digitalisierung im Gesellschaftsrecht, S.209; Spindler, Gesellschaftsrecht und Digitalisierung, S.43.

⁶⁶ Möslein, Digitalisierung im Gesellschaftsrecht, S.209; Wagner, Legal Tech und Legal Robots in Unternehmen, S.1099; Spindler, Gesellschaftsrecht und Digitalisierung, S.43; R.Müller, Digitalization Decisions at the Board Level, S.50; Spindler, Zukunft der Digitalisierung, S.45.

⁶⁷ MwN: Spindler, Gesellschaftsrecht und Digitalisierung, S.43.

⁶⁸ Spindler, Gesellschaftsrecht und Digitalisierung, S.43.