Haftungsrechtliche Regulierung der künstlichen Intelligenz

Inhaltsverzeichnis:

A. Einleitung

B. Regulierungsgegenstand KI

C. Haftungsrechtliche Herausforderungen der KI-Regulierung

D. Haftung nach dem Produkthaftungsgesetz
I. Produkt
II. Fehlerhaftigkeit
1) Entwicklungsfehler
2) Konstruktionsfehler
3) Fabrikationsfehler
4) Instruktionsfehler
a) Notwendige Sicherheitsanforderungen
aa) Zeitpunkt des In-Verkehr-Bringens

E. Haftungsadressaten

F. Weitere Arten der Haftung
I. Produzentenhaftung
II. Kausalhaftung

G. Alternative Lösungsvorschläge auf die Haftungsfrage
I. Versicherungslösung
II. Haftung der E-Person (Künstliche Intelligenz)

H. Fazit
I. Literaturverzeichnis

A. Einleitung

Die Corona Pandemie hat auch Deutschland 2020 erschüttert. Sie kam unerwartet und ohne Rücksicht auf Verluste. Das Ausmaß der Pandemie ist noch nicht ersichtlich und die Konsequenzen werden vermutlich noch über Jahre sichtbar und spürbar sein. Jetzt ist es wichtig, alle Möglichkeiten auszuschöpfen, um zu versuchen, die Pandemie so gut es geht einzudämmen. Eine nutzenstiftende Lösung könnte die künstliche Intelligenz (kurz: KI) darstellen. Von Früherkennungssystemen im Bereich Gesundheit, bis hin zu Kommunikationssystemen, bei denen Ärzte sich über Fragen zum Thema COVID-19 austauschen können oder auch Trackingsysteme, um den Mindestabstand zwischen Personen einzusehen¹. Die künstliche Intelligenz hat viele Facetten. Dies können einige auf künstlicher Intelligenz basierte Möglichkeiten sein, um COVID-19 eindämmen zu wollen. Auch in der Rede vom 16.09.2020 von Ursula von der Leyen in der sich die EU-Präsidentin zur Lage der europäischen Union äußert, wird deutlich, dass viel auf die künstliche Intelligenz zur Bekämpfung der COVID-19 Pandemie gesetzt wird². Um zu sagen, inwieweit die künstliche Intelligenz generell als Alternative zu anderen Lösungen verstanden werden kann, ist es wichtig, sich erst einmal mit dem Thema der künstlichen Intelligenz zu befassen und einen notwenigen Regulierungsrahmen im Umgang mit der künstlichen Intelligenz zu schaffen.

Im Rahmen meiner Hausarbeit: „ Haftungsrechtliche Regulierung der künstlichen Intelligenz, mit dem Fokus auf das Produkthaftungsgesetz.“, möchte ich mich damit auseinandersetzen, was künstliche Intelligenz überhaupt ist und was von dem Regelungsgegenstand der künstlichen Intelligenz, laut meinem Verständnis, mitinbegriffen ist. Zudem habe ich mir die Aufgabe gestellt, zu untersuchen, inwieweit haftungsrechtliche Konsequenzen, gerichtet auf die Haftungsfrage bestehen, die es zu regulieren bedarf. Des Weiteren habe ich mir die Frage gestellt, inwiefern der aktuelle Rechtsrahmen für fehlerhafte Produkte ausgestaltet ist. Dazu habe ich mich mit dem Produkthaftungsgesetz auseinandergesetzt. Eine Frage, die ich durch meine Hausarbeit näher beleuchten will, befasst sich damit, wann ein autonomes Verhalten der künstlichen Intelligenz vorliegt, welches zwar von dem Hersteller nicht gewollt war, aber dennoch nicht auszuschließen ist. Daher gehe ich auch darauf ein, wann beim Eintritt dieses Falls, ein Schaden vorliegt, welcher durch eine fehlerhafte künstliche Intelligenz verursacht wurde. Ebenfalls befasse ich mich mit den Haftungsadressaten, welche generell zum Haftungssubjekt gemacht werden könnten. Des Weiteren stelle ich zwei weitere Haftungsarten gegenüber und gebe abschließend Erkenntnisse über weitere mögliche Lösungen der Haftungsfrage preis. Zum Schluss fasse ich noch einmal in meinem Fazit meine Erkenntnisse zusammen und stelle einen Ausblick dar, worauf der Fokus in Zukunft bei der haftungsrechtlichen Beurteilung liegen sollte.

B. Regulierungsgegenstand KI

Um eine Aussage über die Haftung der künstlichen Intelligenz zu geben, ist es wichtig den Regulierungsgegenstand Künstlicher Intelligenz näher zu bestimmen. Hier fällt auf, dass eine abschließende Definition, oder gar eine Legaldefinition nicht vorliegt. Vielmehr handelt es sich bei den Definitionen, welche man über das Thema finden kann, um verschiedene Auffassungen aus den unterschiedlichsten Bereichen. Die Frage nach einer allumfassenden Definition der künstlichen Intelligenz, auf die sich alle daran beteiligten Einheiten einigen können, erweist sich als schwierig. Eine wichtige Regulierungsgrundlage bildet das Weißbuch der künstlichen Intelligenz, welches im Rahmen der Digitalprogramms der Europäischen Kommission am 19.02.2020 für einen transparenteren und verbindlichen Umgang mit der künstlichen Intelligenz veröffentlicht wurde³. Die Definition, welche ich zur Betrachtung der KI als Regulierungsgegenstand verwende, definiert die künstliche Intelligenz so: „Künstliche Intelligenz, Internet der Dinge und Robotik weisen viele gemeinsame Merkmale auf. Sie können Konnektivität, Autonomie und Datenabhängigkeit miteinander verknüpfen, um Aufgaben ohne oder nur mit geringer menschlicher Steuerung oder Aufsicht auszuführen. KI-gestützte Systeme können zudem ihre Leistung verbessern, indem die aus Erfahrungen lernen. Ihre Komplexität spiegeln sich sowohl in der Vielfalt, der an der Lieferkette beteiligten Wirtschaftsakteure als auch in der Vielzahl der Komponenten, Teilen, Software, Systemen oder Dienstleistungen wider, die zusammen die neuen technologischen Ökosysteme bilden. Hinzu kommt die Offenheit für Aktualisierungen und Verbesserungen nach der Markteinführungen dieser Technologien. Die enormen beteiligten Datenmengen, der Rückgriff auf Algorithmen und die Opazität der KI-Entscheidungsfindung erschweren die Vorhersage des Verhaltens eines KI-geschützten Produkts und das Verständnis der potenziellen Schadensursachen. Schließlich können Konnektivität und Offenheit KI-Produkte und IoT-Produkte anfällig für Cyberbedrohungen machen.“⁴ Im Rahmen meiner Hausarbeit möchte ich mich auf die Definition einer KI beziehen, bei sich die KI-Technologien in der Form, sich selbst steuernder Systeme, ohne Aufsicht und Einflussnahme des Menschen, ändern können. Diese Methode wird als maschinelles Lernen bezeichnet⁵. Sie grenzt sich dahingehend von den regelbasierten Systemen⁶ ab, dass sie durch einen Grad an Autonomie gekennzeichnet ist und eben nicht ausschließlich nach klar definierten Algorithmen beziehungsweise Handlungsmustern agiert. Demnach reagiert ein selbstlernendes System eigenständig auf Reize der Umwelt, welche von dem System erkannt werden. Die Einflussnahme durch den Anwender und durch den Entwickler sinken, da sie die KI-Technologie autonom verhält. Das selbstlernende System agiert eben nach eigens definierten Handlungsmuster. Problematisch bei den selbstlernenden Agenten erweist sich, dass die Möglichkeiten des Verstehens der Handlungsweisen der KI, insbesondere in Bezug auf die Beweislast, sinken. Die selbstlernenden Systeme lassen sich danach unterscheiden, dass sie einmal in Form selbstständiger Algorithmen und in der Ausprägung künstlicher neuronaler Netze vorliegen können. Künstliche neuronale Netze agieren unter der Verknüpfung der einzelnen Nervenzellen untereinander. Bei den künstlichen neuronalen Netzen handelt es sich im Gesamten nicht um einen Algorithmus. Das wird deutlich, da die neuronalen Netze eben nicht vorbestimmt handeln, was bei einem Algorithmus in der Regel der Fall ist.⁷

C. Haftungsrechtliche Herausforderungen der KI-Regulierung

Die Regulierung der KI findet ihre Notwendigkeit, anknüpfend an die verschiedenen Probleme, in ihrer Ausdehnung bzw. der unterschiedlichen Ausbringungsformen. Zudem erschwert die doch noch immer herrschende Ungewissheit und Unerklärbarkeit der einzelnen KI-Technologien, die Möglichkeit einen geeigneten Haftungsrahmen zu finden. Das Wort Autonomie steht im Fokus der Betrachtung. Die KI, nach meinem Verständnis, kann sich auch nach dem In-Verkehr-Bringen, selbstständig weiterentwickeln und dies ohne menschliche Steuerung, Aufsicht oder Einflussnahme. Das Agieren der autonome KI-Technologie erfolgt daher oft unbeherrschbar gegenüber dem Hersteller sowie dem Anwender, nicht deterministisch und relativ risikobehaftet. Hierbei können sich implizit Fragen in Bezug auf die Zurechnung des Schadens auf den Haftungsadressaten ergeben. Im Hinblick auf die Komplexität der KI wird deutlich, dass sich durch die zunehmende Einbettung der KI in Hardware oder auch die Vernetzung der KI mit anderen Produkten, Daten oder Diensten (IoT), Fragen in Bezug auf die Beweisbarkeit, Kausalität und Zurechnung ergeben⁸. Ein Austausch der Daten, wie bei sich selbststeuernden Fahrzeugen, bei denen Daten bezüglich der aktuellen Verkehrslage, dass Auto dazu bewegen können, eine alternative Route zu nutzen, stellen nur ein Beispiel dar, um zu zeigen, wie essenziell die geeignete Auswahl der Daten zu erfolgen hat. Die Komplexität einer KI zeigt sich auch dahingehend, dass viele verschiedene Akteure an dem Entwickeln beteiligt sein können und somit die Zurechnung der fehlerhaften KI auf einzelne Akteure schwierig zu beweisen sei. Hierbei spielt auch die Multikausalität eine entscheidende Rolle, bei der an der schadensstiftenden KI mehrere Akteure oder Prozesse beteiligt, und somit auch die Ursache für das Fehlverhalten der KI sein können. Unterschieden werden kann zwischen kumulativer und alternativer Kausalität (§830 Abs.1 S.2 BGB). Bei der alternativen Kausalität nach §830 Abs.1 S.2 BGB reicht es aus, dass jede einzelne Voraussetzung für sich, bereits zum Schadenseintritt geführt hätte.⁹ Folglich wird gesamtschuldnerisch gehaftet (ProdHaftG: §5 S.1 ProdHaftG). Eine kumulative Kausalität liegt vor, wenn die unabhängigen Voraussetzungen zusammen, zum Eintritt des Schadens geführt haben. Problematisch ist auch der Mangel an Transparenz der KI. Dies zeigt sich durch den sogenannten „Black-Box-[Effekt]“¹⁰ macht es dem Betreiber bzw. Geschädigtem schwer, die Kausalität zwischen Fehler, Rechtsgutverletzung und Schaden nachzuweisen und notweniges Hintergrundwissen über die Funktionsfähigkeit der KI zu erlangen. Angemerkt wird oft, dass die Möglichkeit bestehen könnte, dass die Hersteller dazu verpflichtet werden können, im Falle einer Fehlerhaftigkeit der KI sich gegenüber der KI-Technologie offen zu verhalten. Dadurch gelingt es dem Geschädigtem gegenüber Informationen zur Verfügung zu stellen, damit dieser die Beweislast führen kann. Diese Möglichkeit kann steigendes Vertrauen der KI-Nutzer gegenüber der KI-Technologie schaffen, da sie ihm Schadensfall, nicht ganz allein dastehen.¹¹ Die Freiheit der KI gegenüber Aktualisierungen und nachträglichen Veränderungen¹², in Bezug auf den Zeitpunkt des In-Verkehr-Bringens kann ebenfalls Anlass sein, um auf Probleme bei der Beurteilung der Haftungsfrage für etwaige Fehler zu stoßen. Durch die sich selbstständig ändernde KI, ist es fraglich, inwieweit die Fehler nach dem Zeitpunkt des In-Verkehr-Bringens ebenfalls dem Entwickler (Lieferant, Hersteller) aufgelastet werden sollen. Hierbei könnte zu bestimmen sein, ob das Abstellen der Fehlerhaftigkeit auf den Zeitpunkt des In-Verkehr-Bringens nach §1 Abs.

[...]

¹ Vgl. Plattform Lernende Systeme, KI-basierte Lösungen, https://www.plattform-lernende-systeme.de/corona.html, Stand: 01.02.2021

² Vgl. Europäische Kommission, Rede von der Leyens zur Lage der Union, https://ec.europa.eu/commission/presscorner/detail/de/SPEECH_20_1655, Stand: 01.02.2021

³ Vgl. Hacker, NJW 2020, S. 2142 (S. 2142)

⁴ Von Westphalen, VuR 2020, S. 248 (S. 248)

⁵ Vgl. Zech, ZfPW 2019, S. 198 (S. 200)

⁶ Vgl. Unger, ZRP 2020, S. 234 (S. 235)

⁷ Vgl. Zech, ZfPW 2019, S. 198 (S. 198-202)

⁸ Vgl. Steege, NZV 2021, S. 6 (S.6)

⁹ Vgl. Zech, ZfPW 2019, S. 198 (S. 207-208)

¹⁰ Von Westphalen, VuR 2020, S. 248 (S. 252)

¹¹ Vgl. von Westphalen, VuR 2020, S. 248 (S. 252)

¹² Vgl. von Westphalen, VuR 2020, S. 248 (S. 253)