Der Rechtsstatus einer "elektronischen Person" (künstliche Intelligenz)

Inhaltsverzeichnis

Literaturverzeichnis

I.Einleitung

II.Stand der Technik im Bereich künstlicher Intelligenz
1. Definition und Einordnung der künstlichen Intelligenz
2. Arten der Ausprägung von künstlicher Intelligenz

III.Aktuelle zivilrechtliche Herausforderungen durch den Einsatz künstlicher Intelligenz
1. Abgabe von Willenserklärungen durch autonome Systeme
2. Haftung autonomer Systeme

IV.Der Rechtsstatus einer elektronischen Person
1. Die elektronische Person als Rechtssubjekt zur Lösung der zivilrechtlichen Herausforderungen
2. Ausgestaltung der elektronischen Person
3. Kritische Betrachtung der elektronischen Person

V.Zusammenfassung und Ausblick

Literaturverzeichnis

Bauer, Marc Christian. Elektronische Agenten in der virtuellen Welt. Kovač, 2006.

Ertel, Wolfgang. "Grundkurs Künstliche Intelligenz". Springer Fachmedien Wiesbaden, 2013.

Günther, Jan-Philipp. Roboter und rechtliche Verantwortung. 2014.

Herbrich, Ralf. "Künstliche Intelligenz bei Amazon Spitzentechnologie im Dienste des Kunden“, in: Künstliche Intelligenz. Springer Berlin Heidelberg, 2018, S. 63-75.

"Intelligenzgrad". Thefreedictionary.Com, http://de.thefreedictionary.com/Intelligenzgrad, abgerufen am 08.12.2018.

John, Robert. Haftung für künstliche Intelligenz. Kovač, 2007.

Kirchner, Frank. "Robotik und künstliche Intelligenz: Verändert wie wir Dinge produzieren werden". Vdi-Wissensforum.De, 2018, https://www.vdi-wissensforum.de/news/robotik-und-kuenstliche-intelligenz/, abgerufen am 11.12.2018.

Kuhn, Andreas. "Was ist der Unterschied zwischen autonomen, automatisierten, vernetzten, kooperativen Fahren?". Andata.At, 2018, https://www.andata.at/de/antwort/was-ist-der-unterschied-zwischen-autonomen-automatisierten-vernetzten-kooperativen-fahren.html, abgerufen am 10.12.2018.

Mayinger, Samantha Maria. Die künstliche Person. 2017.

Moldaschl, Manfred / Stehr, Nico. Wissensökonomie und Innovation. 2010.

Nitschke, Tanja. Verträge unter Beteiligung von Softwareagenten - ein rechtlicher Rahmen. Lang, 2011.

Rich, Elaine et al. Artificial Intelligence. Tata Mcgraw-Hill, 2009.

Schirmer, Jan-Erik. Rechtspersönlichkeit für autonome Systeme?. Konrad-Adenauer-Stiftung E.V., 2018, https://www.kas.de/c/document_library/get_file?uuid=3af36212-e442-21ad-a044-a42e75580ba9&groupId=252038, abgerufen am 07.12.2018.

Schnetter, Martin. Robotik und ihre Regulierung. 2016.

Siepermann, Markus. "Definition: Algorithmus". Gabler Wirtschaftslexikon, https://wirtschaftslexikon.gabler.de/definition/algorithmus-27106, abgerufen am 10.12.2018.

Solum, Lawrence. Legal personhood for artificial intelligences. University of North Carolina School of Law, 1992.

Weddigen, Christian / Jüngst, Wolfgang. "Elektronik". Springer Berlin Heidelberg, 1986.

WirtschaftsWoche. "Waymo startet Robotaxi-Service in Phoenix". 2018, https://www.wiwo.de/unternehmen/auto/autonomes-fahren-waymo-startet-robotaxi-service-in-phoenix/23632352.html, abgerufen am 07.12.2018.

I. Einleitung

Das Inkrafttreten des Strafgesetzbuches im Jahre 1872 oder die Einführung des Bürgerlichen Gesetzbuches im Jahre 1900 zeigen auf, dass Gesetze einer ständigen Anpassung unterliegen müssen. Ebenso können Neuentwürfe notwendig sein, um die bis dato unvorhersehbaren gesellschaftlichen oder technischen Entwicklungen in einen Gesetzesrahmen zu bringen. Aktuelle Beispiele hierfür sind die Datenschutz-Grundverordnung der Europäischen Union oder die Anpassungen des Wiener Übereinkommens über den Straßenverkehr.

In deren Grundfassung von 1968 gilt das Paradigma, dass jedes Fahrzeug einen Fahrzeugführer benötigt, welcher die ständige Kontrolle über das zu bewegende Fahrzeug besitzt. Dies bleibt weiterhin die Grundhaltung, jedoch wurde der Einsatz von Fahrassistenzsystemen und automatisierten Fahrfunktionen 2016 durch die Bundesregierung zusätzlich erlaubt. Beispielhaft hierfür wäre eine Notbremsfunktion oder ein selbstständig lenkender Einpark-Assistent, welcher schon vor der Gesetzesänderung Serienreife erhielt. Die Bedingung der Neuregelung besagt außerdem, dass der Fahrzeugführer diese übersteuern bzw. abschalten kann, womit der Fahrer weiterhin die Verantwortung trägt.¹

Die zunehmenden technischen Entwicklungen werden aber auch diesen Rechtsrahmen bald zur Überarbeitung zwingen. Durch den Einsatz von künstlicher Intelligenz (KI) testet beispielsweise Google bereits führerlose Fahrzeuge, welche aufgrund des Wiener Abkommens – und der damit zwingenden Eingriffsmöglichkeit – in Deutschland derzeitig keine Rechtssicherheit besitzen.²

Da eine Serienreife selbstfahrender Autos bereits in den nächsten Jahren angestrebt wird, hat die aktuelle Bundesregierung eine Überprüfung der erst 2016 verabschiedeten Gesetze im Koalitionsvertrag verankert. Da sich die KI jedoch nicht nur auf Fahrzeuge, sondern die gesamte Robotik bezieht, sind weitreichendere Validierungen der aktuellen Gesetzeslage von Nöten. Insbesondere die Haftung sowie der Vertragsabschluss durch die Abgabe von Willenserklärungen auf Basis eigenständiger Entscheidungen von Maschinen könnten eine Regelungslücke aufweisen.³

Ob die Entwicklungen der KI de lege lata rechtskonform sind oder wie dies durch Rechtsanalogien und -dogmatiken hergestellt werden könnte, ist ein Gegenstand der Arbeit. Der Fokus liegt jedoch auf der Fragestellung, wie die Einführung eines neuen Rechtssubjekts – die elektronische Person – Abhilfe schaffen könnte.

Hierzu erfolgt eine Definition des Begriffs „Künstliche Intelligenz“ sowie eine Einordnung in den Kontext der Robotik und deren Ausprägungen. Den Stand der aktuellen Rechtslage beschreibt Kapitel III, indem mögliche Regelungslücken bzgl. Haftung und Vertragsschluss im Kontext mit KI geprüft werden. Den Hauptteil der Arbeit stellt Kapitel IV dar, das sich mit der elektronischen Person als eigenes Rechtssubjekt beschäftigt. Darauf aufbauend erfolgt eine mögliche Ausgestaltung dieser, um die genannten Regelungslücken zu lösen. Gefolgt von einer kritischen Würdigung schließt die Arbeit mit einer kurzen Zusammenfassung und einem Ausblick.

II. Stand der Technik im Bereich künstlicher Intelligenz

1. Definition und Einordnung der künstlichen Intelligenz

„Was ist Intelligenz?“ – diese Frage wurde schon oftmals gestellt und uneinheitlich beantwortet. So wurde Intelligenz als „die Fähigkeit, insbesondere durch abstraktes logisches Denken Probleme zu lösen und zweckmäßig zu handeln“⁴, erwidert. Einen komplett anderen Blickwinkel besitzt die Definition „Intelligenz ist das, was der Intelligenztest misst“.⁵

Aufgrund der Bandbreite an Definitionen zum Begriff Intelligenz erweist sich auch die Abgrenzung der künstlichen Intelligenz als schwierig. Der Encyclopedia Britannica nach ist KI „die Fähigkeit digitaler Computer oder computergesteuerter Roboter, Aufgaben zu lösen, die normalerweise mit den höheren intellektuellen Verarbeitungsfähigkeiten von Menschen in Verbindung gebracht werden.“⁶ Elaine Rich formulierte hierzu eine allgemeingültigere Fassung: „Artificial Intelligence is the study of how to make computers do things at which, at the moment, people are better.”⁷ Folglich ist das Forschungsziel der KI die Entwicklung eines intelligenten Systems zur Lösung von Aufgaben, die ein gewisses Maß an Intelligenz bedürfen.

Die Bezeichnung „Intelligenz“ resultiert aus der Autonomie des Systems und darf nicht mit der Automatisierung gleichgesetzt werden. Letzteres versteht lediglich die Abfolge eines Programms, das auf bestimmte Zustände vordefinierte Funktionen ausführt, beispielhaft hierfür wäre ein Förderband zum Transport von Gütern. Die Autonomie hingegen steht für eigenständige Entscheidungen in individuellen Situationen und reagiert demnach auf sich ändernde Umwelteinflüsse, wie dies bei neuentwickelten Fahrzeugen immer öfter der Fall ist.⁸

Sowohl die Automatisierung als auch die Autonomie basieren auf Algorithmen, sprich einer Abfolge von endlichen Einzelschritten zur Lösung eines Problems.⁹ Während es sich bei der Automatisierung um starre Algorithmen handelt, die abhängig vom Wissen und der darauf aufbauenden Programmierung des Entwicklers sind, kommt bei der Autonomie das sogenannte maschinelle Lernen zum Einsatz, wodurch der Algorithmus eine ständige Veränderung erfährt. Statt einer starren Codierung der Abläufe werden diese demnach dem System antrainiert. Im Falle eines autonomen Schachcomputers werden lediglich die einzuhaltenden Regeln programmiert. Die Algorithmen werden durch Simulationen erlernt, die aufgrund der heutigen Rechenkapazitäten schnell durchgeführt werden können. Daher überrascht es nicht, dass Schachcomputer nach nur wenigen Stunden Lernphase die weltbesten Spieler besiegten. Bei automatisierten Schachcomputern dagegen mussten sämtliche Züge manuell implementiert werden.¹⁰

2. Arten der Ausprägung von künstlicher Intelligenz

Im Sprachgebrauch wird der Begriff KI hauptsächlich mit der Robotik gleichgesetzt, was diesem jedoch nicht immer gerecht wird, da Roboter oftmals automatisiert, jedoch nicht autonom, agieren. Dennoch ist die Robotik die physische Ausprägung künstlicher Intelligenz, da die KI nicht selbstständig, sondern immer innerhalb einer Komponente wie einem Saugroboter integriert ist. Roboter sind demnach nicht zwangsläufig der KI zuzuordnen, die KI ist jedoch zwangsläufig der Robotik zuzuweisen.¹¹

Äquivalent zur Definition der KI erweist sich der Definitionsversuch für die Robotik als schwierig. Zum einen wurde der Begriff erstmals 1920 in der Unterhaltungsliteratur geprägt und besitzt demnach keinerlei wissenschaftlichen Diskurs. Vielmehr wurde der Begriff aus dem tschechischen Wort „robota“ abgeleitet, was mit „Arbeit“ oder „Zwangsdienst“ übersetzt werden kann.¹²

Zum anderen ist das breite und immer vielfältiger werdende Anwendungsgebiet Grund für eine fehlende einheitliche Definition. So lässt sich die Robotik in diverse Kategorien unterscheiden. Beispielhaft hierfür wäre die Größe, Bewegungsfähigkeit oder Einsatzgebiete.¹³ Letztere Unterscheidung erscheint für das Aufzeigen der aktuellen Möglichkeiten innerhalb der Robotik am sinnvollsten. Eine mögliche Kategorisierung nach Anwendungsgebieten stellt die Unterscheidung in Industrie-, Service- und Militärroboter, die bereits in der Einleitung erwähnten autonomen Verkehrsmittel sowie Cyborgs dar.¹⁴

Letzteres Gebiet ist innerhalb der Medizin angesiedelt und versucht Fehlfunktionen des Menschen auszugleichen bzw. leistungssteigernd zu wirken. Beispielhaft hierfür wäre eine künstliche Prothese, die auf das Nervensystem des Trägers reagiert. Während die Kategorie autonome Verkehrsmittel selbstfahrende Busse, Autos oder Flugzeuge zum Transport von Personen und Gütern versteht, definiert sich die Kategorisierung Militärroboter über unbemannte Drohnen oder Flugabwehrraketen. Industrieroboter, die insbesondere aus der Automobilproduktion z.B. in Form von Lackier- oder Schweißrobotern bekannt sind, kommen bereits seit vielen Jahren flächendeckend in Unternehmen zum Einsatz. Im Gegensatz hierzu handelt es sich bei Servicerobotern wie Mäh- oder Saugroboter um einen neueren Robotikzweig, die insbesondere im Privatbereich anzutreffen sind und ein hohes Wachstumspotential aufweisen. Einen bedeutenden Teil der Serviceroboter machen auch Assistenzsysteme wie Amazon Alexa oder Google Home aus, die sich als allgegenwärtiger Begleiter für den Alltag verstehen.¹⁵

Wie bereits erwähnt, handelte es sich hierbei um physische Ausprägungen der KI, vergleichbar mit der Hardware – wie z.B. die Grafikkarte oder der Monitor – eines Computers. Die Basis hiervon bildet jedoch die Software. Vergleichbar mit dem Betriebssystem eines Computers, baut diese auf obig erklärte Algorithmen auf und trifft demnach die eigenständigen Entscheidungen eines autonomen Systems. Daraus resultiert der in der IT verwendete Begriff Softwareagent. Rechtlich findet ausschließlich eine Beurteilung dieses Agenten statt, da die Fähigkeiten eines Roboters auf den Algorithmen des Agenten basieren und die nachfolgende Verbindung mit der Hardware demnach irrelevant ist.¹⁶

III. Aktuelle zivilrechtliche Herausforderungen durch den Einsatz künstlicher Intelligenz

Das deutsche Rechtssystem unterteilt sich in drei Rechtsgebiete: Privatrecht, öffentliches Recht sowie Strafrecht. Letzteres Gebiet betrifft beispielsweise die fahrlässige Körperverletzung, die durch den verstärkten Einsatz von Mensch-Roboter-Kollaborationen möglich ist. Aufgrund der ausschließlichen Auslegung des Strafrechts auf natürliche Personen ist somit ein Rechtsvakuum geschaffen.¹⁷ Auch das öffentliche Recht besitzt neue Herausforderungen durch den Einsatz künstlicher Intelligenz, was sich bereits innerhalb der Einleitung bzgl. der Legalisierung von Fahrassistenzsystemen im Wiener Übereinkommen aufzeigte. Hauptaugenmerk der Arbeit liegt jedoch im Privatrecht und behandelt die Haftung autonomer Systeme sowie die Abgabe von Willenserklärungen zur Vertragsschließung.

1. Abgabe von Willenserklärungen durch autonome Systeme

Beispielhaftes Szenario für letzteren Punkt wäre der Kauf eines Produktes. Hierbei beauftragt der Nutzer den Agenten für den Kauf von Milch, woraufhin der Agent eigenständig die Sorte der Milch auswählt, den günstigsten Preis sucht und daraufhin einen Kaufvertrag schließt.

Der Abschluss eines Vertrags erfordert zwei übereinstimmende Willenserklärungen, die jeweils ein objektives Tatbestandselement in Form einer Äußerung sowie ein subjektives – den Willen – enthalten. Die Äußerung versteht die Kundgebung des Willens an den anderen Vertragspartner und ist mit Ausnahme von Sonderfällen formfrei. Das objektive Tatbestandselement ist im obigen Beispiel demnach gegeben, indem der Agent den Bestellvorgang über ein Shopsystem abschließt oder beispielsweise dem Verkäufer eine E-Mail bzgl. des willentlichen Kaufes des Produktes sendet.¹⁸

Damit dem Agenten die Willenserklärung jedoch zugeordnet werden kann, muss dieser die Fähigkeit zur Willensbildung besitzen. Das Willenselement der Willenserklärung untergliedert sich in Geschäftswillen, Erklärungsbewusstsein sowie Handlungswillen, wobei der Geschäftswille nicht zwingend erforderlich ist. Die Handlung des Agenten ist ausschließlich der Beauftragung durch den Nutzer geschuldet, weshalb der Agent – trotz Autonomie – keinen Handlungswillen besitzen kann und dieser folglich immer beim Nutzer liegt. Andernteils fehlt dem Agentennutzer das Erklärungsbewusstsein, sprich das Bewusstsein eine rechtserhebliche Erklärung abzugeben, da dieser Zeitpunkt und Inhalt der Agentenerklärung nicht kennt.

Daraus resultiert, dass weder der Agent noch der Benutzer mit Hilfe des Agenten eine vollständig eigenständige Erklärung abgeben kann, sondern dies lediglich mit Hilfe eine Zuordnung möglich ist.¹⁹ Auch wird der Agent der zwingenden Voraussetzung einer Rechtsfähigkeit für die Abwicklung von Rechtsgeschäften nicht gerecht. Nach geltendem Recht besitzen diese Eigenschaft lediglich der Mensch – die natürliche Person – sowie Personenvereinigungen wie Vereine oder Aktiengesellschaften in Form der juristischen Person. Der Softwareagent kann folglich keiner der beiden Kategorien zugeordnet werden.

Zusätzlich geht mit der fehlenden Rechtsfähigkeit die fehlende Geschäftsfähigkeit einher, die eine freie Willensbildung voraussetzt.²⁰ Demnach gibt der Agent die Willenserklärung zwar selbstverantwortlich ohne den Nutzer ab, die Erklärung kann dem Agenten jedoch aus obigen Gründen nicht zugerechnet werden.²¹

An diesem Punkt wird nun versucht, die abgegebene Willenserklärung des Agenten dem Nutzer zuzuschreiben, sodass die Erklärung Gültigkeit erlangt. Eine Form wäre die antizipierte Willensbildung, da der Kaufwille letztendlich auf den Nutzer zurückzuführen ist, obwohl die Willenserklärung erst durch den Agenten abgegeben wird. Da dem Agenten jedoch ausschließlich Rahmenbedingungen gegeben wurden und die letztendliche Auswahl des Produktes autonom geschah, liegt keine beendete Willensbildung – und somit kein Erklärungsbewusstsein – beim Nutzer vor. Selbiges gilt für eine rechtsgeschäftliche Globalvereinigung, da der jeweilige Vertragspartner zum Zeitpunkt der Aktivierung des Agenten – dies wäre hiernach die Geschäftsaufnahme – unbestimmt ist.²² Beide Möglichkeiten sind demnach nicht anzuwenden.

Auch der kommunikationsmediale Ansatz, der den Agenten lediglich als Übertragungsmedium der Willenserklärung ansieht, ist abzulehnen. Während dieser Ansatz beispielsweise für Telefone oder Faxe geeignet ist, lässt sich die vorhandene Intelligenz und Entscheidungsfreiheit logischerweise hierauf nicht übertragen.²³ Eine weitere Möglichkeit wäre die Zuordnung über die Stellvertretung, die sich über Handeln in fremden Namen mit Vertretungsmacht definiert. Hier würde der Agent eine eigenständige Willenserklärung mit dem erhaltenen Willen des Vertretenen abgeben, die dann für und gegen den Vertretenen wirkt. Dies scheitert jedoch an der obig erwähnten fehlenden Rechts- und Geschäftsfähigkeit.²⁴

Eine weitere Auffassung zur Zurechnung ist der Wissensvertreter. Dieser – hier der Agent in Form eines Verhandlungsgehilfen – stellt eine Person dar, deren Kenntnisse sich der Nutzer zurechnen lassen muss. Laut Bauer besitzt der Agent hier eine verhandelnde Funktion. Die Partizipation geschieht durch den Agentennutzer, der sich die Verhandlung seines Wissensvertreters – demnach das Erklärungsbewusstsein – als eigenes Wissen zurechnen lässt. Da der Nutzer durch Aktivierung des Agenten von Anfang an den Handlungswillen besitzt und die Zurechnung der Verhandlung erhält, führt dies zu einer gültigen Willenserklärung von Seiten des Nutzers.²⁵

Problematisch hierbei ist jedoch die Funktion des Wissensvertreters. Diese zielt lediglich darauf ab, dem Nutzer das Wissen zuzueignen. Die tatsächliche Funktion eines Agenten ist jedoch die eigenständige Ausübung von Rechtsgeschäften, weshalb auch diese Zurechnung scheitert.²⁶

[...]

¹ Bundesrat 243/16.

² WirtschaftsWoche.

³ Schirmer, S. 3.

⁴ TheFreeDictionary.com.

⁵ Moldaschl / Stehr, S. 4.

⁶ Ertel, S. 2.

⁷ Rich / Knight / Nair, S.3.

⁸ Kuhn.

⁹ Siepermann.

¹⁰ Ertel, S. 8ff.

¹¹ Kirchner.

¹² Schnetter, S. 19f.

¹³ Günther, S. 19.

¹⁴ Schnetter, S. 19.

¹⁵ Schnetter, S. 19ff.

¹⁶ Mayinger, S. 169.

¹⁷ Schnetter, S. 38ff.

¹⁸ Nitschke, S. 23ff.

¹⁹ John, S. 74f.

²⁰ Nitschke, S. 28ff.

²¹ Bauer, S. 83.

²² Wettig, S. 164f.

²³ Wettig, S. 166f.

²⁴ Wettig, S. 179ff.

²⁵ Bauer, S. 85ff.

²⁶ Nitschke, S. 45f.