Die Arbeit befasst sich mit den rechtlichen Aspekten der KI, insbesondere mit der Frage der Haftung bei Fehlern und daraus resultierender Schäden von KI-basierten Systemen aus zivilrechtlicher Sicht. Es wird zudem näher auf die Frage einer "electronic person" eingegangen, die neben natürlichen und juristischen Personen mit ins deutsche Gesetz als eigenständiges Rechtssubjekt mit Rechten und Pflichten aufgenommen werden soll. Die Arbeit beinhaltet eigenständig ausgedachte, simple Beispielfälle, anhand derer die Anwendung der in Frage kommenden Rechtsnormen sowie die Theorie allgemein besser erklärt und veranschaulicht wird. Zum Schluss wurden eigenständig Musterklauseln im Rahmen einer AGB Prüfung hinsichtlich autonomer Systeme entworfen.
Das Einsatzgebiet von Robotern wächst persistent, menschliche Arbeitskraft wird zunehmend durch solche ersetzt. So sind autonom agierende Systeme bereits in der Lage, etwa bildgebende Diagnostik schneller und zuverlässiger auszuwerten als über Jahre ausgebildete Fachärzte oder dem Menschen bislang unbekannte Fortschritte bei der Entwicklung von Arzneimitteln zu erzielen.
Doch auch schreitet die Digitalisierung unseres Alltags stetig voran, wonach alltägliche Gebrauchssachen zunehmend "intelligenter" werden: Kühlschränke erledigen eigenständig Einkäufe und Fahrzeuge fahren ohne einen Fahrer,
was mittels maschineller Lernverfahren ermöglicht wird.
Gerade für das Privatrechtssystem ergeben sich hieraus jedoch viele ungeklärte Fragen: Wem ist bei einem Vertragsschluss mit/ durch autonome Systeme die Willenserklärung zuzurechnen? Kommt dem autonomen System dahingehend eine Rechtsfähigkeit zu, wonach es Träger von Rechten und Pflichten wird? Wer haftet, wenn das System einen Fehler macht und dadurch einen Schaden verursacht?
Inhaltsverzeichnis
C. Ausarbeitung
I. Einleitung
II. Begriffsbestimmung und Einordnung KI
1. Automatisierung
2. Autonomie
a) Maschinelles Lernen
b) Deep Learning
c) Roboter
III. Vertragsrechtliche Herausforderungen beim Einsatz von KI
1. Klassischer Vertragsschluss
2. Vertragsschluss unter Einsatz von Software
a) Automatisierte Willenserklärungen
b) Autonome Willenserklärungen
aa) Eigene Willenserklärung der KI
(1) Objektiver Tatbestand
(2) Subjektiver Tatbestand
bb) Anwendung des Stellvertretungsrechts
cc) Botenschaft
dd) Blanketterklärung
ee) Zwischenergebnis
ff) KI als eigene Rechtspersönlichkeit (ePerson)?
c) Zwischenergebnis
IV. Zivilrechtliche Haftung bei Fehlern autonomer Systeme
1. Haftungsgrundlagen
2. Haftung des Nutzers/ Betreibers
a) Vertragliche Haftung
aa) Eigenes Verschulden
bb) Fremdverschulden, § 278 BGB
(1) Analoge Anwendung des § 278 BGB
(2) Eigene Haftung des autonomen Agenten
(3) Verhaltensfiktion
cc) Zwischenergebnis
b) Deliktische Haftung
aa) Verschuldenshaftung
bb) Analoge Anwendung des § 831 BGB
cc) Gefährdungshaftung
V. AGB – Recht
1. Musterklausel
2. AGB – Klauselkontrolle
a) Neue Regelungen zu Verträgen mit digitalen Produkten
b) Mögliche Abhilfemaßnahmen
VI. Fazit
Zielsetzung & Themen
Die vorliegende Arbeit untersucht die vertragsrechtlichen und haftungsrechtlichen Herausforderungen, die beim Einsatz von künstlicher Intelligenz und autonomen Systemen im Privatrecht entstehen. Dabei steht insbesondere die Frage im Fokus, wem Willenserklärungen zugerechnet werden können, ob autonomen Systemen eine Rechtsfähigkeit (ePerson) zukommen sollte und wie der Betreiber bei Fehlverhalten haftet.
- Grundlagen der KI, Automatisierung und Autonomie
- Vertragsrechtliche Zurechnung bei KI-gestützten Systemen
- Zivilrechtliche Haftung des Nutzers oder Betreibers autonomer Systeme
- Klauselkontrolle und Gestaltung von AGB bei Einsatz von KI
- Auswirkungen der neuen Gesetze zu digitalen Produkten
Auszug aus dem Buch
b) Autonome Willenserklärungen
Komplexer gestaltet sich die Zurechenbarkeit von Willenserklärungen bei autonom agierenden Systemen, da diese ohne konkrete Vorgaben oder Anweisungen durch den Nutzer handeln, was zur Folge hat, dass ihr Verhalten unvorhersehbar ist. Dabei werden bei der Inbetriebnahme zwar einige Parameter durch den Nutzer festgelegt, indessen sind diese vorwiegend allg. Natur.
Als beispielhaftes Szenario gilt die Abwandlung des obigen Falls, bei dem ein Kühlschrank, statt vordefinierter Anweisungen und Bestellvorgänge bei Eintritt bestimmter Bedingungen, eigenständig Essensbestellungen ausführt. Dieser „smarte Kühlschrank“ ist verknüpft mit dem Smartphone des Nutzers sowie dessen Kalender. Dabei sind Geburtstage eines vordefinierten Personenkreises im Kalender des Nutzers eingespeichert. Das System kann nun zum Geburtstag einer dieser Personen ein individuell zusammengestelltes „Geburtstagsmenü“, gemessen an Essverhalten, persönlicher Präferenzen über die letzten (Geburts)Tage, etc. erstellen, indem es seine interne Datenbank auswertet und letztlich ein passendes Menü generiert. Sodann werden auf Basis dieser Erkenntnisse passende Lieferdienste kontaktiert, miteinander verglichen und die besten und preisgünstigsten Produkte schließlich geordert und dem Nutzer zugestellt. Zwar liegen hier Voreinstellungen wie die Erlaubnis des Zugriffs auf das Smartphone und die Indienststellung dessen vor, allerdings erfolgt jegliche Entscheidung des Systems durch einen selbst erlernten Algorithmus, dem ML. Durch die selbstständigen Interaktionen des „smarten Produkts“ mit anderen Systemen in unbekannten Umgebungen, kann weder der Programmierer selbst noch der Anwender prognostizieren, mit wem und hins. was interagiert wurde.
Für eine Willenserklärung bedeutet dies, dass keine Kenntnis darüber gegeben ist, wann, mit welchem Inhalt, gegenüber wem oder aus welchem Grund eine solche abgegeben wurde. Fraglich ist insofern, wem eine solche autonome Willenserklärung zuzurechnen ist.
Zusammenfassung der Kapitel
I. Einleitung: Diese Einleitung führt in die Problematik ein, dass menschliche Arbeitskraft durch KI ersetzt wird und daraus ungeklärte Fragen zur Willenszurechnung und Haftung im Privatrecht entstehen.
II. Begriffsbestimmung und Einordnung KI: Das Kapitel definiert KI, Automatisierung und Autonomie und grenzt diese voneinander ab, um die technischen Grundlagen für die rechtliche Analyse zu legen.
III. Vertragsrechtliche Herausforderungen beim Einsatz von KI: Es werden die Probleme bei der Zurechnung von Willenserklärungen durch KI-Systeme beleuchtet, wobei auch Ansätze wie die ePerson und die Stellvertretung kritisch geprüft werden.
IV. Zivilrechtliche Haftung bei Fehlern autonomer Systeme: Hier steht die vertragliche und deliktische Haftung des Betreibers im Mittelpunkt, inklusive der Prüfung von Analogien zu bestehenden Haftungskonzepten.
V. AGB – Recht: Dieses Kapitel widmet sich der Gestaltung rechtssicherer Musterklauseln für AGB beim Einsatz von KI und deren Überprüfung vor dem Hintergrund aktueller Gesetze.
VI. Fazit: Das Fazit fasst die Ergebnisse zusammen und fordert den Gesetzgeber auf, die bestehenden Regelungslücken im Umgang mit KI-Haftung zielgerichtet zu schließen.
Schlüsselwörter
Künstliche Intelligenz, Autonome Systeme, Zivilrecht, Haftung, Willenserklärung, ePerson, Stellvertretungsrecht, Gefährdungshaftung, AGB-Recht, Algorithmen, Maschinelles Lernen, Rechtsfähigkeit, Softwareagenten, Vertragsrecht, Produkthaftung.
Häufig gestellte Fragen
Worum geht es in der Arbeit grundlegend?
Die Arbeit analysiert die Herausforderungen, die sich durch den Einsatz von Künstlicher Intelligenz und autonomen Systemen für das deutsche Privatrecht ergeben, insbesondere im Hinblick auf Vertragsschlüsse und Haftungsfragen.
Was sind die zentralen Themenfelder?
Die zentralen Themen sind die Definition und Einordnung von KI und autonomen Systemen, die rechtliche Zurechnung von Willenserklärungen sowie die verschiedenen Konzepte der vertraglichen und deliktischen Haftung beim Betrieb solcher Systeme.
Welches primäre Ziel verfolgt die Arbeit?
Das Hauptziel besteht darin, die bestehenden Regelungslücken im Zivilrecht aufzuzeigen, die durch KI aufgetreten sind, und zu prüfen, ob etablierte Konzepte erweitert oder neue Lösungen, wie etwa eine ePerson, notwendig sind.
Welche wissenschaftliche Methode wird verwendet?
Die Arbeit verwendet eine vergleichende und dogmatische Analyse des geltenden Zivilrechts in Verbindung mit einer Einzelfallbetrachtung anhand von Beispielszenarien wie dem Mähroboter.
Was wird im Hauptteil behandelt?
Der Hauptteil behandelt die vertragsrechtliche Zurechenbarkeit von Handlungen, die Haftung des Nutzers/Betreibers, die Anwendbarkeit von § 278 BGB und § 831 BGB via Analogie sowie die Gestaltung von AGB.
Welche Schlüsselwörter charakterisieren die Arbeit?
Wichtige Schlüsselwörter sind unter anderem Künstliche Intelligenz, Haftung, Willenserklärung, Rechtsfähigkeit, ePerson, Autonomie und AGB-Recht.
Warum wird eine ePerson als Rechtssubjekt skeptisch betrachtet?
Die Autorin argumentiert, dass eine ePerson dogmatische Probleme aufwirft, da ihr die notwendige menschliche Fähigkeit zu Denken, Wissen und Moral fehlt und zudem die Finanzierung (Stammkapital) ungeklärt bleibt.
Welchen Einfluss haben neue Gesetze zu digitalen Produkten?
Neue Gesetze, insbesondere zur Umsetzung von EU-Richtlinien, führen eine Aktualisierungspflicht für digitale Produkte ein, die für die Eignung und Sicherheit von KI-Systemen von zentraler Bedeutung ist.
Was bedeutet die "Verhaltensfiktion" in der Arbeit?
Die Verhaltensfiktion ist ein Lösungsansatz, bei dem das Verhalten einer autonomen Maschine rechtlich wie das Verhalten des Schuldners behandelt wird, sofern ein entsprechendes Gehilfenverhalten zuzurechnen wäre.
- Quote paper
- Soni Rabenstein (Author), 2022, Zivilrechtliche Haftung beim Einsatz von Künstlicher Intelligenz. KI als e-Person?, Munich, GRIN Verlag, https://www.grin.com/document/1358044
