Autonome Fahrzeuge, intelligente Kühlschränke und smarte Fabriken – In fast allen Bereichen sorgt der technologische Fortschritt dafür, dass lernfähige und vollautonome Systeme immer mehr Aufgaben und Handlungen von Menschen übernehmen.
Systeme mit künstlicher Intelligenz werden so zu Akteuren, deren rechtlicher Status geklärt werden muss. Immer wieder verblüfft uns der technologische Fortschritt damit, was Computer eigenständig leisten können. Es wird deshalb Zeit, zu klären, was Computer auch leisten dürfen.
Florian Sager zeigt in dieser Publikation auf, welche rechtlichen Risiken und offenen Fragestellungen mit der zunehmenden Digitalisierung aufkommen und wo sich Lücken im bestehenden rechtlichen Rahmen befinden. Der Autor fragt dabei unter anderem nach der Haftung von autonomen Systemen in Schadensfällen und er erkundet, inwiefern eine künstliche Intelligenz dazu befugt ist, Daten zu erheben und Verträge abzuschließen.
Aus dem Inhalt:
- Autonome Systeme;
- Digitalisierung;
- Künstliche Intelligenz;
- Vertrags- und Haftungsrecht;
- Datenschutzrecht;
- digitale Technologien
Inhaltsverzeichnis
1 Die digitale Transformation
1.1 Erkenntnisinteresse und Zielsetzung
1.2 Vorgehen und Abgrenzung
2 Digitale Technologien
2.1 Digitale Technologien allgemein
2.1.1 Historie der Digitalisierung
2.1.2 Anwendungsbereiche
2.1.3 Prognosen zur weiteren Entwicklung
2.2 Technischer Hintergrund
2.2.1 Cloud-Computing und Big Data – Grundlage aller digitalen Technologien
2.2.2 Künstliche Intelligenz und maschinelles Lernen
2.2.3 Machine-to-Machine-Kommunikation – Internet of Things
2.2.4 Blockchain – Smart Contracts
2.3 Anwendung in unterschiedlichen Branchen
2.3.1 Verarbeitende Industrie – Industrie 4.0 & Smart Factories
2.3.2 Automobilindustrie – Autonomes Fahren
2.3.3 Finanzindustrie – Fintech
2.3.4 Gesundheits- & Medizinbranche – Healthcare 4.0
2.3.5 Stadtplanung – Smart Cities
2.3.6 Rechtsbranche – Smart Law/Legal Tech
3 Vertragsrechtliche Fragen beim Einsatz digitaler Technologien
3.1 Schuldverhältnisse und Vertragsschluss allgemein
3.2 Grundsätzliche Voraussetzungen für die Befähigung zum Vertragsschluss
3.3 Befähigung autonomer Systeme zum Vertragsschluss
3.3.1 Willenserklärungen teilautonomer Systeme
3.3.2 Willenserklärungen vollautonomer Systeme
3.4 Das Modell der E-Person
3.5 Rechtsgültigkeit von Smart Contracts
3.5.1 Grundlegende Eigenschaften von Smart Contracts
3.5.2 Smart Contracts als Durchführung des rechtlich Vereinbarten
3.5.3 Grundsätzliche Anforderungen für eine rechtliche Durchsetzbarkeit
3.5.4 Spezifische Anforderungen und Empfehlungen für die Verwendung
3.5.5 Smart Contracts als neuer Vertragstyp?
4 Haftungsrechtliche Fragen beim Einsatz digitaler Technologien
4.1 Grundsätzliche Problematik
4.2 Verhaltensmodell vs. Zurechnungsmodell
4.2.1 Verhaltensmodell – autonome Systeme als Rechtssubjekt
4.2.1.1 Vertragliche Haftung
4.2.1.2 Deliktische Haftung
4.2.2 Zurechnungsmodell – mögliche Zurechnungstatbestände
4.2.2.1 Stellvertretung und Botenschaft
4.2.2.2 Geschäftsführung ohne Auftrag
4.2.2.3 Erfüllungsgehilfe
4.2.2.4 Verrichtungsgehilfe
4.3 Weitere potenzielle Haftungstatbestände
4.3.1 Produkthaftung
4.3.2 Verschuldenshaftung
4.3.3 Gefährdungshaftung
4.3.4 Zurechnung mit zukünftigen autonomen Systemen
4.4 Haftung am Beispiel „autonomes Fahren“
4.4.1 Haftung des Halters
4.4.2 Haftung des Fahrzeugführers
4.4.3 Haftung des Herstellers
4.4.4 Zusammenfassung
5 Datenschutzrechtliche Vorgaben und IT-Sicherheit
5.1 Vorgaben zum Datenschutz
5.1.1 Rechtliche Rahmenbedingungen
5.1.1.1 Datenschutz-Grundverordnung
5.1.1.2 Bundesdatenschutzgesetz-Neu
5.1.2 Vorgaben für datenverarbeitende Unternehmen
5.1.2.1 Personenbezogene Daten
5.1.2.2 Erfassung personenbezogener Daten mit autonomen Systemen
5.1.2.3 Sicherstellung der Datensicherheit
5.1.3 Rechtfertigungsgründe für eine Datenerhebung
5.1.3.1 Einwilligung des Betroffenen
5.1.3.2 Erforderlichkeit für einen Vertrag
5.1.3.3 Berechtigte Interessen des Verantwortlichen
5.1.3.4 Zweckänderung der Datenerhebung und Umgehung von Schutzmechanismen
5.1.4 Erhebung von Daten – Datensparsamkeit
5.1.4.1 Privacy by design
5.1.4.2 Privacy by default
5.1.5 Datenübermittlung im Konzern
5.1.6 Arbeitnehmerdatenschutz
5.1.7 Datenschutz in der Blockchain
5.1.8 Strafen und zivilrechtliche Risiken
5.2 Vorgaben zur IT-Sicherheit
5.2.1 Allgemeine Grundsätze
5.2.2 Nach dem Gesetz über das Bundesamt für Sicherheit in der Informationstechnik
5.2.2.1 Vorgaben des BSIG – umfassende Anforderungen an kritische Infrastrukturen
5.2.2.2 Zum Stand der Technik
5.2.3 Nach dem Bundesdatenschutzgesetz-Neu
5.2.4 Nach der NIS-Richtlinie
6 Ergebnisse und Ausblick
6.1 Vertrags- und Haftungsrecht
6.1.1 Anforderungen an die Wissenschaft und den Gesetzgeber
6.1.2 Verwendung von Smart Contracts
6.2 Datenschutzrecht und IT-Sicherheit
6.2.1 Bedeutung von Datenschutz
6.2.2 IT-Sicherheit als neuer Fokus im Unternehmen
7 Fazit
Zielsetzung & Themen
Die vorliegende Arbeit untersucht die rechtlichen Risiken und Herausforderungen, die mit der zunehmenden Digitalisierung und dem Einsatz teil- sowie vollautonomer Systeme im Vertrags-, Haftungs- und Datenschutzrecht einhergehen. Ziel ist es, Lücken im bestehenden Rechtsrahmen zu identifizieren und Lösungsansätze für die Praxis zu erarbeiten, um eine effiziente und sichere Anwendung dieser Technologien zu ermöglichen.
- Rechtliche Einordnung autonomer Systeme als Rechtssubjekte
- Vertragsrechtliche Durchsetzbarkeit und Rechtsgültigkeit von Smart Contracts
- Haftungsfragen bei autonomem Handeln (u.a. Produkthaftung, Gefährdungshaftung)
- Datenschutzrechtliche Vorgaben nach der DS-GVO und dem BDSG-Neu
- IT-Sicherheitsanforderungen für Unternehmen und kritische Infrastrukturen
Auszug aus dem Buch
3.5.2 Smart Contracts als Durchführung des rechtlich Vereinbarten
Ein Smart Contract ist programmierter Code, der dann, wenn zuvor definierte Bedingungen eintreten, Rechtsfolgen durchführt (bspw. die Übertragung von Geld), die ebenfalls bei der Programmierung festgelegt wurden. Dadurch wird sichergestellt, dass der Vertrag so stattfindet, wie er vereinbart wurde („Code is Law“).78 Dadurch, dass es sich um einen deterministischen Algorithmus handelt, ist das Ergebnis, in Abhängigkeit der Erfüllung der zugehörigen Bedingungen, praktisch garantiert.79 Kaulartz definiert den Smart Contract dementsprechend folgendermaßen:
„Ein Smart Contract ist eine Software, die rechtlich relevante Handlungen (insb. einen tatsächlichen Leistungsaustausch) in Abhängigkeit von digital prüfbaren Ereignissen steuert, kontrolliert und/oder dokumentiert, mit dessen Hilfe aber auch dingliche und/oder schuldrechtliche Verträge geschlossen werden können.“80
Damit auf der Blockchain ein Vertrag zu Stande kommt sind auch hier zwei WE erforderlich, Angebot und Annahme. Dabei kann eine ins Netzwerk gesendete Transaktion ein Angebot, eine Annahme oder auch eine invitatio ad offerendum darstellen. Bei der Prüfung der Voraussetzungen ist immer darauf abzustellen, wer die Transaktion initiiert hat. Sollte das eine autonom agierende Maschine gewesen sein, stellen sich die selben Fragen wie auch im Kontext des Vertrags- und des Haftungsrechts, das im weiteren Verlauf der Arbeit bearbeitet wird.
Zusammenfassung der Kapitel
1 Die digitale Transformation: Dieses Kapitel erläutert die technologische Entwicklung vom ersten Maschinenzeitalter hin zu disruptiven Technologien der Industrie 4.0 und definiert das Erkenntnisinteresse der Arbeit.
2 Digitale Technologien: Hier werden grundlegende Technologien wie Cloud-Computing, KI, IoT und Blockchain erklärt sowie deren Anwendungsfelder in verschiedenen Branchen beleuchtet.
3 Vertragsrechtliche Fragen beim Einsatz digitaler Technologien: Es wird untersucht, ob autonome Systeme Willenserklärungen abgeben können und wie Smart Contracts in den bestehenden Vertragsrahmen integriert werden können.
4 Haftungsrechtliche Fragen beim Einsatz digitaler Technologien: Dieses Kapitel analysiert die Problematik der Schadenszurechnung bei autonomen Systemen und diskutiert Modelle wie die Produkthaftung oder Gefährdungshaftung.
5 Datenschutzrechtliche Vorgaben und IT-Sicherheit: Hier werden die regulatorischen Anforderungen der DS-GVO sowie Sicherheitsstandards für Unternehmen und kritische Infrastrukturen dargestellt.
6 Ergebnisse und Ausblick: Es erfolgt eine Zusammenführung der rechtlichen Erkenntnisse zu Vertrags-, Haftungs- und Datenschutzfragen sowie ein Ausblick auf zukünftige Anpassungsbedarfe.
Schlüsselwörter
Digitale Transformation, Autonome Systeme, Smart Contracts, Blockchain, Vertragsrecht, Haftungsrecht, Datenschutz, DS-GVO, IT-Sicherheit, Produkthaftung, Künstliche Intelligenz, Industrie 4.0, Kritische Infrastrukturen, E-Person, Rechtsdienstleistung.
Häufig gestellte Fragen
Worum geht es in dieser Arbeit grundsätzlich?
Die Arbeit analysiert die rechtlichen Herausforderungen, die durch den Einsatz moderner digitaler Technologien wie autonomer Systeme, Smart Contracts und KI entstehen, insbesondere in den Bereichen Vertrags-, Haftungs- und Datenschutzrecht.
Was sind die zentralen Themenfelder?
Zentrale Themen sind die Einordnung autonomer Systeme in bestehende Rechtsmodelle, die Wirksamkeit von Smart Contracts auf Blockchain-Basis, Haftungsfragen bei technischem Versagen und die Anforderungen an Datenschutz und IT-Sicherheit.
Was ist das primäre Ziel der Arbeit?
Das primäre Ziel ist es, aufzuzeigen, wie aktuelle gesetzliche Rahmenbedingungen mit technologischen Neuerungen interagieren, wo Lücken bestehen und wie diese für eine rechtssichere Nutzung geschlossen werden können.
Welche wissenschaftliche Methode wird verwendet?
Die Arbeit nutzt eine rechtswissenschaftliche Analyse, bei der existierende Normen des BGB, des Produkthaftungsgesetzes sowie die Anforderungen der DS-GVO und Sicherheitsgesetze auf autonome Technologien angewendet und interpretiert werden.
Was wird im Hauptteil behandelt?
Der Hauptteil gliedert sich in die vertragsrechtliche Analyse der Willensbildung autonomer Systeme, die haftungsrechtliche Prüfung der Zurechnungsmodelle (z. B. Verrichtungsgehilfe) und die detaillierte Untersuchung der Datenschutzvorgaben.
Welche Schlüsselwörter charakterisieren die Arbeit?
Schlüsselwörter sind u.a. Digitale Transformation, Autonome Systeme, Smart Contracts, Blockchain, Produkthaftung und Datenschutz.
Was versteht man unter dem Modell der „E-Person“?
Die E-Person ist ein theoretischer Vorschlag, autonome Systeme analog zu juristischen Personen als eigene Rechtssubjekte mit Rechten und Pflichten zu qualifizieren, um eine klare Haftungszuordnung zu ermöglichen.
Warum stellt der Stand der Technik eine Herausforderung für Unternehmen dar?
Der unbestimmte Rechtsbegriff des „Stands der Technik“ ist dynamisch und erfordert von Unternehmen eine fortlaufende Anpassung ihrer IT-Sicherheitsmaßnahmen, was insbesondere für mittelständische Betriebe einen hohen administrativen Aufwand bedeutet.
- Arbeit zitieren
- Florian Sager (Autor:in), 2018, Was dürfen Computer? Der technologische Fortschritt und seine Herausforderungen für Vertrags-, Haftungs- und Datenschutzrecht, München, GRIN Verlag, https://www.grin.com/document/417270
