Künstliche Intelligenz (KI) ist längst im Leben der Menschen angekommen. Neben ihren Vorteilen zeichnet sich KI allerdings auch durch Eigenschaften, wie Komplexität, Autonomie, und Unvorhersehbarkeit aus. Damit stellt sich die Frage, ob KI-Lebenssachverhalte auch vom geltenden Recht abgedeckt sind. Der folgende Beitrag befasst sich mit grundlegenden Fragen, wie zum Beispiel können Verträge mit KI-Systemen geschlossen werden und kann das Deliktsrecht bei Schäden durch KI herangezogen werden. Das Ergebnis: es kommt drauf an. Je komplexer und autonomer das KI-System ist, desto mehr gelangt das jetzige Recht an seine Grenzen.
Inhaltsverzeichnis
A. Einleitung
I. KI und Recht
II. Ziel und Struktur der Arbeit
B. Künstliche Intelligenz
I. Software
II. Entwicklung der Software durch Techniken und Konzepte
1. Maschinelles Lernen („Machine Learning“)
2. Tiefes Lernen („Deep Learning“)
III. Hervorbringen von Ergebnissen und Einflussnahme auf die Umwelt
1. Starke und schwache KI-Systeme
2. Superintelligenz
IV. Vom Menschen festgelegte Ziele
C. Vertragsrechtliche Herausforderungen beim Einsatz Künstlicher Intelligenz
I. KI im Vertragsrecht
II. Herausforderung im Vertragsschluss
1. Instrumente der Rechtsgeschäftslehre de lege lata
a) Eigene Willenserklärung des KI-Systems
b) Zurechnung der Willenserklärung an den KI-Nutzer
aa) Einordnung als Computererklärung
bb) Anwendung des Konstrukts der Botenschaft
cc) Anwendung des Stellvertretungsrechts, §§ 164 ff. BGB
(1) Eigene Willenserklärung des Stellvertreters
(2) Zwischenergebnis
dd) Analoge Anwendung des Stellvertretungsrechts
(1) Planwidrige Regelungslücke
(2) Vergleichbare Interessenslage
ee) Einordnung als Blanketterklärung
2. Instrumente der Rechtsgeschäftslehre de lege ferenda
a) Die e-Person
b) Teilrechtsfähige KI-Systeme
D. Haftungsrechtliche Herausforderungen beim Einsatz Künstlicher Intelligenz
I. KI im Haftungsrecht
II. Deliktische Haftung de lege lata
1. Menschliches Verhalten
a) Aktives Tun
b) Pflichtwidriges Unterlassen
aa) Verkehrssicherungspflichten der Haftungsadressaten
bb) Sorgfaltsmaßstab
c) Zwischenfazit zu 1.
2. Kausalität
a) Kausalität nach der Äquivalenztheorie
b) Kausalität nach der Adäquanztheorie
c) Schutzzweck der Norm
d) Grundsätze der Fallgruppe der „Herausforderungsfälle“
e) Sonderproblem: Vernetzung
f) Zwischenfazit zu 2.
3. Verschulden
4. Darlegungs- und Beweislast
a) Grundsatz
b) Sonderfall: Produzentenhaftung
III. Produkthaftung de lege lata
1. Anwendungsbereich des ProdHaftG
a) Produkt i.S.d. § 2 ProdHaftG
b) Fehler i.S.d. § 3 ProdHaftG
2. Ausschluss der Produkthaftung
a) Ausschluss nach § 1 Abs. 2 Nr. 2 ProdHaftG
b) Ausschluss nach § 1 Abs. 2 Nr. 5 ProdHaftG
IV. Haftung de lege ferenda
1. Die e-Person
2. Gefährdungshaftung
E. Regulierungsrechtliche Herausforderungen beim Einsatz Künstlicher Intelligenz
I. Regulierungsrecht für KI
II. Definition von KI-Systemen
III. Menschliche Aufsicht und Kontrolle
F. Fazit
I. Gesamtbewertung
II. Ausblick
Zielsetzung & Themen
Die Arbeit analysiert die rechtlichen Herausforderungen, die der Einsatz von Künstlicher Intelligenz im allgemeinen Zivilrecht mit sich bringt. Dabei stehen der Vertragsschluss durch KI-Systeme, Fragen der außervertraglichen Haftung sowie regulatorische Rahmenbedingungen im Fokus, um zu prüfen, ob die derzeitige Rechtsordnung eine kompatible Grundlage bietet.
- Vertragsrechtliche Einordnung von KI-Systemen (Vertragsschluss und Zurechnung)
- Deliktische Haftung und Produkthaftung bei Einsatz von KI
- Regulierungsrechtliche Ansätze, insbesondere im Hinblick auf den EU-KI-Verordnungsentwurf
- Herausforderungen durch Autonomie, Unvorhersehbarkeit und Vernetzung von Systemen
Auszug aus dem Buch
Eigene Willenserklärung des KI-Systems
Eine Möglichkeit ist, dass das KI-System selbst Vertragspartei wird, in dem es eine eigene Willenserklärung abgibt. Eine Willenserklärung ist eine Erklärung, gerichtet auf das Hervorbringen eines rechtlichen Erfolges, der nach der Rechtsordnung deswegen eintritt, weil er gewollt ist.
Wie bereits in B.III. festgestellt, können KI-Systeme Ergebnisse hervorbringen. Dies kann auch die Abgabe einer Erklärung sein, die dann zu einem rechtlichen Erfolg, bspw. einen Vertragsschluss, führt. Problematisch ist jedoch das Willenselement und die damit verbundene Frage, ob ein KI-System einen eigenen Willen hat. Ein KI-System kann durch entsprechende Verfahren des maschinellen Lernens ein eigenes Verhalten entwickeln (vgl. B.II.2.), welches jedoch dazu dient, die von einem Menschen vorgegebenen Ziele (vgl. B.IV.) zu erreichen. Demnach ist der vom KI-System angestrebte Zweck menschlich festgelegt, was dem inneren Willen des Menschen gleichgestellt werden kann. Das KI-System selbst kann allenfalls noch algorithmisch vorgegebenen Optimierungszielen zur Erreichung des Willens nachgehen.
Daraus schließend kann ein KI-System den äußeren Tatbestand einer Willenserklärung, eine ausdrückliche Erklärung oder ein konkludentes Verhalten, erfüllen. Den inneren Tatbestand, welcher den Handlungswillen, das Erklärungsbewusstsein und den Geschäftswillen umfasst, kann ein KI-System mangels Willensfähigkeit dagegen nicht erfüllen. Dies gilt zunächst nur für schwache KI-Systeme. Bei starken KI-Systemen gilt es weiter auszudifferenzieren. Diese agieren autonomer und unberechenbarer und werden sogar auf einem Level mit dem Menschen gestellt. Hier ist streitig, ob diese einen eigenen Willen bilden können. Dafür spricht, dass der Nutzer des KI-Systems dieses lediglich einsetzt und keine weiteren Steuerungsmöglichkeiten besitzt. Es erscheint in einem solchen Fall abwegiger die durch die KI-System abgegebene Willenserklärung jemand anderen als dem KI-System selbst zuzurechnen und auf einen menschlichen Willen zurückzuführen.
Zusammenfassung der Kapitel
A. Einleitung: Die Einleitung beleuchtet die zunehmende Bedeutung der Künstlichen Intelligenz als Schlüsseltechnologie und stellt die zentrale Forschungsfrage nach der Kompatibilität des bestehenden Zivilrechts mit dieser Technologie.
B. Künstliche Intelligenz: In diesem Kapitel werden die technischen Grundlagen der KI wie maschinelles Lernen und Deep Learning erläutert, um ein gemeinsames Verständnis für die zivilrechtliche Analyse des Phänomens zu schaffen.
C. Vertragsrechtliche Herausforderungen beim Einsatz Künstlicher Intelligenz: Das Kapitel untersucht, inwiefern bestehende Instrumente der Rechtsgeschäftslehre wie Computererklärung, Stellvertretung oder Blanketterklärung auf KI-Systeme anwendbar sind oder ob neue Konzepte wie die e-Person erforderlich sind.
D. Haftungsrechtliche Herausforderungen beim Einsatz Künstlicher Intelligenz: Hier werden die deliktische Haftung nach § 823 Abs. 1 BGB und die Produkthaftung thematisiert, wobei insbesondere die Kausalität und die Beweislast bei autonomen Systemen kritisch hinterfragt werden.
E. Regulierungsrechtliche Herausforderungen beim Einsatz Künstlicher Intelligenz: Dieses Kapitel behandelt den regulatorischen Rahmen, insbesondere den KI-Verordnungsentwurf der EU, sowie die Herausforderungen der Definition und der menschlichen Aufsicht.
F. Fazit: Das Fazit fasst die Ergebnisse zusammen und bewertet die Notwendigkeit rechtlicher Anpassungen, wobei ein Ausblick auf die zukünftige Entwicklung und Rechtssicherheit gegeben wird.
Schlüsselwörter
Künstliche Intelligenz, KI, Zivilrecht, Vertragsrecht, Willenserklärung, Deliktsrecht, Haftungsrecht, Produkthaftung, e-Person, Rechtsfähigkeit, Autonomie, Algorithmen, Regulierung, KI-Verordnung, Beweislast
Häufig gestellte Fragen
Worum geht es in der vorliegenden Arbeit grundsätzlich?
Die Arbeit widmet sich den zivilrechtlichen Herausforderungen, die sich durch den breitflächigen Einsatz KI-basierter Technologien in verschiedenen gesellschaftlichen Bereichen ergeben.
Was sind die zentralen Themenfelder der Publikation?
Die Schwerpunkte liegen auf dem Vertragsrecht, dem außervertraglichen Haftungsrecht und den rechtlichen Rahmenbedingungen der Regulierung von KI-Systemen.
Was ist das primäre Ziel oder die Forschungsfrage?
Ziel ist es zu untersuchen, ob die klassischen zivilrechtlichen Normen ausreichen, um mit den durch KI verursachten Problemen umzugehen, oder ob Anpassungen de lege ferenda notwendig sind.
Welche wissenschaftliche Methode wird primär verwendet?
Die Untersuchung erfolgt auf Basis einer dogmatischen Analyse und Interpretation der geltenden Gesetzeslage (de lege lata) sowie einer kritischen Auseinandersetzung mit aktuellen Vorschlägen zur Rechtsfortentwicklung (de lege ferenda).
Was wird im Hauptteil der Arbeit behandelt?
Der Hauptteil gliedert sich in drei zentrale Rechtsgebiete: das Vertragsrecht (insb. Vertragsschluss mittels KI), das Haftungsrecht (deliktische Haftung und Produkthaftung) sowie das Regulierungsrecht (KI-Verordnungsentwurf).
Welche Schlüsselwörter charakterisieren die Arbeit?
Zu den prägenden Begriffen gehören Künstliche Intelligenz, Rechtsfähigkeit, Haftungslücke, Autonomie, Kausalität und Produkthaftung.
Wie bewertet der Autor die Einführung einer sogenannten e-Person?
Der Autor kommt zu dem Schluss, dass die Einführung eines Status als e-Person angesichts der gegenwärtig noch in Bahnen verlaufenden Autonomie von KI-Systemen zum jetzigen Zeitpunkt nicht erforderlich ist.
Welche Schwierigkeiten ergeben sich bei der Produkthaftung für KI-Software?
Die Hauptherausforderung liegt darin, dass reine Software nicht immer unter den klassischen Produktbegriff fällt und die komplexen, lernfähigen Entscheidungsstrukturen der KI das Prinzip der Risikoentwicklung ("Stand der Technik") in Frage stellen.
- Citar trabajo
- Anshan Khanna (Autor), 2022, Künstliche Intelligenz. Rechtliche Herausforderungen auf deutscher und europäischer Ebene, Múnich, GRIN Verlag, https://www.grin.com/document/1449096
