Das geltende Arzthaftungssystem (schuldhafte Vertragsverletzung oder schuldhafte Verwirklichung eines deliktischen Tatbestandes) erfasst auch solche Fälle, in denen die Behandlungsseite KI-basierte Technologien einsetzt. Versagt eine solche Technologie im Einzelfall einmal resultativ, so wird dieser Umstand für den gesundheitsgeschädigten Patienten, der Schadensersatz beansprucht, in aller Regel unlösbare Beweisschwierigkeiten hervorrufen. Abhilfe kann dadurch geschaffen werden, dass in den entsprechenden Konstellationen der KI-nutzende Behandler einer (verschuldensunabhängigen) Gefährdungshaftung unterworfen wird.
Das kann nicht im Sinne des rechtlich besonders geschützten Arzt-Patienten-Verhältnisses sein. Deshalb sollte dem Gedanken nähergetreten werden, den diagnostischen/therapeutischen Gebrauch der medizinischen (vor allem der risikobehafteten) KI-Technik als potentielle Gefahrenquelle zu normieren und aus einer derartigen Behandlung für den Patienten resultierende Gesundheitsbeeinträchtigungen einer Gefährdungshaftung des Anwenders zu unterwerfen.
Inhaltsverzeichnis
Vorwort
Einleitung
A. Keine Medizin ohne Informationen
I. Definition der KI
II. Einteilung der KI
1. Starke KI
2. Schwache KI
B. System der Arzthaftung
I. KI keine Rechtsperson
II. KI als Werkzeug
III. Fehlerhafte KI
IV. Produkt-/ Produzentenhaftung
1. KI als Methode
2. KI als Verarbeitungsergebnis
V. Produktfehler
1. Fehlerkategorien
2. Fehlerbeweis
C. KI im Rahmen der ärztlichen Behandlung
I. Ärztliche Vollverantwortung
II. Ärztliche Haftung
III. Produktfehler
1. Anspruchsgegner Hersteller
2. Anspruchsgegner Arzt
3. De lege ferenda: Haftung für KI-Fehler
D. Gefährdungshaftung für KI-Nutzer
I. Gefährdungshaftung
II. Gesetzliche Regelungsbeispiele – Grundideen
1. Beispiele
2. Grundideen
III. Gefährdungshaftung im Gesundheitswesen
1. Patientenrechtegesetz
2. EU-Vorschlag für KI-Regeln
IV. Haftung für Technische Risiken
E. Fazit
Zielsetzung & Themen
Die Arbeit untersucht die rechtlichen Herausforderungen beim Einsatz von Künstlicher Intelligenz in der Medizin unter besonderer Berücksichtigung der bestehenden Arzthaftungsregeln. Ziel ist es, ein Plädoyer für die Einführung eines gesetzlichen Schuldverhältnisses aus Gefährdung zu untermauern, um Patienten bei KI-bedingten Gesundheitsschäden auch ohne Nachweis eines ärztlichen Verschuldens abzusichern.
- Grundlagen der Künstlichen Intelligenz (starke vs. schwache KI)
- Analyse des aktuellen Arzthaftungssystems bei KI-Einsatz
- Problematik der Beweislast bei KI-bedingten Fehlern
- Vergleich mit bestehenden Modellen der Gefährdungshaftung
- Notwendigkeit einer neuen Rechtsgrundlage zum Patientenschutz
Auszug aus dem Buch
3. De lege ferenda: Haftung für KI-Fehler
In nicht wenigen Fällen wird der Arzt die Funktionsweisen der bei der Patientenbehandlung eingesetzten intelligenten Medizintechniken nicht kontrollierend nachvollziehen und die Zuverlässigkeit der maschinell erzeugten Resultate nicht selber kritisch überprüfen können (oben B. III. [zweiter Aufzählungspunkt]). Diese Realität lässt daran zweifeln, dass das geltende (auf dem Verschuldensprinzip basierende) zivilrechtliche Haftungssystem jenen Herausforderungen noch gerecht werden kann, die mit der Verwendung komplexer KI-Systeme im medizinischen Bereich verbunden sind und sein werden.
Fehlsteuerungen, Fehlfunktionen und fehlerhafte maschinelle Ergebnisse werden sich nie zur Gänze ausschließen lassen: Technologie erzeugt niemals völlige Sicherheit. Bei der KI-Programmierung kann einmal etwas missraten; robotische Komplexinstrumente können durch Softwarefehler einen Funktionsdefekt aufweisen und die Betriebssicherheit in Frage stellen.
Hinzu kommt, dass die potenzielle Reichweite systemischer Fehler durch fehlsteuernde Algorithmen ungleich größer ist als die Reichweite individueller Arztfehler. Die Alternative aber, entweder von KI-Methoden und der Verwendung von KI-Produkten überhaupt Abstand zu nehmen oder im Falle einer systemfehlerbedingten Schadenauslösung den Patienten unter Umständen wegen des beweislos gebliebenen Klagevortrages zu einem Sorgfaltsmangel bei der Systemnutzung bzw. kraft behandlungsseitig gelungener Entlastung einfach „leer“ ausgehen zu lassen, ist in Wahrheit keine solche. Denn die nicht aufzuhaltende Zunahme der Digitalisierung medizinischer Informationen und Verfahren dient fraglos der besseren Gesundheitsversorgung der Bevölkerung – und Fehlfunktionen sowie Falschergebnisse der intelligenten Systeme werden wohl die Ausnahmen sein: der geschädigte Patient hingegen ist auf die erfolgreiche Beweisführung in der Frage eines Nutzerverschuldens auf Seiten des Behandlers angewiesen.
Zusammenfassung der Kapitel
Einleitung: Einführung in den Begriff der KI und die Notwendigkeit ihrer Nutzung in der Medizin unter Hinweis auf die begrenzte Transparenz und Kontrollierbarkeit heutiger Systeme.
A. Keine Medizin ohne Informationen: Erläutert die grundlegende Abhängigkeit der modernen Medizin von Daten und definiert sowie unterteilt KI-Systeme in starke und schwache Formen.
B. System der Arzthaftung: Analysiert das geltende Haftungsrecht, die Rolle der KI als Werkzeug und die Schwierigkeiten bei der Produzenten- und Produktfehlerhaftung.
C. KI im Rahmen der ärztlichen Behandlung: Diskutiert die ärztliche Vollverantwortung bei der Anwendung von KI-Systemen und die Frage, wer bei auftretenden Fehlern in Anspruch genommen werden kann.
D. Gefährdungshaftung für KI-Nutzer: Plädiert für die Übertragung von Gefährdungshaftungs-Modellen auf den medizinischen KI-Bereich, unterstützt durch Beispiele aus anderen Rechtsgebieten wie dem Verkehrsrecht.
E. Fazit: Forderung des Autors an den Gesetzgeber, zur Sicherung von Rechtsklarheit und Patientenschutz eine verschuldensunabhängige Gefährdungshaftung für Anwender von KI-Systemen einzuführen.
Schlüsselwörter
Arzthaftung, Künstliche Intelligenz, KI, Gefährdungshaftung, Patientenschutz, Medizinrecht, Produkthaftung, Verschuldensprinzip, Behandlungsfehler, Digitalisierung, Algorithmen, Beweislast, Medizinprodukte, Rechtssicherheit, Haftpflicht.
Häufig gestellte Fragen
Worum geht es in dieser wissenschaftlichen Arbeit grundsätzlich?
Die Arbeit befasst sich mit der haftungsrechtlichen Einordnung des Einsatzes von Künstlicher Intelligenz in der medizinischen Behandlung.
Was sind die zentralen Themenfelder der Publikation?
Im Fokus stehen das aktuelle Arzthaftungssystem, die technische Natur von KI-Systemen, die Produkthaftung bei Softwarefehlern und die rechtliche Haftung von Ärzten und Herstellern.
Welches primäre Ziel verfolgt der Autor mit dieser Untersuchung?
Der Autor argumentiert für die Einführung einer gesetzlichen Gefährdungshaftung für KI-Anwender, um Patienten bei KI-bedingten Fehlern besser abzusichern.
Welche wissenschaftliche Methode wird in der Arbeit verwendet?
Es handelt sich um eine juristische Analyse, die geltende Gesetze (BGB, ProdHaftG) und die aktuelle Rechtsprechung auf die neuen Herausforderungen durch KI-Technologien anwendet.
Was wird im Hauptteil der Arbeit behandelt?
Der Hauptteil analysiert die Systematik der Arzthaftung, die Rolle von KI als Werkzeug, die Abgrenzung zur Produkthaftung sowie Ansätze für neue Haftungsmodelle de lege ferenda.
Welche Schlüsselwörter charakterisieren die vorliegende Arbeit?
Zu den Kernbegriffen gehören Arzthaftung, Gefährdungshaftung, KI, Patientenschutz und die ärztliche Vollverantwortung.
Warum hält der Autor die bisherige Verschuldenshaftung für problematisch?
Der Autor sieht ein Problem darin, dass bei systembedingten Fehlern komplexer KI-Systeme für Patienten oft kein individuelles Verschulden des Arztes nachweisbar ist, wodurch diese leer ausgehen könnten.
Welche Parallelen zieht der Autor zum Straßenverkehrsrecht?
Der Autor verweist auf die Halterhaftung bei Kraftfahrzeugen als Vorbild, um den legislativen Sinn einer Gefährdungshaftung auch auf das Gefahrenpotenzial von KI-basierten Medizinsystemen zu übertragen.
- Quote paper
- Wolfgang Neuefeind (Author), 2021, KI-Nutzung in der Medizin unter dem Gesichtspunkt der Arzthaftung, Munich, GRIN Verlag, https://www.grin.com/document/998511
