Der Europäische Rechtsrahmen für Künstliche Intelligenz (KI)

Rechtliche Anforderungen und Risiken in der Praxis

Masterarbeit , 2024 , 166 Seiten , Note: 1,1

Jura - Sonstiges

Der rechtliche Bearbeitungsstand der Masterthesis (Juni 2024) entspricht der veröffentlichten KI-Verordnung (EU) 2024/1689 vom 12. Juli 2024 (ABl. Reihe L).
Die Masterthesis beinhaltet neben der Darstellung der Strategie und Ziele der Europäischen Union sowie der Vorschriften des Europäischen Rechtsrahmens für Künstliche Intelligenz, schwerpunktmäßig die rechtlichen Anforderungen und Risiken für Unternehmen in der Praxis. Hierbei werden auch Empfehlungen und mögliche Compliance-Maßnahmen aufgeführt, um etwaigen Risiken in der rechtlichen Praxis bis zum Inkrafttreten der gesetzlichen Vorgaben der KI-Verordnung rechtzeitig vorzubeugen. Weiterhin werden in den Ausführungen datenschutzrechtliche Aspekte einbezogen und der Entwurf der KI-Haftungsrichtlinie sowie die Neuerungen des Entwurfs der EU-Haftungsrichtlinie für fehlerhafte Produkte und zur Aufhebung der Richtlinie 85/374/EWG des Rates (ProdHaft-RL) vorgestellt.

Inhaltsverzeichnis

A. Einleitung

B. Rechtsrahmen und Regulierungsansatz der Europäischen Union

I. Strategie und Ziele der Union

II. Gründe für die Einführung eines Rechtsrahmens für KI

III. Historie und Entwicklung des Regulierungsansatzes (KI-VO-E)

1. KI-VO-E vom 21.04.2021

2. Trilog-Verhandlungen - KI-VO-E vom 21.01.2024 (geleakt)

3. KI-VO-E - 1. Legislative Lesung vom 13.03.2024

4. Plenarsitzung – KI-VO vom 17. April 2024 (Verabschiedeter Text)

C. Die KI-Verordnung (KI-VO) – “de lege ferenda”

I. Rechtsstand und erweiterter Regulierungsansatz der KI-VO

II. Rechtsgrundlage und Zweck der KI-VO

III. Bestehender Rechtsrahmen und weitere Regulierungen

IV. Anwendungsbereich der KI-VO vom 17.04.2024

1. Sachlicher Anwendungsbereich

2. Persönlicher Anwendungsbereich

3. Geographischer Anwendungsbereich (Art. 2 KI-VO)

4. Anwendungsverhältnis zu anderen Rechtsvorschriften

V. Vorschriften der Europäischen KI-Verordnung

1. Überblick

2. Risikobasierter Ansatz und Kategorisierung der Systeme

VI. Europäische Institutionen zur Überwachung und Durchsetzung der Vorschriften (Governance)

1. Büro für Künstliche Intelligenz (Art. 64 KI-VO)

2. Nationale Behörden

3. Europäisches Gremium für Künstliche Intelligenz (Art. 65 KI-VO)

4. Beratungsforum (Art. 67 KI-VO)

5. Wissenschaftliches Gremium (Art. 68 KI-VO)

6. Europäische Zentralbank (EZB)

VII. Rechtliche Anforderungen und Pflichten in der Praxis

1. Allgemeine Anforderungen an alle Akteure von KI-Systemen

2. Pflichten für Akteure beim Einsatz von Hochrisiko-KI-Systemen

3. Pflichten für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck

4. Pflichten für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck mit systemischem Risiko

5. Zeitplan zur Umsetzung und Anwendung der Vorschriften

D. Umsetzung der rechtlichen Anforderungen in der Praxis

I. Vorab-Prüfungen bei einem KI-Einsatz im Unternehmen

II. Praktische Umsetzung der rechtlichen Anforderungen

1. Umsetzung der allgemeinen Anforderungen von allen Akteuren bei einem Einsatz von KI-Systemen

2. Umsetzung der allgemeinen Pflichten für Akteure beim Einsatz von Hochrisiko-KI-Systemen

3. Umsetzung der erweiterten Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art. 16 KI-VO)

4. Überwachungspflichten -Einführung eines Systems zur Beobachtung nach dem Inverkehrbringen (Art. 72 KI-VO)

5. Verfahren zur Meldung eines schwerwiegenden Vorfalls

6. Durchführung von Testverfahren

7. Umsetzung der Pflichten für Anbieter und Betreiber von KI-Modellen mit allgemeinem Verwendungszweck

8. Umsetzung der Pflichten für Anbieter und Betreiber von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

III. Empfehlungen und Hinweise

1. Hinweise für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zum Einstufungsverfahren (Art. 52 KI-VO)

2. Hinweise für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck mit systemischem Risiko

IV. Compliance-Maßnahmen

E. Risiken und Haftung in der Praxis

I. Mögliche Risiken und vertragliche Empfehlungen

1. Verantwortlichkeiten innerhalb der Wertschöpfungskette bei einem Einsatz von Hochrisiko-KI-Systemen

2. Hochrisiko-KI-Systeme als Sicherheitsbauteile von Produkten

3. Haftung für Testverfahren im Reallabor

II. Mögliche Haftung und Sanktionierungen

1. Haftung für technische Dokumentationen (Art. 91 KI-VO)

2. Haftung bei Nichteinhaltung von Verpflichtungszusagen

III. Änderungen und Harmonisierung der Haftungsvorschriften

1. Maßnahmen zur Anpassung und Rechtsstand

2. KI-Haftungsrichtlinie

3. Nationales Haftungsrecht

4. Produkthaftungsrichtlinie

IV. Datenschutzrechtliche Aspekte beim Einsatz von KI

F. Fazit

Einleitung

Die vierte industrielle Revolution erreichte vor knapp über einem Jahr ihren Höhepunkt mit der Entwicklung der Artificial Intelligence (AI) durch OpenAI mit ChatGPT und der weiterentwickelten Version GPT-4. Im Verlauf dieses Zeitraums ist die Künstliche Intelligenz (KI) im Alltag nahezu allgegenwärtig und hat insbesondere auch in der Praxis von Unternehmen Einzug gefunden. Im Alltag sind es z.B. Saugroboter, intelligente Smart-Kühlschränke und diverse andere Smart-Geräte sowie Sprachassistenten (z.B. Chatbots). In Unternehmen kann KI bspw. in Bewerbungsprozessen, in der Produktion (z.B. zur Verwaltung von Warenlagern) und im Dienstleistungsbereich (z.B. bei der Vertragsgestaltung) sowie in diversen anderen Bereichen eingesetzt werden. In der öffentlichen Verwaltung wird Künstliche Intelligenz z.B. für einen vollständig automatisierten Erlass von Verwaltungsakten genutzt. In diesem Kontext hat die Europäische Kommission einen weltweit ersten harmonisierten Rechtsrahmen entwickelt[1], den „Artificial Intelligence Act“ bzw. die KI-Verordnung. Neben einem hohem Schutzniveau sollen Innovationen gefördert und die Entwicklung von KI-Systemen für Hersteller sowie das Inverkehrbringen durch Anbieter unterstützt und kontrolliert werden; ein Spannungsfeld in der Praxis zwischen Innovation und rechtlichen Anforderungen. Diese Masterthesis beinhaltet in den nachfolgenden Ausführungen neben der Darstellung der Strategie und Ziele der Europäischen Union sowie der Vorschriften des Europäischen Rechtsrahmens für Künstliche Intelligenz, schwerpunktmäßig die rechtlichen Anforderungen und Risiken für Unternehmen in der Praxis. Hierbei werden auch Empfehlungen und mögliche Compliance-Maßnahmen aufgeführt, um etwaigen Risiken in der rechtlichen Praxis bis zur Veröffentlichung der KI-Verordnung und dem Inkrafttreten der gesetzlichen Vorgaben rechtzeitig vorzubeugen. Weiterhin werden in den Ausführungen datenschutzrechtliche Aspekte einbezogen und der Entwurf der KI-Haftungsrichtlinie [2] sowie die Neuerungen des Entwurfs der EU-Haftungsrichtlinie für fehlerhafte Produkte [3] und zur Aufhebung der Richtlinie 85/374/EWG des Rates (ProdHaft-RL) vorgestellt.

Der Rechtsstand der Masterthesis basiert auf der vom Europäischen Parlament aus der Plenarsitzung vom 22.04.2024 angenommenen berichtigten 1. Legislativen Lesung des Entwurfs der KI-Verordnung vom 13. März 2024 [4] mit Datum vom 17. April 2024[5]. Die KI-Verordnung wurde am 21. Mai 2024 durch den Europäischen Rat verabschiedet. [6] Eine Veröffentlichung im Amtsblatt der Europäischen Union ist zum aktuellen Zeitpunkt noch nicht erfolgt.

[...]

---

[1] COM(2021) 206 final, Vorschlag für eine KI-Verordnung vom 21.04.2021;Schlee, ZD Aktuell 2021,
05194; Götz, DB 2024, M4 (M5); Ashkar/Schröder, BB 2024, S. 771 (779).

[2] COM(2022) 496 final, (2022/0303 (COD)), KI-Haftungsrichtlinie, Vorschlag vom 28.09.2022.

[3] P9_TA(2024)0132 , Produkthaftungsrichtlinie, 1. Legislative Lesung vom 13. März 2024.

[4] P9_TA(2024)0138, KI-VO-E, 1. Legislative Lesung vom 13. März 2024; URL 1.

[5] P9_TA(2024)0138_COR01; Europäisches Parlament, Plenarsitzungsdokument vom 17. April 2024.

[6] URL 2.

• Hochschule: Hochschule Schmalkalden, ehem. Fachhochschule Schmalkalden
• Note: 1,1
• Autor: Anika Petzold (Autor:in)
• Jahr: 2024
• Seiten: 166
• Katalognummer: V1496229
• ISBN (eBook): 9783389055663
• ISBN (Buch): 9783389055670
• Sprache: Deutsch
• Schlagworte: Aktuelle KI-Verordnung, Rechtliche Anforderungen, Praxis, Künstliche Intelligenz, KI, Empfehlungen, Risiken, Haftung, Datenschutz, KI-Haftungtsrichtlinie, Produkthaftungsrichtlinie, Europäische Ansatz für Exzellenz, Compliance, Compliance-Maßnahmen, Veröffentlichung 12. Juli 2024, Rechtsrahmen, Europäische Union, Europäischer Ansatz für Vertrauen, Förderprogramme, Horizont Europa, Digitales Europa, Historie, Regulierungsansatz, Politische Leitlinien, Ursula von der Leyen, EDSA, EDSB, DAV, GPAI-Modelle, GPAI, Hochrisiko-KI-Systeme, Plenarsitzung, Risikobasierter Ansatz, Cybersicherheit, IP-Recht, DSGVO, KI-Definition, Anwendungsbereich, Anwendungsverhältnis, Vorschriften, Verbotene KI-Praktiken, Anhang III, Art. 5 KI-VO, Art. 6 KI-VO, systemisches Risiko, Governance, AI Office, AI, AI Act, Europäische Kommission, EZB, BaFin, Ethische Grundsätze, KI-Kompetenz, Menschliche Aufsicht, Risiko, Risikomanagementsystem, Ethik-Leitlinien, Transparenzpflichten, AI Literacy, Anbieter, Betreiber, Händler, Einführer, Akteure, Pflichten, Schwerwiegender Vorfall, Realllabore, Training, Kapitel III Abschnitt 2, Daten, Daten-Governance, DA, DSA, DGA, DMA, CRA, Qualitätsmanagement, Dokumentation, API, Konformitätsbewertung, CE-Kennzeichnung, Eingabedaten, Social Scoring, Überwachungspflicht, Banken, Versicherungsunternehmen, Finanzinstitute, Emotionserkennung am Arbeitsplatz, Kritische Infrastruktur, Datenschutzfolgenabschätzung, Grundrechtefolgenabschätzung, Wertschöpfungskette, KI-Modelle mit allgemeinem Verwendungszweck, KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko, Europäisches Parlament, Integration, Deepfakes, technische Dokumentation, vertragliche Empfehlungen, vertragliche Vereinbarung, gesamtschuldnerische Haftung, Beweislast, Offenlegungspflicht, Informationspflicht, IT-Recht, Angriffstest, Bevollmächtigte, Inkrafttreten, Veröffentlichung, Verabschiedung, 6 Monate, 12 Monate, 24 Monate, 36 Monate, Einstufung, Konformitätsbewertungsverfahren, Artikel, Vorab-Prüfungen, Implementierung KI, Verordnung (EU) 2024/1689, 12. Juli 2024, Geldbußen, Sanktionen, zeitlicher Anwendungsbereich, sachlicher Anwendungsbereich, Optimierung, vorgelagerte Compliance, Aufzeichnungspflichten, Zusammenarbeit, begründete Anfrage, Anbieterpflichten, Sicherheitsbauteil, nicht abdingbar, abdingbar, Erst-Anbieter, Produkthersteller, schriftliche Vereinbarung, Komponenten, Instrumente, Verfahren, Backups, erweiterte Pflichten, Fachabteilungen, fortlaufende Kosten, HR-Abteilung, Qualitätssicherung, Talent Acquisition, Controlling, Autorisierungsmechanismen, Compliance Officer, Jour fixe, Datenschutzbeauftragter, Sicherheitsaudits, Qualität, Stichproben, KI-Verzeichnis, Cyberangriffe, zuverlässige Daten, Art. 114 AEUV, Versicherung, Regelungen zur Haftung, Nichteinhaltung, Verpflichtungszusage, Zwangsgeld, Jahresumsatz, 15 TEUR, 3%, Haftungsverteilung, Art. 16 AEUV, Geschäftsjahr, Haftungsregelungen, Entwuf, KI-VO-E, Gegen-Nachweis, KI-Haftungsrichtlinie, freiwillige Musterbedingungen, Haftungsumfang, Sanktionierung, Kooperationen, fahrlässig, vorsätzlich, Beaufsichtigung, guter Glaube, Anleitungen, Haftungsrecht, Schäden, Rechtsanwaltskanzleien, Rechtsanwälte, Dritte, abrufbar, elektronisch, DSM-RL, KI as a Service, KIaaS, Strategie zur Einhaltung des Urheberrechts, Text und Data Mining, Zustimmungspflicht, Nutzungsvorbehalt, analysierte Werke, § 44b UrhG, Whisleblowing, DSM-Richtlinie, Text und Data Mining Techniken, Rechteinhaber, Genehmigung, maschinenlesbare Form, frei zugänglich, Lizenz, Erleichterungen, reverse engineering, Explainable Artificial Intelligence, XAI, Herausforderung, Schutz von Geschäftsgeheimnissen, Befugnisse, Neubewertung, VO für KI, Verordnung für Künstliche Intelligenz, KI-Verordnung, KI-VO, Nachbesserung, Rechtbehelfe, Überprüfung, Rechtsunsicherheiten, Identifikation, Analyse Geschäftsprozesse, Sorgfaltsmaßstab, Betriebsrat, KI-as-a-Service, externe Dienstleister, Überwachungspflichten, BetrVG, § 90 BetrVG, Business Judgement Rule, Nutzen, Vorteil, KI-Awareness, Digitale Ethik, KI-Aufgaben, KI-Kompetenzen, Gewährleistung der menschlichen Aufsicht, datenschutzrechtliche Anforderungen, § 43 Abs. 1 GmbHG, § 93 Abs. 1 AktG, Sorgfaltspflichten, Geschäftsführung, KI-Compliance, KI-Pakt, Koordinierter Plan, KI-Innovationspaket, KI auf Abruf, Plattform, Informationsplattform, Initiativmaßnahmen, Inoovationsförderung, Kosten, Start-ups, Grundsatz der Verhältnismäßigkeit, Verjährungsfrist, Geltendmachung, Anspruch, Beweiserleichterung, relevante Beweismittel, Kläger, Beklagte, Anspruch auf Schadenersatz, Verstöße gegen Datenschutzbestimmungen, Rückgriffsrecht, Regelungen, datenschutzrechtliche Aspekte, Verwendung und Verarbeitung personenbezogener Daten, Art. 4 DSGVO, DS-GVO, BDSG, Bewerbungsverfahren, Datenleck, immaterielle Verluste, Vermögensverletzungen, Löschung digitaler Daten, Verfälschung, Vernichtung, Schadensarten, Online-Plattformen, Komponente, Fehlerbegriff, Umsetzungsfrist, NIS2-Richtlinie, NIS2, horizontale Cybersicherheitsanforderungen, Cyber-Risikobewertungen, Gestaltung, Implementierung, Umgang, rechtssicherer Umgang, Cybersicherheitsschutz, Risiko-Analysen, Europäischer Binnenmarkt, Wettbewerbsfähigkeit, zukunftsfest, Version, Entscheidungsinstanz, Defragmentierung, Einsatz, KI-Technologie, Institutionen, Mustevorlagen, Innovationshindernis, Produkte mit digitalen Elementen, Orientierungshilfe, Länder, Bund, Datenschutzkonferenz, sensible Daten, Datenschutzkonformität, Hambacher Erklärung, Datenschutzmaßnahmen, Einspeisung, Diskrepanz, Auskunftsrecht, betroffene Personen, Rechtsgrundlage, maschinelles Lernen, Art. 35 DS-GVO, nichtberuflicher Kontext, Anspruch auf Schadensersatz, Sorgfaltsverstoß, Ergebnis, kein Ergebnis, hervorgebrachtes Ergebnis, kein hervorgebrachtes Ergebnis, Vermutung widerlegbar, Vermutung, Entschädigung, verursachte Schäden, Haftungsverschärfung, § 823 Abs. 1 BGB, § 823 Abs. 2 BGB, Schutzgesetz, § 280 BGB, § 280 Abs. 1 BGB, § 241 Abs. 2 BGB, Geschädigte, Neufassung, Digital Service Act, Schadensersatzansprüche, Beweismittel, Offenlegung, Kohärenz, Harmonisierungsvorschriften, Beweislastregelungen, Begriffsbestimmungen, Kausalität, Verschulden, strafrechtliche Haftung, außervertragliche verschuldensabhängige zivilrechtliche Haftung, verschuldensabhängige Haftung, juristische Person, ProdHaft-RL, Fulfilment-Dienstleister, Eigenbedarf, Marke, Wirtschaftsakteur, eigener Name, Anbringen des eigenen Namens, natürliche Person, open-source Software, fehlerhafte Komponenten, haftungsrechtliche Vorschriften, Produktfehler, Kontrolle des Herstellers, Bereitstellung, Haftungserweiterung, Software-Updates, Vorschläge, stand-alone, digitale Bauunterlagen, verfälschten Wettbewerb, Produkthaftung, Fall-Konstellationen, fehlerhafte Produkte, Hersteller, verschuldensunabhängige Haftung, digitales Schuldrecht, urheberrechtswidrige Daten, § 327g BGB, Rechtsmangel, digitales Produkt, § 839 BGB, Amtshaftung, öffentlich zugängliche Räume, manipulative Techniken, täuschende Techniken, Profiling, biometrische Datensätze, Straftat, Arbeitsplatz, Überwachungsaufnahmen, biometrische Echtzeit-Fernidentifizierungsverfahren, Personalmanagement, Opfer von Entführungen, Menschenhandel, sexuelle Ausbeutung, Datenbanken, Auslesen von Gesichtsbildern, Ableitung von Emotionen, Suche von vermissten Personen, Gefahr, Wahlverhalten, Justizbehörde, Rechtspflege, Lügendetektoren, Grundrechte, Grenzkontrolle, Asyl, Migration, Terroranschlag, Strafverfolgung, Bonitätsbewertung, Kreditwürdigkeitsprüfung, personenbezogene Daten, deutsche Flughäfen, Grenzkontrollsystem, Zweckbestimmung, Erwägungsgründe, ErwG, Marktüberwachungsbehörde, nationale Behörden, Registrierung, hochriskant, Bedingungen, Konformitätsbewertung durch Dritte, AStV, Organe, Praktische Umsetzung, HEG-KI, KI-Team, KI-Strategie, Fehleranalyse, Täuschung, EasyPASS, Positionspapier, politisch diskutiert, vorausschauende Polizeiarbeit, Anhang XIII, Anhang XII, Anhang XI, Anhang X, Anhang IX, Anhang VIII, Anhang VII, Anhang VI, Anhang V, Anhang IV, Anhang I, Anhang II, Sekundärrecht, Gesundheit, Sicherheit, Umwelt, Demokratie, Charta der Grundrechte, AEUV, GRCh, Primärrecht, Unternehmensleitbild, Menschenrechtskonvention, nationales Recht, AGG, Autonomie, Vorkehrungen, Verhältnismäßigkeit, Lebenszyklus, iterativer Prozess, Stopp-Taste, Mensch-Maschine-Schnittstelle, Entwicklung eines KI-Systems, Entwicklung, Ethik, Robustheit, Rechtmäßikeit, menschenzentrierte KI, vertrauenswürdige KI, Inbetriebnahme, Inverkehrbringen, Verbraucher, Produkt, KI-Gesetz, geographischer Anwendungsbereich, Risikominderungsmaßnahmen, KMU, KWG, MaRisk, WpIG, Emotionserkennungssysteme, biometrische Kategorisierung, Homepage, Risikobewertung, HinSchG, Entwicklung und Konzipierung von KI-Systemen, Chat-GPT, interoperabel, belastbar, Manipulation, data poisoning, model evasion, Identitätsbetrug, GeschGehG, LLM, FLOPS, EuroHPC, EAID, COM, LIBE, COREPER, CEN, CENELEC, ETSI, ENISA, Verzerrungen, Automatisierungsbias, Bias, freiwillige Anwendung, Anleitung, Datenschutzbehörde, Nachweis, zuständige Behörde, kostenlos, Teilnahme, Zugang, Verhaltenskodizes, Unterstützung, Governance-Mechanismen, Mindestangaben, Parameter, Gleitkommaoperationen, Energieverbrauch, Transparenzinformationen, freie Lizenz, quelloffene Lizenz, KI-Reallabor, Behörde, sandboxes, AI regulators sandboxes, Innovationen, Kompetenzen, Risikoprävention, Notfall-Plan, Untersuchungen, Sachschäden, Umweltschäden, irreversible Störung, Verletzung, Tod, Vorfälle, Modellgewichte, Systemarchitektur, Quellcode, Softwarekomponenten, Bewertung, Modelldatenverlust, Schutz, KI-Modell, KI-System, enge Zusammenarbeit, Algorithmen, Server, Cybersicherheitsstrategien, physischer Zugang, Kontrolle, Red Teaming, Praxisleitfäden, Upgrades, Beschreibung, KI-Wertschöpfungskette, Lieferkette, Verantwortlichkeit, unverzüglich, Risikomanagement-Strategien, Kriterien, Einstufung von Amts wegen, qualifizierte Warnung, Urheberrecht, Strategie, nachgelagerte Anbieter, Geschäftsgeheimnisse, vertrauliche Geschäftsinformationen, geistiges Eigentum, technische Maßnahmen, Compliance-Dienste, Externe, Testdatensätze, Datensatzintegrität, Schulungen, Workshops, Plan zur Beobachtung, Betriebsanleitungen, Vertraulichkeit, Start-up, Unternehmen, Geschäftsführer, Formular, Vorlage, Protokollierung, Referenzdatenbank, EU-Mitgliedstaaten, Sciherheitsvorkehrungen, Anonymisierung, Pseudonymisierung, Rückkopplungsschleifen, Diskriminierung, cloud-basierte Lösungen, Test unter Realbedingungen, Testverfahren, Metriken, Risikovermeidung, Büro für Künstliche Intelligenz, Code of Conduct, Leitlinien, Fingerabdrücke, Authentifizierung, Rückruf, Änderungen, Konformitätsvermutung, Name, Anbringung Name, Handelsname, Handelsmarke, digitale, Korrekturmaßnahmen, wesentliche Änderung, Rücknahme, Deaktivierung, Nichtkonformität, qualitative Daten, Analyse, Software, Updates, Hinweise, Antrag, harmonisierte Normen, Kleinstunternehmen, System zur Beobachtung nach dem Inverkehrbringen, EU-Konformitätserklärung, Datengewinnung, Cybersicherheitsanforderungen, Testläufe, vertrauliche Daten, Benchmarks, Genauigkeit, Fehlfunktionen, barrierefrei, Empfänger, Rechen- und Hardware-Rssourcen