Der Europäische Rechtsrahmen für Künstliche Intelligenz (KI)

Rechtliche Anforderungen und Risiken in der Praxis

Master's Thesis , 2024 , 166 Pages , Grade: 1,1

Law - Miscellaneous

Der rechtliche Bearbeitungsstand der Masterthesis (Juni 2024) entspricht der veröffentlichten KI-Verordnung (EU) 2024/1689 vom 12. Juli 2024 (ABl. Reihe L).
Die Masterthesis beinhaltet neben der Darstellung der Strategie und Ziele der Europäischen Union sowie der Vorschriften des Europäischen Rechtsrahmens für Künstliche Intelligenz, schwerpunktmäßig die rechtlichen Anforderungen und Risiken für Unternehmen in der Praxis. Hierbei werden auch Empfehlungen und mögliche Compliance-Maßnahmen aufgeführt, um etwaigen Risiken in der rechtlichen Praxis bis zum Inkrafttreten der gesetzlichen Vorgaben der KI-Verordnung rechtzeitig vorzubeugen. Weiterhin werden in den Ausführungen datenschutzrechtliche Aspekte einbezogen und der Entwurf der KI-Haftungsrichtlinie sowie die Neuerungen des Entwurfs der EU-Haftungsrichtlinie für fehlerhafte Produkte und zur Aufhebung der Richtlinie 85/374/EWG des Rates (ProdHaft-RL) vorgestellt.

Inhaltsverzeichnis

• A. Einleitung
• B. Rechtsrahmen und Regulierungsansatz der Europäischen Union
• I. Strategie und Ziele der Union
• II. Gründe für die Einführung eines Rechtsrahmens für KI
• III. Historie und Entwicklung des Regulierungsansatzes (KI-VO-E)
• 1. KI-VO-E vom 21.04.2021
• 2. Trilog-Verhandlungen - KI-VO-E vom 21.01.2024 (geleakt)
• 3. KI-VO-E - 1. Legislative Lesung vom 13.03.2024
• 4. Plenarsitzung - KI-VO vom 17. April 2024 (Verabschiedeter Text)
• C. Die KI-Verordnung (KI-VO) – “de lege ferenda”
• I. Rechtsstand und erweiterter Regulierungsansatz der KI-VO
• II. Rechtsgrundlage und Zweck der KI-VO
• III. Bestehender Rechtsrahmen und weitere Regulierungen
• IV. Anwendungsbereich der KI-VO vom 17.04.2024
• 1. Sachlicher Anwendungsbereich
• a) Definition von KI-Systemen
• b) Einstufung von KI-Systemen in den Anwendungsbereich der KI-VO
• c) Ausnahmen vom sachlichen Anwendungsbereich
• 2. Persönlicher Anwendungsbereich
• 3. Geographischer Anwendungsbereich (Art. 2 KI-VO)
• 4. Anwendungsverhältnis zu anderen Rechtsvorschriften
• V. Vorschriften der Europäischen KI-Verordnung
• 1. Überblick
• 2. Risikobasierter Ansatz und Kategorisierung der Systeme
• a) Verbotene KI-Praktiken (Art. 5 KI-VO)
• b) Hochrisiko-KI-Systeme
• c) KI-Systeme mit allgemeinem Verwendungszweck (GPAI)
• d) KI-Systeme mit allgemeinem Verwendungszweck mit systemischem Risiko
• VI. Europäische Institutionen zur Überwachung und Durchsetzung der Vorschriften (Governance)
• 1. Büro für Künstliche Intelligenz (Art. 64 KI-VO)
• 2. Nationale Behörden
• 3. Europäisches Gremium für Künstliche Intelligenz (Art. 65 KI-VO)
• 4. Beratungsforum (Art. 67 KI-VO)
• 5. Wissenschaftliches Gremium (Art. 68 KI-VO)
• 6. Europäische Zentralbank (EZB)
• VII. Rechtliche Anforderungen und Pflichten in der Praxis
• 1. Allgemeine Anforderungen an alle Akteure von KI-Systemen
• a) Ethische Grundätze für vertrauenswürdige KI
• b) Menschliche Aufsicht und KI-Kompetenz („AI Literacy“)
• c) Transparenzpflichten (Art. 50 KI-VO)
• 2. Pflichten für Akteure beim Einsatz von Hochrisiko-KI-Systemen
• a) Allgemeine Anforderungen an Hochrisiko-KI-Systeme (Abschnitt 2)
• b) Weitere Pflichten für Anbieter (Abschnitt 3)
• c) Pflichten der Einführer
• d) Pflichten der Händler
• e) Pflichten der Betreiber
• f) Verantwortlichkeiten entlang der Wertschöpfungskette
• 3. Pflichten für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck

Zielsetzung und Themenschwerpunkte

Diese Masterarbeit analysiert den Europäischen Rechtsrahmen für Künstliche Intelligenz (KI) und untersucht die rechtlichen Anforderungen und Risiken in der Praxis. Der Fokus liegt dabei auf der KI-Verordnung (KI-VO) und deren Implementierung in verschiedenen Sektoren.

• Die strategischen Ziele der EU im Bereich der KI
• Rechtliche Grundlagen und Regulierungsansätze der KI-VO
• Klassifizierung von KI-Systemen und deren spezifische Anforderungen
• Governance-Struktur und Verantwortlichkeiten im KI-Bereich
• Praktische Herausforderungen und Chancen der KI-Regulierung

Zusammenfassung der Kapitel

Die Einleitung stellt den Kontext und die Relevanz des Themas vor. Sie erläutert die Notwendigkeit eines Rechtsrahmens für KI und stellt die Ziele der Arbeit dar. Im Anschluss werden die Strategie und die Ziele der EU in Bezug auf KI beleuchtet. Das Kapitel "Rechtsrahmen und Regulierungsansatz der Europäischen Union" untersucht die Gründe für die Einführung eines Rechtsrahmens für KI und zeichnet die Entwicklung des Regulierungsansatzes nach. Besondere Aufmerksamkeit wird dabei auf die KI-VO-E und den Prozess ihrer Entstehung gelegt. Im Kapitel "Die KI-Verordnung (KI-VO) – “de lege ferenda”" wird die KI-VO in ihren grundlegenden Aspekten analysiert. Es werden die Rechtsgrundlage und der Zweck der Verordnung erläutert, der Anwendungsbereich definiert und die wichtigsten Vorschriften dargestellt. Die Kapitel "Vorschriften der Europäischen KI-Verordnung" und "Europäische Institutionen zur Überwachung und Durchsetzung der Vorschriften (Governance)" untersuchen die konkreten Regeln und die Institutionen, die für die Umsetzung der KI-VO zuständig sind. Das Kapitel "Rechtliche Anforderungen und Pflichten in der Praxis" zeigt die praktischen Auswirkungen der KI-VO auf verschiedene Akteure auf. Es werden die allgemeinen Anforderungen an alle Akteure von KI-Systemen sowie die spezifischen Pflichten für Anbieter, Einführer, Händler, Betreiber und die Verantwortlichkeiten entlang der Wertschöpfungskette beleuchtet.

Schlüsselwörter

Künstliche Intelligenz (KI), Europäische Union, Rechtsrahmen, KI-Verordnung (KI-VO), Regulierung, Risiko, Hochrisiko-KI-Systeme, Ethische Grundätze, Governance, Transparenz, Datenschutz, Digitalisierung, Innovation, Wirtschaft, Gesellschaft.

• College: Schmalkalden University of Applied Sciences
• Grade: 1,1
• Author: Anika Petzold (Author)
• Publication Year: 2024
• Pages: 166
• Catalog Number: V1496229
• ISBN (PDF): 9783389055663
• ISBN (Book): 9783389055670
• Language: German
• Tags: Aktuelle KI-Verordnung, Rechtliche Anforderungen, Praxis, Künstliche Intelligenz, KI, Empfehlungen, Risiken, Haftung, Datenschutz, KI-Haftungtsrichtlinie, Produkthaftungsrichtlinie, Europäische Ansatz für Exzellenz, Compliance, Compliance-Maßnahmen, Veröffentlichung 12. Juli 2024, Rechtsrahmen, Europäische Union, Europäischer Ansatz für Vertrauen, Förderprogramme, Horizont Europa, Digitales Europa, Historie, Regulierungsansatz, Politische Leitlinien, Ursula von der Leyen, EDSA, EDSB, DAV, GPAI-Modelle, GPAI, Hochrisiko-KI-Systeme, Plenarsitzung, Risikobasierter Ansatz, Cybersicherheit, IP-Recht, DSGVO, KI-Definition, Anwendungsbereich, Anwendungsverhältnis, Vorschriften, Verbotene KI-Praktiken, Anhang III, Art. 5 KI-VO, Art. 6 KI-VO, systemisches Risiko, Governance, AI Office, AI, AI Act, Europäische Kommission, EZB, BaFin, Ethische Grundsätze, KI-Kompetenz, Menschliche Aufsicht, Risiko, Risikomanagementsystem, Ethik-Leitlinien, Transparenzpflichten, AI Literacy, Anbieter, Betreiber, Händler, Einführer, Akteure, Pflichten, Schwerwiegender Vorfall, Realllabore, Training, Kapitel III Abschnitt 2, Daten, Daten-Governance, DA, DSA, DGA, DMA, CRA, Qualitätsmanagement, Dokumentation, API, Konformitätsbewertung, CE-Kennzeichnung, Eingabedaten, Social Scoring, Überwachungspflicht, Banken, Versicherungsunternehmen, Finanzinstitute, Emotionserkennung am Arbeitsplatz, Kritische Infrastruktur, Datenschutzfolgenabschätzung, Grundrechtefolgenabschätzung, Wertschöpfungskette, KI-Modelle mit allgemeinem Verwendungszweck, KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko, Europäisches Parlament, Integration, Deepfakes, technische Dokumentation, vertragliche Empfehlungen, vertragliche Vereinbarung, gesamtschuldnerische Haftung, Beweislast, Offenlegungspflicht, Informationspflicht, IT-Recht, Angriffstest, Bevollmächtigte, Inkrafttreten, Veröffentlichung, Verabschiedung, 6 Monate, 12 Monate, 24 Monate, 36 Monate, Einstufung, Konformitätsbewertungsverfahren, Artikel, Vorab-Prüfungen, Implementierung KI, Verordnung (EU) 2024/1689, 12. Juli 2024, Geldbußen, Sanktionen, zeitlicher Anwendungsbereich, sachlicher Anwendungsbereich, Optimierung, vorgelagerte Compliance, Aufzeichnungspflichten, Zusammenarbeit, begründete Anfrage, Anbieterpflichten, Sicherheitsbauteil, nicht abdingbar, abdingbar, Erst-Anbieter, Produkthersteller, schriftliche Vereinbarung, Komponenten, Instrumente, Verfahren, Backups, erweiterte Pflichten, Fachabteilungen, fortlaufende Kosten, HR-Abteilung, Qualitätssicherung, Talent Acquisition, Controlling, Autorisierungsmechanismen, Compliance Officer, Jour fixe, Datenschutzbeauftragter, Sicherheitsaudits, Qualität, Stichproben, KI-Verzeichnis, Cyberangriffe, zuverlässige Daten, Art. 114 AEUV, Versicherung, Regelungen zur Haftung, Nichteinhaltung, Verpflichtungszusage, Zwangsgeld, Jahresumsatz, 15 TEUR, 3%, Haftungsverteilung, Art. 16 AEUV, Geschäftsjahr, Haftungsregelungen, Entwuf, KI-VO-E, Gegen-Nachweis, KI-Haftungsrichtlinie, freiwillige Musterbedingungen, Haftungsumfang, Sanktionierung, Kooperationen, fahrlässig, vorsätzlich, Beaufsichtigung, guter Glaube, Anleitungen, Haftungsrecht, Schäden, Rechtsanwaltskanzleien, Rechtsanwälte, Dritte, abrufbar, elektronisch, DSM-RL, KI as a Service, KIaaS, Strategie zur Einhaltung des Urheberrechts, Text und Data Mining, Zustimmungspflicht, Nutzungsvorbehalt, analysierte Werke, § 44b UrhG, Whisleblowing, DSM-Richtlinie, Text und Data Mining Techniken, Rechteinhaber, Genehmigung, maschinenlesbare Form, frei zugänglich, Lizenz, Erleichterungen, reverse engineering, Explainable Artificial Intelligence, XAI, Herausforderung, Schutz von Geschäftsgeheimnissen, Befugnisse, Neubewertung, VO für KI, Verordnung für Künstliche Intelligenz, KI-Verordnung, KI-VO, Nachbesserung, Rechtbehelfe, Überprüfung, Rechtsunsicherheiten, Identifikation, Analyse Geschäftsprozesse, Sorgfaltsmaßstab, Betriebsrat, KI-as-a-Service, externe Dienstleister, Überwachungspflichten, BetrVG, § 90 BetrVG, Business Judgement Rule, Nutzen, Vorteil, KI-Awareness, Digitale Ethik, KI-Aufgaben, KI-Kompetenzen, Gewährleistung der menschlichen Aufsicht, datenschutzrechtliche Anforderungen, § 43 Abs. 1 GmbHG, § 93 Abs. 1 AktG, Sorgfaltspflichten, Geschäftsführung, KI-Compliance, KI-Pakt, Koordinierter Plan, KI-Innovationspaket, KI auf Abruf, Plattform, Informationsplattform, Initiativmaßnahmen, Inoovationsförderung, Kosten, Start-ups, Grundsatz der Verhältnismäßigkeit, Verjährungsfrist, Geltendmachung, Anspruch, Beweiserleichterung, relevante Beweismittel, Kläger, Beklagte, Anspruch auf Schadenersatz, Verstöße gegen Datenschutzbestimmungen, Rückgriffsrecht, Regelungen, datenschutzrechtliche Aspekte, Verwendung und Verarbeitung personenbezogener Daten, Art. 4 DSGVO, DS-GVO, BDSG, Bewerbungsverfahren, Datenleck, immaterielle Verluste, Vermögensverletzungen, Löschung digitaler Daten, Verfälschung, Vernichtung, Schadensarten, Online-Plattformen, Komponente, Fehlerbegriff, Umsetzungsfrist, NIS2-Richtlinie, NIS2, horizontale Cybersicherheitsanforderungen, Cyber-Risikobewertungen, Gestaltung, Implementierung, Umgang, rechtssicherer Umgang, Cybersicherheitsschutz, Risiko-Analysen, Europäischer Binnenmarkt, Wettbewerbsfähigkeit, zukunftsfest, Version, Entscheidungsinstanz, Defragmentierung, Einsatz, KI-Technologie, Institutionen, Mustevorlagen, Innovationshindernis, Produkte mit digitalen Elementen, Orientierungshilfe, Länder, Bund, Datenschutzkonferenz, sensible Daten, Datenschutzkonformität, Hambacher Erklärung, Datenschutzmaßnahmen, Einspeisung, Diskrepanz, Auskunftsrecht, betroffene Personen, Rechtsgrundlage, maschinelles Lernen, Art. 35 DS-GVO, nichtberuflicher Kontext, Anspruch auf Schadensersatz, Sorgfaltsverstoß, Ergebnis, kein Ergebnis, hervorgebrachtes Ergebnis, kein hervorgebrachtes Ergebnis, Vermutung widerlegbar, Vermutung, Entschädigung, verursachte Schäden, Haftungsverschärfung, § 823 Abs. 1 BGB, § 823 Abs. 2 BGB, Schutzgesetz, § 280 BGB, § 280 Abs. 1 BGB, § 241 Abs. 2 BGB, Geschädigte, Neufassung, Digital Service Act, Schadensersatzansprüche, Beweismittel, Offenlegung, Kohärenz, Harmonisierungsvorschriften, Beweislastregelungen, Begriffsbestimmungen, Kausalität, Verschulden, strafrechtliche Haftung, außervertragliche verschuldensabhängige zivilrechtliche Haftung, verschuldensabhängige Haftung, juristische Person, ProdHaft-RL, Fulfilment-Dienstleister, Eigenbedarf, Marke, Wirtschaftsakteur, eigener Name, Anbringen des eigenen Namens, natürliche Person, open-source Software, fehlerhafte Komponenten, haftungsrechtliche Vorschriften, Produktfehler, Kontrolle des Herstellers, Bereitstellung, Haftungserweiterung, Software-Updates, Vorschläge, stand-alone, digitale Bauunterlagen, verfälschten Wettbewerb, Produkthaftung, Fall-Konstellationen, fehlerhafte Produkte, Hersteller, verschuldensunabhängige Haftung, digitales Schuldrecht, urheberrechtswidrige Daten, § 327g BGB, Rechtsmangel, digitales Produkt, § 839 BGB, Amtshaftung, öffentlich zugängliche Räume, manipulative Techniken, täuschende Techniken, Profiling, biometrische Datensätze, Straftat, Arbeitsplatz, Überwachungsaufnahmen, biometrische Echtzeit-Fernidentifizierungsverfahren, Personalmanagement, Opfer von Entführungen, Menschenhandel, sexuelle Ausbeutung, Datenbanken, Auslesen von Gesichtsbildern, Ableitung von Emotionen, Suche von vermissten Personen, Gefahr, Wahlverhalten, Justizbehörde, Rechtspflege, Lügendetektoren, Grundrechte, Grenzkontrolle, Asyl, Migration, Terroranschlag, Strafverfolgung, Bonitätsbewertung, Kreditwürdigkeitsprüfung, personenbezogene Daten, deutsche Flughäfen, Grenzkontrollsystem, Zweckbestimmung, Erwägungsgründe, ErwG, Marktüberwachungsbehörde, nationale Behörden, Registrierung, hochriskant, Bedingungen, Konformitätsbewertung durch Dritte, AStV, Organe, Praktische Umsetzung, HEG-KI, KI-Team, KI-Strategie, Fehleranalyse, Täuschung, EasyPASS, Positionspapier, politisch diskutiert, vorausschauende Polizeiarbeit, Anhang XIII, Anhang XII, Anhang XI, Anhang X, Anhang IX, Anhang VIII, Anhang VII, Anhang VI, Anhang V, Anhang IV, Anhang I, Anhang II, Sekundärrecht, Gesundheit, Sicherheit, Umwelt, Demokratie, Charta der Grundrechte, AEUV, GRCh, Primärrecht, Unternehmensleitbild, Menschenrechtskonvention, nationales Recht, AGG, Autonomie, Vorkehrungen, Verhältnismäßigkeit, Lebenszyklus, iterativer Prozess, Stopp-Taste, Mensch-Maschine-Schnittstelle, Entwicklung eines KI-Systems, Entwicklung, Ethik, Robustheit, Rechtmäßikeit, menschenzentrierte KI, vertrauenswürdige KI, Inbetriebnahme, Inverkehrbringen, Verbraucher, Produkt, KI-Gesetz, geographischer Anwendungsbereich, Risikominderungsmaßnahmen, KMU, KWG, MaRisk, WpIG, Emotionserkennungssysteme, biometrische Kategorisierung, Homepage, Risikobewertung, HinSchG, Entwicklung und Konzipierung von KI-Systemen, Chat-GPT, interoperabel, belastbar, Manipulation, data poisoning, model evasion, Identitätsbetrug, GeschGehG, LLM, FLOPS, EuroHPC, EAID, COM, LIBE, COREPER, CEN, CENELEC, ETSI, ENISA, Verzerrungen, Automatisierungsbias, Bias, freiwillige Anwendung, Anleitung, Datenschutzbehörde, Nachweis, zuständige Behörde, kostenlos, Teilnahme, Zugang, Verhaltenskodizes, Unterstützung, Governance-Mechanismen, Mindestangaben, Parameter, Gleitkommaoperationen, Energieverbrauch, Transparenzinformationen, freie Lizenz, quelloffene Lizenz, KI-Reallabor, Behörde, sandboxes, AI regulators sandboxes, Innovationen, Kompetenzen, Risikoprävention, Notfall-Plan, Untersuchungen, Sachschäden, Umweltschäden, irreversible Störung, Verletzung, Tod, Vorfälle, Modellgewichte, Systemarchitektur, Quellcode, Softwarekomponenten, Bewertung, Modelldatenverlust, Schutz, KI-Modell, KI-System, enge Zusammenarbeit, Algorithmen, Server, Cybersicherheitsstrategien, physischer Zugang, Kontrolle, Red Teaming, Praxisleitfäden, Upgrades, Beschreibung, KI-Wertschöpfungskette, Lieferkette, Verantwortlichkeit, unverzüglich, Risikomanagement-Strategien, Kriterien, Einstufung von Amts wegen, qualifizierte Warnung, Urheberrecht, Strategie, nachgelagerte Anbieter, Geschäftsgeheimnisse, vertrauliche Geschäftsinformationen, geistiges Eigentum, technische Maßnahmen, Compliance-Dienste, Externe, Testdatensätze, Datensatzintegrität, Schulungen, Workshops, Plan zur Beobachtung, Betriebsanleitungen, Vertraulichkeit, Start-up, Unternehmen, Geschäftsführer, Formular, Vorlage, Protokollierung, Referenzdatenbank, EU-Mitgliedstaaten, Sciherheitsvorkehrungen, Anonymisierung, Pseudonymisierung, Rückkopplungsschleifen, Diskriminierung, cloud-basierte Lösungen, Test unter Realbedingungen, Testverfahren, Metriken, Risikovermeidung, Büro für Künstliche Intelligenz, Code of Conduct, Leitlinien, Fingerabdrücke, Authentifizierung, Rückruf, Änderungen, Konformitätsvermutung, Name, Anbringung Name, Handelsname, Handelsmarke, digitale, Korrekturmaßnahmen, wesentliche Änderung, Rücknahme, Deaktivierung, Nichtkonformität, qualitative Daten, Analyse, Software, Updates, Hinweise, Antrag, harmonisierte Normen, Kleinstunternehmen, System zur Beobachtung nach dem Inverkehrbringen, EU-Konformitätserklärung, Datengewinnung, Cybersicherheitsanforderungen, Testläufe, vertrauliche Daten, Benchmarks, Genauigkeit, Fehlfunktionen, barrierefrei, Empfänger, Rechen- und Hardware-Rssourcen