Diese Arbeit ermittelt, welche Anforderungen an eine realistische Vollautomatisierung von Verwaltungsverfahren gestellt werden müssen. Insbesondere ist der rechtsstaatliche und datenschutzrechtliche Rahmen der Vollautomatisierung zu bestimmen, der die Gestaltung der eingesetzten IT-Systeme beeinflusst. Dass die Digitalisierung die Arbeitsweise der öffentlichen Verwaltung grundlegend verändert hat, dürfte wohl niemanden mehr überraschen. Dabei ist das Konzept der digitalen Verwaltung ein jahrzehntelanger Prozess, der sich unter anderem in E-Government-Gesetzen und zahlreichen Digitalisierungsstrategien äußerte. Dennoch gilt die Verwaltung in den Augen der Öffentlichkeit noch immer als Ewiggestriger Bürokratieapparat. Dieser Stereotyp erscheint zunächst berechtigt, denn die Digitalisierung in der deutschen Verwaltung bleibt im Vergleich zu Ländern wie Estland, Dänemark und Österreich erheblich zurück.
Auf der anderen Seite scheint die Digitalisierung in der Privatwirtschaft mit einer exorbitanten Geschwindigkeit fortzuschreiten. In den vergangenen Jahren haben sich jedoch bestimmte Technologien herauskristallisiert, die umfassende gesellschaftliche Diskussionen unausweichlich gemacht haben. Algorithmen, künstliche Intelligenz und Big Data sind zugleich Schlagwörter für den Fluch und Segen dieser Entwicklung. Umso überraschender ist es, dass die Einführung des § 35a VwVfG von den meisten still als Hintergedanke der Modernisierung des Besteuerungsverfahrens hingenommen wurde. Der Gesetzgeber hat mit der Norm den Grundbaustein für vollautomatisierte Verwaltungsverfahren aller Art gelegt, womit dem Einsatz von IT in der Verwaltung eine neue Bedeutung zukommt. Jedoch wurde auch klar, dass die bisherige Diskussion um vollautomatisierte Verwaltungsverfahren, die zuletzt vor allem in den 70er und 90er Jahren geführt wurde, nicht mehr ausreicht. Grund dafür ist insbesondere das grundlegend fortgeschrittene Technikverständnis und die Europäisierung des Datenschutzrechts.
Inhaltsverzeichnis
A. Ausgangslage und Herangehensweise
B. Rechtlicher Hintergrund des vollautomatisierten Verwaltungsverfahrens
I. Hintergrund von Automatisierungsbestrebungen in der Verwaltung
II. Änderungen im VwVfG
1. Vollständig automatisierter Erlass eines Verwaltungsaktes
a. Abgrenzung der Verwaltungsaktbegriffe
b. „Vollständig durch automatische Einrichtungen erlassen“
c. Zulassung durch Rechtsvorschrift
d. Kein Ermessens- und Beurteilungsspielraum
e. Funktion und Anwendungsbereich
2. Änderung des Untersuchungsgrundsatzes
3. Bekanntgabe elektronischer Verwaltungsakte durch Abruf über Behördenportale
C. Einsatzmöglichkeiten von automatisierten Einrichtungen im Verwaltungsverfahren
I. Status quo der Automatisierung in der Verwaltung
II. Bestimmung von automatisierbaren Verfahren
III. Technische Konzeption der Verfahrensautomatisierung
1. Algorithmen
a. Determinierte Algorithmen
b. Indeterminierte Algorithmen (KI)
2. Risikomanagementsysteme
D. Rechtliche Anforderungen an die Verfahrensautomatisierung
I. Unions- und datenschutzrechtliche Rahmenbedingungen
1. Grundsätzliches Verbot automatisierter Entscheidungen
a. Rechtsstaatliche Standards der Einwirkung und Kontrolle
b. Geeignete mathematische oder statistische Verfahren
2. Auskunfts- und Informationsrechte
3. Abweichungsspielraum der Mitgliedstaaten
4. Besondere Kategorien personenbezogener Daten
5. Verzeichnis von Verarbeitungstätigkeiten und Datenschutz-Folgenabschätzung
6. Datenschutz-Folgenabschätzung
II. Verfassungsrechtliche Rahmenbedingungen
1. Allgemeines Persönlichkeitsrecht
a. Recht auf informationelle Selbstbestimmung
b. Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme
2. Gleichheit vor dem Gesetz und Diskriminierungsverbote
3. Gesetzmäßigkeit der Verwaltung und Rechtsstaatsprinzip
a. Abbildbarkeit von Recht durch Algorithmen
b. Anforderungen an die Konzeption und Kontrolle der Algorithmen
c. Zulässigkeit KI-basierter Entscheidungen
4. Verfahrensbezogener Grundrechtschutz
E. Gestaltungsleitlinien für das vollautomatisierte Verwaltungsverfahren
I. Transparenz und Nachvollziehbarkeit
II. Inhaltliche Anforderungen an den Algorithmus
1. Entscheidungsrichtigkeit
2. Gerichtliche Kontrolle der Algorithmen
a. Ex-ante-Kontrolle
b. Ex-post-Kontrolle
III. Keine Einschränkung von Verfahrensgrundsätzen
IV. Grenzen des Einsatzes selbstlernender Algorithmen
F. Fazit und Ausblick
Zielsetzung & Themen
Die Arbeit untersucht die rechtlichen Anforderungen an den Einsatz automatischer Einrichtungen im vollautomatisierten Verwaltungsverfahren gemäß § 35a VwVfG. Das primäre Ziel ist die Bestimmung des rechtsstaatlichen und datenschutzrechtlichen Rahmens, um daraus Gestaltungsleitlinien für eine rechtskonforme Anwendung moderner IT-Systeme in der öffentlichen Verwaltung abzuleiten.
- Rechtliche Grundlagen der Verfahrensautomatisierung in Deutschland
- Datenschutzrechtliche Rahmenbedingungen und unionsrechtliche Anforderungen
- Verfassungsrechtliche Grenzen und Grundrechtsschutz
- Technische Konzeption und Risiken von Algorithmen (einschließlich KI)
- Anforderungen an Transparenz, Kontrolle und Verfahrensgrundsätze
Auszug aus dem Buch
b. Indeterminierte Algorithmen (KI)
Selbstlernende Algorithmen (machine learning algorithms) werden in Diskussionen regelmäßig als künstliche Intelligenz (KI) bezeichnet. Der Begriff der künstlichen Intelligenz ist jedoch zunächst nicht eindeutig. Der in den 1950er Jahren geprägte Begriff sollte ursprünglich die These vertreten, dass die gesamte menschliche Intelligenz und Denkleistung auf Maschinen übertragbar sein könnte. Heute ist der KI-Begriff durch eine starke und eine schwache KI-These vertreten. Vertreter der starken KI-These halten größtenteils an der weit gefassten Ursprungsthese fest, während die schwache KI-These besagt, dass jedenfalls einzelne menschliche Denkvorgänge durch maschinelle Selbstoptimierung abgebildet werden können. Da in dieser Arbeit der mögliche Einsatz bereits existierender KI untersucht wird, wird für den KI-Begriff die schwache KI-These verwendet. Die Bundesregierung folgt in ihrem KI-Strategiepapier ebenfalls der schwachen KI-These.
Künstliche Intelligenz wird oft mit machine learning (maschinelles Lernen) gleichgesetzt. Dabei handelt es sich um eine elementare Fähigkeit von KI-Systemen, die ihnen das selbstständige Aneignen von Zusammenhängen und Beziehungen ermöglicht. Anders als beim theoriegeleiteten Ansatz werden machine learning Algorithmen zu Beginn mit massiven Datenmengen (big data) zur Selbstoptimierung konditioniert, um Datensätze miteinander zu verknüpfen. Auch in der Einsatzphase versucht der Algorithmus sich durch Selbstoptimierung zu verbessern, womit auch bessere Problemlösungen, die bei der Programmierung nicht beachtet wurden, in die Entscheidungen des Algorithmus einfließen. Hier besteht allerdings die Gefahr, dass der Algorithmus nicht mehr nachvollziehbare Lernmuster entwickelt. Eine einzelne Entscheidung ist zwar weiterhin dokumentierbar, es lässt sich aber oft nicht mehr herausfinden, wie der Algorithmus zu dieser Entscheidung gefunden hat.
Zusammenfassung der Kapitel
A. Ausgangslage und Herangehensweise: Das Kapitel führt in die Problematik der Digitalisierung der Verwaltung ein und erläutert die Zielsetzung der Untersuchung vor dem Hintergrund des § 35a VwVfG.
B. Rechtlicher Hintergrund des vollautomatisierten Verwaltungsverfahrens: Es werden die Entstehung und die inhaltlichen Änderungen im VwVfG durch das StModernG sowie die Funktion und der Anwendungsbereich der Norm analysiert.
C. Einsatzmöglichkeiten von automatisierten Einrichtungen im Verwaltungsverfahren: Dieses Kapitel betrachtet den Status quo, die Eignungskriterien für automatisierbare Verfahren sowie die technischen Grundlagen der Algorithmen.
D. Rechtliche Anforderungen an die Verfahrensautomatisierung: Eine umfassende juristische Analyse der unionsrechtlichen, datenschutzrechtlichen und verfassungsrechtlichen Rahmenbedingungen für automatisierte Verwaltungsprozesse.
E. Gestaltungsleitlinien für das vollautomatisierte Verwaltungsverfahren: Das Kapitel leitet aus der vorherigen Analyse konkrete Anforderungen an Transparenz, Entscheidungsrichtigkeit und Kontrolle ab.
F. Fazit und Ausblick: Abschließende Beantwortung der Forschungsfrage und Einschätzung zur zukünftigen Entwicklung des KI-Einsatzes in der Verwaltung.
Schlüsselwörter
Vollautomatisierung, § 35a VwVfG, Verwaltungsverfahrensrecht, Algorithmen, Künstliche Intelligenz, Datenschutzrecht, DSGVO, Rechtsstaatsprinzip, Grundrechtsschutz, informationelle Selbstbestimmung, Risikomanagementsysteme, Transparenz, Gesetzmäßigkeit der Verwaltung, Maschinelles Lernen, E-Government.
Häufig gestellte Fragen
Worum geht es in dieser Arbeit grundsätzlich?
Die Arbeit befasst sich mit den rechtlichen Rahmenbedingungen und Anforderungen an den Einsatz vollautomatisierter Systeme bei der Erlassung von Verwaltungsakten durch Behörden.
Welche Themenfelder stehen im Zentrum der Untersuchung?
Im Mittelpunkt stehen die verfassungs- und datenschutzrechtliche Zulässigkeit der Verfahrensautomatisierung sowie die Anforderungen an Algorithmen und deren gerichtliche Kontrolle.
Was ist die zentrale Forschungsfrage?
Die Forschungsfrage lautet, welche rechtlichen Anforderungen an eine realistische Vollautomatisierung von Verwaltungsverfahren gestellt werden müssen, um rechtsstaatlichen und datenschutzrechtlichen Standards zu entsprechen.
Welche wissenschaftliche Methode kommt zum Einsatz?
Die Arbeit nutzt eine rechtswissenschaftliche Analysemethode, die auf der Auswertung von Gesetzestexten, Kommentaren, aktueller Rechtsprechung und fachwissenschaftlicher Literatur basiert.
Was wird im Hauptteil der Arbeit behandelt?
Der Hauptteil gliedert sich in eine Bestandsaufnahme der Technik, eine detaillierte datenschutz- und verfassungsrechtliche Analyse sowie die Erstellung von Gestaltungsleitlinien für die Praxis.
Durch welche Schlüsselwörter lässt sich die Arbeit charakterisieren?
Wichtige Begriffe sind unter anderem Vollautomatisierung, § 35a VwVfG, Datenschutz-Grundverordnung (DSGVO), Algorithmen, Rechtsstaatlichkeit und IT-Grundrecht.
Welche Bedeutung hat das StModernG für die Untersuchung?
Das StModernG schuf die wesentlichen neuen Rechtsgrundlagen für vollautomatisierte Verfahren, insbesondere durch die Einführung des § 35a VwVfG, welche den Ausgangspunkt der vorliegenden Untersuchung bildet.
Wie bewertet der Autor den Einsatz von Künstlicher Intelligenz?
Der Autor stuft den Einsatz von KI bei Ermessensentscheidungen aufgrund des Black-Box-Charakters als derzeit verfassungswidrig ein, sieht aber bei gebundenen Entscheidungen unter strengen Auflagen Entwicklungspotenzial.
- Arbeit zitieren
- Niklas Pulte (Autor:in), 2020, Vollautomatisierung von Verwaltungsverfahren. Einsatzmöglichkeiten, rechtliche Anforderungen und Gestaltungsleitlinien, München, GRIN Verlag, https://www.grin.com/document/703352
