Leseprobe
Eine ethische Auseinandersetzung mit der Frage nach Verantwortung sowie Realisierbarkeit am Beispiel autonomer Fahrsysteme In den letzten Jahrzehnten entwickelte sich die globale Digitalisierung in jeglichen Gebieten enorm. Es wurden bahnbrechende technische Fortschritte gemacht, welche sich in allen Bereichen des Lebens widerspiegeln. Sei es die Gesichtserkennung des neuen iPhones, das Bezahlen im Restaurant über das Handy oder Online Streaming Dienste wie Netflix. All dieser Zuwachs an technischen Innovationen bereichert und erleichtert unser Leben. Würden diese Dinge allerdings einmal ausfallen, würden sie wohl nicht akut unser Leben bedrohen.
Anders ist es im Bereich der Mobilität – auch hier wurden in den letzten Jahren deutliche Fortschritte erbracht. Technische Systeme, die den Fahrer beim Autofahren entlasten, unterstützen oder gar ersetzen sind derweil in greifbarer Nähe. Deutschland hat im Juni 2017 mit einem neuen Gesetz als erstes Land das automatisierte Fahren einheitlich geregelt. Dabei schafft dieses Gesetz die Voraussetzungen für die Entwicklung von Kraftfahrzeugen mit hoch- oder vollautomatisierter Fahrfunktion. Der Fahrzeugführer muss allerdings übernahmebereit bleiben und jederzeit die manuelle Steuerung übernehmen können, somit ist das autonome Fahren in diesem Gesetz noch nicht inbegriffen.1 Es wird bei einer Vielzahl von Herstellern bereits mit vollautomatisierten Fahrsystemen experimentiert. In Kalifornien wurden sie bereits auf öffentlichen Straßen eingesetzt, was nicht ungefährlich von Statten ging. „So wurde von einem Uber-Auto eine Fußgängerin getötet, die gerade die Straße überquerte.“2
Eine Teilautomatisierung ist für viele Autofahrer mittlerweile alltäglich. Das gewohnte Piepen beim Einparken oder Vergessen des Anschnallens gehört für viele zur Normalität. Sogar Systeme zur Kollisionsvermeidung mit selbstständigem Bremsen, selbstständigem Spurwechsel sowie selbstständiger Lenkung sind bereits verfügbar oder auf dem besten Wege in die Serienausstattung. Aber nicht nur für den individuellen Autobesitzer sind diese Techniken in greifbarer Nähe, auch öffentliche Verkehrsmittel sollen im Sinne fahrerloser Robotertaxis und Busse damit ausgestattet werden.
Das Bundesministerium für Verkehr und digitale Infrastruktur erläutert in ihrem Bericht der Ethik-Kommission zum autonomen Fahren im Juni 2017, dass bereits heute Prozessoren zur Verfügung stehen, die fähig seien die Verkehrslage in Echtzeit zu erkennen und somit den Fahrweg dynamisch angepasst an diese zu gestalten. Weiterhin biete die vollkommene Wahrnehmung der Umgebung des Fahrzeuges eine zuverlässige Erkennung von Hindernissen und Gefahrensituationen, die die Verkehrssicherheit erheblich steigern würde. Es sei demnach nicht ausgeschlossen, dass nach abgeschlossener Entwicklung Fahrzeuge zur Verfügung stehen, die unter allen Umständen einen Unfall vermeiden können. Sie gestehen allerdings auch, dass nach aktuellem Forschungsstand und unter Berücksichtigung des aktuellen, nicht vernetzten Straßenverkehrs, eine lückenlose Unfallvermeidung noch nicht möglich sei.3 Im Umkehrschluss bedeutet dies, dass eine Sicherheitsgarantie noch in weiter Ferne steht.
Nehmen wir einmal an, dass es diese Systeme sowie die dazugehörige Sicherheitsgarantie der Hersteller geben wird und die automatisierten Kraftfahrzeuge erwerblich sind. Dann stellt sich die Frage: wer übernimmt die Verantwortung, wenn doch etwas passiert? Können die Hersteller vollkommen garantieren, dass keines ihrer Systeme einmal ausfallen oder fehlerhaft sein würde? Es geht an dieser Stelle um die moralische Verantwortung und vor allem darum, wer sie zu tragen hat. Kann man ein solches System moralisch Vertreten, wenn es in eine Situation kommt, in der nur ein Bruchteil eines Prozentes der Wahrscheinlichkeit besteht, dass Menschenleben zu Schaden kommen könnten? Sind autonome Fahrsysteme nach moralischen Vorstellungen überhaupt realisierbar?
Die autonomen Fahrsysteme von vorneherein zu kritisieren wäre allerdings falsch, denn es lässt sich nicht leugnen, dass der negativen Kritik und offenen Fragen auch Vorteile gegenüberstehen. Der Gewinn an Mobilität für beeinträchtigte Menschen sowie Senioren wäre ein klarer Vorteil. Ihnen würde dadurch ein deutlicher Zuwachs an Flexibilität und Freiheit zukommen. Aller Voraussicht nach wird auch eine erhebliche Verbesserung des Umweltschutzes und der Energieeffizienz eine Folge der automatisierten Kraftfahrzeuge sein. Zudem gewinnt der Nutzer erheblich an Zeit, denn er kann während der Fahrt arbeiten, schlafen oder einen Film anschauen. Weiterhin wird von den Herstellern der Zuwachs an Sicherheit im Straßenverkehr beteuert, der auf die Vernetzung des Verkehrs und auf die Reaktionszeit der Bordcomputer und der Kollisionsvermeidesysteme zurückzuführen sei, die ein Mensch in einer Gefahrensituation nicht leisten kann. Aber genau über diesen Punkt lässt sich stark diskutieren.
Um zu unterscheiden, welche Fahrsysteme voll- oder teilautomatisiert sind, werden zunächst die technischen Grundlagen nach Misselhorn erläutert. Nach Catrin Misselhorn gibt es sechs Stufen, die die Automatisierung der Fahrzeuge beschreiben. Die Ausgangsstufe null bezeichnet alle Fahrzeuge, die komplett manuell vom Fahrer gesteuert werden und keine Assistenzsysteme nutzen. Die erste Stufe verfügt über Fahrzeuge mit Assistenzsystemen, die bereits heute in den neueren Modellen zur Serienausstattung gehören, wie beispielsweise der Tempomat. Die Stufe zwei beschreibt die Teilautomatisierung, bei der die Fahrzeuge bereits auf der Autobahn eigenständig fahren können, sprich die Spur halten und den Abstand gewährleisten. Dabei muss der Fahrer aber jederzeit bereit sein, das Fahrzeug wieder zu übernehmen. Auf der Stufe drei sind die hochautomatisierten Fahrzeuge, bei denen der Fahrer nicht mehr dauerhaft über das Fahrverhalten wachen muss. Der Fahrer muss jedoch nach einer bestimmten Zeitspanne in der Lage sein, das Steuer wieder zu übernehmen. Die Stufe vier beschreibt das Fahren, bei dem der Fahrer sich nicht mehr zur Übernahme bereithalten muss, sondern beliebigen anderen Tätigkeiten nachgehen kann. Man wird rechtzeitig informiert, sofern man das Fahrzeug wieder übernehmen soll. Die Stufe fünf stellt das komplett autonome Fahren dar, bei dem der Fahrer quasi nur noch Fahrgast und nicht mehr Fahrzeugführer ist. Alle Tätigkeiten werden selbstständig vom Fahrzeug ausgeführt und es bedarf keinerlei Bedienung eines Menschen.4
Prof. Dr. Dr. Eric Hilgendorf, der ebenfalls an der Ethik-Kommission des Bundesministeriums für Verkehr und digitale Infrastruktur teilnahm, hat ein anschauliches Szenario vorgestellt, an dem sich verdeutlichen lässt, welche Gefahren ein solch automatisiertes System birgt und in welches Dilemma es führen könnte:
„Drei Schwerverletzte A, B und C liegen bewusstlos auf der Straße, D hingegen hat sich an den Fahrbahnrand schleppen können und umklammert den Straßenpfosten. Das Fahrzeug bewegt sich zu schnell, um noch anhalten zu können. Auch ein Ausweichmanöver, das weder A, B noch C gefährden würde, ist unmöglich. In welche Richtung soll der Bordcomputer den Wagen lenken?“5
Es muss die Entscheidung getroffen werden, ob die drei Schwerverletzten Personen auf der Straße getötet werden oder die Person, die sich zum Straßenrand schleppen konnte. Sicher ist an dieser Stelle anzumerken, dass bei manueller Steuerung des Fahrzeuges durch einen Menschen ebenso wenig die Möglichkeit besteht, alle drei Personen unversehrt zu lassen.
Zu dieser Art Fallbeispiele zählen noch andere, die ein ähnliches Dilemma aufweisen wie beispielsweise der sogenannte Weichensteller-Fall. Der Weichensteller-Fall oder das Trolley-Problem wurde 1967 von Philippa Foot als jüngstes Beispiel aufgearbeitet. Es geht hierbei darum, dass ein Zug auf fünf Gleisarbeiter zurollt. Der Weichensteller könnte den Zug allerdings auf ein Nebengleis umleiten. Auf diesem Nebengleis befindet sind jedoch eine Person, die von dem Zug getötet werden würde. Was soll der Weichensteller tun? Es gibt zahlreiche rechtliche und ethische Versuche darauf zu antworten, ohne dass dabei eine abschließende Antwort resultierte. Ebenso verhält es sich bei dem Dilemma zum autonomen Fahren. Es gibt allerdings Lösungsvorschläge, wie beispielsweise den von Prof. Dr. Dr. Hilgendorf zu dem oben genannten Dilemma, der im Folgenden vorgestellt werden soll. Zunächst ist es für Hilgendorf wichtig, dass bei einer Abwägung, ob das Fahrzeug auf die drei Schwerverletzten oder auf die Person am Straßenrand zufahren soll, ein Leben nicht weniger wert ist als drei Leben, da jedes Leben einen sogenannten Höchstwert darstellt. Der Begriff des Höchstwertes ist nach Hilgendorf im juristischen Sinne dazu da, die Würde des Menschen in der Rechtsordnung zu vertreten, zu priorisieren und sie damit auf die wichtigste Stufe zu stellen. Das Leben vieler darf also nicht als wertvoller eingestuft werden als das eines Einzelnen.6 Dennoch muss eine Entscheidung her, um einen Lösungsvorschlag für das Problem vorzustellen. An dieser Stelle folgert Hilgendorf, dass trotz der Verrechnung des Menschenlebens, wonach ein Leben nicht weniger wert ist als mehrere, dem Prinzip des geringeren Übels gefolgt werden muss, um eine Entscheidung zu treffen. „Wenn schon Unschuldige sterben müssen, dann so wenig wie möglich.“7 Trotzdem bleibt jede Tötung eines unschuldigen Menschen ein Unrecht. Hilgendorf geht es in seinem Lösungsansatz um eine sogenannte Stufung des Unrechts, die vorschreibt so wenig Menschenleben wie möglich zu gefährden oder gar auszulöschen.
Dieser Lösungsansatz ist zwar sinnvoll, aber die Umsetzbarkeit dessen muss geprüft werden. Man muss also gegenüberstellen, ob ein Mensch in einer derartigen Situation überhaupt in der Lage dazu wäre, sich dazu zu entscheiden den Weg des geringeren Übels einzuschlagen. Das Ergebnis wäre, dass dies sehr unrealistisch ist, da man gerade in kritischen Situationen oft nicht die Zeit hat, lange zu überlegen – man handelt eher instinktiv. Sofern der menschliche Fahrer dabei moralisch bedenklich reagiert, liegt die Rechtfertigung und Entschuldigung in der Spezialität und der Dynamik der Situation.8
Die Ethik-Kommission für automatisiertes und vernetztes Fahren hat sich ebenfalls mit derartigen Situationen mit Dilemma-Charakter auseinandergesetzt. Deren Ansatz ist es, dass autonome Fahrzeuge nicht in der Lage sind die unvorhersehbaren Verhaltensweisen der Betroffenen zu berechnen. Daher ist es unrealistisch eine Software so zu programmieren, dass sie diese Entscheidung moralisch fraglos treffen könnte. Auf derart komplexe Unfallfolgenabschätzungen können diese Systeme nicht ausgelegt werden. Sie können die menschlichen Fahrzeugführer, die urteilsfähig und verantwortungsfähig sind, nicht ersetzen. Wie bereits erwähnt, würde sich ein Mensch zwar rechtswidrig verhalten, würde er eine der unschuldigen Personen auf der Straße aufgrund der besonderen Situation töten, dennoch würde er nicht notwendig schuldhaft handeln.9
Grundsätzlich handeln Computer schneller als Menschen, da die Reaktionszeit eines Menschen vor allem in einer derartigen Gefahrensituation langsamer ist. Die sogenannte Schrecksekunde beispielsweise kennt ein Computer nicht. Dies zeigt eine Studie der Universität Michigan, die die Reaktionszeit in einer Gefahrensituation eines Menschen und eines automatisierten Fahrzeuges gegenüberstellte.10 Dort wurden die Kompetenzen menschlicher Fahrzeugführer mit denen der Bordcomputer verglichen. Sie wurden hinsichtlich verschiedener Kategorien wie Geschwindigkeit, Leistung, Kontinuität, Informationsverarbeitung, Datenspeicher, Schlussfolgerung, Fühlen/Messen sowie der Wahrnehmung getestet. Dabei zeigt sich, dass sowohl der menschliche Fahrer als auch die Maschine seine individuellen Vorteile vorzuweisen hat. Der Bordomputer schneidet in Kategorien wie Geschwindigkeit, Leistung und Kontinuität deutlich besser ab als der Mensch, da die Reaktionszeit schneller ist und die Leistung deutlich akkurater und gleichmäßiger erfolgt. Im Bereich der Kontinuität schneiden sie insofern besser ab, als dass sie konstant bessere Ergebnisse in Situationen erzielen, in denen es auf Wachsamkeit ankommt. Der Mensch ist dagegen in derartigen Situationen von seinen Emotionen und Gefühlen eingenommen wie Müdigkeit, welche Unachtsamkeit zur Folge haben kann. Auch bei der Informationsverarbeitung punktet der Bordcomputer durch simultane Prozesse, die der Mensch nicht leisten kann. In der Kategorie Datenspeicher haben sowohl menschliche Fahrer als auch der Computer ihre eigenen individuellen Stärken und Schwächen. Der Computer kann hier beispielsweise besser mit präzisen und formalen Informationen arbeiten, während der Mensch vielmehr bei den kreativen und flexiblen Prozessen übertrifft. Im Punkt Schlussfolgerung haben ebenso beide Komponenten ihre individuellen Stärken. Der Mensch kann deutlich besser mit unklaren Situationen umgehen und Irrtümer besser beseitigen, während der Computer gezielte und vor allem schnellere Ergebnisse liefert. Die Kategorie Fühlen und Messen stellt für diese Untersuchung eine besondere Kategorie dar, aufgrund der Fähigkeit des Menschen, in bestimmten Situationen Urteile fällen zu können. Dies ist der Software nicht möglich, da er Verhaltens- und Strukturmuster nur schwer erkennt. An dieser Stelle zeigt sich einer der wichtigsten Unterschiede, da gezeigt wird, dass Maschinen nicht in der Lage sind darüber zu urteilen, welchen der drei Schwerverletzten man denn nun unversehrt ließe. Die letzte Kategorie bestätigt dieses Bild, denn bei den Wahrnehmungen verdeutlicht sich, dass der Mensch mit unklaren und interpretationswürdigen Situationen besser umgehen kann.11 Es verdeutlich sich der Eindruck, dass die Bordcomputer insgesamt die schnellere Auffassung sowie Reaktionszeit haben und in Gefahrensituationen demnach schneller handeln können als der Mensch. Alle Situationen in denen menschliche Kreativität, Flexibilität, Sinne und Urteilsvermögen nötig sind, meistert der Mensch besser. Offen bleibt demnach die Abwägung nach der Relevanz. Welche Fähigkeiten sind im Straßenverkehr wichtiger? Sofern der Mensch immer in der Lage bleibt, jederzeit die Kontrolle über das Fahrzeug zu übernehmen, könnte der Mensch erst dann eingreifen, wenn seine Fähigkeiten gefordert sind. Dies setzt aber voraus, dass der Mensch sich dieser auch bewusst ist und weiß, wann genau er übernehmen muss.
Die Sensoren eines autonomen Fahrzeuges sollen unsere Sinne ersetzen und im Idealfall sogar besser sein als die menschlichen. An dieser Stelle stellt sich die Frage, inwiefern die Sensoren auch ebenso gut funktionieren wie unsere Sinne. Die wesentliche Aufgabe der automatisierten Fahrsysteme liegt darin, die Informationen der Sensoren korrekt aufzunehmen und damit ebenso korrekt zu agieren. Die Software soll korrekte Vorhersagen treffen können und diese in entsprechende Handlungen umsetzen.12 Das bedeutet, dass jegliche Hindernisse exakt lokalisiert werden müssen, um das angestrebte Ziel zu gewährleisten. Ein Negativbeispiel hierfür veranschaulicht ein Test aus dem Jahr 2016, den der Hersteller Tesla durchführte. Dabei ereignete sich ein tödlicher Unfall, da einer der Sensoren aufgrund der starken Helligkeit einen LKW nicht von einem Straßenschild unterscheiden konnte.13 Dieses Beispiel verdeutlicht genau das, was keinesfalls passieren darf. Die moralische und rechtliche Verantwortung dafür liegt ganz klar bei dem Hersteller, der die Software programmierte. In dieser Situation hätte auch der Fahrer nicht mehr die Kontrolle übernehmen können, da er nicht wissen konnte, dass der Sensor fehlerhaft war und offensichtlich nicht ausreichend sicher konzipiert wurde, um solche Fehler zu vermeiden. Generell verschiebt sich die Verantwortung des Fahrers bei automatisierten Fahrsystemen auf den Hersteller der technischen Ausrüstung sowie auf die politischen, rechtlichen und infrastrukturellen Instanzen durch die ein solches System abgesegnet wird.14
[...]
1 https://www.bgbl.de/xaver/bgbl/start.xav#__bgbl__%2F%2F*%5B%40attr_id%3D%27bgbl117s1648.pdf%27%5D__1591021832771. Aufgerufen am: 01.06.2020.
2 Misselhorn, Catrin: Grundfragen der Maschinenethik. Stuttgart 2019. S. 187.
3 Vgl.www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf. Aufgerufen am: 30.05.2020.
4 Vgl. Misselhorn, Catrin: Grundfragen der Maschinenethik. S. 185ff.
5 Prof. Dr. Dr. Hilgendorf, Eric: Autonomes Fahren im Dilemma. Überlegungen zur moralischen und rechtlichen Behandlung von selbsttätigen Kollisionsvermeidesystemen. In: Autonome Systeme und neue Mobilität. Hrsg.: Eric Hilgendorf. Robotik und Recht Bd. 11. Würzburg 2017. S. 143.
6 Vgl. Hilgendorf: Autonomes Fahren im Dilemma. S. 149ff.
7 Ebd. S. 155.
8 Vgl. Misselhorn, Catrin: Grundfragen der Maschinenethik. S. 189.
9 Vgl.www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf. Aufgerufen am 19.06.20.
10 Vgl. Schoettle, Brandon: Sensor fusion: a comparison of sensing capabilities of human drivers and highly automated vehicles. Universiy of Michigan August 2017. S. 6ff. http://umich.edu/~umtriswt/PDF/SWT-2017-12.pdf aufgerufen am: 06.06.2020.
11 Vgl.: Schoettle, Brandon: Sensor fusion: a comparison of sensing capabilities of human drivers and highly automated vehicles. S. 7.
12 Vgl. Misselhorn, Catrin: Grundfragen der Maschinenethik. S. 187.
13 Vgl. Ebd. S. 188.
14 Vgl.www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf. Aufgerufen am 19.06.20