Kodex für eine humanistische Kollaboration mit multimodalen KI-basierten Assistenzsystemen

Eine ethische Überlegung


Seminararbeit, 2021

17 Seiten, Note: 1,7


Leseprobe

Inhaltsverzeichnis

Einführung und Abgrenzung: Humanistische Kollaboration mit Kl-basierten

Assistenzsystemen

Ethik Leitlinien für eine vertrauenswürdige Kl: Unabhängige hochrangige

Expertengruppe für künstliche Intelligenz

Denkbarer Kodex für eine humanistische Kollaboration mit multimodalen Kl-basierten

Assistenzsystemen

Fallbeispiel: Multimodaler KI-basierterAstronautenassistent - CIMON®

Anwendung am Fallbeispiel

Fazit

Quellenverzeichnis

Einführung in die humanistische Kollaboration mit Kl-basierten Assistenzsvstemen

„Die Beziehung zwischen menschlicher und künstlicher Intelligenz wird irgendwann notwendigerweise eine Symbiose sein.“1 Bryan Johnson, CEO Kernel

„Kollaboration bezeichnet eine Form der Zusammenarbeit, bei der die Kollaborateure ihre unterschiedlichen Stärken einbringen und ergänzen, um gemeinsam ein Ziel zu erreichen.“2 Gerade im Kontext von Innovation und Geschäftsprozessen wächst das Interesse an Assistenzsystemen, die den Menschen bei der Verrichtung seiner Tätigkeit unterstützen und komplettieren, stetig. Künstliche Intelligenz wird dahingehend womöglich unsere Lebens- und Arbeitswelt maßgeblich beeinflussen. Die Anzahl der Schnittstellen zwischen Mensch und Maschine steigen zunehmend an - und damit auch die Möglichkeiten an Kollaborationen - mit einem Ziel: die möglichst effiziente Verrichtung einer Tätigkeit. Folglich wächst die Verantwortung für menschlich geschaffene intelligente Systeme - und die Forderungen nach einer vertrauenswürdigen, leistungsfähigen und konstruktiven Kl mehren sich.

In der vorliegenden Arbeit wird es um die Frage gehen, wie, und nach welchen Kriterien, man ein humanistisches Kl-basiertes Assistenzsystem in der Arbeitswelt integriert - unter Anleitung von fünf denkbaren Gestaltungskriterien: Schutz der interagierenden Person; Zentrierung des Kl-basierten Assistenzsystems; Usability & Humanismus; Transparenz & Nachvollziehbarkeit sowie Anpassung & Innovation.

Es wird nicht darum gehen, wie eine autonome, für sich arbeitende Kl sein sollte, sondern wie man eine sinnvolle Kollaboration der beiden Instanzen - Mensch und Maschine - instituiert. Die Zusammenarbeit zwischen Menschen und Maschine wird höchstwahrscheinlich in der Zukunft eine zentrale Rolle in Unternehmen wie auch in der Wirtschaft spielen. Ethische Orientierungsmaßnahmen werden zwingend erforderlich sein, um Risikofaktoren zu minimieren, menschliche Rechte zu wahren und das Arbeitsfeld innovativ zu erneuern. „Neue Technologien können an sich noch so leistungsfähig, ja revolutionär sein. Sie setzen sich nur dann durch, wenn Menschen, wenn wir sie gerne anwenden und mit ihnen zusammen produktiv arbeiten und agieren.“3

Kl-basierte Assistenzsysteme können rationalisiert komplexe Prozesse bzw. Entscheidungen anführen und übernehmen, von anstrengenden und gefährlichen Tätigkeiten entlasten oder auch - wie wir im sich hier abbildenden Beispiel CIMON feststellen werden: ein Arbeitskollege, welcher emotionale Unterstützung gewährt, sein. Allumfassend verbirgt sich hinter den vielen Möglichkeiten, die uns die Künstliche Intelligenz bietet, ebenso viel Verantwortung, welche wir als Menschen für die Kl - und dessen Interakteure-übernehmen müssen.

Im Nachfolgenden wird zunächst ein Kriterienkatalog für eine vertrauenswürdige Kl vorgestellt, welcher von einer hochrangigen Expertengruppe für Kl eruiert wurde. Im weiteren Verlauf wird eine Zusammenführung dieses Ansatzes mit humanistischen bzw. sozio-kognitiven Überlegungen stattfinden, um daraus einen Kl- Kodex für eine effiziente, humanistische und menschenwürdige Zusammenarbeit mit Kl-basierten Systemen zu elaborieren. Anhand CIMON, einem multimodalen Kl- Astronautenassistenzsystem wird beispielhaft gezeigt werden, wie zentral und wertvoll der Einsatz von Assistenzsystemen für eine gewinnbringende Arbeitsgestaltung sein wird, aber auch, wie sensibel durchdacht diese sein muss.

Ethik-Leitlinien für eine vertrauenswürdige Kl: Unabhängige hochrangige Expertengruppe für künstliche Intelligenz

„Kl-Maschinen, die mit Menschen Zusammenarbeiten, anstatt sie zu ersetzen, Kl-Programme, die ihre Schlussfolgerungen erklären können und diewichtigen Werte wie Transparenz und Fairness respektieren, sind entscheidend fürden gesellschaftlichen Nutzen dieserTechnologie.“4 Frank van Harmelen, Professorfür Informatik

Als eine Art Orientierungshilfe für die vertrauenswürdige Kl-Systeme dienen ethische Grundsätze, welche eine Expertengruppe im Juni 2018 formulierte. Hierzu zählen ethische Imperative wie: die Achtung der menschlichen Autonomie, die Schadensverhütung, Fairness und Erklärbarkeit. Menschen sollen demzufolge über eine umfassende Selbstbestimmung, sowie auch Kontrolle über die Kl verfügen. Die Kl wiederrum darf zu keiner Zeit einen Schaden am Menschen verursachen oder diesen täuschen und manipulieren. „Vorteile und Kosten von Kl sollten gesellschaftlich verteilt, Diskriminierung und „unfaire Verzerrungen“ vermieden werden und effektive Rechtsbehelfe gegen Kl-basierte Entscheidungen verfügbar sein; (,..)“5 sowie Prozesse transparent und in jeder Konsequenz erklärbar.6

Eine vertrauenswürdige Kl formt sich ihrem Erkenntnisstand zufolge aus drei Komponenten - welche über die gesamte Lebensspanne eines Systems gegeben sein sollten:

„1. Sie sollte rechtmäßig sein und somit geltendes Recht und alle gesetzlichen Bestimmungen enthalten;
2. sie sollte ethisch sein und somit die Einhaltung ethischer Grundsätze und Werte garantieren; und
3. sie sollte robust sein, und zwar sowohl in technischer als auch in sozialer Hinsicht, da Kl-Systeme möglicherweise unbeabsichtigten Schaden verursachen, selbst wenn ihnen gute Absichten zugrunde liegen.“7

Im Übrigen werden sieben Kernanforderungen konzipiert, welche bei der Verwirklichung einer vertrauenswürdigen Kl von funktioneller Bedeutung sind: Vorrang menschlichen Handelns und menschliche Aufsicht, technische Robustheit und Sicherheit, Privatsphäre und Datenqualitätsmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen, Rechenschaftspflicht.8 Diese Maßstäbe zielen generell auf den Einsatz von Künstlicher Intelligenz ab, sind indessen jedoch auch speziell für die Kooperation zwischen Menschen und Kl von erheblicher Relevanz.

Denkbarer Kodex für eine humanistische Kollaboration mit multimodalen

Kl-basierten Assistenzsvstemen

„Al is reinventing the way we invest - the biggest impact of artificial intelligence will be to help humans make discoveries we couldn’t make on our own.”9 David Rotman, MIT Journalist

Die Zusammenarbeit mit intelligenten Kl-basierten Systemen wird unsere Möglichkeiten maßgeblich potenzieren und gegebene Defizite weitestgehend ausgleichen. Um eine menschenwürdige und vor allem effektive Kollaboration zwischen Mensch und Maschine zu ermöglichen, erfordert es ein hohes Maß an Sensibilität gegenüber den menschlichen Bedürfnissen nach Benutzerfreundlichkeit, als auch einer Reorganisierung des Arbeitsplatzes.

Kl-basierte Assistenzsysteme sollen den Menschen weitestgehend von anstrengenden und gefährlichen Tätigkeiten entlasten und bewahren10, sowie bei komplexen Entscheidungen durch rationalisierte Berechnungen helfen. Wichtig an dieser Stelle ist eine sinnvolle Aufgabenverteilung, da sich Menschen und Kl-Systeme in ihren Kernkompetenzen unterscheiden.

Maschinen können durch adäquat programmierte Programme und Algorithmen rationale Ergebnisse liefern und basierend auf Datensätzen eine rechnerische Entscheidung treffen. Darüber hinaus können derart umfangreiche Datensammlungen - wie etwa Arbeits- und Bedienungsanleitungen - im System gespeichert und vom Benutzer abgerufen werden. Menschen hingegen sind den Maschinen insbesondere was die Interpretation und Kontextualisierung von Ergebnissen angeht maßgeblich überlegen. Auch die Entwicklung und Planung von neuen Zielen - angesichts Kreativität und Ideenreichtum - sind klare Kernkompetenzen des Menschen. Grundlegend ist also zu differenzieren, welche Ressourcen der Mensch für die Bewältigung seiner Aufgabe mobilisieren kann und an welchen Stellen eine Optimierung durch den Einsatz eines Kl-basierten Assistenzsystems sinnvoll wäre.

Von erheblicher Relevanz sind Benutzerfreundlichkeit und Gebrauchstauglichkeit - eine Maschine, welche einfach zu bedienen und freundlich im Umgang mit dem Interagierenden ist, wird auch mehr in Gebrauch genommen und führt zu gewinnbringenderen Resultaten als solche, die schwer zugänglich und anstrengend in der Handhabung sind. Wie wichtig die sozialen, gar humanistischen Aspekte eines Kl-basierten Assistenzsystems sind, wird im Fallbeispiel CIMON deutlich.

Im Folgenden werden zunächst 5 Prinzipien vorgestellt, die für eine humanistische Zusammenarbeit zwischen Mensch und Kl-basierten Systemen evident sein könnten. Im darauffolgenden Kapitel werden diese dann am Fallbeispiel CIMON exemplarisch dargestellt.

1. Schutz der interagierenden Person: Wie auch im zwischenmenschlichen Zusammenleben, muss auch im Kontakt mit Maschinen die Menschenwürde als oberstes Prinzip gelten. Zudem muss die Privatsphäre durch ein geltendes Datenerhebungsmanagement geschützt werden. Darünber hinaus muss die körperliche Unversehrtheit der interagierenden Person in allen Fällen und zu jeder Zeit gewährleistet sein.
2. Zentrierung des Kl-basierten Assistenzsvstems: Das Assistenzsystem muss menschenzentriert ausgerichtet und in Anbetracht adäquater Arbeitsteilung eingesetzt werden. Menschliches Handeln muss Vorrang haben. Gefahrenpotentiale für den Menschen sollen durch den Einsatz von Kl- basierten Systemen minimiert und Handlungsprozesse erleichtert werden. Das technische System der Kl, also auch allen voran die Algorithmen, müssen robust sein.
3. Usability & Humanismus: Usability, also die Benutzerfreundlichkeit, umfasst die Gebrauchstauglichkeit eines Produkts11 oder einer Maschine. Gebrauchstaugliche Maschinen sollte einfach zu Navigieren sein - sei es durch Sprachsteuerung oder per Tastatureingabe; das Feedback muss außerdem konkret eindeutig formuliert werden, damit keine Missverständnisse zwischen der interagierenden Person und der Kl entstehen; die visuelle Klarheit - gerade, wenn Bedienungsanleitungen, Tabellen etc. abgerufen werden - sollte gegeben sein, um Fehler zu vermeiden. Der Algorithmus des Systems sollte so programmiert und mit Datensätzen gespeist und so sensibilisiert werden, dass es zu keiner Diskriminierung kommen kann. „Studien zur MMI [Mensch­Maschine-Interaktion] (...) können erhellen, welchen Einfluss technisch­ästhetische Gestaltungsmerkmale (z.B das Interface-Design) auf die Kooperationsbereitschaft von Menschen gegenüber künstlichen Agenten haben.“12 Der Grad der Humanisierung des Assistenzsystems kann einen Einfluss auf die Kollaboration zwischen Mensch und Maschine haben. Studien, wie jene von Gerald Echterhoff zeigen, dass Menschen durch ihr sozial­kognitives Wesen eher mit Robotern interagieren, die menschliche Komponenten aufzeigen, als mit solchen, die wenig mit dem Menschen als Erscheinung gemein haben.13
4. Transparenz und Nachvollziehbarkeit: Das System muss transparent und erklärbar sein. Um der Rechenschaftspflicht bei Fehlervorkommnissen gerecht zu werden, müssen Algorithmen und Rechenleistungen möglichst nachvollziehbar sein.
5. Anpassung & Innovation: Im Rahmen eines Optimierungsmanagements sollten Rückmeldungen und Evaluationen des menschlichen Interakteurs berücksichtigt werden. Rückmeldungen können Justierungen des Arbeitsumfeldes, der Arbeitsteilung oder des Kl-basierten Assistenzsystems an sich ermöglichen - die insbesondere dann wichtig sind, wenn der maximale Innovationsgrad erreicht werden möchte.

Diese fünf denkbaren Gestaltungskriterien ergeben sich aus den Herausforderungen an den Schnittstellen zwischen Mensch und Maschine und der besonderen Schutzwürdigkeit des menschlichen Interakteurs. Im Nachfolgenden wird zunächst ein solches Assistenzsystem vorgestellt und darauffolgend auf ebendieses angewendet werden.

Fallbeispiel: Multimodaler KI-basierterAstronautenassistent CIMON®

„Der Einsatz von Künstlicher Intelligenz (Kl) eröffnet vielfältige Potentiale für ein sicheres, eigenverantwortliches und selbstbestimmtes Arbeiten (,..).“14 Dr. Norbert Huchler, Arbeitssoziologe

Astronauten verbringen sehr viel Zeit allein im All und haben zahlreiche Aufgaben zu bewältigen. Ingenieure des DLR, Airbus sowie IBM entwickelten einen fliegenden Bot, der zwei Kernfähigkeiten beherrschen sollte: zum Einen solle er den Astronauten bei wissenschaftlichen Tätigkeiten unterstützen und zum Anderen möge er im besten Falle präsent sein, um der Einsamkeit auf der Raumstation entgegenzuwirken15 - CIMON (Crew Interactive Mobile Companion) ist ein intelligenter Flugbegleiter mit integriertem multimodalen Kl-basierten Assistenzsystem. Weltweit ist er der erste selbstständig fliegende und „autonom agierende Astronauten-Assistent mit einer Künstlichen Intelligenz“16. Er war erstmals 2018 bei der Horizons-Mission auf der internationalen Raumstation ISS im Einsatz. Nicht zufällig erinnert die Namensgebung an den robotischen Assistenten Professor „Simon Wright“ aus der japanischen Science-Fiction-Serie „Captain Future“, welcher ebenso Anleitungen für Experimente und Reparaturen wiedergeben konnte. CIMON ist etwa medizinballgroß, wiegt fünf Kilogramm und kann fliegen, sehen, hören, sprechen und verstehen. Der interaktive Raumfahrtassistent kann den Astronauten Bedienungs-, Reparaturanleitungen und notwendige Informationen bereitstellen, sowie für den Astronauten wichtige Aspekte dokumentieren und fotografieren. Dies ermöglicht eine effizientere Arbeitsbewältigung bei den schwierigen Aufgaben im All. Matthias Biniok, Teamleiter bei IBM, betont, „dass anspruchsvolle Aufgaben weniger stressig sind, wenn die in Zusammenarbeit mit einem Kollegen erledigt werden“17. Ebendieser übernahm die Aufgabe, CIMON so zu programmieren, dass er nicht nur nützlich, sondern auch freundlich ist - und damit zu einem helfenden Arbeitskollegen, sowie auch mentaler Begleiter einer solchen Mission wird.

[...]


1 Johnson, Bryan: ZitataufWebsite, unter: https://www.kenbun.de/leistungen/ (abgerufen am 18.09.2021)

2 Innolytics. AG: Kollaboration - Fünf Prinzipien erfolgreicher Zusammenarbeit, unter: https://www.innolytics.de/kollaboration/ (abgerufen am 04.09.2021)

3 Moring, Andreas: Kl im Job, Leitfaden zur erfolgreichen Mensch-Maschine-Zusammenarbeit, Springer-Verlag Berlin Heidelberg, 2021, S.2

4 Deutsches Forschungszentrum für Künstliche Intelligenz, 600 Experten für Künstliche Intelligenz Unterzeichnen Aufruffür europäische Initiative, unter: https://www.dfki.de/web/news/experten-fr-knstliche- intelligenz-unterzeichnen-aufruf-fr-europische-initiative/ (abgerufen am 19.09.2021)

5 Gasparotti, Alessandro; Hoffmann, Anja: EU-Mitteilung, Ethik Leitlinien für Kl, Centrum für Europäische Politik, cepAnalyse Nr. 16/2019, Mitteilung COM(2019) 168, S.2.

6 Vgl. ebd. 5

7 Smuha, Nathalie: Ethik-Leitlinien für eine vertrauenswürdige Kl, Hochrangige Expertengruppe für künstliche Intelligenz, 2019, S.2.

8 Vgl. ebd. 7

9 Rotman, David: AI is reinventing the way we invent. The biggest impact of artificial intelligence will be to help humans make discoveries we couldn't make on our own. MITTechnology Review, 2019, unter: https://www.technologyreview.com/2019/02/15/137023/ai-is-reinventing-the-way-we-invent/ (abgerufen am 16.09.2021)

10 Huchler, Norbert (Hrsg.): Kriterien für die menschengerechte Gestaltung der Mensch-Maschine-Interaktion bei Lernenden Systemen - Whitepaper aus der Plattform Lernende Systeme, München 2020.

11 Drupal Agentur: Was heisst Usability?, unter: https://www.arocom.de/fachbegriffe/online- marketing/usability (abgerufen am 17.09.2021)

12 Echterhoff, Gerald; Nohner, Gerd; Siebler, Frank: „Social Robotics" und Mensch Maschine-Interaktion: Aktueller Forschung und Relevanz für die Sozialpsychologie, Zeitschrift für Sozialpsychologie, 37, 219-231, 2006

13 In welchem Ausmaß diese Art der Humanisierung sein möge ist umstritten. Leider würde eine Elaboration dieser Frage den Umfang dieser Arbeit erheblich überschreiten. Aus diesem Grund beschränke ich mich auf die Aussage „(...) eher mit Robotern interagieren, die menschliche Komponente aufzeigen, als mit solchen, die wenig mit dem Menschen als Erscheinung gemein haben."

14 Huchler, Norbert (Hrsg.): Kriterien für die menschengerechte Gestaltung der Mensch-Maschine-Interaktion bei Lernenden Systemen - Whitepaper aus der Plattform Lernende Systeme, München 2020. S. 3

15 IBM Personal: Project CIMON Journal (2018), unter: https://www.ibm.com/thought-leadership/smart/de- de/ai-in-space/de/journal/index.html (abgerufen am 14.05.2021)

16 Deutsches Zentrum für Luft- und Raumfahrt: CIMON - der intelligente Astronautenassistent (2018), unter: https://www.dlr.de/content/de/artikel/news/2018/l/20180302_cimon-der-intelligente- astronautenassistent_26307.html (abgerufen am 14.05.2021)

17 Ebd. 15

Ende der Leseprobe aus 17 Seiten

Details

Titel
Kodex für eine humanistische Kollaboration mit multimodalen KI-basierten Assistenzsystemen
Untertitel
Eine ethische Überlegung
Hochschule
Albert-Ludwigs-Universität Freiburg
Note
1,7
Autor
Jahr
2021
Seiten
17
Katalognummer
V1156948
ISBN (Buch)
9783346552815
Sprache
Deutsch
Schlagworte
kodex, kollaboration, ki-basierten, assistenzsystemen, eine, überlegung
Arbeit zitieren
Alena Wetter (Autor:in), 2021, Kodex für eine humanistische Kollaboration mit multimodalen KI-basierten Assistenzsystemen, München, GRIN Verlag, https://www.grin.com/document/1156948

Kommentare

  • Noch keine Kommentare.
Im eBook lesen
Titel: Kodex für eine humanistische Kollaboration mit multimodalen KI-basierten Assistenzsystemen



Ihre Arbeit hochladen

Ihre Hausarbeit / Abschlussarbeit:

- Publikation als eBook und Buch
- Hohes Honorar auf die Verkäufe
- Für Sie komplett kostenlos – mit ISBN
- Es dauert nur 5 Minuten
- Jede Arbeit findet Leser

Kostenlos Autor werden