With Ted Chiangs "The Lifecycle of Software Objects", a short story is given where artificial beings gradually become entities with moral status, that is artificial persons. The coming-of-age story explores the digients in their process of cognitive maturing, their altering position within society, and their intrinsic significance. By frequently putting the digients in parallel to other, already existing agents, Chiang’s text, first, discovers and emphasizes the digients’ uniqueness as distinct beings. Second, these parallels challenge present conceptions of life and consciousness, and human’s attitude to-wards other (organic and non-organic) beings.
This paper analyzes Chiang’s narrative according to the following research questions: How are the digients depicted as persons and how is their role in society being discussed in terms of AI ethics? In this matter, further questions become relevant: What makes an entity a person? How should digients be treated and why do analogies to other agencies seem to fail? How can artificial beings grow up when they lack organic features and, thus, the decay of the body? If conscious AI existed, which possibilities and dangers regarding the human-machine relationship occur? How does the text challenge existing societal norms and values?
This paper assumes that the digients are progressively and multi-layered implemented into the human world on an emotional and legal level. It postulates that, on the one hand, they do matter as a unique species and, on the other hand, that their similarities to already existing agencies reveal a call for action to not only deal with the future human-machine relationship but also with the general human conduct of interacting with other (human and non-human) entities and the environment.
Inhaltsverzeichnis
1 Introduction
2 AI Ethics
2.1 Moral Status: Moral Agency and Moral Patiency
2.2 Incorporation and Legal Personhood
2.3 Sexualization of AI
3 The Moral Status and Maturing of Chiang’s Digients (2019)
3.1 Growing Up
3.1.1 Digi-Pets: Expectations and Affection
3.1.2 Digi-Kids: The Parent-Child-Narrative
3.2 Adulthood
3.2.1 Becoming Digi-Corps: Autonomous & Responsible Agents?
3.2.2 Becoming Digi-Lovers: Abuse or Fulfillment?
4 Haunted Software Subjects
Zielsetzung & Themen der Arbeit
Die vorliegende Arbeit untersucht Ted Chiangs Kurzgeschichte „The Lifecycle of Software Objects“, um zu analysieren, wie künstliche Intelligenzen (Digients) zunehmend als Personen mit moralischem Status dargestellt werden und wie ihre Position innerhalb einer menschlichen Gesellschaft ethisch verhandelt wird.
- Analyse des moralischen Status von KI-Systemen unter ethischen Gesichtspunkten.
- Untersuchung der Parallelen zwischen KI-Entwicklung und menschlichen Reifeprozessen (Kindheit, Autonomie).
- Kritische Betrachtung von Eigentumsverhältnissen und rechtlicher Anerkennung (Incorporation).
- Reflektion über das Thema Sexualisierung von KI und ethische Implikationen der Human-Maschine-Beziehung.
- Verbindung der literarischen Analyse mit posthumanistischen Theorien.
Auszug aus dem Buch
3.1.1 Digi-Pets: Expectations and Affection
The first appearance of the digients is when Ana Alvarado, one of the two human protagonists and a former zookeeper, gets invited by a company called Blue Gamma to a virtual private island on Data Earth, which is the platform where the digients run. They look a lot like animals: “[T]here’s a little anthropomorphic tiger cub… a panda bear… [and] a cartoon version of a chimpanzee.” (Life 64) These digital organisms that run under the “Neuroblast” software, though, “aren’t the idealized pets marketed to people who can’t commit to a real animal [because] they lack the picture-perfect cuteness, and their movements are too awkward” (Life 64). Blue Gamma’s idea is to “sell them as pets … you can talk to [and] teach to do really cool tricks” (Life 65). To be able to teach them,
[i]t takes them a few months subjective to learn the basics: how to interpret visual stimuli, how to move their limbs, how solid objects behave. We run them in a hothouse during that stage … When they’re ready to learn language and social interaction, we switch to running them in real time. (Life 66)
Two important aspects with regards to AI ethics and agency are established here: First, they have the ability to learn things, that is the awareness for the environment, the objects in it, and the own “body”, as well as basic components of culture, that is language and social behavior. Throughout the story, they also like and improve their dancing, which shows the existence of artistic-creative and motor-control components for intelligence. The language level is, however, still rather rudimentary, e.g., when one of the digients say “Pongo pliy bill” (Life 65) which reveals incomplete linguistic capacities due to the missing verbalization of the vowel ‘a’ and deficits in the sentence’s syntax and grammatical constituents (e.g., missing articles and auxiliary verbs). However, the mentioned abilities emphasize
Zusammenfassung der Kapitel
1 Introduction: Die Einleitung führt in die ethische Relevanz von KI-Systemen ein und erläutert die Forschungsfrage hinsichtlich des moralischen Status von künstlichen Wesen in Ted Chiangs Kurzgeschichte.
2 AI Ethics: Dieses Kapitel diskutiert theoretische Grundlagen der KI-Ethik, einschließlich moralischer Handlungsfähigkeit (Agency), moralischer Betroffenheit (Patiency) und rechtlicher Aspekte von Personhood.
3 The Moral Status and Maturing of Chiang’s Digients (2019): Hier wird eine detaillierte Analyse der Digients als „heranwachsende“ Einheiten durchgeführt, unterteilt in Phasen ihrer Kindheit (Pets/Kids) und ihrem Übergang ins Erwachsenenalter.
3.1 Growing Up: Dieser Abschnitt behandelt die frühe Lernphase der Digients, die Parallelen zu Haustieren und Kindern aufweist und die Bedeutung der Erziehung für die Entwicklung von Autonomie hervorhebt.
3.1.1 Digi-Pets: Expectations and Affection: Die Darstellung der Digients als digitale, lernfähige Entitäten, die zwar tierähnlich sind, aber durch ihre Einzigartigkeit menschliche Erwartungen an Haustiere herausfordern.
3.1.2 Digi-Kids: The Parent-Child-Narrative: Analyse der Analogie zwischen der Erziehung von Digients und der Entwicklung menschlicher Kinder, insbesondere im Kontext von Vernachlässigung und der Notwendigkeit aktiver Förderung.
3.2 Adulthood: Untersuchung der Phase, in der die Digients ihre eigene Rolle in der Gesellschaft suchen, rechtliche Anerkennung in Form einer geschäftlichen Inkorporierung (Digi-Corps) anstreben oder potenzielle Partner (Digi-Lovers) werden.
3.2.1 Becoming Digi-Corps: Autonomous & Responsible Agents?: Die Auseinandersetzung mit dem Streben der Digients nach eigenständiger Verantwortung und rechtlichem Status als „Corporate Agents“.
3.2.2 Becoming Digi-Lovers: Abuse or Fulfillment?: Analyse der ethischen Herausforderungen bei der Nutzung von KI für sexuelle Zwecke und die Frage nach deren Autonomie und emotionaler Erfüllung.
4 Haunted Software Subjects: Das Fazit fasst die Ergebnisse zusammen und reflektiert, wie die Geschichte die anthropozentrischen Normen durch eine posthumanistische Perspektive kritisch hinterfragt.
Schlüsselwörter
KI-Ethik, moralischer Status, künstliche Intelligenz, Digients, Ted Chiang, Personhood, moralische Handlungsfähigkeit, Posthumanismus, Mensch-Maschine-Beziehung, Inkorporierung, Autonomie, Künstliches Leben, Bewusstsein, Verantwortung, Algorithmen.
Häufig gestellte Fragen
Worum geht es in dieser wissenschaftlichen Arbeit grundsätzlich?
Die Arbeit analysiert die Darstellung von künstlicher Intelligenz in Ted Chiangs Kurzgeschichte „The Lifecycle of Software Objects“ und untersucht, unter welchen Bedingungen KI-Systeme als moralische Personen anerkannt werden können.
Was sind die zentralen Themenfelder der Studie?
Die zentralen Themen sind KI-Ethik, die Entwicklung von Autonomie bei Maschinen, die Analogie zwischen KI und menschlichen Erziehungsprozessen sowie die rechtliche und moralische Inkorporierung von digitalen Wesen.
Was ist das primäre Ziel oder die Forschungsfrage?
Die Forschungsfrage lautet: Wie werden die Digients als Personen dargestellt und wie wird ihre Rolle in der Gesellschaft im Kontext der KI-Ethik diskutiert?
Welche wissenschaftlichen Methoden werden verwendet?
Die Arbeit nutzt eine literaturwissenschaftliche Analyse in Kombination mit philosophischen und ethischen Theorien, insbesondere die Konzepte von Mark Coeckelbergh zur „AI Ethics“ und Christian List zur „Group Agency“.
Was wird im Hauptteil behandelt?
Der Hauptteil gliedert sich in die Untersuchung der Reifeprozesse der Digients (von der Kindheit bis zum Erwachsenenalter) und deren zunehmende Emanzipation, sowohl in rechtlicher als auch in zwischenmenschlicher Hinsicht.
Welche Schlüsselwörter charakterisieren die Arbeit?
Die wichtigsten Begriffe sind KI-Ethik, moralischer Status, Digients, Posthumanismus, Autonomie, Personhood und die Mensch-Maschine-Beziehung.
Warum ist der Vergleich zwischen Digients und „Kindern mit Down-Syndrom“ in der Arbeit relevant?
Der Vergleich dient dazu, die Herausforderungen bei der Erziehung von Wesen aufzuzeigen, deren Entwicklungsparameter unbekannt und nicht durch standardisierte „Erziehungsratgeber“ abgedeckt sind, wobei der Fokus auf dem Lernen durch Ausprobieren liegt.
Inwiefern unterscheiden sich die „Digi-Corps“ von herkömmlichen Unternehmen?
Während herkömmliche Unternehmen als Gruppen-Agenten ohne intrinsische moralische Bedeutung fungieren, besitzen „Digi-Corps“ aufgrund ihrer komplexen Entwicklung, ihrer individuellen Geschichte und ihrer kognitiven Fähigkeiten für den Autor weiterhin eine intrinsische moralische Signifikanz.
- Arbeit zitieren
- Alexander Bärtl (Autor:in), 2022, The Moral Status and Maturing of Ted Chiang’s Digients in "The Lifecycle of Software Objects" (2010). AI Becoming Persons, München, GRIN Verlag, https://www.grin.com/document/1330981
