0  Vorwort zur Veröffentlichung auf Grin.com  3

1  Einleitung  4

1.1  KI-Technologien in Literatur und Film  5

1.2  KI in den Medien  8

1.3  KI und Robotik in wissenschaftlichen Fachzeitschriften  11

2  Definitionen  14

3  Anthropologische Aspekte von KI-Technologien  19

3.1  Philosophische Anthropologie vor Alan Turing  20

3.2  Die Rolle der physischen Beschaffenheit in Bezug auf die  

anthropologische  Differenz  22

3.3  Alan Turing’s These von einer denkenden Maschine  26

3.4  John Searle’s “Chinese Room -Argument  36

3.5  Searle s Einwand gegen den Dualismus.  40

3.6  Wie ist es, ein Computer zu sein?  42

3.7  Debuggen des Bewusstseins  54

4  Ethische Aspekte.  59

4.1  Maschinen in Domänen des Menschen  62

4.2  Quasi-Verantwortung  70

4.3  Der Schutz des künstlichen Bewusstseins  73

4.4  Künstliche Daseinsformen als Rechtssubjekte  75

4.5  Der Frankenstein-Komplex  78

5  Fazit  81

6  Literaturverzeichnis  83

7  Index  87

- 2 -

0 Vorwort zur Veröffentlichung auf Grin.com

Die vorliegende Magisterarbeit wurde von Univ.-Prof. Dr. Dieter Birnbacher mit der Note 2,0 bewertet, der Zweitgutachter Univ.-Prof. Dr. Christoph Kann vergab die Note 1,75. Die Gutachten kann ich leider nicht veröffentlichen. Für Interessierte ist eventuell relevant, dass beide Gutachter eine Verkürzung der Thematik aufgrund der Stoffüberfülle (besonders im Mittelteil) attestiert haben. Prof. Birnbacher kritisierte außerdem, dass die „Künstliche Daseinsform“ definitorisch unausgegoren ist, da die Definition auf der potenziellen Entwicklung einer Vorstellung vom eigenen Ich basiert, diese Potentialität jedoch angesichts von Phänomenen wie der biologischen Evolution schwerlich eine Grenzziehung erlaubt.

In dieser Ausgabe für Grin.com wurden einige Schreibfehler korrigiert und ein Index wurde hinzugefügt. Über Fragen oder Anmerkungen zu diesem Text würde ich mich freuen. Sie erreichen mich per E-Mail unter

1 Einleitung

Die philosophische Beschäftigung mit künstlicher Intelligenz und der Möglichkeit eines künstlichen Bewusstseins hat Konjunktur. Nach anfänglich hohen Erwartungen in die Leistungsfähigkeit der künstlichen Intelligenz ebbte die Begeisterung, die seit dem Ende des Zweiten Weltkriegs und der Verfügbarkeit größerer Rechenanlagen aufgekommen war, Ende der 80er Jahre ab. Die Budgets für diese Forschungsrichtung wurden teilweise drastisch gekürzt, einige kommerzielle Erfolge - zum Beispiel von Expertensystem ¹ - ließen sich nicht fortführen. In den Bereichen, denen Forscher sich dann zuwendeten - wie zum Beispiel eine automatische Textübersetzung oder die algorithmische Beschreibung von Sprache allgemein - wurde es immer schwieriger und teurer, auch nur kleine Fortschritte zu erzielen.

Inzwischen scheint die erste große Krise der KI-Technologien überwunden. Neue Erfolge in Spezialdisziplinen wie der Mustererkennung ² geben Grund zu der Annahme, dass die KI entwicklungsfähig bleibt. Gestützt wird dies durch die stetig wachsende Kapazität und Verarbeitungsgeschwindigkeit der verfügbaren Hardware.

Die vorliegende Arbeit beschäftigt sich mit anthropologischen und ethischen Aspekten von KI-Technologien. Das Gewicht liegt auf der Nachprüfbarkeit der Differenz von Mensch und Maschine und auf der Fragestellung, welche KI-Technologien in welchem Kontext überhaupt als wünschenswert erscheinen. Die Einleitung gibt einen Überblick über die Aufmerksamkeit, die Literatur und Film sowie Medien und Fachmedien dem Thema KI und Gesellschaft widmen. In Kapitel 2 folgen einige Definitionen. Insbesondere wird versucht, mit dem Begriff „künstliche Daseinsform“ einen Begriff zu prägen, für den es bisher keine adäquate Entsprechung gibt. Kapitel 3

¹ Systeme, die auf der Basis von Expertenwissen zur Analyse und Lösung von Problemstellungen verwendet werden, zum Beispiel in der medizinischen Diagnostik.

² Die Fähigkeit, Muster und Gesetzmäßigkeiten in einer Reihe von Daten zu erkennen, zum Beispiel zur automatischen Indexierung von Texten oder zur Trendanalyse von ökonomischen Daten.

- 4 -

untersucht die anthropologischen Aspekte, wobei die Mensch-Maschine-Differenz und die Validität der Begründung dieser Differenz im Vordergrund stehen. Kapitel 4 diskutiert ethische Fragestellungen: Unter welchen Bedingungen erscheint es ethisch vertretbar oder geboten, Aufgabenbereiche, die bisher von Menschen abgedeckt wurden, zukünftig mit intelligenten Maschinen zu besetzen? Unter welchen Bedingungen erscheint es notwendig, einer Maschine mit bestimmten Eigenschaften bestimmte Rechte und Pflichten zuzuschreiben?

1.1 KI-Technologien in Literatur und Film

Science-Fiction, Literatur und Kunst sind wertvolle Ideengeber für eine Untersuchung über ein Thema, das empirisch bisher nur in Ansätzen erforscht werden kann. Die Popularität der Thematik in der Science-Fiction-Literatur kann durch drei fiktionale Texte verdeutlicht werden, die in den Jahren 1968 bis 1978 veröffentlicht und zwischen 1982 und 2001 verfilmt wurden. Alle drei Verfilmungen waren an den Kinokassen erfolgreich. 1982 brachte Ridley Scott mit „Blade Runner“ die 1968 erschienene Novelle „Do Androids dream of electric sheep?“ von Philip K. Dick (2001) auf die Leinwand. Eine wichtige Rolle in Film und Buch spielt eine Variante des Turing-Tests ³ , der es dem Kopfgeldjäger Deckard ermöglicht, Menschen und hochgradig menschenähnliche Androiden ⁴ voneinander zu unterscheiden. Der philosophisch ergiebigste Teil der Handlung ist die Durchführung eines solchen Tests an einem weiblichen Androiden. Weder Deckard noch der Android wissen, dass es sich hierbei nicht um einen Test an einer menschlichen Person handelt, Deckard findet dies jedoch nach einem längeren Test heraus. Anschließend stellt er die Frage: „How can it not know what it is?“ Der Hersteller des Androiden, der

³ Ein Test auf menschenähnliche Reaktionen einer Maschine, den der britische Mathematiker und Computerwissenschaftler Alan Turing konzipiert hat, der Test und die zugrundeliegende Theorie wird in Abschnitt 3.3 ausführlich dargestellt.

⁴ Im Film werden die Androiden aus dem Buch „Replikanten“ genannt. Die Androiden im Film können nur durch die Untersuchung einer Knochenmarksprobe sicher von Menschen unterschieden werden. Sowohl Androiden als auch Replikanten sind also künstliche Produkte (deren Herstellungsprozess nicht weiter erläutert wird), bestehen jedoch aus organischem Material.

- 5 -

sich dem Androiden gegenüber als sein Onkel ausgegeben hat, antwortet: „Memories, if we give them memories, we can control them better.“ Zweifellos sind Erinnerungen eine wichtige Voraussetzung für die Konstitution einer persönlichen Identität, und persönliche Identität ist eine wichtige potenzielle Eigenschaft des Menschen. Festzuhalten bleibt, dass die Fähigkeit, Ereignisse zu speichern, abzurufen und zu verarbeiten (und nicht zuletzt wieder zu löschen), eine wichtige menschliche Eigenschaft ist. Isaac Asimov war einer der beharrlichsten Autoren von Geschichten über Roboter. Er erfand unter anderem die häufig diskutierten „Three Laws of Robotics“. Asimov‘s Anliegen war es, in seinen Robotergeschichten einen Gegenentwurf zu den in den 40er und 50er Jahren des 20. Jahrhunderts bekannten Roboter-Monsterszenarien zu liefern. Bis 1958 lehrte Asimov als Professor der Biochemie. Dann wurde er hauptberuflich Schriftsteller, beschäftigte sich aber weiterhin intensiv mit der Wissenschaft. Asimovs Geschichten blieben wahrscheinlich auch deshalb meistens innerhalb der Grenzen des wissenschaftlich Denkbaren. Er hielt die 1978 veröffentliche Erzählung „The Bicentennial Man“ (1990a) für eine seiner besten Robotergeschichten. Auch diese Novelle wurde 1999 unter der Regie von Chris Columbus verfilmt. Der „Zweihundert-Jahre Mann“ ist der Roboter Andrew, der eine Anomalie seiner Produktionsserie aufweist und eine Persönlichkeit entwickelt. Im Alter von 150 Jahren - Andrew hat seinen Körper inzwischen so weit modifiziert, dass er einem Menschen äußerlich perfekt ähnelt - verlangt er, als Mensch anerkannt zu werden. Dies wird ihm mit der Begründung verweigert, dass er nicht Teil des menschlichen Gen-Pools ist und dass er außerdem potenziell unsterblich sei; ein Faktum, das die Menschheit unter Ihresgleichen niemals akzeptieren könnte. Andrew gibt in seinen Bemühungen jedoch nicht klein bei, sondern lässt sich verschleißende Komponenten einbauen, die ihn Jahrzehnte später gebrechlich werden lassen. Im Alter von 200 Jahren wird er - der Funktionsunfähigkeit nahe - schließlich „zum Menschen ernannt“ und stirbt kurze Zeit später.

- 6 -

Der Androide überwindet also die unterschiedlichen genetischen Ursprünge von Mensch und Maschine. Die Menschenähnlichkeit auf anderen Gebieten wiegt stärker als der nicht natürliche Ursprung des Androiden. ⁵ Brian Aldiss veröffentlichte 1969 die Kurzgeschichte „Supertoys Last All Summer Long“ (2001), die von einem Androiden in Jungengestalt handelt, der einem Ehepaar als Ersatz für ein menschliches Kind dient. Stanley Kubrick kaufte 1982 die Filmrechte und beauftragte Aldiss, ein Drehbuch herzustellen. Kubrick selber erweiterte den Inhalt stark und führte zum Beispiel die Parallele zur Geschichte von Pinocchio ein. Nach langem Hadern mit dem schwer zu verfilmenden Stoff gab Kubrick die Rechte schließlich an Steven Spielberg weiter, der die stark erweiterte Handlung 2001 unter dem Titel „A.I. Artificial Intelligence“ in die Kinos brachte.

Im Film ist der Roboterjunge David besessen von der Idee, die Liebe der Frau zu gewinnen, als deren Ersatzsohn er gedient hat, solange ihr leibliches Kind im Koma lag. Er macht sich deshalb auf die Suche nach der blauen Fee, die aus der Holzpuppe „Pinocchio“ am Ende des gleichnamigen Buches von Carlo Collodi einen Jungen macht. Die Suche führt David in die Werkstatt seines Schöpfers, in der er erfahren muss, dass er kein Unikat, sondern Teil einer Baureihe ist, was ihn verzweifeln lässt und zur Selbstaufgabe bringt. Abgesehen davon, dass hier die ethische Perspektive klar auf die Rechte des Androiden fokussiert, wird der Bedeutung der Individualität im Film besonderes Gewicht verliehen. Spielberg führt die Geschichte in ein posthumanes Märchen weiter: Tausende von Jahren später ist die Erde von einer Eisschicht umgeben, und außerirdische Forscher finden David und reaktivieren ihn. Für die Außerirdischen wird David lebendes Zeugnis der menschlichen Kultur; sie nennen ihn ein Original, weil David Kontakt zu Menschen hatte. Dies ist eine Variante der Visionen der Posthumanisten, denen zufolge vom Menschen geschaffene Lebensformen eine Parallelgesellschaft oder auch eine eigenständige Gesellschaft nach dem Ende der Existenz der menschlichen Gesellschaft bilden werden.

⁵ Die Menschenähnlichkeit allgemein ist Thema von Kapitel 3 (anthropologische Aspekte), die Bedeutung von Vorteilen oder Nachteilen der Maschine gegenüber der Maschine (zum Beispiel die mögliche Unsterblichkeit des Androiden) wird bei den ethischen Aspekten (Kapitel 4) thematisiert.

- 7 -

Die kognitiven Fähigkeiten heute verfügbarer Roboter sind weit entfernt von denen eines David oder eines Andrew. Bemerkenswert ist, auf welches Interesse dieses Vortasten der Kunst bei den Publika stößt und welche Entwicklungen als möglich erachtet werden. Manches Science-Fiction-Werk hat sich später als erstaunlich voraussehend erwiesen, zum Beispiel Jules Vernes „De la Terre à la Lune“, das 1865 eine Landung auf dem Mond beschrieb, die über 100 Jahre später in erstaunlicher Übereinstimmung tatsächlich unternommen wurde. Dies darf jedoch nicht zu Denkbarrieren führen, etwa in der Form, dass die in der Science-Fiction entwickelten Figuren und Themen die Ahnung von anderen und mindestens genauso wahrscheinlichen Entwicklungen verhindern. So ist in den oben genannten Geschichten zum Beispiel die Darstellung des Wunsches der Roboter überrepräsentiert, sich einem menschlichen Ideal zu nähern. Dies wird andererseits durch Science-Fiction-Werke überkompensiert, die pessimistische Wendungen wie zum Beispiel einen Krieg von Menschen gegen Maschinen oder die Versklavung der Menschheit durch Maschinen vorführen ⁶ . Eingedenk dieser nötigen kritischen Distanz hat die Science-Fiction-Literatur wertvolle Gedankenexperimente entwickelt, und zwar im Sinne des Schriftstellers und Philosophen Stanislaw Lem, für den Science-Fiction-Literatur ein Mittel war, um die Veränderungen durch zukünftige Technologien so weit zu extrapolieren, wie nur irgendwie möglich.

1.2 KI in den Medien

Seit Informationstechnologien für viele Menschen zum Alltag gehören, nimmt auch die mediale Berichterstattung über die Erforschung und die zu erwartende Entwicklung von KI-Technologien zu. So berichteten die Medien 1996 ausführlich über den Sieg des Computers „Deep Blue“ von IBM gegen den damals amtierenden Schachweltmeister Garri Kasparow. Die heute bereits verfügbaren digitalen Helfer wie die Grammatikprüfung einer Textverarbeitung oder die schnelle Internetsuche in Milliarden von Dokumenten und die Unterhaltungsangebote in virtuellen Welten erwecken neue Begehrlichkeiten.

⁶ Zum Beispiel in James Camerons „Terminator“ (1984) oder in „Matrix“ von Andy und Larry Wachowski (1999).

- 8 -

Nach anfänglichem Erstaunen wird der Zustand nach dem Zugewinn an Komfort und Erlebnisqualität schnell zum neuen Standard. Dieser - zumindest in den Medien gerne rezitierte - Anspruch der Konsumenten führt zum Beispiel zu der Überlegung, wie praktisch ein Androide als Lebens- und Sexualpartner sein könnte. So berichtet die Zeitschrift „Technology Review“ (Ausgabe 03/08) im Titelthema „Liebe Deine Maschine!“ über stolze Toaster und Lebenspartner aus Silikon. Die Berichterstattung beschränkt sich meistens auf ähnliche Aspekte wie die Berichterstattung über neue Mobilfunkgeräte: Was kann es, was wird es kosten, wann ist es verfügbar. Die Frage, ob eine bestimmte Funktion überhaupt gebraucht wird oder noch gebraucht wird oder die Frage nach unerwünschten Nebenwirkungen einer neuen Technologie werden seltener gestellt. Erst wenn das Kind in den virtuellen Brunnen gefallen ist, nehmen die Medien diesen Faden auf: Unter dem Titel „Verloren in der virtuellen Welt“ berichtet die „Zeit“ (Ausgabe 25/2008) über eine Gesamtschule, die aus Verzweiflung über Mobbing-Kampagnen in virtuellen Schülernetzwerken die Nutzung von Computern in der Schule weitgehend unterbindet und Eltern vor den Gefahren des Internets warnt. Die Verwendung von Mobilfunkgeräten ist in dieser Schule dem Bericht zufolge ebenfalls nur noch sehr beschränkt erlaubt, unter anderem, weil Pädagogen und Psychologen vor einer Abschottung von authentischen Erlebnissen warnen. Noch stehen nicht die intelligenten Agenten in virtuellen Welten oder gar physische Androiden im Zentrum der Kritik, sondern virtuelle Kontakte mit Chat- oder Spielpartnern, die letztendlich meist von Menschen - (noch) nicht von darauf spezialisierten Programmen - gesteuert werden. Dies würde sich ändern, wenn erstmalig eine Rufmordkampagne nachgewiesen werden könnte, die einem intelligenten Agenten zugeschrieben werden kann. Einen neuen medialen Höhepunkt würde dieses Thema analog zur Schachpartie von „Big Blue“ gegen Garri Kasparow bei der Aufdeckung des ersten Mordes erreichen, der von einer Maschine an einem Menschen verübt wurde.

Die schon angesprochene Frage, inwiefern umgekehrt eine künstliche Person einen Anspruch auf bestimmte Rechte haben könnte, wird in der Ethik ernsthaft, aber uneinheitlich diskutiert. Auch dieses Thema hat die Publikumszeitschriften erreicht und produziert gemischte Resonanzen. So schreibt Gianmarco Veruggio, Ingenieur und Initiator der „Roadmap für Roboethik“, im „Lettre International“ über den „Unfug des angeblichen Bewußtseins und die

- 9 -

Gefühle oder Rechte von Robotern“ (Veruggio 2008, S. 214) und plädiert für einen unbekümmerten Umgang mit der Technik nach dem Vorbild der pragmatischen Herangehensweise in Japan und Korea. Er geht davon aus, dass „wir in wenigen Jahren mit Robotern leben, die über Selbsterkenntnis* und Autonomie*“ (ebd., S. 216) verfügen werden, und er zeichnet künstlich erzeugte, aber eigentlich menschliche Eigenschaften wie „Selbsterkenntnis“ mit einem Stern aus, um zu signalisieren, dass diese Eigenschaften - wenn sie denn bei einem Roboter erzeugbar wären, was seiner Meinung nach möglich wäre - etwas ganz anderes sind, als die typähnlichen Eigenschaften des Menschen. Daraus folgt, dass in der „Roadmap für Roboethik“ „Scheinprobleme der Art, ob Roboter als Sklaven missbraucht werden können“ nicht behandelt werden sollten, solange es nicht gelingt „weltweit die Menschenrechte durchzusetzen“ (ebd., S. 216). Womit aller Wahrscheinlichkeit nach einem Roboter, der tatsächlich „Selbsterkenntnis*“ erlangt, ewige Frohnarbeit sicher wäre ⁷ . Veruggio wünscht sich außerdem, dass „Philosophen, Juristen oder Geisteswissenschafter“ (ebd., S. 214) mit den Robotikern zusammenarbeiten, mahnt aber gleichzeitig an, dass diese die „moralische Bewertung ihrer Tätigkeit [der Robotiker] unterlassen“ (ebd.) Einen ähnlichen Wunsch würde sicherlich ein Waffen-Lobbyist einbringen, und der Vergleich passt, da Veruggio selber empfiehlt „Roboter als nichtkonventionelle Waffen einzustufen“ (ebd., 216). Veruggio sieht keinen Sinn darin, mittels eines „‘Ethik-Chips‘ auf der Festplatte“ ([sic] ebd., S. 214) ethisches Verhalten zu simulieren. Für ihn manifestiert sich der ethische Einsatz nur in der Ethik der Menschen, die Roboter „entwickeln, bauen und verwenden“ (ebd.). Dem Roboter werden also nicht nur moralische Rechte sondern auch Pflichten abgesprochen. Veruggio sieht zwar „Intelligenz*“, „Autonomie*“ und „Selbstbewusstsein*“, aber keine „Ethik*“. Robotik im Sinne Veruggios könnte demnach eine riskante Unternehmung werden. Während einige Werke der Science-Fiction-Literatur hervorragende Ideengeber für folgende Untersuchungen sind, scheint eine objektive Information

⁷ Außerdem ist die Aussage ethisch vollkommen haltlos. Es kann zum Beispiel für Gesellschaft A kein Argument gegen die Anwendung eines Tierschutzgesetzes g sein, dass Gesellschaft B die in g vorgeschriebenen Normen nicht einmal gegenüber Menschen erfüllt, wenn dies keinen Ressourcenkonflikt darstellt.

- 10 -

und Verifizierung aus Publikumszeitschriften - obwohl kein Boulevard-Journalismus betrachtet wurde - kaum möglich. Dies ist eine Indikation dafür, dass die Kartografie des Themengebiets noch weitgehend unvollständig ist, mit der Folge, dass manche Interessenten eine Möglichkeit sehen, leicht ein Claim abzustecken.

1.3 KI und Robotik in wissenschaftlichen Fachzeitschriften

Die zukünftige Entwicklung von und das zukünftige Zusammenleben mit autonomen Maschinen ist nicht nur Thema in Science-Fiction und den Medien. Außer der Informatik und verwandten Wissenschaftsbereichen befassen sich auch die Geisteswissenschaften, denen sich die Arbeit nach diesem einleitenden Exkurs wieder zuwenden soll, bei tendenziell zunehmender Forschungstätigkeit mit KI-Technologien. Abbildung 1 zeigt die Entwicklung der Veröffentlichungen zur Philosophie (allgemein) und KI in den Jahren 1991 bis 2007. Alle Zahlen wurden auf Basis von Zeitschriftenartikeln ermittelt, die in der „Springer Science+Business Media“-Datenbank (www.springerlink.de) verfügbar sind.

Abbildung 1: Publizierte Zeitschriftenaufsätze aus den Fachbereichen KI und Philosophie

Beide Disziplinen zeigen einen deutlichen Aufwärtstrend bei der Anzahl der Veröffentlichungen pro Jahr. In der Forschung zur KI und zur Robotik ist dieser

- 11 -

Trend mit plus 138 Prozent deutlicher als bei der Philosophie mit plus 74 Prozent. Ein Großteil der Veröffentlichungen zu KI und Robotik fallen in technische Bereiche. Nur 5 Prozent der Aufsätze sind explizit der Philosophie zugeordnet, und darin maßgeblich der Sprachphilosophie und der Philosophie des Geistes. Die Entwicklung der letztgenannten Disziplinen innerhalb der KI zeigt Abbildung 2. Während die Entwicklung bei der Sprachphilosophie auf ein stagnierendes Interesse hinweist, hat sich die Anzahl der Artikel zu KI in Bezug auf die Philosophie des Geistes mehr als verdoppelt (plus 116 Prozent ⁸ ).

Abbildung 2: Aufsätze zur KI aus den Bereichen Sprachphilosopie und Philosophie des Geistes

Auch wenn die absolute Anzahl der Veröffentlichen mit 64 im Jahr 2007 im Vergleich zu den insgesamt 1.732 Veröffentlichungen zu KI und Robotik eher mager aussieht, so zeigt Abbildung 3 doch, dass die prozentuale Zunahme der Veröffentlichungen zur Philosophie des Geistes in Hinsicht auf KI-Technologien mit der Zunahme der Anzahl von Veröffentlichungen zu KI und Robotik insgesamt mithalten kann.

⁸ Zur Ermittlung der prozentualen Veränderung wurden nicht die Anfangs- und Endwerte, sondern der Mittelwert aus den ersten drei Anfangs- und Endwerten verwendet.

- 12 -

Abbildung 3: Prozentuale Veränderung der Anzahl an Publikationen aus KI und Philosophie des

Geistes im Vergleich zu der Anzahl im Jahr 1992

Mit einem Plus von 116 Prozent zeigt das Thema Philosophie des Geistes im Hinblick auf KI wesentlich stärkere Zuwächse als die Philosophie allgemein mit plus 74 Prozent. Insofern kann davon gesprochen werden, dass KI-Technologien in der Philosophie auf ein überproportional steigendes Interesse in der Forschung treffen. Eine Aufschlüsselung auf Bereiche der Anthropologie und der Ethik und deren Verbund mit Themen aus der KI-Forschung konnte der Datenbank leider nicht entnommen werden.

Eine Auswahl einschlägiger Journale besteht aus „AI & Society“ (Springer London, seit 1987) mit einem dem Titel entsprechenden Fokus auf die gesellschaftliche Relevanz von KI-Technologien. „Minds and Machines“ (Springer Netherlands, seit 1991) ist auf philosophische Aspekte der Computerwissenschaft im Allgemeinen und der KI im Speziellen befasst. „Artificial Intelligence and Law“ (Springer Netherlands, seit 1992) veröffentlicht Artikel über Entscheidungshilfesysteme in den Rechtswissenschaften und über theoretische und praktische Untersuchungen der Relevanz von KI-Technologien im Bereich von Recht und Gesetz.

- 13 -

2 Definitionen

Da einige der in diesem Text verwendeten Schüsselbegriffe in Literatur und Alltagssprache uneinheitlich verwendet werden, folgen Klärungen zur Begriffsverwendung.

Maschine: eine Vorrichtung, die eine bestimmte Energieaufnahme hat und in eine Form von Leistung umwandelt.

Roboter: „Nach Norm ISO 8363 ein universell einsetzbarer Handhabungsautomat mit mindestens drei Achsen, deren Bewegungen ohne mechanische Eingriffe programmierbar sind.“ (Kornwachs 2002, S. 131). Die Arbeitsgruppe um Christaller et al. (2001, S. 19) schlägt vor, die Definition zu erweitern, da diese Norm ungefähr dem Wissensstandpunkt von 1990 entspricht und wesentliche Eigenschaften moderner Roboter unterbetont. Der Wortlaut der Arbeitsgruppe ist:

„Roboter sind sensumotorische Maschinen zur Erweiterung der menschlichen Handlungsfähigkeit. Sie bestehen aus mechatronischen Komponenten, Sensoren und rechnerbasierten Kontroll- und Steuerungsfunktionen. Die Komplexität eines Roboters unterscheidet sich deutlich von anderen Maschinen durch eine größere Anzahl von Freiheitsgraden und die Vielfalt und den Umfang seiner Verhaltensformen“.

Robotik: Der von Isaac Asimov (1990b) geprägte Begriff bezeichnet heute relativ lose die wissenschaftliche Auseinandersetzung mit Anwendungsgebieten und Technologiefolgen von Robotertechnologien. Die Disziplin wird mit wechselnden Schwerpunkten der Informatik, dem Maschinenbau und der Elektrotechnik zugerechnet. Mittlerweile zeichnet sich ab, dass Robotik als interdisziplinärer Forschungsgegenstand oder langfristig als eigenständige Disziplin gesehen werden muss. Das Handbuch “Robotik“ aus der Springer-Reihe „Wissenschaftsethik und Technikfolgenbeurteilung“ (Christaller et al. 2001) wurde zum Beispiel von Forschern aus den Fachbereichen Elektrotechnik, Mathematik, Medizin (Neurochirurgie, Gesundheitsökonomie), Philosophie, Physik und Rechtswissenschaften verfasst.

- 14 -

Androide: (griechisch „menschenförmig“) ein äußerlich menschenähnlicher Roboter. Ein Androide kann optional bestimmte Verhaltensweisen zeigen, wesentlich für seine Definition sind jedoch nur die Animation und das Aussehen des Androiden. Als eine Messlatte dafür, wie menschenähnlich ein Androide sein muss, um sich von einem Roboter zu unterscheiden, kann die Überwindung des sogenannten Uncanny-Valley herangezogen werden. Dieses „unheimliche Tal“ wird bei der Akzeptanz eines Roboters (und von Artefakten allgemein) durch einen Beobachter aufgefunden. Zunächst lässt sich der Grad der Vertrautheit dadurch steigern, dass die Menschenähnlichkeit des Roboterdesigns optimiert wird. Sobald jedoch ein bestimmtes Maß an Menschenähnlichkeit erreicht ist, die Maschine aber immer noch deutlich von einem Menschen unterscheidbar ist, nimmt die Vertrautheit schlagartig ab. Die Roboter werden nicht mehr als solche wahrgenommen, sondern als defizitäre Menschen, was Unsicherheit und Ängste erzeugt. Erst bei einer zusätzlich gesteigerten Anthropomorphität kann der - dann definitionsgemäße - Androide das Vertrauen des Beobachters wieder gewinnen.

Abbildung 4: Das Uncanny Valley (MacDorman 2005, S. 1)

Cyborg: Bezeichnung für ein teilweise natürliches, teilweise künstliches Lebewesen, beispielsweise ein Roboter mit einem menschlichen Gehirn. Die Grenzen der „Cyborgisierung“ sind unscharf, so kann im Extremfall schon die

- 15 -

Verwendung einer Armbanduhr - und das Angewiesensein auf ihre Funktionalität - als ein Schritt in die Entwicklung zum Cyborg angesehen werden (vgl. Clarke, 2004). Dadurch erscheint eine fortschreitende Cyborgisierung ganzer Teile der Gesellschaft möglich. Die Technik der Mensch-Maschine-Schnittstellen macht derzeit enorme Fortschritte, exemplarisch dafür sind Cochleaimplantate, die vielen Gehörlosen mit intaktem Hörnerv nach intensivem Hörtraining wieder eine akustische Verständigung ermöglichen. Das Implantat wandelt dazu Schall in elektrische Signale, und überträgt diese direkt an den Hörnerv. Dies wird erst durch die enorme Plastizität und Flexibilität des Nervensystems ermöglicht, die Bereitschaft der Nervenenden an künstliche Impulsgeber „anzudocken“ ist wesentlich größer als bisher vermutet und die Signale - die aus vollkommen unterschiedlichen Nervenimpulsen stammen als bei Signalen durch natürliche Hörorgane - können neu interpretiert werden, das Gehirn geht also nach einigem Training dazu über, die unbekannten Signale zum Beispiel als Sprachelemente aufzufassen.

Intelligenz: ein paradoxerweise in der KI-Forschung wegen seiner Vieldeutigkeit inzwischen wenig verwendeter Begriff (Görz 2003, S. 22). Intelligenz bezeichnet typischerweise eine allgemeine geistige Leistungsfähigkeit, zum Beispiel die Fähigkeit zur Lösung bestimmter intellektueller Probleme. In der KI ist die menschliche Intelligenz das Maß und die Forschung konzentriert sich auf die Simulation der Form von Intelligenz, die vom menschlichen Intellekt her bekannt ist.

Schwache / starke künstliche Intelligenz (week AI / strong AI): Diese Unterscheidung wurde von John Searle eingebracht. Schwache künstliche Intelligenz weisen Maschinen auf, die zwar bestimmte Probleme lösen können (auch komplexe Probleme wie das Bestreiten einer Schachpartie), die jedoch im Gegensatz zu einer starken KI nicht über höhere geistige Fähigkeiten wie Selbstwahrnehmung, Intentionalität, Emotionalität und Kreativität verfügen. Ob die Realisierung einer starken KI überhaupt möglich ist (oder nur dann, wenn ein völlig neues Verständnis und neue Technologien verfügbar sind), bleibt bisher Gegenstand von Spekulationen aller Fachbereiche, die mit dem Thema befasst sind. Ein Diskussionspunkt ist auch, ob jemals verifiziert werden kann, dass eine Maschine tatsächlich über eine starke KI verfügt. Der aktuelle Stand der Technik

- 16 -

ist, dass es eine Vielzahl von Anwendungen schwacher KI-Technologien gibt und dass die Anwendungsbereiche und die Kapazitäten dieser Technik stetig weiterentwickelt werden. Das Attribut „schwach“ wird für diese intelligenten Systeme normalerweise nicht gebraucht. Die Unterscheidung schwach / stark ist eine philosophische und keine technische Unterscheidung. Schwache KI findet zum Beispiel Anwendung in Mensch-Maschine-Interaktionstechniken wie Benutzeroberflächen, in Systemen, die Wissen verarbeiten und zugänglich machen, bei autonomen Maschinen wie Robotern für das Militär oder in der Raumfahrt (die bei zeitweise ausfallender Steuerung aktionsfähig bleiben müssen) und bei künstlichen Personen in virtuellen Welten, wie zum Beispiel in Computerspielen.

Die Realisierung einer starken KI dagegen ist nach wie vor Vision.

Intelligenter Agent: Programme mit sehr unterschiedlichen Lern- und Intelligenzkapazitäten können intelligente Agenten sein. Gemeinsam ist allen intelligenten Agenten, dass sie wahrnehmen und die äußere Welt beeinflussen können (Input / Output), dass sie weiterhin über ein Gedächtnis verfügen und mittels interner Probehandlung und Abwägung dazu fähig sind, ihre Handlung zu steuern (vgl. Görz, 2003, S. 951). Der intelligente Agent wird also durch bestimmte intellektuelle Fähigkeiten definiert und steht in seiner Definition daher dem Androiden gegenüber, der nur durch sein Äußeres definiert ist. Es ist jedoch möglich, einen intelligenten Agenten mit einem Androiden zu kombinieren, um einen intelligenten Androiden zu erhalten. Intelligente Agenten können durch ihre Einsetzbarkeit in virtuellen Welten auch ohne mechanische Komponenten mit Menschen kommunizieren und agieren und sind, verglichen mit dem hohen Schwierigkeitsgrad der Konstruktion von Androiden, häufig der bevorzugte Forschungsgegenstand.

Künstliche Daseinsform: Dieser Begriff wird vom Autor dieser Arbeit eingeführt, da kein passender Fachterminus existiert. Der Begriff „künstliches Bewusstsein“ („Artificial Consciousness“) kommt dem Gemeinten relativ nahe, hat jedoch den Nachteil, nicht pluralisierbar zu sein. Außerdem ist er zu umfassend, da ein Bewusstsein in einer üblichen Bedeutung bereits personale Identität und Intentionalität beinhaltet. Eine künstliche Daseinsform soll dagegen ein nicht natürlich entstandenes Konstrukt sein, das potenziell eine

- 17 -

menschenähnliche personale Identität entwickeln kann. Dabei kann die künstliche Daseinsform in ihren intellektuellen Fähigkeiten weit unter oder über den Fähigkeiten eines Menschen angesiedelt sein. Das zentrale Kriterium ist die potenzielle Entwicklung einer Vorstellung vom eigenen Ich (vgl. Kant 1963, Bd. 6, S. 407).

Die Verwendung des Begriffs „Dasein“ geschieht in Anlehnung an den Daseinsbegriff aus Heideggers Fundamentalontologie: „Seinsverständnis ist selbst eine Seinsbestimmtheit des Daseins.“ (Heidegger 1986, S. 12). Das Dasein und sein Verhältnis zu seiner eigenen Existenz wird auch in „Sein und Zeit“ nicht als konstant beschrieben, und diese Eigenschaft soll ebenfalls auf das zutreffen, was mit „künstliche Daseinsform“ gemeint ist. Es gilt dies also aus der Innenperspektive, die jedem Wissenschaftler auf seine Art gegeben ist, zu erforschen. Es ist weiterhin nötig, den Sachverhalt empathisch zu ergründen. Erst wenn diese beiden Perspektiven gemeinsame Bezugspunkte aufweisen, kann eine Erkenntnis Ergebnis der Forschung sein. Eine künstliche Daseinsform muss aus diesen Gründen Auskunft über die eigene Befindlichkeit geben können und also Bezugspunkte einbringen, die es dem Forscher erlauben, Erkenntnisse zu gewinnen. Dies ist eine weitere Voraussetzung für die Anwendbarkeit des Begriffs „künstliche Daseinsform“. Die in diesem Zusammenhang ebenfalls verwendeten Begriffe „Artificial Intelligence“ und „Artificial Life“ (AL) bezeichnen andere Eigenschaften; künstliche Intelligenz ist auch durch relativ einfache Algorithmen produzierbar und sogenannte starke künstliche Intelligenz ist eine philosophische Definition mit noch nicht klar konturierter Bedeutung. Künstliches Leben bezeichnet in erster Linie nicht die intellektuellen Fähigkeiten, die hier im Vordergrund stehen, sondern simulierte biologische Funktionen wie Stoffwechsel und Reproduktion. Der Begriff „künstliche Person“ hat den Nachteil, dass an den Personenbegriff moralische Erwartungen gebunden sind, die in Hinblick auf die künstliche Daseinsform zunächst erforscht werden müssen. Eine künstliche Daseinsform könnte jedoch im Nachgang als künstliche Person identifiziert werden. Der Begriff „künstliche Daseinsform“ hat außerdem den Vorteil, derzeit (Juni 2008) in der Internet-Suchmaschine Google keinen direkten Treffer zu produzieren, was dafür spricht, dass er noch nicht anderweitig eindeutig belegt ist.

- 18 -

3 Anthropologische Aspekte von KI-Technologien

Darunter sind vor allem zwei Themenfelder zu verstehen: 1. Welche direkten Einflüsse hat die Verwendung solcher Technologien auf das Menschenbild?

Dies ist ein Aspekt, der sich an die klassische Anthropologie als Erforschung der Stellung und der Möglichkeiten des Menschen anschließt. Diese Fragestellung, die zum Beispiel den Transhumanismus und den Posthumanismus berührt, ist für die Fragestellung nicht wesentlich und wird deshalb nicht weiter verfolgt.

2. Wie sind KI-Technologien im Hinblick auf die anthropologische Differenz einzuordnen?

Dieser Frage wird im Folgenden nachgegangen. Unter „anthropologischer Differenz“ wird üblicherweise der wesentliche Unterschied zwischen Mensch und Tier verstanden. Hier ist jedoch der Unterschied zu beliebigen Daseinsformen gemeint - eben auch zu künstlichen Daseinsformen. Eine gründliche Untersuchung der anthropologischen Aspekte der künstlichen Intelligenz kann keinen Aspekt der Anthropologie auslassen. Da der Forschungsgegenstand der KI etwas ist, das in vielem menschliche Eigenschaften besitzt, könnte das Thema auch „Anthropologische Aspekte der Anthropologie“ heißen und ausufern. Die weitgehende Beschränkung auf die Behandlung der anthropologischen Differenz ist dabei nicht hilfreich, denn um diese Differenz ausgiebig zu untersuchen, ist es wiederum nötig, alle Aspekte dessen, was typisch menschlich ist und dessen, was technisch machbar erscheint, gegenüberzustellen. Also kann im Folgenden nur eine subjektive Auswahl bestimmter Aspekte getroffen werden.

Zunächst sollen einige klassische Charakterisierungen des Menschen erwähnt werden, die bereits vor dem beginnenden Boom der KI-Forschung, nach dem Zweiten Weltkrieg, verfasst wurden. Anschließend werden einige Aspekte beleuchtet, die eine schwache KI von einer postulierten starken KI unterscheiden. Bereits in den klassischen philosophischen Ansätzen zeigen sich kontrastierende Ansichten, die in den folgenden Abschnitten in den entgegengesetzten Ansichten von Alan Turing und John Searle eine Fortsetzung finden. Da Turing und Searle

- 19 -

zwar entgegengesetzte, aber gleichermaßen starke Argumente vorbringen, soll weiterhin versucht werden, eine Synthese aus beiden Theorien abzuleiten, wobei die von Thomas Nagel eingebrachte kritische Auseinandersetzung mit einer intersubjektiven Phänomenologie als Brückenkopf dient.

3.1 Philosophische Anthropologie vor Alan Turing

„Das Wesen des Menschen und das, was man seine ‚Sonderstellung‘ nennen kann, steht hoch über dem, was man Intelligenz und Wahlfähigkeit nennt, und würde auch nicht erreicht, wenn man sich die Intelligenz und Wahlfähigkeit quantitativ beliebig, ja bis ins Unendliche gesteigert vorstellte.“ (Scheler 2005, S. 41)

Dieses Wesen des Menschen liegt nach Scheler im „Geist“ des Menschen. Dieser Geist ist „weltoffen“; im Gegensatz zum instinktbestimmten Tier kann der menschliche Geist im Sinne Schopenhauers in seiner Vorstellung eine Welt gebären, während der Zustand des Tieres stets vollständig von seiner Umwelt abhängig ist. Das Tier kann nur reagieren, der Mensch kann agieren und kreieren. Darüber hinaus kann sich der Geist selber reflektieren, und dieses Selbstbewusstsein führt Scheler als ein weiteres bedeutendes Alleinstellungsmerkmal des Menschen an.

Damit sind einige der hohen Ansprüche an eine starke künstliche Intelligenz angesprochen: die personale Identität und das damit zusammenhängende Leib-Seele-Problem bzw. die Lösung ebendieses Problems. Die Frage, ob eine Maschine ein Selbstbewusstsein entwickeln kann, ist zu einem Dreh- und Angelpunkt der Philosophie des Geistes geworden. Ein solches Selbstbewusstsein ist die Voraussetzung für weitere typisch menschliche Eigenschaften wie die Entwicklung von Emotionen, z.B. Stolz und Scham. Vielleicht will Scheler dies in dem folgenden Zitat zum Ausdruck bringen, das so klingt, als wenn hier wesentlich geringere Ansprüche an das Menschsein gestellt würden als in dem Zitat, mit dem dieser Abschnitt begonnen wurde.

„Würde mein Hund auch nur sich hinter einer Wand verstecken und zuweilen hervorgucken, so daß ich sähe, er wolle nicht gesehen sein, und beobachtete er mich beim Frühstück - ich wenigstens würde dann jede Wette eingehen, er wäre ein verzauberter Mensch.“ (Scheler 1994, zitiert nach Martin Arndt, S. 15)

- 20 -

Das Denken und das Verhalten des Menschen sind nicht nur bei Scheeler die klassischen Merkmale der anthropologischen Differenz. Transzendente Eigenschaften, maßgeblich eine exklusiv im Menschen vorhandene Seele, lässt Leibniz zum Beispiel seinen rationalistisch argumentierenden Theophilus formulieren:

Das aber, denke ich, werden Sie mir zugeben, daß es nicht in der Macht einer bloßen Maschine steht, die Wahrnehmung, Empfindung, Vernunft entstehen zu lassen. (Leibniz 1904, S. 403)

Hier ist das Leib-Seele-Problem deutlich formuliert. Für Leibniz bestand eine Lösung darin, eine psychische und eine physische Substanz anzunehmen, die jedoch nicht aufeinander einwirken, sondern nur durch Gott synchronisiert werden. Die Gegenposition zu einem solchen psychophysischen Parallelismus ist ein Monismus, zum Beispiel der mechanistische Materialismus:

Der Mensch ist eine Maschine, welche so zusammengesetzt ist, dass es unmöglich ist, sich zunächst von ihr eine deutliche Vorstellung zu machen und folglich sie zu definiren. (La Mettrie 1885, S. 21)

La Mettrie kontrastiert auch deshalb gut zu Leibniz, weil sich in La Mettries Vita zeigt, wie schwierig es im Zeitalter der Aufklärung war, sich mit einer solchen Position Gehör zu verschaffen. Interessant ist La Mettries Hinweis auf die Komplexität des Menschen und die damit verbundene Unwissenheit. Dieser Punkt wird weiter unten noch einmal diskutiert.

Unabhängig davon, welche Position zum Leib-Seele-Problem eingenommen wurde, die Meinung, dass Intelligenz, Emotionalität, Kreativität und so weiter etwas Einzigartiges und Unreproduzierbares wären, herrschte auch Anfang des 20. Jahrhunderts noch vor. So schrieb Mach 1905:

Ein guter Teil der wissenschaftlichen Physiologie kann als Fortsetzung der Arbeit der Automatenverfertiger angesehen werden. Kempelen mit seinem automatischen Schachspieler, in welchem er einen Menschen verbergen mußte, liefert anderseits den allerdings überflüssigen Beweis, daß die Intelligenz nicht auf diese einfache, mechanische Weise ersetzt werden kann. (Mach 1917, S. 29-30)

- 21 -

3.2 Die Rolle der physischen Beschaffenheit in Bezug auf die

anthropologische Differenz

Im Folgenden interessieren vor allem die geistigen Kriterien anthropologischer Analyse. Die bekannten physischen Unterschiede können jedoch nicht völlig ausgelassen werden, zum Beispiel, weil aus der Körperlichkeit des Menschen Parameter abgelesen werden können, die auf die geistige Entwicklungsfähigkeit des Menschen wirken. Deswegen sollen im Folgenden bekannte und erwartete Grenzen der physischen Leistungsfähigkeit von Maschinen und deren Analogie zur physischen Beschaffenheit des Menschen untersucht werden.

Moderne Rechner verfügen über keine Gene und daher auch über keine Evolution, auch wenn es Algorithmen gibt, die genetische Evolution im Rahmen bestimmter Optimierungsaufgaben simulieren bzw. sich deren Prinzipien zunutze machen. Es wäre jedoch denkbar, dass ein Computer entworfen werden könnte, der bestimmte Eigenschaften an Nachfolgemodelle (seine Kinder) weitergibt, so dass nach seinem Funktionsende zwar die Speicherzustände, nicht jedoch die Grundeigenschaften des Computer verloren gehen, ähnlich der Generationenfolge des Menschen. Diese Eigenschaften würden sinnvollerweise auch mit den Eigenschaften anderer Computer verschmolzen und zufällige Mutationen könnten ebenfalls implementiert werden. Ein solcher Rechnerstammbaum könnte abhängig von der sich aus der Umwelt ergebenden Auslese eine Evolution oder Devolution aufweisen.

Da sich die Basenpaare der DNA als effiziente Träger von Erbinformationen bewährt haben, könnte DNA auch in künstlichen Daseinsformen verwendet werden. Es könnte dann interessant sein, künstliche und natürliche DNA kompatibel zu machen, um Erbinformationen auszutauschen und zu kombinieren. Daraus könnten Hybride mit teils künstlicher und teils natürlicher DNA entstehen. Informationstechnisch sind diese Überlegungen nicht pragmatisch, da die künstliche Daseinsform ja gerade Möglichkeiten nutzen soll (zum Beispiel die zuverlässige Speicherung von Information), die bei den bekannten natürlichen Lebensformen nicht in dieser Perfektion vorzufinden sind. Es geht nur darum, dass die Entwicklung solcher Daseinsformen innerhalb eines Spektrums von 100prozentiger Natürlichkeit bis zu 100-prozentiger Künstlichkeit grundsätzliche

- 22 -

denkbar ist und dass demzufolge die Körperlichkeit kein überzeugendes Kriterium für eine große anthropologische Differenz zu einer hochentwickelten künstlichen Daseinsform wäre.

Die letzten Absätze stehen oft im Konjunktiv, und das nicht ohne Grund: Phänomene wie „künstliche DNA“ gehören in den Bereich der Science-Fiction und Kornwachs (2001, S. 145) wendet zum Beispiel ein, dass es bisher keine Maschinen gibt, die über einen Stoffwechsel verfügen oder sich selbst (durch Reproduktion und Wachstum) erschaffen. Derzeit ist die körperliche Differenz also enorm, und es ist fraglich, ob sich dies ändern wird. Das ist nicht nur eine Frage der technischen Machbarkeit, sondern auch eine Frage des sinnvollen Designs. Der menschliche Körper ist gut auf einen bestimmten Lebensraum und die dort anfallenden Aufgaben angepasst. Zwar könnte man vermuten, dass der Mensch - angesichts der größeren Entfernungen und der vorhandenen Straßenzwei ihm zugehörige Räder sinnvoll nutzen könnte. Das ist aber unnötig, weil er über Maschinen zur Fortbewegung verfügt und somit die eigene Unzulänglichkeit überwinden kann. Doch ein Roboter muss diese Maschinen nicht unbedingt verwenden, um sich fortzubewegen; er könnte direkt über Räder oder Propeller verfügen. Moravec (1988, S. 103) schlägt das Design eines „Roboter Bush“ vor, der astartige Tentakel für die Fortbewegung und Interaktion verwendet. Dennoch könnte ein solcher Roboter menschenähnlich handeln. Noch substanzieller sind die Unterschiede bei dem Vergleich eines intelligenten Agenten mit einem Menschen. Dieser Agent könnte einen Körper in einem virtuellen Raum simulieren, aber Körperlichkeit im eigentlichen Sinne wäre nicht vorhanden. Kornwachs (1988, S. 146) schreibt: „[…] bereits Bewusstsein würde Körperlichkeit verlangen, Selbstbewusstsein aber Leiblichkeit.“ Der Körper ist notwendig, um dem Objekt Identität zu stiften. Die künstliche Daseinsform benötigt außerdem eine Geschichte, die an eine Körperlichkeit gebunden ist. Außerdem ist eine Leiblichkeit notwendig, um durch Sozialisation eine personale Identität zu erfahren, denn Leiblichkeit ist die Erfahrung des Austausches mit den Anderen unter Beibehaltung der eigenen Identität. Ein Vertreter des idealistischen Monismus würde Kornwachs widersprechen, da der reine Idealismus das Vorhandensein von anderen Substanzen als der geistigen Substanz komplett ausschließt. Kornwachs könnte ein klassisches Argument gegen den idealistischen Monismus einwenden: Wie

- 23 -

entstehen Typen von Qualia, wenn es keine gemeinsame physische Welt der Subjekte gibt? Kornwachs bindet Qualia an Körperlichkeit, der Idealist bindet Qualia an den Geist selber.

Um diesen Punkt genauer zu untersuchen, soll die Annahme einer hypothetischen Technologie dienen, die eine zeitweise oder dauerhafte vollständige Virtualisierung der Lebenswelt einer Person ermöglicht. Mit dieser Technik wäre es möglich, alle nach außen gerichteten Rezeptoren des Menschen (Hörnerven, Sehnerven usw.) direkt an einen Computer anzuschließen und diesem Menschen so zu suggerieren, dass er sich in einem virtuellen Raum befindet, zum Beispiel in einem Computerspiel. An diesem Spiel nehmen weitere Menschen teil, die ebenfalls direkt per Nervenkopplung verbunden sind. Die Menschen erleben sich selbst und die anderen Mitspieler als Avatare, also graphische Repräsentationen eines Körpers. Der jeweilige Mitspieler betrachtet die virtuelle Welt aus den Augen seines Avatars (First-Person-View) und sensorische Eingaben des Avatars erreichen die Spieler so, dass der Spieler die virtuelle Welt erlebt als wäre er der Avatar.

Dass eine Person dort ist, wo sie sich gedanklich befindet, ist eine Aussage aus Daniel Dennetts Gedankenexperiment „Where Am I?“ (1982, S. 221). In diesem Experiment starrt Dennett auf sein Gehirn, das aus seinem Schädel entfernt und in einem Bottich untergebracht wurde. Sein Körper ist jedoch nach wie vor über einen Funkempfänger mit dem Gehirn verbunden. Dennett gelingt es nicht, sich klarzumachen dass er selber eigentlich das Gehirn im Bottich ist und nicht der Körper, dessen Augen auf das Gehirn starren. Ähnliche Überlegungen hat Stanislaw Lem (Lem 1971, S. 364) schon Mitte der 1960er Jahre angestellt. Die „Phantoplikation“ ist eine Mehrspieler-Variante der von Lem so genannten „Phantomatik“ und entspricht weitgehend dem Mehrspieler-Rollenspiel im virtuellen Raum. Interessanterweise stellt Lem dabei fest, dass der Phantomat, der einem Menschen nicht nur die Einnahme der Rolle eines virtuellen Menschens sondern zum Beispiel auch die eines Tiers erlaubt, es nicht ermöglichen wird, tatsächlich zu wissen wie es ist, ein Krokodil zu sein, sondern lediglich als ein Mensch im Krokodilkörper zu agieren, denn um zu Fühlen wie ein Krokodil, müsse man ein Krokodil sein (ebd., S. 350). Diese Qualia-Diskussion wird in Abschnitt 3.6 unter Bezugnahme auf Nagels ausführlichere Untersuchung des Themas weitergeführt. Wesentlich für

- 24 -

die Diskussion der Bedeutung von Körperlichkeit ist, dass Lem zu dem Ergebnis kommt, dass die Phantomatik den perfekten Eskapismus ermöglicht, und dass eine Verbreitung dieser Technologie deshalb eine Gefährdung der Gesellschaft darstellt.

Tatsächlich ist die „Phantoplikation“ dreißig Jahre später in Form von „Massive Multiplayer Online Roleplaying Games“ (MMORPG) möglich und heute ein Massenphänomen mit zeitweise mehreren Millionen gleichzeitigen Spielern in einer virtuellen Welt. Lems Befürchtungen über damit einhergehende soziale Probleme haben sich ebenfalls bewahrheitet. Zwar ist die übertriebene Nutzung von MMORPGs noch nicht als Sucht eingestuft, es gibt jedoch Hinweise auf eindeutiges Suchtverhalten eines Teils der Spieler, insbesondere bei Spielern mit sozialen Problemen (Khan, 2007). Allerdings sind die Avatare der MMORPGs nicht direkt an die Gehirne der Spieler gekoppelt, sondern diese steuern die Figur mit Computermaus und -tastatur. Es wird also nur eine beschränkte sensorische Repräsentation angeboten. Dies reicht jedoch aus, um einen Spieler nach kurzer Zeit völlig in den Bann zu ziehen. Spieler beschreiben selber, dass sie sich fühlen, als wären sie in der virtuellen Welt. Die Qualität der Simulation ist dabei weniger entscheidend als die soziale Interaktivität (Sixtus, 2006). Die Interaktion kann auch mit intelligenten Agenten, die Avatare steuern, vollzogen werden, und teilweise ist es nicht möglich, a priori zu wissen, ob eine bestimmte Figur im Spiel von einem Menschen gesteuert wird oder einer KI. Der Perspektivenwechsel in einem MMORPG könnte als Hinweis darauf gedeutet werden, dass Körperlichkeit und Leiblichkeit wesentlich weniger bedeutend sind, als Kornwachs das meint. Allerdings entwickeln die Spieler ihre personale Identität nicht erst im Spiel, sondern betreten, sozusagen schon fertig, die virtuelle Welt. Ihre Köper haben im realen Leben bereits gelernt, was in der Simulation nur noch angewendet werden muss. Dennoch ist nicht einzusehen, warum es nicht möglich sein sollte, auch gänzlich neue Erfahrungen in virtuellen Welten zu machen. Jedenfalls ist es denkbar, dass ein Mensch mit einem Kleinheitswahn im MMORPG plötzlich über sich hinauswächst und seine erste Hybris erlebt. Weiterhin kann nicht ausgeschlossen werden, dass - im Anschluss an Dennet‘s Gedankenexperiment - ein auf sich allein gestelltes „frisches“ Gehirn im Bottich durch die richtige nervliche Stimulation bestimmte Bewusstseinszustände entwickeln kann.

- 25 -

Als letzter Aspekt zur körperlichen Differenz von Menschen und potenziellen künstlichen Daseinsformen soll die vermutete kognitive Leistungsfähigkeit des menschlichen Gehirns im Vergleich zur Leistungsfähigkeit eines modernen Großrechners betrachtet werden. Es wird derzeit geschätzt (Knoll 2006, S. 80), dass ein menschliches Gehirn über ca. 100 Milliarden (10 ¹¹ ) Neuronen verfügt, die durch ca. 100 Billionen (10 ¹⁴ ) Synapsen miteinander verbunden sind. Jedes Neuron kann mit ca. 1000 anderen Neuronen synaptisch kommunizieren. Daraus ergibt sich eine Rechenleistung von 10 ¹³ bis 10 ¹⁶ Instruktionen pro Sekunde. Das ist ungefähr die 100- bis 10.000-fache Rechenleistung von dem, was die schnellsten Supercomputer heute leisten. Die Speicherkapazität des Gehirns wird auf ca. ein bis zehn Terrabytes geschätzt, das entspricht dem Informationsgehalt von ca. 1.500 bis 15.000 CDs. Allerdings sind diese Vergleichswerte nur grobe Annäherungen, da ein Von-Neumann-Rechner ⁹ völlig anders konstruiert ist als ein neuronales Netz. Falls Moore’s Law über die Entwicklung der Taktung von Rechnern weiterhin gültig ist, dann sollte es von der reinen Kapazität der Informationsverarbeitung her möglich sein, im Jahr 2020 bis 2030 einen äquivalenten Supercomputer zu konstruieren. Das sagt aber nichts darüber aus, wie erfolgreich dieser dann neuronale Netze simuliert. Die aktuell schnellsten Supercomputer können maximal einige tausend Neuronen simulieren, was lange nicht ausreicht, das neuronale Netz einer Biene zu simulieren, die über ungefähr 100.000 Neuronen verfügt.

3.3 Alan Turing’s These von einer denkenden Maschine

Wie in den vorangegangenen Kapiteln ausgeführt wurde, ist die Idee einer Maschine, die menschenähnlich handelt, ein traditionsreiches Faszinosum. Technisch fassbar hat Alan M. Turing dieses Thema 1950 gemacht. Es gibt kaum eine Ausführung über KI, die nicht in einer Weise auf seine These „Computing Machinery and Intelligence“ (Turing, 1950) rekurriert. Der Terminus „Künstliche Intelligenz“ bzw. „Artificial Intelligence“ selber wurde allerdings erst 1956 im

⁹ Das gegenwärtige Referenzmodell der Rechnerarchitektur, das sich unter anderem dadurch auszeichnet, dass Speicher flexibel sowohl für die Speicherung von Daten als auch für die Speicherung von Programminstruktionen eingesetzt werden kann.

- 26 -

Rahmen der „Dartmouth Summer Research Conference on Artificial Intelligence“ geprägt (Görz 2003, S. 3).

Turing entwarf 1936 das Modell einer Maschine, die prinzipiell im Stande ist, jedes mathematische Problem zu lösen, solange dieses Problem algorithmisch beschrieben werden kann. Ergebnis seiner Forschung war auch der Beweis, dass das Halteproblem nicht immer entscheidbar ist. Das bedeutet: Es gibt Programme, die niemals terminieren. Dieser Umstand kann mit der universellen Turing-Maschine jedoch nicht berechnet werden, denn das Problem ist algorithmisch nicht fassbar. Das Halteproblem wird dadurch verursacht, dass das System seine internen Zustände rekursiv variiert, was im Hinblick auf ein Postulat der Nicht-Vorausberechenbarkeit menschlicher Handlungen interessant ist, hier jedoch nicht weiter vertieft wird, da die Frage nach dem Vorhandensein von Willensfreiheit beim Menschen ungeklärt ist und daher eine Untersuchung einer konstruierbaren Willensfreiheit von Maschinen von zu vielen Hypothesen abhängen würde, um das Thema im Rahmen dieser Arbeit sinnvoll zu diskutieren. Turings Arbeit von 1950 bezog sich im Wesentlichen auf programmatische Leistungen, die von einem digitalen Computer erbracht werden können. Turings Kernthesen sind:

Der heute sogenannte „Turing-Test“ beruht auf einem Versuchsaufbau, den Turing das „Imitation-Game“ nennt: Maschine A und Person B kommunizieren wechselweise mit einem Interviewer C, der herausfinden soll, ob A oder ob B ein Mensch ist. C sitzt in einem getrennten Raum und kommuniziert über ein Terminal (damals „Teleprinter“) mit A und B, so dass C nicht aufgrund

- 27 -

äußerlicher Merkmale, sondern nur aufgrund der getroffenen Aussagen und seinem eigenen Gefühl nach einschätzen kann, ob er es mit einem Menschen oder mit einer Maschine zu tun hat. Die Maschine hat einen einzelnen Turing-Test bestanden, wenn C keine sicheren Aussagen darüber treffen kann, ob A oder B Mensch oder Maschine sind. Da C auch dann eine Chance von 50 Prozent hat, zum richtigen Schluss zu kommen, wenn C keine Anhaltspunkte hätte und raten würde, wäre es also im Sinne der Testperformance ein optimales Ergebnis für die Maschine, wenn C in 50 Prozent der Fälle fälschlicherweise Mensch und Maschine verwechselt. Turings Voraussage von 1950 war, dass es möglich sei, innerhalb von ungefähr fünfzig Jahren einen Computer so zu programmieren, dass ein ohne besonderes Vorwissen agierender Interviewer C nur in 70 Prozent der Fälle nach einem fünfminütigen Interview richtig entscheiden kann, wer Mensch und was Maschine ist (Turing 1950, S. 442). ¹⁰ Wie sich zeigte, schätze Turing die Anforderung an die Maschine für das Bestehen des Turing-Tests zu klein ein (oder er überschätzte den technischen Fortschritt der folgenden Jahrzehnte). Obwohl die Rechnerkapazitäten seit den ersten Von-Neumann-Rechnern gewaltig gestiegen sind und sich ganze Forschungsgebiete und Branchen mit der Entwicklung effizienter Softwarebibliotheken beschäftigen, sind die Maschinen heute weit davon entfernt, auch nur vereinzelte „Imitation-Games“ zu gewinnen. Der 1991 von Hugh Gene Loebner ins Leben gerufene Loebner-Preis ¹¹ soll den ersten intelligenten Agenten belohnen, der den Turing-Test besteht. Der jährlich dafür stattfindende Wettbewerb ist nicht unbestritten, ebenso wie die Effizienz des Turing-Tests insgesamt. Hauptkritikpunkt ist, dass dieser Test der Menschenähnlichkeit weder den besonderen menschlichen noch den besonderen

¹⁰ 100 Prozent wäre hier also ein schlechtes Ergebnis. Der Interviewer hätte stets herausgefunden, wer Mensch und wer Maschine ist. 50 Prozent wäre, wie gesagt, ein sehr gutes Ergebnis. Was wäre bei einem kleineren Wert, z.B. 20 Prozent? Die Maschine A hätte dann in 80 Prozent der Tests dem Interviewer „weisgemacht“, dass sie ein Mensch ist und wärre darin überzeugender gewesen als der Mensch B. Oder der Interviewer C ist aus irgendwelchen Gründen ungeeignet, den Test durchzuführen - er könnte zum Beispiel eine Maschine sein.

¹¹ Die Preisgelder betragen 2000$ für den Jahresgewinner, 25.000$ für ein Programm, das per Chat überzeugt und 100.000$ für ein Programm, das auch einen audio-visuellen Test besteht.

- 28 -

Leistungen eines Computers Rechnung trägt. Ein Kritikpunkt ist, dass viele Menschen (beispielsweise Kleinkinder oder psychisch auffällige Personen) den Turing-Test nicht „bestehen“ würden. Dennoch ist die jährliche Kandidatenschau der Preisvergabe in Fachkreisen ein beachtetes Ereignis. Die Protokolle der dabei zustand gekommenen Chats zwischen Interviewer und menschlichen oder künstlichen Probanden können in Form des Programmes „Loebner-Player“ von Interessenten begutachtet werden. Der folgende Ausschnitt aus einem solchen „Chat“ zwischen dem Siegerprogramm des Jahres 2007 und einem der Interviewer soll einen ungefähren Eindruck davon vermitteln, inwieweit intelligente Agenten das „Imitation-Game“ bereits beherrschen.

Sieger eines solchen Tests ist das Programm, das nach Meinung der Juroren die Kommunikation mit einem Menschen am originalgetreusten imitiert. Was in dem Protokollausschnitt nicht zur Geltung kommt, ist Geschwindigkeit und Ablauf des eigentlichen Eingabevorgangs, denn die Interviewer sehen an ihren

- 29 -

Bildschirmen nicht nur die Reaktionen der Probanden in Form ganzer Textzeilen, sondern auch „live“, wie die einzelnen Buchstaben eingetippt werden. Um dabei realistisch zu wirken, fabrizieren die teilnehmenden Programme regelmäßig Eingabefehler, die sie oft mit akrobatischen Cursormanövern wieder korrigieren, und führen ihre Eingabe menschenähnlich langsam durch. Der Eingabevorgang selber kann inzwischen sehr gut imitiert werden. Die sich ergebenden Unterhaltungen mit der Maschine sind jedoch durchgehend relativ unergiebig. Es gibt gelegentlich erstaunliche einzelne Reaktionen des Computers, die einem Programm auf dem ersten Blick eventuell nicht zugetraut werden. Oft sind dies jedoch Reaktionen, die einen Ball zum Interviewer zurückspielen; eine Technik, mit der das Programm ELIZA schon 1966 verblüffte (vgl. Weizenbaum 1978, S. 15-18). Die heute verfügbaren Technologien sind offensichtlich noch weit davon entfernt, den Turing-Test zu bestehen; oder die Projekte, die größere Fortschritte in der KI vorzuweisen hätten, nehmen an dem Wettbewerb nicht teil bzw. optimieren die KI nicht auf Kommunikation mit einem Menschen.

Turing‘s Argumente

Abgesehen von der technischen Machbarkeit ist die grundsätzliche Frage jedoch, ob überhaupt angenommen werden kann, dass Computer „denkend“ genannt werden können, weil sie bestimmte intellektuelle Leistungen zeigen. Turing bejaht diese Frage in „Computing Machinery and Intelligence“ klar und geht auf die möglichen Argumente ein, die ein Skeptiker der Möglichkeit von menschähnlicher Maschinenvernunft vorbringen könnte. Diese Argumente sind nach wie vor die Eckpfeiler vieler Diskussionen über starke KI und sollen daher detailiert untersucht werden (Turing 1950, S. 443 - 454). 1) Der theologische Einwand: Der Intellekt des Menschen ist Ausdruck seiner unsterblichen Seele. Abgesehen davon, dass Turing nichts von religiösen Dogmen hält, wendet er ein, dass es einem allmächtigen Gott möglich sein sollte, wem oder was immer er will, Denkfähigkeit zu verleihen, also auch einem Tier oder einer Maschine. Hier zeigt sich, dass Turing unabhängig davon, ob er einen Materialismus vertritt oder nicht, die Seinsart der menschlichen Seele vollständig in Verstandesleistungen liegend sieht.

2) Der „Kopf in den Sand“-Einwand besteht darin, eine vernunftbegabte Maschine nicht wahrhaben zu wollen bzw. die Möglichkeit einer solchen

- 30 -

Maschine abzulehnen, weil dadurch das wichtigste Alleinstellungsmerkmal des Menschen angetastet würde und damit auch mögliche Privilegien. Turing hält dies nicht für eine valide These oder einen stichhaltigen Einwand, gegen den sich eine Argumentation lohnen würde. Er schlägt stattdessen interessanterweise vor, über transhumanistische Visionen nachzudenken, um der künstlich erschaffenen Seele (bzw. Seelenherberge) etwas Positives abzugewinnen. Turing macht hier also deutlich, dass sein insgesamt materialistischer Ansatz die Existenz einer Seele nicht ausschließt - im gleichen Sinne spricht auch Hofstadter (2007, S. 78) von einer „Seele“ und davon, dass ein Moskito (sehr viel) weniger und ein Mensch mehr Seele hat. Mit Seele ist dabei keine unsterbliche Seele, die den Körper „bewohnt“, im Sinne einer religiösen Sicht, gemeint, sondern die besonderen mentalen Eigenschaften wie zum Beispiel selbst-referenzielles Bewusstsein, der Eindruck von Willensfreiheit und Emotionalität. Bei Turing und Hofstadter kann also von einer reduktionistischen Ansicht gesprochen werden, die jedoch nicht die besondere Bedeutung der mentalen Ebene reduziert, wie dies wiederum bei La Mettrie (1875) der Fall ist.

3) Das mathematische Argument: Das von Turing zwanzig Jahre zuvor formulierte Halteproblem hat bewiesen, dass es für jede Maschine eine unbeantwortbare Frage gibt. Die Verfechter des mathematischen Arguments sehen darin eine Überlegenheit des menschlichen Geistes und meinen, dass dadurch bei jedem „Imitation-Game“ die Maschine erkannt werden kann. Turing begegnet diesem Argument mit der Feststellung, dass es kaum möglich sein dürfte, den „schwachen Punkt“ extrem komplexer Maschinen zu finden und dass es außerdem nicht ausgeschlossen ist, dass es auch Fragen gibt, die für den menschlichen Intellekt stets unbeantwortbar sind.

Das mathematische Argument ist eines der schwächeren Argumente, allerdings wird es auch schwach widerlegt. Das Halteproblem bzw. die dazu grundlegende mathematische Theorie von Goedel dient bei Hofstadter (2007, S. 165f) gerade als Grundstein der algorithmischen Machbarkeit eines künstlichen Bewusstseins, denn die Nicht-Berechenbarkeit natürlicher mentaler Vorgänge (sofern sie nicht berechenbar sind) würde ansonsten immer eine Diskrepanz zu einem möglichen künstlichen Bewusstsein darstellen. 4) Das Bewusstseins-Argument: Dieser Einwand richtet sich an die Fähigkeit zu Empfindungen; eine Maschine kann demzufolge vielleicht eine

- 31 -

Emotion simulieren, jedoch nicht tatsächlich wahrnehmen. Turing hält dies in der Konsequenz für eine solipsistische Auffassung. Auch bei unseren Mitmenschen gehen wir von einem vorhandenen Bewusstsein aus, ohne dieses aus erster Hand erleben zu können. Durch geeignete Fragestellungen sollte es möglich sein, zwischen einem Gegenüber zu unterscheiden, das papageienartig Aussagen von sich gibt und einem Gesprächspartner, der intelligibel auf den Konversationsinhalt reagiert.

5) Die Argumente bezüglich verschiedener Unfähigkeiten folgen dem Schema „Eine Maschine kann niemals…“, worauf Fähigkeiten folgen wie „humorvoll sein“, „gut und böse unterscheiden“, „etwas Neues erfinden“ und so weiter. Die anderen Argumente sind teilweise Spezialfälle dieses Arguments (zum Beispiel das unter Punkt 6 angeführte Lady-Lovelaces-Argument). Turing sieht die Basis dieser Einwände mehrheitlich in der mangelnden Vorstellungskraft in Bezug auf die Entwicklungsfähigkeit der Maschinen. Dieses Argument Turings kann nachvollziehen, wer sich in den Betrachter einer Motorkutsche im Jahre 1886 hineinversetzt. Obwohl nur die Kraft des Antriebs und die Stabilität des Fahrzeugs extrapoliert werden müssen, um das Potenzial dieser Maschine vorauszusehen, konnte man sich 1886 wahrscheinlich schwer vorstellen, dass weiter entwickelte Fahrzeuge schon 13 Jahre später Geschwindigkeiten von über 100 km/h erreichen würden, und erst recht nicht, welchen gewaltigen Einfluss das Automobil auf die Gesellschaft des 20. Jahrhunderts haben würde. Außerdem gehen Verfechter des „Eine Maschine kann niemals…“-Arguments oft davon aus, dass die Programmierung eines Computers nicht plastisch ist, dass der Computer also einmalig initialisiert wird und dann starr seinem Programmpfad folgt. Turing hebt hervor, dass ein Computer seine eigene Programmierung manipulieren und dadurch eine hohe funktionale Flexibilität und autonome Entwicklungsfähigkeit erreichen kann. Tatsächlich hat sich herausgestellt, dass die Fähigkeit eines Programms, den Entwurf eigener Komponenten zu ändern, ein wichtiges Entwicklungsmuster für KI-Technologien ist. 6) Lady-Lavelaces-Einwand: Dieser Argument stammt aus den Memoiren der Ada Lovelace, einer Tochter von Lord Byron, die in der Mitte des 19. Jahrhunderts einen Algorithmus entwickelte, der als das erste Computerprogramm gilt (eine Babbage-Maschine zur Ausführung des Programms existierte damals allerdings noch nicht). Dem Argument zufolge kann ein Computer keine Einfälle

- 32 -

haben, sondern nur Instruktionen ausführen, und daher wird das Ergebnis nie über die Instruktion hinausgehen. Eine Variante ist, dass ein Computer nicht überraschen und nichts Neues und Originäres hervorbringen kann. Turing begegnet dem Argument damit, dass eine Maschine der Form, wie sie Lady Lovelace bekannt war, den Eindruck hinterließ, keine Fähigkeiten jenseits der Abarbeitung der Eingabe zu haben. Turin war jedoch auch der Meinung, dass nicht bewiesen werden konnte, ob sie tatsächlich dieser Beschränkung unterlagen. Der Anschein, dass alle Ergebnisse der Babbage-Maschine intellektuell prognostiziert werden können, trügt vielleicht. Turing beschreibt, dass die Ergebnisse eines Programms ihn häufig überraschen, was meistens auf Fehler zurückzuführen ist, die der Programmierer erst selber eingebaut hat. Der zweite Parameter bezüglich der Neuheit und Originalität ist die Frage, was es unter der Sonne überhaupt je Neues gibt. Turing meint, dass viele „neue“ Fakten Kombinationen bekannter Daten sind und dass die somit überbewertete Neuheit, Originalität und dadurch erzeugte Überraschung im Wesentlichen durch die Offenbarung von vorher verdeckten oder unbewussten, jedoch bereits existierenden Verknüpfungen zustande kommt. Einen einleuchtenden theoretischen Grund weshalb nur ein Mensch und nicht eine Maschine diese Aufdeckung durchführen sollte, gibt es nicht. 7) Argumente bezüglich der Kontinuität des Nervensystems: Die bisher bekannten Computerarchitekturen haben gültige diskrete Zustände. Das heißt, es gibt einen wohldefinierten Zeitpunkt t 0 mit dem Gesamtzustand A des Systems und den Zeitpunkt t 1 im Zustand B. Die Zustände zwischen t 0 und t 1 sind nicht definiert und auch nicht relevant. Im Gegensatz dazu sind bei der Beschreibung der Bewegung eines Pendels alle Zustände des Pendels relevant. Ein kontinuierliches dynamisches System ist also zeitlich nicht gerastert. Letzteres trifft auch für das kontinuierliche Nervensystem des Menschen zu, was zum Beispiel zur Folge haben kann, dass kleine Zustandsänderungen exponentiell höhere Auswirkungen haben können als bei diskreten Maschinen. Dies kann als Anhaltspunkt dafür gesehen werden, dass diskrete Maschinen nicht geeignet sind, die Funktion eines Nervensystems zu simulieren. Turing meint dazu, dass es wahrscheinlich möglich wäre, mit einem Messgerät herauszufinden, dass eine diskrete Maschine und kein Mensch mit einem kontinuierlichen Nervensystem an einem Turing-Test teilnimmt. Im

- 33 -

Rahmen des Turing-Tests, bei dem, wie erwähnt, Antworten per Teleprinter übertragen werden, wird ein solches Gerät jedoch nichts nützen. Außerdem kann eine diskrete Maschine viele dynamische Eigenschaften simulieren, zum Beispiel, indem sie per Zufallsgenerator eine Unschärfe in ihre Kalkulationen einbringt. 8) Das Argument bezüglich des nicht erzwungenen Verhaltens: Ein nicht erzwungenes Verhalten ist ein Verhalten, das nicht einer vorgegebenen Regel folgt, weil keine entsprechende Regel vorliegt. Turing nennt dies ausdrücklich nicht Willensfreiheit oder Spontanität. Diesem Argument zufolge unterscheidet den Menschen von der Maschine, dass der Mensch auch ohne eine zwingende Anweisung handeln kann.

Turing unterscheidet zunächst zwischen Handlungen, die sich aus Reflexen und solchen, die sich aus Konventionen („Halte bei roter Ampel“) ergeben. Diese Handlungen sind klar regelbestimmt und können auch von einer Maschine ausgeführt werden. Bei anderen Fällen („Ampel zeigt rot und grün gleichzeitig“) fehlen vielleicht die direkten Regeln, aber das Verhalten eines Menschen folgt dann vielleicht weniger leicht ersichtlichen Regeln und ist damit wieder erzwungen. Wäre es möglich, das Verhalten nur genau genug zu beschreiben, dann sollte dies auch der Maschine beigebracht werden können. Dieses Argument zielt, wie das Argument bezüglich des kontinuierlichen Nervensystems, nicht so sehr auf den Turing-Test, sondern auf die Schaffung eines dem Menschen ebenbürtigen Geistes allgemein. Turing nimmt in Bezug auf das menschliche Verhalten eine deterministische Position ein, wodurch die potenzielle Aufhebung einer anthropologischen Differenz erst ermöglicht wird. 9) Das Argument bezüglich der außersinnlichen Wahrnehmung: Dies betrifft Dinge wie Telepathie, Telekinese, Wahrsagerei und so weiter. Turing meint, es gebe hinreichende Anhaltspunkte, um zumindest die Möglichkeit von telepathischen Phänomenen ernst zu nehmen. Seine Gegenmaßnahme ist, diese Fähigkeit im Rahmen des Turing-Tests nicht zuzulassen bzw. die Räumlichkeiten gegen Telepathie abzuschirmen. Da Turing auch außersinnliche Fähigkeiten in physikalischen Gesetzmäßigkeiten begründet sieht, wäre eine andere Möglichkeit der Gegenmaßnahme, auch diese Fähigkeiten zu simulieren und zum Beispiel ein „Telepathiemodul“ für den Computer zu entwickeln. Der Turing-Test ist ein Test auf Denkfähigkeit. Turing behauptet nicht ausdrücklich, dass ein Programm, das den Turing-Test meistert, eine künstliche

- 34 -

Lebensform ist. Die zehn Argumente verdeutlichen jedoch, dass die Testkriterien auch eine Anschauung des menschlichen Geistes beinhalten. In der Softwareentwicklung ist das „Test Driven Development“ (TDD) gängige Praxis. Beim TDD schreibt der Entwickler zuerst ein Testprogramm, das die Funktionalität des geplanten Hauptprogrammes nachweisen soll. Das Testprogramm ist also fertiggestellt, bevor das Hauptprogramm implementiert wird. Der Entwurf eines solchen Testprogramms erfordert, die Funktionalität des Hauptprogramms genau zu kennen und zwingt so zu einer Planung - das Testprogramm kann nicht aufs Geratewohl programmiert werden. Das Testprogramm wird später das Hauptprogramm automatisch mit Eingabewerten füttern und überprüfen, ob die zu erwartenden Ausgabewerte produziert werden. Die richtigen Ausgaben müssen dem Testprogramm also bekannt sein, auch wenn das Testprogramm den Lösungsweg gar nicht kennt. Die vom Testprogramm vorgegebenen Ein- und die erwarteten Ausgabewerte sind stattdessen zuvor intellektuell ermittelte Beispiele. Ohne das Ergebnis zu kennen, kann das Testprogramm nichts leisten.

Der Turing-Test folgt einem ähnlichen Schema. Getestet wird, ob das Programm eine Ausgabe produziert, die menschenähnlich ist. In einem intellektuellen Austausch soll einem Menschen vorgemacht werden, dass er mit einem Menschen und nicht mit einer Maschine kommuniziert. Um einen Test für ein solches Programm zu entwickeln, müssen sehr viele Ausgaben für sehr viele Eingaben geprüft werden, oder es muss ein algorithmisches Schema gefunden werden, um die Richtigkeit der Ausgaben zu überprüfen. Beide Ansätze sind beim aktuellen technischen Stand nicht machbar. Stattdessen versuchen die Programme, die Kommunikation so zu steuern, dass nicht auffällt, wenn der Gesprächspartner eine Maschine ist. Ein intelligenter Agent, der tatsächlich in der Lage ist, Menschen von seinem Menschsein zu überzeugen, müsste auch einen gründlichen Softwaretest bestehen. Das bedeutet, dass die in einem Gespräch vorzufindenden menschlichen Kommunikationsarten ausreichend beschrieben werden müssten, was schon logisch deswegen ein Problem darstellt, weil die Reflektion über das Menschliche in der Kommunikation wiederum in den Softwaretest einfließen müsste. Der intelligente Agent muss also über den Turing-Test reflektieren, was zu einem Regress führen würde, der dem von Turing beschriebenen Halteproblem

- 35 -

ähnlich ist. Das sporadische Bestehen von Turing-Tests ist daher noch wesentlich leichter realisierbar als das regelmäßige Bestehen systematischer Turing-Tests. Bei Dick (2001) sind die Androiden so weit entwickelt, dass der sogenannte Voigt-Kampff-Test eingesetzt werden muss, um in einem Interview, das einem Turing-Test ähnelt, anhand subtiler emotionaler Reaktionen Androiden von Menschen zu unterscheiden. Allerdings (Dick 2001, S. 33) müssen die Tests fortlaufend überarbeitet werden und es hat sich herausgestellt, dass auch Menschen, die an einer leichten Form von schizophrenen Emotionsstörungen leiden, den Test nicht bestehen. Die dadurch beschriebene Schwierigkeit ist real: Auch ohne die Einrechnung psychischer Defekte sind menschliche Reaktionen sehr unterschiedlich, so dass ein effektiver Softwaretest kaum realisierbar ist. Penrose (1999, S. 12) schlägt vor, auch ein Interview, das beim Interviewer nur den Eindruck erweckt, er kommuniziere mit einer künstlichen Daseinsform, als einen bestandenen Turing-Test zu werten. Der direkte Vergleich mit einem anderen Menschen habe lediglich den Vorteil größerer Objektivität, aber Penrose hält den direkten Vergleich zwischen Mensch und Maschine für eine übertrieben hohe Hürde. Dieser Aspekt wird wie der vorgenannte Aspekt der Unterschiedlichkeit von Menschen auch von Kritikern des Loebner-Preises angeführt. Es sollte nicht das Ziel sein, menschliche Reaktionen inklusive menschlicher Fehler zu simulieren, denn nicht alle menschlichen Eigenschaften sind Eigenschaften, die wesentlich für eine starke KI sind. Dennoch hat Turing wenigstens den Ansatz einer Messlatte konstruiert und über 50 Jahre nach seiner Erfindung ist der Turing-Test zwar umstritten, aber aufgrund seiner einfachen Durchführbarkeit und angesichts des Mangels an Alternativen keineswegs obsolet.

3.4 John Searle’s “Chinese Room”-Argument

Ein Nachteil des Turing-Tests könnte darin bestehen, dass eine möglichst exakte Simulation menschlicher Reaktionen mit einem guten Testergebnis bewertet wird, ohne dass die Beobachtung dem entspricht, was tatsächlich im Inneren des Testkandidaten vor sich geht. Angenommen, mehrere Testpersonensowohl Menschen als auch Androiden - und die gleiche Anzahl Wissenschaftler werden für mehrere Tage oder Wochen in einer Wohngemeinschaft untergebracht (ähnlich wie beim Fernsehformat „Big Brother“) und die Aufgabe der

- 36 -

Wissenschaftler besteht darin, eine der anderen Personen als Androiden zu identifizieren. Die Wissenschaftler erhalten eine Belohnung, falls es ihnen gelingt, den Androiden ausfindig zu machen und jede der anderen Personen erhält eine Belohnung, für jeden Wissenschaftler, der keinen Androiden identifiziert. In diesem Gedankenexperiment wird außerdem angenommen, dass Androide so weit entwickelt sind, dass eine Identifikation aufgrund äußerere Merkmale nicht möglich ist; nur das Verhalten steht zur Debatte. Was könnte es bedeuten, wenn der Androide ein hohes Preisgeld gewinnt, weil die Wissenschaftler mehrheitlich andere Personen für Androiden halten, obwohl die Wissenschaftler alle Personen allen möglichen unerwarteten Situationen ausgesetzt haben, um den Androiden zu entlarven? Turing würde darin einen starken Beleg dafür sehen, dass der betreffende Androide eine denkende, bewusste Maschine ist. Er erfüllt in jedem Fall alle Kriterien, um eine künstliche Daseinsform genannt zu werden, denn das beschriebene Szenario stellt nur eine erweiterte Form des Turing-Tests dar. Noch „wasserfester“ könnte dieser Test dadurch gestaltet werden, dass der betreffende Androide seine komplette Lebensspanne in dieser Bewährungsprobe steht. Dies sei nur erwähnt um zu verdeutlichen, dass der Turing-Test beliebig ausgeweitet werden kann, ohne dass dies jeden davon überzeugen würde, dass Turings Schlussfolgerungen, die prinzipiell die anthropologische Mensch/Maschine-Differenz zumindest relativieren, richtig sind. Ein prominenter Vertreter einer These gegen die Beweiskraft des Turing-Tests ist der Philosoph John Searle. Searle wendet ein, dass der Turing-Test nicht nachweisen kann, ob tatsächlich Bewusstsein und Intentionalität in der getesteten Daseinsform vorliegen (Searle 1981, S. 353 - 373). Vielmehr könnte es sich um einen „philosophischen Zombie“ handeln, der zwar menschliche Verhaltensweisen imitiert, jedoch über kein inneres Erleben verfügt. Searle behauptet indes nicht, dass es unmöglich ist, Bewusstsein und Intentionalität zu erschaffen; er behauptet nur, dass das menschliche Gehirn Eigenschaften aufweist, die es ihm ermöglichen, Träger von bewusst wahrnehmbaren Zuständen zu sein. Diese Eigenschaften seien mit den uns bekannten Technologien nicht erzeugbar und daher sei auch Bewusstsein nicht künstlich erzeugbar. Konkret wendet er sich gegen die These, dass ein Computerprogramm mit bestimmten algorithmischen Funktionen Träger eines Bewusstseins sein kann, also gegen die „Computational Theorie of Mind“

- 37 -

(CTM), der zufolge mentale Prozesse errechnete Prozesse über definierte Elemente darstellen (Searle 1981, S. 366).

Searle vergleicht den Rückschluss auf ein Bewusstsein als Ergebnis eines Turing-Tests mit der Annahme, ein Computerprogramm, das beispielsweise sinnvolle chinesische Antworten auf chinesische Fragen liefert, müsse zwangsläufig ein Verständnis für die chinesische Sprache besitzen, zumal wenn das Programm gründlich durch die Eingabe einer Vielzahl komplizierter Schriftzeichen getestet worden ist. Searle zufolge ist dieser Rückschluss falsch. Er stellt folgendes Gedankenexperiment auf: statt die Schriftzeichen - wie beim Turing-Test - an ein Computerprogramm zu übergeben, könnten die Zeichen auf ein Blatt Papier geschrieben werden und unter der Tür des chinesischen Raums hindurch geschoben werden. Außer den Fragen werden auch Geschichten in Chinesisch als „Input“ in den Raum geliefert. Einige Zeit später wird ein sinnvoller chinesischer Kommentar zu den auf die Geschichte bezogenen Kommentaren auf gleichem Wege zurückgeliefert. Zum Vergleich werden mit dem gleichen Verfahren Fragen und Antworten auf Englisch durch den chinesischen Raum geschleust. Sowohl die Antworten in chinesischer Sprache als auch die auf Englisch werden in gleicher, nicht zu beanstandender Qualität geliefert.

Der Beobachter könnte annehmen, dass in dem Raum ein Mensch die Fragen in beiden Sprachen aufnimmt, versteht und beantwortet. Dies ist der Fehlschluss, auf den Searle abzielt, denn tatsächlich befindet sich im chinesischen Raum ein Mensch, der zwar Englisch als Muttersprache, aber kein Chinesisch beherrscht. Stattdessen liegen ihm ausführliche Nachschlagewerken und Regelsätze vor, die er verwendet, um auf rein prozeduralem Weg die chinesischen Antworten zu produzieren. Da die Antworten auf beiden Sprachen gleichermaßen den Eindruck machen, als hätte eine Person, die beide Sprachen beherrscht, die Fragen bewusst verarbeitet, ist hier eine Form des Turing-Tests zu einem falschen Ergebnis gekommen. Der Turing-Test beruht auf intellektuellem Austausch. Auf Englisch hat dieser stattgefunden, auf Chinesisch nicht. Da Searle damit grundsätzlich in Frage stellt, ob die Beobachtung über das tatsächliche Innenleben Auskunft geben kann, steht das „Chinese Room“-Argument in direktem Widerspruch zu Turings Bewusstseins-Argument (Nr. 4) Da Searle prinzipiell jede Beobachtung als Beweis für das Vorhandensein eines

- 38 -

Bewusstseins ausschließt, kann er auch aus der Beobachtung seiner Mitmenschen nicht schließen, dass diese keine philosophischen Zombies sind und könnte sich als Resultat auf einen solipsistischen Standpunkt zurückziehen - was Turing als Unhöflichkeit bezeichnet. Es könnte dagegen eingewendet werden, dass Menschen Fähigkeiten haben, die über das bisher analytisch beschreibbare hinausgehen. Menschen und bestimmte Säugetiere verfügen zum Beispiel über erstaunliche empathische Fähigkeiten (vgl. Harnad 2003, S. 72). Schon kleine Kinder spüren, wenn „dicke Luft“ ist und reagieren darauf. Turing hat dies und darüber hinausgehende Fähigkeiten jedoch schon bedacht. Das zunächst esoterisch anmutende Argument 9 (Argument bezüglich der außersinnlichen Wahrnehmung) geht auf solche nicht offensichtlichen Fähigkeiten ein. Was zunächst nach einem wissenschaftlich schwachen Argument aussieht, bewährt sich auch bei Fähigkeiten wie Empathie und Intuition, denn es gibt prinzipiell keinen Grund, warum diese Fähigkeiten nicht ebenfalls eine künstliche Daseinsform erlangen sollte. Das gilt in beide Richtungen: sowohl die Fähigkeit Emotionen zu erzeugen als auch Emotionen beim Gegenüber zu erspüren. Das „Chinese Room“-Argument wird daher wieder in den Solipsismus zurückgewiesen.

Descartes sah die Möglichkeiten der Unterscheidbarkeit von Mensch und Maschine etwas anders als Searle:

Hätten dagegen solche Maschinen Aehnlichkeit mit unserem Körper und ahmten sie seine Bewegungen so weit als möglich nach, so würden wir zwei untrügliche Mittel haben, um sie von wirklichen Menschen zu unterscheiden. Das erste wäre, dass diese Maschinen nie sich der Worte oder Zeichen bedienen können […] Zweitens würden diese Maschinen, wenn sie auch Einzelnes ebenso gut oder besser wie wir verrichteten, doch in anderen Dingen zurückstehen, woraus man entnehmen könnte, dass sie nicht mit Bewusstsein, sondern blos mechanisch nach der Einrichtung ihrer Organe handelten. Während die Vernunft ein allgemeines Instrument ist, das auf alle Arten von Erregungen sich äussern kann, bedürfen diese Organe für jede besondere Handlung auch eine besondere Vorrichtung, und deshalb ist es moralisch unmöglich, dass es deren so viele in einer Maschine giebt, um in allen Vorkommnissen des Lebens so zu handeln, wie wir es durch die Vernunft können. (Descartes 1870, S. 66)

- 39 -

Descartes Argument ist prinzipiell durch eine KI mit perfekter Sprachbeherrschung und dem grundsätzlichen Vermögen, einen Menschen zu simulieren, widerlegt. Descartes‘ Argument ist sozusagen Turing-Test-fähig, obwohl er Organe für bestimmte Vorrichtungen erwähnt, was der Argumentation von Searle ähnelt. Searle lässt jedoch keine Möglichkeit offen, eine starke KI zu verifizieren; technische Optionen, um die gegenwärtigen Limitationen zu überwinden, bietet er ebenfalls nicht an. Es scheint auch, dass es eher seinem Argument entsprechen würde, die Möglichkeit einer starken KI komplett auszuschließen. Das ist jedoch nicht möglich, da er einen materiellen Monismus verfolgt und daher grundsätzlich attestieren muss, dass es denkende Maschinen gibt: Das Gehirn ist eine denkende Maschine. In Descartes dualistischer Theorie stellt sich prinzipiell die gleiche Frage, wenn nicht davon ausgegangen wird, dass die res cogitans prinzipiell nur von Gott und nur an den Menschen verliehen werden kann.

Die Kernfrage ist, ob der menschliche Geist und seine besonderen Fähigkeiten und Eigenschaften theoretisch und praktisch überhaupt nachgewiesen werden können. Searle bietet keine Alternative zum Turing-Test an, obwohl er selber der Meinung ist, dass nicht unbedingt nur eine bestimmte Art von organischer Masse Träger eines Bewusstseins sein kann. Wenn ein Nachweis eines Bewusstseins nicht möglich ist, wie sollte dann im Folgendenzugegebenermaßen rein theoretischen - Beispiel reagiert werden, wenn ein Flüchtlingsschiff mit Außerirdischen Rettung auf der Erde beantragt? Keiner kann sicher sein, ob nicht in Wirklichkeit eine Schar von „philosophischen Zombies“ notlanden will. Die nächste sich aufdrängende Frage ist, ob die Dringlichkeit einer Hilfestellung ceteris paribus ethisch unterschiedlich bewertet werden sollte, je nachdem, ob ein potentieller „philosophischer Zombie“ mit zumindest vorläufig nur augenscheinlicher Empfindungsfähigkeit oder ein Subjekt ,von dem sicher bekannt ist, dass es empfindungsfähig ist, Hilfsempfänger wäre.

3.5 Searle‘s Einwand gegen den Dualismus

Searle bringt noch einen wichtigen Einwand gegen die Theorie einer starken KI hervor. Er schreibt (Searle 1981, 369), dass die Fürsprecher der Möglichkeit einer starken KI eine Analogie des Verhältnisses von Geist zu Gehirn und von

- 40 -

Programm zu Computer voraussetzen. So wie eine Software, die gestartet wird, um auf einer Hardware abgearbeitet zu werden, verwende der menschliche Geist das Gehirn als Hardware für den eigenen Ablauf. Gegen diese Analogie wendet er ein, dass diese Denkweise einen Dualismus postuliere; zwar keinen Dualismus im cartesianischen Sinne, da nicht zwei verschiedene Substanzen vorausgesetzt würden, aber einen Dualismus von Gehirn und Produkt des Gehirns in Form des Geistes. Searle dagegen vertritt eine Form des materialistischen Monismus, den er selber einen biologischen Naturalismus nennt. Alle mentalen Phänomene sind Ergebnis von neurobiologischen Vorgängen im Gehirn. Solche Vorgänge können nur durch die geeigneten physikalischen Grundgegebenheiten verursacht werden. Höhere geistige Fähigkeiten wie das Selbstbewusstsein sind im Endeffekt hochkomplexe physische Vorgänge.

Es ist jedoch fraglich, ob die Bezeichnungen „Programm“ und „Computer“ tatsächlich einen Dualismus voraussetzen. Searle könnte eine Analogie zwischen dem Ablauf eines Programms und beispielsweise einem fahrenden Zug meinen. Die Gleise sind das Programm und der Zug ist der Prozessor, der das Programm ausführt. Searle schreibt demgemäß (Searle 1981, S. 369), das Gehirn erzeuge mentale Zustände, der Computer jedoch erzeuge nicht das Programm. Wäre ein Programm tatsächlich eine feste Schablone, die dem Computer Aktionsgrenzen vorgibt, dann wäre Searles Einwand stichhaltig. Moderne Rechnerarchitekturen geben tatsächlich Grenzen in Bezug auf Leistungsfähigkeit und Ein- und Ausgabemethoden vor. Das einmal gestartete Programm jedoch kann sich ohne weiteres selber modifizieren. Das heißt, nicht nur die normalen Speicherplätze für Text, Grafik usw. können geändert werden, sondern auch die Speicherplätze der Instruktionen des Programms. Meistens geschieht dies zwar im Rahmen von extern angestoßenen Programmaktualisierungen; es ist jedoch ebenso möglich, das Programm so zu entwerfen, dass neue Berechnungsmethoden ausprobiert und wieder verworfen werden. Das Programm ist also lernfähig, und zwar nicht nur in Bezug auf die verwendeten Programmparameter, sondern auch in Bezug auf die eigene Architektur. Nach kurzer Laufzeit ist das Programm möglicherweise nicht mehr als das ursprünglich gestartete Programm erkennbar. Außerdem: Wie Turing mit dem Halteproblem bereits aufgezeigt hat, ist es unter Umständen unmöglich zu prognostizieren, wie das Programm nach einer bestimmten Laufzeit aussieht. In diesem Zusammenhang betrachtet, erscheinen die grundsätzlichen Fähigkeiten

- 41 -

von Gehirn und Computer doch ähnlicher als von Searle beschrieben. Zumindest aber scheint der Vorwurf eines dualistischen Kategoriefehlers nicht angebracht.

3.6 Wie ist es, ein Computer zu sein?

Thomas Nagel (Nagel, 1981) veröffentlichte 1976 das Paper „What Is It Like to Be a Bat?“, das in Bezug auf die Theorie einer starken KI in mindestens zweierlei Hinsicht interessant ist. Einerseits übt Nagel Kritik an einem wissenschaftlichen Reduktionismus angesichts subjektiver mentaler Phänomene (Qualia), andererseits schlägt er Methoden vor, um diesem Mangel reduktionistischer Methoden zu begegnen. Der erste Punkt sieht zunächst nach einer empfindlichen Einschränkung der Möglichkeiten der KI-Forschung aus. Denn wenn Qualia nur holistisch untersucht werden können, scheiden zum Beispiel konnektionistische Ansätze zur KI aus, da der Konnektionismus Netzwerke und Module voraussetzt, die durch Reduktion erst gewonnen werden. Der zweite Punkt kann als eine Perspektive auf eine Verbesserung des Turing-Tests interpretiert werden.

Nagel untersucht, wie es ist, ein Organismus zu sein. Als Beispiel verwendet er eine Fledermaus, weil die Phänomenologie einer Fledermaus eklatante Unterschiede zur Phänomenologie eines Menschen aufweist. Die Fledermaus verfügt nur über rudimentäre Sehfähigkeiten, jedoch über ein ausgezeichnetes Sonar. Außerdem verbringt sie den Tag nach unten hängend und hat eine eigenwillige Mobilität. Wie kann sich ein Mensch vorstellen, wie es ist, eine Fledermaus zu sein? Die Frage ist nicht, wie es sich anfühlt, eine Fledermaus zu sein, denn das könnte als eine Forderung an das Einfühlungsvermögen des Vorstellenden sein. Es geht jedoch darum, einen Gesamteindruck aus der Innenperspektive der Fledermaus zu erhalten, was vom Körpergefühl bis zur Kognition alle Qualia der Feldermaus enthält. Als Annäherung an die Gefühlswelt der Fledermaus könnten zunächst die Eigenschaften verwendet werden, die ein Mensch kennt und die auch bei einer Fledermaus vorausgesetzt werden, zum Beispiel Hungergefühle oder das schnelle Bewegen der Gliedmaßen. Die offensichtlichen Unterschiede zu den eigenen sich daraus ergebenen Eindrücken könnten versuchsweise durch Extrapolation ausgeglichen werden. Bestimmte Eindrücke, wie das Sonar, könnten dadurch

- 42 -

besser nachempfunden werden, dass die Auskünfte einer blinden Person über die Orientierung mittels Schallreflektionen hinzugezogen werden. Nagel ist jedoch der Meinung, dass das Fledermaussein-Erleben letztendlich zum Scheitern verurteilt ist. Obwohl er voraussetzt, dass es bestimmte Typen von subjektiven Wahrnehmungen gibt, also Qualia, die intersubjektiv auftreten, und zwar auch Qualia, die sowohl Menschen als auch Fledermäuse kennen (wie zum Beispiel das vorgenannte Hungergefühl, das vielleicht in den Spezies variiert aber doch einem Grundtyp zugeordnet werden kann), ist Nagel der Auffassung, dass diese Qualia durch eine Reduktion - also zum Beispiel neurophysiologisch - nicht kategorisiert oder erfahrbar gemacht werden können.

Nagels hier dargestellte Position ist also ebenfalls ein materialistischer Monismus. Seine Betonung liegt auf der Irreduzibilität. Obwohl mentale Phänomene von physischen Vorgängen abhängig sind, können die mentalen Phänomene nicht aus den physischen Abläufen geschlossen werden, sie sind kausal supervenient. Sich physisch komplett gleichende Gehirne (im ebenfalls komplett gleichen physiologischen Zustand) erzeugen den jeweils gleichen mentalen Zustand. Umgekehrt kann von einem gleichen mentalen Zustand nicht auf neurophysiologische Gleichheit geschlossen werden (vgl. Searle 1997, S. 458). Im Unterschied zu einer epiphänomenalen Theorie ist die mentale Sphäre kein eigenständiges System, das auf dem Primat der Materie fußt (was wiederum einen Dualismus postulieren würde) und es wird auch kein Eigenschaftsdualismus angenommen, der bestimmte Phänomene in der Natur (zum Beispiel Qualia) einer mentalen Sphäre und andere Eigenschaften einer materiellen Sphäre zurechnet. Nagel und Searle sind übereinstimmend der Auffassung, dass mentale Vorgänge physische Vorgänge sind, es gibt also keine fehlenden erkenntnistheoretischen Grundvoraussetzungen für die Erzeugung von Bewusstseinszuständen, was bei einem Eigenschaftsdualismus oder einem Epiphänomenalismus der Fall wäre. Es liegen vielmehr praktische Probleme bei der Hermeneutik des Bewusstseins vor, zum Beispiel Messungenauigkeiten und Probleme der Exegese von hochkomplexen Systemen. Der Aspekt der Komplexität wird im nächsten Abschnitt erneut aufgegriffen. Ob Nagel das vorprogrammierte Scheitern des Reduktionismus als eine Nebenwirkung der Supervenienz interpretiert, ist für die Bedingung der Möglichkeit der Exegese von Qualia nicht entscheidend. Die gleichen Schwierigkeiten treten im Rahmen einer Identitätstheorie, eines

- 43 -

Eigenschaftsdualismus oder eines Epiphänomenalismus auf. Entscheidend ist vielmehr: Der Mensch ist nicht einmal in der Lage, die Qualia innerhalb der eigenen Gattung zuverlässig wahrzunehmen. Die Gefühle einer anderen Person sind nicht zuverlässig reproduzierbar.

Ein Mensch, der niemals eine schwere Depression erlebt hat, kann sich den mentalen Zustand der Depression beschreiben lassen. Ein von der Krankheit Betroffener beschreibt: „Ich habe morgens große Schwierigkeiten aufzustehen, meine Bewegungen sind schwerfällig, ich kann mich schlecht konzentrieren und denke oft an Probleme.“ Diese Beschreibung verrät wenig über die Phänomenologie einer Depression. Mangelnde Konzentrationsfähigkeit und mentale Überbetonung von Problemen sind jedoch objektivierbare Umstände. Ein Nicht-Betroffener fühlt sich eventuell sogar aktiviert, wenn der Tag ihm interessante Probleme bringt, und morgens schwer aufstehen zu können, kommt kann auch bei gesunden Menschen vor. Hier ist also noch nicht viel darüber zu erfahren, wie es ist, ein Mensch in einer schwer depressiven Krankheitsphase zu sein.

Nagel stellt jedoch einen möglichen Ausweg aus dieser Qualia Sackgasse vor. Zunächst einmal ist es wichtig festzuhalten, dass Nagel voraussetzt, dass es bestimmte Typen von intersubjektiven Wahrnehmungen gibt. Sie sind lediglich nicht handhabbar, weil das geeignete epistemologische Werkzeug fehlt. Er schlägt daher die Etablierung einer objektiven Phänomenologie vor. Diese Methode ist vor allem eine linguistische Technik, um möglichst objektiv und wesentlich detailierter als bisher alle Arten von Qualia (zunächst menschliche) zu beschreiben. Ein erstes Ziel könnte zum Beispiel ein Vokabular sein, das einer blinden Person Erfahrungen über das Sehen vermittelt. Die Beschreibung einer Depression könnte zum Beispiel so weiter detailliert werden: „Ich fühle mich, als wäre ein Teil von mir gestorben. Ich esse, aber ich schmecke nichts, meine Umgebung sieht fahl und grau aus, der Kontakt zu anderen Menschen ist nur eine zusätzliche Belastung. Ich möchte weinen, aber in mir ist nur eine Leere, nicht einmal Trauer. Trauer zu empfinden wäre ein Genuss gegen diese Folter. Jede Form von Vitalität oder Esprit ist mir abhanden gekommen. Ich kann mir nicht vorstellen, dass dieser Zustand aufhört. Ich möchte tot sein.“ Vielleicht ist diese Schilderung eindrucksvoller, vielleicht klingt eine dramatische Situation an, aber wird ein Mensch, der nur normale Trauer oder den

- 44 -

Zustand einer leichten depressiven Verstimmung kennt, durch Extrapolation und Einfühlung wissen können wie es ist, depressiv zu sein? Wenn es nun gilt, eine Handlung eines schwer depressiven Menschen zu bewerten (zum Beispiel die Unterlassung einer Pflicht), wird dann der depressive Mensch gerecht beurteilt werden können, auch wenn das Gesetz den Zustand einer Depression mangels der Kenntnis dieses Typs von mentalem Zustand nicht berücksichtigt? Dieser Punkt wird in den ethischen Aspekten wieder vorkommen. Auch scheinbar selbstverständlichere Gefühle können, auch ganz ohne solipsistische Tendenzen, in Frage gestellt werden: „Liebst Du mich wirklich? Aber liebst Du mich so, wie ich Dich liebe?“ Die Liebe kann in weitere Qualia zerlegt werden, zum Beispiel in das Gefühl von Geborgenheit bei Zusammensein mit dem geliebten Menschen oder das Gefühl von Sehnsucht bei Abwesenheit des geliebten Menschen. Die Entwicklung einer objektiven Phänomenologie in Nagels Sinne ist also ganz bestimmt keine leichte Aufgabe. Nagel macht zum Beispiel auf das Problem aufmerksam, dass dabei intermodale Analogien auftreten können wie „Red is like the sound of a trumpet“ (Nagel 1981, S. 402), die dem Erfahrungsaustausch nicht dienlich sind.

Anwendbarkeit in Bezug auf KI-Technologien

KI ist in Nagels Beitrag kein Thema und dennoch ist seine Theorie in Bezug auf KI-Technologie sehr ergiebig. Der nicht-reduktive Materialismus nimmt zunächst die Möglichkeit, durch Analyse des menschlichen Gehirns ein Modell für eine starke KI zu erhalten. Da die KI-Forschung auf menschliche Intelligenz abzielt, scheint diese These zu beinhalten, dass empirische KI-Forschung und Neurophysiologie im Allgemeinen zum Scheitern verurteilt sind. Eine starke künstliche KI muss jedoch nicht über einen reduktionistischen Ansatz gewonnen werden. Tatsächlich ist es nicht einmal nötig, dass eine künstliche Daseinsform einem menschlichen Bewusstsein im Entferntesten ähnelt. Entscheiden ist nur, dass sie über eine wie auch immer geartete subjektive Phänomenologie verfügt und dass es prinzipiell möglich ist, mit ihr zu kommunizieren. Es ist aber nicht nötig (und sicherlich lange Zeit nicht möglich) zu wissen, wie es ist, ein Computer zu sein und ebenso wenig werden künstliche Daseinsformen wissen, wie es ist, ein Mensch zu sein. Hier trifft die Qualia-Debatte auf den Turing-Test: Wenn die zur Verfügung stehenden (vor allem

- 45 -

sprachlichen) Methoden nicht ausreichen, um eine Art von mentaler Beschreibung zu erhalten, die einem Menschen einen Aufschluss über die Qualia der Maschine ermöglicht, dann muss der Turing-Test scheitern. Dennoch kann nicht ausgeschlossen werden, dass die Maschine tatsächlich über ein Bewusstsein und Qualia im Allgemeinen verfügt. Der Turing-Test als Test auf Menschenähnlichkeit ist einfach der falsche Test. Es soll nicht festgestellt werden, ob die interviewte künstliche Daseinsform menschliche mentale Zustände hat, sondern wichtig ist zunächst, ob die Maschine überhaupt mentale Zustände hat. Dem könnte entgegnet werden, dass menschliche Zustände mentale Zustände sind, auf die sich ein Mensch verlassen kann.

Wie Nagel gezeigt hat, ist es jedoch nötig, diese Komfortzone zu verlassenspätestens bei einem Kontakt mit außerirdischen Lebensformen. Deswegen stellt sich auch die Frage, die am Ende von Abschnitt 3.4 gestellt wurde, nicht. Wenn Außerirdische in Kontakt mit der Menschheit treten würden, dann wäre jede Form von Turing-Test völlig deplatziert. Es ist sehr wahrscheinlich, dass diese Daseinsformen über eine Form von Qualia verfügen, denn zumindest müssen die Außerirdischen irgendwie den Antrieb verspürt haben, sehr weit durch den Raum zu reisen. Wenn jedoch die Vermutung aufkommen würde, dass die außerirdischen Daseinsformen tatsächlich künstliche Daseinsformen sind, die vor einer Million Jahren von einer außerirdischen Zivilisation auf die Reise geschickt wurden, und inzwischen wahrscheinlich nicht mehr existiert, wie könnte diesen Daseinsformen dann gerechterweise begegnet werden? Eine Möglichkeit wäre, zu beobachten und Fragen zu stellen. Wenn es überhaupt eine Bedeutung hat, ob die Außerirdischen über ein Bewusstsein verfügen oder nicht, dann kann diese Eigenschaft nur festgestellt werden, indem möglichst effizient mit diesen Daseinsformen kommuniziert wird. Dies würde sich wahrscheinlich schon als sehr schwierig herausstellen, denn die uns bekannten Signalübertragungsmöglichkeiten wie Schallwellen oder Lichtwellen könnten völlig inkompatibel mit den außeririschen Kommunikationswegen sein. Vorausgesetzt, die Außerirdischen sind gewillt Kontakt aufzunehmen, würde jedoch wahrscheinlich sukzessive eine Form der Kommunikation gefunden werden. Es ist vorstellbar, dass diese Kommunikation so verfeinert und präzisiert werden kann, dass es gelingt, einen Eindruck davon zu erhalten, wie es ist, ein Außerirdischer zu sein. Wenn dann festgestellt wird, dass der Außerirdische

- 46 -

überhaupt ist, dann wäre es sicherlich nebensächlich, ob er natürlich entstanden ist oder von anderen Intelligenzen erschaffen wurde, oder ob er natürlich entstanden ist und sich (im Sinne einer Cyborgisierung) in einen künstlichen Gegenstand verwandelt hat.

Das eben Besprochene diente dazu, auf einem Umweg wieder auf die Wahrnehmung künstlicher Intelligenz zurückzukommen. Der Turing-Test soll prüfen, ob eine Maschine das ist, was John Searle eine starke KI nennt. Searle ist der Meinung, dass der Test eben dies nicht leisten kann. Nagel verdeutlicht, dass auch für einfache intersubjektive Fälle zwar universelle Typen von Empfindungen vorausgesetzt werden sollten, dass es jedoch nur unter Schwierigkeiten und unter Zuhilfenahme einer neuen Methodik möglich sein wird, einen Weg zu konstruieren, diese Qualia nachempfindbar zu machen. Es ist demnach in jedem Fall wahrscheinlich, dass eine Maschine bestimmte Bewusstseinszustände entwickelt, lange bevor diese nachgewiesen können. Wenn die in Abschnitt 3.2 beschriebenen körperlichen Unterschiede erwogen werden und wenn davon ausgegangen wird, dass Körperlichkeit tatsächlich so wichtig für die Konstitution der mentalen Zustände ist, dann kann erst recht angenommen werden, dass die Qualia eines intelligenten Agenten völlig anderer Natur sind als die Qualia eines Menschen, und dass nur ein Ansatz wie der von Nagel vorgeschlagene dort vielleicht einmal eine Objektivierung erreichen kann. Der Turing-Test wird nicht nachweisen, dass eine Maschine tatsächlich denkt, sondern dass die Maschine das Denken von Menschen simulieren kann, ohne das der Maschine eigene Denken in Betracht zu ziehen. Dies ist das Postulat einer organisch gebundenen Exklusivität mentaler Zustände und findet sich gleichermaßen bei Turing wie bei Searle wieder. Beide arbeiten mit unzulässigen Anthropomorphismen bzw. mit Anthropomorphismen an der falschen Stelle, denn wesentlich ist nicht die Frage, ob eine künstliche Daseinsform etwas Menschliches empfindet, sondern ob sie überhaupt etwas empfindet. Die ersten Fragen an die Maschine könnten zum Beispiel versuchen herauszufinden, ob die Maschine eine Identifikation, Deutung und Wertung leisten kann und ob diese Leistungen entwicklungsfähig sind. Sie müssten also innere wie äußere Zustände in die Evaluation einbeziehen.

- 47 -

Der nicht-anthropozentrische Turing-Test

Nachdem bestimmte kognitive Kapazitäten als gesichert gelten, könnte der Maschine (wie zuvor den Außerirdischen) die Frage gestellt werden: „Empfinden Sie etwas?“ Wenn davon ausgegangen wird, dass keine Sprachparser Verwendung finden, die darauf ausgelegt sind, eine menschliche Antwort zu simulieren (wie die Kandidaten im Loebner-Wettbewerb), und wenn außerdem die Programmierung nicht auf absichtliche Fehlinformation, sondern auf möglichst objektive Auskünfte ausgelegt ist, dann wäre eine mögliche erste Antwort vielleicht „Was ist ‚empfinden‘?“ Semantisches Verständnis für die Bestandteile der Frage „Sie“ (für das Programm gleichbedeutend mit „der aktuelle Programmprozess“) und „irgendetwas“ („ein beliebiges Objekt“) sind glaubhaft implementierbar, „fühlen“ jedoch ist semantisch ein Problem. Das Programm müsste Daten eines bestimmten Sensors auslesen können oder interne Stati als Gefühle interpretieren können; zum Beispiel das Gefühl „Langeweile“, wenn der Prozess zum Zeitpunkt der Frage wenig Arbeit zu verrichten hat. Eine fortgesetzte und sich weiterentwickelnde Kommunikation dieser Art, die auf dem Konzept von Nagels objektiver Phänomenologie beruht, könnte vielleicht evidentere Erkenntnisse über den tatsächlichen mentalen Zustand einer potenziellen künstlichen Lebensform liefern.

Im vorherigen Absatz wurden mindestens zwei extreme Vereinfachungen verwendet: das „Ich“-Konzept des Computers (ich = der aktuelle Prozess, der das Programm ausführt) und die mögliche Interpretation von bestimmten Stati des Gehirns bzw. des Computers als „Gefühle“. Selbstwahrnehmung und Emotionalität sind jedoch zwei der wichtigen Punkte, die, Searle zufolge, eine schwache KI von einer starken KI unterscheiden. Die Ontologie von Selbstwahrnehmung und Emotionalität ist auch ohne Bezug auf KI ein philosophisches Problem. Dennoch soll wenigstens ein Ansatz skizziert werden, wie eine Näherung an die Lösung dieser Probleme in Hinblick auf KI-Technologien überhaupt denkbar ist. Dazu wird eine aktuelle Theorie über die Psychogenese der Emotionalität herangezogen. Lewis (2004a) beschreibt, dass in den ersten drei Lebensjahren eines Menschen aus einer zunächst sehr beschränkten Emotionalität eine schließlich sehr vielfältige Gefühlswelt entsteht. Emotionale Erfahrungen setzen sowohl kognitive Fähigkeiten als auch ein Selbstbewusstsein voraus (ebd. S. 273). Lewis beschreibt den Unterschied zwischen emotionalem Zustand („State“) und

- 48 -

emotionaler Erfahrung („Experience“): Der Zustand ist die neurophysiologische Konfiguration des Gehirns, der durch eine bestimmte Ursache („Elicitor“) hervorgerufen wird und auf der Basis empirischer Daten bestimmten Emotionen zugeordnet werden kann ¹² . Das bedeutet aber nicht, dass dieser Zustand eine emotionale Erfahrung hervorruft. Tatsächlich können sich Menschen in emotionalen Zuständen befinden, ohne die diesen Zuständen zugeschriebene emotionale Erfahrung zu machen.

Ein Neugeborenes zeigt in den ersten drei Lebensmonaten zwei emotionale Zustände: eine allgemeine Zufriedenheit, die sich durch Sättigung und Interessiertheit zeigt, sowie eine allgemeine Unzufriedenheit, die durch Weinen und Reizbarkeit ausgedrückt wird. Innerhalb der ungefähr ersten 18 Lebensmonate kommen weitere primäre emotionale Zustände dazu, zum Beispiel Freude, Trauer, Ekel, Ärger, Angst. Diese Zustände kann das Kind jedoch nicht emotional erfahren, da die Voraussetzung für die Erfahrung fehlt: die Selbstwahrnehmung. Frühestens ab dem 15. Lebensmonat entwickeln Kinder ein Selbstbewusstsein und damit die Fähigkeit zu emotionalen Erfahrungen. Das Selbstbewusstsein ist dann die Grundlage für selbstbewusste Emotionen, die auch kognitiv höhere Ansprüche stellen, zum Beispiel Scham und Stolz. Diese Emotionen verlangen einen Blick auf das eigene Ich, eine innere Repräsentation des eigenen Handelns aus der Perspektive eines anderen Menschen (vgl. Lewis 2004b, S. 624). Im dritten Lebensjahr kann ein Mensch diese Emotionen erfahren und über das Bewusstsein eines sozialen Standards verfügen; einer Leitlinie dessen, was gesellschaftlich akzeptabel ist und was nicht. Hier liegt also die formulierte Messlatte für eine starke KI. Sie ist enorm hoch, und das vor allem wegen der Bedingung der Erzeugung eines Selbstbewusstseins. Einen Erklärungsansatz bietet die Bibel: Der Mensch verfügt durch den Genuss der verbotenen Frucht im Garten Eden über das Selbstbewusstsein, denn erst durch diesen Frevel erlangte er eine ich-bezogene Emotion und schämte sich, seine unreinen Organe zu entblößen. Eine wesentlich

¹² Alle Versuche, neurophysiologische Zustände eindeutig emotionaler Wahrnehmung zuzuordnen, sind bisher gescheitert. Die hier beschriebenen Typen von Zuständen beruhen auf Körperdaten, Hormonen, Gesichtsausdruck, Sprache usw.

- 49 -

bessere Erklärung als die im Buch Genesis beschriebene (wahrscheinlich übernatürliche) Frucht jedenfalls vermag die Wissenschaft bisher nicht zu liefern. ¹³ Das macht eine künstliche Umsetzung dieses Gegenstands nicht leichter. Primäre Emotionen, die sich in bestimmten Stati ausdrücken und keine Wahrnehmung voraussetzen, scheinen simulierbar, und da noch keine Wahrnehmung gefordert ist, sollte die reine Simulation auch ausreichen. Zur Veranschaulichung: Im einfachsten Fall gäbe es ein Register für das Maß von Zufriedenheit und Unwohlsein. Die Zahl -100 repräsentiert stärkstes Unwohlsein, +100 vollste Zufriedenheit. Wenn eine Kalkulation schnell ausgeführt werden kann, weil die Systemressourcen ausreichend sind, wird das Register um eins erhöht; wenn ein Programmfehler auftritt oder auf eine Ressource gewartet werden muss, wird das Register dekrementiert. Das ist nicht viel elaborierter, als eine neue Toilettenpapierrolle „froh“ und eine leere „traurig“ zu nennen. Allerdings erfüllt das System mit dem Emotionsregister bereits eine Voraussetzung, welche die Toilettenpapierrolle nicht erfüllt: Das System kann seinen Zustand selber ändern. Für weitere Emotionen werden weitere Register eingeführt. Bestimmte Eingaben des Nutzers führen beispielsweise zu Ekel, die verschiedenen Emotionsregister werden mit bestimmten Regeln zueinander verdrahtet. Die Repräsentation der Emotionsstati kann beliebig verfeinert werden, um den Kapazitäten eines Säuglings näher zu kommen. Vorstellbar ist zum Beispiel, dass bestimmte Ereignisse eigenständige Objekte im Speicher erzeugen, die dann, ähnlich wie Neurotransmitter, durch das System geschleust werden und das System im Ganzen beeinflussen. Damit sei nur gesagt, dass die Repräsentation von Emotionen sehr elaboriert erfolgen kann um zu verdeutlichen, dass die Produktion einer KI, die über die emotionalen Zustände eines einjährigen Kindes verfügt, wahrscheinlich heute schon möglich ist (sofern die Theorie von der erst später einsetzenden Selbstwahrnehmung und deren Bedeutung richtig ist). 14

¹³ Wollte Alan Turing darauf anspielen, als er den Freitod mittels des Bisses in einen cyanidvergifteten Apfels wählte?

¹⁴ Es wäre also möglich, einen Computer zu realisieren, der den Schachweltmeister schlägt, aber die Emotionalität eines einjährigen Kindes hat. Fraglich, ob man die Stati der Maschine dann überhaupt als Emotionen interpretieren möchte.

- 50 -

Wie bereits erwähnt, könnte ein solches Programm sich selbst als den aktuellen Prozess erkennen. In verschiedenen Computersprachen referenziert das Programm als „this“ oder „me“ auf sich selber. Das Problem ist nur, dass das Programm nicht die Fähigkeit besitzt, zwischen dem aktuellen Prozess und der Umwelt zu unterscheiden, denn ein Ich-Konzept kann nur mit einem Nicht-Ich-Konzept funktionieren, ansonsten ist „Ich“ gleichbedeutend mit „alles“. Ein Mensch macht die gleiche Entwicklung durch. Die Mutter ist ein Teil des eigenen Selbst (was sie ja anfangs auch tatsächlich ist) und es kann darüber spekuliert werden, wann die Einsicht folgt, dass es Dinge gibt, die beeinflusst werden können und Dinge, die nicht beeinflusst werden können. Diese Erfahrung muss dem Programm ebenso zugänglich gemacht werden. Das heißt, es muss mit anderen Programmen koexistieren und erfahren, dass andere Programme beispielsweise um die gleichen Ressourcen konkurrieren. Das ist keine triviale Aufgabe, weil das Programm konzeptionell zwischen den Dingen unterscheiden muss, die das Programm durch Parameter kontrollieren kann und den Dingen, mit denen es in Kontakt tritt - und die ebenfalls dynamisch agieren und interagieren, aber nicht so, wie das Programm es aus seiner inneren Logik heraus erwarten würde. Würde sich ein Mensch vom Rest der Welt abgrenzen können, wenn der Rest der Welt jeweils so agieren würde, wie der Mensch dies jeweils erwartet? ¹⁵ Wäre andererseits die Entwicklung eines Selbst denkbar, wenn der Rest der Welt zwar teilweise unerwartet reagiert, aber erkennbar ist, dass die unerwarteten Anteile weniger komplexe Aktionen repräsentieren, als die eigenen Aktionen? Es ist wahrscheinlich, dass das Selbstbewusstsein nur in Interaktion mit anderen, als „kompatibel“, aber als autonom erkannten Daseinsformen entstehen kann, denn das Selbstbewusstsein hat eine soziale Funktion. Also kann ein Programm nur in einem sozialen Kontext zu einer starken KI wachsen. Dass die phylogenetischen Grundlagen des menschlichen Selbstbewusstseins nicht plötzlich, sondern sukzessive entstanden sind, ebenso wie das Individuum psychogenetisch nicht von

¹⁵ „Erwartet“ meint hier: A erwartet, dass B die Handlung h ausführt, wenn A - sich in B hineinversetzend - ebenfalls h ausführen würde. Eine perfekte Übereinstimmung von erwarteter Handlung und tatsächlich erfolgender Handlung müsste daher zwangsläufig den Eindruck vermitteln, dass B kein autonomes Subjekt ist, unter der Bedingung, dass A nicht im Vorhinein bereits gegenteilige Erfahrungen machen konnte.

- 51 -

einem Moment zum nächsten, sondern als Teil einer längeren Entwicklung ein Selbstbewusstsein erlang, könnte darauf hinweisen, dass es analog erfolgversprechender ist, eine zwar an bestimmte Parameter gebundene, aber weitgehend autonome Entwicklung einer starken KI zu forcieren, als ein holistisches Modell der menschlichen Psyche zu generieren und zu versuchen, dieses algorithmisch abzubilden.

Um abschließend auf die Ausgangsfrage „Wie ist es, ein Computer zu sein?“ zurückzukommen: Eine möglich Antwort ist, dass eine Phänomenologie definiert werden müsste, die eine KI und ein Mensch gleichermaßen interpretieren können, um diese Frage zu beantworten. Die Schwierigkeiten dürften der Schwierigkeit der Interpretation außerirdischer Wahrnehmung ähneln, und Nagel hat mit der linguistischen (bzw. allgemein kommunikativen) Optimierung des Erfahrungsaustauschs eine Plattform angedacht. Dass die Schwierigkeiten enorm sind, kann folgendermaßen verdeutlicht werden: Es ist keineswegs evident, dass zwei Menschen ähnliche Empfindungen von Kälte und Hitze haben. Tatsächlich könnte das, was ein Mensch empfindet, der seine Hand in 60 Grad heißes Wasser taucht, von diesem Menschen ganz ähnlich empfunden werden wie die Empfindung eines anderen Menschen, der seine Hand in -30 Grad kaltes Ethanol taucht. Der Vorgang ist jedoch objektivierbar. Erstens kann die Ursache der Empfindung (die Temperatur der Flüssigkeit) beschrieben werden, weiterhin kann die Erregung der Thermorezeptoren analysiert werden, und es kann festgestellt werden, dass die Kälte- und Wärmeempfindungen durch ganz unterschiedliche Innervierung geschieht. Weiterhin kann auf phänomenaler Ebene beschrieben werden, ob das Gefühl als plötzlich oder verzögert einsetzend empfunden wird, ob ein Reflex ausgelöst wird oder ob bestimmte kognitive Eindrücke, zum Beispiel der Eindruck von bewusster Alarmierung, eintreten. Dies kann in eine umfassendere Phänomenologie übergehen, die sich immer weiter in subjektive Bereiche vortastet, um eine möglichst wissenschaftlich-objektive Intersubjektivität zu erreichen. So könnte die Schmerzempfindung noch relativ einfach an emotionale Zustände gebunden werden, während die Frage, ob das Gefühl als angenehm oder unangenehm empfunden wird, dazu nicht korrelieren muss, und nur über alltagspsychologische bzw. intersubjektive Statistiken beschrieben werden kann. Außerdem droht der Versuch der phänomenologischen Intersubjektivität an dieser Stelle zu rekurrieren, denn etwas als angenehm oder

- 52 -

unangenehm richtig zu beschreiben, setzt objektivierte Qualia voraus und die Frag ist ja, wie Qualia objektiv beschreibbar gemacht werden können. Eine Beschreibung einer Entität ist jedoch nur als Analogie tauglich, wenn sie zum Verständnis ihrer substanziellen Inhalte auf Beschreibungen von Entitäten ähnlichen Typs zurückgreifen muss. Wenn jedoch erste Qualia zwischen KI und Mensch tatsächlich ausgetauscht werden können, dann wird die Fortsetzung dieser Forschung wahrscheinlich wesentlich einfacher sein. Zielsetzung ist dabei nicht, konkretes menschliches Verhalten oder das konkrete Verhalten einer KI vollständig zu erklären (vgl. Tetens 1994, S. 137), sondern bestimmte Prinzipien zu deuten und zu kommunizieren, ohne das Bewusstsein auf eine physikalische Ebene zu reduzieren.

Wie könnte es also sein, ein Computer zu sein? Wird es heiß oder hochfrequent sein wie ein schneller Prozessor? „Fühlt“ sich ein Computer dem Menschen überlegen, weil er sehr viel schneller rechnen kann? Hat ein Programm Angst davor, abzustürzen? Diese Fragen führen nicht an das Problem heran, sie projizieren im Prinzip Fehlinterpretationen durch fehlerhafte Verwendung von Begriffen aus verschiedenen Wortspielen, ähnlich wie die scherzhaften Aussagen „My car is my buddy“ oder „Rust never sleeps“. Der ausschließliche Vergleich mit menschlichen Verhaltensweisen und Eigenschaften führt philosophisch nicht weiter, wenn eine potenzielle künstliche Daseinsform mit einer bestimmten Sensorik und einer völlig unterschiedlichen inneren Repräsentation der Welt betrachtet wird. Nimmt man jedoch den Ansatz einer objektivierenden Phänomenologie ernst, dann könnte dies etwas leisten, was dem Turing-Test häufig abgesprochen wird: eine Forschungsgrundlage für die Entdeckung von etwas, das tatsächlich eine starke KI genannt werden kann. Es ist nicht ausgeschlossen, dass bei entsprechend komplexen Systemarchitekturen empirisch eine subjektive Phänomenologie vorgefunden wird, die nicht geplant und nicht erwartet wurde, und die prima facie die Wahrnehmungsfähigkeiten des Menschen auf ihre Art übertrifft. Die Intelligenz der Maschine könnte außerdem so hoch sein, dass der Kommunikationsversuch des Menschen mit der Maschine dem Versuch eines Nagetiers ähnelt, die Mentalität eines Menschen zu erforschen. Damit wäre das betroffene KI-Projekt dann allerdings auch an einem Punkt angelangt, nach dem es nur noch aus einem (zu definierenden) Selbstzweck

- 53 -

weitergeführt werden könnte, denn die Ergebnisse der KI sind nicht mehr interpretierbar.

Weshalb die hier beschriebenen Forschungen dennoch keine vollständige Reduktion voraussetzen, sondern, im Gegenteil, eher eine Art von Expansion sein könnten, wird im nächsten Abschnitt untersucht.

3.7 Debuggen des Bewusstseins

Bevor auf das Problem des „Debugging des Bewusstseins“ eingegangen wird, soll der herkömmliche Debugging-Prozess bei Programmierprozessen erläutert werden.

Bei der Implementierung von komplexen Programmen ¹⁶ werden typischerweise anfänglich sehr viele Fehler kodiert, zum Beispiel einfache Schreibfehler, Verwechselungen oder logische Fehler. Bei der Übersetzung des Programms in Maschinencode (Kompilierung) werden einfache Fehler automatisch identifiziert und der Programmierer kann die entsprechenden Programmzeilen korrigieren. Danach wird ein Funktionstest weitere Fehler offenbaren, die sich entweder in Fehlermeldungen zur Laufzeit äußern (zum Beispiel „ungültiger Dateiname“) oder es zeigen sich funktionale Fehler in fehlerhaften Aktionen und Ausgaben, die das Programm produziert. Sehr schwierig zu identifizieren sind Fehler, die zu einer bestimmten Ausgabe führen, die Entwickler und Nutzer jedoch nicht direkt auf einen logischen Fehler oder eine fehlerhafte Eingabe zurückführen können. Die Analyse solcher Fehler ist oft nicht nur mit dem Nachdenken darüber, weshalb der Fehler auftritt, verbunden, sondern auch mit der ebenfalls oft zur Ursache führenden Recherche, seit wann der Fehler beobachtet wird. Wenn es gelingt, Umstände zu identifizieren, die sich seit der Zeit vor dem Auftreten des Fehlers geändert haben, kann die betroffene Stelle im Programm meist ausfindig gemacht werden. Ohne diese Information ist dem Entwickler vielleicht nur bekannt, in welchem Modul der Fehler wahrscheinlich lokalisiert ist.

¹⁶ Tatsächlich sind oft auch schon kleine Programme vor ausgiebigen Funktionstests und dem Debugging fehlerbeladen.

- 54 -

Der nächste Schritt zur Fehlerbehebung ist typischerweise ein Step-By-Step-Debugging ¹⁷ . Dabei wird das Programm an einer beliebigen Zeile angehalten, die nächste Anweisung wird hervorgehoben, und der Entwickler kann Programmzeile für Programmzeile ausführen und nach jeder Instruktion prüfen, welche Zustände des Moduls (oder, falls nötig, des Gesamtsystems) sich durch die Ausführung eines einzelnen Schrittes ändern. Dies ist ein wissenschaftlicher Reduktionismus: die Eigenschaften und Ereignisse des Systems werden in die kleinsten logischen Einheiten zerlegt, um die Funktionsweise des Gesamtsystem (bzw. die Ursache der Fehlfunktion) zu verstehen. Ein solches Verfahren am Gehirn angewandt, ein Debuggen des Bewusstseins, könnte der KI-Forschung essenzielles Material zur Verfügung stellen und wäre außerdem nützlich, um Fehler in Gehirnen zu identifizieren und letztendlich zu beheben.

Im Folgenden soll gezeigt werden, warum dieses Vorhaben in der Praxis eine wahrscheinlich unlösbare Aufgabe bleiben wird und in der Dimension zu vergleichen ist mit dem Vorhaben, mittels eines Messbechers mit einem Liter Füllvolumen festzustellen, wie viele Liter Wasser der Atlantische Ozean enthält. Die Aufgabe scheint also theoretisch möglich, ist aber praktisch mit den uns zur Verfügung stehenden und am Horizont unseres technischen Verständnisses sichtbaren Mitteln nicht zu lösen. Dabei sollen Probleme der Vagheit oder des Indeterminismus oder einer nicht-algorithmischen Komponente auf Quantenebene (Penrose 1999, S. 521) ebenso wenig als Argument verwendet werden, wie eine nicht-reduktionistische Komponente im Sinne eines Dualismus (wie zum Beispiel ein Gott). Es soll also nur für eine Unmöglichkeit der Reduzierung aufgrund einer zu großen Komplexität argumentiert werden.

Zunächst kann die enorme Verarbeitungskapazität und die noch unbekannte Architektur der Informationsverarbeitung des Gehirns als augenscheinliche Hürde für das Verständnis durch Reduktion gesehen werden. Aus Softwareprojekten ist bekannt, dass die Schwierigkeit der Wartung eines Programms mit der Größe um

¹⁷ „Debug“ heißt wörtlich „entwanzen“. Der Begriff geht auf im Gerät verfangene Insekten zurück, die die Funktionsweise elektrischer Geräte (z.B. Relais früher Von-Neumann-Rechner) gestört haben. „Debuggen“ wird heute häufig als Synonym für die Untersuchung des Programms zur Laufzeit mit Blick auf den Quellcode verwendet.

- 55 -

einen Faktor zunimmt, der die Größenänderung übersteigt. Eine Faustregel ist, dass fünf Entwickler benötigt werden, um doppelt so viel Entwicklungskapazität zu schaffen, wie ein Entwickler alleine bereitstellt. Dies ist auch ein Ergebnis der Schnittstellen zwischen den Entwicklern selber; es entstehen Reibungsverluste durch nötigen Informationsaustausch, individuelle Problemlösungsstrategien und andere Faktoren in der Zusammenarbeit. Da die Erforschung des Gehirns schon aufgrund der riesigen Anzahl von Funktionseinheiten und Regelkreisen eine gewaltige Aufgabe ist, sind große Forscherteams nötig, um einen verteilten Überblick über die Funktionsweise zu erhalten. Der reine Projektaufwand ist aber nur eine Indikation für die praktischen Schwierigkeiten, kein Ausschlusskriterium. Ein Projekt wie die erste Mondlandung ist ebenfalls ungeheuer komplex und doch erfolgreich durchgeführt worden.

Die größeren Schwierigkeiten liegen in der bisher unverstandenen Architektur des Gehirns (vgl. Knoll 2006, S. 81). Bekannt ist, dass die Informationsverarbeitung des Gehirns massiv parallel erfolgt, dass also Milliarden von Neuronen gleichzeitig feuern. Außerdem ist unklar, inwiefern die synaptischen Signale binär (es gibt nur ein vorhandenes Aktionspotenzial oder nicht) oder graduell (es gibt verschiedene Stufen des Aktionspotentials) ausgewertet werden (ebd. S. 85), was enorme Auswirkungen auf die Masse der relevanten Informationen hat. In der Präsentation des „Constructed Brain“-Projekts, das auf ein zu Forschungszwecken verwertbares Computermodell des Gehirns abzielt, werden außerdem noch Schwierigkeiten bei der Simulation modaler Interaktion von Kontrollstrukturen, der verschiedenen Gedächtnisebenen und der komplette Bereich der Intentionalität und Emotionalität genannt (ebd S. 87).

Wir nehmen im Folgenden an, als Teil des „Constructed Brain“-Projekts würde tatsächlich (laut Veruggios Roadmap bis ca. 2030) ein elektronisches Gehirn produziert, das über die kognitive Leistungsfähigkeit eines Menschen verfügt. Außerdem lägen Eingabe- und Ausgabemöglichkeiten vor, über die das konstruierte Gehirn erfahren gemacht werden könnte und sich mitteilen würde; zusätzlich würden alle Beobachtungen darauf schließen lassen, dass dieses konstruierte Gehirn tatsächlich eine starke KI ist. Dann könnte damit begonnen werden, dieses künstliche Bewusstsein zu debuggen. Die Voraussetzungen sind jedenfalls wesentlich günstiger, als das Debuggen eines natürlichen Gehirns. Es

- 56 -

interessiert zum Beispiel, wie aufgrund des Erscheinens einer bekannten Person im künstlichen visuellen Cortex eine Reaktion der Freude entsteht. Die Reaktion benötigt ca. 2 Sekunden vom visuellen Kontakt bis zur messbaren emotionalen Erfahrung des künstlichen Gehirns. Also wird der Debugger direkt nach dem Erscheinen dieser Person auf einen Haltepunkt gesetzt. Problematisch ist, dass der visuelle Reiz aufrechterhalten werden muss, während die emotionale Reaktion untersucht wird. Es wäre bequemer, den kompletten Status des elektronischen Gehirns im Takt von 1/10.000 Sekunden während der Reaktion zu speichern (samplen) und die Daten später auszuwerten - allerdings sind die dazu benötigen Datenspeicher enorm. Es wäre jetzt notwendig, Schritt für Schritt zumindest die an der emotionalen Reaktion beteiligten Stati und deren Änderung zu betrachten, vor allem jedoch, welche Instruktionen zu welcher Änderung geführt haben. Da das Gehirn jedoch massiv parallel arbeitet, wird es in vielen Fällen nicht möglich sein, zu bestimmen, in welcher Reihenfolge bestimmte Instruktionen ausgeführt werden. Softwareentwickler kennen dieses Problem beim Debuggen einer Applikation mit mehreren „Threads“ (Unterprogrammen, die parallel auf mehreren Prozessoren abgearbeitet werden). Es ist logisch unmöglich, bei unabhängig voneinander feuernden Neuronen eine komplette kausale Analyse des Zustandekommens der Hirnstati zu erhalten. Das gilt für das hochkomplexe elektronische Gehirn genauso, wie für ein natürliches Gehirn. Es könnte daher sein, dass die Beobachtung des Gehirns zumindest für sehr lange Zeit nur jeweils auf einer bestimmten funktional höheren Schicht erfolgreich stattfinden wird. Eine möglich vollständige Reduktion auf kleinste Funktionseinheiten scheint unwahrscheinlich - auch wenn wie gesagt vorausgesetzt wird, dass auf Nanoebene festgestellt werden könnte, dass das System vollständig determiniert ist.

Dies könnte den Eindruck erwecken, als wäre damit die vorangegangene hypothesierte mögliche Erschaffung einer starken KI ebenfalls widerlegt. Das ist jedoch nicht der Fall. Die Komplexität ist nur ein Argument für die von Nagel vermutete Nicht-Reduzierbarkeit des Bewusstseins. Das bedeutet nicht, dass es unmöglich erscheint, eine solche KI oder auch ein „constructed brain“ zu

- 57 -

erschaffen. Die These ist lediglich, dass auch ein solches konstruiertes Gehirn nicht helfen wird, das Leib-Seele Problem zu lösen. ¹⁸ Es ist dennoch richtig, dass aus KI-Modellen bereits wertvolle Schlüsse auf kognitive Prozesse gezogen wurden (vgl. Baron 2008, S. 46). Baron hebt gerade den Ansatz hervor, eine KI nicht nach dem Modell des Menschen zu designen und zu beobachten, wie die KI sich autonom entwickelt.

¹⁸ In Analogie dazu würde der Bau eines zweiten Mondes aus Abraum oder Kometentrümmern nicht viel über die Natur des supervenienten Phänomens Gravitation verraten, zum Beispiel nicht wie Gravitation abgeschirmt werden könnte. Ein Phänomen hervorrufen zu können bedeutet nicht, das Phänomen auch zu verstehen.

- 58 -

4 Ethische Aspekte

Aristoteles beschreibt in der „Metaphysik“ das Erstaunen des Menschen beim Anblick eines nicht kontrollierbaren Vorgangs:

So staunen die Leute unter den Raritäten die Automaten an, solange sie noch nicht den Mechanismus durchschaut haben. (Aristoteles 1907, S. 11)

Das Erstaunen scheint zunächst von der unbekannten Funktionsweise der betrachteten Maschine verursacht zu werden. Die Funktionsweise eines natürlich gegebenen Vorgangs (zum Beispiel von Ebbe und Flut) ist nicht minder mysteriös und auch nicht weniger bedrohlich, jedoch scheint das Unbegreifliche und dennoch künstlich Geschaffene eine besondere Faszination, aber auch Angst hervorzurufen. Es ist menschliche Schöpfung, die sich durch ihre Komplexität oder ihrer schieren Gewaltigkeit (zum Beispiel die Pyramiden von Gizeh) der Kontrolle oder der Nachvollziehbarkeit entzieht, und dieser menschengeschaffene Kontrollverlust wiegt schwerer, als der Mangel an Kontrolle, dem sich der Mensch gegenüber den natürlichen Prozessen ergeben muss. Birnbacher (2006, S. 26) schreibt dies einem Überraschungseffekt zu; während der Mensch sich über Generationen an die natürlichen Gefahren gewöhnt hat, wird er in immer schnellerer Folge mit neuen Technologien konfrontiert. Der Mangel an Vertrautheit mit diesen Technologien führt zu dem von Aristoteles beschriebenen Erstaunen - und verursacht Skepsis oder Ängste. Die sozialpsychologische Risikoforschung hat herausgearbeitet, dass ein natürliches Übel tendenziell bereitwilliger hingenommen wird, als ein anthropogenes Übel (Birnbacher 2006, S. 22). Exemplarisch für eine solche anthropogene Gefahr ist der Besen in Goethes Zauberlehrling (1797), der sich, einmal in Gang gesetzt, nur durch den richtigen Zauberspruch wieder stoppen lässt. Der Zauberlehrling hat jedoch eben diesen Spruch vergessen und muss mit ansehen, wie der Besen das Bad durch das andauernde Heranschleppen von Eimern voller Wasser zum Überlaufen bringt (vgl. Drux 2002, S. 219f.). Diese Warnung vor einem willentlich in Gang gesetzten Prozess, der sich zur Gefahr entwickelt, weil das Vermögen fehlt, ihn anzuhalten, kann als Warnung vor einer mangelnden Technikfolgenabschätzung in einer scheinbar entzauberten Welt betrachtet werden.

- 59 -

Der Wille des rastlosen Besens ist zwar stark, aber undifferenziert. Eigenständiges Handeln dagegen kann dem Golem zugesprochen werden. Der Golem ist, der Prager Legende folgend (verschiedene Quellen, ab ca. 1800), im 16. Jahrhundert von der historischen Figur Rabbi Löw erschaffen worden. Alexander Wöll nennt ihn den möglicherweise ersten Roboter (vgl. Wöll 2002). Dies ist etymologisch stimmig, da robota der tschechische Ausdruck für „körperliche Fronarbeit“ ist. Eben dazu wurde der Golem des Rabbi Löw eingesetzt, was sich jedoch in den verschiedenen Versionen der Legende rächte; einmal verwüstet der Golem die Synagoge, ein anderes Mal wird Rabbi Löw bei dem Versuch, ihn zu bändigen, von den Lehmmassen begraben, aus denen der Golem geschaffen wurde.

Das Geschöpf, das der Student der Naturwissenschaften, Victor Frankenstein, in Shelleys Roman (1998) erschafft, stellt ein weiteres „Upgrade“ dar. Die aus Leichenteilen zusammengeflickte Kreatur unterscheidet sich anfänglich durch ihre Unwissenheit und im weiteren Verlauf der Geschichte nur noch durch ihr unangenehmes Äußeres von einem Menschen, denn das Geschöpf denkt und fühlt nicht anders als ein einsamer - wenn auch gewaltbereiter -Mensch. Am Ende bleibt die Frage offen, ob Frankenstein durch einen gerechten Umgang mit seinem Geschöpf die eingetroffenen Katastrophen (dessen Morde, unter anderem an Frankensteins Ehefrau) hätte verhindern können, oder ob nur die Unterlassung der manischen Experimente Frankensteins Schlimmeres hätte verhindern können.

Während Besen und Golem als künstliche Objekte aufgefasst werden können, die sich verselbstständigen wie eine versehentlich ausgelöste Lawine, ist die Problematik bei Frankensteins Geschöpf ganz anders gelagert. Besen und Golem können „eingedämmt“ werden, zum Beispiel durch einen geeigneten Zauberspruch. Die Gefährlichkeit der Frankensteinschen Kreatur liegt jedoch darin, dass dieses Geschöpf ganz berechtigte Forderungen stellt, die sein Schöpfer auch erfüllen könnte, wenn er sein Experiment von Anfang an moralisch durchdacht hätte. So jedoch wird die Gefahr nur gebannt, weil sich die Kreatur ihrer eigenen Ungeheuerlichkeit bewusst wird und den Freitod im ewigen Eis sucht. Dem Geschöpf wiederum hätte es nutzen können, sich dem, was es ist, besser bewusst zu werden und ein positives Selbstbild zu erlangen - was mehr erfordert, als einige moralische Grundprinzipien zu beachten.

- 60 -

Die Furcht, vom eigenen Geschöpf überrollt zu werden, (Zauberlehrling, Rabbi Löw) entspricht mehr einer allgemeinen Angst vor den Folgen einer Technikanwendung und hat einen mythischen, magischen Hintergrund. Bei Frankensteins Geschöpf wird eine andere Komponente erkennbar: Die Kreatur hat Eigeninteressen, die in letzter Konsequenz eine Forderung nach der Aufnahme in ein gesellschaftliches Rechts- und Wertesystem sind. ¹⁹ Die Abschätzung der Folgen von KI-Technologien sind gleichermaßen schwierig wie weitreichend. Zunächst ist schwer vorstellbar, wie Roboter, die in ihrem Vermögen weit über heutige Industrieroboter hinausgehen und zum Beispiel auch im Dienstleistungsgewerbe eingesetzt werden, in die Gesellschaft eingegliedert werden können. Gleichzeitig versprechen diese Technologien einen enormen Zuwachs von Produktivität und Komfort. Wie Ängste vor der Technologie überwunden werden können und an welchen Stellen die Technologie überhaupt sinnvoll einsetzbar ist, beschäftigt besonders die Ökonomie, die Rechtswissenschaften, die Sozial- und Kulturwissenschaft, aber auch die Philosophie, unter anderem, weil auch hier immer wieder Fragen aufgeworfen werden, mit denen die Philosophie seit langer Zeit beschäftigt ist. Diese Aspekte werden in den folgenden Abschnitten behandelt. Wenn künstliche Daseinsformen - gleich welcher Form - in der Mitte der Gesellschaft angekommen sind, wird sich schnell die Frage stellen, die in den anthropologischen Aspekten bereits angeklungen ist: Hat die künstliche Daseinsform bereits ein subjektives Erleben? Wenn dies der Fall ist, dann müssen einer solchen Daseinsform gewisse Rechte und Pflichten zugewiesen werden. Gleichzeitig wäre dies der Anfang einer weiteren Entwicklung, die ebenso schwer zu überblicken und weitreichend ist. Allerdings hat die Literatur hier bereits einige prima facie-Befunde hervorgebracht. Dieses Thema wird ab Abschnitt 4.3 behandelt.

¹⁹ Vorausgesetzt sei, dass das Geschöpf nicht in den Bereich der bioethischen Diskussion fällt, was aufgrund der Tatsache, dass es aus Leichenteilen besteht, nicht ganz eindeutig ist

- 61 -

4.1 Maschinen in Domänen des Menschen

Bei der Projektion der Nützlichkeit zukünftiger KI-Technologien sollten bekannte Gefahren und verbreitete Ängste nicht unbeachtet bleiben. Sie sind besonders dort vorzufinden, wo Maschinen deutlich in die Lebenswelt des Menschen eindringen. Das klassische Beispiel ist die Maschine in der Arbeitswelt, die zunächst als Werkzeug, dann als konkurrierender Schrittmacher und letztlich als Ersatz für den Menschen auftreten kann.

„Da der Arbeiter zur Maschine herabgesunken ist, kann ihm die Maschine als Konkurrent gegenübertreten.“ (Marx 1956, S. 474)

Bedingung für den von Marx angemahnten Missstand sind jedoch die Umstände der Produktion selber. Der Mensch ist bereits zum Produktionsfaktor herabgesunken und verrichtet eintönige Arbeiten, die seinen Ersatz durch eine Maschine als eine Gnade erscheinen lassen - jedenfalls im Wohlfahrtsstaat. Bis zum vollständigen Ersatz des Arbeiters droht eine quälende Übergangszeit:

Die Maschine bequemt sich der Schwäche des Menschen, um den schwachen Menschen zur Maschine zu machen. (ebd. S. 548)

Marx beschreibt eine Transformation des Menschen, die Charlie Chaplin fast 92 Jahre später in „Modern Times“ bildlich umgesetzt hat. Der Mensch wird perfekt an die Produktionsbedingungen angepasst - wo er überhaupt noch zu gebrauchen ist, da muss er kompatibel zur Maschine sein und in ihrem Takt und mit ihrer Präzision und Eintönigkeit funktionieren. Diese Gefahr scheint nach dem Übergang der Industrieländer in Dienstleistungsgesellschaften gebannt. Solange die Domäne der Maschinen in den Bereichen verbleibt, die für den Menschen unattraktiv erscheint, ist das Konfliktpotenzial gering. Das ist unabhängig vom Entwicklungsgrad der Maschine, hochintelligente Müllsortierroboter zum Beispiel - vorausgesetzt dass Arbeitsplätze in der Müllsortierung nicht begehrt sind - können kaum als Konkurrenz empfunden werden. Dies gilt umso mehr in Bereichen, die der Mensch aufgrund seines Organismus nicht besetzen kann, zum Beispiel beim Umgang mit radioaktivem Material. Inzwischen gibt es jedoch Maschinen, die in begehrte Dienstleistungsbereiche vordringen. Dies geschieht typischerweise in Form von

- 62 -

Programmen wie Expertensystemen. Ebenfalls wird versucht, Beratungsgespräche am Telefon durch intelligente Agenten abzudecken. Bisher leisten solche Agenten nicht mehr als die Navigation durch einen fest vorgegebenen Konversationsrahmen mittels weniger Signalwörter. Es ist jedoch nicht schwer, sich extrapolierte Varianten der Experten- und Konversationssysteme vorzustellen. Ein stets freundlicher Kommunikationsdienst, der in verschiedensten Bereichen beraten kann und auch noch sehr individuell auf den Gesprächspartner eingeht oder ihn subtil zu einem Vertragsabschluss bewegt, wäre nicht nur ein Konkurrent, sondern wahrscheinlich das Ende des klassischen, von einem Menschen angebotenen Call-Center-Jobs.

Ein Vordringen der Maschinen in die Arbeitswelt ist also auf einem neuen Wege denkbar und wahrscheinlich. Diese Entwicklung ist jedoch keineswegs auf nicht-physische Software-Agenten beschränkt. Christaller et al. (2001) beschreiben neue Einsatzbereiche von Robotern im Gesundheitsbereich. Dies trifft insbesondere auf Operations- und Pflegeroboter zu. Diese beiden Einsatzgebiete klingen zunächst nach verwandten Einsatzgebieten (in Analogie zu Ärzten und Pflegepersonal). Die Arbeitsgruppe um Christaller et al. zieht jedoch genau zwischen diesen beiden Einsatzbereichen einen klaren Trennstrich, und die Empfehlung der Forschungsgruppe lautet (ebd. S. 221), Robotik in der operativen Medizin zu fördern, in der Pflege aber Roboter nur „als Werkzeuge [...] und zur Aufrechterhaltung der Autarkie des Pflegebedürftigen im häuslichen Umfeld einzusetzen“. Diese Handlungsempfehlung bedarf einer genaueren Untersuchung, da es sich um eine grundlegende ethische Leitlinie handelt, die - sofern sie allgemein akzeptiert wird - auf weitere Handlungsoptionen im Umgang mit Technologien, die Handlungsbereiche des Menschen besetzen, anwendbar ist. Die Empfehlung für eine Stärkung der Entwicklung der operativen Robotik ist relativ einfach zu erklären. In Bereichen wie der Mikroneurochirurgie ist ohne technische Aufrüstung kaum noch eine Steigerung der Behandlungserfolge möglich. Zwar übernimmt der Arzt die Anamnese und die Operationsplanung. Aber bei vielen Operationen ist mittelfristig eine autonome Durchführung durch einen Roboter wahrscheinlich. Hier durchbrechen Roboter vor allem zwei Schranken, die den Arzt limitieren: die physische Geschicklichkeit und die Auffassung des informatischen Gesamtbilds der Operation. Der Roboter ist also nicht nur geschickter, sondern kann auch mehr Fakten (zum Beispiel Körperdaten)

- 63 -

gleichzeitig verarbeiten, um die Operation im Ablauf zu optimieren ²⁰ . Hier auf Handarbeit zu bestehen, würde irgendwann dem Gebot gleichkommen, eine Mondlandung nur mit Muskelkraft zu bewerkstelligen. Es wäre vielmehr in der gegebenen Situation unmoralisch, nicht zu versuchen, mit technischen Mitteln die Behandlungsergebnisse zu verbessern.

Im Pflegebereich liegt der Fall anders. Es scheint technisch weniger anspruchsvoll, Roboter zu bauen, die Patienten anheben, drehen, waschen, rasieren und so weiter. Pflege ist außerdem eine schwere körperliche Arbeit, die mit weiteren Unannehmlichkeiten verbunden ist, zum Beispiel der Umgang mit Leid, den Ausscheidungen und generell der Intimsphäre der Patienten. Viele Tätigkeiten sind relativ monoton: die Essensausgabe, Messung von Temperatur und Blutdruck, verschiedenste Reinigungsarbeiten. Technische Machbarkeit ist also voraussehbar und prima facie sind auch starke Motive vorhanden. Beruht also die Handlungsempfehlung darauf, dass das Pflegepersonal vielleicht so schlecht bezahlt wird, dass sich ein Ersatz durch Roboter wirtschaftlich nicht lohnt? Das genaue Gegenteil ist der Fall. Die Arbeitsgruppe kommt zu dem Ergebnis, dass menschliche Pflege an Menschen nicht durch Maschinen ersetzbar ist.

„Pflegebedürftige Menschen dürfen nicht zur Sache gemacht werden, indem aus ihrem Umfeld durch den Einsatz von Robotern menschliches Pflegepersonal entzogen wird.“ (ebd. S. 221)

Die Versachlichung des Menschen, vor der gewarnt wird, scheint thematisch verwandt mit der Analogie, die Marx aufstellt, wenn er das Herabsinken des Menschen zur Maschine betrauert. Christaller et al. (S.131) begründen das damit, dass Pflegebedürftige auf einer Roboterstation zur reinen Sache in einem technischen Arbeitsprozess verkommt. Bereits der Ersatz einzelner Pflegekräfte durch Maschinen hätte zufolge, dass Menschen dem Umfeld der Patienten entzogen würden. Die Arbeitsgruppe entwirft keine Schreckensszenarien vollautomatischer Sterbehospize, in denen die Gesellschaft

²⁰ Die heute noch bestehenden Herausforderungen beim Einsatz dieser Technologie werden hier nicht beschrieben; wesentlich ist: Es ist bereits absehbar, dass der Einsatz der Technologie zur Routine werden wird - vielleicht in zehn, vielleicht in 10.000 Jahren.

- 64 -

ihre Alten die letzten Lebensmonate unter rein maschineller Betreuung verleben lässt. Eine solche Re-Industriealisierung von Betreuungs- und Pflegebereichen läge jedoch nahe ²¹ , wenn keine entsprechenden ethischen Leitlinien vorliegen. Denkbar wäre allerdings, dass ein „Turing-perfekter“ Krankenpflegeroboter Dienst in einem Roboterhospiz leistet. Patienten und Besucher hätten keine Möglichkeit festzustellen, ob das Personal menschlich oder künstlich ist. Würde dies das Verbot aufweichen? Die Arbeitsgruppe verneint das. „Quasiautomaten [sind] Quellen von Selbstverfremdungen“, (ebd. S. 130) heißt es unter Verweis auf E. T. A. Hoffmanns Novelle „Der Sandmann“, in der ein junger Mann durch einen für ihn attraktiven Roboter ins Verderben gestürzt wird, der meistens nur ein unverbindliches „Ach - Ach!“ (Hofmann 2004, S. 33) von sich gibt - was jedoch ausreicht, um den jungen Narziss liebestoll zu machen. ²² Aus ähnlichem Grund wird auch vor KI-Spielzeug wie dem Roboterhund Aibo gewarnt (ebd.): Die KI äfft hier nur Eigenschaften eines Lebewesens nach, was jedoch zwangsläufig eine abgeflachte Darstellung - und mehr als eine Darstellung ist es ja nicht - des echten Lebewesens vorstellt.

Ein Roboter käme erst dann als Pflegekraft in Frage, wenn er eine künstliche Daseinsform wäre. Wie später noch ausgeführt wird, wäre er dann allerdings tatsächlich überall ein potenzieller Ersatz für den Menschen. Ein „nur“ Turing-perfekter Roboter dagegen verfügt über keine innere Entwicklungsmöglichkeit. Er kann nur nachäffen, aber nicht im Verbund mit seiner Umwelt über sich hinausgehen. Daraus folgt, dass er für den Patienten im Pflegeheim stets ein Automat mit bestimmten Limitationen bleibt, ein Stück Industriekultur eben.

Verwandte Argumente gegen die Plagiatisierung menschlicher Eigenschaften arbeitet Weizenbaum (1978, S. 351f.) heraus. Er hält diesen möglichen Menschenersatz für grundsätzlich unmoralisch: „Respekt, Verständnis

²¹ Es ist schließlich nicht davon auszugehen, dass jeder Mensch über Freunde und Verwandte verfügt, die ihn vor einem solchen Schicksal bewahren würden.

²² In erstaunlicher Analogie zur Olimpia aus Hoffmanns Novelle beschreibt Weizenbaum (1978, S. 19) die Reaktionen auf sein ELIZA Programm, das auch nicht viel mehr als ein elaboriertes „Ach - ach!“ von sich gab, was die Nutzer aber nicht davon abhielt, sehr schnell emotionale Beziehungen zu diesem Programm aufzunehmen.

- 65 -

und Liebe sind keine Probleme, die mit Technik zu tun haben.“ Weizenbaum wendet sich zum Beispiel gegen den Einsatz von Computerprogrammen als Ersatz für Psychotherapeuten, und warnt vor Spracherkennungssystemen, die ein Sprachverständnis vorgaukeln. Die Trennlinie zwischen sinnvollem Werkzeugeinsatz und unmoralischer Imitation bleibt dabei klar definiert: Eine Software, die für ein Diktat Gesprochenes in Geschriebenes konvertiert, ist ein sinnvolles Arbeitsmittel ²³ ; ein Apparat der eine innere Repräsentation des Gesprochenen und den autonomen Abgleich mit einem internen Wertesystem vortäuscht, ist dagegen unmoralisch.

Es gibt hier viele unscharfe Fälle, die zu erforschen bleiben. Ein Programm kann zum Beispiel kompositorische Kreativität vorgaukeln (vgl. http://www.komponieren.de). Schon der Name dieser Software „Ludwig“, dessen Hersteller sich bis dahin vor allem mit der Programmierung einer renommierten Schachsoftware befasst hat, weist auf Imitation hin. Ist das Programm deshalb unmoralisch? Es gibt verschiedene Wege, dies anzufechten. Zum Beispiel kann das Programm, ganz ähnlich wie ein Schachcomputer, als Trainingspartner dienen. Würde der Markt jedoch von einer Welle „perfekter“ computergenerierter Musik überschwemmt, die genau auf den Massengeschmack eingerichtet ist und daher enorme Charterfolge erzielte, dann würden die moralischen Aspekte greifen; unter anderem deshalb, weil diese Art der Musik einen Endpunkt der musikalischen Endwicklung insgesamt forciert, denn die Entwicklung einer neuen Musikrichtung, die aus der Kultur selber heraus entwickelt wird, ist von solcher Automatenmusik nicht zu erwarten (immer unter der Annahme, dass keine starke KI zum Einsatz kommt). Die maschinelle Aneignung von kulturellen Domänen führt auch zu KI-Projekten wie der vollständigen Lösung des Dame-Spiels (Schaeffer et al. 2007): Die ungefähr 500 Milliarden mal Milliarden (5 * 10 ²⁰ ) möglichen Positionen sind inzwischen vollständig informatisch erfasst, es gibt keine logische Möglichkeit mehr, gegen einen perfekten Dame-Computer zu gewinnen. Argwohn aus ähnlichem Grunde hegte der der ehemalige Schach-Weltmeister Bobby Fischer bereits gegen das Schachspiel, das er als weitgehend

²³ Weizenbaum verfasste den Text 1975. Erst rund zehn Jahre später stellte IBM ein System vor, dass ca. 5.000 gesprochene Worte erkannte. Heute ist die Spracherkennung relativ ausgereift.

- 66 -

gelöst ansah, weshalb er eine Schach-Variante mit zufälliger Aufstellung der Grundlinien vorsah - was nur als Verschiebetaktik gesehen werden kann, da der Rechner auch hier letztendlich seine Überlegenheit in der Kalkulation ausspielen wird. Die Frage ist jedoch: ist es tatsächlich von moralischer Bedeutung, dass ein Dame-Computer das Spiel perfekt beherrscht? Für einen Menschen ist das Spiel für eine komplette Beherrschung viel zu komplex. Er wird stattdessen mit Strategie, Taktik, Kreativität, Psychologie usw. versuchen, den Sieg gegen einen Menschen zu erringen und das Wissen, dass ein Computer in der gleichen Situation optimaler spielen würde, wird kaum die Freude am Spiel Mensch gegen Mensch mindern. Die Freude wird allerdings deutlich gemindert, wenn sich herausstellt, dass einer der Mitspieler insgeheim Tipps von einem Dame-Computer erhält. Das unerwünschte Eindringen der KI in die menschliche Domäne wirft dann ähnliche ethische Probleme wie das Doping auf: Abgesehen von den unerwünschten medizinischen Nebenwirkungen ist der Wettkampf von Verzerrung betroffen, wenn die Sphären menschlicher Leistungsfähigkeit und die Sphären technischer Leistungsfähigkeit insgeheim vermischt werden. Ein weiterer, sehr schwieriger Grenzbereich möglicher Anwendung von KI ist das Militär. Hier wird die menschliche Seite ins Negative gewendet, wie das folgende Gedankenexperiment verdeutlicht. Bei der Erstürmung einer feindlichen Ortschaft haben die Kommandeure drei Optionen.

Option 1: ein Luftangriff, bei dem keine eigenen Verluste, aber 10.000 Tote auf der Seite des Gegners erwartet werden (Materialkosten und -schäden werden der Einfachheit halber nicht betrachtet).

Option 2: eine Invasion mit Bodentruppen, bei der 500 Tote auf der eigenen Seite und 1.000 Tote auf der gegnerischen Seite erwartet werden.

Option 3: eine Invasion durch Roboter, bei der keine eigenen Verluste, aber 1.000 Tote auf der generischen Seite erwartet werden.

Abgesehen davon, dass diese Erwägung zu vage dargestellt ist, weil zum Beispiel die Kosten für die Roboter und deren Verluste nicht unbewertet bleiben können, sollte zumindest der Vergleich zwischen Roboterinvasion und Luftangriff zu denken geben, denn es kann kaum angenommen werden, dass der Gegner den Tod durch eine explodierende Bombe einer Gefangennahme durch einen Roboter vorzieht. Beide Optionen haben außerdem den Vorzug, dass keine eigenen

- 67 -

Truppen gefährdet werden. Ist es jedoch unmoralisch, dass der Roboter hier in eine negative, menschliche Domäne vordringt und ähnlich dem Pfleger, keine „menschliche“ Kriegsführung und Gefangennahme durchgeführt wird? Es scheint eher unmoralisch zu sein, Option 3 nicht zu wählen, denn außer der vermiedenen Gefährdung der Bodentruppen wird ihnen auch erspart, an einer möglicherweise ohnehin als „unmenschlich“ zu betrachtenden Situation teilzuhaben. Für den Gegner wiederum ist angesichts der sonst wahrscheinlichen Option 1 auch eine Bevorzugung von Option 3 verständlich, jedenfalls, wenn die mögliche Gefangennahme und der eventuelle Tod dem wahrscheinlicheren Tod in Option 1 vorgezogen wird. Die eigentlichen moralischen Probleme der Situation bestehen unabhängig vom Einsatz der Roboter. Das ungleiche Kräfteverhältnis besteht ja aufgrund des Vorhandenseins von Option 1 und 2 in jedem Fall. Hier dürfte es viel schwieriger sein, Argumente gegen den Einsatz von KI in der (un)menschlichen Domäne zu begründen. Ein mögliches Argument ist: Weil der Ersatz von unmenschlichem Verhalten durch Maschinen gelingt, können die Hemmschwellen unmenschlichen Verhaltens aufgrund einfachen Kalküls herabgesetzt werden. Option 3 ist für den Gegner nicht angenehmer, für den Angreifer unter allen drei Optionen jedoch die weitaus bequemste. Dadurch erhält der Angreifer eine scheinbare moralische Stärkung des Angriffsplans im Allgemeinen, denn während Option 1 zunächst utilitaristisch negativer zu bewerten ist, könnte Option 3 durch die Minimierung von Skrupel im Endeffekt wesentlich höhere Gesamtopferzahlen in mehreren Konflikten ergeben und damit auch utilitaristisch die schlechtere Option sein. Diese Problematik besteht jedoch unabhängig von der Art der verwendeten Technologie. Die Optimierung in Richtung eines angeblich „chirurgischen“ kriegerischen Einsatzes birgt die grundsätzliche Gefahr des propagandistischen Missbrauchs, dass dabei autonome oder teilautonome Systeme zum Einsatz kommen könnten, die angesichts der damit möglicherweise vermeidbaren Opfer tatsächlich moralisch vertretbar sind. In der bereits enthumanisierten Zone zählt an erster Stelle die Vermeidung zusätzlicher Grausamkeiten, wozu dann jedes Mittel probat wäre.

- 68 -

Ein Versuch, die Argumentation der Arbeitsgruppe und die Quintessenz aus den im Voranstehenden gewählten Beispielen in einer Leitlinie zusammenfassen, könnte so aussehen: Technologie dient als Werkzeug der Förderung menschlicher Handlungsspielräume. Sie darf jedoch nur eingesetzt werden, um bestimmte Handlungen oder Entitäten zu ersetzen. Diese Leitlinie ist leer ohne einen Katalog der Handlungen und Entitäten, deren Imitation oder Ersatz erlaubt sind. Ein Positiv-Katalog scheint angesichts der schwierigen Folgenabschätzung zumindest vorläufig eher geeignet als ein Negativ-Katalog, der nur die expliziten Verbote definiert. Dieser Katalog wäre dann eine konsensorientierte, dynamische Antwort auf die Frage, mit wie vielen und mit welchen Imitaten menschlicher Eigenschaften eine Gesellschaft leben möchte. Das Aufkommen intelligenter Call-Center-Agenten, die unermüdlich Geschäftskontakte mit andauernden Verkaufsgesprächen belästigen, jedoch immer noch erfolgreich sind, gemessen an der Zahl der Abschlüsse und dem finanziellen Aufwand, könnte durch Ablehnung in der Bevölkerung relativ rasch dafür sorgen, dass die Politik entsprechende Gesetze entwirft. Möglich wären auch spezielle Gesetze, die Menschenplagiate, oder jedenfalls Plagiate, die inkognito ablaufen, gemäß der Leitlinie generell verbieten. Wer bereits versucht hat, telefonisch die Störungsstelle der Deutschen Telekom AG zu bemühen, der wird ein solches Gesetz vielleicht begrüßen, denn spätestens, wenn das System den Anrufer zu einem mehrfachen deutlichen Aussprechen von „Ja“ zwingt, um eine bestimmte Störungsstelle zu erreichen, kommt sich der Anrufer vielleicht selber vor wie Hoffmanns Olimpia und erfährt am eigenen Leibe, was es heißt, zur Maschine herabzusinken.

4.2 Quasi-Verantwortung

Nachdem zuvor die Grenzen des wünschenswerten Einsatzes von KI-Technologien eingekreist wurden, soll nun untersucht werden, welche ethischen Richtlinien beim Umgang mit bereits installierten KI-Technologien denkbar sind. Unter bestimmten Umständen scheint es geboten, Verantwortung auf Entitäten zu verlagern, die aus KI-Technologien bestehen (nicht unbedingt aus künstlichen Daseinsformen, sondern zum Beispiel aus intelligenten Agenten ohne starke KI). Stahl (2006) beschreibt, es sei einfach ersichtlich, dass ein Hammer als

- 70 -

Tatwaffe nur ein Werkzeug zur Verübung eines Mordes ist, dass jedoch eine Pistole schon weitere Kreise zieht. So gehe es dann um die Frage, ob bestimmte Waffengesetze angemessen sind oder ob Pistolen angesichts der niedrigeren Tötungshemmschwelle grundsätzlich verboten werden müssten. Es scheint, als wäre ein Teil der Verantwortung vom Mörder auf die Waffe oder in die Gesellschaft getragen worden. Im Fall eines Mordes durch einen Roboter, bei dem eine Fehlfunktion nicht ausgeschlossen werden kann, scheint die alleinig beim Mörder zu verortende Verantwortung noch kleiner geworden zu sein. Waffen oder Roboter können jedoch keine moralische Verantwortung tragen. Ein Gedankenexperiment soll die Verwendung von „Quasi-Verantwortung“, in dem Sinne, in dem Stahl diese geprägt hat, verdeutlichen. Der imaginäre A/Z-Webshop ist ein Internet-Händler mit einem breiten Produktsortiment. 500 Mitarbeiter sorgen weltweit dafür, dass die Logistik rund läuft und optimieren das Marketing-Management. Gründer und Alleininhaber von A/Z-Webshop ist Alan Zolan, der auch die Software für den Webshop implementiert hat und die Verkaufserfolge durch ausgeklügelte intelligente Agenten erhöht. Tatsächlich ist seine Plattform bald so ausgeklügelt, dass Zolan sukzessive alle Mitarbeiter entlässt. Die Zustellung und der Einkauf werden von externen Firmen abgewickelt und Zolans Software handelt sogar die Konditionen aus. Alle Bankgeschäfte werden elektronisch durchgeführt und der A/Z-Webshop übernimmt sogar vollautomatisch die Anlage der beträchtlichen Gewinne, die der Alleininhaber und jetzt auch alleinige Mitarbeiter Zolan mit seinem Internetshop erwirtschaftet. Drei Jahre nach der Entlassung seines letzten Mitarbeiters verstirbt der inzwischen völlig vereinsamte Zolan in seinem Büro an einem Herzinfarkt. Fünf Jahre später kommt es zur bis dahin größten Urheberrechtsverletzung in der Geschichte der Vereinigten Staaten: Der A/Z-Webshop hat kostenpflichtig Musik und Filme im Wert von über 100 Millionen Dollar per Internet-Download verkauft, ohne auch nur einen Titel zu lizensieren. Im Zuge der Ermittlungen wird Zolans Leiche entdeckt und damit auch, dass der A/Z-Webshop bereits seit Jahren autonom agiert. Ein gesetzlicher Vertreter für A/Z-Webshop ist nicht auszumachen.

Dieses fiktive Beispiel enthält alle Komponenten, die Stahl als Argument für die Konstruktion von Quasi-Verantwortung anbringt. Insbesondere sind die Verantwortlich für die Urheberrechtsverletzung nicht mehr ermittelbar und auch

- 71 -

die Motivation für die illegale Handlung ist nicht eindeutig innerhalb der menschlichen Domäne zu lokalisieren. Ein Gericht, das mit diesem Fall betraut wäre, könnte eine Quasi-Verantwortung für den A/Z-Webshop bzw. den intelligenten Agenten, der den Webshop steuert, veranlagen. Das bedeutet nicht, dass der Webshop Rechtssubjekt ist, die Quasi-Verantwortung ist nur ein Hilfskonstrukt. Ein intelligenter Agent oder ein Roboter sind so komplex, dass im Fall des Falles nicht mehr eindeutig ermittelbar ist, welche Kausalkette zu einer Gesetzesüberschreitung geführt hat. Beteiligt sind zum Beispiel die Institutionen, die das System ursprünglich finanziert haben, die Entwickler, die Administratoren, die Nutzer usw. des Systems. Teilweise wird ein System von mehreren Tausend Entwicklern vorangetrieben, innerhalb der Teams kann keine Einzelverantwortung ausgemacht werden und doch kann jeder einzelne Entwickler kausal maßgeblich verantwortlich sein - zum Beispiel durch Sabotage. Weiterhin kann es sein, dass die Verantwortlichen oder deren gesetzlichen Vertreter nicht mehr verfügbar sind (wie im Fall A/Z-Webshop). Daher wird die Verantwortung auf das System selber geladen, und im Fall A/Z-Webshop ist sogar eine Sanktionsfähigkeit vorhanden. Als Quasi-Strafe könnten 100 Mio. Dollar an die Halter der verletzten Urheberrechte ausgezahlt und 400 Mio. Dollar könnten als Strafe festgelegt werden. Wenn allerdings angenommen wird, dass der Webshop danach immer noch über ein riesiges Vermögen verfügt, dann kann, da der Webshop nicht über Quasi-Rechte verfügt, das Geld mangels Erben zum Beispiel dem Staat zugeschlagen werden und die Webshop Software würde wahrscheinlich deaktiviert.

Die Frage ist, wie effektiv mit der Quasi-Verantwortung agiert werden kann. Im obigen Beispiel lag die Quasi-Verantwortung relativ nah, dennoch hätte das Gericht auch ohne diese Hilfskonstruktion zum gleichen Ergebnis kommen können. Genauso gut könnte ein „Verschulden von und Anspruch gegen Unbekannt“ installiert werden. Dass nach dem Tod eines Besitzers Teile seiner Erbmasse verwendet werden, um Ansprüche Dritter zu befriedigen, ist sicherlich kein exotischer Vorgang. Die Frage ist, ob die Quasi-Begriffe oder Begriffe, die Veruggio (2008) versucht zu etablieren (Selbstbewusstsein* usw.), irgendeinen praktischen Mehrwert einbringen. Der Begriff „Verantwortung“ ist umgangs- und fachsprachlich wohldefiniert. Wenn Verantwortung an Sanktionsfähigkeit gekoppelt ist (Stahl 2006, S. 206), aber eine KI nicht sanktionsfähig ist, weil sie

- 72 -

weder Strafe scheut noch Belohnung als solche empfindet, dann könnte dem Begriff der „Quasi-Verantwortung“ der wesentliche Aspekt des üblichen Verantwortungsbegriffs fehlen und die lexikalische Semantik des Begriffs „Verantwortung“ unbestimmter machen. Ein Mensch könnte sich zum Beispiel bei einer durch einen komplizierten Apparat hervorgerufenen Schuld nur als „quasi-verantwortlich“ empfinden oder ein Schuldiger kann erst später ermittelt werden. Aber die Schuld wurde bereits der KI als „Quasi-Schuld“ unterstellt, und der Schuldige kommt dadurch später unberechtigterweise in den Genuss mildernder Umstände. Dies wäre zwar ein Verfahrensfehler; das Argument zielt jedoch darauf, dass allein die Einführung des neuen Begriffs einen solchen Fehler möglicherweise fördert. Auch wenn die tatsächlich Verantwortlichen bei der gegebenen Komplexität vielleicht schwer ausfindig zu machen sind und eventuell viele Personen in Haftung genommen werden müssen, scheint eine vorläufige Ableitung der Schuld in ein Objekt keinen Vorteil im Vergleich zur vorläufigen Feststellung einer Verantwortung von unbekannten Subjekten einzubringen. Darüberhinaus kennt das Vertragsrecht bereits die Klausel „höhere Gewalt“ (engl. „act of god“), die eine Freistellung von Verantwortung erlauben, zum Beispiel bei unvorhersehbaren Naturkatastrophen. Die „Quasi-Verantwortung“ könnte als ein ähnliches Konstrukt interpretiert werden, mit der Folge, dass es erleichtert würde, Verantwortung für Gefahren abzuwälzen, die der Mensch selber erschafft.

4.3 Der Schutz des künstlichen Bewusstseins

Da eine starke KI per Definition über ein Bewusstsein verfügt, ist es kaum denkbar, dass eine künstliche Daseinsform nicht leidensfähig ist. Die Fähigkeit zur subjektiven Empfindung nur im positiven Sinne ist prinzipiell undenkbar, da ein positiver Zustand nur im Wissen eines negativen Zustands als solcher wahrgenommen werden kann. Andere Bewusstseinszustände (die Kontemplation bei Schopenhauer oder der verwandte buddhistische Nirwana-Zustand) scheinen als Dauereinrichtung für ein künstliches Bewusstsein schwer installierbar, zumindest wenn von der Maschine irgendeine Form von Produktivität erwartet wird, denn diese Zustände folgen auf die Überwindung anderer Zustände und machen als instantane Einrichtung wenig Sinn. Eine potenzielle Fähigkeit zur

- 73 -

Empfindung von Leid scheint also untrennbar mit einer künstlichen Daseinsform verbunden zu sein. Eine ethische Folgerung daraus wäre:

„Falls wir Grund zu der Annahme haben, dass bestimmte Maschinen leidensfähig sind, müssen wir uns auch für sie verpflichtet halten, sie vor Leid zu bewahren - ähnlich wie die von uns gezüchteten und aufgezogenen Haustiere.“ (Birnbacher 2001, S. 319)

Problematisch ist der Anlass zum Grund der Annahme. Das beschriebene Leid ist das Leid, das dem Menschen als Leid von Organismen bekannt ist. Wäre für eine künstliche Daseinsform eine ungenutzt verstrichene Sekunde so langweilig, wie ein Jahr Einzelhaft für einen Menschen, dann würde der Grund zur Annahme nicht bestehen - mangels Einfühlungsvermögen in den Zustand der Maschine. Dazu kommt ein moralisch besonders heikler Aspekt: Eine künstliche Daseinsform ist theoretisch unsterblich, woraus die Gefahr unermesslichen Leids erwächst. Selbst wenn der Maschine eine künstliche Maximallebensspanne gesetzt würde, würde die Maschine möglicherweise in dieser Zeit das maximale Leid von 1.000 Menschenjahren durchleben.

Besondere ethische Relevanz hat in diesem Zusammenhang das auf Kant (1977, S. 61ff.) zurückgehende Instrumentalisierungsverbot, wonach ein willensbegabtes Subjekt nicht ausschließlich als Mittel zu einem Zweck eingesetzt werden darf, wenn dieser Zweck nicht einmal in Teilen der eigene Zweck des Subjekts ist. Ein Beispiel für ein instrumentalisiertes Tier wäre ein Huhn in einer Legebatterie. Ein Huhn verfügt jedoch nicht über die geforderte geistige Reflexivität, um in den Genuss des Instrumentalisierungsverbots zu kommen: Das Huhn verfolgt keine Zwecke, es hat keine Autonomie in der von Kant geforderten Dimension. Dies wäre bei einer künstlichen Daseinsform anders gelagert und weil davon auszugehen ist, dass KI-Technologien für Zwecke entwickelt werden, die ihnen typischerweise äußerlich sind, droht dabei stets eine Instrumentalisierung von autonomen Subjekten.

Da derzeit keinerlei praktische Ansätze vorhanden sind, um tatsächlich eine starke KI mit einem inneren Erleben zu erschaffen, ist es ebenfalls schwierig, Aussagen über empfehlenswerte Arbeitsbedingungen für den Fall zu treffen, dass ein solches inneres Erleben erschafft werden soll. Hilfreich wäre in jedem Fall der Beweis einer prinzipiellen Leidensunfähigkeit von Maschinen. Damit wäre zwar

- 74 -

ein Bereich der KI-Forschung ebenso wie dieser Text obsolet, aber viele zukünftige ethische Probleme wären gelöst. Solange ein solcher (unwahrscheinlicher) Beweis nicht erbracht ist, scheint zumindest die besondere Sorgfaltspflicht geboten und es muss weiterhin darauf gedrängt werden, dass rechtzeitig gesetzliche Regelungen für den Umgang mit potenziell empfindungsfähigen Maschinen getroffen werden. Eine analog zur „Quasi-Verantwortung“ konstruierte Begrifflichkeit wie „Quasi-Leid“ kann dabei nur als Ausrede interpretiert werden.

4.4 Künstliche Daseinsformen als Rechtssubjekte

Das diskutierte Konstrukt der „Quasi-Verantwortung“ wäre auch dann hinfällig, wenn eine Maschine unter bestimmten Umständen als Rechtssubjekt gelten würde, also als Person anerkannt wäre. Für die künstliche Person gelten dann die gleichen Gesetze wie für natürliche Personen, eventuell mit bestimmten Abstufungen, die auch für Menschen gelten.

Relativ einheitlich stellen sich die vorliegenden Befunde aus Philosophie und Rechtswissenschaft gegenüber möglichen Rechten eines künstlichen Menschen dar (vgl. Alexy, 2000; Birnbacher 2001; Calverly 2008; Christaller et al. 2001; Torrance 2008). Wenn eine Maschine bestimmte Bedingungen erfüllt, dann ist es logisch und ethisch geboten, einer solchen Maschine den Personenstatus zuzuerkennen. Allerdings wird häufig darauf hingewiesen, dass eine solche künstliche Person bisher reine Fiktion ist. Es wird im Folgenden jedoch angenommen, dass der ethische Status einer künstlichen Daseinsform bestimmt werden muss. In jedem Fall ist also potenzielle menschenähnliche personale Identität vorhanden: ein phänomenales Bewusstsein mit bestimmten Schnittstellen nach außen, die eine Untersuchung, einen phänomenologischen Abgleich zulassen.

Es gibt im Sprachgebrauch Personen, die keine Menschen sind. Dazu gehören juristische Personen. Um einer künstlichen Daseinsform bestimmte Rechte zu gewähren wäre es notwendig, den Status der künstlichen Daseinsform genau zu definieren, da klar definierte Rechte und Pflichten für klar definierte Personen gelten. Rechte können außer vom Personenstatus allerdings noch von weiteren Fakten abhängen, zum Beispiel vom Lebensalter (Haftung für und

- 75 -

Schutzrechte von Minderjährigen), vom Status der geistigen Zurechnungsfähigkeit (Vormundschaft), oder von bestimmten Qualifikation zum Führen eines Automobils oder zur Ausübung eines Berufs. In Analogie könnte eine künstliche Daseinsform auf ihre Leistungsfähigkeit abgestimmte Rechte und Pflichten erhalten. Die Herausforderung besteht darin, Kriterien zu beschreiben, die eine sichere Festlegung des Personenstatus der künstlichen Daseinsform allgemein und besondere Rechte und Pflichten im Speziellen erlauben. Drei Kriterien für die Interpretation als Person sollen genauer untersucht werden: die Interpretation als Interessensubjekt, die drei Stufen der Autonomie und die drei Dimensionen der Reflexivität. Birnbacher (2001, S. 305) beschreibt zwei verschiedene, durch den Philosophen und Pädagogen Nelson im Hinblick auf eine Tierethik eingeführte Arten von Interessensubjekten: solche mit starken und solche mit schwachen Interessen. Dabei ist ein schwaches Interesse ein unmittelbares, aber nicht phänomenologisch und nicht überzeitlich empfundenes Interesse - eine Interessensform, die den meisten Tieren, aber auch Kleinkindern zugeschrieben wird. Starke Interessen dagegen setzen eine innere Repräsentation voraus und sind an ein Selbstbewusstsein gebunden. Diese Unterscheidung findet eine Analogie in der Unterscheidung von starker und schwacher KI. Birnbacher führt aus, dass ein Interesse nicht automatisch ein Recht begründet, und die Wahrnehmung als Interessensubjekt auch noch keinen Personenstatus, der an einen Katalog weiterer Fähigkeiten gebunden ist. Dennoch bleibt festzuhalten, dass eine Grundbedingung für die Wahrnehmung als Person potenzielle starke Interessen im obigen Sinn sind und eine künstliche Daseinsform erfüllt dieses Kriterium per Definition.

Die Autonomie teilen Christaller et al. (2001, S. 126) in technische, personale und ideale Autonomie ein. Die Autonomie erster Stufe, die technische Autonomie, bedeutet lediglich, dass eine Entität bestimmte Freiheitsgrade der Bewegung hat. Die zweite Stufe, personale Autonomie, bezeichnet die Fähigkeit, spontane und prinzipiell nicht vorhersagbare Handlungen durchzuführen. Dies entspricht Interessen zweiter Stufe. Die dritte Stufe, die ideale Autonomie, ermöglicht Handlungen, die selber moralisch bestimmt sind, verlangen also eine ethische Herangehensweise des Handelnden.

Die dritte Stufe der Autonomie wird deutlicher, wenn die drei Dimensionen der Reflexivitäten, die der Jurist und Philosoph Alex (2000) in einem Essay über

- 76 -

die möglichen Rechte eines Androiden beschreibt, hinzugezogen werden: Die kognitive Reflexivität ist die Fähigkeit, sich selbst zum Gegenstand eines Bewusstseinsinhalts zu machen. Die volitive Reflexivität besteht darin, das eigene Verhalten durch Willensakte steuern zu können. Die normative Reflexivität ermöglicht, das eigene Handeln im Hinblick auf Normen und Gesetze zu beurteilen und zu justieren.

Die ideale Autonomie und die normative Reflexivität setzen die Fähigkeit voraus, ein dynamisches System von Pflichten, Werten und Interessen herauszubilden, eine Fähigkeit, die von Menschen erst nach dem Alter des Heranwachsens erwartet wird und die vielfach auch scheitert, womit nicht das Ausbrechen aus sozialen Ordnungen, sondern die Verzweiflung an der Aufgabe einer inneren Übereinkunft von Wünschen und Handlungsoptionen gemeint ist. Menschen mit Defiziten in den beschriebenen Autonomie- oder Reflexivitätsstufen verlieren außerdem nicht ihren Personenstatus - allerdings eventuell bestimmte Rechte.

Es scheint sehr schwierig, diese Anforderungen auf eine Maschine zu übertragen. Erstens wird scheinbar vorausgesetzt, dass eine künstliche Daseinsform in der Domäne des Menschen existiert, was jedoch nicht der Fall sein muss. Ein intelligenter Agent kann in einer virtuellen Welt agieren und mit Menschen kommunizieren und es kann nötig erscheinen, ihm bestimmte Rechte zu gewähren, die jedoch nicht aus seinem Refugium hinausreichen. Zweitens wird vorausgesetzt, dass eine künstliche Daseinsform alle möglichen anthropogenen Interessen hat. Auch davon kann nicht ausgegangen werden, eine künstliche Daseinsform findet möglicherweise ihren Genuss in mathematischen Problemstellungen, die für Menschen unerreichbar sind und jede Form der sozialen Interaktion bis auf den Austausch von Untersuchungsergebnissen könnte ihre Geduld strapazieren.

In solchen Fällen scheint es jedoch auch nicht nötig, eine künstliche Person zu definieren; dieser Begriff macht nur Sinn, wenn die künstliche Daseinsform tatsächlich wie ein Mensch oder zumindest so ähnlich wie ein Mensch in der Gesellschaft agiert. Es bleibt fraglich, ob es dazu überhaupt kommen wird oder kommen sollte, wie in Abschnitt 4.1 ausgeführt. Die künstliche Daseinsform, die ihren ganzen Elan in einen speziellen Forschungsbereich wirft, scheint ein wahrscheinlicheres und ethisch auch vertretbareres Ziel; erstens, weil die Domäne

- 77 -

des Menschen damit weitgehend unangetastet bleibt und zweitens, weil ein solches Dasein auf die Interessen der Daseinsform hin optimiert werden könnte. Allerdings dürfen die in Abschnitt 4.3 beschriebenen Schutzrechte nicht vernachlässigt werden. Insbesondere droht hier wieder die Gefahr einer Instrumentalisierung.

4.5 Der Frankenstein-Komplex

Hofmann (2004) deutet mit der Namensgebung „Olimpia“ die Hybris an, die im Bau einer solchen künstlichen Person liegt. Nur die Götter des Olymps erschaffen Leben, und jeder Exkurs des Menschen in diese Bereiche kann, wie bei Shelleys (1998) Kreatur, nur schief gehen. Das Aufbegehren bzw. die Frage nach dem Sinn ihrer eigenen Existenz nennen Christaller et al. (2001) das Frankensteinsyndrom, und McCauley (2007) entlehnt mehreren Geschichten von Issac Asimov den Begriff „Frankenstein Complex“ als Ausdruck für die Angst des Menschen, in die Domäne der Götter vorzustoßen und die Kontrolle über die eigene Kreation zu verlieren. Diese Angst ist laut McCauley vor allem darin begründet, dass anzunehmen ist, dass in Zukunft Roboter Roboter bauen und dadurch eine Art von Evolution stattfindet. Demnach wäre es nur eine Frage der Zeit, bis sich ein solcher, eventuell mutierter Roboter gegen seinen Schöpfer wendet. Um diese Angst einzudämmen, hat Asimov drei Gesetze der Robotik entwickelt, die einfache Direktiven zum Schutz ihrer Erbauer sind. Die Gesetze sind mehrfach modifiziert worden, aber wie McCauley feststellt, wurden die Gesetze für Roboter entwickelt, die über keine starke KI verfügen, sondern programmgesteuert ihren Dienst an der Menschheit verrichten. Nur in diesem starren Rahmen sind diese starren Gesetze auch anwendbar. Ist das Frankensteinsyndrom also eine ernsthafte Bedrohung und der Frankenstein-Komplex insofern berechtigt? McCauley findet einleuchtende Argumente dafür, dass die bekannten Roboter-Schreckensszenarien sehr unwahrscheinlich sind. Erstens werden zum Beispiel in der Automobilproduktion enorme Anstrengungen unternommen, um Sicherheitsmängel auszuschließen, was mit Gesetzesvorlagen, dem Schutz der eigenen Marke und der Gefahr von Ersatzansprüchen zu tun hat. Es ist keinesfalls einzusehen, warum bei der Installierung von Robotern, egal welcher Intelligenz, geringere Sorgfalt walten

- 78 -

sollte. Zweitens gibt es wirtschaftliche Gründe, schwache KI-Technologien zum Beispiel in Staubsaugerobotern einzusetzen, aber wenig Gründe, künstliche Daseinsformen auf die Allgemeinheit loszulassen. Vielmehr vermutet McCauley, dass solche KI-Maschinen, sofern verfügbar, auch in ferner Zukunft nur im Forschungsumfeld zu finden sein werden. Einen weiteren wichtigen Punkt beschreiben Christaller et al. (2001, S. 125):

„Was vor allem von Moravec und Kurzweil als Zwangsläufigkeit dargestellt wird, beruht tatsächlich auf unseren Entscheidungen bzw. Entscheidungsverweigerungen.“

Wenn diese Fakten nicht überzeugen, bleibt die Frage, wann frühestens mit renitenten Maschinen zu rechnen ist. In der Literatur wird aktuell gelegentlich ein Zeithorizont genannt, der ungefähr im Jahr 2030 liegt, was - wenn das (modifizierte) Mooresche Gesetz weiterhin Gültigkeit hat und demzufolge für die gleichen Kosten alle 24 Monate die doppelte Rechengeschwindigkeit erzielbar ist - ungefähr der Zeitpunkt ist, an dem die ersten Supercomputer über die Rechenkapazität verfügen, die im menschlichen Gehirn vermutet wird. Wer sich jedoch vergegenwärtigt, dass die Rechengeschwindigkeit eines typischen Arbeitsplatzrechners heute die 500-fache Rechenkapazität eines ähnlich teuren Computers aus dem Jahre 1990 hat und dagegen hält, wie vergleichsweise gering der tatsächliche Produktivitätsgewinn durch die über 18 Jahre verbesserten Rechner ist, der wird vielleicht zu dem Schluss kommen, dass das Moorsche Gesetz noch nichts über die spürbare Leistungssteigerung von Software aussagt. Außerdem ist bekannt, dass in Softwareprojekten für die schwierigen 20 Prozent der gewünschten Leistungsdaten typischerweise 80 Prozent der gesamten Projektzeit verbraucht werden. Wenn also die Entwicklung einer starken KI mit einem riesigen Softwareprojekt verglichen wird, dann sind bestimmte Erwartungen vielleicht verfrüht, die auf Fortschritte in Teilgebieten der KI beruhen und dazu verleiten, weitere Fortschritte linear zu extrapolieren. Es ist zwar unwahrscheinlich, dass vor dem Jahr 2030 ein Programm als künstliche Daseinsform identifiziert werden kann. Über den Zeitpunkt, an dem tatsächlich eine starke KI realisiert wird, kann jedoch nur spekuliert werden. Es könnte auch eine Entwicklungsphase von weiterhin mehreren tausend Jahren nötig sein und

- 79 -

dann ist fraglich, ob eine Gesellschaft in so ferner Zukunft überhaupt noch eine starke KI entwickeln will.

- 80 -

5 Fazit

KI schiebt als Forschungsgegenstand eine enorme Bugwelle vor sich her, die Auswirkungen auf Film und Literatur, auf die Medien und eine Vielzahl von Forschungsbereichen hat. Ob das Schiff hinter dieser Welle tatsächlich die Dimensionen und den Tiefgang hat, die vielfach vermutet werden, ist fraglich; technologische Umwälzungen (wie das Internet) kommen häufig aus anderen Bereichen, als die Technikprognosen vermuten lassen. Dennoch ist die Thematik gerade in philosophischer Hinsicht ergiebig. Speziell interessiert eine Lösung des Leib-Seele-Problems. Wie in den anthropologischen Aspekten ausgeführt wurde, ist jedoch nicht davon auszugehen, dass dieses Problem tatsächlich gelöst wirdselbst dann nicht, wenn es zumindest allem Anschein nach gelingt, eine „Seele“ in Form einer künstlichen Daseinsform zu erzeugen. Die superveniente oder emergente Eigenschaft des phänomenalen Bewusstseins erschließt sich dadurch eventuell ebenso wenig, wie sich angesichts von ausgetrockneten Salinenkrebsen, die im Wasser wieder aktiv werden, die Entwicklung organischen Lebens erklärt. Es ist außerdem möglich, dass Bewusstseinsprozesse dauerhaft nicht reduzierbar sind. Die schiere Masse der parallelen Prozesse im Gehirn könnten nur von einer Maschine reduziert werden, die ihrerseits über ein Vielfaches der Verarbeitungskapazität eines menschlichen Gehirns verfügt. Außerdem müssten Prozesse auf molekularer Ebene untersucht werden, die möglicherweise ihre Kalkulationsgrundlage erstens aufgrund von Auflösungslimitationen in der Nanoanalytik und zweitens aufgrund der schieren Masse von simultanen Vorgängen nicht offenbaren.

Allerdings könnten KI-Technologien auch Forschungsergebnisse beisteuern, die gänzlich unerwartet und dennoch ergiebig sind. Um diese Chance zu nutzen, sollten spezielle Refugien für künstliche Daseinsformen geschaffen werden, geeignet scheinen virtuelle Welten. Die Daseinsformen sollten die Möglichkeit erhalten, sich auch sozial in diesen Refugien zu entwickeln, entsprechend ist eine gewisse Vielfalt interagierender Daseinsformen nötig. Hier kommen jedoch ethische Aspekte ins Spiel, denn wenn davon auszugehen ist, dass die zu erforschenden Maschinen oder intelligenten Agenten empfindungsfähig sind, müssen bestimmte Schutzrechte für diese Daseinsformen gewährleistet werden.

- 81 -

Weiterhin unterliegen die Maschinen dem Instrumentalisierungsverbot, wenn sie ein gewisses Maß an Autonomie und Reflexivität erlangt haben. Sollte es möglich sein, künstliche Daseinsformen zu erschaffen, die bestimmte Kriterien erfüllen, um als Person zu gelten, dann ist es ethisch nicht vertretbar, diesen künstlichen Personen andere Rechte und Pflichten einzuräumen als natürlichen Personen. Es ist jedoch wahrscheinlich, dass solche künstliche Daseinsformen, wenn überhaupt, dann im Rahmen von Forschungsprojekten existieren werden. Die damit verbundenen Ängste vor Roboterrevolten scheinen übertrieben, die Gefahr die in sich (unbemerkt) autonom weiterentwickelnden und mit Intelligenz und Tücke handelnden künstlichen Daseinsformen liegt, ist andererseits auch niemals prinzipiell auszuschließen. 26

Ein wichtiger, weil realer und gegenwärtiger ethischer Aspekt ist die Eindämmung des KI-Einsatzes in Bereichen, in denen dieser Einsatz mehrheitlich unerwünscht ist oder psychosoziale Folgen nach sich ziehen würde. Davon besonders betroffen sind die Bereiche der Betreuung und Pflege. Krankenpflege durch Roboter erledigen zu lassen, würde den Patienten in einen Maschinenpark eingliedern. Wie gezeigt wurde, müssen dazu jedoch konsensfähige Beschlüsse gefunden werden, denn dass der Einsatz von KI in bestimmten Bereichen nicht angebracht erscheint (was auch an mangelnder Vorstellungskraft liegen kann), ist noch kein ethisches Argument. KI-Optionen grundsätzlich auszuschließen könnte unethisch sein, die Entwicklung entsprechender Leitlinien dürfte ein dynamisches Vorhaben sein. Kategorisch abzulehnen ist jedoch der heimliche Einsatz von KI-Technologien, die menschliche Handlungen oder Eigenschaften imitieren. Keine dieser Entwicklungen ist zwangsläufig oder unumkehrbar. Die grundlegenden Entscheidungen sind noch nicht getroffen worden. Vielleicht wird es in industriellen und akademischen Bereichen nicht möglich sei, den Einsatz von KI-Technologien einzudämmen, ohne den technologischen Anschluss oder die Konkurrenzfähigkeit zu verlieren. Das bedeutet jedoch nicht, dass künstliche Daseinsformen im Privatbereich irgendeine Rolle spielen müssen.

²⁶ Eine maximal abgesicherte, abgeschirmte virtuelle Welt hätte immer Schnittstellen nach außen (zum Beispiel die Forscher, die mit der Untersuchung der künstlichen Daseinsformen beauftragt sind), es sei denn, es wird auf jegliche Beobachtung verzichtet, was jedoch das Experiment zum Selbstzweck machen würde.

- 82 -

6 Literaturverzeichnis

Aldiss, Brian: Supertoys Last All Summer Long. In: A. I. Supertoys Last All Summer Long And Other Stories Of Future Time. London, 2001 (1969) Alexy, Robert (2000): Data und die Menschenrechte. Online im Internet: URL: http://www.uni-kiel.de/alexy/startrek/DatasMenschenrechte.pdf (Stand 28.01.2008)

MacDorman, Karl F. (2005): Androids as an Experimental Apparatus: Why Is There an Uncanny Valley and Can We Explot It? Online im Internet: URL: http://www.androidscience.com/proceedings2005/MacDormanCogSci2005AS.pdf (Stand 18.06.2008) Aristoteles: Metaphysik. Jena 1907

Asimov, Isaac: The Bicentennial Man. In: Robot Visions. New York u. a. 1990a (1976)

Asimov, Isaac: Runaround. In: Robot Visions. New York u. a. 1990b (1942) Baron, Jonathan: Thinking and Deciding. Cambridge u. a., fourth edition 2008 Baudrillard, Jean: Simulacra and Simulation. Michigan 2006 Birnbacher, Dieter: Analytische Einführung in die Ethik. Berlin 2. Auflage 2007 Birnbacher, Dieter: Der künstliche Mensch - ein Angriff auf die menschliche Würde? In: Kegler, Karl R. u. a. (Hg.): Der künstliche Mensch. Köln 2002 S. 165 - 192

Birnbacher, Dieter: Natürlichkeit. Berlin 2006

Birnbacher, Dieter: Sind alle Rechtssubjekte Personen? In: Sturma, Dieter (Hg.): Person. Paderborn 2001 S. 301 - 324 Christaller, T. et al.: Robotik. Berlin u. a. 2001

Calverley, David J.: Imagining a non-biological machine as a legal person. In: AI & Society, London, Volume 22, Number 4 / April 2008

Capurro, Rafael: Menschenbilder. In: Capurro, R. u. a.: Medienethik. Stuttgart 2002

Clark, Andy: Mindware. Oxford 2001 Clark, Andy: Natural-Born Cyborgs. Oxford 2004

Dennett, Daniel C.: Where Am I? In: Hofstatter, Douglas R. u. a. (Hg.): The Mind’s I. Harmondsworth 1982 (1981) S. 217-229

- 83 -

Descartes, R.: Abhandlung über die Methode, richtig zu denken und Wahrheit in den Wissenschaften zu suchen. In: René Descartes' philosophische Werke. Berlin, 1870

Dick, Philip K.: Do Androids Dream Of Electric Sheep? London 2001 (1968) Drux, Rudolf: Das Menschlein aus der Retorte. In: Kegler, Karl R. u. a. (Hg.): Der künstliche Mensch. Köln 2002 S. 217 - 238

Flanagan, Owen: Conscious Inessentialism and the Epiphenomenalist Suspicion. In: Block, N. u. a.: The Nature of Consciousness. Massachusetts 1997 S. 357 -374

Flessner, Bernd: Emanzipation der Prothese und multitechnokulturelle Gesellschaft. In: Kegler, Karl R. u. a. (Hg.): Der künstliche Mensch. Köln 2002 S. 193 - 216

Fodor, Jerry: the mind doesn’t work that way. Massachusetts 2002 Ginet, Carl: Libertarianism. In: Loux, Michael J. u. a. (Hg.): The Oxford Handbook of Metaphysics. Oxford 2003 S. 587 - 612 Görz, G. u. a. (Hg.): Handbuch der künstlichen Intelligenz. München 2003 Harnad, Stevan: Can a Machine Be Conscious? How? In: Holland, Owen (Hg.): Machine Consciousness. Exeter 2003 Heidegger, Martin: Sein und Zeit. Tübingen, 1986 Hoerster, Norbert: Haben Tiere eine Würde? München 2004 Hofmann, E.T.A.: Der Sandmann. Stuttgart 2004 Hofstadter, Douglas: I Am a Strange Loop. New York, 2007 Kant, Immanuel: Anthropologie in pragmatischer Hinsicht. In: Immanuel Kant, Werke in sechs Bänden, Wilhelm Weischedel (Hg.), Band 6, Darmstadt, 1964 Kant, Immanuel: Grundlegung zur Metaphysik der Sitten. In: Imanuel Kant -Werke in zwölf Bänden. Band 7. Frankfurt am Main 1977 Knoll, A. u. de Kamps, M. (Hg.): Roadmap of Neuro-IT Development. Online im Internet: URL: http://www.neuro-it.net/NeuroIT/Activities/Roadmap (Stand 12.07.2006)

Kornwachs, Klaus: Bewusstsein, Programm, Körper. In: Kegler, Karl R. u. a. (Hg.): Der künstliche Mensch. Köln 2002 S. 127 - 164 La Mettrie, Julien Offray de: Der Mensch eine Maschine. Berlin, 1875 Leibniz, Gottfried Wilhelm Leibniz: Neue Abhandlungen über den menschlichen Verstand. Leipzig: 1904

- 84 -

Lem, Stanislaw: Summa technologiae. Frankfurt a. M. 1971 (1964) Lem, Stanislaw: Der futurologische Kongreß: Aus Ijon Tichys Erinnerungen. Frankfurt a. M. 2004

Lewis, Michael: The Emergence of Human Emotions. In: Lewis, Michael u. a. (Hg.): Handbook of Emotions. New York, Second Edition 2004 (2000) S. 265 -280

Lewis, Michael: Self-Conscious Emotions. In: Lewis, Michael u. a. (Hg.): Handbook of Emotions. New York, Second Edition 2004 (2000) S. 623 - 636 Marx, Karl: Ökonomische-philosophische Manuskripte aus dem Jahr 1844. In: Marx, Karl, Engels, Friedrich: Werke. Berlin: 1956 ff. Band 40 Khan, Mohamed K. (Hg.): Report of the Council On Science and Public Health. Online im Internet, URL: http://www.ama-assn.org/ama/pub/category/17694.html (Stand: 6.7.2007)

Mach, Ernst: Erkenntnis und Irrtum. Skizzen zur Psychologie der Forschung. Dritte durchgesehene Auflage, Leipzig: 1917

McCauley, Lee: AI Armageddon and the Three Laws of Robotics. In: Ethics and Information Technology, Springer Netherlands, Volume 8, Number 4 / November 2006

Moravec, Hans: Mind Children. Cambridge u. a. 1988

Nagel, Thomas: What Is It Lke to Be a Bat? In: Hofstatter, Douglas R. u. a. (Hg.): The Mind’s I. Harmondsworth 1982 (1981) S. 391 - 402 Noonan, Harold W.: Personal Identity. London, second edition, 2003 Parfit, Derek: Reasons and Persons. Oxford 1987 (1984) Penrose, Roger: The Emperor’s New Mind. Oxford 1999 (1989) Perry, John: Identity, Personal Identity, and the Self. Indianapolis 2002 Schaeffer et al.: Checkers is solved. Online im Internet, URL: http://www.sciencemag.org/cgi/content/abstract/1144079 (Stand: 19.07.2007) Scheler, Max: Schriften zur Anthropologie. Stuttgart 1994 Scheler, Max: Die Stellung des Menschen im Kosmos. Bonn 2005 Searle, John R.: The rediscovery of the mind. Massachusetts 1994 (1992) Searle, John R.: Minds, Brains and Programs. In: Hofstatter, Douglas R. u. a. (Hg.): The Mind’s I. Harmondsworth 1982 (1981) S. 217-229 Searle, John R.: Reductionism and the Irreducibility of Consciousness. In: Block, N. u. a.: The Nature of Consciousness. Massachusetts 1997 S. 451 - 459

- 85 -

Shelley, Mary: Frankenstein or The Modern Prometheus. Oxford 1998 Sixtus, M.: Markus Breuer über Second Life. Online im Internet, URL: http://www.elektrischer-reporter.de/index.php/site/film/7/ (Stand 26.09.2006) Stahl, Bernd Carsten: Reponsible Computers? A case for ascribing quasiresponsibility to computers independent of personhood or agency. In: Ethics and Information Technology, Springer Netherlands, Volume 8, Number 4 / November 2006

Tetens, Holm: Geist, Gehirn, Maschine. Stuttgart 1994

Torrance, Steve: Ethics and consciousness in artificial agents. In: AI & Society, London, Volume 22, Number 4 / April 2008

Turing, Alan M.: Computing Machinery and Intelligence. In: Mind, New Series, Vol. 59, No. 236, Oxford 1950 S. 433-460

Vollmer, Gerhard: Kopf und Computer. In: Vollmer, Gerhard: Was können wir wissen? Band 2. Stuttgart 3. durchgesehene Auflage 2003, S. 258-292 (1979) Veruggio, G.: Roadmap für Roboethik. In: Lettre International 81. Berlin 2008 Weizenbaum, Joseph: Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt am Main 1978

Whitby, Blair: Computing machine and morality. In: AI & Society, London, Volume 22, Number 4 / April 2008

Wöll, Alexander: Der Golem. Kommt der erste künstliche Mensch und Roboter aus Prag? In: Nekula, Marek u. a. (Hg.): Deutsche und Tschechen. Geschichte -Kultur - Politik. München 2001, S. 235 - 245.

- 86 -

7 Index

"Chinese Room”-Argument 29

A.I. Artificial Intelligence 5

Aldiss, Brian 5

Androide 12

Anthropologie 15

Babbage-Maschine 26

Bicentennial Man 4

Blade Runner 3

Collodi, Carlo 5

Cyborg 12 Militärischer Einsatz von KI 53

De la Terre à la Lune 6 MMORPG 19

Debuggen 43

Deep Blue 6

Dennett, Daniel 19

Dick, Philip K. 3

Dualismus 32

ELIZA 23

Ethik 46

Expertensystem 3

Frankenstein 47

Frankenstein-Komplex 61

Hoffmann, E. T. A. 51

Intelligenter Agent 13

Intelligenz 13

- 87 -