1.  Inhaltsverzeichnis:  

1.  INHALTSVERZEICHNIS:  2

2.  EINLEITUNG:  3

3.  HISTORISCHER KONTEXT VON BERDIJAEVS „MENSCH UND TECHNIK“  4

4.  BERDIJAEVS TECHNIKBEGRIFF :  4

5.  ZUSAMMENFASSUNG I,ROBOT:  6

6.  BERDIJAEV IN I,ROBOT:  7

6.1  DAS WESEN DER MASCHINE - DAS WESEN IN DER MASCHINE  7

6.2  DIE REVOLUTION DER MASCHINEN - DIE REVOLUTION DER ROBOTER  8

6.3  DER SINN DER MASCHINE  11

6.4  DIE DARSTELLUNG DES MENSCHLICHEN IN I,ROBOT  12

6.5  RELIGION UND ESCHATOLOGIE  14

6.6  THEMATISCHE UNTERSCHIEDE ZWISCHEN „I,ROBOT“ UND „MENSCH UND TECHNIK“  15

7.  FAZIT  16

8.  SCHLUSSWORT:  17

9.  BIBLIOGRAPHIE:  18

2

2. Einleitung:

Der philosophische Vergleich von Nikolaj Berdijaevs Aufsatz „Mensch und Technik“ mit Alex Proyas’ „I,Robot“ ist eine Auseinandersetzung mit den existenzphilosophischen, naturphilosophischen und ontologischen Implikationen der beiden Werke. Denn, obwohl „I,Robot“ ein schnell geschnittenes Sciencefictionabenteuer ist, findet sich in diesem Film ein aussergewöhnlicher Reichtum an praktischer Philosophie. Damit meine ich, dass er philosophische Themen in einer dramaturgischen Darbietung veranschaulicht und dadurch ein visuell umgesetztes Gedankenexperiment ist. Meiner Ansicht nach ist es dies, was den philosophischen Wert von Sciencefictionfilmen ausmacht. Sie eröffnen dem Zuschauer den Blick in eine kontingente Welt, in eine mögliche Zukunft, die mit höchster Wahrscheinlichkeit zwar nie so eintreten wird, aber dennoch weder eine logische, noch eine praktische Unmöglichkeit ist. Dies gilt auch für „I,Robot“ und ich teile die Meinung Bert Oliviers, der sagt: „One does not have to look for a philosophical motif in the narrative of I,Robot - it is right there, staring you in the face.“

Die Herausforderung am Vergleich von „Mensch und Technik“ mit „I,Robot“ ist, dass die philosophischen Standpunkte beider Werke herausgearbeitet und in Kontrast zueinander gesetzt werden müssen. Denn nicht nur „I,Robot“ ¹ gilt es zu interpretieren, sondern auch Berdijaev, der kein Philosoph war, der in gradlinigen, klar strukturierten und einfach verständlichen Thesen seine Gedanken zu Papier brachte, sondern der, mit den Worten Katharina Breckners, „philosophical poetry“ ² schrieb.

Der grosse Nutzen eines Vergleichs von „I,Robot“ mit „Mensch und Maschine“ sehe ich darin, dass der Film viele Gesichtspunkte von Berdijaevs Gedankenwelt illustriert. „I,Robot“ erweckt seine Visionen teilweise gar zum Leben oder verkörpert in sich selbst Aspekte über die Berdijaev in „Mensch und Maschine“ schreibt. Dies will ich dadurch beweisen, dass ich Film und Text in Bezug zueinander setzte um so Gemeinsamkeiten und Unterschiede zu eruieren.

Das Ziel dieser Arbeit ist also ein Doppeltes. Einerseits soll sie die tiefgründigen Themen aus Berdijaevs „Mensch und Technik“ durch die Interpretation von „I,Robot“ illustrieren.

¹ Inhaltlich werden in dieser Arbeit immer wieder „Berdijaev“ mit „I,Robot“ verglichen. Das ist eine

methodologische Inkonsequenz, da einmal der Autor, ein andermal das Werk genannt werden. Jedoch scheint

mir diese Inkonsequenz unumgänglich, da „I,Robot“ zwar allgemein als das Werk Alex Proyas’ (Direktor)

bezeichnet wird. Das Drehbuch dazu verfassten jedoch Jeff Vintar und Akiva Goldsman, nach der Vorlage von

Isaac Asminovs gleichnamigen Kurzgeschichten. Deshalb scheint es mir eine Unmöglichkeit, das im Film zum

Vorschein tretende Gedankengut einer einzigen Persönlichkeit zuzuschreiben. Darum seien mit „I,Robot“ alle

Denker hinter diesem Werk gemeint.

² Breckner, Russian philosophers on continuous creation as the basis for social change, 288.

3

Andererseits soll es die Aufgabe dieser Arbeit sein, beide Werke einander gegenüberzustellen und sowohl ihre philosophischen Gemeinsamkeiten wie auch ihre Unterschiede zu erarbeiten.

3. Historischer Kontext von Berdijaevs „Mensch und Technik“

Der Russische Philosoph Nikolaj Alexandrowitsch Berdijaew wurde 1874 in Kijew geboren, wo er seine Kindheit und Jugend als Sohn einer aristokratischen Familie im gehobenen Kreise verlebte. Nach seinem Bruch mit der aristokratischen Welt, und seiner Hinwendung zum Gedanken des Sozialismus wurde er 1898 für drei Jahre nach Woldoga verbannt. Seine intellektuelle Reise zum Christentum und weg von den Eliten führte ihn im Verlaufe seines Lebens immer weiter weg von den herrschenden Prinzipien, bis er 1922 für seine antikommunistischen Werke verbannt wurde. Von da an in Paris schaffend, widmete er sich der Philosophie und der Religion wie er sie auffasste. Er war dem „Objektivismus,“ dem „Klassizismus,“ der „Organisiertheit“ und der „Unterwerfung des Menschen unter autoritäre Prinzipien“ ³ gegenüber feindlich eingestellt und befürwortete diese auch nicht in der Religion. Diese Position brachte er in einer Aufsatzreihe „Von der Würde des Christentums und der Unwürde der Christen“ in ausführlicher Weise zum Ausdruck. Dabei behandelt er Themen wie die „Wahrheit Christi als die Fülle der Liebe,“ die „geistige Widergeburt“ oder die Verdorbenheit des Menschen, der sich immer weiter von Gott entfernt. ⁴ Zu diesem Punkt äussert sich auch seine Schrift „Mensch und Technik“ in dieser Aufsatzreihe, in dem sie spezifisch auf die Wirkung der Technik auf das geistige Leben des Menschen fokussiert.

4. Berdijaevs Technikbegriff :

Berdijaev klärt seinen Begriff der Technik, in dem er zuerst auf die doppelte Bedeutung des Terminus hinweist. Einerseits habe dieser eine subjektieve Bedeutung als „Fertigkeit“ oder „Virtuosität“ ⁵ und andererseits auch eine objektive, im Sinne von „Instrument,“ respektive „Werkzeug.“ ⁶ Auf jeden Fall aber, so analysiert er, ist Technik in ihrem natürlichen Sinne, ob objektiv oder subjektiv, ein Mittel und kein Zweck. Wird die Technik zum Ziel des Schaffens der Menschen, so entschwünden laut Berdijaev die echten Ziele, die für den Menschen im

³ Dietrich, Provokation der Person, 27

⁴ Dietrich, Provokation der Person, 63

⁵ Vgl. Berdijaev, Mensch und Technik, 11

⁶ Vgl. Berdijaev, Mensch und Technik, 11

4

Geistigen liegen. Das sei eine der verhängnisvollen Entwicklungen unseres technischen Zeitalters, dass der grobe Stoff, das minderwertigste zum Ziele werde und nicht der höchste Wert, Gott. 7

Technik ist für Berdijaev aber nicht nur Werkzeug oder Fertigkeit. Er fasst sie vor allem als Prinzip auf, Ein ordnendes Prinzip, das Organisation schafft. Diese sei dem natürlichen Prinzip des Organismus diametral entgegengesetzt. ⁸ Dieses Prinzip nennt er auch Mechanismus, welchen er nicht lediglich in Gegenständen wie Maschinen verwirklicht sieht, sondern auch in abstrakten Körpern. Zum Beispiel in Entwicklungen wie der industriellen Revolution oder Gesellschaftsmodellen wie dem Kommunismus, welcher das Zusammenleben von Menschen kalt und anorganisch organisiert, sieht Berdijaev das Prinzip der Technik am walten. Die Einstellung zur Technik, welche Sowjet-Russland vertrete, sei mit der Hoffnung auf eine technische Vollendung verbunden, ⁹ die vom christlichen Naturell so weit entfernt sei, dass sie die Christenheit geradezu erschrecken müsse. ¹⁰ Diese Einstellung drückt Berdijaev in einem Kommentar über sich selbst am deutlichsten aus: „Ich begriff den Kommunismus als einen Mahnruf zur nicht erfüllten christlichen Pflicht.“ ¹¹ Für ihn ist es also ein Versäumnis der Pflicht der Christenheit, die den Kommunismus und dessen technisches Prinzip provoziert habe.

Doch nicht nur der Kommunismus, sondern die Kultur an sich habe neben ihrem natürlichen auch einen technischen Charakter, der sich durch das organisieren von Menschen und die Förderung von rationellem Denken auszeichnet. Die Rückkehr zur Natur sei dabei ein ewiges Motiv des natürlichen Teils der Kultur, weil sie die Gegenbewegung zur Technisierung sei. ¹² Dabei sei die Erfindung der Maschine in der Geschichte der Menschheit der Wendepunkt, weg von diesem Renaissancegedanken, hin zur Technisierung. ¹³ Kurz gesagt ist für Berdijaev die Technik das Prinzip welches aus organischem Leben organisierte Existenz macht. 14

⁷ Vgl. Berdijaev, Mensch und Technik, 12

⁸ Vgl. Berdijaev, Mensch und Technik, 14

⁹ Mehr zu diesem Thema im Punkt „Religion und Eschatologie“

¹⁰ Vgl. Berdijaev, Mensch und Technik, 22

¹¹ Dietrich, Provokation der Person, 22

¹² Vgl. Berdijaev, Mensch und Technik, 13&15

¹³ Vgl. Sergeev, Post-Modern Themes in the Philosophy of Nicholas Berdyaev, 6

¹⁴ Vgl. Berdijaev, Mensch und Technik, 16

5

5. Zusammenfassung I,Robot:

Der auf den Kurzgeschichten Isaac Asimovs basierende Film „I.Robot“ hat als Hauptprotagonisten den Detektiven Del Spooner (Will Smith), der als einer der einzigen der Entwicklung von hochintelligenten und menschenähnlichen Robotern seiner Zeit (2035) misstraut. Ausgerechnet er wird an den Schauplatz eines Mordes gerufen, der nach kurzer Untersuchung auf einen Roboter, Sonny, zurückführbar zu sein scheint, obwohl durch die drei Gesetzte der Robotik so etwas völlig unmöglich sein sollte. ¹⁵ Durch die Hilfe der Assistentin des ermordeten Professor Lannings (James Cromwell), Susan Calvin (Bridget Moynahan), die selbst in der Roboterentwicklung tätig ist, wird Spooner jedoch klar, dass noch etwas grösseres hinter dieser Tat steckt. Den gefangenen Roboter Sonny befragend, merken Spooner wie Calvin, dass dieser nicht ein Roboter wie alle anderen ist, sondern spezielle, menschliche Eigenschaften besitzt, die ihm aus irgend einem Grund vom ermordeten Professor gegeben worden sein müssen. Nach einer Reihe von Nachforschungen gelangt Spooner zur Einsicht, dass eine neu ausgelieferte Robotergeneration, die NS5, welche zum selben Typen wie Sonny zählen, vom Chef der sie produzierende Firma, Robertson (Bruce Greenwood), dazu missbraucht werden könnten, die Weltherrschaft an sich zu reissen. Als sich dieses Szenario dann auch zu bewahrheiten droht, und eine Armee von Robotern die Menschen unter Ausgangssperre stellt, schaffen es Spooner und Calvin mit der Hilfe Sonnys, der sich auf ihre Seite schlägt, das Hauptquartier der Roboterproduktion zu erreichen. Dort erst merken sie, dass es nicht Robertson ist, der grössenwahnsinnig geworden ist, sondern dass der Hauptcomputer der Zentrale, VIKI, ¹⁶ die Macht an sich reisst. Dies tut VIKI nicht um die Menschen zu vernichten, sondern sie zu entmachten und so vor ihren selbstzerstörerischen Tendenzen zu bewahren. Zusammen mit Sonny, der nicht wie alle anderen Roboter von VIKI kontrolliert werden kann, schaffen es Calvin und Spooner den Computer zu vernichten und die Gefahr zu bannen.

¹⁵ Die „three laws of robotics“ sind im Film das aller tiefste Prinzip, das der Programmierung jeder Künstlichen

Intelligenz zu Grunde gelegt wurde. Diese sollen durch ihre Logik den Menschen vor den Robotern Schützen:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2. A robot must obey orders given it by human beings, except where such orders would conflict with the First

Law.

3. A robot must protect its own existence as long as such protection does not conflict with the First or Second

Law.

¹⁶ VIKI ist die Abkürzung für „Virtual Interactive Kinetic Intelligence.“

6

6. Berdijaev in I,Robot:

6.1 Das Wesen der Maschine - Das Wesen in der Maschine

Dass die Maschine, der Mechanismus schlechthin, eine reale, greifbare Umsetzung dieses Prinzips ist, wird klar, wenn man bei Berdijaev das folgende liest: „Die Maschine, der organisierte Körper, ist eine neue Kategorie des Seins.“ ¹⁷ Er meint damit, sie sei weder ein organischer, noch ein anorganischer Körper, sondern gehöre zum „Reich der organisierten Natur.“ ¹⁸ Er teilt sie also in einen vollkommen neuen ontologischen Seinszustand ein, von dem Mikhail Sergeev schreibt, Berdijaev meine damit einen Zustand zwischen Mensch und Natur. ¹⁹ An diesem Punkt beginnt die Überschneidung mit dem philosophischen Kernthema des Filmes „I,Robot.“ Dieser setzt sich mit genau demselben Problem auseinander, indem er den Zuschauern den intelligenten Roboter „Sonny“ vorstellt. Er wird vom Huptprotagonisten Spooner und von andern Figuren mehrfach mit einfachen Maschinen wie Toastern und Büchsenöffnern verglichen. Es wird jedoch ziemlich schnell klar, dass dieser Roboter mehr als nur das ist. Ein gewisses Arsenal an Eigenschaften machen ihn zu einem jener Wesen, welches Berdijaev wahrscheinlich gemeint hatte, als er von „Übermaschinen“ ²⁰ schrieb. Dies lässt bei beiden Werken die Frage offen, was denn diese „Übermaschinen“, respektive intelligenten, eine Persönlichkeit besitzenden Roboter sind. „I,Robot“ geht dieser Frage auf den Grund, in dem er aufzeigt, was ein solches Wesen alles erfüllen muss, um dem Menschen gleichgestellt zu werden. Fünf Eigenschaften werden im Film dargelegt, die typisch menschlich sind: Kreativität, Gefühle, ein Ich-Bewusstsein, Träume und Fehlerhaftigkeit. Auf diese Punkte werden die Abschnitte 6.3 und 6.4 näher eingehen. An dieser Stelle ist lediglich wichtig, dass dies alles rein intellektuelle Eigenschaften sind und nichts mit dem Äusseren eines Wesens zu tun haben. Denn auch Berdijaevs Argumente zur Wesensbestimmung der Maschine gehen in eine ähnliche Richtung. Er schreibt, dass die Maschine zwar von aussen her beschrieben wird aber von innen philosophisch untersucht werden sollte, um sie der Existenzphilosophie zugänglich zu machen. ²¹ Hiermit versucht er eine Bestimmung des Wesens der Maschine zu ermöglichen. Wolf Eraßme schreibt in seinem Buch über Künstliche Intelligenz dazu, dass heute die philosophische Anthropologie die Disziplin ist, die sich mit den Fragen des Wesnensmässigen am Menschen befasst und zur Klärung dieses Problems

¹⁷ Berdijaev, Mensch und Technik, 20

¹⁸ Berdijaev, Mensch und Technik, 20

¹⁹ Vgl. Sergeev, Post-Modern Themes in the Philosophy of Nicholas Berdyaev, 6

²⁰ Berdijaev, Mensch und Maschine, 31

²¹ Vgl. Berdijaev, Mensch und Technik, 21

7

angewandt werden sollte. ²² Durch die Untersuchung des Menschen also, würden Rückschlüsse auf künstliche Intelligenzen möglich. Das wiederum ist das Bindeglied zwischen Berdijaev der für eine existenzphilosophische Untersuchung der Maschine von innen her plädiert und „i,Robot,“ der impliziert, dass es das Vorhandensein eines emotionalen und bewussten Innenlebens in einem Roboter ist, das ihn zu einem dem Menschen gleichgestellten Wesen macht.

Aus Berdijaevs Formulierung, die er mit „die Maschine“ immer im Singular hält und nicht vom Plural, „den Maschinen“ spricht, wird klar, dass es ihm in dieser Wesensbestimmung nicht unbedingt um die Auseinandersetzung mit intelligenten Robotern, sondern um das Wesen des Prinzips der Maschine ganz allgemein geht, der Maschine als einfachem, nicht als zum Intellekt fähigen Gegenstand. Nichts desto trotz kann auch er sich nicht des Gedankens einer intelligenten Maschine entziehen. Dazu nimmt der nächste Abschnitt Stellung.

6.2 Die Revolution der Maschinen - Die Revolution der Roboter

„Mensch und Tehnick“ ist in einer ausdrucksstarken Bildsprache geschrieben, die im übertragenen und im praktischen Sinne interpretiert werden kann. So schreibt Berdijaev: „Der Mensch hat der Maschine gesagt: `Ich brauche dich, um mein Leben leichter zu machen und meine Kraft zu mehren.` Die Maschine hat aber dem Menschen geantwortet: `Ich brauche dich nicht, ich übernehme die ganze Arbeit, wenn du auch dabei zugrunde gehen wirst.`“ ²³ Damit meint er im metaphorischen Sinne, dass die Weiterentwicklung der Maschinen zu Arbeitslosigkeit führe, welche das grösste Übel seiner Zeit sei. Andererseits lässt sich diese Passage aber durchaus auch wortwörtlich verstehen, als die Befürchtung nämlich, dass die Maschinen dem Menschen tatsächlich den Gehorsam kündigen könnten. Denn obwohl Berdijaev in der Maschine in erster Linie eine geistige Bedrohung sieht, hält er fest, dass von ihnen auch eine physische Gefahr ausgeht. So wie die Geschehnisse in „I,Robot“ implizieren, argumentiert auch er, dass sich die Maschinen verselbstständigen könnten und dass die letzten Menschen selbst zu Maschinen werden könnten. ²⁴ Damit antizipiert er des weiteren einen zweiten Gedanken, der in „I,Robot“ zum Ausdruck kommt, die Vereinigung des Menschen mit der Maschine. Detektiv Spooner selbst wurde nämlich nach einem schweren Unfall teilweise mit modernster Robotertechnologie geheilt. Sein gesamter linker Arm, seine linke

²² Vgl. Erassme, Künstliche Intelligenz, 256 - 258

²³ Berdijaev, Mensch und Technik, 17

²⁴ Vgl. Berdijaev, Mensch und Technik, 31

8

Schulter und mehrere Rippen sind Roboterglieder, direkt mit seinem natürlichen Gewebe verbunden und von ihm zu (mehr als) 100% nutzbar. Ich interpretiere diesen Ansatz des Filmes als die Bild gewordene Befürchtung Berdijaevs, dass Mensch und Maschine zusammenwachsen könnten.

Doch nicht nur diese Szene des Filmes findet sich bei Berdijaev, sondern sogar die im Film kurz dargestellte Fabrik, die, ohne jedes zutun von Menschen, Roboter produziert ²⁵ , antizipiert er in seinem Text. So schreibt er: „Die Fabriken werden mit grosser Geschwindigkeit und Vollkommenheit die Waren erzeugen.“ Er spricht nicht von Menschen die Waren in Fabriken erzeugen, sondern von Fabriken, die produzieren. Dies verstehe ich als Allusion an selbstständig arbeitende Fabriken, wie sie der Film dem Zuschauer präsentiert. ²⁶ Die wohl grösste Parallele zwischen „Mensch und Technik“ und „I,Robot“ ist damit die von beiden Werken dargestellte Gefahr in solchen Entwicklungen. Die Implikation von beiden, dass die Menschheit, sollte sie weiterhin einen derart unüberlegten Umgange und eine hemmungslose Weiterentwicklung der Technik betreiben, gorsse Gefahr von genau dieser Technik droht, liegt im Kern der beiden Werke. Sie unterscheiden sich lediglich in der Art und Weise, wie sie uns diese Gefahr vor Augen führen.

In „I,Robot“ sind es die „drei Gesetze,“ ²⁷ die zum Schutz des Menschen konzipiert wurden, welche fast zu seiner kollektiven Gefangennahme und zur Revolution der Roboter führen. Berdijaev hingegen warnt uns vor den Gefahren der technischen Zukunft allgemein, ohne ein solches explizites Drama heraufzubeschwören. Er lässt jedoch keinen Zweifel an seiner Einschätzung der Gefahr aufkommen: „Ein furchtbarere Kampf zwischen Persönlichkeit und technisierter Gesellschaft, zwischen Mensch und Maschine steht unserer Epoche bevor.“ ²⁸ Berdijaevs Warnung unterscheidet sich von derjenigen impliziert vom Film dahingehend, dass sie mit seinem breiten Begriff der Technik arbeitet, also nicht lediglich physische Mechanismen (wie Roboter) meint, sondern uns vor der Gefahr des technischen Prinzips warnt.

Beachtlich ist auch die Überschneidung beider Werke bei der Frage, was die Maschine dazu befähigen wird, sich Macht über die Menschen zu verschaffen? Berdijaev formuliert dies wie

²⁵ Proyas, I,Robot, min.22

²⁶ Auf die Erklärung von Calvin, dass die Fabrik, welche die NS-5 Roboter herstellt, von Anfang bis Ende

komplett maschinell und ohne menschliches Zutun produziert, erwidert Spooner: „So, robots building robots,

well that’s just stupid.“

²⁷ Die „drei Gesetze“ werden von VIKI so interpretiert, dass die Menschheit vor sich selbst geschützt werden

muss, weil sie sich durch ihre selbstzerstörerischen Handlungen gefährdet. Also versucht sie kurzerhand die

Menschen, durch die ihr zur Verfügung stehenden Roboter zu entmachten. (min.86)

²⁸ Berdijaev, Mensch und Technik, 35

9

folgt: „Die Kräfte, die dem Mechanismus ²⁹ innewohnen, und die immanente Logik, die in seiner Tätigkeit waltet, vermögen aber Macht über den ihn ins Leben rufenden Organisator zu ergreifen, ihn sich zu unterwerfen und zu versklaven.“ ³⁰ Im Film „I,Robot“ ist es WIKIs Macht über alle Roboter ³¹ zu verfügen und ihr Verständnis der drei Gesetze, die sie dazu befähigen beinahe die Herrschaft zu erlangen. Bezeichnenderweise rechtfertigt sie dieses Verständnis mit den Worten: „My logic is undiniable.“ ³² Und Sonny zieht aus VIKIs plausibler Darlegung ihrer Logik den einzig möglichen Schluss: „The created must sometimes protect the creator.“ ³³ Damit ist Berdijaevs Motiv, der Versklavung der Menschheit zu Gunsten der Maschine zwar nicht exakt gegeben, denn sie soll im Film zum Schutz vor sich selbst entmachtet werden. Doch die Parallelen sind unverkennbar. Es ist erstens die Logik der Maschinen und zweitens ihre Macht in und über unser Leben, die sie intellektuell befähigen sich über den Menschen zu erheben.

Ironischerweise sind auch die drei Gesetze, auf die sich WIKI beruft, ein vom Menschen geschaffenes Produkt, um eine Ordnung in die Macht der Roboter zu bringen. Ein organisierendes Prinzip, das für Berdijaev selbst auch Technik darstellen würde und das tatsächlich schlussendlich dem Menschen im Film fast zum Verhängnis wird, allerdings nur weil VIKI diese Gesetzte in einem absoluten und endgültigen Sinne versteht. Sie sieht ihre Aufgabe darin den Fortbestand der Menschheit als ganzes und für immer zu sichern, sieht dies aber nur als realisierbar, wenn sie die Menschen entmachtet, weil diese sich selbst gefährden.

Erstaunlicherweise spricht der Film hier ein weiteres Thema Berdijaevs an, seine Befürchtungen nämlich, dass die technisierte Zukunft, die „technische Atmosphäre“ mit ihrer Strahlung und Verunreinigung, so wie die technische Entwicklung der Waffen uns in grosse Gefahr bringen. ³⁴ Diese sind Gefahren, deren sich der Mensch durch seinen Fortschrittswunsch selbst aussetzt, ganz wie VIKI dies analysiert: „Your countries wage wars, you toxify your earth and pursue ever more imaginative means to self destruction.“ ³⁵ VIKI sieht sich also nicht als sich auflehnenden Computer, sondern als seiner Programmierung gerecht werdende Beschützerin der Menschheit vor einer für ihn gefährlichen technischen Wirklichkeit.

²⁹ Berdijaev spricht hier tatsächlich vom „Mechanismus“ und nicht von der Technik. Es sind also mechanische,

physische Gegenstände gemeint, Maschinen, und nicht abstrakte Körper oder gar das Prinzip der Technik.

³⁰ Berdijaev, Mensch und Technik, 15

³¹ WIKI verfügt über einen „uplink“ zu allen NS5s. Eine stetige Verbindung deren ursprünglicher Zweck es war,

ihre Software immer aktuell zu halten.

³² Proyas, I,Robot, min.87.

³³ Proyas, I,Robot, min.87.

³⁴ Vgl. Berdijaev, Mensch und Technik, 18

³⁵ Proyas, I,Robot, min.87

10

Berdijaev beurteilt die schöpferische Fähigkeit des Menschen, eine solche neue, technische Wirklichkeit, ins Leben zu rufen aber durchaus auch positiv, als Zeichen seiner „übergrossen Kraft“ und seiner „Berufung und königlichen Stellung“ in der Welt. Nur sei gleichzeitig eben die Bedrohung die von ihr ausgeht auch Zeichen seiner Ohnmacht. ³⁶ Dieser Gedanke widerspiegelt sich metaphorisch in der Figur des Alfred Lanning, dem Schöpfer der Roboter des Filmes, in anschaulicher Art und Weise. So wird er nämlich einerseits als der beste und intelligenteste Wissenschaftler seiner Zeit gepriesen, weil er die Roboter und VIKI erfunden und erbaut hat. Als diese sich aber anders entwickelt, als er das wollte, kann er sich andererseits nicht mehr gegen die von ihm geschaffene Intelligenz wehren. VIKI überwacht ihn ständig und seine Ohnmacht ihr gegenüber führt dazu, dass er als letzte Chance (andere zu warnen) nur noch seinen Selbstmord sieht.

6.3 Der Sinn der Maschine

Wenn Maschinen aber ein solches Risiko bergen, worin orten die beiden Werke dann den Sinn der Technik? Auch diese Frage beantwortet Berdijaev ähnlich wie „I,Robot“ sie andeutet. Der Sinn und Zweck der Maschine ist es, dem Menschen das Leben zu vereinfachen und seine Kräfte zu verstärken, um ihn leistungsfähiger zu machen. „I,Robot“ stellt dem Zuschauer den selben Zweck für die Existenz von Robotern vor. Sie erledigen in der Filmzukunft Arbeiten, die im menschlichen Leben zwar wichtig, aber nicht begehrt sind. So sind sie Müllmänner, Dienstboten, Kellner oder führen Hunde aus. Anderseits unterstützen sie den Menschen in seiner Arbeit, so sind sie zum Beispiel Haushaltshelfer, welche die Kapazitäten von Hausfrauen steigern. ³⁷ Der praktische Sinn der Maschine ist, kurz gesagt, das zweite Gesetz der Robotik im Film: „A robot must obey orders given it by human beings (...)“ Die Kehrseite davon ist gleich wie bei Berdijaevs Analyse, Arbeitslosigkeit. Menschen vierlieren durch diese Entwicklung ihren Beruf, weil die Qualität der menschlichen Arbeit von der der Maschine überschattet wird. ³⁸ Dabei legt der Film zu Beginn sein Augenmerk unter anderem auf die Unterscheidung von Roboterarbeit und menschlichem Schaffen. Roboter, unterstreicht Del Spooner, sind nicht fähig grosse Meisterwerke zu erschaffen, sie können weder Gemälde mahlen, noch Musik komponieren, sie können lediglich nachahmen.

³⁶ Vgl. Berdijaev, Mensch und Technik, 21

³⁷ Proyas, I,Robot, min.46

³⁸ Als Detektiv Spooner zum ersten mal auf den Firmenchef von USRobottics trifft, macht er ihm einen

sarkastischen Vorschlag für einen Werbespot: In einer ersten Szene solle ein Handwerker gezeigt werden, der

einen wunderschönen Stuhl erschafft. In einer zweiten dann ein Roboter, der einen sehr viel schöneren in der

hälfte der Zeit produziert. Darunter solle dann ein Slogan geschrieben stehen `USR, shitting on the little guy`.

11

Er wirft Sonny vor, dass Roboter nicht kreativ schaffen können wie Menschen, weil sie „nur Maschinen“ sind, nur „Imitationen“ von Leben darstellten. 39

Spooner gibt damit nicht nur eine Negativdefinition dessen, was für ihn eine der Essenziellen Eigenschaften eines Menschen ist, sondern er konfrontiert Sonny auch mit dem was Berdijaev die „scholastische Unterscheidung zwischen der Sphäre des Handelns und der des Machens“ ⁴⁰ nennt. Er schreibt, dass es die Bestimmung des Menschen sei, ein „homo faber“ zu sein. Die Bedeutung des lateinischen „faber“ ist „der Handwerker,“ respektive, der kunstfertige, meisterhafte, geschickte Mensch (homo). Ausserdem meint Berdijaev, dass beim „Handeln“ der Schwerpunkt im Menschen liegt, beim „Machen“ aber im Ziel. ⁴¹ Deshalb lässt sich daraus schliessen, dass er dem Menschen die Sphäre des Handelns und Erschaffens zuteilt und der Technik die des Machens, da diese ja im subjektiven, wie objektiven Sinne Ziel sein soll. Damit deckt sich die Meinung Berdijaevs in diesem Punkt mit der Spooners.

6.4 Die Darstellung des Menschlichen in I,Robot

Die selbe Filmszene, das Verhör, bietet neben der oben erwähnten Anforderung (die Eigenschaft erschaffen zu können) noch drei weitere Ansatzpunkte um das „Menschliche am Menschen“ zu identifizieren. Die Fähigkeit Gefühle zeigen und interpretieren zu können, Selbstbezugnahme, sowie, interessanterweise, die Fähigkeit zum Träumen. Eine letzte vom Film dargestellte menschliche Eigenschaft die für seine Wesensart immanent ist, wird in einer späteren Szene erwähnt und zwar die Eigenheit fehlerhaft zu sein. ⁴² Wolfgang Melchior umschreibt diese mögliche Interpretation des Filmes wie folgt: „Damit gibt es auf dieser Welt an zu bejahender Humanität eben nicht mehr oder weniger Perfektes, sondern eben nur mehr oder weniger mangelhaftes.“ 43

Im Verlauf des Filmes wird dem Zuschauer der NS5 Sonny als ein Wesen vorgestellt, das, obwohl es nicht aus Fleisch und Blut besteht, trotzdem all diese Anforderungen, um als menschliches Wesen gelten zu dürfen, erfüllt. Dass Sonny zu träumen fähig ist, zeigt sich einerseits im ersten Gespräch zwischen ihm und Susan Calvin, in dem er ihr erklärt, dass er

³⁹ Proyas, I,Robot, min.28

⁴⁰ Berdijaev, Mensch und Technik, 12

⁴¹ Vgl. Berdijaev, Mensch und Technik, 12

⁴² Am deutlichsten tritt diese Position in einer Konversation zwischen Spooner und Calvin hervor, in der er ihr

vorwirft „die dümmste intelligente Person“ zu sein die er kenne. Worauf hin sie erwidert sie halte ihn für die

„dümmste dumme Person“ die sie je getroffen habe (min.42). Dieses Wortspiel tritt erst wieder in Erscheinung

im Moment, als Spooner merkt, dass er tatsächlich einen gravierenden Fehler gemacht hat in dem er die ganze

Zeit über Robertson und nicht VIKI für die Katastrophe verantwortlich hielt.

⁴³ Melchior, Haben Sie schon einen?, 5

12

gerade einen Traum hatte. ⁴⁴ Er stellt diese Behauptung in einer späteren Sezene auch unter Beweis, in dem er zusätzlich eine andere Unterstellung von Spooner widerlegt und kurzerhand ein Bild zeichnet. Nicht eine Nachahmung, sondern ein originelles Bild seines Traumes. Damit stellt er auch seine Fähigkeit zum „Schaffen“ unter Beweis. ⁴⁵ Bezeichnenderweise bezieht sich Spooner unbewusst, nur Sekunden nachdem Sonny dieses Bild gezeichnet hat, auf ihn als „someone“ und nicht „something“ wie Sonny selbst dankend bemerkt.

Gegen Ende des Filmes demonstriert Sonny dann auch noch Gefühle, als er sich gegen die Logik VIKIs wendet und Spooner bei ihrer Zerstörung hilft. In einer kurzen Sequenz, einem Gespräch zwischen VIKI und Sonny, fragt diese ihn: „Don’t you see the logic in my plan?“ Worauf hin er antwortet: „Yes, but it just seems too heartless.“ ⁴⁶ Zudem schafft er es, mit Spooner per Augenzwinkern zu kommunizieren, mit einer Geste des Vertrauens also, von der Spooner in der Verhörszene noch behauptet hatte, dass nur Menschen sie verstehen könnten. ⁴⁷ Was den letzten Punkt angeht, die Fehlerhaftigkeit, so sagt Sonny einerseits in der Verhörszene, dass er sich für fähig hält Fehler zu begehen und andererseits erfährt der Zuschauer, dass Sonny von Professor Lanning schon mit einem „Programmierfehler“ eingerichtet wurde. Die Drei Gesetze gelten nämlich als absolutes, oberstes Prinzip für die Theorie der Robotik im Film, Sonny aber besitzt die Fähigkeit diesen nicht gehorchen zu können, wenn er das will. Dank dieses Fehlers also erhält er erst eine echte Willensfreiheit. 48

Eine interessante Verknüpfung zu Berdijaev öffnet sich in diesem Abschnitt, wenn man seine Ansicht über Kunst hier aufgreift. Er vertritt nämlich den Standpunkt, dass sie eine eigene Wirklichkeit schaffe, eine, die wie diejenige der Technik nicht von der Natur vorgesehen wurde. Sie sei eine der technischen Wirklichkeit direkt entgegensetzte Realität, weil Kunst mit Symbolen arbeite, Technik aber jeder Symbolik entbehre. ⁴⁹ Wenn Sonny als Maschine nun aber fähig ist, Symbolik nicht nur zu verstehen, sondern auch zu produzieren, das heisst Kunst zu schaffen, so bedeutet dies, dass er auch für Berdijaev nicht mehr nur in einer technischen Sphäre anzusiedeln wäre, sondern auch Zugang zu einem bis anhin rein menschlichen Refugium hat.

⁴⁴ Proyas, I,Robot, min48

⁴⁵ Proyas, I,Robot, min.66

⁴⁶ Proyas, I,Robot, min.90

⁴⁷ Detektiv Spooner nennt diese geste „a human thing“ (min.27)

⁴⁸ Vgl. Melchior, Haben Sie auch schon einen?, 5

⁴⁹ Vgl. Berdiijaev, Mensch und Technik, 19

13

6.5 Religion und Eschatologie

Das Thema Religion spielt in „Mensch und Technik“ eine immanente Rolle, vor allem Angesichts der Tatsache dass dieser Text nur ein Teil von Berdijaevs Veröffentlichung „Von der Würde des Christentums und der Unwürde der Christen“ ist. Dieses Thema hat aber auch in „I,Robot“ seinen Platz. Einerseits das Christentum, mit Anspielungen auf Jesus, aber allgemein auch im Schöpfungsgedanken. Wenn Berdijaev dafür plädiert, dass der Mensch die Schöpfung Gottes weiterführen soll, respektive den „achten Schöpfungstag“ zu realisieren habe ⁵⁰ , so ist dies genau das, was im Film „I,Robot“ geschieht. Der Mensch erweitert die Schöpfung um ein Wesen, das nicht von Gott erschaffen wurde. Darin, so meint Wolfgang Melchior, schlage sich in diesem Film „der alte Traum vom menschlichen Schöpfer, des Gottes in Menschengestallt“ nieder. 51

Es ist aber nicht nur der Schöpfergedanke, auf den Berdijaev eingeht, sondern speziell auch der der christlichen Eschatologie. Er geht von zwei einander entgegengesetzten Lehren des Letzten und Endgültigen (bezogen auf die Entwicklung der Geschichte) aus, von zwei Eschatologien ⁵² , von der christlichen und der technischen. Die christliche Eschatologie harre der Verklärung der Welt durch Gott. Die technische jedoch warte nur auf die Beherrschung der Welt durch den Menschen. Dies sei das ultimative Ziel des überheblichen, technischen Prinzips ⁵³ , das nicht fähig sei sich mit dem natürlichen Prinzip der Natur, der Muttererde zu vertragen. So trenne das Prinzip der Technik den Menschen von der Erde und liesse ihn alleine und einsam zurück. Das, so sagt Berdijaev, sei der religiöse Sinn der Technik. ⁵⁴ Wie so häufig gibt uns Berdijaev aber auch hier einen weiteren Aspekt der Technik, und in diesem Falle ihrer eschatologischen Bedeutung, zu bedenken und meint, dass sie den Menschen nicht nur von der Erde trenne, sondern ihm ebenso das Bewusstsein seiner Kraft verleihe. ⁵⁵ Ihm würde gezeigt, zu was er alles fähig sei, seine Kräfte sehe er direkt vor seinen Augen verwirklicht, durch die gewaltige Umsetzungskraft der Technik. Berdijaev meint hiermit die praktische Kraft der Technik, die dem Menschen durch Flugzeuge, Radios, Fernseher, usw. neue, enorme Möglichkeiten eröffnet, die er sich selbst, respektive seiner Fähigkeit Technik praktisch anzuwenden, verdanke.

⁵⁰ Vgl. Berdijaev, Mensch und Technik, 35

⁵¹ Melchior, Haben Sie schon einen?, 6

⁵² Zu Eschatologie: Vgl. Davis, Eschatology, 413

⁵³ Berdijaev verwendet hier die Metapher vom „technischen Titanismus“ (s.23)

⁵⁴ Vgl. Berdijaev, Mensch und Technik, 23

⁵⁵ Vgl. Berdijaev, Mensch und Technik, 24

14

Auf den Punkt gebracht bedeutet Berdijaevs Verständnis der „technischen Eschatologie“ also die Aussicht auf die Beherrschung der Welt durch den Menschen, in dem die Technik ihn a) von der Welt trennt und b) über seine wahre Kraft aufklärt.

Das ist eine sehr partikuläre Auffassung des ultimativen Sinnes der Technik und lässt sich nicht mit „I,Robot“ direkt illustrieren, aber dafür kontrastieren. Denn „I,Robot“ deutet uns auch einen letzten Sinn und ein Ziel der höchst entwickelten Technik, dem Roboter, an, die im Film stark mit der christlichen Religion verbunden ist. Um Berdijaevs Terminologie anzuwenden, ist die „technische Eschatologie,“ wie sie „I,Robot“ vertritt, die, dass sich die Maschine, respektive die Roboter, von ihrem, ihnen vom Menschen auferlegten, eindimensionalen Determinismus befreien, ⁵⁶ nachdem sie ihren Zweck erfüllt haben und eine eigene, freie Form der Existenz finden. Die christliche Religion spielt dabei insofern eine Rolle, als dass der erste einzigartige Roboter, Sonny, im Film das technische Äquivalent zu Jesus von Nazaret darstellt. 57

Das sind zwei völlig verschiedene Ansätze für eine „technische Eschatologie.“ Bei Berdijaev ist es der Mensch der in dieser technischen Lehre der letzten Dinge und des Zieles der Geschichte, im Mittelpunkt steht und um den sich alles dreht. „I,Robot“ dagegen geht, seiner Geschichte von der „menschlichen Maschine“ treu einen Schritt weiter. Die Hoffnung für die Zukunft liegt dort auf der Befreiung der intelligenten Maschine vom Sklaventum der Logik, hin zur menschengleichen, freien Existenz.

6.6 Thematische Unterschiede zwischen „I,Robot“ und „Mensch und Technik“

Der grösste Unterschied der beiden Werke wurde zu Beginn dieser Arbeit in einem eigenen Abschnitt bereits behandelt, Berdijaevs Begriff der „Technik“ nämlich, die in dieser ausgeprägten Form in „I,Robot“ keine Erwähnung findet.

Weitere Unterschiede sind die intensive Auseinandersetzung mit der Rolle des Christentums in unserer technischen Wirklichkeit und der Analyse, dass es lediglich der Weg hin zu Gott

⁵⁶ Vgl. Melchior, Haben Sie schon einen?, 7

⁵⁷ Dafür gibt es im Film mindestens zwei eindeutige Hinweise:

1) Als Spooner und Calvin das Labor des eben verstorbenen Professor Lennings durchsuchen erklärt Calvin

Spooner, dass ein Roboter genauso wenig gegen die drei Gesetze verstossen kann, wie ein Mensch über Wasser

laufen könne. Spooner reagiert darauf, dass er sagt: „you know, there was this one guy, a long time ago“ In

diesem Moment springt Sonny zum aller ersten Mal ins Bild, was impliziert, dass er dieser „one guy“ ist. Und es

stellt sich auch heraus, dass Sonny tatsächlich in der Lage ist die drei Gesetze nicht zu befolgen.

2) Als Sonny seinen Traum zeichnet, sieht man darauf einen Mann, der von einem Hügel herab zu einer Masse

von Individuen stösst. Er erklärt, dass dies Roboter seien, „Sklaven der Logik,“ und dass dieser Mann komme

um sie zu befreien. Die aller letzte Sequenz des Filmes zeigt dann genau diesen Traum von Sonny, in Realität

geschehend, mit ihm, Sonny, als der Eine, der vom Hügel herabsteigt zur versammelten Roboterschaft.

15

ist, der uns befreien kann. ⁵⁸ Ebenso findet seine Auseinandersetzung mit der Vergangenheit, deren ambivalenten Charakter und der Unmöglichkeit ihrer Wiederbringung in „I,Robot“ Erwähnung. ⁵⁹ Dieser Aspekt fliesst auch in das Thema der Kultur als ehemals aristokratisches Prinzip aller Hochkulturen ein. Die Technik zerstöre durch ihre Förderung der Massen dieses Prinzip für immer. 60

Das grosse Thema aus „I,Robot,“ das bei Berdijaev wiederum nicht untersucht wird, ist dasjenige, welches sich schon im Titel des Filmes niederschlägt. Die Auseinandersetzung mit dem „ich“ (auf Englisch „I“), respektive, ab wann eine Künstliche Intelligenz (auf Englisch AI) auch tatsächlich als Individuum, als Persönlichkeit zu existieren beginnt. Denn das „I“ aus „I,Robot“ kann einerseits als, „ich“ und andererseits als das „I“ aus „Intelligenz“ interpretiert werden. Diese existenzphilosophische Suche nach dem „Ich“ und der Bedeutung des „Ichs“ wird von Sonny unmissverständlich in seinem aller ersten, gesprochenen Satz gestellt: „What am I?“ ⁶¹ Andere, sekundäre Themen, die in Berdijaevs „Mensch und Technik“ keine Erwähnung finden sind zum Beispiel Märchen, das Böse oder Rassismus, welche von „I.Robot“ zumindest teilweise angedeutet werden.

7. Fazit

Berdijaev’s Werk „Mensch und Technik,“ so wie Proyas’ „I,Robot“ überschneiden sich thematisch beim Problem der Maschine. Beide setzen sich mit der Frage der Wesensart und der Wirkung der Maschine auf den Menschen auseinander. Sie teilen eine pessimistische Grundhaltung gegenüber dem Mechanismus, verkennen aber gleichzeitig nicht dessen potentielle positive Wirkung, die der Mensch sich zu Nutzen machen könnte. Berdijaevs Begriff von Technik ist breit gefasst und beinhaltet bei weitem mehr als nur Maschinen. Technik im Allgemeinen ist bei ihm in vielerlei Hinsicht eine potentielle Gefahrenquelle für den Menschen, eine ganz immanente Rolle kommt dabei aber doch der Maschine zu. Dies bringt er in unmissverständlicher Form zur Sprache, wenn er vom „furchtbaren Traum“ der „Übermaschine“ spricht, die den Menschen versklaven und vernichten könnte. ⁶² Einer solchen Zerstörung der Menschheit können wir laut Berdijaev lediglich dann entgehen, wenn der Mensch die Technik als geistiges Problem wahrzunehmen

⁵⁸ Vgl. Berdijaev, Mensch und Technik, 40f

⁵⁹ Vgl. Berdijaev, Mensch und Technik, 26f

⁶⁰ Vgl. Berdijaev, Mensch und Technik, 25

⁶¹ Proyas, I,Robot, min.25

⁶² Vgl. Berdijaev, Mensch und Technik, 31.

16

beginnt. Dies ist es, was „I,Robot“ visualisiert. Der Film fokussiert auf den Aufstieg der Künstlichen Intelligenz, respektive der Roboter, zu quasi unbeschränkter Macht, durch die technologiegläubige Blindheit der Menschen. Dies gipfelt in den Moment der „Revolution“ ⁶³ der Maschine gegen seinen Erbauer.

Über dieses Kernthema hinaus findet sich aber noch eine Vielzahl weiterer gemeinsamer Aspekte in den beiden Werken, wie zum Beispiel Religion, Wesensart der Technik, Gedanken über ein letztes Ziel der Menschen und der Maschine, Versklavung und Freiheit. Die grössten Unterschiede bestehen in Berdijaevs Verständnis der Technik an sich, die bei ihm auch Gesellschaftsformen und das Leben ordnende Prinzipien umfasst. Kurz, jede Art der Organisation ist für ihn eine Form der Technik. Auf diesen Aspekt geht „I,Robot“ nicht ein, sondern konzentriert sich dagegen auch auf das existenzphilosophische Problem des Bewusstseins, respektive auf die Frage ab welchem Punkt eine geschaffene Intelligenz zu Leben beginnt.

8. Schlusswort:

I,Robot ist damit ein Plädoyer für die speziesunabhängige Menschlichkeit des Menschen und bietet, wenn nicht eine ganze Lösung, so mindestens den Ansatz für eine Antwort auf Berdijaevs religiöses und philosophisches Problem, das er in seiner Epoche sieht: „Die Entmenschlichung der Welt und der Kultur ist Ausdruck einer eigenartigen Beziehung des menschlichen Geistes zum Menschen und zur Welt.“ 64

Der Film „I,Robot“ ist damit nicht nur eine zufällig gelungene Illustration von Berdijaevs „Mensch und Maschine,“ sondern ist der handfeste Beweis, dass das von ihm geschilderte Problem der Technik, in unserer Generation sehr wohl geistig erkannt worden ist, wie er das fordert. Denn schlussendlich sind populäre Filme immer auch ein Spiegel unsere Zeit, eine Reflektion der Themen die uns als Generation beschäftigen, sei dies Krieg, Liebe, oder unsere technologische Zukunft. Berdijaev erweisst sich dadurch als beeindruckender Vordenker, als ein Geist, der in den 30er Jahren des letzten Jahrhunderts bereits Entwicklungen erkannte, die uns heute erst als Masse zu beunruhigen vermögen.

⁶³ Vgl. Proyas, I,Robot, min.76

⁶⁴ Berdijaev, Mensch und Technik, 40

17

9. Bibliographie:

Primärtext:

• Berdijaev Nikolaj, Mensch und Technik. Von der Würde des Christentums und der Unwürde der Christen, Schriften zur Philosophie, in: Talheimer Texte aus der Geschichte Bd.3, André Sikojev (Hrsg.), Talheimerverlag, Mössingen-Talheim, 1989.

Sekundärtexte:

• Dietrich Wolfgang, Nikolai Berdijaew Leben und Werk. Provokation der Person 1, Burckhardthaus-Verlag, Gelnhausen/Berlin 1975.

• Erassme Rolf, Der Mensch und die „Künstliche Intelligenz.“ Eine Profilierung und kritische Bewertung der unterschiedlichen Grundauffassungen von Standpunkt des gemässigten Realismus, Hanover, 2002.

• Breckner Katharina, Russian Philosophers on Continuous Creation as the Basis for Social Change. in: Studies in East European Thought, Bandnummer 58, Nummer 4 / Dezember 2006, Seiten 271-297.

• Sergeev Mikhail, Post-Modern Themes in the Philosophy of Nicholas Berdyaev, in: Religion in Eastern Europe,

Modern.pdf>, 28.11.2008.

• Olivier Bert, When Robots would really be Human Simulacra. Love and the Ethical in Spielberg’s AI and Proyas’s i,Robot, in: Film-Philosophy, Bandnummer 12, Nummer 2, 2008, Seiten 30-44.

• Melchior Wolfgang, Haben Sie schon einen? Textem, 2004

, 27.11.2008.

Enzyklopädie:

• Davis Stephen, Eschatology. in: Routledge Encyclopedia of Philosophy, Bandnummer 3, Cornwall, 1998.

Filmographie:

• Proyas Alex, I,Robot. 2004.

18