Das Telos innerhalb eines künstlichen Expertensystems. Plädoyer für den Philosophierekurs im Forschungsprozess der Künstlichen Intelligenz

Inhaltsverzeichnis

Einleitung in die Arbeit

Einleitung zum Transhumansismus (TH) und zur künstlichen Intelligenz (KI)

Expertensysteme

Archimedischer Punkt – Vom ‚Know – That‘ (KT) zum ‚Know – How‘ (KH)

Aristotelische Teleologie und die Unterscheidung zwischen Selbst –und Fremdbestimmung

Resumé und Schlusswort

Literaturverzeichnis

Einleitung in die Arbeit

„Ja um zunächst mit dem Kopfzerbrechen zu beginnen, ich finde das ist ganz gesund. Es ist noch zu wenig Kopfzerbrechen heute in der Welt sondern eine grosse Gedankenlosigkeit. (...). Und dieser Satz ‚die Wissenschaft denkt nicht‘ der viel Aufsehen erregte, (...), bedeutet die Wissenschaft bewegt sich nicht in der Dimension der Philosophie. Sie ist aber ohne dass sie es weiss auf diese Dimension angewiesen. Zum Beispiel die Physik bewegt sich im Bereich von Raum und Zeit und Bewegung. Was Bewegung, was Raum, was Zeit ist kann die Wissenschaft als Wissenschaft nicht entscheiden. Die Wissenschaft denkt also nicht, das heisst sie kann gar nicht denken in dem Sinne mit ihren Methoden. Ich kann nicht zum Beispiel, physikalisch oder mit physikalischen Methoden sagen was die Physik ist sondern was die Physik ist kann ich nur denkend philosophierend sagen. Der Satz ‚die Wissenschaft denkt nicht‘ ist kein Vorwurf. Sie ist nur eine Feststellung der inneren Struktur der Wissenschaft.“^[1]

Man hat sich entsprechend der modernen Verwissenschaftlichung im Sinne des reduktiven Rationalismus an eine spezifische Form von Resultat im gegenwärtigen akademischen Arbeiten gewöhnt. Ich folge der Notwendigkeit und Anweisungen welche den wissenschaftlichen Standard garantieren sollen, lasse mich dabei aber hinsichtlich der gewünschten Form des Resultates etwas vom Kurs abbringen und möchte dementsprechend keine Verifizierungen oder Falsifizierungen einer oder mehrerer Thesen vorlegen sondern, ganz im Sinne des grossen Historiker und Philosophen Wilhelm Dilthey, einen holistischen Ansatz verfolgen in welchem ein Auffinden eines Anreizes oder Vergrösserung des Verständnisses einer Sache, äquivalent zu einem obgenannten Resultat stehen darf und soll. Das von dieser Arbeit angestrebte Resultat, wenn man den Begriff gewohnheitshalber halten will, ist, beeinflusst durch die kontinentalphilosophische Arbeitsweise, der Versuch aufzuzeigen inwiefern sich ein Rückgriff in die Philosophie bei Problemen moderner naturwissenschaftlich– technischer Forschung als einerseits möglich und anderseits möglicherweise lohnenswert erweist resp. erweisen kann. Deswegen verstehe ich die Arbeit als Plädoyer und nicht als Analyse, logische Abhandlung, allgemeine Theorie, empirische Studie usw. Ich bin der Meinung, dass sich die Wichtigkeit philosophischer Texte gerade dort am besten Aufzeigen lässt, dies attestierten übrigens bereits Thomas Kuhn, Imre Lakatos, Paul Feyerabend und viele weitere Wissenschaftsphilosophen, wo sich die Forschung in einer Vorwärtsbewegung befindet und zwar hinsichtlich deren Ziele, Orientierung, Paradigmen usw. Meine Arbeit wird nicht im Sinne der obgenannten Denker ein Forschungsprogramm auf seine Lücken oder möglichen Redundanz prüfen sondern einzig eine Möglichkeit unter vielen aufzeigen wo ein Philosophierekurs moderner Forschung sinnvoll sein könnte. Sinnvoll im Sinne von hilfreich, helfend, anregend, weiterbringend, unterstützend etc. Dabei erhoffe ich mir einen solchen Rekurs als Verständniserweiterung zu präsentieren und keine Erklärungsakkumulation, um einmal die alte Kluft zwischen Geistes– und Naturwissenschaften künstlich aufzureissen.

Der angestrebte ideale Ablauf der Arbeit ist wie folgt: Aus einer aktuellen naturwissenschaftlich–technischen Forschung ein Teilgebiet zu isolieren und innerhalb dessen eine Schwierigkeit resp. ein Problem auszuarbeiten und zu präsentieren. Sind diese Schritte gelungen werde ich versuchen einen angemessenen und hilfreichen Rekurs in eine Philosophie zu vollziehen, welche wichtige Denkanregungen und mögliche Lösungsanregungen für den ausgearbeiteten Problembereich aufweist. Dabei soll in keinem der genannten Schritte eine Arbeit in die Tiefe stattfinden. Eine oft vollzogene Auflistung der nicht beachteten Literatur bleibt hier Vernunftentsprechend aus. Wichtig ist mir zu unterstreichen, dass die eigentliche Arbeit in der Ausarbeitung vom Forschungsgebiet zu einem konkreten Problem liegt und das philosophisch – kreative Element im Ausfindig machen eines philosophischen Textes, Konzeptes usw. welches das Problem unter einem neuen Licht aufzuzeigen vermag. Gerade in modernen Forschungen in ihren Verstrickungen mit Staat und Wirtschaft wird oft bewusst und unbewusst nicht eindeutig auf Probleme hingewiesen sondern die Forschung weiter nach vorne getrieben in der Hoffnung einer späteren Lösung durch Problemverschiebung, welche zugegeben oft auch glückt. Deshalb ist es ein grosser Teil der Arbeit einerseits oberflächlich und breit zu bearbeiten was ein Forschungsgebiet und Paradigma anbelangt und anderseits beim Erkennen eines Grundproblems dieses in aller Klarheit, Einfachheit und notwendiger Tiefe zu präsentieren. Eine Lösung dieses Problems selbst wird nicht erarbeitet oder angestrebt, jedoch ein Exempel einer möglichen Anwendung eines philosophischen Inputs auf jenes. Der Wirkungsgrad der Arbeit steht dabei in Korrelation zur Deckung der beiden genannten Elemente von Forschungsproblem und Philosophierekurs und es wäre angenehm, wenn sich am Ende der Arbeit das Interesse eröffnen würde in angezeigter Richtung weiter zu forschen.

Der Verfasser dieser schriftlichen Arbeit hat ursprünglich seine Matura in naturwissenschaftlicher Richtung absolviert und war in technischen Berufen tätig, ist aber im Verständnis über kommende technische Zusammenhänge ebenso limitiert wie vermutlich jeder fachfremde Leser. Die Bedingungen der Möglichkeit ein aktuelles Forschungsprogramm auszuwählen, daraus einen Teilbereich und daraus wiederum ein konkretes Problem aufzusuchen und darzustellen ist meiner Meinung nach nicht an ein fundiertes Fachwissen gebunden sondern an solche Grundfähigkeiten die gerade im Verfassen solcher Arbeiten geprüft werden soll, unabhängig von der Materie. Etwas neu für den Autor ist die Vorgehensweise dieser Arbeit, insofern dass diese Einleitung nicht künstlich zu einer bereits vollendeten Arbeit hinzugefügt worden ist und dass im Weiteren der Ausgang dieser Arbeit, wie meistens in der angewandten Forschung, zum jetzigen Zeitpunkt entsprechend ungewiss ist. Die Arbeit ‚vollzieht‘ sich also effektiv während dem Schreibprozesss. Diese Richtung, resp. methodische Einstellung soll während der Arbeit möglichst beibehalten werden. Diese Abweichung dient dem Autor in seiner Wahrnehmung der Arbeit als ‚Entdeckungsreise‘ entgegen einem ‚get the job done‘ und versucht so an das ursprüngliche Forschungsinteresse anzuknüpfen welches manchmal im modernen akademischen Betrieb etwas verloren gegangen ist. Die Literaturauswahl wurde bereits getroffen und vieles gelesen und so steht das Gerüst der Arbeit vorerst einmal in einer Art beta Version.

Zum Titel der Arbeit entsprechend der philosophischen Tradition eine anfängliche Begriffsumschreibung und Ergänzungen um möglichst Klarheit über grössere Zusammenhänge und Arbeitsbereiche zu schaffen in welchen sich die Arbeit aufhalten wird. Dabei belasse ich es grundsätzlich beim alltäglichen Verständnis der Philosophie und dem naturwissenschaftlich – technischen Forschungsbereich unter folgender Ergänzung. Ein treffender Brockhaus Auszug aus dem Abschnitt zur Philosophie fasst zusammen: „Die P. Richtet sich auf das Ganze der Wirklichkeit und deren Grundlagenbestimmungen, während sich die Einzelwiss. mit der Erforschung der Gesetzmässigkeiten bestimmter, umgrenzter Gegenstandsbereiche befassen.“^[2] Zur Forschung findet man folgenden Eintrag: „(...), die Gesamtheit der systemat. Bemühungen um Erkenntnisse im Rahmen der Wissenschaft.“^[3] Unter naturwissenschaftlich sollen insbesondere jene Gebiete des systematischen Wissenserwerbs gelten welche mit empirischer Methode die Natur erforschen. Weiter gilt die Annahme, dass jede Forschung stets in einem Wissenschaftsgebiet abläuft, welches sich aus einem grösseren Zusammenhang emanzipiert hat um partielle Teile nach einer speziellen, der Sache angepassten Methode zu erforschen.

Ein Rekurs in die Philosophie und deren tradierten Texten zur Erforschung eines Gesamtzusammenhanges soll sich also in seiner verstehenden Art und Weise positiv und fördernd auf einen Teil, ein Problem eines auf einen geschlossenen und auf Erklärung ausgerichteten, aus der Philosophie emanzipierten Teil einer Einzelwissenschaft auswirken. Der Rekurs ist also ein, dem einleitenden Zitat entsprechender Versuch in den Ursprüngen einer sich daraus emanzipierten Wissenschaft Anregungen für eben jene zu finden. Möglich wäre es schliesslich, dass sich innerhalb einer Einzelwissenschaft die Richtungsweise der Forschung entsprechend der herrschenden Methodik und Paradigmas entsprechend eingeengt hat und so in eine Sackgasse oder ein Problem geraten ist aus welchem es erst nach einem Schritt zurück hinaustreten kann. Das zumindest die Meinung des Verfassers. Der erste Schritt der Arbeit liegt nun in einer groben Skizzierung eines Forschungsgebietes.

In Anlehnung an ein Seminar welches mein Interesse geweckt hat und in welchem ich als Neuling noch viel arbeiten möchte und das ich mir dementsprechend für diese Arbeit ausgewählt habe ist der Transhumanismus (TH) und dem damit direkt zusammenhängendem Forschungsbereich zur künstlichen Intelligenz (KI).^[4] In diesem Gebiet soll sich die Arbeit bewegen und eingangs erwähnte Arbeitsschritte vollziehen. Die Quellenauswahl erfolgte nach dem Schwerpunkt der Pioniersarbeiten. Die Quelle kann also durchaus etwas älter sein wenn die damit zusammenhängende Forschung aktuell ist oder sich ungebrochen auf diese Quelle bezieht in ihrer gegenwärtigen Arbeit. Zum TH und der KI sind dies nach ersten Recherchen zwingend folgende Personen: Der Leiter technischer Entwicklung bei Google, Pionier der Sprach– und Texterkennung, Futurist usw. Raymond Kurzweil; der Begründer des Begriffes KI und lange Zeit Leiter des MIT Marvin Lee Minsky; Pionier einer hermeneutisch orientierten KI und Spezialist für Expertensysteme an der Stanford University Prof. Terry Allen Winograd sowie der Experte und meistzitierte Kritiker der KI, einer der bedeutendsten Philosophen, Phänomenologe und Existenzialisten des angelsächsischen Raumes, Prof. Hubert Dreyfus. Ich beginne nun mit der Einleitung zum TH und der KI.

Einleitung zum Transhumansismus (TH) und zur künstlichen Intelligenz (KI)

„Eventually we are going to transcend humanity. Eventually we are going beyond the whole way of thinking, feeling, existing and relating that constitutes humanity.”^[5]

„The first Alien we are going to meet will be the ones we will create ourselves.“^[6]

„Innerhalb einer Generation wird das Problem der Schöpfung einer ‚künstlichen Intelligenz‘ im Wesentlichen gelöst sein“^[7] (Minsky, Marvin 1967)

Diese Einleitung soll den Bogen vom Paradigma der transhumanistischen Forschung über das Teilgebiet der künstlichen Intelligenz zu einem konkreter Problem deren schlagen. Die Begriffsgenese von Transzendieren greift ins lateinische ‚transcendentia‘ zurück was mit ‚überschreiten‘ zu übersetzen ist und meint das Übersteigen eines gegebenen Erfahrungsrahmen.^[8] Den Humanismus zu transzendieren meint nicht den homo sapiens zu überschreiten noch die im 19. Jahrhundert kreierte hoffnungsvolle Bezeichnung für die Entfaltung des menschlichen Potentiales selbst definitiv zu überschreiten, sondern ist im Sinne nach zu verstehen als ein Transzendieren des Erfahrungshorizontes des menschlichen Daseins selbst.^[9] Für viele Forscher inkl. der obgenannten ist der Transhumanismus eine direkte Abwendung von einem der ältesten Dogmas, der Rationalisierung der eigenen Mortalität in Form von Mythos, Religion oder sonstigen Rationalisierungsversuchen eines grundsätzlich Irrationalen. Es ist die mutige Anmassung des Menschen diese fundamentalste Limitierung des Menschseins, gewissermassen den biologischen Menschen selber, zu transzendieren – zu übersteigen. Nick Bostrom, Leiter des ‚Future of Humanity Institute‘ und Professor an der Oxford University schreibt: „Der Transhumanismus vertritt die Ansicht, dass die ‚menschliche Spezies‘ nicht das Ende unserer Evolution darstellt, sondern vielmehr ihren Anfang.“^[10] Festzustellen ist dabei die Heterogenität dieser Bewegung. Absoluter Konsens herrscht einzig hinsichtlich gewissen Forschungsbereichen, wie z. B. der Förderung der Singularität in der Hoffnung einer KI resp. einer künstlichen Superintelligenz sowie in der geographischen Ballung in Forschungshochburgen wie dem Sillicon Valley oder dem MIT. Innerhalb dieser, man neigt zu sagen philosophischen Denkrichtung, gibt es sehr unterschiedliche Strömungen mit ihren jeweiligen kulturellen, sozialen, wissenschaftlichen usw. Hintergründen sowie den spezifisch - fachlichen Forschungsrichtungen und damit verbundenen Protagonisten. Allen gemeinsam ist jedoch eine Art Rosinenpicken. So wird eine Transzendierung moderner humanistischer Werte und Fähigkeiten wie Vernunft oder gar die Wissenschaft selbst nicht annähernd befürwortet, das Auswechseln der natürlichen in eine künstliche Umgebung oder das Transzendieren von Krankheit und Tod jedoch mit Absolutheit gefordert. Was im Detail genau ‚überschritten‘ werden soll unterliegt dem historisch – soziokulturellen und gesellschaftlichem Wandel und wird jeweils, in marxistischem Jargon, von der herrschenden Klasse (mit)-bestimmt. Hayden White empfand insofern den Transhumanismus als etwas Wiederkehrendes das das jeweilige Bild von ‚human‘ transzendiere. Ebenfalls gibt es Stimmen die verlauten, dass wir im Zeitalter von Transplantation und Hirnchirurgie, von Seh– und Hörhilfen, von Prothesen und Enhancement bereits in einem transhumanistischen Zeitalter leben. Andere wiederum empfinden das prognostizierte Eintreten einer Superintelligenz als Definiens im Sinne eines definitiven ‚point of no return‘ und somit unumkehrbaren Übergang zum TH. Philosophische Einflüsse des TH schreibt man abwechselnd Darwin oder Nietzsche zu, dies bildet aber noch ein Forschungsdesiderat. Eine graduelle Abgrenzung zum Posthumanismus ist nicht auszumachen. Posthumanismus wird in der Literatur einfach als Epoche nach dem gegenwärtig definierten Menschen betrachtet während Transhumanismus mehr als effektives Überschreiten angesehen werden könnte.^[11]

Eines der prominentesten Mitglieder des TH ist Raymond Kurzweil. Die Zeit schrieb neulich über ihn: „Ray Kurzweil ist ein Mann, der 18 Ehrendoktortitel amerikanischer Universitäten trägt und der erfolgreich ein Dutzend Unternehmen gegründet hat. Die US–Präsidenten Ronald Reagan und Bill Clinton haben ihn geehrt, er hält zahlreiche technologische Patente und schreibt Bücher wie andere Leute Postkarten.“^[12] Das Mission Statement von Kurzweil und seiner Zielorientierung des TH lautet: ‘ Mission not to die‘.^[13] Auf seiner Internetseite kann man einen persönlichen Plan inkl. Gentest absolvieren um dem Motto ‚Life long enough to life forever‘ entsprechend seinen ganz persönlichen Möglichkeiten eine Anleitung zu erhalten um bis zur kommenden Singularität durchzuhalten.^[14] Einmal bei dieser angekommen werden angeblich alle noch verbleibenden Arkanum der Menschheit entschlüsselt worden sein, mit den entsprechenden Benefits. Dieses Religionssubstitut der Elite ist in ihren Aussagen nicht immer ganz kongruent. So ist oft unklar wie sich dieses Maschine – Mensch ‚Mergen‘ in Bezug auf Entitäten wie z.B. Personalität und Individualität verhalten wird oder soll. Bei allen möglichen Unterschieden ist ein Ziel wie oben angedeutet konstant. Die Mortalität, dieses ewige Damoklesschwert über unser aller Köpfe, soll definitiv überschritten werden. Die Zielrichtung der beschriebenen grossangelegten Denkrichtung formuliert Marvin Minsky wie folgt: „Eines Tages, wenn wir wissen, wie der Verstand arbeitet, werden wir begreifen, dass es nicht notwendig ist, krank zu sein oder im Alter das Gedächtnis zu verlieren oder zu sterben. Man kann dann alle Elemente einer Persönlichkeit in einen anderen Körper, einen Maschinenkörper, verpflanzen, der erhalten wird und kontinuierlich wächst, so dass wir nicht auf ewig mit unseren Begrenzungen leben müssen.“^[15] Diese Maschinenkörper sind in der transhumanistischen Vision keine Kontingenz sondern eine Bedingung der Möglichkeit überhaupt. Sesink schreibt in Anmerkung zum Robotik Forscher Hans Moravec „Früher oder später werden unsere Maschinen so klug sein, dass sie sich ohne fremde Hilfe instand halten, reproduzieren und vervollkommnen können. (...). Damit werde der Geist endgültig die Fessel des biologischen Körpers abgestreift haben, der uns doch nur das Dasein eines‚ unglücklichen Zwitterwesens, halb Biologie halb Kultur erlaube (...).“^[16] Eine Verbindung von TH und KI wird in keiner Literatur ausgelassen. Unterschiedlich fällt die Gewichtung aus aber es lässt sich sagen das KI, im ursprünglichen und starken Sinne, zum TH führen müsste und die Kernziele des TH in Abhängigkeit zur KI stehen. Vom Standpunkt der meisten TH wird KI als einer ihrer drei Grundpfeiler verstanden.^[17] Diese Sicht stösst in der TH Forschung auf breite Anerkennung, die ihren Ursprung in einem Konzept mit dem Namen GNA hat. GNA steht für die Komponente: Genetics – Nanotechnologie – Ariticial Intelligence. Eine Hierarchie konnte ich nicht feststellen. Schlussendlich rekurrieren sie in unterschiedlichen Verbindungen und Abhängigkeiten aufeinander. Der Möglichkeiten nach scheint die Entschlüsselung des genetischen Codes und die Konstruktion der künstlichen Intelligenz die Nase vorn zu haben gegenüber Produktion von nanotechnologischen Robotern. Einige Forscher wie Minsky und Kurzweil gehen in der Annahme, dass erst KI die beiden Anderen ermöglichen wird. Der Forschungszweig der KI ist ebenfalls jener der seit Jahrzehnten ungebremste Zuwendung und Finanzierungen aufweisen kann sowie den am stärksten ungebrochenen Zukunftsglauben aufweist.^[18] Warum die drei Komponente aufeinander angewiesen sind zeigt sich z. B. nach Winograd im Faktum, dass eine endgültige Speicherung der KI auf einem nicht biologischen Träger für unausweichlich gehalten wird, in Rekurs auf eine kommende Supernova unserer Sonne sowie der Ausdehnung des Weltraumes.^[19] An dieser Stelle verlasse ich das Paradigma des TH und leite entsprechend der Tangierungen über zur KI.

Was genau ist diese künstliche Intelligenz? Der Brockhaus schreibt: „Künstliche Intelligenz, Abk. KI, engl. Artifical Intelligence (...), Abk. AI, Bez. Für Methoden und Verfahren der Informatik mit dem Ziel, bestimmte abstrakte Aspekte intelligenter menschl. Erkenntnis – und Denkprozesse auf Computern nachzubilden und mit Hilfe von Computern Problemlösungen anzubieten, die Intelligenzleistungen voraussetzen. (...). Teilgebiete der KI sind: Spielprogrammierung (speziell Schachprogrammierung), automat. Beweise (z.B. Verfahren zur Überprüfung von Programmen auf Fehlerfreiheit), natürlich – sprachl. Kommunikation (...), Bildverarbeitung (...), autonome Roboter (...). Die grösste prakt. Relevanz besitzen auf absehbare Zeit -> Expertensysteme, d.h. autom. Problemlösungen der KI für Spezialgebiete (chem. Analyse, Fehlerdiagnose, Finanzanalyse u.a.) sowie hybride Systeme mit gemischter Architektur, wie Kombinationen von Expertensystemen und -> neuronalen Netzen. –Programmsprachen der KI sind z.B. LISP und PROLOG.“^[20] Wichtige Ergänzung ist die Divergenz insbesondere der gegenwärtigen KI Forschung in starke KI und schwache KI. Der entsprechende Eintrag klingt nach einer Mischung beider, effektiv bildet aber den Forschungszielen nach die schwache KI eine Subforschung der starken KI, was z. B in der Massenproduktion gerade umgekehrt gilt. Die Unterscheidung lautet auf der Grundlage von Chalmers und Minsky wie folgt: „(...). Eine Computation kann mentale Prozesse hervorbringen. (strong AI) (...). Mentale Prozesse können computational simuliert werden. (weak AI).“^[21] Heutzutage wird vieles mit dem Label KI etikettiert, das liegt in der angesprochenen Definitionsfrage, so schreibt Schroeter, dass: „(...) einem CD–Player Intelligenz in eben jenem ‚schwachen‘ Sinne beigemessen wird, da er Gesang zu simulieren vermag.“^[22] Dazu Sesink: „Starke KI will weit mehr. In dem, was heute als ‚Künstliche Intelligenz‘ gehandelt wird, sieht sie ihre Vision auf kümmerliche Perspektiven reduziert.“^[23] In unterschiedlichen Phasen wurden aus der frühen Forschung zu Spielen und Theorembeweisen mehr und mehr Versuche einer romantischen Periode und dem hermeneutischen Anspruch an Maschinen und schliesslich entstanden unter dem modernen Wirtschaftseinfluss hauptsächlich Applikationstechniken.^[24] Zu diesem decline gibt es eine Fülle an Informationen. Diese Arbeit interessiert aber ein Teilbereich des Mutterbereiches KI, welcher sich bis heute als Teil der Spitzenforschung etabliert hat und trotz den Rückschlägen der KI weiterhin an deren Umsetzung, wenn auch in bescheidenerer obgenannter schwachen Form, arbeitet. Ein solches Gebiet, eine solche Anwendung welche sich aus dem Scheitern der KI Forschung ergab, die sich einerseits an starker KI orientiert sich aber in der Anwendung an geschlossenen, einfacheren und begrenzteren Realitäten widmen sind sogenannte Expertensysteme (ES)^[25]. Wie in der Einleitung im Zitat des Brockhaus erwähnt wurde, ist das Expertensystem dasjenige Spezialgebiet der KI mit der grössten praktischen Relevanz der Forschung.^[26] „Angesichts der Tatsache, dass Expertensystemforschung aus den generellen Untersuchungen der künstlichen Intelligenz hervorgegangen ist, überrascht es nicht, dass sie starke intellektuelle Bindungen zu den verwandten Themen in ihrer Mutterdisziplin unterhält.“^[27] Die wichtigsten sind hierbei Wissensakquisition, Wissensrepresentation sowie Wissensanwendung.^[28] In diesem Teilbereich der künstlichen Intelligenz erhoffe ich mir auf diejenige Problematik zu stossen welche für die Forschungsstagnation in der KI verantwortlich ist. Hierbei orientiere ich mich an den ES selbst, welche die Annahme der Forschung vertreten, dass die Schwierigkeiten der KI hauptsächlich auf die Menge von Kontexten, dem Frameproblem, zurückzuführen ist und dass wenn diese Kontexte minimiert würden, sich KI erzeugen liesse.^[29] Der Schluss scheint mir nahe, dass die Schwierigkeiten unabhängig der Menge an zu errechnenden Bezugspunkten in einem kleinen wie in einem grossen System, von der Art des Ablaufes her, Kongruenzen aufweisen sollten. Wenn KI auch ‚noch‘ scheitert im Versuch an der menschlichen Intelligenz, lässt sich doch evtl. im Versuch z. B. tierischer Intelligenz oder einzelner Intelligenzeigenschaften oder Sequenzen zu erschaffen, dasjenige Element ausfindig machen, das für das Gelingen oder Scheitern verantwortlich sein könnte. So wird der Blick aus einem TH Paradigma und der KI in ein spezifischeren Teil der KI verlegt; dem Expertensystem.

Expertensysteme

„Anspruch der Wissens-Ingenieure ist, erkannt zu haben, dass eine Maschine nichts weiter benötigt als einige allgemeine Regeln und viel spezifisches Wissen, um sich in Bereichen, die vom alltäglichen gesunden Menschenverstand und von sozialen Beziehungen getrennt sind, wie ein Experte zu verhalten.“^[30]

„Ein Sprechcomputer plappere zum Beispiel endlos in den schönsten Redewendungen von einem romantischen Sonnenuntergang, auch wenn es mittlerweile schon längst Nacht geworden sei.“^[31]

Was ist ein Expertensystem? Was ist eigentlich ein Experte? Das Lexikon bietet wenig Hilfe an. Ein Experte gilt dort einfach als Sachverständiger.^[32] Aus einer hermeneutischen Perspektive und der Unklarheit von ‚Verstehen‘ und ‚Sache‘ heraus bereits erschwert. Hingegen ist die Erläuterung zum ES selbst schon etwas hilfreicher. Der Brockhaus schreibt: „Expertensystem, Informatik: Computer – und Programmsysteme aus dem Bereich der künstl. Intelligenz, das Expertenwissen über ein spezielles Fachgebiet speichert, Schlussfolgerungen daraus zieht und zu konkreten Problemen des Gebiets Lösungen anbietet, d.h. Aufgaben übernehmen kann, die bisher von Experten gelöst werden mussten.“^[33] Diese auf einen beschränkten Bereich anwendbaren ‚Problemlöser‘ orientieren sich also an gespeichertem künstlichen Fachwissen entsprechend einem natürlichen Fachwissen. Es ist der Versuch die Anforderungen an eine Duplizierung eines ‚Menschen‘ auf einen ‚Experten‘ zu verkleinern. Jackson hierzu: „Expertensysteme sind Computersysteme, die bestimmte wissensintensive Fachgebiete repräsentieren, wie zum Beispiel die innere Medizin oder die Geologie. Sie sind in der Lage, Schlussfolgerungen zu ziehen, um bestimmte Aufgabestellungen zu lösen oder Ratschläge zu erteilen.(...). Das sind Systeme, die Problemlösungen durch Verwendung einer symbolischen Repräsentation menschlichen Fachwissens lösen, (...).“^[34] Bezeichnet man KI als zu komplett hinsichtlich ihrer möglichen Repräsentationen, Bezüge usw. dann müssen in kleinerem Bezug die ursprünglichen Zielsetzungen evaluiert werden. So führt ein KI Ziel des menschlichen Ganges möglicherweise zu einem treppensteigendem ES oder ein Touringtest bestehender KI Gesprächspartner zu einem Spracherkennungs ES. Die Ziele der Entwicklung sind immer noch dieselben, daran hat sich nichts geändert. Wenn ein Automobilhersteller an einem ES zur Strassenerkennung arbeitet ist es immer noch unabdingbar das Ziel, dass dieses ES die Strasse erkennen kann und zwar irgendeine Strasse, folglich eine Form von Intelligenz aufweist. Oder im Bezug auf obgenannte Beispiele muss ein Treppensteigendes ES nicht einfach eine explizite Treppe steigen können, sondern möglichst viele unterschiedliche Treppen. Erst dieser ‚Analogieschluss‘ erlaubt es überhaupt von Intelligenz zu sprechen. Sonst sind wir wieder beim ‚intelligenten‘ CD-Spieler der Musik abspielen kann. Das ist mit ES nicht gemeint.^[35] Exakt dieser, interessanterweise von Experten oft übergangener Übergang von einer ‚Programmierung‘ zu einem autonomen ‚über‘ diejenige der Programmierung hinausgehende Aktion, stellt eines der grössten Probleme der ES Forschung^[36] und vermutlich insofern ebenfalls der KI. Doch vorerst zurück zur Expertengenese. Bewusstsein für diese Frage nach dem Experten konstatiert Dreyfus bereits in der griechischen Antike und verweist dabei auf den Dialog zwischen Sokrates und Euthyphron, wo Sokrates engagiert versucht diversen Experten ihr proklamiertes Regelwerk zu entziehen, jedoch schnell bemerkt, dass der jeweilige Experte ihm kein zugrundeliegendes Regelwerk nennen kann nach welchem er sein Expertenwerk ausführt. Dreyfus, man möge mir den erneuten Rückgriff in die antike Philosophie verzeihen, hierzu: „Anstatt dem anderen aber die eigene Heuristik zum Frömmigkeits – Erkennen zu enthüllen, macht Euthyphron, als Sokrates ihn in die Enge treibt, genau das, was jeder Experte tut: Er nennt Beispiele aus seinem Fachgebiet. (...). Während des gesamten Dialogs beharrt Sokrates auf seiner Frage nach den Regeln des Euthyphron. Aber obwohl dieser behauptet, er könne einen frommen Akt von einem unfrommen unterscheiden, kann er keine Regeln angeben, mit deren Hilfe er sein Urteil fällt. Dasselbe Problem begegnet Sokrates bei Handwerkern, Dichtern und sogar Staatsmännern.“^[37] Wie schwierig es ist über partielle Sequenzen induktiv zu einem Prinzip zu kommen wird ebenso klar wie das holistisch – intuitive zu beschreiben aus welchem Experten oft angeblich ableitend ihre Angelegenheiten ausführen. Fragt man einen Experten wird er nur selten auf ein explizites Regelwerk rekurrieren können. In der Wissenschaftsphilosophie wird mit Anstrengung nach Antworten bezüglich den Fragen zum Erwerb, der Darstellung, der Vermittlung, der Formalisierung usw. von solchen Regelwerken geforscht und dementsprechend ergeben sich unterschiedliche Antworten. Platon ‚der‘ Schüler von Sokrates als Beispiel wird bezüglich der obgenannten Frage Schlussfolgern, dass die Experten ihre Regeln einfach vergessen hätten und man sie daran erinnern kann und soll, was wiederum die Aufgabe der Philosophen sei.^[38] In einem Expertensystem, ebenfalls in der KI, werden solche ‚Regelwerke‘ als Wissensbasis bezeichnet.^[39] Ein ES bezieht also aus einer Wissensbasis ein, von Experten formalisiertes, Wissen und kann aufgrund dieser Anleitung auf einen Input mit einem entsprechenden Output reagieren.^[40] Die erarbeitete Frage nach dem Regelwerk bei natürlicher Intelligenz ist insofern wichtig da einerseits das ES nur so gut sein kann wie der programmierende Experte und weil die Zielsetzungen der künstlichen Experten sich immer noch an derjenigen der natürlichen misst. Folglich ist die Frage wie Experten handeln und aufgrund welcher Regeln, eine sehr wichtige. Aber ist denn ein Experte, wer innerhalb seines Fachwissens genaue Anweisungen geben kann? Ist es nicht gerade derjenige der gleichzeitig in eine Metaebene wechseln kann, verschiedene Herangehensweisen prüfen kann oder gar entscheiden kann? „Sprechen wir nämlich von einer Person als ‚Experten‘, so verbinden wir damit in unserer Vorstellung einen Menschen, dessen Auffassungsgabe nicht nur zum Lösen genau formulierter Probleme ausreicht, sondern eine Person, die Fragen auch in einen grösseren Zusammenhang stellen kann. Wir unterscheiden zwischen Experten und Fachidioten.“^[41] So ist vielleicht das Wissen welches in eine Wissensbasis einprogrammiert wird gerade nicht ausreichend zur Erschaffung eines künstlichen Experten. Ein ES arbeitet bottom up und stösst, nicht wie die KI, hinsichtlich: Frame, konsensuelle Wahrnehmung, Mustererkennung, Anpassungen, Entscheidungsprozesse usw. nicht an dieselben Grenzen des berechenbaren.^[42] „Die schwierigen Fragen nach Relevanz, Kontext und Hintergrundbezug, (...), werden hier gar nicht erst angegangen.“^[43] Unabhängig des Komplexitätsstatus lässt es sich an einem ES in Bezug auf fundamentale Prozesse gut arbeiten. Wo entstehen also die Probleme welche man schon bei der KI ausfindig machen konnte? Warum gibt es noch keine KI und warum stellt sich selbst bei minimster Version einer KI, den ES, kein Erfolg ein. Warum entstanden ES zur medizinischen Diagnostik nicht als Ersatz für jeden Arzt sondern nur im Sinne eines Spektrogramms? In den 1970 redete man von sprechenden Häusern, fliegenden Autos, Weltraumtrips, intelligenten künstlichen Gesprächspartner und Roboterärzte usw.^[44] Alles grundsätzlich ES. Was ist passiert? Natürlich ist den ES aufgrund der durchdringenden Nachfrage im kommerziellen Nutzungsbereich den Einzug in unseren Alltag gelungen, was man von der KI nicht behaupten kann, aber diese Wegwerfprodukte haben nichts mit den Ambitionen zu tun welche Forscher hatten, die Hollywood in Marvin oder HAL 9000 darstellten.^[45] Die gegenwärtigen ES werden hauptsächlich dort eingesetzt wo es um Zeitersparnis geht. „Der Entwurf von Systemen, die ausgewählte technische Detailaufgaben bearbeiten können, hat als Betätigungsfeld künstliche Intelligenz am nachhaltigsten kommerzielle Interessen wachgerüttelt. Die Auswertungen von Spektrogrammen in der Chemie (Lindsay et al. 1980), die Identifizierung bakterieller Infektionen (Shortlife 1976), oder die Konfigurierung geplanter Computerinstallationen (McDermott 1982) sind Beispiele solcher Expertensysteme.“^[46] Zum herrschenden Verhältnis zwischen KI und ES äussert sich Winograd, ein Pionier der KI und Ingenieur des ersten ES in Spracherkennung, also ein Forscher beider Richtungen wie folgt: „Die theoretische Rechtfertigung solcher Ansätze scheint zuweilen auf nicht viel mehr als die Hoffnung zu bauen, dass schon so etwas wie Intelligenz herauskommen wird, (...).“^[47] Zusammenfassend lässt sich ohne viel Polemik sagen, dass die ES als Art letzte KI Bastion beschrieben werden und gleichzeitig zu einer Form kommerzieller Wegwerfprodukte verkümmert sind. Mit all dem Gesagten ist allmählich also klar was ein ES nicht ist und wo dessen Gebrauch zu verorten ist. Dennoch, zumindest wenn man die ES als Basisforschung der Mutterunternehmung KI versteht, was die meisten Forschungsrichtungen tun, bleibt es eine interessante Frage, die Suche nach der Verortung der Forschungsprobleme.^[48] An dieser Stelle der Arbeit nähern wir uns also dem Teilziel ein konkretes Problem innerhalb des Forschungsbereiches der ES auszuarbeiten.

Um an dieser Stelle der Arbeit weiterzukommen drängt sich eine Funktionsskizze^[49] der ES auf. Das Prinzip ist grundsätzlich seit den Anfängen bis heute dasselbe geblieben.^[50] Die folgende Darstellung bezieht sich auf prinzipielle Strukturelemente eines ES und dient selbstverständlich nur der thematischen Veranschaulichung und keiner technischen Praktibilität. Meist ein Informatiker unter der Bezeichnung ‚Systemdesigner‘ programmiert Regeln, resp. ein Regelwerk in das ES. Diese Regeln sind Repräsentationen einer ‚geistigen Anleitung‘ eines Experten. Dieses Regelwerk ist, so komplex es im Detail auch sein mag, in eine Computersprache kodiert und folglich erneut unter Ausschluss aller Komplexität und Formen solcher spezifischen Sprachen, aus den binären Grundelementen der Disjunktion in ‚1 oder 0‘ oder logischem Äquivalent ‚Ja oder Nein‘ sowie ‚Ein oder Aus‘ oder ‚offen oder geschlossen‘.^[51] Aufgrund einer einmal Formalisierten und durch den Programmierer eingegebenen Wissensbasis werden nach einem ‚wenn -> dann‘ Muster vom ES Informationen verarbeitet. Diese Input -> Rückgriff Regelwerk -> Output beschränken sich jedoch auf die obgenannte Dichotomien.^[52] Diese Reduktionierung soll keine unumsichtige und dumpfe Banalisierung sein, es ist nur wichtig, wie ich das aus diversen Gesprächen und der Literatur entnehmen durfte, sich auf der Grundlagenebene keine Zauberei vorzustellen um möglicherweise an Probleme bei diesen Grundlagenfragen heranzukommen. Es soll damit nur gesagt sein das, mögen diese Anwendungen wie eben erwähnt auch in noch so komplexe Gebilde eingelegt sein, in ganze hierarchisierende Meta– und Subsystemen verbunden sein, über z. B. stochastische Intervallschachtelung (eine auf Wahrscheinlichkeit ausgelegte Baumstruktur) usw. so sollten sie nicht darüber hinwegtäuschen das ein ES stets von einem in der Wahrnehmungsmöglichkeit programmierten Input über eine eindeutig zuweisende Programmierung ein Output generiert.^[53] Es muss erwähnt werden, dass gegenwärtige ES sich von beschriebenem teilweise insofern entfernen, dass oft eine Rückkopplung zwischen In– und Output besteht und diesen ES insofern bereits eine Art Induktiven lernen zuteilwerden kann.^[54] Die Rückkopplung, oft als Wissenveränderungskomponente bezeichnet, hat dabei die Möglichkeit die Wissensbasis zu Reprogrammieren. Jedoch erneut unter der vorangegangenen Programmierung der Wissensveränderungskomponente. Ergänzend Winograds Aussage hierzu: „Beim einfachsten Zugang (das ist auch derjenige mit den meisten veröffentlichten Ergebnissen) beschränkt sich die Lernfähigkeit des Programms auf die Anpassung von Parametern, die innerhalb einer feststehenden Repräsentation operieren. (...). Mittlerweile wurden anspruchsvolle Umsetzungen dieser Technik entwickelt, aber die grundlegende Idee ist nach wie vor dieselbe: Eine feststehende Struktur ist gegeben, und die Lernfähigkeit erschöpft sich darin, die Gewichtung in spezifischer Weise nachzuregeln, um einen höheren Leistungsgrad zu erzielen.“^[55] Es führen viele solche Argumente teilweise aus der Vereinfachung von ES, jedoch nicht aus der funktionalen Basis heraus und um diese ging es mir hinsichtlich einer Problemfixierung. Ein programmierter Konditional ist und bleibt kein intuitives Handeln, eine Situationsgewichtung kein spontaner Entscheid. Die ES Forschung übergeht solche Grundsatzfragen wie sie es von der KI Forschung adaptierte, in Rekurs auf die Rechenleistung, resp. beim ES explizit auf eine daraus folgende Vergrösserung des Basiswissens.^[56] Zur Rechenleistung kann man festhalten, dass wenn man die Literatur der letzten vierzig Jahre etwas durchblättert, dass eine Aussage dem Inhalt nach in logisch äquivalenter Form sich unermüdlich wiederholt: ‚In einigen Jahren haben wir die nötige Rechenleistung dann lösen wir das Problem der KI resp. der ES‘. Entgegen des exponentiellen Wachstums der Rechenleistung hat sich dennoch der Erfolg bislang nicht eingestellt. Ein kurzer Exkurs zur Rechenleistung. Der einstige Supercomputer CDC 6600 von IBM (1960) brachte 500 kiloflops (10 hoch 3 Flops) während mein Intel i5 core mit welchem ich diese Arbeit schreibe und alles andere als ein Supercomputer ist 11.5 Teraflops (10 hoch 12 Flops) aufbringt. An den Möglichkeiten der Ausführungen hat sich also in fundamentalster Art und Weise die Ausgangslage geändert. Doch zurück zur Problemsuche. Wie soll ein Programm nun über seine Programmierung hinauswachsen? Wie soll der dargestellte Funktionskreislauf eine Emergenz bilden? Erneut der Rekurs zum natürlichen Experten und der Frage wie solch bezeichnetes implizites Wissen generiert wird. Wie wird jemand zum Experten? Wie kommt es zu der Möglichkeit einer erweiterten Betrachtung, welche konstitutiv ist für intelligentes Verhalten. Mit den Worten des verstorbenen Philosophen Rick Roderick die Frage wie ein rationelles ES am Finanzmarkt bemerken soll, dass sein akkumuliertes Resultat mit den anderen rationellen ES irrationales liefert? Hier lieferte Prof. Dreyfus ein Modell von welchem ein Teil in eben jener obgenannten Fragen des Transzendierens der eigenen Programmierung weiterhelfen kann. Es ist der Übergang von einem auszuführenden Wissen im Sinne eines vorbestimmten Konditionals zu einem intuitiven übergreifenden Wissen welches beim genannten Experten auffindbar ist, nach Dreyfus behaltet diese Arbeit die dafür verwendeten Bezeichnungen von Know – That (KT) und Know – How (KH)^[57]. An diesem Übergang vermute ich entsprechend des vorangegangenen Aufrisses die grundlegende Schwierigkeit in der ES Forschung sowie indirekt der KI Forschung. Es ist der letzte Schritt vor dem Philosophierekurs.

[...]

^[1] Heidegger, Martin, in einem Interview aufgenommen und ausgestrahlt von 3sat (wurde aus dem Archiv gelöscht und somit sind nähere Quellen unzugänglich). Hier ein Ausschnitt aus folgendem URL: https://www.youtube.com/watch?v=HwuSmN5ptGA, Zugriff: 02.01.2015, 00:00:40 bis 00:02:20.

^[2] Die Deutsche Bibliothek (red. Leitung: Dr. Annette Zwahr): Der Brockhaus, F.A Brockhaus GmbH, Mannheim 1993, Band 1 – 5, Band 4 S. 219

^[3] Die Deutsche Bibliothek (red. Leitung: Dr. Annette Zwahr): Der Brockhaus, F.A Brockhaus GmbH, Mannheim 1993, Band 1 – 5, Band 2 S. 204

^[4] Ab dieser Stelle wird meistens für den Transhumanismus die Abkürzung TH und für die künstliche Intelligenz die Abkürzung KI gebraucht.

^[5] Kurzweil, Raymond: Transcendent Man, Directed by Ptolomy Barry, Release Date 05.02.2009, URL: https://www.youtube.com/watch?v=P3grnDaxxn0, Zugriffsperiode: 01.12.2016 – 20.01.2016, 00:26:12

^[6] Vgl. Vgl. The Hard Problem of AI Documentary, Release Date 27.07.2010, URL: https://www.youtube.com/watch?v=QN1l5e1yamU, Zugriffsperiode: 01.12.2016 – 20.01.2016

^[7] Minsky, Marvin: Computation: Finite and Infinite Machines, Prentice Hall1967, S. 2, zitiert in: Dreyfus, Hubert: Die Grenzen künstlicher Intelligenz, Athenäum, Königstein 1985, S. 9

^[8] Vgl. Die Deutsche Bibliothek (red. Leitung: Dr. Annette Zwahr): Der Brockhaus, F.A Brockhaus GmbH, Mannheim 1993, Band 1 – 5

^[9] Kurzweil, Raymond: Transcendent Man, Directed by Ptolomy Barry, Release Date 05.02.2009, URL: https://www.youtube.com/watch?v=P3grnDaxxn0, Zugriffsperiode: 01.12.2016 – 20.01.2016

^[10] Grunwald, Armin & Hartlieb, von Justus (Hrsg.): Ist Technik die Zukunft der menschlichen Natur?, Wehrhahn Verlag, Hannover 2012, S. 57

^[11] Vgl. Grunwald, Armin & Hartlieb, von Justus (Hrsg.): Ist Technik die Zukunft der menschlichen Natur?, Wehrhahn Verlag, Hannover 2012

^[12] http://www.zeit.de/2013/14/utopien-ray-kurzweil-singularity-bewegung

^[13] Vgl. Kurzweil, Raymond: Transcendent Man, Directed by Ptolomy Barry, Release Date 05.02.2009, URL: https://www.youtube.com/watch?v=P3grnDaxxn0, Zugriffsperiode: 01.12.2016 – 20.01.2016

^[14] http://www.rayandterry.com/

^[15] Minsky, zitiert bei Ebbinghaus, 1989, S.39 hier zitiert in: Sesink, Werner: Künstliche Intelligenz, Klett –Cotta, Stuttgart, 1993, S. 8

^[16] Vgl. Sesink, Werner: Künstliche Intelligenz, Klett –Cotta, Stuttgart, 1993, S.7-8

^[17] Vgl. L. c.

^[18] Vgl. Schroeter, Matthias: Die Industrialisierung des Gehirns, Königshausen & Neumann Verlag, Würzburg 2011

^[19] Vgl. The Hard Problem of AI Documentary, Release Date 27.07.2010, URL: https://www.youtube.com/watch?v=QN1l5e1yamU, Zugriffsperiode: 01.12.2016 – 20.01.2016

^[20] Die Deutsche Bibliothek (red. Leitung: Dr. Annette Zwahr): Der Brockhaus, F.A Brockhaus GmbH, Mannheim 1993, Band 3, S, 282

^[21] Schroeter, Matthias: Die Industrialisierung des Gehirns, Königshausen & Neumann Verlag, Würzburg 2011, S. 145

^[22] Schroeter, Matthias: Die Industrialisierung des Gehirns, Königshausen & Neumann Verlag, Würzburg 2011, S 146

^[23] Sesink, Werner: Künstliche Intelligenz, Klett –Cotta, Stuttgart, 1993, S. 9

^[24] Vgl. Vgl. Jackson, Peter: Expertensysteme, Addison-Wesley, Bonn 1987, S. 6-8

^[25] Ab dieser Stelle wird Expertensystem mit ES abgekürzt

^[26] Vgl. Zabel, Frank & Hempel, Tino: Expertensysteme – Seminar zur Didaktik der Information, aus: http://www.tinohempel.de/info/info/sonstiges/expertensystem.pdf, Zugriff 20.01.2016.

^[27] Vgl. Jackson, Peter: Expertensysteme, Addison-Wesley, Bonn 1987, S. 10

^[28] Vgl. L. c.

^[29] Vgl. L. c.

^[30] Drefus KI, S. 145

^[31] Ruffing, Rainer: Einführung in die Philosophie der Gegenwart, Wilhelm Fink Verlag, 2005 Stuttgart, S. 272

^[32] Die Deutsche Bibliothek (red. Leitung: Dr. Annette Zwahr): Der Brockhaus, F.A Brockhaus GmbH, Mannheim 1993, Band 2, S, 106

^[33] L. c. S. 106

^[34] Jackson, Peter: Expertensysteme, Addison-Wesley, Bonn 1987, S. 1

^[35] Vgl. Dreyfus, Hubert: Die Grenzen künstlicher Intelligenz, Athenäum, Königstein 1985

^[36] Vgl. Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989

^[37] Dreyfus, Hubert: Die Grenzen künstlicher Intelligenz, Athenäum, Königstein 1985, S. 147

^[38] Vgl. L. c.

^[39] Vgl. Dreyfus, Hubert: Die Grenzen künstlicher Intelligenz, Athenäum, Königstein 1985

^[40] Zabel, Frank & Hempel, Tino: Expertensysteme – Seminar zur Didaktik der Information, aus: http://www.tinohempel.de/info/info/sonstiges/expertensystem.pdf, Zugriff 20.01.2016.

^[41] Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989, S. 220

^[42] Vgl. Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989

^[43] L. c. S. 219

^[44] Vgl. Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989

^[45] Marvin und Hall

^[46] Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989, S. 219

^[47] L. c. S. 218

^[48] Vgl. Vgl. The Hard Problem of AI Documentary, Release Date 27.07.2010, URL: https://www.youtube.com/watch?v=QN1l5e1yamU, Zugriffsperiode: 01.12.2016 – 20.01.2016

^[49] http://www.tinohempel.de/info/info/sonstiges/expertensystem.pdf

^[50] Vgl. L. c

^[51] Vgl. Grunwald, Armin & Hartlieb, von Justus (Hrsg.): Ist Technik die Zukunft der menschlichen Natur?, Wehrhahn Verlag, Hannover 2012

^[52] Vgl. Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989

^[53] Vgl. Dreyfus, Hubert: Die Grenzen künstlicher Intelligenz, Athenäum, Königstein 1985

^[54] Diese Aussage werden bereits von Winograd und Dreyfus getroffen, jedoch ohne nähere systematische und oder technische Erläuterungen

^[55] Winograd, Teryy & Flores, Fernando: Erkenntnis, Maschinen, Verstehen, Rotbuch Verlag, Berlin 1989, S. 170

^[56] Vgl. Ruffing, Rainer: Einführung in die Philosophie der Gegenwart, Wilhelm Fink Verlag, 2005 Stuttgart

^[57] Ab dieser Stelle wird Know – How mit KH und Know – That mit KT abgekürzt.