Entwurf  und prototypische Realisierung einer künstlichen Intelligenz  

zur  Steuerung einer Papierschneidemaschine  

1.  Einleitung.  5

2.  Grundlagen  6

2.1  Einführung künstliche Intelligenz.  6

2.2  Künstliche neuronale Netze  7

2.2.1  Einführung  7

2.2.2  Natürliche und künstliche Neuronen  8

2.2.3  Aufbau neuronaler Netze  13

2.2.4  Eigenschaften neuronaler Netze  13

2.2.5  Netzarchitekturen  15

2.2.6  Lernen.  16

2.2.7  Netzgrößen und Generalisierungsfähigkeit  18

2.2.8  Schematischer Überblick über neuronale Netze.  19

3.  Analyse  21

3.1  Ausgangssituation und Problembeschreibung  21

3.2  Papierschneidemaschinen in der Praxis  22

3.2.1  Schneiden mit Schnellschneidern oder Planschneidern.  22

3.2.2  Profil der beteiligten Firmen Perfecta und MCS.  25

3.2.3  Schnellschneider der Firma Perfecta  26

3.3  Dateiformate und -standards.  28

3.3.1  JDF, CIP3 und CIP4  28

3.3.2  Schnittprogramme.  28

3.3.3  SNNS Netzdateien und Trainingsmusterdateien  29

4.  Anforderungsdefinition  30

4.1  Zielsetzung der Arbeit und Eingrenzung des Themas  30

4.2  Pflichtenheft  31

5.  Design.  37

5.1  Benutzerführung.  37

5.2  Model View Controller.  38

5.3  Prototyping  39

5.4  Unified Modeling Language.  40

Bastian  Schindler Matrikel Nr s0501103 Seite  2

Entwurf  und prototypische Realisierung einer künstlichen Intelligenz  

zur  Steuerung einer Papierschneidemaschine  

6.  Implementierung.  43

6.1  Das Entwicklungsumfeld  43

6.1.1  Stuttgarter Neuronale Netz Simulator.  43

6.1.2  Entwicklungsumgebung Microsoft net.  44

6.2  Strukturierung und Workflow des Prototyps.  44

6.2.1  Look ’n Feel und Workflow der GUI  44

6.2.2  Workflow der Core  48

6.2.3  Künstliche Intelligenz des Prototyps.  49

6.2.4  Kommunikation des Programms mit dem Netz  50

6.3  Beschreibung besonderer Codefragmente  51

7.  Untersuchungen  53

7.1  Erfüllung der Randbedingungen.  54

7.1.1  Kontrolle: Benutzerfreundlichkeit der GUI  54

7.1.2  Kontrolle: Ausgabewerte des NN im Vergleich zum SNNS.  54

7.1.3  Kontrolle: Koordinatenunabhängigkeit des Prototyps.  55

7.1.4  Kontrolle: Wiedergabe einer erlernten Schnittabfolge.  56

7.1.5  Kontrolle: Wiedergabe zweier erlernter Schnittabfolgen  57

7.1.6  Kontrolle: Wiedergabe fünf erlernter Schnittabfolgen  58

7.2  Denkbares Innovationspotential des Prototyps  58

7.2.1  Untersuchung: Übertragbarkeit von Wissen auf andere Konstellationen I  58

7.2.2  Untersuchung: Übertragbarkeit von Wissen auf andere Konstellationen II  59

7.2.3  Untersuchung: notwendige Größe der Zwischenschicht.  60

7.2.4  Untersuchung: Wiederholung 7.2.2 mit Zwischenschichtgröße aus 7.2.3  61

7.2.5  Untersuchung: Übertragbarkeit von Wissen auf andere Konstellationen III  61

7.2.6  Untersuchung: Aussagekraft 7.2.5  62

8.  Ergebnis und Zusammenfassung  63

8.1  Zusammenfassung.  63

8.2  Bewertung und Fazit  64

8.3  Software anderer Hersteller im Vergleich zum Prototyp  65

8.4  Ausblick und Ideen  66

Bastian  Schindler Matrikel Nr s0501103 Seite  3

Entwurf  und prototypische Realisierung einer künstlichen Intelligenz  

zur  Steuerung einer Papierschneidemaschine  

9.  Quellenverzeichnis  68

10.  Abbildungsverzeichnis  70

11.  Abkürzungsverzeichnis  71

12.  Glossar.  72

Bastian  Schindler Matrikel Nr s0501103 Seite  4

1. 1. Einleitung Einleitung 1. 1. Einleitung Einleitung

Die Entwicklung von Software für Papierschneidemaschinen (PSM) begann bei der Firma MCS MICRONIC Computer Systeme schon vor über 15 Jahren. Die Technik verbesserte sich im Laufe der Zeit, ebenso die Visualisierung und Usability für den Benutzer. Eines hat sich jedoch nicht geändert: es wird immer noch ein kundiger Beschneider, also der Bediener der Maschine, benötigt, um die schnellste und wirtschaftlichste Schnittabfolge zu erstellen. Die Idee zu einer Software, die selbstständig sinnvolle Schnittfolgen generiert, entstand in Gesprächen mit meinem Erstbetreuer Professor Heßling und stieß sowohl bei MCS als auch bei Perfecta, einem Hersteller von PSM, auf reges Interesse.

Das Beschneiden von großformatigen Papierbögen aus Druckereien erfordert einen geeigneten Beschneider, der auf Grund seiner Erfahrung eine effektive und ressourcenschonende Schnittfolge gewährleistet. Ziel dieser Arbeit soll demnach sein, die Möglichkeiten zur Ermittlung eines sinnvollen Schnittes, abhängig von der jeweiligen Situation, zu untersuchen, die eine künstliche Intelligenz (KI) auf Basis eines neuronalen Netzes (NN) bietet. Außerdem soll das Schnittgut mit allen Nutzen und möglichen Schnitten visualisiert werden. Die Visualisierung und Bedienung der Benutzeroberfläche ist intuitiv zu gestalten, um das Arbeiten an der PSM auch ungelernten Kräften zu ermöglichen. Unter Umständen besteht die Chance, einen kundigen Beschneider durch einen weniger versierten Bediener zu ersetzen.

Die Abschlussarbeit wird von MCS MICRONIC Computer Systeme GmbH begleitet, da potentielles Interesse am zukünftigen Einsatz und der Vermarktung des erarbeiteten Prototyps besteht.

Die vorliegende Diplomarbeit mit dem Titel „Entwurf und prototypische Realisierung einer künstlichen Intelligenz zur Steuerung einer Papierschneidemaschine“ untersucht, inwieweit sich eine KI auf Grundlage eines NN zur Generierung von sinnvollen Schnitt-vorschlägen bei einer Software für PSM eignet.

Dazu werden zunächst die Grundlagen in den Bereichen KI und NN erarbeitet, anschließend die Kriterien für den zu entwickelnden Prototyp aufgezeigt und die Aufgaben genauer spezifiziert. Danach folgt eine Beschreibung der Entwurfsphase. Erläuterungen der einzelnen Programmteile und -abläufe führen schließlich zu umfangreichen Tests über die Korrektheit, Leistungsfähigkeit und dem Innovationspotential der KI sowie der Qualität der Benutzeroberfläche. Abschließend werden die erarbeiteten Ergebnisse zusammengefasst, um mögliche Ausblicke für die Weiterentwicklung zu geben.

Bastian Schindler | Matrikel Nr. s0501103 Seite 5

2. 2. Grundlagen Grundlagen 2. 2. Grundlagen Grundlagen

2.1 Einführung künstliche Intelligenz

„Künstliche Intelligenz (KI, beziehungsweise AI vom englischen Artificial Intelligence) ist eine Fachdisziplin der Informatik mit interdisziplinärem Charakter. Ziel der KI ist es, Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz. (John McCarthy, 1955)“ [Wikipedia 2005B]

Eine Definition für KI zu finden scheint einfach, scheitert jedoch an den unterschiedlichen Vorstellungen der Betrachter. Problemstellungen, die dem Menschen einen gewissen Grad an Intelligenz abfordern, zum Beispiel die Lösung mathematischer Aufgaben, sind vom Computer innerhalb kürzester Zeit berechnet. Paradoxer Weise sind es gerade Alltagssituationen, die jeder Mensch täglich meistert, wie beispielsweise das Erkennen von Gesichtern, welche schwer durch Rechner automatisiert werden können. KI beschäftigt sich sowohl mit diesen alltäglichen Folgerungsprozessen, als auch mit komplexen Expertenaufgaben.

Die Forschung der KI wird hauptsächlich für zwei Wissenschaftsbereiche benötigt. Zum einen, um klügere Programme und Maschinen zu erschaffen, zum anderen, um Theorien zur menschlichen Intelligenz zu testen und Verhaltensweisen zu simulieren. Die Schaffung intelligenter Maschinen, welche das menschliche Verhalten nachahmen, die so genannte starke KI, ist bis heute weitgehend Utopie geblieben, nicht zuletzt auf-grund des Scheiterns an ihrer philosophischen Fragestellung. Die Forschung an der schwachen KI hingegen, die sich mit der Lösung mathematischer, planungstechnischer und anderer Anwendungsprobleme beschäftigt, hat in den letzten Jahren einige Erfolge verzeichnet und ist zu einem großen Forschungsgebiet herangewachsen.

[vgl. Cawsey 2003, S.13]

„Letztlich geht es der schwachen KI somit um die Simulation intelligenten Verhaltens mit Mitteln der Mathematik und der Informatik; es geht ihr nicht um Schaffung von Bewusstsein oder um ein tieferes Verständnis von Intelligenz.“ [Wikipedia 2005B]

Der Terminus „künstliche Intelligenz“ impliziert, dass es sich um etwas Künstliches, der natürlichen Intelligenz nachempfundenen handelt. Um dies zu ermöglichen stellt sich die Frage, wie natürliche Intelligenz funktioniert.

Bei eingehender Beschäftigung mit dieser Frage wird deutlich, dass vor allem hinter dem menschlichen Verhalten viel mehr steckt, als eine Menge festgelegter Verhaltensregeln, die mehr oder weniger klar in algorithmischen Strukturen abgebildet werden können.

Bastian Schindler | Matrikel Nr. s0501103 Seite 6

Um biologische Intelligenz nachzuahmen, muss das Zentrum dieser Intelligenz - das Gehirn, ein Netz aus Milliarden von kleinen, hoch spezialisierten Zellen, den Neuronen - verstanden und abzubilden versucht werden.

NN sind der Versuch, die Nervenzellen des Gehirns zu imitieren und für eine künstliche Intelligenz zu nutzen.

[vgl. Thiel 2003]

2.2 Künstliche neuronale Netze

Warren McCulloch und Walter Pitts waren im Jahr 1943 die Pioniere, die sich mit ihrem Formalmodell des Neurons mit dem Thema NN beschäftigten. Die Arbeiten dazu haben seit Mitte der achtziger Jahre sehr stark zugenommen.

2.2.1 Einführung

Was sind neuronale Netze?

Künstliche NN sind informationsverarbeitende Systeme. Sie bestehen aus einer unterschiedlichen Anzahl von Neuronen, die sich über gerichtete Verbindungen Informationen zusenden. Die Art der Information ist auf zwei Zustände reduziert, einer aktivierten und einer nicht aktivierten Zelle.

Diesem einfachen System dient die Natur, genauer das Studium des Gehirns der Säugetiere, als grobes Vorbild. Die Informationsweiterleitung funktioniert dort ebenfalls über parallel geschaltete, einfache Nervenzellen.

Es gibt unterschiedliche Motivationen für die Forschung an NN. Die Nachahmung der Informationsweiterleitung bei Säugetieren, also die Ähnlichkeit des Modells mit der biologischen Realität, ist nur eine davon. Hierbei wird versucht, dem biologischen Vorbild so nah wie möglich zu kommen, um mittels Simulation an noch unentdeckte Ergebnisse zu gelangen. In der Naturwissenschaft sind NN von großem Interesse, da es sich um massiv parallele, lernfähige Systeme handelt. Sie werden für Netzwerksimulationen, neuronale Hardware oder den Einsatz in Programmen verwendet.

Ein NN muss nicht auf ein Problem hin programmiert werden, es erlernt die Problemlösung aus einer Anzahl von Trainingsmustern (TM), wobei es sehr effizient sein kann.

Bastian Schindler | Matrikel Nr. s0501103 Seite 7

Abbildung Abbildung 1 1: Konnektionism : Konnektionismus n us neuronaler Netze [ euronaler Netze [Zell Zell Zell Zell 2003 2003, S.24] , S.24] Abbildung Abbildung 1 1 : Konnektionism : Konnektionism us n us n euronaler Netze [ euronaler Netze [ 2003 2003 , S.24] , S.24]

An der Erforschung NN sind unter anderem naturwissenschaftliche Bereiche interessiert wie die Biologie/Neurobiologie, Medizin/Neurophysiologie, Psychologie, Bioin-formatik, Informatik, künstliche Intelligenz, Mathematik, Physik und Elektrotechnik. Die Anteile der einzelnen Fachrichtungen am Themengebiet der NN sind in Abb. 1 dargestellt. Dort wird ersichtlich, dass der größte Schwerpunkt in der Informatik zu finden ist, gefolgt von der Elektrotechnik, der Biologie und der Medizin. Die Gründe differieren jedoch, da zum Beispiel in der Informatik oft Problemlösungen mit NN generiert werden, NN in der Biologie aber eher der Simulation von Organismen und Organen dienen.

[vgl. Zell 2003, S.23]

2.2.2 Natürliche und künstliche Neuronen

Das Vorbild künstlicher Neuronen ist die Natur. In diesem Kapitel soll zunächst das biologische und das künstliche Neuron dargestellt und erläutert werden. Künstliche NN bestehen aus einem Verbund künstlicher Neuronen, welche in Schichten angeordnet sind. Der Aufbau NN wird im Anschluss veranschaulicht.

Bastian Schindler | Matrikel Nr. s0501103 Seite 8

Biologische Neuronen

„Grundbaustein eines jeden Organismus ist die Zelle. Die Grundzelle eines Gehirns ist das Neuron.“ [Hs-Bremen 1998]

Ein Neuron, die wissenschaftliche Bezeichnung einer Nervenzelle und elementarer Baustein von Nervennetzen, besteht im Wesentlichen, wie in Abb. 2 zu sehen ist, aus Dendriten, Synapsen, dem Soma (Zellkörper) und einem sich verzweigenden Fortsatz, dem Axon.

Abbildung Abbildung 2 2: Schema ein : Schema eines natürlichen Ne es natürlichen Neu u u urons [Hs rons [Hs- - --B B B Bremen remen remen remen 1998 1998] ] ] ] Abbildung Abbildung 2 2 : Schema ein : Schema ein es natürlichen Ne es natürlichen Ne rons [Hs rons [Hs 1998 1998

Der Signalempfang eines Neurons erfolgt über die an den Dendriten befindlichen Synapsen. Dendriten sind stark verzweigte Bereiche der Nervenzellen, deren Fortsätze eine Art Antennenfunktion für die Aufnahme elektrischer Impulse von anderen Neuronen haben. Innerhalb des Neurons wird das ankommende Signal umgeformt. Beim Erreichen eines bestimmten Schwellwerts leitet das Neuron diese Impulse, auch Aktionspotentiale genannt, über das Axon an die am Ende des Axons befindlichen Synapsen weiter. Diese wandeln das ankommende elektrische Signal zurück in ein chemisches Signal, um es an Dendriten anderer Neuronen zu senden. Der Fluss von Informationen in den Neuronen erfolgt gerichtet.

Es stellt sich die Frage, wie und wo die eigentliche Information gespeichert wird, wenn Neuronen nur der Weiterleitung von Signalen dienen und selbst keine Daten speichern können. Der Informationsspeicher ist in den Verbindungen der Neuronen und dem Konstrukt des Gehirns selbst, also dem Zusammenschluss vieler Zellen, zu suchen.

Inzwischen ist bekannt, in welcher Weise Neuronen Signale erzeugen beziehungsweise übertragen. Wie Sie jedoch komplexe und hochparallele Systeme wie das Gehirn bilden, welches Informationen aufnimmt und verarbeitet, ist zum heutigen Zeitpunkt noch weitgehend unklar.

Bastian Schindler | Matrikel Nr. s0501103 Seite 9

Künstliche Neuronen

„Ein Neuron ist eine Verarbeitungseinheit, die die über die gewichteten Verbindungen eingehenden Werte geeignet zusammenfasst (Propagierungsfunktion) und daraus mittels einer Aktivierungsfunktion unter Beachtung eines Schwellwertes einen Aktivierungszustand ermittelt. Aus dieser Aktivierung bestimmt eine Ausgabefunktion die Ausgabe des Neurons.“ [Lämmel u.a. 2004, S.174]

Aufbau eines künstlichen Neurons Aufbau eines künstlichen Neurons Aufbau eines künstlichen Neurons Aufbau eines künstlichen Neurons

Ein künstliches Neuron setzt sich, wie in Abb. 3 zu sehen, aus mehreren Teilen zusammen. Die Erregungen aus anderen Neuronen oder aus der Umwelt gelangen als Eingangsmuster zum Neuron. Die Eingabe wird mit Hilfe einer Propagierungsfunktion ermittelt, welche eine Aufsummierung aller Netzeingaben, multipliziert mit dem zugehörigen Verbindungsgewicht, durchführt. Mit Hilfe der Transferfunktion wird dieser errechnete Wert umgeformt. Dazu dienen meist sigmoide, lineare oder Schwellwertfunktionen. Die Summierung und die Transferfunktion sind in Abb. 3 innerhalb des Neurons dargestellt. Die Ausgabefunktion ist oft die Identität, welche den ermittelten Wert der Transferfunktion weitergibt. Die Aktivierung entscheidet anschließend über den Aktivierungszustand des Neurons und gibt entweder eine 0 oder 1 nach außen beziehungsweise eine 1 oder -1. Der Schwellwert, auch als bias oder threshold bezeichnet, ist ein Parameter, der die Aktivierung des Neurons mit entscheidet, da er als Wert in die Summierung der Netzeingabe, also in die Propagierungsfunktion, mit eingeht. Somit wird eine einfachere Anwendung der Transferfunktionen erzielt, die dann meistens ein sigmoides Verhalten um den Wert 0 erreichen.

Abbildung Abbildung 3 3: Künstliches Neuron [Z : Künstliches Neuron [Zsw sw sw sw- - --B B B Bw w w w 2005] 2005] Abbildung Abbildung 3 3 : Künstliches Neuron [Z : Künstliches Neuron [Z 2005] 2005]

Bastian Schindler | Matrikel Nr. s0501103 Seite 10

Die Funktionen eines Neurons sind bewusst elementar gehalten, da die Leistungsfähigkeit nicht durch komplexe Algorithmen, sondern durch das Zusammenschalten vieler einfacher Elemente erreicht werden soll.

Aktivierungsfunktionen Aktivierungsfunktionen / Tran / Trans s s sferfunktionen ferfunktionen ferfunktionen ferfunktionen Aktivierungsfunktionen Aktivierungsfunktionen / Tran / Tran

Die Aktivierungsfunktion formt, wie im vorherigen Kapitel beschrieben, die eingegangenen und aufsummierten Signale mittels einer linearen, nichtlinearen oder sigmoiden Funktion für eine anschließende Ausgangsfunktion um. Exemplarisch sollen im Folgenden die am häufigsten verwendeten Vertreter von Aktivierungsfunktionen kurz dargestellt werden.

Die Identität Die Identität Die Identität Die Identität ( ) = f x x

ist eine lineare Aktivierungsfunktion beziehungsweise eine einfache Weitergabe des ankommenden Signals. Sie wird insbesondere bei der Eingabeschicht von NN verwendet, da eine Berechnung erst in der darauf folgenden Schicht stattfindet.

Abbildung Abbildung 4 4: Identität [ : Identität [Uni Uni Uni Uni- - --Mü Mü Mü Münster nster nster nster 2005B 2005B] ] ] ] Abbildung Abbildung 4 4 : Identität [ : Identität [ 2005B 2005B

Bastian Schindler | Matrikel Nr. s0501103 Seite 11

Die Die Schwellwertfunktion Schwellwertfunktion Die Die Schwellwertfunktion Schwellwertfunktion

( )

f x

Schwellwert

ist eine nichtlineare Aktivierungsfunktion. Alle Werte unter einem bestimmten Schwellwert (=0,5 in Abb. 5) werden beispielsweise als -1 weitergegeben, alle darüber oder dem Schwellwert gleichen als 1. Somit ist immer klar, ob ein Neuron aktiviert ist oder nicht. Eine häufig angewandte Alternative ist die binäre Schwellwertfunktion (0 oder 1 als Ergebnis).

Abbildung Abbildung 5 5: Schwellwertfunktion [ : Schwellwertfunktion [Uni Uni Uni Uni- - --Mü Mü Mü Münster nster nster nster 2005B 2005B] ] ] ] Abbildung Abbildung 5 5 : Schwellwertfunktion [ : Schwellwertfunktion [ 2005B 2005B

Die logistische Funktion Die logistische Funktion Die logistische Funktion Die logistische Funktion

= + ( ) f x

logistic

ist eine sigmoide Aktivierungsfunktion basierend auf der e-Funktion. Sie liefert stets Werte zwischen 0 und 1, welche an die nächste Schicht zur Verarbeitung weitergeleitet werden.

Abbildung Abbildung 6 6: : : : L Logis ogis ogis ogistische Funktion [Uni tische Funktion [Uni- - --Mü Mü Mü Münster nster nster nster 2005B 2005B] ] ] ] Abbildung Abbildung 6 6 L L tische Funktion [Uni tische Funktion [Uni 2005B 2005B

Bastian Schindler | Matrikel Nr. s0501103 Seite 12

2.2.3 Aufbau neuronaler Netze

„Künstliche neuronale Netze […] sind ein Zweig der künstlichen Intelligenz und prinzipieller Forschungsgegenstand der Neuroinformatik.“ [Wikipedia 2005C]

Abbildung Abbildung 7 7: Künstlich : Künstliches es es es n neuronales Netz euronales Netz [ [Verfasser Verfasser Verfasser Verfasser] ] ] ] Abbildung Abbildung 7 7 : Künstlich : Künstlich n n euronales Netz euronales Netz [ [

Ein NN besteht aus vielen Neuronen, welche, wie in Abb. 7 dargestellt, in Schichten angeordnet, untereinander verbunden sind. Neuronen sind einfache Prozessoren, welche aus den Eingangssignalen, die entweder aus der Umwelt oder von anderen Neuronen stammen, auf Grundlage bestimmter mathematischer Formeln, ein Ausgangssignal errechnen. Die Verbindungen zu anderen Neuronen besitzen so genannte Gewichte, welche je nach ihrer Wertigkeit das zu übertragende Signal hemmen oder erregen. Neuronen verfügen aufgrund ihrer Simplizität nur über sehr eingeschränkte Datenverarbeitungsfähigkeiten.

2.2.4 Eigenschaften neuronaler Netze

NN sind massiv parallel und bieten sich daher für den Einsatz auf Parallelrechnern an. Da NN nicht auf ein Problem hin fest programmiert werden, sondern durch ein Lernverfahren aus einer Anzahl von Trainingsdaten trainiert werden, sind sie eher in der Lage - abhängig von der gewählten Implementation - ihr Verhalten auf veränderte Bedingungen hin anzupassen. In NN ist das erlernte „Wissen“ in den Gewichten gespeichert, welche sich verteilt zwischen den Netzschichten befinden. Dies führt zum einen zu einer höheren Fehlertoleranz und zum anderen ist so erst die hochgradig parallele Verarbeitung gewährleistet. Zudem kann ein NN beim Ausfall einzelner Netzteile unter Berücksichtigung bestimmter Implementationsansätze (Netzgröße, Lernverfahren etc.) einsatzfähig bleiben, da durch die verteilte Wissensrepräsentation eine hohe Fehlertoleranz gegeben ist. Verrauschte oder gestörte Daten können bis zu einem gewissen

Bastian Schindler | Matrikel Nr. s0501103 Seite 13

Grad erkannt werden. Statt adressbezogen werden Informationen in NN inhaltsbezogen gespeichert. Nur so ist es möglich, „ähnliche“ Muster erkennen zu lassen.

Ein NN muss im Normalfall mit einer Anzahl von Trainingsdaten angelernt werden. Die Mitgabe von Basiswissen gestaltet sich sehr schwierig und macht das Netz daher abhängig von Trainingsdaten. Außerdem ist es ist kaum möglich, das NN sein eigenes Wissen oder seinen Lösungsweg analysieren zu lassen. Selbst die Analyse von außen ist nur mit hohem Aufwand realisierbar. Alle bisher bekannten Lernverfahren sind verhältnismäßig langsam. Modifikationen des Backpropagation Verfahrens, wie zum Beispiel Quickprop, konnten zwar Verbesserungen schaffen, das Grundproblem blieb aber bisher bestehen.

[vgl. Zell 2003, S.26]

Trainierbarkeit

NN sind genau betrachtet immer trainierbar, die Frage ist lediglich, ob das NN von außen mit Trainingsmustern trainiert werden kann oder ohne passende Beispiele lernt. Typische Vertreter dieser Netztypen sind auf Seiten der von außen trainierbaren Netze Perzeptron- und Backpropagationnetze. Bolzmann-Maschine und Hopfield-Netze stehen auf Seiten der Netze, denen nicht natürliche NN als Vorbild dienen, sondern physikalische Modelle, wie beispielsweise die Teilchenbewegung in Metallen. In diesem Fall werden die Gewichte zur Berechnung einer Zielfunktion, sozusagen eines Energieniveaus, benutzt.

[vgl. Lämmel u.a. 2004, S.180]

Bastian Schindler | Matrikel Nr. s0501103 Seite 14

2.2.5 Netzarchitekturen

Vorwärts verkettet

Vorwärts verkettete beziehungsweise gerichtete NN, auch als feed forward Netze bezeichnet, bestehen aus einer Eingabe-, einer Ausgabeschicht und einer beliebigen Anzahl an Zwischenschichten. Die Neuronen verschiedener Schichten dürfen nur in Richtung der Ausgabeschicht miteinander verbunden sein.

[vgl. Lämmel u.a. 2004, S.183]

Vollvernetzt

In vollvernetzten NN, auch vollvermascht genannt, sind sämtliche Neuronen einer Schicht mit jeweils allen der nachfolgenden Schicht in Richtung der Ausgabeschicht verbunden (siehe Abb. 8). Es handelt es sich um eine Spezialform der vorwärts verketteten NN mit der maximal möglichen Anzahl an Verbindungen zwischen aufeinander folgenden Schichten. Diese Konfiguration wird in der Praxis häufig verwendet verwendet.

Abbildung Abbildung 8 8: Vollvernetztes : Vollvernetztes n neuronale euronale euronale euronales s s s Netz Netz [ [Heuler Heuler Heuler Heuler 1997 1997] ] ] ] Abbildung Abbildung 8 8 : Vollvernetztes : Vollvernetztes n n Netz Netz [ [ 1997 1997

Bastian Schindler | Matrikel Nr. s0501103 Seite 15