Neuronale Netze - Implementierung eines Hopfield Netzes in Java

Inhaltsverzeichnis

Aufgabenstellung

Umsetzung der Teiluntersuchungen
Teil a.) Regressionsverfahren
Teil b.) Neuronales Netz
I.)Verschaltung der Neuronen
II.)Trainingsalgorithmus
Teil c.) Vorhersage
Teil d.) Konvergenz / quadratische Fehler
Teil e.) Rauschsignal
Teil f.) Weniger Ziffern trainieren

Programmbeschreibung

Literaturverzeichnis

Aufgabenstellung

Ein Neuronales Netz (Hopfield) soll den Trend einer Ziffernfolge erkennen und am Ausgang anzeigen.

Dieses Verfahren wird häufig bei Preisentwicklungen, Aktienkursen, Umsatzzahlen usw. benötigt.

Für die Untersuchung beschränke ich mich auf eine Eindimensionale Größe.

Ich benutze zur Simulation der Eingangsgröße mehrere unterschiedliche Matrikelnummern, welche 6 Ziffern beinhalten.
Es werden allerdings nur 5 Ziffern Trainiert, denn die letzte Ziffer soll vorhergesagt werden.

Die Untersuchung untergliedert sich in mehrere Teiluntersuchungen (a bis g).

Umsetzung der Teiluntersuchungen

Teil a.) Regressionsverfahren

Das Ausgangspolynom für die 6 Ziffern lautet:

Abbildung in dieser Leseprobe nicht enthalten

Es gibt 6 Stützpunkte, welches ein Polynom 5.Ordnung ergibt.

Als Matrikelnummer wählte ich exemplarisch: 901196

Nach dem Aufstellen des Gleichungssystem und lösen der Gleichungen ergab sich folgende Funktion.

Abbildung in dieser Leseprobe nicht enthalten

Funktionsgraph der Matrikelnummer

Teil b.) Neuronales Netz

Jede Ziffer der Matrikelnummer zerlegte ich intern in eine vierstellige Binärzahl.

Für die Aufgabenstellung benötigte ich 4 Neuronen die wie folgt beschaltet werden sollen.

I.)Verschaltung der Neuronen

Eingänge:

Die einzelnen Bits der Ziffern von den Matrikelnummern werden an die Neuronen gelegt. Z.B. Ziffer 9 entspricht dem Binärmuster 1001. Also liegt

Abbildung in dieser Leseprobe nicht enthalten

Da intern direkt mit den Eingängen multipliziert wird, habe ich die Eingangswerte von 0, 1 auf –1, 1 verschoben. Somit wird intern bei einer angelegten 0 mit –1 gerechnet und bei angelegter 1 mit 1 gerechnet.

Ausgänge:

Die Ausgänge werden auf die Eingänge der jeweiligen Neuronen zurückgeführt.

Wobei der Ausgang von einem Neuron nicht auf sich selbst zurückgeführt wird.

II.)Trainingsalgorithmus

Umgesetzt wurde das Programm in Java.

Für den Trainingsalgorithmus verwendete ich folgenden Algorithmen:

Abbildung in dieser Leseprobe nicht enthalten

[...]