Universität Hildesheim, Institut für Technik und Physik
Seminar: Spezielle Probleme der Netzwerkorganisation und des Datenschutzes
WS 04/05, 5. Semester

Parallele Rechnerarchitekturen

von

Ralf Kriese

Inhaltsverzeichnis

1 Einleitung... 4

1.1 Entwurfskriterien für Rechnerarchitekturen... 4
1.2 Parallelrechner... 5

2 Taxonomie paralleler Computer... 7

2.1 Vorstellung der einzelnen Architekturen... 8
2.2 Erweiterung der Flynn Taxonomie... 11

3 Die Architektur des Speichersystems... 12

4 Kommunikationsmodelle und Verbindungsnetze... 15

4.1 MIMD Systeme im Detail... 15
4.2 Verbindungsnetze... 18

5 Vermittlung und Routing Algorithmen... 20

5.1 Vermittlungsstrategien... 21
5.2 Routing Algorithmus... 22

6 Parallele Programmierung... 23

6.1 Allgemeine Vorgehensweisen... 23
6.2 Codeaufteilung... 24
6.3 Datenaufteilung... 25
6.4 Datenkommunikation... 25
6.5 Fehlermöglichkeiten... 26

7 Zusammenfassung und Fazit... 27

8 Literatur... 29

1 Einleitung

Mit der Entwicklung immer schnellerer Rechnerarchitekturen steigt auch die Anforderung an die Prozessoren. Durch die Neuentwicklungen wurden die Rechenzeiten entscheidend verkürzt.
Bei der Lösung von Problemen spielt auch die Verarbeitung der Probleme in Echtzeit eine sehr wichtige Rolle. Aufgrund der Komplexität der Aufgaben gelingt die Lösung häufig nur durch Einsatz von Mehrprozessorsystemen. Mehrprozessorsysteme erlauben eine Parallelverarbeitung von verschiedenen anfallenden Aufgaben (Tasks). Da die Menschheit immer gewillt ist, stets nach vorne zu streben, versucht sie immer mehr, umfangreichere Probleme lösen zu können. Dies kann man mit dem Einsatz von parallelen Rechnerarchitekturen verwirklichen. Nicht nur die Rechengeschwindigkeit von parallelen Rechnerarchitekturen, sondern auch die Systemzuverlässigkeit erhöht sich, wenn bei Ausfall eines Rechners die übrigen Rechner in der Lage sind, seine Aufgaben zu übernehmen. Das spielt bei Echtzeitsystemen eine sehr entscheidende Sicherheitsrolle. Der klassische von-Neumann-Rechner ist zusammengesetzt aus einem Zentralprozessor, dem Hauptspeicher und einen oder mehren Ein – und Ausgabegeräten. Die Kommunikation findet dabei über einen Bus statt. Es werden Pufferspeicher (Cache) eingesetzt um die Verarbeitungsleistung zu erhöhen. Diese Rechnerarchitekturen sind aber für die Lösung komplexerer Aufgaben oder der Lösung von Echtzeitproblemen viel zu langsam bzw. besitzen eine zu geringe Speicherkapazität.
In den nächsten Kapiteln werden Entwurfskriterien und eine bekannte Art der Klassifikation von Rechnerarchitekturen etwas genauer erklärt. Das Ziel soll es sein, einen guten Überblick, über Designkriterien und Verbindungsnetze von parallelen Rechnerarchitekturen zu bekommen.

1.1 Entwurfskriterien für Rechnerarchitekturen

Es wurde in dem vorangegangenen Text schon mehrmals das Wort Rechnerarchitektur verwendet. Was ist aber eine Rechnerarchitektur und aus was besteht eine solche Architektur? Unter Rechnerarchitektur versteht man: „Eine Rechnerarchitektur ist bestimmt durch ein Operationsprinzip für die Hardware und die Struktur ihres Aufbaus aus den einzelnen Hardware Betriebsmitteln“ (Bundschuh & Sokolowsky, 1996, S. 5). In der oben genannten Definition wurde der Begriff Betriebsmittel verwendet. Betriebsmittel können Prozessoren, Speicher, Verbindungseinrichtungen (Busse, Kanäle, Verbindungsnetzwerke) oder Peripheriegeräte sein. Bundschuh, beschreibt in seinem Buch, das bestimmte Forderungen optimal erfüllt sein müssen, damit man mit einer Rechnerarchitektur optimal arbeiten kann. Diese Forderungen können sein:

• Leistung
• Ausfalltoleranz
• Erweiterbarkeit
• Benutzbar
• Wartbarkeit

Nachdem der Begriff Rechnerarchitektur näher durchleuchtet und auch welche Forderung an Rechnerarchitekturen gestellt werden, kommen wir zur nächsten Erklärung, nämlich der der Parallelität. Parallelität „(v. griech.: pará = entlang, neben + allélon = einander) bedeutet, dass etwas räumlich oder zeitlich neben etwas anderem verläuft, insbesondere speziell in der Informatik den Umstand, dass mehrere Vorgänge unabhängig voneinander stattfinden“ (Wikimedia Foundation Inc 2005d) Da es in dieser Arbeit ausschließlich um parallele Rechnerarchitekturen geht, kommen wir früher oder später um den Begriff Parallelrechner nicht herum. Was sind Parallelrechner und wo für werden diese eingesetzt bzw. wer benutzt solche Rechnerarchitekturen?

1.2 Parallelrechner

Ein Parallelrechner besteht aus mehreren CPUs die fast zeitgleich zusammenarbeiten, um ein Problem oder Aufgabe zu lösen Parallelrechner gehören zur Klasse der Hochleistungsrechner (HPC). HPC steht für High Performance Computer. Wer aber benutzt ein HPC? Ein normaler Anwender (Heim-PC) wird sich sicherlich keinen Hochleistungsrechner anschaffen, denn nicht nur der Preis ist zu hoch, sondern auch die Größe eines HPC ist für den Normalverbraucher nicht geeignet. Bei den HPC handelt es sich immer um Spezialrechner, die nur für eine bestimmte Tätigkeit, wie z.B. der Earth – Simulator, der für die Klimasimulation auf der Erde eingesetzt wird, gebaut wurden. Der Earth - Simulator hat die Größe eines Fußballplatzes und die Kosten zur Unterhaltung verschlingen mehrere tausend Dollar pro Stunde (siehe nachfolgende Abbildung).

Abbildung 1: Der Earth Computer [Abbildung in der Downloaddatei vorhanden]

Der Earth - Simulator, der im März 2002 in Betrieb genommen wurde, besitzt eine theoretische Rechenleistung von 35.86 TFlops (LINPACK-Test). TFlops (Terra - Floating Point Operations per second), ist eine Messgröße, die die Geschwindigkeit von Parallelrechner oder Prozessoren (wissenschaftliche Großrechner) angibt (Wikimedia Foundation Inc 2005a). Der Linpack-Test ist ein in Fortran (höhere Programmiersprache) geschriebenes Benchmark-Programm, welches die Leistung von Supercomputer anhand von lösen von linearen Gleichungssystemen misst (Wikimedia Foundation Inc 2005c). Die meisten heute eingesetzten Parallelrechner werden von Forschungszentren, Universitäten, Militär und Geheimdiensten benutzt. Auf der Internetseite www.top500.org befindet sich ein Ranking über die schnellsten HPC, die zurzeit auf der Welt eingesetzt werden. Die nachfolgende Tabelle stellt die fünf schnellsten Supercomputer auf der Erde dar (Stand: November 2004). Die Reihenfolge wird von den TFlops bestimmt.

Tabelle 1: Top 5 der Supercomputer [Tabelle in der Downloaddatei vorhanden]

Mit Entwicklung der wissenschaftlichen und technischen Disziplinen steigt auch die Kompliziertheit der Probleme, die zu lösen sind. Es werden komplizierten Anlagen entwickelt, um Simulationen durchzuführen, wie z.B. Crash-Tests, Test von Atomwaffen, in der Gentechnik oder in der Darstellung von Flussströmungen (vgl. Luttermann 2003, S. 24). Diese Simulationen beruhen auf sehr komplizierten Linear- und Differentialgleichungen. Diese Gleichungen bestehen aus einer Mehrzahl von Formeln, die teilweise ineinander verschachtelt sind. Da die klassische von-Neumann-Architektur nicht ausreicht, weder von der Speicherkapazität noch von ihrer Rechenleistung, entwickelte man die parallelen Rechnerarchitekturen. Aufgrund der gestellten Anforderungen an solche Rechensysteme (z.B. Simulationsdarstellung) wurden spezielle Architekturen entwickelt.

2 Taxonomie paralleler Computer

[...]