Parallelrechner Flashcards

1
Q

Schnellere Rechner … aber wie?

Wie erhöhe ich die CPU Frequenz?

A

Durch Abwärme, Energieverbrauch und Leckströme

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Schnellere Rechner … aber wie?

Wenn ich 2 CPUs auf einen Chip habe, ist die Chipfläche 2x. Welche Auswirkungen hat es auf den Leistungsgewinn?

A

Der Leistungsgewinn ist deutlich weniger

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Schnellere Rechner … aber wie?

Warum werden für schnellere Rechner Coprozessoren benötigt?

A

Da man spezielle Prozessoren für spezielle Aufgaben braucht

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Schnellere Rechner … aber wie?

Für schnellere Rechner werden noch mehr Units fürs Rechnen gebraucht. Was muss die CPU können?

A

Die CPU muss alle Units parallel mit Arbeit versorgen können

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Schnellere Rechner aber wie?

Bei längeren Pipelines werden falsch vorhergesagte Sprünge immer schlimmer. Wann machen längere Pipelines Sinn?

A

Wenn man gleichzeitig die CPU Frequenz erhöht

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Schnellere Rechner aber wie?

Durch Multhreading kann die CPU sich einem anderen Thread zu wenden, wenn der eine Thread nicht mehr kann. Was bedeutet das für die Units?

A

Bessere Auslastung der Units

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Architekturen für Parallelrechner

Welche Architekturen gibt es für den Parallelrechner?

A
  1. On-chip parallelism
  2. A coprocessor
  3. A multiprocessor
  4. A multicomputer
  5. A grid

Grafiken sind auf Folie 3

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = 1 und Data streams = 1? Gebe auch ein Beispiel an

A
  • SISD
  • Beispiel: Classical Von Neumann machine

Mehr dazu auf Folie 6

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

On-Chip Multithreading (Hyperthreading)

Liste die Multithreading Methoden auf

A
  • Threads mit einigen Wartezyklen
  • Feingranulares Multithreading
  • Grobgranulares Multithreading

Mehr dazu auf Folie 4

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = 1 und Data streams = Multiple? Gebe auch ein Beispiel an

A
  • SIMD
  • Vector supercomputer, array processor

Mehr dazu auf Folie 6

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = Multiple und Data streams = 1? Gebe auch ein Beispiel an

A
  • MISD
  • Wohl keine Beispiele

Mehr dazu auf Folie 6

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = Multiple und Data streams = Multiple? Gebe auch ein Beispiel an

A
  • MIMD
  • Multiprocessor, multicomputer

Mehr dazu auf Folie 6

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Multiprozessorsysteme

Worauf greifen alle Prozesse?

A

Die Prozesse greifen alle auf denselben Hauptspeicher zu

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Multiprozessorsysteme

Wer verwaltet alle Prozessoren?

A

Sie werden von einer Betriebssysteminstanz verwaltet

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Multiprozessorsysteme

Was sind die Vorteile von Multiprozessorsysteme?

A

Sind einfach zu programmieren und für den Hausgebrauch geeignet

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Multiprozessorsysteme

Was ist ein Nachteil von Multiprozessorsystemen?

A

Skaliert nicht besonders gut

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Multiprozessorsysteme

Wann ist der Hauptspeicher zu langsam?

A

Der Hauptspeicher ist schon bei einer CPU langsam

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
17
Q

Multiprozessorsysteme

Viele CPUs an einem Hauptspeicherbus ist kompliziert. Ab welchem Wert wird es langsam weg?

A

Bei 64 oder 128 wird es langsam eng

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
18
Q

Multiprozessorsysteme

Bei Multiprozessorsystemen sind verschiedene Varianten möglich. Die Anzahl der Chips ist unterschiedlich. Liste auf welche Möglichkeiten es gibt.

A
  • Jeder Prozessor auf einem eigenen Chip
  • Alle Prozessoren auf einem Chip
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
19
Q

Multiprozessorsysteme

Es gibt zwei Arten von Prozessoren. Was ist ein homogener PC?

A

Ein PC mit mehreren Prozessoren

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
20
Q

Multiprozessorsysteme

Es gibt zwei Arten von Prozessoren. Was ist ein heterogener PC?

A

Zum Beispiel eine Sony Playstation 3 mit Cell Prozessor

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
21
Q

Homogene Multiprozessorsysteme (auf einem Chip)

Welche Art von Chips gibt es bei homogenen Multiprozessorsystemen?

A
  • Ein Chip mit mehreren Pipelines
  • Ein Chip mit mehreren Cores
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
22
Q

Multicomputersysteme

Gibt es einen gemeinsamen Speicher?

A

Nein ist gibt keinen gemeinsamen Speicher

23
Q

Multicomputersysteme

Wie erfolgt die Kommunikation?

A

Über Nachrichtenaustausch

24
Q

Multicomputersysteme

Wie wird jede CPU gesteuert?

A

Sie werden von einer eigenen Betriebssysteminstanz gesteuert

25
Q

Multicomputersysteme

Was sind die Vorteile von Multicomputersystemen?

A
  • Skaliert bis zu vielen tausend CPUs
  • Anwendung im wissenschaftlichen Rechnen
26
Q

Multicomputersysteme

Warum ist die Programmierung anspruchsvoller?

A

Weil die Kommunikation nur über Nachrichtenaustausch läuft

27
Q

Multicomputersystem

Was ist ein weiterer Nachteil von Multicomputersystemen?

A

Die Administration ist schwieriger

28
Q

Gemeinsamer Hauptspeicher - Konsistenz

Da mehrere Prozessoren dasselbe Byte schreiben, weiß man nicht welcher Prozessor zuletzt schreibt und man wird sich nicht einig welcher Prozesser das Byte zuletzt geschrieben hat. Wie wird dieses Problem behandelt?

A

Durch strikte Konsistenz passieren alle Schreib/Leseoperationen zu einem Zeitpunkt

29
Q

Gemeinsamer Hauptspeicher

Da mehrere Prozessoren dasselbe Byte schreiben, weiß man nicht welcher Prozessor zuletzt schreibt und man wird sich nicht einig welcher Prozesser das Byte zuletzt geschrieben hat. Durch strikte Konsistenz passieren alle Schreib/Leseoperationen zu einem Zeitpunkt. Was passiert danach?

A

Die Operationen werden nach diesen Zeitpunkten organisiert

30
Q

Gemeinsamer Hauptspeicher

Da mehrere Prozessoren dasselbe Byte schreiben, weiß man nicht welcher Prozessor zuletzt schreibt und man wird sich nicht einig welcher Prozesser das Byte zuletzt geschrieben hat.
Durch strikte Konsistenz passieren alle Schreib/Leseoperationen zu einem Zeitpunkt.
Die Operationen werden nach diesen Zeitpunkten organisiert Was sehen die Prozessoren dann?

A

Alle Prozessoren sehen die gleiche Reihenfolge der Operationen

31
Q

Gemeinsamer Hauptspeicher

Die strikte Konsistenz ist schwierig zu implementieren. Wie bestimmt man den Zeitpunkt?

A

Man benötigt eine genaue Uhr

32
Q

Gemeinsamer Hauptspeicher - Strikte Konsistenz

Bei der strikten Konsistenz müssen alle Operationen geordnet und nacheinander ausgeführt werden. Welche Auswirkung hat es auf die Parallelisierung?

A

Es zerstört einen Großteil der Parallelisierung

33
Q

Gemeinsamer Hauptspeicher - Strikte Konsistenz

Befehle dauern mehrere Takt und können sich überholen. Welche Fragen entstehen deswegen?

A
  • Zeitpunkt: Eintritt in die Pipeline?
  • Austritt aus der Pipeline?
34
Q

Gemeinsamer Hauptspeicher - Sequentielle Konsistenz

Bei der sequentiellen Konsistenz ist es schwer den Zeitpunkt einer Operation zu bestimmen, jedoch ist es leicht die Reihenfolge von Operationen einer einzelnen CPU zu bestimmen.
Wie wird die Reihenfolge aller Befehle behandelt?

A

Die Reihenfolge aller Befehle einer einzelnen CPU wird bewahrt

35
Q

Gemeinsamer Hauptspeicher - Sequentielle Konsistenz

Bei der sequentiellen Konsistenz ist es schwer den Zeitpunkt einer Operation zu bestimmen, jedoch ist es leicht die Reihenfolge von Operationen einer einzelnen CPU zu bestimmen.
Wie werden die Zeitpunkte einer Operation festgelegt?

A

Die Wahl des Zeitpunktes einer Operation ist zufällig

36
Q

Gemeinsamer Hauptspeicher - Sequentielle Konsistenz

Was sehen die CPUs global?

A

Alle CPUs sehen global dieselbe Reihenfolge

37
Q

Gemeinsamer Hauptspeicher - Sequentielle Konsistenz

Wie führen die CPUs ihre lokalen Befehle aus?

A

Sie führen ihre lokalen Befehle in strikter Reihenfolge aus

38
Q

Gemeinsamer Hauptspeicher - Sequentielle Konsistenz

Was ist die einzige Einschränkung?

A

Das Verzahnen dieser lokalen Reihenfolge zu einer globalen Reihenfolge ist zufällig

39
Q

Gemeinsamer Hauptspeicher - Prozessor-Konsistenz

Das Problem der sequentiellen Konsistenz ist das alle CPUs dieselbe globale Reihenfolge haben. Welche Lösungsidee gibt es?

A

Die lokale Reihenfolge bleibt erhalten aber die CPUs sehen andere globale Reihenfolgen

40
Q

Gemeinsamer Hauptspeicher - Prozessor-Konsistenz

Wie werden die Operationen eines Prozessor bei der Prozessor-Konsistenz von anderen Prozessoren gesehen?

A

Die Operationen eines Prozessors werden von allen anderen Prozessoren in derselben Reihenfolge gesehen

41
Q

Gemeinsamer Hauptspeicher - Prozessor-Konsistenz

Was muss man trotzdem beachten bezüglich der globalen Verzahnung der lokalen Reihenfolgen?

A

Jeder Prozessor kann eine andere globale Verzahnung der lokalen Reihenfolge sehen

42
Q

Gemeinsamer Hauptspeicher - Schwache Konsistenz

Was ist die Grundidee der schwachen Konsistenz?

A

Keine Garantien, es sei denn man wünscht es

43
Q

Gemeinsamer Hauptspeicher - Schwache Konsistenz

Was kann jede CPU bei der schwachen Konsistenz?

A

Jede CPU kann eine andere Reihenfolge von Operationen beobachten

44
Q

Gemeinsamer Hauptspeicher - Schwache Konsistenz

Gibt es Einschränkungen für diese Reihenfolge?

A

Nein, es ist alles möglich

45
Q

Gemeinsamer Hauptspeicher - Schwache Konsistenz

Kann eine Synchronisation erzwungen werden?

A

Ja, die kann erzwungen werden

46
Q

Gemeinsamer Hauptspeicher - Schwacher Konsistenz

Bei der Synchronisation werden alle laufenden und ausstehenden Speicherzugriffe durchgeführt und bis dahin werden keine neuen Zugriffe durchgeführt.
Was sehen die CPUs direkt nach der Synchronisation?

A

Sie sehen alle denselben Speicherzustand

47
Q

MPPs - Massively Parallel Processors

MPPs ist eine Architektur die für Superrechner geeignet ist. Was ist damit möglich?

A
  • Wissenschaftliche Simulationen
  • Schach auf Großmeisterniveau
48
Q

MPPs - Massively Parallel Processors

Welche Prozessoren werden benutzt?

A

Standard PC Prozessoren wie Pentium, Xeon, UltraSPARC und PowerPC

49
Q

MPPs - Massively Parallel Processors

Welche Technologie wird für die Kommunikation benutzt?

A

Spezielle proprietäre Technologie

50
Q

MPPs - Massively Parallel Processors

Was wird für die Nachrichtenübertragung benutzt?

A

Spezielle Softwarebibliotheken

51
Q

MPPs - Massively Parallel Processors

Die Kommunikation bei MPPs ist schneller als bei normalen Netzwerken aber vergleichsweise…?

A

teuer

52
Q

Topologien für Computernetze

Welche Topologien gibt es? Liste alle Topologien aus der Vorlesungen auf

A
  • Star
  • Complete interconnect
  • Tree
  • Ring
  • Grid
  • Double torus
  • Cube
  • 4D Hypercube
53
Q

Cluster

Cluster sind Multicomputer aber haben einen wichtigen Unterschied zu MPPs. Welche Unterschiede gibt es?

A
  • Cluster bestehen aus vielen PCs
  • PCs werden über Netzwerk miteinander verbunden
54
Q

Cluster

Welche Vorteile gibt es?

A
  • Alles Standardteile
  • Geringe Kosten
  • Vergleichsweise einfacher Aufbau
  • Spezielle Linux-Versionen verfügbar
55
Q

Cluster - Nachteile

Welchen Unterschied gibt es zwischen den PCs und Netzwerken und den MPP Bauteilen?

A

PCs und Netzwerke sind nicht so effizient wie die speziell entwickelten MPP Bauteile

56
Q

Cluster

Welcher Nachteil entsteht durch die fehlende Effizienz der PCs und Netzwerke im Vergleich zu MPP Bauteilen?

A

Die PCs und Netzwerke sind etwas langsamer