T12.3 Akseleratorer

Question 1

⭐️ Hva er en heterogen datamaskin?

Answer 1

Har beregningsenheter med ulike egenskaper

Question 2

⭐️ Hvorfor er datamaskiner med høy ytelse typisk heterogene?

Answer 2

• Energieffektive: Bruker mindre energi på å hente og dekode instruksjoner
• Benytter seg av generelle CPUer og akseleratorer, som er mer effektive for spesifikke oppgaver

Question 3

⭐️ Hva er den overordnede arkitekturen til grafikkprosessorer (GPUer)?

Answer 3

Er akseleratorer som supplerer en CPU. Bruker maskinvare “multithreading” til å skjule latens fra minnet, har et minne som orienterer seg mot båndbredde, har mindre minne, kan akkommedere flere parallell prosessorer og flere tråder

Question 4

⭐️ Beskriv programmeringsmodellen som benyttes når man bruker GPUer til generell beregning

Answer 4

• GPUer fokuserer på gjennomstrømning, ikke kjøretid
• Den fundamentale enheten er en tråd, en GPU-kjerne kalles en Streaming Multiprocessor
• Hver SM har tilgang til flere thread blocks, og dersom en stanser bytter SMen

Question 5

Generell beregningsenhet

Answer 5

En relativt effektiv enhet for mange ulike applikasjoner, f.eks. CPUer

Question 6

Spesialisert beregningsenhet

Answer 6

Spesielt effektiv for en eller flere klasser av applikasjoner, f.eks. GPUer eller DSEer

Question 7

Å bruke rett enhet på rett applikasjon gir

Answer 7

betydelig effektivitetsforbedring

Question 8

GPUer bruker parallellitet på programvarenivå til å skjule

Answer 8

latens

Question 9

⭐️ GPU minnestruktur

Answer 9

Lokalt minne og GPU minne

Question 10

⭐️ Lokalt minne til en GPU

Answer 10

Minne på chippen som er lokalt for hver multitråded SIMD prosessor

Question 11

⭐️ GPU minnet

Answer 11

Off-chip DRAM minnet som blir delt av hele GPUen og alle thread blocks

Question 12

⭐️ GPU mikroarkitektur

Answer 12

Har en warp er klar til utføring - Alle trådene i warpen utfører samme operasjon på ulike data

Question 13

⭐️ Hva er likheter mellom GPUer og vektorprosessorer?

Answer 13

• SIMD-parallellitet
• Høy ytelse: De er designet for høyytelsesberegninger

Question 14

⭐️ Hva er likheter mellom GPUer og SIMD-instruksjoner?

Answer 14

• Parallell behandling
• Ytelsesforbedring: De er designet for å forbedre ytelsen i oppgaver som krever høy beregningskraft
• Effektivitet: Begge teknologiene bidrar til å øke effektiviteten ved å redusere tiden det tar å utføre komplekse operasjoner

Question 15

⭐️ Hva er likheter mellom vektorprosessorer og SIMD-instruksjoner?

Answer 15

• Parallell behandling: Begge utfører samme operasjon på flere dataelementer samtidig, noe som øker ytelsen
• Effektivitet: De er designet for å håndtere store mengder data raskt og effektivt

Question 16

⭐️ Hva er ulikheter mellom GPUer og vektorprosessorer?

Answer 16

• Arkitektur: GPUer er designet for å håndtere mange tråder samtidig (SIMT - Single Instruction, Multiple Threads), mens vektorprosessorer bruker SIMD (Single Instruction, Multiple Data) for å utføre operasjoner på vektorer
• Fleksibilitet: GPUer er mer fleksible

Question 17

⭐️ Hva er ulikheter mellom GPUer og SIMD-instruksjoner?

Answer 17

• Arkitektur: GPUer bruker SIMT (Single Instruction, Multiple Threads) for å håndtere mange tråder samtidig, mens SIMD-instruksjoner utfører samme operasjon på flere dataelementer samtidig.
• Fleksibilitet: GPUer kan programmeres for mer

Question 18

⭐️ Hva er ulikheter mellom vektorprosessorer og SIMD-instruksjoner?

Answer 18

• Arkitektur: Vektorprosessorer opererer på hele vektorer med data, mens SIMD-instruksjoner i CPUer opererer på flere dataelementer innenfor en enkelt instruksjon
• Effektivitet: Vektorprosessorer kan være mer effektive for store datamengder og komplekse beregninger, mens SIMD-instruksjoner er mer begrenset til mindre datamengder og enklere operasjoner

Question 19

⭐️ Hva er en domene-spesifikk akselerator (DSE)?

Answer 19

Maskinvare som passer spesielt godt til beregnings- og kommunikasjonsmønsteret i en viktig klasse applikasjoner

Question 20

⭐️ Hvorfor kan DSEer oppnå høyere ytelse enn mer generelle arkitekturer?

Answer 20

• Spesialiserte - reduserer overhead og øker ytelsen
• Energieffektivite - unngår unødvendige operasjoner som generelle prosessorer må håndtere
• Utnytter høy grad av parallellitet - raskere behandling av store datamengder