Matematiska byggstenar Flashcards
Matematisk vektor
Pil i ett koordinatsystem
- Utgår vanligtvis från origo
- Vektorns spets representerar vektorns koordinater (x,y)
Vad används vektorer till?
Representera data:
- Ålder
- Blodvärde
- Puls
Dot product / Skalärprodukt
Operation man kan böra med vektorer
Operation mellan två separata vektorer som ger ett enda tal.
Motsvarande element i vektorerna multipliceras, sedan adderas alls.
Rang
När tensorer har olik dimensioner säger man at de har olika rang
Rang 0
Skalär
Rang 1
Vektor
Rang 2
Matris
Rang 3
Flerdimensionell sekvens
- sekvens av bilder som blir video
Rang 4
Kan vara dataset med flera videor efter varandra
Induktiv defenition
Att en viss regel gäller för alla n
- Fibinaccisekvensen
Universal Approximation Theorem
Teoretiskt sätt kan man med en enda funktion skapa NN som lär sig alla funktioner.
En viktig matematisk funktion för att optimera vikterna i NN?
Derivata
Hur fungerar derivata som optimerare?
Vikternas prestation presenteras som en kurva i koordinatsystem.
På vilken plats som helst i kurvan kan man räkna ut lutningen via derivatan
Genom att jämföra lutningar kan man se hur modellens prestation ändras när vikterna justeras
Tangent
Rak linje som nuddar den punkt man vill räkna ut derivatan på
Formel för tangent:
y=kx+m
f´(c)
Derivata
Vad visar lutningen?
Hur snabbt vi närmar oss 0
0 representerar fel mellan prediktion och önskad output.
Närmre 0, mer tränat
Utifrån hur snabbt vi närmar oss 0, utifrån lutningen, justerar man vikterna
Parietalderivator
Derivator i flera dimensioner
- 2D och högre
- Matriser och högre
- Räknar ut lutningen för varje enskild vikt för att förstå hur alla påverkar outputen
Vad gör man med loss function?
Man tar skillnaden mellan faktisk och önskad output i kvadrat.
- Eftersom lutningen är nedåt blir loss function negativ.
- Kvadrering gör att loss function alltid blir positivt, vilket är enklare att hantera
Gradient descent
Sätt att justera vikterna
- Algoritm
- Visar hur förändring av vikterna påverkar lutningen
