#3 Konvexe Optimierung

Question 1

Hesse Matrix

Answer 1

• Bildung aller Ableitungen zweiten Grades
• bei Ableitungen 2. Grades kommt es nicht auf die Reihenfolge an f´´xy = f´´yx

2x2
x y
x fxx fxy
y fyx fyy

3x3
     x     y      z
x  fxx  fxy  fxz
y  fyx  fyy  fyz
z  fzx  fzy  fzz

Question 2

Determinanten <= (3x3)

Answer 2

singulär oder nicht invertierbar = ad - cb = 0
regulär oder invertierbar = ad - cb ≠ 0

Summe Abwärtsprodukt - Summe Aufwärtsprodukt

3x3
a1 * b2 * c3 + a2 * b3 * c1 + a3 * b1 * c2 - (…) - (…) - (…)

Question 3

Gradient

Answer 3

- Allgemein ist der Gradient die ersten Ableitungen übereinander
grad f(x;y) = f´x über f´y

• der Gradient in einem Punkt zeigt stets in die Richtung der stärksten Anstiegs
• der Betrag des Gradienten entspricht der stärke des Anstiegs

Question 4

pq-Formel

zur Nullstellenberechnung

Answer 4

f(x)= x^2 + px + q

x1 = -p/2 - Wurzel aus p^2/4 -q

x2 = -p/2 + Wurzel aus p^2/4 -q

Question 5

Determinanten > (3x3)

Answer 5

Entwicklungssatz von Laplace

(1) Auswahl einer spalte mit möglichst vielen Nullen

(2) Vorzeicheneinteilung erfolgt nach dem Schachbrettmuster
+-+-
-+-+
+-+-

(3) Berechnung der kleinen Determinanten
3 Spalte wird ausgewählt (c1 - c4)
= c1 * Determinante 1,3 - c2 * Determinante 2,3 . . .
c = der Wert der in der ausgewählten Spalte liegt

(4) Ergebnis ≠ 0 => invertierbar (regulär)

Question 6

Determinanten (Besonderheiten)

Answer 6

• “0” Zeile -> Determinante ist immer 0 und damit nicht invertierbar (singulär)
• oder- oder unterhalb der Diagonalen nur nullen => Determinante ist das Produkt der Diagonalen
• oder und unterhalb der Diagonalen nur nullen => Determinante ist das Produkt der Diagonalen

Question 7

Matrizen (Determinanten)

(1) positiv definit
(2) negativ definit
(3) indefinit
(4) positiv semidefinit
(5) negativ semidefinit

Answer 7

2x2 - Matrix

D1 = a1 D2 = det (A) = ad - cb

p. definit D1 > 0 und D2 >0
n. definit D1 < 0 und D2 >0
indefinit D2 <0

3x3 - Matrix

D1 = a1 D2 = det (a-d) D3 = det (A)

p. definit D1 > 0 und D2 >0 und D3 >0
n. definit D1 < 0 und D2 >0 und D3 <0
indefinit D2 <0 oder D1*D3 <0

4x4 - Matrix

D1 = a1 D2 = det (a-d) D3 = det (a1-c3) D4 = det (A)

p. definit D1 > 0 und D2 >0 und D3 >0 und D4 >0
n. definit D1 < 0 und D2 >0 und D3 <0 und D4 >0
indefinit D2 oder D4 <0 // D1D3 oder D2D4 <0
________
bei Diagonalmatritzen (Nullen über unter der Diagonalen)

positiv semidefinit = alle Zahlen in der diagonalen sind >= 0

negativ semidefinit = alle Zahlen in der Diagonalen sind <= 0

Question 8

Konvexkriterien

Answer 8

(1) konvex = positiv semidefinit
(2) strikt = konvex positiv definit

(3) konkav = negativ semidefinit
(4) strikt konkav = negativ definit

(5) weder konvex noch konkav = indefinit
(6) sowohl konvex als auch konkav = überall nullen, sowohl positiv als auch negativ semidefinit

Question 9

Extremwertkriterien

Answer 9

Notwendiges Extremwertkriterium

Stationäre (kritische) Stellen = alle Partiellen Ableitungen erster Ordnung sind 0

Hinreichendes Extremwertkriterium

lokales Minimum = 2.Ableitung ist größer Null (positiv definit)

lokales Maximum = 2. Ableitung ist kleiner Null (negativ definit)

Question 10

Extremwerte ermitteln

Answer 10

(I) 1. Ableitung(en) bilden

(II) Lineares Gleichungssystem lösen => Stationärer Punkt

(III) 2. Ableitung(en) bilden und den stationären Punkt einsetzen

(VI) Hesse-Matrix aufstellen

(V) Determinate berechnen und bestimmen ob Maximum oder Minimum

Question 11

Konvexkombination

Answer 11

Als Konvexkombination zweier Vektoren a,b aus IR bezeichnet man jeden Vektor der Form

r * a + (1-­r) * b mit 0 ≤ r ≤ 1