Vorlesung 4 Regresssion II Flashcards

1
Q

Ist der Determinationskoeffizient (R^2) in der Stichprobe ein erwartungstreuer Schätzer des der Population ?

A

Nein
R^2 überschätzt P^2

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Was prüft der F-Test zur Signifiknazprüfung von R^2 in der multiplen Regression?

A

Liefern die Prädiktoren (zusammen) einen signifikanten Beirat zur Vorhersage des Kriteriums

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Was ist die H0 vom F-Test zur signifikanzprüfung von R^2 in MR?

A
  1. Determinationskoeffizient der Population (P^2=0)
    Oder
  2. Alle Regressiongewichte = 0
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Ist das Regressionsgewicht in der Stichprobe ein erwartungstreuer Schätzer des Regressionsgewichtes in der Population? MR

A

Ja

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Was wird beim signifkanztest für die einzelnen Regressionskoeffizienten bj geprüft

A

Ob / welches der Regressiongewichte sich von Null unterscheiden

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Der F- Test zur Inkrementellen Validität eines Prädiktors ist mathematisch äquivalent zum ….

A

…t- Test auf Signifikanz des Regressionskoeffizienten dieses Prädiktors (MR)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Was ist das Inkrement/ Nützlichkeit des Prädiktors?

A

„Wie viel Varianz erklärt ein Prädiktor zusätzlich zu alle anderen Prädiktoren“

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Wie verhält sich das Konfidenzintervall (CI) der Regressionsgerade

A

Ist schmaler in der Mitte und breiter an den Rändern

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Warum kann R^2 als eine Effektgröße verwendet werden ?

A

Weil es ein standardisiertes Maß ist

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Was ist die Teststärke/ Power?

A
  • Wahrscheinlichkeit, einen Effekt aufzudecken, den es tatsächlich gibt
  • Wahrscheinlichkeit für ein signifikantes Ergebnis wenn die H0 tatsächlich nicht gilt
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Was beeinflusst die Teststärke / Power ?

A
  • Effektgröße (vorgegeben)
  • Signifkanzniveau (meist 5%)
  • Stichprobengröße (kann von uns beeinflusst werden)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Was muss ich alles festlegen um in einer a priori Poweranalyse die optimale Stichprobengröße berechnen zu lassen

A
  • Signifikanzniveau (alpha)
  • Power/ Teststärke (1-ß)
  • Erwarteter Determinationskoeffizient (R^2 bzw f^2, Effektgröße)
  • Anzahl der Prädiktoren
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Was ist die theoretische Auswahl an Prädiktoren ?

A

Alle Variablen werden in die Regressionsgleichung aufgenommen, von denen man aus theoretischen Überlegungen einen Beitrag erwartet

–>Reihenfolge hängt von Fragestellungen an
–> oft blockfreies aufgenommen (hierarchische Regression)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Was sind Ziele der datengesteuerten Variablenauswahl ?

A
  • Maximierung der Varianzaufklärung
  • Sparsamkeit
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Was sind die drei Strategien der datengesteuerten Auswahl?

A
  • Vorwärtsselektion
  • Rückwertsselektion
  • Schrittweise Regression ( Kombi Vorwärts und Rückwärts)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Gelangen die 3 Strategien der datengesteuerten Auswahl zur selben Variablenauswahl ?

A

Optimalerweise ja, aber in kleinen Stichproben können sich Ergebnisse unterscheiden

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
17
Q

Was passiert bei Vorwärtsselektion

A
  1. alle potentielle Prädiktoren werden spezifiziert
  2. dann wird schrittweise immer diejenige Variable ins Modell aufgenommen , die größte Inkrement zeigt
  3. solange bis weiter Prädiktoren nicht mehr signifikant
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
18
Q

Was passiert bei Rückwärtsselektion?

A
  1. alle Prädiktoren werden in Modell aufgenommen
  2. dann wird schrittweise immer diejenige Variable aus dem Modell entfernt die das geringste Dekrement zeigt.
  3. solange bis nur noch signifikante Prädiktoren verbleiben
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
19
Q

Was passiert bei der schrittweisen Regresssion ?

A
  1. Während einer Vorwärtsselektion wird nach jedem Schritt überprüft ob ein Prädiktor nicht mehr signifikant ist
  2. Dieser wird dann entfernt
  3. Solange bis kein Prädiktor mehr aufgenommen werden kann, der noch einen zusätzlichen Beitrag leistet und kein nicht signifikanter Prädiktor im Modell ist
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
20
Q

Was ist das Ziel der theoriegeleiteten Auswahl ?

A

Test von theoretischen Modellen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
21
Q

Welches Risiko besteht bei der theoriegeleiteten Auswahl

A

Overfitting (Aufnahme statistisch irrelevanter Prädiktoren)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
22
Q

Wie ist die Effizienz der theoriegeleiteten Auswahl?

A

Weniger effiziente Vorhersagen von Merkmalen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
23
Q

Welche Methode der Auswahl der Prädiktoren wird bei Überprüfung von Zusammenhangs- Hypothesen bevorzugt?

A

Theoriegeleitete Auswahl

24
Q

Welches Risiken besteht bei der datengesteuerten Auswahl?

A
  • Capitializing on Chance (Auswahl wird von Stichprobenfehlern) beeinflusst
  • Unterfitting (Ausschluss theoretisch relevanter Prädiktoren)
25
Q

Was ist Kreuzvalidierung eines Modelles ?

A

Ein Modell, das an einer Stichprobe entwickelt wurde, wird bei einer anderen Stichprobe eingesetzt

26
Q

Was sind 3 Modellannahmen/ Vorraussetzungen des Signifikanztest der einfachen Regression

A
  1. Homoskedastizität
  2. Normalverteilte Residuen
  3. Unabhängigkeit der Fehler
27
Q

Was sind die Vorraussetzungen der multiplen Regression ?

A
  1. Korrekte Spezifikation des Modells
  2. Messfehlerfreiheit der UVs ( perfekte Reliabilität)
  3. Normalverteilung der Residuen
  4. Homoskedastizität (Variangleichheit)
  5. Unabhängigkeit der Residuen
  6. Multikollinearität
    7.Ausreißer und einflussreiche Datenpunkte
28
Q

Wie prüft man die Vorraussetzungen der korrekten Spezifikation des Modells (MR) ?

A
  • Bivariate Streudiagramm
  • Residuendiagramme
  • Lowess- Anpasssungslinie
29
Q

Wozu kann underfitting (=Auslassen wichtiger Prädiktoren) führen ?

A

Kann insgesamt zur falschen Interpretation der Ergebnisse führen

30
Q

Wozu führt overfitting ( Aufnahme irrelevanter Prädiktoren)?

A
  • verzerrte Schätzung der Regressionsgewichte
    *Prognosefehler und Kreuzvalidierungsfehler werden mit zunehmender Anzahl irrelevanter Prädiktoren größer
31
Q

Wie vermeidet man overfitting ?

A

Durch signifikanzprüfung der Prädiktoren und Elimination irrelevanter Prädiktoren

32
Q

Was sind Konsequenzen von inkorrekten Modellspezifikationen

A
  • Verzerrte Schätzung der Regressionskoeffizienten
  • Verzerrte Schätzung der Standardfehler –> möglicherweise verringerte Teststärke
33
Q

Wie lässt sich die Größe des Messfehlers der UVs (Prädiktoren) bestimmen ?

A

Reliabilität

34
Q

Was sind zwei Möglichkeiten die Messfehler der UVs zu gewährleisten ?

A
  • möglichst reliable Skalen auswählen
  • nicht zu wenig items verwenden (Reliabilität steigt mit Anzahl Items)
35
Q

Was sind Konsequenzen von der Verletzung der Messfehlerfreiheit der UVs ?

A
  • Verzerrte Schätzung der Koeffizienten
  • verzerrte Schätzung der Standardfehler
36
Q

Was sind Konsequenzen von der Verletzung der Voraussetzung der Normalverteilung der Residuen ?

A

*korrekte Schätzung Regressionsgleichung
* falsche Schätzung der Standardfehler bei kleinen Stichproben

37
Q

Worauf kann die Verletzung der Voraussetzung der Normalverteilung der Residuen auch hinweisen ?

A

Fehlspezifikation des Modells

38
Q

Wie prüft man die Vorraussetzung der Normalverteilung der Residuen?

A

*Histogramm
* pp-Plot
* QQ- Plot

39
Q

Was bedeutet Homoskedastizität

A

= gleiche Varianz der Av für alle Ausprägungen der Prädiktoren
= gleiche Varianz der Resisduen für alle Ausprägungen der Prädiktoren

40
Q

Was sind Konsequenzen von der Verletzung der Homoskedastizität ?

A

*Korrekte Schätzung der Regressionsgleichung
* aber falsche Schätzung der Standardfehler

41
Q

Wie prüft man die Vorraussetzung der Homoskedastizität?

A

Resiudenplot

42
Q

Wobei hilft das Anschauen des Residuenplots?

A
  • hilft bei Entdeckung von Fehlspezifikationen des Modells
  • hilft bei Entdeckung von Heteroskedastizität
43
Q

Worauf weist ein Trichterförmiger Verlauf des Residuenplots hin?

A

Heteroskedastizität

44
Q

Worauf weist bestimmte Gestalt der Residuenplots hin?

A

Fehlspezifikation des Modells

45
Q

Was sind Konsequenzen von der Verletzung der unabhängigen Residuen

A
  • korrekte Schätzung Regressionsgleichung
  • aber Unterschätzung der Standardfehler
46
Q

Wann ist die Voraussetzung der Unabhängigkeit der Residuen verletzt ?

A

Wenn sich bestimmte Werte der Av/ Residuen systematisch ähnlicher sind als andere
–> bei mehrstufiger Stichprobenauswahl (Klumpenstichprobe)
–> bei serieller Abhängigkeit ( Daten im Zeitverlauf)

47
Q

Was sind Abhilfen bei anhängigem Residuen ?

A

Gründe für Abhängigkeit ins Modell aufnehmen (Zeitreihenanalysen, Mehrebenenmodelle)

48
Q

Definition: Multikollinearität ?

A

Hohe multiple Korrelation zwischen einem Prädiktor und den anderen Prädiktoren

49
Q

Wozu führt Multikollinearität?

A
  • verzerrte Schätzung des Regressionsgewichtes
  • (großer Standardfehler)
50
Q

Wann tritt sehr hohe Multikollinearität auf ?

A
  • wenn ein Prädiktor in die Berechnung eines anderen eingeht (Interaktionseffek Moderator ); nicht linearer Effekte
  • wenn mehrere Idnikatoren eines Konstruktes oder zweier sehr ähnlicher Konstrukte als UVs verwendet werden
  • wenn ein ähnliches oder das gleiche Maß zu mehreren Messzeitpunkten erhoben und alles als UVs verwendet werden
51
Q

Wie wird Toleranzfaktor (TOL) berechnet?

A

1– R^2

52
Q

Was bedeutet TOL =0 und TOL = 1?

A
  • 0(R^2=1) –> exakte Multikollinearität
  • 1 (R^2 =0 ) –> Prädiktor Xj mit anderen Prädiktoren unkorreliert
53
Q

Was sind zwei Wege Multikollinearität zu bestimmen ?

A

1.Toleranzfaktor
2.Varianzinflations- Faktor (VIF)

54
Q

Wie wird der Varianzinflations-Faktor (VIF) berechnet ?

A

1/ TOL

55
Q

Ab welchem VIF besteht (sehr) hohe Multikollinearität

A

*VIF > 10 sehr hohe Multikollinearität
*VIF > 5 hohe Multikollinearität

56
Q

Was sind 4 Möglichkeiten des Reduktion von Multikollinearität?

A
  • Zentrierung
  • Eliminierung vom Prädiktoren
  • Aggregation
  • Faktorenanalytische Reduktion