Faktoranalyse

Question 1

Was ist die Grundidee der Faktorenanalyse?

Answer 1

Korrelationen von manifesten Items erklärt durch latente Faktoren
Reduktion der Werte ohne Informationsverlust
vereinfachte Darstellung von wechselseitigen Zusammenhängen in beobachteten Variablen k durch m zugrunde liegenden Variablen (m<k)

Question 2

Was sind wichtige Werte der Faktorenanalyse? Was ist ihre Bedeutung?

Answer 2

Ladung = Korrelation von Item i mit Faktor Lambda λ
Kommunalität=
Eigenwert= Anteil der Gesamtvarianz den Faktor j für alle Items erklärt
Kommunalität= Varianzanteil eines Items, der durch die extrahierten Faktoren erklärt werden kann
Kommunalität = 1 wenn so viele Faktoren extrahiert wie Items

Eigenwert = Eigenschaft der Komponenten
Kommunalität=Eigenschaft der Items

Question 3

Was sind unterschiede zwischen Regressionsmethoden und Faktoranalyse?

Answer 3

• Regression sagt streng ein Outcome durch einen Prädiktor vor
• in anderen Modellen gleichberechtigtere Beziehung zwischen Variablen

Question 4

Welche Anwendungen hat die Faktorenanalyse?

Answer 4

1. Ergründung gemeinsamer latenter Struktur von Daten
2. Überprüfung faktorieller Validität von Fragebögen und Skalen
3. Informationsreduktion und -verdichtung (zB Kompositscore)

Question 5

Was sind die mathematischen Grundlagen der Faktorenanalyse?

Answer 5

Interkorrelationsmatrix R der k Variablen -> 2 Matrizen (Eigenvektoren und Eigenwerte) multipliziert = ergeben Ladungsmatrix Λ
aus Ladungsmatrix werden Faktoren extrahiert
Eigenwerte werden über Singulärwertezerlegung (SVD) und iterativer Lösung des Eigenwertproblems numerisch bestimmt
R= Λ * Λ(transponiert)

Question 6

Was ist die Ladungsmatrix?

Answer 6

Produkt 2er Matrizen (Eigenvektoren * Eigenwerte) aus Interkorrelationsmatrix R
kann R reproduzieren
Hauptdiagonalen =/= 1
sondern: wie stark Items auf spezifischen Faktor/Komponente laden

Question 7

Was ist die Interkorrelationsmatrix?

Answer 7

=R
quadratische (k*k)
symmetrische
reelle Matrix, Darstellung in der Variablen aufgetragen werden und korreliert werden
Hauptdiagonale = 1 da Korrelation mit sich selbst = Summe der quadrierten Ladungen der jeweiligen Variable über alle Komponente
= standardisierte Varianzc

Question 8

Was ist eine Faktorladung?

Answer 8

Korrelation der jeweiligen Variable mit der jeweiligen Komponente
Wertebereich [-1;1] mit 0=unkorreliert

Question 9

Was ist eine Komponente in der PCA?

Answer 9

eine latente Variable die Variation der manifesten Variablen erklärt

Question 10

Was ist die Varianz-Kovarianz-Matrix?

Answer 10

=S
unstandardisierte interkorrelationstabelle
in Hauptdiagnonale der Martix nicht =1 sondern Varianz

Question 11

Welches Ziel hat die PCA?

Answer 11

Vereinfachung = weniger Komponenten extrahieren & schauen ob R gut reproduzieren kann

Bestimmung Anzahl latenter Komponenten

Zusammenfassung der latenten Variable in Komponentenscores für jede Person = gewichteter Score (linearkombination) der standardisierten Variablen unter Heranziehung der Komponentenladungen
λ1x1+λ2x2+…λk*xk=Komponente

Extraktion der Komponenten, so dass sie maximal Varianz erklären -> monoton fallende Eigenwerte
erklärte Varianzanteile sind unabhängig

Question 12

Wie funktioniert die Faktorenextraktion in der PCA?

Answer 12

Interkorrelationsmatrix der Variablen
Umrechnen in Ladungsmatrix via Multiplikation
erste Komponente gezogen
Diagonalfit der Ladungsmatrix nimmt ab (Elemente <1) und kann mittels Offdiagonalfit Matrix dargestellt werden um Abweichungen zu kontrollieren
R - Λ*Λ (transponiert)
generell: Anpassung muss besser werden mit mehr Komponenten
in PCA prinzipiell so viele Komponenten gezogen wie Variablen
-> Abbruchkriterium

Question 13

Welche Abbruchkriterien der Faktorenextraktion kennen wir?

Answer 13

beziehen sich explizit oder implizit auf Diagonalfit und verwenden Eigenwerte
- Screetest (Knick) uneindeutig
- Kaiser-Guttman Kriterium:
Eig>1 Problem: bezieht sich nur auf Populationsmatrizen, führt zu Überextraktion von Komponenten in Stichprobendaten da auch in unkorrelierten Variablen Eig>1 möglich, besonders bei klein N

-Parallelanalyse (empfohlen, most valid)
vergleicht Verlauf der beobachteten Eigenwerten mit Eigenwerten aus vielen Datensätzen von Zufallsdaten
Koomponenten behalten, deren i-ter Eigenwert größer ist als
- mittlerer i-ter Eigenwert
- 95. Perzentil des i-ten Eigenwerts
.. der Zufallsdaten

Question 14

Was sind Eigenwerte? Wie können sie berechnet werden?

Answer 14

=Varianzanteil den der Faktor j von der Gesamtvarianz aller Items erklärt
Eig=Σjλ² ij
-summieren sich auf k = Summe der Variablen
- monoton fallend
Eig > 0 = R und S sind positiv definit
Eig≥ 0 = R und S sind positiv semidefinit
-> Indikator für den Diagonalfit = erklärte Gesamtvarianz

Erklärte Varianz= Eig/k * 100

Question 15

Stichprobenschätzung

Answer 15

je kleiner N umso mehr streuen Korrelationskoeffizienten um 0 -> Stichprobenfehler, Eigenwerte trotz unkorreliertheit der Daten bei >1

Question 16

Wie können Komponenten interpretiert werden?

Answer 16

erklärt Anteil an Varianz
geometrische Interpretation als Achsen in einem Koordinationssystem
initiale Lösung der PCA ist orthogonal
- rechtwinkelig
- eindeutig hinsichtlich Eigenwerte
- uneindeutig hinsichtlich mancher Transformationen

nach Rotation:
bei unabhängigen Komponenten orthogonal, bei korrelierten Komponenten oblique/schiefwinkelige Komponenten

Question 17

Wie funktioniert Faktorenrotation? Welche Methoden kennen wir? Welche wurde uns empfohlen?

Answer 17

Es werden Markervariablen gesucht
Rotation der Achsen eines Koordinatensystems, welche Koordinaten zu Datenpunkten modelliert
initiale Lösung ist rechtwinkelig

Methoden ua:
- Varimax: orthogonal, möglichst eindeutige Zuordnung von Variablen zu Komponenten “Einfachstruktur” = reine Rotation
- Quartimax: orthogonal, maximiert Erklärungswert der Komponenten ggü Variablen
- Oblimin: oblique, freie Schätzung der Korrelation zwischen Komponenten -> Vorteil ggü Varimax, wenn Komponenten unkorreliert sind wird dies auch wirklich erkannt

Question 18

Welche Konsequenzen hat die Faktorenrotation?

Answer 18

orthogonale Rotation:
Ladungen verändern sich
Größe der Eigenwerte zueinander ändern sich
Summe der erklärten Varianz ist gleich

oblique Rotation:
Komponenten nicht mehr unabhängig
Ladungen verändern sich
Größe der Eigenwerte zueinander ändern sich
Summe der erklärten Varianz ändert sich (= korrelierte Komponenten überlappen)

Question 19

Orthogonale oder oblique Rotation?

Answer 19

in der Psychologie oft oblique besseren Datenfit da reale Daten meist korreliert sind
realistischer als orthogonale Komponenten

Question 20

Wann wird 100% der Varianz für eine Variable mittels PCA erklärt?

Answer 20

Wenn alle k Komponenten extrahiert werden
Kommunalität = 1
Ziel: weniger aber ausreichende Varianzerklärung

Question 21

Was sind Kommunalitäten?

Answer 21

Anteil erklärter Varianz je Variable
Summe der quadrierten Ladungen aller Komponenten
h²=Σiλ²ij

1-h²= Uniquenessj
= Anteil nicht erklärter Varianz

sollte möglichst hoch sein
niedrige Kommunalität =/= niedrige Ladungen
Exklusion von Items mit niedriger Kommunalität verbessert Messeigenschaften & Ökonomie

Question 22

Wie kann die PCA interpretiert werden?

Answer 22

theoretisch Sigifikanztest
häufig aber stattdessen effektstärkenbasierte Interpretation
Cutoff > .3 für relevante λ
-> dann h2=0.1 -> mindestens 10% Varianz der Variable erklärt
-> mittlerer Effekt nach Cohen
nur Heuristik, es gibt auch andere Cutoffs

Question 23

Welche Unterschiede gibt es zwischen PCA und EFA?

Answer 23

verwandt aber nicht ident

PCA sucht Komponenten die ein Maximum der beobachteten Varianz erklären

EFA beruht auf Messmodell, das gemeinsame Faktoren identifiziert und a priori von Messfehlern (Itemspezifische Varianz) differenziert

EFA unterscheidet a priori in gemeinsame und spezifische Varianz
nicht erklärte Varianzanteile werden in PCA konzeptuell nicht als Messfehler angesehen

EFA kompatibler mit der Interpretation dass latente Faktoren beobachtete Variablen erklären

in PCA kann immer Lösung gefunden werden und immer bis zu k Komponenten extrahiert werde, bei EFA nicht

liefern häufig ähnliche Ergebnisse
Ladungen & Ladungsmuster häufig ähnlich
Komponenten- & Faktorscores oft hochkorreliert
Korrelationen von Scores mit Drittvariablen sind häufig gleich

PCA robuster:
- keine Einschränkungen bzgl Faktorenzahl
- keine Haywood cases

PCA gut wenn:
- Faktorenzahl unbestimmt, explorativ

idR erst PCA um Faktorenzahl zu bestimmen, dann EFA Ladungsmatrix berechnen und PAF

Question 24

Was ist der Ziel der EFA?

Answer 24

Messmodell
versucht die den Variablen gemeinsame Varianz, bereinigt um Messfehler durch Faktoren zu erklären
-> beobachteter Wert erklärt als Linearkombination latenter Faktoren plus Messfehler
Vereinfachen + Zusammenfassen

Question 25

Wie funktioniert die Hauptachsenanalyse?

Answer 25

Elemente der Hauptdiagonale von R werden vorab mit Kommunalitäten geschätzt mittels PCA
->Interkorrelationsmatrix R wobei Hauptdiagonalenelemente um Uniqueness Matrix abgezogen wird
-> Hauptdiagonale Werte < 1
-> davon Ladungsmatrix bestimmt

-> iterative Bestimmung der Kommunalitäten, finale Kommunalitäten erst mit Erreichen der Konvergenz (Kriterium) des Algorithmus bestimmt

-> stukturell gleich wie PCA aber in Hauptdiagonale verminderte Matrix verwendet

Question 26

Wie kann die Lösung einer EFA aussehen?

Answer 26

anders als PCA gibt es nicht immer eine Lösung
- Lösung nur dann hinreichend identifiziert wenn:
- m ≤ (k-1)/2
- m < k

genaue Anzahl an Faktoren kann abhängig von Methode etwas variieren
manchmal konvergiert EFA garnicht oder produziert Heywood-Lösung (erklärte Varianz scheinbar > 1 -> ungültige Lösung)

sonst gleich wie PCA:
- rotieren
- zu niedrig ladende Items exkludieren
- Faktorscores bilden (komplexer als PCA)

Question 27

Welche Methoden gibt es um Faktorscores in der EFA zu bilden?

Answer 27

Regressionsmethode: maximiert Validität der Scores, bildet Korrelationsstruktur der Faktoren nicht getreu ab

Bartlett-Werte: hohe Validität aber keine getreue Abbildung der Korrelationssstruktur, liefert unbiased Schätzer

Anderson-Rubin-Methode: geringere Validität, nicht unbiased aber getreue Abbildung der Korrelationsstruktur in den Faktorscores (empfohlen!)

Alternativen zu Faktorscores:
- ungewichteter Score: Summe oder Mittelwert der Werte in den Variablen mit oder ohne Cutoff für relevante Ladungen
- gewichtete Scores: gewichtete (=Ladung der Faktorlösung) Summe oder Mittelwert der Werte in einzelnen Variablen
mit standardisierten Variablen
(empfohlen)

Question 28

Welche Voraussetzungen haben PCA und EFA?

Answer 28

metrische & multivariat-verteilte Variablen
Methoden haben gewisse Robustheit, werden aber durch alles beeinflusst, insbesondere:
schiefverteilte Variablen (Decken- & Bodeneffekte)
≤5 Abstufungen (boundedness)

Multikollinearität: nicht zu hoch aber auch nicht zu niedrig korreliert

Question 29

Welche Konsequenzen hat die Verletzung von Voraussetzungen von PCA und EFA?

Answer 29

Extraktion artifizieller Faktoren
- zieht scheinbar relevante Faktoren
- Items nach Schiefe oder Schwierigkeit geclustered
- obwohl keine Inhaltliche Bedeutung der Faktoren
- auch parallelanalyse hilft nicht

zu hohe Multikollinearität -> Heywood Fälle

besonders bei Itemanalyse gegeben

Question 30

Wie kann mit Voraussetzungsverletzungen der Verteilungsannahmen PCA und EFA umgegangen werden?

Answer 30

polychorische bzw. tetrachorische Korrelationen
= latente Korrelation normalverteilter Kontinua
unter Annahme normalverteilter Daten-> passt metrisches Messniveau an
Nachteil: kann zu Haywood Lösungen führen

Question 31

Welche Empfehlung gibt es für Itemanalysen?

Answer 31

tetrachorische/polychorische Korrelationen verwenden
Vorsicht
esp. bei Items mit ≤ 5 Stufen
schiefe Verteilungen (Boden u Deckeneffekte)

Question 32

Wie kann die benötigte Stichprobengröße für eine PCA/EFA berechnet werden?

Answer 32

schwer a priori bestimmbar
abhängig von:
- Anzahl der Variablen
- Anzahl der Faktoren
- Größe der Kommunalitäten
- Größe der Ladungen

generell: Stabilität von Lösungen nehmen mit steigendem N zu
Heywood Fälle sind bei großem N seltener

heuristik: mindestens 300
mindestens dreistellig

Question 33

Wie kann in der Faktorenanalyse auf ausreichend korrelierte Variable geprüft werden?

Answer 33

KMO Test
prüft Struktur der Matrix R
Deskriptiv = [0;1]

Wert nahe 0: Variablen korrelieren zu gering -> für FA ungeeignet

Werte nahe 1: Variablen korreliere einheitlich und kompakt -> für FA geeignet

gebräuchlicher Cutoff >.5

Bartlett Test -> eher nicht verwenden
testet gesamte Matrix R auf signifikanz -> eher unreliabel da abhängig von N

Question 34

Was sind indefinite Korrelationsmatrizen? Was ist deren Konsequenz?

Answer 34

Matrizen mit positiven & negativen Eigenwerten
kann bei tetrachorische/polychorische Korrelationsmatrizen auftreten

Faktorisierung produziert ungültige Lösung = Heywood Fall
Ladungen > 1
Uniqueness wäre negativ

treten je häufiger auf:
- je extremer Itemschwierigkeit
- je größer die Ladungen
- je kleiner N

-> mathematische Glättung von Matrizen kann Problem indefiniter Matrizen lösen (=entfernt negative Eigenwerte aus der Matrix)

Question 35

Wie unterscheiden sich EFA/PCA und CFA?

Answer 35

es werden nicht alle Ladungen frei geschätzt sondern im Messmodell werden Nullladungen festgelegt
CFA testet ob das mit Daten vereinbar ist
in CFA wird per default von korrelierten Faktoren ausgegangen

Question 36

Wofür werden Strukturmodelle noch verwendet?

Answer 36

Analyse von Measurement Invariance (MI)
prüft ob Messmodell in unterschiedlichen Gruppen gleichermaßen gültig ist
testet auch auf Gleichheit von Messmodellen über verschiedene Zeitpunkte in derselben Gruppe (longitudinal MI)
-> wesentliche Voraussetzung ist das Mittelwertsvergleiche & Vergleich von Korrelationen zwischen Gruppen fair und unbiased ist
Voraussetzungen:
- configural invariance: gleiches Ladungsmuster
-metric invariance: gleiche unstandardisierte Ladungen
- scalar invariance: gleiche Intercepts (für Mittelwertsvergleiche nötig!! nur dann fair und unbiased)

Multigruppenmodell allgemein
sind Zusammenhänge/Strukturmodelle in unterschiedlichen Gruppen gleich?
-> Alternative zu Moderatoranalysen