9. VL. Validität 2: Konstruktvalidität und MTMM Flashcards

1
Q

Nenne die 5 Gründe für eine mangelnde Kriteriumsvalidität!

A
  1. Eingeschränkte Streuung
  2. Test-Bias & Fairness
  3. Teaching to the Test
  4. Multiple Kriterien
  5. Partielle Inkompatibilität zwischen Relliabilität und Validität
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q
  1. Was ist mit “eingschränkter Streuung” gemeint und wie kann es korrigiert werden?
A

Je kleiner die Stichprobe, desto Wahrscheinlicher ist der Einfluss der Zufallsvarianz.

Korrektur: Minderungskorrektur! Wie wäre die Korrelation ohne eingeschränkte Range? “als ob kein Messfehler”

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q
  1. Was ist mit “Test-Bias & Fairness” gemeint und wie wird es korrigiert?
A

Test kann für verschiedene Gruppen unterschiedlich schwer sein, kann zu Bevorzugung bzw. Benchteiligung führen.

Korrektur: Kulturfreie Tests

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q
  1. Was ist mit “Teaching to the Test” gemeint?
A

Validität ist gefährdet, falls gezielt auf den Test hin gearbeitet wird. Es werden damit nicht die Kompetenzen gemessen.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q
  1. Was ist mit “multiplen Kriterien” gemeint?
A

Variablen, die man voraussagen will, sind oft multivariat. Man muss sich entscheiden, welche externen Kriterien am wichtigsten sind.

Korrektur: Festlegung der Aussenkriterien

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q
  1. Was ist mit “Partieller Inkompatibilität zwischen Reliabilität und Validität” gemeint?
A
  • Grosse Homogenität: Hohe Reliablität aber nicht unbedingt hohe Validität (bei komplexeren Konstrukten)
  • Heterogene Tests: Können hohe praktische Validität haben, aber Gefahr von (relativ) niedriger Reliabilität

Korrektur: Kombination homogener Subtests für heterogenes Konstrukt. Damit wahren die Subtests/Einzelskalen die Reliabilität = Annäherungsläsung

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Was ist die Konstruktvalidität?

Welche 3 Kernaspekte gibt es dazu?

A

Die Konstruktvalidität misst, ob ein Verhalten in einem Test auf das theoretische Konstrukt zurück geführt werden kann.

Wichtigste Konzept der Validität!

3 Kernaspekte:

  • iterativer Prozess
  • faktorielle, konvergente / divergente Konstruktvalidität
  • nomologisches Netz
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Was ist mit “Konstruktvalidität ist ein kontinuierlicher iterativer Prozess” gemeint?
Wie läuft dieser Prozess ab?

A
  • Empirisch-sozialwissenschaftlicher Ansatz und hypothetisch-deduktive Vorgehensweise!

Vorgehensweise:

  1. Konstrukt definieren
  2. Instrument/Verfahren entwickeln
  3. Beziehung zu anderen Tests oder Konstrukten zeigen
  4. Schauen ob der Test Verhalten/psychische Prozesse voraussagen kann

Wichtig ist die Gesamtheit der Belege oder Beweisführung! (Methodenvielfalt)

Merke: Konstruktvalidität kann nie eindeutig belegt werden.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Erkläre das Nomologische Netz!

A

Gilt als Kernkonzept der Konstruktvalidität!

Bestandteile eines nomologischen Netzes:

  • Theorie über latentes Konstrukt
  • beobachtete Variable
  • Korrespondenzregeln

Ziel der Konstruktvalidierung: Korrektheit des nomologischen Netzes schrittweise überprüfen.

Vorgehen:

  1. Aufgrund der Theorie und Literatur die Beziehungen (konv./div) zw. Konstrukten angeben
  2. Anhand der Theorie überprüfbare Hypothesen ableiten
  3. Überprüfung / Nachweis

Stimmen theoretische Voraussagen und empirische Beobachtungen überein = Korrektheit nomologisches Netz = vorläufige Bestätigung!
Aber: Da es sich um eine hypothetisch-dedutktive Theorie handelt, kann die Konstruktvalidität nie abschliessend bestätigt werden (nur so lange bis sie falsifiziert wurde)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Welche 3 Arten der Konstruktvalidierung können unterschieden werden?

A
  1. Faktorielle Konstruktvalidität
  2. Konvergente Konstruktvalidität
  3. Divergente Konstruktvalidität
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q
  1. Erkläre die Faktorielle Konstruktvalidität!

Annahme?

A

Überprüfung der internalen Struktur des Tests mittels Faktorenanalyse als Teil der Konstruktvalidierung.

Annahme: Die Zusammenhänge aller Items sind auf ein gemeinsames, nicht beobachtbares, Merkmal (Konstrukt) zurück zu führen.
–> Annahme wird mittels Faktorenanalyse empirisch geprüft! (Laden alle Items auf demselben Faktor?)

Wenn die angenommene Struktur gefunden wird, dann kann von faktorieller Validität gesprochen werden.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Faktorielle Konstruktvalidität:

Was sind die Ziele?

Welche beiden Klassen gibt es?

A

Ziele:

  • Definition der Dimension
  • Überprüfung der Konstruktvalidität (nur Struktur!)
  • Datenreduktion: Möglichst viel gemeinsame Varianz durch möglichst wenige Faktoren erklären

Klassen:

  1. Exploratorische Faktorenanalyse
  2. Konfirmatorische Faktorenanalyse
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Erfasst die faktorielle Konstruktvalidität den Inhalt oder die Struktur?

A

Die Struktur! Die inhaltliche Dimension wird nicht erfasst!

= dennoch: Notwendige Voraussetzung für Konstruktvalidität

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Erkläre die Konvergente Konstruktvalidität!

Was ist der Unterschied zur Kriteriumsvalidität?

Wie kann sie gemessen werden?

A

Übereinstimmung bzw. hohe Korrelation mit anderen Tests, die dasselbe Merkmal messen!

Ähnlich wie Kriteriumsvalidität, aber hier bekommt der Test die Bedeutung durch die Assoziation mit anderen Variablen.

Messen durch:

  • Korrelation mit anderen Massen, die dasselbe messen
  • durch Relation zu Variablen die damit verbunden sein sollen
  • erwartete Reaktion oder Veränderung bei Eingriff / Behandlung / Manipulation
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Erkläre die Divergente / Diskriminante Konstruktvalidität!

Was ist das Ziel?

A

Kein oder niedriger Zusammenhang mit Variablen / Tests die ein anderes Merkmal/Konstrukt messen.

Ziel: von anderen Merkmalen abgrenzen, nicht nur von konstruktfremden, sondern auch von relativ konstruktnahen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Wofür werden die divergente und die konvergente Konstruktvalidität später gebraucht?

A

Für den MTMM

17
Q

Was ist die MTMM und was misst sie?

A

Methode zum Nachweis der Konstruktvalidität eines Test!

Beinhaltet systematische Kombination von mehreren Merkmalen/Traits und mehreren Messmethoden.

18
Q

Welche 3 Formen gibt es in der MTMM?

A

Multitrait - Multimethod: Mehrere Methoden
Multitrait - Multiinformant: Mehrere Beurteiler
Multitrait - Multioccasion: Mehrere Messzeitpunkte

19
Q

Was ist das Problem der Methodeneffekte?

A

Einfluss der Methode kann Korrelation künstlich erhöhen! = Daher sollen die Einflüsse der Methode kontrolliert werden! Und daher brauchen wir die MTMM!

20
Q

Wo liegt die Quelle der Methodenvarianz und wie können sie kontrolliert werden?

A

Messinstrumente: Zusammenhänge werden stärker, wenn dieselbe Methode verwendet wird!
Kontrolle: Multitrait-Multimethod

Beurteiler: Beurteiler nimmt systematischen Einfluss auf die Beziehung zwischen Merkmalen.
Kontrolle: Multitrait-Mulitinformant

Kontext (Occasion): kontextspezifischer Bias aufgrund von verschiedenen Situationen.
Kontrolle: Multitrait-Multioccasion

21
Q

Was muss getan werden, damit Methodeneffekte isoliert werden können?

Welche Voraussetzungen definierten Campbell & Fiske?

Was ist die Grundidee?

A

Um Methodeneffekte isolieren zu können, sollen strukturell unterschiedliche Methoden eingesetzt werden.

Grundvoraussetzung:
konvergente und diskriminante Validität

Grundidee: Messung von verschiedenen Konstrukten sollen weniger miteinander korrelieren als Messungen von gleichen Merkmalen. (auch wenn mit vers. Methoden gemessen.)

22
Q

Erkläre noch einmal konvergente und diskriminante Validität.

A

Konvergente Validität: gleiches Konstrukt mit verschiedenen Methoden messen.
= hohe Korrelation von Messungen des gleichen Merkmals über verschiedene Methoden hinweg

Diskriminante Validität: verschiedene Konstrukte mit gleicher Methode messen.
= niedrige Korrelation der verschiedener Merkmale trotz derselben Methode!

= Valide, wenn die beiden gegeben sind und damit ein möglichst geringer methodenspezifischer Anteil herrscht!

23
Q

Erkläre die 4 Arten der Korrelationskoeffizienten!

A
  1. Monotrait-Monomethod
  2. Monotrait-Heteromethod: Konvergente Validität
  3. Heterotrait-Monomethod: Divergente Validität
  4. Heterotrait-Heteromethod: Divergente Validität
24
Q

Gebe den Nachweis konvergenter Validität!

A

Konvergente Validität soll sich signifikant von 0 unterscheiden und hoch sein.

Wenn nicht, dann werden mit unterschiedlichen Methoden auch unterschiedliche Konstrukte gemessen.

Nachweis:

a) MTHM > HTMM (= konv. > disk.)
b) MTHM > HTHM (= konv. > disk.)
c) Muster der Korrelationen sollten innerhalb sowie zwischen den Methoden ähnlich sein

25
Q

Welche Kritik gibt es an die MTMM?

A
  • gut für einen groben Überblick über die Datenstruktur
  • Aber: Sehr viele Einzelvergleiche von Korrelationskoeffizienten
  • sehr viel subjektiver Spielraum in der Interpretation
  • mathematisch anspruchsvoll - Modelle können manchmal nicht gerechnet werden
26
Q

Was sind die Vorteile und Anforderungen an die MTMM?

A

Vorteile:
Trait-, Methoden- und Fehlervarianz können genau berechnet werden unter Einbezug aller Variablen, nicht nur bivariate Korrelation.

Anforderungen:

  • Mindestens 3 Traits ind 3 Methoden (besser 4 Traits)
  • besser konfirmatorische MTMM- Analyse