12. VL Probabilistische Theorie (IRT): Rasch-Modell Flashcards

1
Q

Womit befasst sich die Testtheorie?

A

Mit der Frage, wie empirische Testwerte und die zu messenden tatsächlichen Merkmalsausprägungen zusammenhängen.
Testtheorien definieren die Anforderungen, denen ein Test genügen muss, um aufgrund eines Testergebnisses auf die tatsächliche Ausprägung des getesteten Merkmals schliessen zu können.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Womit befasst sich die KTT?

A
  • Annahme, dass Testergebnis direkt (wenn auch mit Messfehlern) dem Ausprägungsgrad des wahren Merkmals entspricht –> deterministische Beziehung
  • analysiert werden Itemzusammenhänge (bleibt auf Messebene)
  • Testwert entspricht dem Testscore (Schätzung des Messfehlers)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Womit befasst sich die IRT?

A
  • indirekter Zusammenhang: IRT postuliert peobabilistische Beziehung zwischen Itemantwort und Merkmalsausprägung (explizite Unterscheidung zwischen Merkmals- und Testscore)
  • analysiert wird Wahrscheinlichkeit von Itemantwortmuster bei gg. Fähigkeit/Merkmal
  • Der Testwert stellt eine individuelle Schätzung des Personenparameters dar.
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Worin liegt der Hauptunterschied zwischen KTT und IRT?

A

Bei der IRT gibt es eine festgelegte Funktionsform, die empirisch darauf geprüft werden kann, ob sie auch tatsächlich vorliegt.

Die KTT liefert auf die Frage nach der Konstruktvalidität keine geeigneten Antworten. Die IRT befasst sich explizit mit den Rückschlüssen auf das interessierende Merkmal.

IRT als Ergänzung der KTT.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Von was geht die IRT aus?

A

Wenn das manifeste Antwortverhalten tatsächlich der latenten Variable entspricht, dann zeigt sich dies in der Korrelation zwischen manifesten Variablen.

Dabei hängt die Wahrscheinlichkeit, ein Item zu lösen von der Merkmalsausprägung ab. (Fokus auf Antwortmuster) –> empirisch überprüfbar

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Beschreibe die IC-Kurve. Was beschreibt sie?

Wovon hängt die Lösewahrscheinlichkeit ab?

A

Itemanalyse: IC-Funktion beschreibt die Wahrscheinlichkeit, dieses Item zu lösen in Abhängigkeit von der Merkmalsausprägung!

Lösewahrscheinlichkeit hängt von …. ab.

  1. Personenparameter und
  2. Itemparameter
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Wozu dient die IRT?

A
  • Konstruktvalidität eines Testes unterstützen (Eindimensionalität)
  • Itemhomogenität empirisch überprüfbar
  • stichprobenunabhängige Parameterschätzung
  • Skalierbarkeit des Tests überprüfen (direkte Aussagen, wie die Antworten mit dem Trait zusammenhängen)
  • Test von Differential Item Functioning, d..h unterschiedliches Antwortverhalten in Gruppen mit gleichem Wert auf dem Trait
  • methodische Grundlage für das adaptive Testen
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Wann ist die KTT ausreichend und wann ist die IRT nötig?

A
  • Für Anwendungsfragestellungen, v.a hinsichtlich Kriteriumsvalidität ist die KTT ausreichend
  • Für inhaltlich-theoretische Fragestellungen der Konstruktvalidität (inkl. Dimensionalität und Homogenität der Items) ist IRT nötig
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Erkläre das Prinzip des adaptiven Testen: Was ist die Voraussetzung für die Vergleichbarkeit?

A

Je nach Leistung bekommen die Probanden unterschiedliche Items.

Voraussetzung für die Vergleichbarkeit:
Items müssen einem IRT-Modell (am Besten einem Rasch-Modell) entsprechen, d.h. Items sind homogen = alle messen dasselbe Konstrukt.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Beschreibe die Itemhomogenität als Grundlage der IRT.

A

IRT: Wenn das manifeste Verhalten tatsächlich der latenten Variable (Konstrukt) entspricht, dann zeigt sich dies in der Korrelation zwischen manifesten Variablen.

d.h. Alle Items müssen die gleiche latente Variable (Konstrukt) messen = Eindimensionalität!

Latente Variable also als “Ursache” für die Korrelation zwischen den manifesten Variablen.

  • notwendige Bedingung: Vorliegen mehrerer untereinander korrelierender manifester Variablen (Items). Problem: Korrelation könnte auch durch etwas anderes verursacht worden sein.
  • hinreichende Bedingung: Vorliegen von Itemhomogenität bzgl. der latenten Variable.
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Wie wird die Itemhomogenität überprüft?

A

Um zu beweisen, dass die manifesten Variablen korrelieren und die Itemhomogenität gegeben ist, muss die lokale stochastische Unabhängigkeit bewiesen werden.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Erkläre die lokale stochastische Unabhängigkeit als Grundlage der IRT.

Was ist die Annahme?
Wofür ist die latente Variable verantwortlich?

A

Annahme: Es handelt sich um genau eine latente Variable (Konstrukt)

Diese latente Variable ist für das Zustandekommen der Antworten auf bestimmten Items verantwortlich und produziert daher deren beobachtbaren Zusammenhang (Korrelation).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Wie kann die lokale stochastische Unabhängigkeit bewiesen werden?

A

Nullkorrelation: Wenn man das Konstrukt ausschaltet (konstant hält) dann sollen die Zusammenhänge zwischen den manifesten Variablen verschwinden! Nur dann ist es ausschliesslich auf das Konstrukt zurück zu führen.

Ist die LSU gegeben, dann werden aus manifesten Variablen Indikatoren.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Wie kann man die Nullkorrelation erreichen?

A

Durch das Mulitplikationstheorem:

  • Bei unabhängigen Ereignissen ist die Verbundswahrscheinlichkeit der Ereignisse gleich der Multiplikation der Einzelwahrscheinlichkeiten der Ereignisse.
  • Bei abhängigen Ereignissen: Die Verbundswahrscheinlichkeit ist grösser als die Multiplikation der Einzelwahrscheinlichkeiten. (Lösen von Item i erhöht die Wahrscheinlichkeit für das Lösen von Item j).
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Sollte für die lokale stochastische Unabhängigkeit Abhängige oder Unabgängige Ereignisse angezielt werden?

A

Unabhängige Ereignisse:

Wenn die latente Variable konstant gehalten wird, dann sollten alle Personen die gleiche Lösungswahrscheinlichkeit bzgl. der Items aufweisen.
Die Korrelation verschwindet damit!

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Erkläre die IC-Funktion. Was stellt sie dar?

A

Darstellung der Beziehung zwischen manifestem Antwortverhalten und der Ausprägung der latenten Traits.

Die IC-Funktion zeigt die Lösungswahrscheinlichkeit in Abhängigkeit des Schwierigkeitsparameter der Items und der individuellen Ausprägung der latenten Variable (Personenparameter).

17
Q

Welche 3 Modelle nach Anzahl Parameter gibt es?

A
  1. Einparameter: Rasch-Modell. Antwortwahrscheinlichkeit einer Person hängt vom Itemschwierigkeitsparamter ab
  2. Zweiparamtere: Birnbaum-Modell. Antwortwahrscheinlichkeit einer Person hängt vom Itemschwierigkeitsparameter und Itemsdiskriminationsparamter ab
  3. Dreiparameter-Modell. Rate-Modell von Birnbaum.
    Antwortwahrscheinlichkeit einer Person hängt von Itemschwierigkeit, Itemdiskrimination und Rateparameter ab.
18
Q

Erkläre das Rasch-Modell.

A
  • einfachste und vorteilhafteste Lösung
  • Lösungswahrscheinlichkeit in Abhängigkeit der Itemschwierigkeit
  • nimmt für alle Items dieselbe logistische IC-Funktion an
19
Q

Erkläre die Merkmale des Rasch-Modells (3) und die Schritte (2).

A

Merkmale:

  • Itemschwierigkeitsparameter
  • Itemdiskriminationsparameter (konstant)
  • Spezifische Objektivität

Schritte:

  1. Parameterschätzung
  2. Modelltest
20
Q

Erkläre die Joint-Scale!

A

Itemschwierigkeit: Merkmalsausprägung bei der die Lösungswahrscheinlichkeit für Item i 0.5 beträgt.
= gibt dort einen Wendepunkt.

Gibt Personen- und Itemparameter. Von der Ausprägung der beiden soll nun wiederum probabilistisch abhängen, ob ein Item gelöst werden kann oder nicht.

Fähigkeit = Schwierigkeit : .50
Fähigkeit > Schwierigkeit : > .50
Fähigkeit

21
Q

Erkläre die 1. Parameterschätzung!

Was ist das Problem? Was ist die Ausgangslage?

A

Problem: Personen- und Schwierigkeitsparameter unbekannt (nur Schätzung möglich)

Ausgangslage: Datenmatrix, Parameter können aus Zeilen- und Spaltenscores geschätzt werden.

kleinster Wert: leichtestes Item und geringste Fähigkeit
grösster Wert: schwierigstes Item und höchste Fähigkeit

22
Q

Was wird bei der Parameterschätzung gesucht?

Was untersucht die Likelihood-Funktion?

A

Gesucht:
Optimale Schätzung für Parameter. Nicht die absoluten Werte sondern die Rangreihenfolge ist wichtig.

Likelihood-Funktion: Überprüft, mit welcher Wahrscheinlichkeit die Schätzungen zu den Daten passen.
Hohe LHF: gute/ günstige Schätzung
Tiefe LHF: ungünstige Schätzung

Aber: Likelihood-Funktion ist kein statistisches Prüfverfahren!

Parameterschätzung wird so lange weiter gemacht, bis die beste Likelihood-Funktion gefunden wurde!

23
Q

Erkläre 2. den Modelltest!

Was überprüft er? Wie ist das Vorgehen?

A
  • überprüft die Güte der Annahme

Vorgehen:

  1. Graphischer Modelltest:
    - Für 2 Stichproben werden getrennt die Itemparameter geschätzt
    - je näher die Punkte an der Diagonalen (=Konstrukt?) liegen, desto grösser die Stichprobenunabhängigkeit und desto eindeutiger die Rasch-Homogenität
  2. Likelihood-Quotient-Test:
    - Parameterschätzung für 2 Substichproben
    - Signifikanztest auf Unterschiedlichkeit
    - beibehalten der H0 (nicht signifikant) spricht für Modellkonformität
24
Q

Erkläre die Spezifische Objektivität im Rasch-Modell.

A

Bei Rasch-homogenen Items haben alle IC-Kurven dieselbe Form. Aber: parallele Verschiebung möglich –> d.h. man kann Leute mit unterschiedlichen Items testen und vergleichen.

= bildet die Grundlage für das adaptive Testen!

25
Q

Birnbaum-Modell: Beschreibe den Itemdiskriminationsparameter

A

Definition: Mass für Sensitivität der Items für Merkmalsunterschiede. Berücksichtigt, dass Items unterschiedlich gut zwischen schwächeren und stärkeren Merkmalsausprägungen trennen können. (wie Trennschärfe in der Itemanalyse).

Bestimmt die Steilheit der IC-Funktion. Je steiler, desto höher die Diskrimination (Steigung am Wendepunkt der IC-Funktion).

(Im Rasch-Modell ist der Diskriminationsparameter konstant)

26
Q

Erkläre das Rate-Modell von Brinbaum.

Was ist die Iteminformationsfunktion?

A

Iteminformationsfunktion gibt an, wie hoch der Informationsgehalt eines Item i bzgl. der Diskrimination zwischen verschiedenen Merkmalsausprägungen ist.

bzw. je grösser die Steigung der IC-Funktion am Punkt der Merkmalsausprägung, desto höher der Gewinn an Information.

Geht darum, wie hoch der Informationsgehalt ist bzw. wie viel auf das Raten zurückgeführt werden kann.

27
Q

Was sind die Vorteile der IRT?

A
  1. Bessere Testkonstruktionen als KTT v.a. auf Itemebene:
    - Modellpassung Items überprüfbar
    - Skalierung des Tetsts überprüfbar
    - Itembias zwischen Gruppen identifizieren
    - hinzufügen homogener Items
    - neutrale Mittelwerte
    - untypische Antwortmuster idenitifizieren
  2. Konstruktvalidität: Eindimensionalität kann überprüft werden
  3. Reliabilität kann genauer geschätzt werden
  4. Stichprobenunabhängigkeit der Parameter
  5. Intervallskalenniveau der Parameter
28
Q

Wo ist die IRT unabdingbar?

A

Bei Computer-basierter Testanwendung:

  • adaptives Testen
  • parallele Tests
  • Entwicklung von Forced Choice Fragebogen
29
Q

Wo ist die IRT interessant?

A
  • für inhaltlich-theoretische Fragestellungen der Konstrukrvalidität oder Evaluation der bestehenden Tests
  • Übersetzung von Tests
  • Test bei denen Präzision wichtig ist und Cut-Off-Werte benutzt werden
30
Q

Was sind die Nachteile der IRT?

A
  • enormer Testkonstruktions-Mehraufwand
  • sehr grosse Stichprobe notwendig
  • spezielle Computerprogramme nötig
  • schmaler Merkmalsbereich