Itemanalyse und Itemselektion im Rahmen der KTT Flashcards

1
Q

Was passiert bei der Itemanalyse?

A

Test wird mögl repräsentativen Stichprobe vorgelegt, um Eignung der Items deskriptivstatistisch und evtl faktorenanalytisch zu untersuchen

übliche Kennwerte:
- Itemschwierigkeit
- Itemvarianz -> Differenzierfähigkeit
- Itemtrennschärfe

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Was besagt die Itemschwierigkeit und wie wird sie berechnet?

A

Pᵢ= (Σxᵥᵢ-Nmin(Xᵢ)
/N
(max(Xᵢ)-min(Xᵢ) * 100

Pᵢ….Schwierigkeitsindex eines Items i
N … Anzahl Personen
min (Xᵢ) … minimal möglicher Punktewert des Items
max (Xᵢ) …. maximal möglicher Punktewert des Items

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Was besagt die Itemvarianz und wie wird sie berechnet?

A
  • aus der Statistik bekannte Formeln für Varianz
  • vereinfacht gilt: je größer Varianz um so besser die Diskiminationsfähigkeit

unterschiedliche Formeln für metrische und dichtotome Items (siehe Folie 221)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Was ist die Itemtrennschärfe und wie wird sie berechnet?

A
  • korrelativer Zusammenhang zwischen den Punkten, die von Person v im Item i und den Punkten die Person v im Gesamttest erreicht hat

rᵢ,ₑ=r(Xᵢ,ᵥ, Xᵥ) -> unkorrigiert

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Wie wird die korrigierte Itemtrennschärfe berechnet?

A

Punktezahl im Gesamttest wird um Punktezahl im jeweiligen Item erzielt wurde reduziert

rᵢ,ₑ=r(Xᵢ,ᵥ, Xᵥᵢ) mit Xᵥ*ᵢ= Xᵥ-Xᵥ,ᵢ

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Wie läuft die Itemselektion ab?

A
  • basiert u.a. auf gleichzeitigen Berücksichtigung der ermittelten Testkennwerte
  • auch Ergebnisse der Faktorenanalyse
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Was besagt das Verdünnungsparadoxon?

A

Zusammenhang Itemtrennschärfe, Itemvalidität und Validität des Gesamttests
-> Gesamttestvalidität steigt wenn Itemvalidität steigt ABER Testvalidität nimmt mit hoher Itemtrennschärfe ab —-> Itemtrennschärfe sollte nicht zu hoch sein

val(X)=Σσ(Xᵢ) * val(Xᵢ)
/Σσ(Xᵢ) * ρ

-> wenn Itemvalidität als auch Trennschärfe vorliegt, kann der Quotient (Qᵢ) dafür verwednet werden, welche Items bei einer geplanten Testverkürzung aus einem Test entfernt werden können, um dabei die Testvalidität möglichst groß zu halten

Qᵢ= vâl(Xᵢ)/rᵢ,ₑ

die gewünschte Anzahl von Items mit den geringsten Quotienten wird entfernt

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Welche Schritte der Itemanalyse gibt es?

A
  1. Erstellung der Datenmatrix
  2. Analyse der Itemschwierigkeiten
  3. Bestimmung der Itemvarianzen
  4. Vorläufige Testwertermittlung
  5. Trennschärfeanalyse der Items
  6. Itemselektion auf Basis von Itemschwierigkeit, Itemvarianz und Trennschärfe
  7. Erneute Testwertbestimmung
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Was ist der Schwierigkeitsindex Pi?

A

Quotient aus der erreichten Punktesumme aller n Testpersonen und der maximal errechenbaren Punktsumme aller n Testpersonen

Pᵢ= (Σ[yᵥ-min(yᵢ)] / n*[max(yᵢ)-min(yᵢ)]) * 100

-> Pᵢ Wertebereich zwischen 0 und 100
- Pᵢ umso größer, je mehr Vpn Item lösen konnten
-> numerische Höhe bezeichnet eigentlich die Leichtigkeit des Items, ist gleich dem prozentualen Anteil der auf diese Aufgabe entfallenden richtigen Antworten in Beziehung zur Analysestichprobe von der Größe n
–> Pᵢ bei schwierigen Aufgaben niedrig, bei leichten aufgaben hoch
–> kann als durchschnittliches Ausmaß der Zustimmung auf der k-stufigen Antwortskala interpretiert werden

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Wie unterscheiden sich Schwierigkeitsindex der KTT und (Leichtigkeits)parameter der IRT?

A
  • in KTT so parametrisiert, dass numerische Höhe die Leichtigkeit des Items angibt
  • in IRT so parametrisiert, dass der Parameter tatsächlich die Schwierigkeit des Items kennzeichnet
    (siehe Kap 13 und 16)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Was ist die Itemvarianz?

A
  • Maß für die Differenzierungsfähigkeit eines Items i in Stichprobe
  • Ausprägung der Itemvarianz ist durch Itemschwierigkeit begrenzt: sehr schwierige oder sehr leichte items geben wenig differenzierung, am Besten mittelschwere Items

Var(yᵢ)= Σ(yᵥᵢ-ȳᵢ)²/n -> nicht Formelsammlung

wenn Itemschwierigkeit bekannt:
Var(yᵢ)=Σ(yᵥᵢ-pᵢ*(k-1))² / n -> nicht Formelsammlung

bei zweistufigen Items:
Var(yᵢ)=pᵢ*(1-pᵢ) -> nicht Formelsammlung

-> quadratische Standardabweichung der Items

Itemvarianz steht in Verhältnis zur Itemschwierigkeit

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Wie stehen Itemmittelwert ȳᵢ und Itemschwierigkeit Pᵢ miteinander in relation?

A

ȳᵢ=pᵢ*(k-1)
funktionale Abhängigkeit zu einander

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Was ist Crohnbachs Alpha?

A

besagt wie gut ein item oder eine Gruppe von items in einem Fragebogen ein einziges unilatentes Konstrukt messen
-> inwieweit Items miteinander korrelieren
- Werte zwischen -1 und 1
- ab Alpha>.7 ein akzeptabler Wert

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Was ist Crohnbachs Alpha?

A

besagt wie gut ein item oder eine Gruppe von items in einem Fragebogen ein einziges unilatentes Konstrukt messen
-> inwieweit Items miteinander korrelieren
- Werte zwischen -1 und 1
- ab Alpha>.7 ein akzeptabler Wert

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Was besagt die Itemtrennschärfe?

A

Schätzt wie gut ein Item zwischen Personen mit hoher und niedriger Merkmalsausprägung trennt
-> korrelativer Zusammenhang eines einzigen Items mit dem Gesamttest

Korrelation eines Items i mit dem Gesamtergebnis eines Tests
r(Xᵢ, X) bzw r(Xᵢ, X⁺) mit X⁺=X-Xᵢ
Xᵢ… Werte des items i
X⁺… Gesamtwert des Tests minus Item i -> whole-part Korrektur

-> die Korrelation den Werten des Items i mit dem Gesamtwert des Tests minus des Items i
- Wertebereich liegt zwischen -1 und 1
-> hoher Wert: Item erfasst etwas ähnliches wie Gesamttest
-> nahe 0: Item hat mit restlichem Test wenig gemeinsam
-> negativer Wert: Hinweis auf falsche Polung

-> gibt erste Hinweise ob die einzelnen Items das selbe Merkmal messen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Wie funktioniert die vorläufige Testwertermittlung?

A
  • wenn zum Messen des selben Merkmals mehrere Items konstruiert wurden
  • pro Person vorläufige Zusammenfassung der Testwerte Yv

Yv=Σyvi

Vorliegen von Eindimensionalität ist die wesentliche Grundvoraussetzung

17
Q

Was gibt die Item Trennschärfe an?

A
  • ob und wie gut die Merkmalsdifferenzierung des Items i mit der Merkmalsdifferenzierung, die alle Items gemeinsam leisten, übereinstimmt
  • hohe Trennschärfe gibt Information, kann unterschiedliche Ausprägungen scharf trennen
    rᵢ,ₒ eines Items i drückt aus wie groß der Zusammenhang zwischen Variablen der Itemwerte yᵢ der Testpersonen und der Testvariablen Y ist
  • Wertebereich -1 bis 1
18
Q

Wie wird die Itemtrenschärfe berechnet?

A
  • Korrelation der Punkten von Person v in Item i und den Punkten die von Person v im Gesamttest erzielt werden
    rᵢ,ₒ=r(Xᵢ,ᵥ,Xᵥ) -> unkorrigierte Trennschärfe

part-whole korrigierte Trennschärfe: rᵢ,ₒ=r(Xᵢ,ᵥ,Xᵥ⁺) mit Xᵥ-Xᵢ,ᵥ

19
Q

Wie wird die Itemtrennschärfe interpretiert?

A
  • Werte zwischen ]-1;1[
  • hoch positiv: Item i wird von Personen je nach Merkmalsausprägung symptomatisch beantwortet, Personen mit hoher Ausprägung hoher score, Personen mit niedriger Ausprägung niedriger Score -> kann gut differenzieren
    hohe Varianz begünstigt hohe Trennschärfe
  • nahe 0: Item i hat wenig Zusammenhang mit der Differenzierung durch den Gesamttest; was auch immer Item i misst es ist unabhängig vom gesamt summierten Test
  • hoch negativ: Personen mit niedriger Ausprägung haben hohe scores, Personen mit hohes Ausprägung niedrige Scores -> invers, Hinweis, dass falsch gepolt wurde
20
Q

Wie läuft die Itemselektion ab?

A

Ziel:
1.) Items sollen Items differenzieren können
2.) Items sollen Items die dasselbe messen zusammengefasst werden

  1. Betrachtung Schwierigkeitsindex + Varianz:
    Pi= 50 gute Schwierigkeit da am meisten Info aber auch wichtig ob ganzes Merkmalsspektrum (auch Extremfälle) dargestellt werden soll -> dann auch Items mit Trennschärfe 5 ≤ Pi ≤ 95 wählen, auch wenn die Itemvarianz von Items PI ≤ 20 und Pi ≥ 80 klein ist
  2. Betrachtung Itemtrennschärfe:
    -r(Xᵢ,X)
    - Itemwerte zwischen -1 und 1
    - hohe Werte gut, unterscheiden gut zwischen Fällen
    - Items mit Werten nahe 0 sollten gestrichen werden
21
Q

Was ist bei der Testwertbestimmung X zu beachten?

A

Xᵢ ist die Summe aller Testwerte xᵥ,ᵢ aller Personen v im allen Items i
zu beachten: Itemhomogenität, Eindimensionalität
-> kann mit Faktorenanalyse geprüft werden

22
Q

Was ist die deskriptivstatistische Itemanalyse und welche Maße werden hierfür herangezogen?

A
  • erste empirische Erprobung neu konstruierter Items
  • “Pilotstudie”
  1. Itemschwierigkeit
  2. Itemvarianz
  3. Itemtrennschärfe
23
Q

Welche Methoden zur Testwertinterpretation kennen wir?

A

Zur Interpretation müssen Testwerte in Maßstab gesetzt werden
- normorientierte Interpretation = Realnorm:
relativ zur Bezugsgruppe, Testnorm bezieht sich nur auf relative Position in Bezugsgruppe
- kriteriumsorientierte Interpretation = Idealnorm
theoretische Vorstellungen darüber wie das Beantworten bestimmter Aufgaben mit genau definierten Kriterien in Zusammenhang steht

24
Q

Wie funktioniert die normorientierte Testwertinterpretation?

A

-> Test Wert (Rohwert) wird in Normwert umgewandelt
nichtlineare Transformation: PR
-> benötigt nur kumulierte Häufigkeiten
-> benötigt keine Normalverteilung
ABER: darf nicht intervallskaliert interpretiert werden, keine Differenzbildung, keine Verhältnisse
PR= 100 * (freq(kumuliert) / N)
–> Prozentrang Normtabelle

lineare Transformation: z-Transformation
-> intervallskaliert vorausgesetzt aber beliebig verteilt
- standardisierter Mittelwert und Standardabweichung
z= y-ȳ / s(y)
Mittelwert von z = 0
s(z)= 1
z - Wert = Standardwert