Hoofdstuk 8 deel4 Flashcards
In welke onderzoeken wordt er steeds nagegaan of een bepaalde test geschikt is voor een
specifieke voorspellingsdoel.
Antwoord.
Valideringsonderzoek, de opvatting dat de predicatieve validiteit in hoge mate
situatispecifiek is , heeft aanleiding gegeven tot duizenden validersingzonderzoeken.
De opvatting dat de predictieve validiteit in hoge mate situatiespecifiek is, heeft aanleiding gegeven
tot duizenden valideringsonderzoeken. Wat is juist
1 Men gaat ervan uit dat predictieve validiteit niet varieert over wisselende combinaties van
voorspellende tests en te voorspellen criterium.
2Men gaat ervan uit dat predictieve validiteit varieert over wisselende combinaties van
voorspellende tests en te voorspellen criterium.
2
Methode Schmidt en Hunter beantwoorden in hoeverre predictieve validiteit daadwerkelijk zo
situatiespecifiek is en in hoeverre gebleken validiteit kan worden gegeneraliseerd:
* Situatiespecificiteit: voor alle combinaties van een specifieke test en gedragingen in een specifieke
functie worden op basis van vakliteratuur de beschikbare validiteitscoëfficiënten verzameld. Deze
worden opgevat als de waarden van een variabele en van deze waarden wordt de standaarddeviatie
bepaald. De standaarddeviatie geeft de variatie in gevonden validiteitscoëfficiënten van een bepaald
type tests over praktische toepassingen. Daarna wordt de standaarddeviatie gecorrigeerd voor
veronderstelde methodologische fouten (steekproeffouten, onbetrouwbaarheid van predictoren en
criteria en beperking van de variatiebreedte of ‘restriction of range’. Wanneer de resulterende
21
standaarddeviatie van de validiteitscoëfficiënten na de correctie gelijk is aan 0, betekent dit dat de
validiteit van de tests niet verschilt over selectiesituaties en dat de hypothese van situatiespecificiteit
verworpen kan worden. Uit onderzoek blijkt dat validiteitscoëfficiënten vaak weinig situatiespecifiek
zijn en generalisatie over organisatie, geografische gebieden, functies en tijdvakken dus mogelijk is.
* Generaliseerbaarheid naar nieuwe voorspellingssituaties: e wordt een schatting gemaakt van de
methodologische fouten (= effectiviteit) die kan worden opgevat als de representatieve validiteit
binnen een specifieke categorie van tests en functies. Op basis van onderzoek naar
validiteitsgeneralisatie blijkt dat de effectiviteit groot genoeg en de resterende variantie klein genoeg
is om in 90%-95% van de nieuwe toepassingen een positieve validiteit te verwachten. Voor tests voor
cognitieve vaardigheden zou er zelf helemaal geen situatiespecificiteit zijn, de validiteit is dan
constant over situaties.
Kritiek op de methode van Schmidt en Hunter:
- Ingewikkelde criteria zoals beroepssucces zijn op veel te eenvoudige manieren gemeten. Slecht
geoperationaliseerde criteria leidt tot te lage validiteiten met te weinig spreiding. Met betere
metingen zou de mogelijkheid van situatiespecificiteit niet verworpen worden. - De correctie van de standaarddeviatie van validiteitscoëfficiënten is vaak te groot. Zo blijken de
methodologische fouten (steekproeffouten, onbetrouwbaarheid van predictoren en criteria en
beperking van de variatiebreedte) soms meer dan 100% van de variantie te verklaren, met
uitschieters boven 200%
Wat stellen Schmidt, Hunter en Caplan mbt de invloed van kleine steekproeven op de verdeling
van de validiteitscoefficienten vs de effecten van meetfouten in predictor- , criteriumscores en van
variatiebeperking? P365
a invloed van kleine steekproeven is groter
b invloed van grote steekproeven is groter
invloed van kleine steekproeven is groter
Hoe kan effectiviteit worden opgevat in het kader van de toetsing van generaliseerbaarheid van
validiteit? P366
De representatieve validiteit binnen een specifieke categorie van tests en functie
Welke ondergrens wordt meestal aangehouden voor de validiteit binnen een bepaalde categorie
van tests en functies?
l.
Het tiende percentiel
Wanneer is er sprake van situatiespecificiteit? P366
1 Wanneer de standaarddivatie van de validiteitscoëfficiënten na correctie van de methodologische
fouten niet gelijk aan nul.
2 Wanneer de standaarddivatie van de validiteitscoëfficiënten na correctie van de methodologische
fouten niet gelijk zijn aan nul.
2
Wat stelt Schmidt op vasis van het empirisch onderzoek naar validiteitsgeneralisatie voor tests van
cognitieve vaardigheden? P366
1 Dat de gecorrigeerde standaarddeviatie niet gelijk is aan nul (geen situatiespecificiteit) en
dus generaliseerbaar is.
Dat de gecorrigeerde standaarddeviatie gelijk is aan nul (geen situatiespecificiteit) en dus
generaliseerbaar is.
2
Waar houdt het onderzoek naar predictieve validiteit zich mee bezig.
Antwoord.
De selectie van de voor de voorspelling beste predatoren
Hoe kunnen de beste predictor worden vastgesteld.
Antwoord.
Regressienalayse
Wat is juist.
1 predicotren die hoog collereren met het criterium en laag met andere predictoren
leveren een unieke bijdrage aan de voorspelling en krijgen een zwaar gewicht
2 predicotren die laag collereren met het criterium en hoog met andere predictoren
leveren een unieke bijdrage aan de voorspelling en krijgen een zwaar gewicht
Antwoord
1
Wie voerde het begrip construct validity in.
Antwoord.
Cronhach en Meehl. Dit voerde ze in om de testpsychologie te redden uit het slop van
inhoudsloze correlatierekening.
Dit is met oog op het wetenschappelijke onderbouwing van het meten met behulp van
tests een onmisbaar van tentconstructie. Wat men hier doet is door middel van emperish
onderzoek achterhalen wat de test precies meet.
Antwoord.
Bergripsvalidering.
Het onderzoek naar predictieve validiteit houdt zich bezig met de selectie van de voor de
voorspelling beste predictoren, dit kan obv regressie analyse. Soms zijn verbanden van tests met
criteria heel duidelijk (bvb numerieke test voor rekenprestaties) en soms niet. Construct validity of
begripsvalidering is een onmisbaar onderdeel van testconstructie, omdat:
- Blind toepassen van een test omdat deze nu eenmaal werkt, zonder te weten waarom, leidt niet
tot inzichten. - Blind afgaan op de grootste correlaties impliceert dat men alle predictoren moet onderzoeken,
wat onmogelijk is. - Er kan sprake zijn van een unieke of zeldzame situatie, waarvoor niet of nauwelijks een criterium
vast te stellen is, bvb nieuwe functie waarmee nog geen ervaring is opgedaan. Indien er wel inzicht is
in de psychologische betekenis van testgedrag, kunnen toch enkele hypotheses geformuleerd
worden - Een psycholoog die zonder theorie een motiverende beschrijving probeert te maken van een cliënt
zal snel vastlopen. - Betekenisanalyse en begripsvaliditeit bieden de mogelijkheid om het sacrosancte criterium van zijn
voetstuk te halen en te analyseren. Vooral als men nauwkeurig weet wat een test meet, geeft
onderzoek naar de relatie van de test met een gegeven criterium veel informatie over de aard en
betekenis van dat criterium.
De conclusie is dat predicatieve validiteit en onmisbaar begrip is voor de praktijk van het
voorspellend testgebruik maar dat een test pas een werkelijk nuttige functie krijg, zowel in
wetenschappelijk als praktisch opzich als met deze empirische correlaties tevens een begripsanalyse
gepaard gaat.
Betekenis en begripsvaliditeit.
Aan begripsvalidering gaat meestal een process van betekenisanalyse vooraf, In de betekenisanalyse
worden dezelfde fases doorlopen als in de theorievorming en de toetsing van theorieën in algemene
zin:
- Creatieve fase: hypothetische theorie opstellen die het testgedrag kan verklaren. Dit moet
ondubbelzinnig te onderzoeken zijn. - Theorie bevestigen (begripsvalidering) door een concrete voorspelling te doen.
Gaat het volgende over de creatieve fase of over de theorie bevestigen.
Er wordt gezoxht naar plausibele verklaringen, hierbij zijn de procedure en de methode niet
voorgeshreven en bindend,
Antwoord,
Creatieve fase,