Gezondheidsbevordering thema 5 Flashcards
Evaluatie is een belangrijk onderdeel van het model voor planmatige gezondheidsvoorlichting en gedragsverandering. Wat zijn belangrijke redenen voor evaluatie?
Belangrijke redenen voor evaluatie zijn ‘leren voor de toekomst’, ‘verantwoording’ en ‘theorievorming’.
Leren voor de toekomst?
Van evaluatie kan geleerd worden wat wel en niet effectief is en hoe interventies effectiever gemaakt kunnen worden. Wanneer uit een effectevaluatieonderzoek blijkt dat – en onder welke omstandigheden – een bepaalde interventie effect heeft, kan deze in de toekomst vaker of op
grotere schaal ingezet worden. Idealiter wordt een interventie, of worden interventieonderdelen eerst gepretest en daarna getoetst. Pas als de resultaten van dat veldonderzoek ook gunstig zijn, zou de interventie op grote schaal moeten worden uitgevoerd en verspreid en ook die
implementatie en verspreiding verdienen een goede evaluatie.
Verantwoording?
Interventies ter bevordering van gezond gedrag kosten geld en menskracht; een evaluatieonderzoek vertelt ons of die middelen nuttig en efficiënt zijn ingezet. Daarom is evaluatieonderzoek ook steeds vaker een economische evaluatie.
Verbetering van interventietheorie?
Het gaat om het vergaren van meer algemeen kennis over interventies en daarmee op het verder ontwikkelen van de interventietheorie. Op de ontwikkeling dus van meer algemeen geldende inzichten in wat voor interventiemethodieken en - technieken waar, voor wie en wanneer effectief zijn. Ook inzicht in waarom interventies effectief zijn, is in dit kader belangrijk. Voor het verkrijgen van dergelijk inzicht is het verstandig om niet alleen de
uiteindelijke gedragsdoelen te meten, maar ook de intermediaire leerdoelen. Op die manier kan worden geanalyseerd of gedragsverandering ook echt via verandering in de beoogde gedragsdeterminanten is gerealiseerd.
Wanneer evalueren?
Evalautie hoort idealiter gericht te zijn op zowel de planning, uitvoering als effecten van de interventie en begint daarom al vanaf het moment van interventieontwikkeling. Het is daarom belangrijk om tijdens de planning van de interventie duidelijke interventiedoelen en een goed interventieplan
te ontwikkelen, zodat de evaluatieonderzoeker later na kan gaan of de doelen zijn bereikt en of de uitvoering volgens plan is verlopen. Het is daarom belangrijk dat de evaluatieonderzoeker al vóór implementatie van de interventie wordt betrokken om er zeker van te zijn dat haalbare en meetbare doelen worden gesteld en om een goede voormeting te doen.
Wanneer kunnen de resultaten van een effectevaluatie kunnen alleen goed worden geïnterpreteerd?
De resultaten van een effectevaluatie kunnen alleen goed worden geïnterpreteerd als ook bekend is of de interventie wel is gepland en uitgevoerd zoals bedoeld. Onderzoek dus naar noodzakelijke voorwaarden voor effect. We spreken dan van procesevaluatie. Alleen met een geïntegreerde
combinatie van effect- en procesevaluatie kunnen de effecten en de randvoorwaarden voor effect goed worden onderzocht en kan bepaald worden of het zinvol is om de interventie op grote schaal in te zetten.
RE-AIM is een raamwerk waarin verschillende belangrijke evaluatiedoelen worden erkend. Waar staat de afkorting voor?
R Reach. Bereik. Het aantal, de proportie en representativiteit van de mensen die bereikt worden met, en participeren in een interventie; de mate van blootstelling aan interventiematerialen en –onderdelen.
E Efficacy. (Tussen) effecten onder ideale omstandigheden. Het effect van een interventie op belangrijke uitkomstmaten zoals verandering in determinanten van gedrag, gezondheid en/of de kwaliteit van leven, wanneer de interventie onder ideale omstandigheden wordt uitgevoerd. Ook economische evaluatie onder gecontroleerde omstandigheden hoort hier bij.
A Adoption. Adoptie. Het aantal, de proportie en representativiteit van instellingen en settings die bereid zijn om de interventie te helpen initiëren en/of uit te voeren.
I Implementation. Uitvoering. In welke mate is de interventie uitgevoerd zoals bedoeld?
M Maintenance. Continuering. In hoeverre wordt de interventie ‘geïnstutionlaiseerd’; in hoeverre is de interventie onderdeel geworden van vaste procedures, routines of programma’s.
Wat gebeurd er nog bij RE-AIM?
Ook in RE-AIM wordt weer het belang van combinatie tussen effect- en procesonderzoek weer heel duidelijk en uitgaande van dit raamwerk gaat de procesevaluatie vaak verder dan onderzoek naar alleen de mate van bereik, adoptie, uitvoering en continuering. Vaak wordt ook getracht
mogelijke determinanten van bereik, adoptie, uitvoering en continuering in kaart te brengen. RE-AIM is gericht op evaluatie van al ontwikkelde en uitgewerkte interventies, interventies die in ‘het veld’ getoetst kunnen worden. Hier gaat het niet om evaluatie die plaatsvindt tijdens het proces van interventieontwikkeling. Evaluatie ten behoeve van interventieontwikkeling, wordt ook wel
formatieve evaluatie genoemd.
Om te bepalen welke evaluatie moet worden uitgevoerd, is het belangrijk om helder te krijgen wat we willen ervaren. Waarom?
Zonder een duidelijk, bij voorkeur gekwantificeerd doel is het niet mogelijk om na te gaan of het doel bereikt is. Een planningsmodel voor het ontwikkelen van interventies is
een belangrijk hulpmiddel. Met behulp van dat model kan de onderzoeker op een beredeneerde wijze de gedragingen en determinanten selecteren die de interventie beoogt te veranderen, en de procesmatige voorwaarden definiëren voor het juist uitvoeren van de interventie, en deze vervolgens in concrete evaluatiedoelen vertalen.
De doelen van een interventie kunnen in principe binnen elke stap van het planningsmodel worden gekozen. Naast het absolute effect (de verandering die door de interventie is bewerkstelligd), zijn we ook geïnteresseerd in het relatieve effect van een interventie. En wat tenslotte nog?
Tot slot kunnen we geïnteresseerd zijn in de effectiviteit in relatie tot de kosten die met de interventie gemoeid zijn (economische evaluatie). Op welk niveau geëvalueerd kan worden, hangt af van de aard, de duur van de follow-up en het ontwikkelingsniveau van de interventie. Evaluaties van echte gezondheidsuitkomsten in termen van minder ziekte of lagere sterfte zijn schaars in gezondheidsvoorlichting en – bevordering. Om toch voorspellingen te kunnen doen over langetermijn-gezondheidsuitkomsten zonder mensen daadwerkelijk langdurig via onderzoek ‘te volgen’ worden tegenwoordig steeds vaker epidemiologische modellen gebruikt. Dergelijke modellen worden vooral gebruikt om ziektelast ten gevolge van allerlei risicofactoren waaronder risicogedrag op een wetenschappelijk onderbouwde manier te schatten. Deze modellen kunnen ook worden gebruikt om de langetermijneffecten van gedragsveranderingsinterventies op morbiditeit, mortaliteit of gewonnen levensjaren te schatten. In een dergelijk model zijn op basis van epidemiologisch onderzoek aannames verwerkt over wat op populatieniveau de relatie tussen een bepaald gezondheidsgedrag en ziekte-incidentie of sterfte is. Vervolgens kan de door een interventie veroorzaakte verandering in een gezond gedrag of risicogedrag in een dergelijk model worden ingevoerd. Op die manier kunnen schattingen worden gemaakt van het effect van de interventie op gezondheid en ziekte. In sommige gevallen is het wel goed mogelijk om direct incidentie of sterfte als evaluatiemaat te nemen.
Maar een effectevaluatie van interventies ter bevordering van gezond gedrag is in werkelijkheid meestal een tusseneffectevaluatie. Waarom?
er wordt beoordeeld of een interventie effect heeft op gezondheid(risico)gedrag of op de determinanten van dat gedrag. De sterkte van de veronderstelde relaties tussen gezondheidsprobleem, gedrag en omgeving en de determinanten van gedrag en omgeving zijn bij evaluatie van groot belang. Hoe sterker het bewijs voor die verbanden, des te minder is het nog nodig om een evaluatie op het niveau van gezondheidsuitkomsten te doen. Soms is
een evaluatieonderzoek alleen gericht op evaluatie van het uitvoerings- of implementatieproces. Dit is met name het geval als een interventie al effectief is gebleken en op grotere schaal wordt uitgevoerd.
Bij kwantitatief onderzoek worden onderzoeksgegevens in getallen weergegeven, waarop statistiek kan worden losgelaten. Bij kwalitatief onderzoek wordt een bepaald fenomeen beschreven. Effectevaluatie is meestal kwantitatief. Procesevaluatie is vaak kwalitatief. Wat kun je vertellen over smart doelen?
SMART staat voor specifiek, meetbaar, acceptabel, realistisch, tijdgebonden. SMART geformuleerde doelstellingen geven een goed uitgangspunt
voor toetsing. Om een doelstelling ook echt te kunnen toetsen, is een kwantificering oftewel verdere specificatie belangrijk, het liefst in combinatie met een termijn waarin verandering moet plaatsvinden en/of moet beklijven. Dan wordt de doelstelling meetbaar. Het is belangrijk voor evaluatie dat er voor de uitvoering van een interventie overeenstemming is over de doelen tussen de opdrachtgever, de uitvoerder en de evaluatieonderzoeker. Die doelen moeten realistisch en relevant zijn. Het vaststellen van een realistisch gekwantificeerd doel is
het ook belangrijk om te bepalen hoeveel mensen een aan evaluatieonderzoek moeten deelnemen. Kort gezegd is het zo dat hoe kleiner het effect is dat moet kunnen worden aangetoond, hoe meer mensen nodig zijn in evaluatieonderzoek.
Bij effectevaluatie is het belangrijk dat het onderzoek zo wordt opgezet dat een relevant effect niet over het hoofd wordt gezien, maar ook dat niet ten onrechte toch een effect wordt geconstateerd. Een type I-fout treedt op als de interventie in werkelijkheid geen effect heeft, maar wel als
effectief wordt bestempeld. Bij een type II-fout wordt gedacht dat er geen effect is, terwijl die er eigenlijk wel is. Een type III-fout treedt op als een effectieve interventie als ineffectief wordt bestempeld omdat de interventie niet volgens plan is uitgevoerd. Om dergelijke fouten te voorkomen zijn bij effectevaluatie drie centrale vragen te onderscheiden. Welke?
- Hoe kan een werkelijk interventie-effect zichtbaar gemaakt worden?
(grootte, validiteit, betrouwbaarheid, statische testen en hoeveelheid individuen) - In welke mate wordt het geobserveerde effect ook echt door de interventie veroorzaakt en niet door andere factoren?
(causaliteit) - In welke mate zal bij een nieuwe implementatie van de interventie opnieuw dezelfde effecten worden gevonden?
(Externe validiteit)
Veel interventies bevordering van gezond gedrag zijn complexe, samengestelde interventies: interventies met meerdere doelen, bestaande uit combinaties van gedragsveranderingsmethodieken en -toepassingen, vertaald in verschillende interventieonderdelen en materialen. Medical Research Council (MRC)B is een raamwerk opgesteld voor de evaluatie van zogenaamde complexe gezondheidsinterventies. Deze definieert complexe interventies aan de hand van vijf criteria. Welke?
- Het aantal interventiecomponenten
- Het aantal en de complexiteit van gedragingen en handelingen dat gevraagd wordt van degenen die de interventie uitvoeren en ontvangen.
- Het aantal groepen of organisaties waarop de interventie gericht is.
- Het aantal en de varianliliteit van de uitkomsten/resultaten van de interventie.
- De mate van flexibiliteit waarmee de interventie geïmplementeerd kan en mag worden.
Gezondheidsvoorlichtingsinterventies en andere interventies ter bevordering van gezond gedrag zijn meestal complexe interventies. Complexe gedragsveranderingsinterventies zouden bij voorkeur stapsgewijs moeten worden ontwikkeld en geëvalueerd, met in iedere stap een nadruk op andere onderdelen van de evaluatiedoelen. Hiervoor kan gebruik worden gemaakt van het model voor stapsgewijze evaluatie van complexe
interventies (MRC). Gebaseerd op dit moment kunnen globaal vier onderzoeksfasen worden onderscheiden. Welke?
- Het ontwikkelonderzoek: verkenning van al bestaande onderzoek naar soortgelijke interventies en een verkenning van de theorie. Op basis hiervan kan het ‘echte’ onderzoek naar de nieuwe interventie zo geïnformeerd mogelijk beginnen.
- Haalbaarheids- en pilotonderzoek: uittesten van onderdelen van de interventie en van de metingen en gegevensverzamelingsprocedures en – praktijk, het verkennen van de waardering voor en gebruik van de interventie.
- Evaluatieonderzoek: onderzoek naar bereik, uitvoering en blootstelling, waardering en effecten van de interventie; onderzoek om effecten te kunnen verklaren; onderzoek naar de verhouding tussen kosten en effecten. Er kan bij evaluatieonderzoek een onderscheid gemaakt
worden naar:
o Onderzoek naar efficacy, bereik, uitvoering en adoptie van de interventie onder omstandigheden die de alledaagse realiteit zo goed mogelijk benaderen.
o Velonderzoek naar de effectiviteit, bereik, uitvoering en adoptie van de interventie onder omstandigheden die de alledaagse realiteit zo goed mogelijk benaderen. - Implementatieonderzoek naar de adoptie, uitvoering, verspreiding en continuering van de interventie.
Het centrum gezond leven van het rijksinstituut voor volksgezondheid en milieu beheert een erkenningstraject voor leefstijlinterventies. Er zijn eigenlijk twee erkennigstrajecten. Welke?
- In het eerste vindt beoordeling plaats door praktijkpanels om na te gaan of de interventie ‘goed beschreven’ is. Er moet inzicht zijn in bereik, waardering en succes- en faalfactoren.
- In het tweede vindt een beoordeling plaats door erkenningscommissie bestaande uit vertegenwoordigers uit de wetenschap, praktijk en beleid. Deze commissie bepaalt of interventies erkend kunnen worden als ‘goed onderbouwd’ of ‘effectief’.
Bij goed onderbouwd gaat het erom dat beschreven en onderbouwd is op welke theoretische en empirische inzichten de interventie gebaseerd is, welke werkingsmechanismen worden verondersteld etc. Voor een erkenning als ‘effectief’ moet evaluatieonderzoek
beschikbaar zijn waaruit blijkt dat de interventie het bedoelde effect heeft. Afhankelijk van de validiteit en betrouwbaarheid van het beschikbare onderzoek wordt een nader onderscheid gemaakt tussen ‘eerste aanwijzingen voor effectiviteit’, ‘goede aanwijzingen voor effectiviteit’, en ‘sterke aanwijzingen voor effectiviteit’.
Verkenning vindt vaak plaats door zelf systematisch literatuuronderzoek te doen, of op basis van bestaande systematische reviews of meta- analyses. De verkenning kan echter ook bestaan uit bijvoorbeeld consultatie van experts. De theorieverkenning moet ervoor zorgen dat de kwaliteit
van de interventie en daarmee de kans op een effect van enige omvang, zo groot mogelijk is. Samenvattend kan een goede literatuur- en theorieverkenning op drie manieren helpen om de centrale evaluatievragen te beantwoorden. Welke 3?
- Hoe kan een potentieel effect zichtbaar gemaakt worden?
Bij het zichtbaar maken van potentiële effecten kan een literatuur- en theorieverkenning voorlopig inzicht geven in welke interventies of interventiemethodieken en – technieken sterk genoeg moeten zijn om een verschil tussen interventie- en controlegroep op de effectmaat teweeg te
brengen, welke effectmaten het meest relevant en gevoelig zijn om het effect van de interventie zichtbaar te maken en welke procedures gevolgd moeten worden bij het blootstellen van de onderzoekseenheden aan de interventie. - In welke mate wordt een geobserveerd effect ook echt door de interventie veroorzaakt?
Bij het verklaren van geobserveerde effecten gevonden in laboratorium- of veldonderzoek kan de verkenning inzicht geven in de werkingsmechanismen die verantwoordelijk zijn geweest voor het effect. - In welke mate zal een nieuwe implementatie van de interventie opnieuw het eerder gevonden effect oproepen?
Gedetailleerde kennis over de theorie aangaande de achterliggende mechanismen van interventie-effecten helpt ook bij het generaliseren van eerder vastgestelde interventie-effecten.
Wat kun je vertellen over Het gecontroleerde experiment voor onderzoek naar efficacy?
Het wetenschappelijke experiment – een RCT – is de meest ideale methode om een causaal verband vast te stellen tussen de interventie en het effect. Dit onderzoeksdesign heeft een hoge interne validiteit. Met een gecontroleerd experiment kan met grote zekerheid gezegd worden dat het
gevonden effect het gevolg is van de interventie. Een echt gecontroleerd experiment naar effecten van gezondheidsvoorlichting is meestal alleen volledig realiseerbaar in het gedragslaboratorium.
Waarom Randomisatie en manipulatie?
Door randomisatie ontstaan in principe twee groepen die in alle opzichten gelijk zijn behalve dat de ene groep blootgesteld wordt aan de interventie en de andere groep niet. Na blootstelling aan de interventie observeert men of de twee groepen verschillen op een relevante effectmaat.
Hoewel randomisatie soms ook buiten onderzoeksloboratoria mogelijk is, heeft het laboratoriumexperiment twee unieke kenmerken die het mogelijk maken om een geobserveerde verandering op de effectmaat met grote zekerheid toe te kunnen schrijven aan de interventie. Welke 2?
(1) experimentele controle en (2) betrouwbare of precieze wijze van meten. Door de individuen in beide groepen af te schermen van invloeden van buitenaf, voorkomt de onderzoeker dat tijdens het uitvoeren van het
experiment de twee groepen naast de interventie blootgesteld worden aan andere invloeden die verschillen o de effectmaat zouden kunnen veroorzaken. Controle binnen een laboratoriumexperiment houdt in dat de onderzoeker in staat is het eventuele effect van de interventie onder
overeenkomstige omstandigheden te meten. De wijze van meten draagt bij aan betrouwbaarheid of precisie waardoor zelfs kleine verschillen tussen interventie- en controlegroep zichtbaar kunnen worden. En ook de afwezigheid van een verschil kan met zekerheid geïnterpreteerd worden
als het ontbreken van een effect van de interventie.
De evaluatieprocedure geeft informatie of de interventie in principe kan leiden tot het gewenste effect: de efficacy – het effect onder goed gecontroleerde omstandigheden – wordt getoetst. Welke vragen worden daarbij beantwoord?
Zal een vastgesteld interventie-effect opnieuw optreden als de interventie onder gewijzigde omstandigheden en/of bij andere populatie wordt geïmplementeerd? Deze vraag gaat over externe validiteit/generaliseerbaarheid.
Een laboratoriumexperiment kan een geringe mate van externe validiteit hebben. Dit soort experimenten is wel gunstig als je kijkt naar de mate waarin men precies aan kan geven van welke omstandigheden het effect afhankelijk is geweest. Op die manier kan interventietheorie worden
opgebouwd die vervolgens buiten het gedragslaboratorium kan worden toegepast.
Wat kun je vertellen over Het laboratoriumexperiment en procesevaluatie?
Bij laboratoriumonderzoek wordt meestal vooral gedacht aan efficacy-onderzoek. Maar ook in deze fase van evaluatie is procesevaluatie belangrijk. In goed gecondoleerde experimenten kan juist ook goed onderzocht worden wat de waardering van het interventiemateriaal is, in welke mate de
‘proefpersonen’ ook werkelijk aan het interventiemateriaal zijn blootgesteld en welke onderdelen van de interventie met name de aandacht trekken. Ook die informatie kan helpen bij het verklaren waarom de interventie wel of geen effect heeft gehad.
Er kleven echter ook beperkingen aan de toepasbaarheid en het nut van gecontroleerde gedragslaboratoriumexperimenten bij de effectevaluatie
van interventies ter bevordering van gezond gedrag. Laboratoriumonderzoek zegt iets over de efficacy, maar geeft vaak geen of slechts beperkt ‘levensechte’ informatie. Daarom worden effectevaluaties meestal juist (ook) buiten het laboratorium gedaan. Er zijn vier belangrijke redenen voor evaluatie in veldonderzoek. Welke?
- Duur en complexiteit van de interventie
Een interventie ter bevordering van gezond gedrag is vaak niet kortstondig en enkelvoudig maar bestaat vaak uit meerder onderdelen waarbij langdurige blootstelling vereist is. - Tijd tussen blootstelling aan de interventie en effect
Het effect van gezondheidsvoorlichting is lang niet altijd direct te verwachten; er is een bepaalde incubatietijd noodzakelijk. - Externe validiteit
Gecontroleerde omstandigheden zijn in ‘echte’ voorlichtingssituaties eigenlijk nooit te realiseren. Interventies ter bevordering van gezond egdrag
bestaan juist vaak uit een combinatie van activiteiten waarbij het expliciet de bedoeling is dat verschillende activiteiten verschillende mensen aanspreken en elkaar aanvullen en versterken, dat het onderwerp van de interventie gespreksonderwerp wordt, op de publieke agenda komt te
staan, waardoor de sociale norm kan veranderen. Daarbij is het vaak ook nog wenselijk dat interventies op het gebied van gezondheidsvoorlichting, willen ze effectief zijn, op zodanige wijze moeten worden aangepast tijdens de implementatie dat ze aansluiten bij de specifieke behoeften,
vaardigheden en omstandigheden van de doelgroep waarvoor de interventie bedoeld is.
Veldonderzoek heeft ook zijn beperkingen wat betreft externe validiteit. Het is vaak moeilijk vast te stellen welke interventieactiviteiten nu eigenlijk essentieel zijn om het effect opnieuw te kunnen produceren en welke elementen bij een volgende poging mogen worden weggelaten. Generalisatie van de conclusies van een effectevaluatie kan dus ook bemoeilijkt worden omdat men bij de implementeren veel verschillende dingen tegelijkertijd
doet. - Effectgrootte en omvang van de onderzoeksgroep
Een vierde reden waarom veldonderzoek noodzakelijk is, is dat de effecten van voorlichting meestal niet zo groot zijn. Kleine effecten kunnen echter zeer relevant zijn.
Veldstudies zijn dus gewenst, waarbij de interventie onder meer levensechte omstandigheden wordt uitgetest. Maar juist omdat de interventies die in veldstudies worden bestudeerd grootschaliger, complexer en flexibeler zijn, zijn er bij veldstudies enkele hindernissen te overwinnen. Eerste vraag is; Hoe kunnen effecten van de interventie zichtbaar gemaakt worden?
Het is bij voorkeur dat deelnemers in de interventiegroep het liefst in gelijke mate zo veel mogelijk worden blootgesteld aan de interventie. Daarnaast is het belangrijk dat de deelnemers in de controlegroep niet worden blootgesteld aan en bij voorkeur niet eens bekend zijn met de interventie. Bij grootschalige veldonderzoeken kan vaak niet worden gegarandeerd dat iedereen in de interventiegroep ook echt aan de interventie
wordt blootgesteld en is de enige contaminatie soms niet te vermijden. In het veld moet voorlichtingsmateriaal ook veel meer concurreren met andere prikkels in de omgeving. Hierdoor zijn effecten vaak kleiner, en om een kleiner effect aan te kunnen tonen is een grotere onderzoeksgroep
nodig.
De kans dat een evaluatieonderzoek een in werkelijkheid bestaand verschil tussen interventie- en controlegroep aan het licht brengt, wordt de power van een studie genoemd. Power is uit te drukken als een waarde die ligt tussen de 0 en 1. Zeggen dat een evaluatieonderzoek een lage
power heeft, is een andere manier om uit te drukken dat het moeilijk is om de potentiële effecten van een interventie aan te tonen. Streven naar een hogere power behoort een topprioriteit van evaluatieonderzoekers te zijn. Er zijn vijf stappen om een zo hoog mogelijke power van een
evaluatieonderzoek te realiseren. Welke 5?
De kans dat een evaluatieonderzoek een in werkelijkheid bestaand verschil tussen interventie- en controlegroep aan het licht brengt, wordt de power van een studie genoemd. Power is uit te drukken als een waarde die ligt tussen de 0 en 1. Zeggen dat een evaluatieonderzoek een lage
power heeft, is een andere manier om uit te drukken dat het moeilijk is om de potentiële effecten van een interventie aan te tonen. Streven naar een hogere power behoort een topprioriteit van evaluatieonderzoekers te zijn. Er zijn vijf stappen om een zo hoog mogelijke power van een
evaluatieonderzoek te realiseren:
1. Zorg dat de onderzoeksgroep voldoende groot is
Grote steekproeven maken een betere schatting mogelijk van het echte verschil tussen de populaties waaruit de interventie- en de controlegroep zijn getrokken. Hoe groter de steekproef, hoe beter zelfs een klein interventie-effect kan worden aangetoond. Een factor die van invloed is op de
power is de effectgrootte.
2. Kies een geschikt significantieniveau
In onderzoek wordt meestal een significantieniveau van 5% genomen, oftewel er is dan 5% kans dat dit effect door toeval is veroorzaakt.
3. Kies de juiste effectmaat
Een factor die van invloed is op de power van een evaluatiestudie is de aard van de uitkomst- of effectmaat. De effectmaat bepaalt ook mede de statische test die gebruikt word om de relatie tussen interventie en effectmaat te kwantificeren en op significantie te onderzoeken.
4. Kies een adequate statische toets
Zie punt hierboven.
5. Probeer de effectgrootte optimaal te maken, door een zo goed mogelijke interventie en een zo groot mogelijke blootstelling. Simpel gezegd zijn grote effecten natuurlijk gemakkelijker aan te tonen dan kleine effecten. Een evaluatiestudie van een interventie met grote effecten heeft dus een grote power.
Onderzoekers kunnen bij het opzetten van een studie op twee belangrijke manieren invloed uitoefenen op de
effectgrootte. Welke 2?
(1) ten eerste kunnen zij proberen optimale condities te creëren om het verschil op de effectmaat tussen de interventie- en controlegroep zo goed mogelijk te maken. Dit zal met name moeten gebeuren door de interventie zo volledig mogelijk te implementeren in de
interventiegroep en de controlegroep zo veel mogelijk te onthouden van de interventie. Daarnaast zal men effectmaten moeten gebruiken die op een gevoelige manier eventuele interventie-effecten kunnen registeren.
(2) Ten tweede kunnen onderzoekers ervoor zorgen dat de spreiding in de effectmaat binnen de interventie – en binnen de controlegroep zo klein mogelijk is. Deze methode heet variantiecontrole. Variantie in scores op de effectmaat binnen de interventie- en de controlegroep is enerzijds te
wijten aan het bestaan van ‘echte’ verschillen tussen individuen binnen een groep op de effectmaat en anderzijds aan toevallige meetfouten (error) tijdens de meting van het effect. Variantiecontrole is mogelijk door de onderzoeksgroep niet te heterogeen te kiezen om zo de spreiding in de effectmaat rond de gemiddelde score in interventie- en controlegroep niet te groot laten zijn. Een andere belangrijke manier om variantie in de
scores op de effectmaat te beperken is het reduceren van toevallige meetfouten. Dit kan men bereiken door gebruik te maken van meetinstrumenten waarmee zo precies en betrouwbaar mogelijk de effectmaat gemeten kan worden en anderzijds door bij alle deelnemers aan het
onderzoek zo veel mogelijk onder overeenkomstige omstandigheden het effect te meten. Dit is vooral bij veldstudies een probleem.
Als een significant verschil is gevonden tussen de interventie- en controlegroep is het belangrijk na te gaan of dit verschil op de effectmaat veroorzaakt is door de interventie of door andere factoren. Het belangrijkste hulpmiddel bij het beantwoorden van deze twee centrale
evaluatievraag is het ontwerp (design) van de evaluatiestudie. Bij veldonderzoek is het vaak moeilijker ervoor te zorgen dat je een goede controlegroep hebt met mensen die niet worden blootgesteld aan de interventie. Omdat het bij veldonderzoek een goede controlegroep vaak niet evident is, wordt het effect van gezondheidsvoorlichting nogal eens geëvalueerd door alleen onderzoek te doen bij een interventiegroep. Als we niet van een echt experimentele onderzoeksopzet gebruik kunnen maken kan men kiezen voor een quasi-experimenteel onderzoek. Er zijn vijf belangrijke bedreigingen van de interne validiteit van onderzoek onder goede controlegroep. Welke 5?
- Geschiedenis
Tijdens de interventieperiode doen zich ongeplande gebeurtenissen voor die invloed hebben op de effectmaat. - Rijping
Het is heel goed mogelijk dat er voor of tijdens de campagne een trend is of wordt ingezet. - Meting en reactiviteit
Metingen op de nameting kunnen worden beïnvloed door een voormeting. Gevonden effecten kunnen ook komen omdat deelnemers hun antwoorden aanpassen aan wat ze denken dat de onderzoekers willen horen of wat dat ze denken dat juist is.
➔ Met name voor deze eerste drie bedreigingen van de interne validiteit is het belangrijk dat een adequate controlegroep in het onderzoek wordt meegenomen. Als dat niet kan, kunnen het beste meerdere voor en nametingen worden gedaan. Daarmee kan in ieder geval
onderzocht worden of met de interventie een ‘trendbreuk’ zichtbaar is. Een andere oplossing wordt nog wel eens gezocht in het feit dat bij landelijk implementaties de interventie meestal lang niet bij iedereen aankomst. Door nu de blootgestelde te beschouwen als een
interventietroep en deze te vergelijken met niet-blootgestelde – en die dus als een controlegroep te beschouwen – zou ook een indruk van de effectiviteit van de interventie verkregen kunnen worden. Hierbij is de kans op selectiebias erg groot. - Selectie
Met uitzondering van landelijke campagnes, kan in veldonderzoek naar de effectiviteit van interventies vaak wel een controlegroep worden opgenomen, maar is er geen sprake van een door randomisatie tot stand gekomen equivalente controlegroep, dit is ook een vorm van selectiebias.
Er zijn twee mogelijkheden om dit soort bias of vertekening te voorkomen of te beperken. (1) In de eerste plaats worden wel onderzoeken uitgevoerd waarin veel meer dan twee gemeenten/bedrijven etc. participeren die gerandomiseerd kunnen worden (community intervention
trail/cluster randomized trail). Bij het evalueren van het effect moet dan wel ook rekening worden gehouden met het feit dat groepen in plaats van individuen zijn gerandomiseerd, en dat individuen zijn ‘genest’ binnen de groepen. (2) In de tweede plaats kan bij niet-random controlegroepen in de statische analyse van de resultaten rekening worden gehouden met een verschil in uitganssituatie tussen interventie- en controlegroep.
Wanneer randomisatie niet mogelijk is, is een goed procesonderzoek van extra belang. Door het bereik, de adoptie, uitvoering en blootstelling aan de interventiematerialen in kaart te brengen en het verband tussen deze procesmaten en interventie-effecten te analyseren, kan enig inzicht worden verkregen of de interventie verantwoordelijk is voor gevonden effecten. - Uitval
In veldonderzoek naar effecten van interventies is het namelijk vrijwel altijd onmogelijk om iedereen die voor het onderzoek is uitgenodigd, ook werkelijk in het onderzoek te blijven betrekken. De redenen voor mogelijke uitval of non-respons kan op die manier van invloed zijn op de
uitkomsten van het evaluatieonderzoek. Op grond van gegevens uit een voormeting kan worden nagegaan of de uitval tussen de interventiegroepen en de controlegroep vergelijkbaar was.
Het woord implementatie wordt gebruik voor uitvoering en ook uitrol van de interventie, de verspreiding op grote schaal. Implementatieonderzoek richt zich daarom op de evaluatie van bereik, adoptie, uitvoering en continuering van een interventie,
Waarom implementatieonderzoek?
Goed veldonderzoek levert informatie over de effectiviteit en over de omstandigheden waaronder die effecten gevonden zijn. Tijdens de implementatie is monitoren van bereik, uitvoering en adoptie belangrijk, om na te gaan of die omstandigheden wel worden bereikt en zo niet of
bijstelling van de implementatiestrategie noodzakelijk is. In implementatieonderzoek kunnen ook verschillende implementatie strategieën met elkaar worden vergeleken om te evalueren welke manier van uitrollen leidt tot het grootste bereik, adoptie, en/of beste uitvoeringsgraad. Een
implementatiestrategie kan worden beschouwd als een interventie om de uitvoering van een campagne optimaal te laten verlopen. Onderzoek naar effecten van implementatiestrategieën kan daarom net zo worden opgezet als ‘gewoon’ interventie-evaluatieonderzoek. Alleen is nu de uitkomstmaat niet gezondheid, gezondheidsgedrag of determinanten van gezond gedrag, maar de mate van implementatie of determinanten van implementatie.
Een belangrijk doel van evaluatie is nagaan of de beschikbare middelen zo goed mogelijk zijn besteed. Hiervoor is het vaak niet voldoende om na
te gaan of een interventie effectief is, maar willen we ook weten of die effectiviteit in verhouding staat tot investering – de kosten – meestal in vergelijking met alternatieve interventies. Hoe heet dit?
Dit wordt economische evaluatie of ook wel doelmatigheidsonderzoek genoemd. Om een goede
indruk te krijgen van de verhouding tussen kosten en effecten, moeten we berekenen hoeveel de kosten per eenheid effectief zijn geweest of wat het effect per eenheid investering is geweest. In een economische evaluatie binnen de gezondheidszorg wordt meestal de verhouding berekend
tussen de bereikte gezondheidswinst en de daarvoor gemaakte kosten. Echter resulteren preventie en verandering van gezond gedrag vaak pas op de langere termijn is constateerbare gezondheidswinst. Daarom wordt in economische evaluatie van de interventies ter bevordering van gezond gedrag ook wel gekeken naar de verhouding tussen de mate van verandering in intermediaire uitkomstmaten, of worden epidemiologische simulatiemodellen gebruikt om de kosteneffectiviteit voor de gezondheidseffecten te schatten. Voor economische evaluaties gelden voor een groot deel dezelfde stappen en keuzen als voor effectevaluatie in het algemeen, maar voor een economische evaluatie is natuurlijk wel extra belangrijk om de kosten zo nauwkeurig mogelijk in kaart te brengen, waarbij normaliter alle kosten zo nauwkeurig mogelijk in kaart te brengen waarbij normaliter alle kosten worden uitgedrukt in geld. Hierbij moet onderscheid gemaakt worden tussen directe en indirecte kosten. Ook voor economische evaluaties is een integratie van proces- en effectonderzoek essentieel, want informatie moet worden verzameld over waar welke kosten zijn gemaakt. Daarnaast leveren gegevens over bereik, adoptie, uitvoering en continuering van de interventie informatie over hoe de kosteneffectiviteit verbeterd kan worden, in het bijzonder als ook de kosten gerelateerd kunnen worden aan bereik, adoptie en uitvoering.
Wat is kosteneffectief?
Er is geen gouden standaard die zegt wanneer een interventie als voldoende kosteneffectief kan worden beschouwd. De Raad voor de volksgezondheid stelt als absolute grens: als een medische behandeling meer dan 80.000 euro kost om één patiënt een extra levensjaar van goede kwaliteit te geven, zou die behandeling niet meer in de basisziektekosten verzekering moeten worden opgenomen, Als een interventie per gewonnen levensjaar of per DALY minder kost dan het gemiddelde jaarinkomen, wordt deze als kosteneffectief beschouwd.
Nogmaals procesevaluatie
Een procesevaluatie kan op verschillende niveaus met behulp van verschillende onderzoeksmethoden worden uitgevoerd. Hierbij is het nuttig onderscheid te maken tussen het niveau van organisatie, intermediairs en doelgroep. Een procesevaluatie op doelgroep niveau houdt ook in dat nauwkeurig wordt onderzocht wie er worden bereikt en wat de reacties zijn van de
doelgroep op de aangeboden voorlichting. Hier is nog geen sprake van het meten van effecten van de voorlichting, maar van het vaststellen of er wordt voldaan aan de noodzakelijke voorwaarden voor het teweegbrengen van effecten zoals aandacht, begrip en waardering. Omdat het hier van
groot belang is om ook onvoorziene en onwenselijke reacties op de interventieactiviteiten in kaart te brengen, kan het, vooral bij de evaluatie van nieuwe interventieactiviteiten, belangrijk zijn om in de procesevaluatie te verwerken. De procesevaluatie moet niet intensiever worden dan de interventie. Inperking van de procesevaluatie tijdens de implementatie is ook mogelijk door voor de start van de interventie onderzoek te verrichten. Zo verdient het aanbeveling om interventiematerialen nog voor gebruik uitvoerig te
pretesten. Het is belangrijk om een eventuele controlegroep ook in de procesevaluatie op te nemen. Wanneer een nieuwe interventies wordt vergeleken met een al langer bestaande interventie zijn procesgegevens van de controlegroep ook van groot belang. Als de procesevaluatie zo veel mogelijk storende factoren kan uitsluiten of in kaart weet te brengen, kan men na het afnemen van de nameting dus beter vaststellen in welke mate de geobserveerde effecten aan de interventie zijn toe te schrijven.
Begrippen hoofdstuk 9. RE-AIM.
Een raamwerk waarin verschillende belangrijke evaluatiedoelen worden erkend. Bestaat uit reach, efficacy,
adoption, implementation en maintenance. RE-AIM is gericht op evaluatie van al ontwikkelde en uitgewerkte
interventies, interventies die in ‘het veld’ getoetst kunnen worden.
Formatieve evaluatie
Evaluatie ten behoeve van interventieontwikkeling.
Tusseneffectevaluatie
Er wordt beoordeeld of een interventie effect heeft op gezondheid(risico)gedrag of op de determinanten van dat
gedrag.
Kwalitatief onderzoek
Bepaalde fenomenen beschreven (procesevaluatie).
Kwantitatief onderzoek
Onderzoeksgegevens in getallen weergegeven (effectevaluatie/procesevaluatie).
SMART
Apecifiek, meetbaar, acceptabel, realistisch, tijdgebonden. SMART geformuleerde doelstellingen geven een goed
uitgangspunt voor toetsing.
Type I-fout
Treedt op als de interventie in werkelijkheid geen effect heeft, maar wel als effectief wordt bestempeld.
Type II-fout
Bij een type II-fout wordt gedacht dat er geen effect is, terwijl die er eigenlijk wel is.
Type III-fout
Treedt op als een effectieve interventie als ineffectief wordt bestempeld omdat de interventie niet volgens plan is
uitgevoerd.
Power
De kans dat een evaluatieonderzoek een in werkelijkheid bestaand verschil tussen interventie- en controlegroep
aan het licht brengt.
Power is uit te drukken als een waarde die ligt tussen de 0 en 1.
Zeggen dat een evaluatieonderzoek een lage power heeft, is een andere manier om uit te drukken dat het
moeilijk is om de potentiële effecten van een interventie aan te tonen.
Er zijn vijf stappen om een zo hoog mogelijke power van een evaluatieonderzoek te realiseren:
1. Zorg dat de onderzoeksgroep voldoende groot is
2. Kies een geschikt significantieniveau
3. Kies de juiste effectmaat
4. Kies een adequate statische toets
5. Probeer de effectgrootte optimaal te maken, door een zo goed mogelijke interventie en een zo groot mogelijke
blootstelling.