Évaluations de programmes Flashcards

1
Q

Qu’est-ce qu’un programme?

A

1) Un programme est un ensemble cohérent, organisé et structuré d’objectifs, de moyens et de personnes qui l’animent.
2) Il se justifie sur la base de besoins définis comme une carence ou un manque qui affecte des individus, une collectivité ou une société.

3) Il est sous le contrôle d’une ou de plusieurs personnes responsables de la qualité de sa formulation et de son fonctionnement.
Il est mis en place pour transformer des choses ou l’état d’une chose.

**Le maître mot de cette définition esttransformation. Un programme n’a pas comme objectif d’exister pour lui-même, mais plutôt de produire des changements pour les participants potentiels.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Quelles sont les 4 étapes de l’évaluation de programme?

voir schéma pp8 diapo 4

A

1) Identification des besoins, des thèmes et des questions d’évaluation
2) Élaboration du modèle logique
3) Évaluation de l’implantation et des effets
4) Diffusion des résultats

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Décris la première étape de l’évaluation de programme

A

Étape 1 : Identification des besoins, des thèmes et des questions d’évaluation

1) Sélection du cadre de référence conceptuel
- Transaction écologique
- Empowerment

2) Choix de l’objet d’évaluation et sa définition
- Mets en reliefs certains aspects du «problèmeà l’étude » plutôt que d’autres
Ex. prévention vs promotion abordé antérieurement
- Importance d’une définition concertée entre les chercheurs et les membres de la communauté ciblés

3) La collaboration et la négociation au cœur des processus en évaluation de programme
- Les statuts respectifs du chercheur et des participants: Relation égalitaire et prise en compte des connaissances respectives
- La négociation des questions de recherche: Valeur ajoutée: augmente la validité, l’utilisation et la pertinence des connaissances produites

4) La collaboration: la confiance comme élément clé
Cadre de Kelly (1998):
- Fiabilité: chacun fait ce qu’il s’est proposé de faire
- Crédibilité: chacun informe honnêtement de ses buts et attentes
- Intégrité: ne pas dévoiler d’information pouvant nuire aux autres
- Réceptivité: écoute les suggestions, les craintes, les préoccupations de l’autre sans être sur la défensive
- Réciprocité: compréhension commune des attentes, espoirs et besoins, création d’objectifs communs et partagés par tous

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

La deuxième étape de l’évaluation de programme consiste en l’élaboration d’un modèle logique. Quelle est l’importance d’un modèle logique?

A

Le modèle logique permet de s’assurer de l’atteinte de ces critères puisqu’il permet de définir:

  • Les buts et les objectifs attendus à court, moyen et long terme
  • Le lien (présumé) entre les activités choisies et les buts/objectifs poursuivis par le programme
  • Les éléments du programme à suivre et à évaluer:
  • Amène à identifier les indicateurs, les sources de données et les méthodologies appropriées pour la collecte
  • Permet de déterminer le type d’évaluation qui pourrait/devrait être effectuée
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Que devrait tenir en compte un bon modèle théorique? (3)

A

1) les différentes activités du programme mis en œuvre, ainsi que la théorie du changement – la logique d’action – selon laquelle ces activités produiront les effets attendus;
2) les effets attendus à court, moyen et long terme;
3) les différents facteurs pouvant entraver ou favoriser l’implantation des activités du programme et, par conséquent, l’atteinte des effets attendus

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Pour être évaluable, un programme doit satisfaire certains critères. Lesquels? (4)

A

1) Les buts et objectifs du programme sont bien définis
2) Les buts et objectifs sont plausibles en fonction des activités mises en œuvre
3) Des données pertinentes sont accessibles concernant l’application du programme
4) Les utilisateurs potentiels de l’évaluation s’entendent sur les buts poursuivis par l’évaluation

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Il est important d’évaluer à la fois l’implantation du programme et ses effets. Pk?

A

Selon Gervais, 2017: L’évaluation des effets est insuffisante à elle seule afin de se positionner sur l’efficacité d’un programme d’atteindre les effets escomptés…

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Que fournit l’évaluation de l’implantation comme informations selon le moment de l’évaluation? (3)

A

1) Lors de la mise en œuvre d’un nouveau programme :
- Permet d’identifier les conditions de mise en œuvre

2) Au moment d’étendre un programme existant à un nouveau territoire ou à une nouvelle clientèle:
- Permet des ajustements en cours de route

3) AVANT qu’on évalue les effets d’un programme:
- Permet d’attribuer au programme les résultats mesurés

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

L’évaluation de l’implantation permet de vérifier si le programme….(3)

A

1) est mis en oeuvre conformément aux intentions
2) est offert aux clientèles ciblées
3) est mis en oeuvre conformément à l’«effort» ou à «l’intensité» prévus

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Quelles sont les 2 mesures de l’implantation?

A

1) Fidélité: dans quelle mesure le programme implanté présente-t-il les caractéristiques du programme planifié
2) Dosage: quantité d’activités produites

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

vrai ou faux: le niveau d’implantation dépasse rarement 60 ou 80 %

A

vrai

Résultats basés sur un examen de 81 études prévention et promotion de la santé (Durlak & DuPré, 2008)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Le temps nécessaire à l’implantation d’un programme font ressortir 2 points auxquels il est important de penser. Lesquels?

A

1) Plusieurs difficultés peuvent apparaître en cours d’implantation
2) Parfois implantation plus longue que la durée de vie du programme

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

À quoi s’intéressent l’évaluation des effets d’un programme?

A

1) les effets d’un programme à moyen et long terme

2) À l’atteinte des objectifs, aux effets intentionnels ou non sur la population ciblée

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Quelles sont des questions possibles pour évaluer les effets?

A

1) Jusqu’à quel point le programme atteint-il ses buts et ses objectifs?
2) Les stratégies et activités du programme permettent-elles d’atteindre ses objectifs?
3) Quelle est l’efficacité de ce programme en comparaison avec le programme X ?

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Qu’est-ce que l’analyse des facteurs externes?

A

Analyse du fonctionnement d’un programme, de sa dynamique et des facteurs qui influencent sa capacité à produire des résultats

Ex de questions:

1) Quels facteurs expliquent les écarts?
2) Quelles sont les conditions qui facilitent ou constituent des obstacles à l’implantation?
3) Jusqu’à quel point les effets sont-ils attribuables au programme?

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

5 catégories de facteurs peuvent nuire à l’implantation d’un programme. Lesquels?

A

1) Caractéristiques de la communauté
- Financement, politiques, culture de recherche, etc.

2) Caractéristiques des intervenants
- Besoin et avantages perçus, ouverture au changement

3) Caractéristiques du programme
- Compatibilité, adaptabilité, etc.

4) Capacité organisationnelle
- Climat de travail, type de leadership, etc.

5) Soutien offert
- Formation, encadrement, assistance technique, etc.

17
Q

Comment s’effectue la collecte de données?

A

1) Sélection des indicateurs
- Opérationnalisation des différentes composantes de notre modèle logique à l’aide d’indicateurs

2) Sélection de la méthode de collecte de données
- Différentes méthodes de collecte de données en fonction des ressources et expertises disponibles, ainsi que des types d’indicateurs choisis
- Importance de la triangulation des données et des perspectives

18
Q

Quels sont le 3 critères de sélection des indicateurs?

A

1) La validité. Un indicateur est valide lorsqu’il mesure efficacement le phénomène étudié; c’est-à-dire qu’un indicateur valide permet de bien capter les résultats du programme évalué.

2) L’utilité. Un indicateur est utile lorsqu’il peut directement servir à la planification, au suivi ou à l’évaluation des activités d’un programme. Un indicateur est également utile quand il est simple d’utilisation et qu’un grand nombre de personnes peuvent facilement le comprendre, y compris les non-spécialistes.
L’accessibilité (ou facilité d’accès).

3) L’accessibilité d’un indicateur dépend de la disponibilité des sources de données pour le mesurer, mais aussi de la facilité et du coût des moyens à employer pour collecter et analyser les données.

19
Q

Explique la quatrième étape d’évaluation de programme

A

Étape 4 : Diffusion des résultats

  • Utiliser un langage clair et simple, éviter le jargon
  • Faire ressortir l’information importante
  • Placer l’information la plus importante au début et à la fin
  • Combiner des images et des mots, ou des graphiques et chiffres
  • Organiser l’information avec clarté
  • Aller du concret à l’abstrait
  • Présenter l’information menaçante avec tact
  • Utiliser des résumés - n’inclure que les détails essentiels
20
Q

Quelles sont les caractéristiques des bonnes évaluations? (4)

A

1) La rigueur du devis
2) La prise en considération des contraintes liées aux ressources
3) L’utilisation de multiples sources de données
4) La capacité de tenir compte de l’influence des valeurs

21
Q

Un devis d’évaluation comporte 5 éléments. Lesquels?

A

1) Stratégie d’évaluation
2) Cadre d’analyse du programme
3) Collecte des données
4) Analyse des données
5) Les résultats attendus de l’évaluation

22
Q

Quelles sont les contraintes liées aux ressources? (3)

A

1) Chaque évaluation a ses propres contraintes en terme de ressources - Investissement nécessaire pour réaliser l’évaluation
2) Des échéanciers réalistes sont essentiels
- L’évaluation ne doit pas être prolongée indûment
3) Climat favorable à la remise en question

23
Q

Qu’apportent les multiples sources de données comme contribution aux bonnes évaluations?

A

1) Compensent l’insuffisance d’information dans un domaine donné
2) Favorise l’émergence de données qui reflètent des perspectives complémentaires et permettent une compréhension plus fine du problème à l’étude
2) Les résultats convergents seront plus crédibles que tout résultat obtenu à l’aide d’une seule méthode
3) Accroissent la fiabilité et la validité des conclusions

24
Q

Explique pourquoi tenir compte de l’influence des valeurs est une composante important dans une bonne évaluation

A

«les psychologues communautaires se distinguent donc du scientifique plus traditionnel en ce qu’ils conçoivent en priorité la recherche comme un outil de changement social» (Dufort et al., 2004, p. 370)

La recherche (et donc l’évaluation de programme) poursuit deux finalités distinctes mais complémentaires:

  • Développer des connaissances valides et rigoureuses
  • Favoriser le changement social et le pouvoir d’agir

Importance de reconnaître et d’expliciter comment ces valeurs influencent chacune des 4 étapes du cycle de vie d’un programme