Beruflich Dokumente
Kultur Dokumente
Introduction
Appréciation de l’évaluabilité
La décision à prendre ici est s’il faut faire une évaluation ou non. Il y aura du
travail à faire avant de commencer l’évaluation. Par exemple, disons qu’une
évaluation axée sur les finalités est proposée, il se pourra qu’elle soit
problématique si les finalités et les objectifs du programme ne sont pas
suffisamment bien clarifiés ou s’il manque un accord mutuel parmi toutes les
parties prenantes. Parfois les mesures ne sont pas disponibles et doivent être
élaborées au préalable, ou les données ne sont pas accessibles.
L’appréciation de l’évaluabilité peut également servir un deuxième but dans
la mesure où cela peut aider à refocaliser les finalités et à élaborer des
1
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Evaluations multi-sites
Au lieu d’examiner une seule action, il est parfois utile d’examiner les actions
mise en œuvre dans plusieurs localités. Il se peut que la mise en œuvre ait
été la même dans toutes les localités ou un peu différente dans chaque
localité. Ce type d’évaluation fournit des renseignements sur l’expérience
globale de l’action ainsi qu’une compréhension approfondie sur les différents
aspects de la mise en œuvre. Quels sont les aspects de la mise en œuvre qui
sont les mêmes dans chaque localité ? Quels sont les aspects qui varient et
pourquoi ? Les différences entre les réalisations sont-elles dues à ces
variations ? Bien sûr, il sera difficile de déterminer si les différences sont
dues à ces variations. Parfois des actions ont des impacts différents à cause
de contextes différents comme, par exemple, le caractère fort du directeur
de projet ou le caractère dynamique des citoyens d’une communauté
donnée.
L’évaluation doit capter le climat politique des actions ainsi que les
différences culturelles qui auront un effet sur les variations d’expériences et
de réalisations. La participation des parties prenantes est importante
puisqu’elles peuvent aider l’évaluateur à mieux comprendre la situation
locale.
2
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Après trente ans d’appui aux projets dans les secteurs de la santé, la
nutrition et la population (SNP) dans plus de 92 pays, quel est l’impact global
du financement de ces efforts et quels sont les enseignements tirés pour
l’avenir ? Cette évaluation a employé des données disponibles à partir des
documents des donateurs et sur les résultats des études de cas dans quatre
pays (le Brésil, l’Inde, le Mali et le Zimbabwe). L’accent des projets n’est plus
sur les services de base ; il est sur l’amélioration des politiques de santé et
sur la promotion des réformes du secteur de la santé.
Trois questions :
1. Les projets et les politiques ont-ils été pertinents dans la promotion des
réalisations améliorées et sur la performance du système de santé (les
actions qui ont été mise en œuvre ont-elles été correctes?)
2. Les interventions ont-elles été effectives et efficaces (les actions ont-elles
été mise en œuvre de façon correcte ?)
3. L’action a-t-elle été effective dans le renforcement des institutions de soin
de santé et ont-elles été durables du point de vue financier et institutionnel ?
3
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Bien-être social et
économique
Structure Capacité
d’accouchements Institutionnelle
Immobilier/équipeme Cadre juridique
nt Règlements
Personnel Information Dépenses et finances
et éducation Planification et budget
Services aux clients
Gouvernance Responsabilité de
rendre compte
Primes
Performance globale :
Sur les 7 projets de SNP complétés entre AF75 et AF98, 64% ont été classés
comme satisfaisants ; 79% de ceux complétés en AF97/98 ont été classées
comme satisfaisants.
Durabilité des projets : 50% de ceux complétés entre AF75 et AF98 ont été
classées comme durables, 66% de ceux complétés en AF97/AF98 ont été
classés comme durables
Niveau de développement institutionnel : 22% de ceux complétés entre AF75
et AF98 ont été classés comme ayant atteint un niveau considérable de
développement institutionnel ; 25% de ceux complétés en AF97/98 ont été
4
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
5
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Evaluations groupées
6
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Evaluation participative
2
Ce processus de dynamique de groupe est parfois connu comme la formation, l’orage, normalisation et la
performance. Après avoir été formé, il est tout à fait normal pour le groupe de traverser une période de conflit. Si le
groupe arrive à traverser ces conflits, des accords spécifiques sur la façon de travailler seront établis. Une fois ces
accords établis, le groupe peut s’atteler au travail.
7
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Appréciation rapide
Elle est mieux indiquée pour l’évaluation des processus et des problèmes. En
général, elle vise la collecte des renseignements les plus essentiels – les
« doit savoir » par rapport aux « intéressants à savoir » - et emploie des
techniques quantitatives et qualitatives. Son orientation fondamentale en
évaluation du développement est de « chercher à comprendre » parce qu’une
approche sans préjugés aura plus de chances à inspirer des conversations
ouvertes et honnêtes. L’observation de l’action dans son contexte peut
fournir des indications sur sa réussite. Il est essentiel d’écouter. Une tâche
8
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Les appréciations rapides doivent faire appel à plus d’une seule source de
renseignements. Des sources multiples augmentent la crédibilité, diminuent
la subjectivité et fournissent une perspective holistique. Les appréciations
rapides emploient les mêmes méthodes de collecte et d’analyse de données
que d’autres évaluations. La seule différence se trouve normalement dans
l’envergure. Les appréciations rapides sont d’habitude d’une envergure
limitée : quelques personnes enquêtées lors des entretiens face-à-face et
dans quelques localités. Des données déjà disponibles (des rapports et des
études, des archives et des documents) peuvent compléter et confirmer des
données collectées par observation, par entretien et par des groupes ciblés.
On peut également faire des enquêtes.
Etant donné que des méthodes qualitatives sont utilisées, il est important de
faire des notes claires et pertinentes. Il est également utile pour l’évaluateur
de tenir un agenda personnel afin de noter ses observations, ses sentiments,
ses intuitions, ses interprétations ainsi que des incidents pendant la mission
sur le terrain.
Une appréciation rapide n’est pas limitée à une méthode particulière, mais il
serait utile de respecter quelques principes. Il faut étudier les données
secondaires avant d’aller sur le terrain. Une fois sur le terrain : observer,
converser et noter. La prise de notes pendant tout le processus est utile non
seulement pour l’élaboration du rapport final mais également pour la
compréhension logique de ce que vous avez appris. Voici quelques stratégies
et enseignements tirés pendant l’exécution des appréciations rapides 3 :
3
Rapid Rural Appraisal: http://www.fao.org/docrep/W3241E/w3241e09.htm
9
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
10
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Par exemple, bon nombre d’actions ont été mises en œuvre dans beaucoup
de pays afin de diminuer le taux de mortalité infantile. Une évaluation
individuelle peut fournir des renseignements utiles sur une action spécifique,
normalement elle ne suffit pas à elle seule pour faire des généralisations sur
l’impact de l’action (et même sur la politique).
Disons que huit études ont été effectuées sur une action pré natale dont la
mesure clé de réalisation est la pesée des enfants à la naissance. Sur la base
de notre critère, nous devons inclure cinq de ces études dans notre synthèse
des évaluations. Quatre de ces cinq études montrent qu’il y avait comme
réalisation une augmentation du poids à la naissance. Nous pouvons conclure
donc que globalement l’action pré natale a eu un impact positif.
11
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Un des avantages d’une synthèse des évaluations est que cette approche
repose sur la recherche d’informations déjà disponibles et elle est donc peu
coûteuse. Une synthèse permet de créer une plus grande base pour
l’appréciation de l’impact de l’action : plus de participants et plus de
données. Il est possible d’être plus confiant dans l’élaboration des
généralisations sur l’impact.
Une synthèse des évaluations peut être qualitative aussi. En 1997, une étude
d’évaluation sur l’impact des actions des ONGs ainsi que des méthodes
d’évaluation a été publiée. 4 Le but de cette étude a été d’apprécier l’impact
des actions de développement (la composante de synthèse des évaluations
de l’étude) et d’apprécier les méthodes d’évaluation et des approches
utilisées (une composante de méta évaluation, c'est-à-dire, l’évaluation des
évaluations). Les chercheurs faisaient face à plusieurs défis. Ils ont supposé
qu’il serait possible d’obtenir toutes les évaluations, ce qui n’était pas le cas.
Il n’y avait pas de base de données sur toutes les évaluations. Certaines
actions n’ont pas été évaluées ; d’autres ont été évaluées mais il n’y avait
aucune documentation. Lorsqu’ils ont examiné certains rapports sélectionnés,
ils ne contenaient pas de réponses fermes à leurs questions. Par exemple,
une des questions d’évaluation a été : « quel était l’impact de cette action
4
OCDE/DAC. Searching for Impact and Methods: NGO Evaluation Synthesis Study. 1997.
12
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
sur la vie des bénéficiaires ? » Ils ont conclu dans leur rapport que ce n’était
pas possible de répondre à leurs questions à cause de l’insuffisance en
qualité et en quantité des données de la plupart de rapports. Certains
rapports parlaient de l’impact mais les données conclusives pour prouver
l’impact cité n’ont pas été présentées. Bien que l’étude ne pouvait pas fournir
des réponses sur l’impact (la question de la synthèse des évaluations), elle a
quand même fournit une compréhension globale sur les questions
transversales de l’exécution des évaluations du développement (la question
de la méta évaluation).
Appréciation sociale
Une appréciation sociale est l’outil principal utilisé pour assurer la prise en
compte des impacts sociaux des projets de développement. Elles sont
utilisées pour comprendre des questions et des risques sociaux et pour
déterminer les impacts sociaux sur les différentes parties prenantes. En
particulier, le but des appréciations sociales est de déterminer la probabilité
d’impacts (adverses) d’un projet donné. Des stratégies peuvent être mises
en place afin de mitiger ces impacts adverses et ces stratégies de mitigation
peuvent être suivies et appréciées dans le cadre de l’évaluation. Voir le cas
ci-dessous pour une vue d’ensemble d’une appréciation sociale. Voici les
quatre piliers de l’appréciation sociale :
13
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Le projet de privatisation agricole a été mis en œuvre. Une action visait la fourniture des prêts plus flexibles
et plus adaptés. Son objectif était de rendre les régions agricoles d’Azerbaïdjan aussi productives qu’avant.
Le projet devait se focaliser sur la documentation des terrains agricoles, sur le développement des marchés
des parcelles et la fourniture des prêts et des renseignements à un plus grand groupe de femmes et
d’hommes surtout ceux disposant de faibles revenus.
Le but de l’appréciation sociale a été d’assurer que le projet proposé reposait sur la propriété des parties
prenantes et que les bénéfices attendus seraient acceptés par la société. Les renseignements produits
devaient aider dans le processus de suivi/évaluation participatif.
La première phase de l’appréciation sociale couvrait plusieurs zones dans lesquelles le projet de
privatisation agricole a été mis en œuvre. La collecte de données a eu lieu entre novembre 1997 et l’été
1998. Les approches utilisées comprenaient :
Développement social : Des préoccupations clés se focalisent sur la pauvreté, sur le genre et sur
l’exclusion sociale
Institutions : La base du pouvoir en milieu rural est en flux, et il est donc difficile d’identifier
les parties prenantes clés. Il y a également un manque de recherche sur les
organisations sociales et un manque d’analyse sur les impacts de migration
rurale
Participation : La confusion et des ambiguïtés dans le processus de réforme foncière ont été
constatées. La répartition des terres a eu pour résultat la réduction de la pauvreté
et la limitation de l’influence des ex-gestionnaires de l’Etat et a aidé le processus
d’appropriation de la population rurale
Suivi/évaluation : Des indicateurs de performance sont utilisés pour suivre la mise en œuvre. Les
indicateurs lient les intrants et les activités du projet aux mesures quantifiées
d’extrants et d’impacts.
Intrants : des fonds bancaires, des co-financements, des subventions
Processus : coût/efficacité, niveaux de participation
Extrants : l’augmentation du nombre des prêts, des pratiques agricoles
améliorées, la diminution du taux d’infection des maladies infectieuses,
l’augmentation du nombre de parcelles privatisées
14
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Exercice d’Application
Description des Approches
Instructions :
15
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
1. Parmi ces approches, lesquelles seront utiles étant donné vos questions
d’évaluation ? Pourquoi ou pourquoi pas ?
1. Multi-site
2. Groupée
3. Participative
4. Appréciation rapide
5. Cartographie
6. Synthèse des évaluations
7. Appréciation sociale
2. Quelles sont les raisons que vous citerez à votre chef afin de le
convaincre qu’une de ces approches est la plus adaptée pour l’évaluation
de votre action ? Quelles seront ses préoccupations probables et comment
répondrez-vous ?
16
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Dans la région où vous résidez, quels sont les éléments à l’actif de cette
région géographique ? Dessinez une carte de la région. Menez des
entretiens avec les informateurs clés, observez les résidents, la
circulation, les types de commerce, etc.
17
Traduit pat le Réseau nigérien de Suivi Evaluation (ReNSE), http://www.pnud.ne/rense, Mai 2003
Light, R.J. and Pillemer, D.B. (1984). Summing up: The science of
reviewing research. Cambridge, MA: Harvard University Press.
Turpin, R.S. and Sinacore, J.M. (Eds.) (1991). Multisite evaluations. New
Directions for Program Evaluation, No; 50. San Francisco, CA: Jossey-
Bass.
Sites Web:
18