Beruflich Dokumente
Kultur Dokumente
de la Direction scientifique
mars 2001
Cooprer aujourdhui no 21
valuer : apprcier
la qualit pour faciliter
la dcision
Six notes pour contribuer lefficacit des valuations
Lvaluation, enfin considre comme un outil irremplaable pour amliorer la qualit des
actions, devient une pratique courante dans les milieux du dveloppement. Mais elle reste
un exercice dlicat, et gnre souvent plus de frustrations que de progrs.
Comment en accrotre lefficacit ? En sadressant la fois aux commanditaires dvaluations,
aux valuateurs et aux valus, pour quils se comprennent mieux, malgr les enjeux qui parfois les opposent, pour quils partagent le langage et les mthodes de lvaluation, et surtout
pour quils sapproprient plus compltement cet outil. Ils doivent lutiliser sur mesure en
fonction des spcificits de laction value, loppos dun exercice acadmique reproduit
indpendamment de son contexte. Mais le sur mesure nexclut pas certaines rgles.
Sommaire
Rsum .............................................................................................................................. 5
INTRODUCTION ........................................................................................................................... 7
1.
2.
LA DIVERSIT .......................................................................................................................... 10
1.
2.
3.
1re tape, formuler des objectifs cohrents qui rpondent vos attentes................. 82
2me tape : une prsentation des constituants de lvaluation claire et cohrente
avec vos objectifs ..................................................................................................... 83
Dernires tapes, le dtail du contenu et les aspects pratiques................................. 84
Rsum
Par Elizabeth Paquot
Ce document est organis en six notes, chacune mettant laccent sur un aspect important du
processus dvaluation.
La dmarche dvaluation sarticule autour dun systme de pouvoir, dun objet valuer et
dun dispositif danalyse qui permet au commanditaire de dresser un bilan et de prendre des
dcisions. Les rsultats attendus sont trs variables. A lextrme, ils peuvent se limiter des
termes qualificatifs (bon ou mauvais) ou vont permettre de tirer des leons sans pour autant
forcment donner de point de vue ou de solution. Certaines commandes incluent un conseil
post valuation et dans ce cas, celui-ci doit tre valid par le commanditaire.
Le processus de lvaluation consiste en la mise en place dune animation permettant
daboutir un jugement collectif. Les valuations permettent de rajuster la communication
interne des organisations ou de valoriser leurs analyses. Mais ceci nest possible que si les
interlocuteurs de lorganisation value ont t intgrs la dmarche dvaluation et se sont
appropris leurs rsultats pour rajuster leurs analyses.
Lvaluation consiste bien souvent se situer dans les enjeux de pouvoir. Cest pourquoi
lvaluateur a intrt dcrypter assez tt les conflits afin danticiper les ractions que ses
conclusions vont susciter. Lvaluateur doit donc prparer le terrain avec les acteurs et ses
conclusions doivent tre accessibles, crdibles, psychologiquement acceptables et organises
pour faciliter la prise de dcision. Lexercice dvaluation est un exercice interculturel et sa
russite dpend en grande partie de la capacit de lvaluateur communiquer. Ce dernier doit
travailler dans la transparence et respecter la commande quil a reue.
Le droulement dun projet dpend des principaux acteurs chargs de sa mise en uvre et
donc dune ensemble dlments : lorganigramme, la procdure, le systme de reporting, les
mthodes de travail, le leadership, les ressources humaines, la gestion, les mthodes daction,
etc. Dans le travail dvaluation, cest aussi lapprciation du rsultat par les diffrents acteurs
qui permet lvaluateur de remonter lefficience, la cohrence et la pertinence du projet.
Cette apprciation aide aussi lvaluateur poser les bonnes questions.
Lvaluation peut prendre plusieurs formes; elle peut tre quotidienne, se reporter un vnement donn ou tre ponctuelle. On parle dvaluation ex ante pour dsigner celle qui se
fait avant le lancement dun projet (tude de faisabilit). Mais lvaluation peut aussi se faire
mi parcours , la fin du projet ou bien aprs la mise en place du projet : cest alors une
valuation ex-post . Lvaluation interne se fait par un membre de la structure qui la
commandite, lvaluation externe, par un valuateur extrieur et lvaluation endogne, par le
commanditaire. Il existe des valuation longues qui se ralisent loin du commanditaire et
daprs des normes prtablies, et des rondes , qui se font partir dun systme de pouvoir
proche de lobjet valu.
Deux facteurs assurent la russite dune valuation : la clart de la demande faite par le commanditaire et la prparation de la dmarche par lvaluateur.
La premire tape dun travail de commande dvaluation consiste laborer un dossier de
termes de rfrence. La responsabilit du dossier des termes de rfrence repose sur le commanditaire et son quipe qui doivent les exprimer de faon claire, complte et cohrente. Les
termes de rfrence clairent lvaluateur sur plusieurs aspects fondamentaux : les constituants
de lvaluation, le contenu de la commande, les aspects pratiques de lvaluation, les
contraintes et la composition de lquipe. Le commanditaire doit prciser ses attentes, les
hirarchiser et vrifier la cohrence entre les objectifs et les moyens disponibles pour
lvaluation. L valuateur y rpond par une note mthodologique o il explique au commanditaire la dmarche quil va appliquer.
La relation entre termes de rfrence et note mthodologique peut se faire par le biais de
lappel doffres commercial ou par celui de lchange amical, mais dans tous les cas elle doit
tre valide noir sur blanc. La note mthodologique sert de document de pilotage, de garantie
du bon droulement de lvaluation sans parler du fait que cest elle qui permet au commanditaire de choisir son valuateur.
La note mthodologique se subdivise en quatre parties : la comprhension des termes de rfrence, la problmatique, la mthodologie et le droulement prvu. Elle permet en outre
lvaluateur de montrer au commanditaire si et comment il a compris son sujet. La problmatique sattarde expliquer aux commanditaires les grandes questions auxquelles lvaluation
doit apporter une ou des rponses. Lvaluateur explique rapidement les lments de mthode
qui lui permettront davancer. Lvaluateur doit par la suite construire les grands axes qui vont
structurer son travail. Ceux-ci sont dclins en trois ou quatre grandes questions tayes par
des petites questions. Lvaluateur annonce pour finir comment il va rpondre ces questions
en indiquant les critres quil va utiliser et en prcisant la qualit des rponses quil recherche.
La mthodologie quant elle dtaille les moyens mis en uvre pour lvaluation (enqutes,
documentation), ses grandes tapes ainsi que lquipe choisie pour la mener bien. Le budget fait lobjet de la dernire partie du dossier de rponse.
Evaluer, cest produire une image de la ralit pour la comparer une rfrence, un modle,
une moyenne, une prvision, une attente. Mais quelle que soit la rigueur de la dmarche de
lvaluateur, ce dernier se rfre forcment ses propres critres. Lvaluation est une dmarche sur mesure qui doit tre adapte aux valeurs du commanditaire de ltude. L'valuation
dpend de lobjet qui va permettre de dfinir lapproche. Sil existe des repres mthodologiques gnraux, chaque secteur, question, etc. ncessite dappliquer des indicateurs adapts. La
qualit des indicateurs choisis par lvaluateur dtermine celle des conclusions de lvaluation.
Six critres sont les plus communment utiliss dans les valuations de projets : la pertinence,
la cohrence, lefficience, lefficacit, limpact et la durabilit. Ils ne constituent pas un systme universel de mesure de la qualit des projets mais ils permettent de structurer la rflexion
du commanditaire et de lvaluateur.
Introduction
1.
2.
Les six petites notes qui suivent nont donc que deux ambitions :
elles doivent permettre aux botiens de lvaluation de dialoguer plus facilement avec
les spcialistes de cet exercice ;
elles doivent faciliter le passage lacte de praticiens du dveloppement qui voudraient se
lancer dans lvaluation, des valuateurs dbutants en quelque sorte.
Ouvrage de vulgarisation , elles feront peut-tre hurler les vrais professionnels . (Nous
esprons quils resteront polis et courtois dans les reproches quils voudront bien nous transmettre pour nous permettre damliorer la prochaine version de ce document). Elles
natteindront finalement leur but que si leurs premiers lecteurs nous font lamiti de nous faire
part de leurs critiques.
Ces textes matrialisent le contenu dune srie de sessions de formation conues pour ce
mme type de public, et notamment des formations internes destines aux chargs de mission
et aux responsables de programmes du Gret.
Ces notes sont conues pour que lecteurs ayant dj quelques notions en matire dvaluation
puissent les lire indpendamment les unes des autres. Elles sont donc parfois un peu redondantes :
1. La premire de ces notes doit aider les dbutants Se reprer dans la diversit des
dmarches valuatives . Il en existe de nombreuses formes, chaque commanditaire doit
pouvoir choisir celle qui rpond ses besoins.
2. La seconde choisit une des dfinitions possibles de lvaluation : Apprcier la qualit
pour faciliter la dcision . Cette formule permet de dfinir un certain nombre de traits
communs aux dmarches valuatives, qui peuvent guider le travail des apprentis valuateurs comme des apprentis commanditaires.
3. La troisime prsente la dmarche qui va Des domaines de qualit la mesure des
indicateurs . Elle fournit ainsi quelques lments de mthode qui peuvent tre utiles aux
diffrents protagonistes dune valuation.
4. La quatrime indique quels sont Les principaux critres utiliss pour lvaluation de
projet . Ils font partie de la bote outils des matres douvrage et des matres duvre
des projets.
5. La cinquime explique en dtail comment Prparer les termes de rfrence dune
valuation. Elle sadresse plutt aux commanditaires dbutants.
6. La sixime propose un canevas pour Rdiger une note mthodologique . Elle est
plutt destine aux apprentis valuateurs.
Une septime, On the fields , se risquera donner quelques conseils pratiques ces apprentis valuateurs. Elle sera rdige courant 2001.
Ces six notes, sous leur version actuelle, ont t finalises fin janvier 2001 et nont pas la qualit ncessaire pour tre publies. Elles forment un document interne au Gret, mais peuvent
tre diffuses, la demande, accompagnes des commentaires dusage.
Note n 1
Se reprer dans la diversit
des dmarches valuatives
Lvaluation sefforce dapprcier la qualit dun objet pour faciliter des
dcisions qui vont tre prises son gard. Cette proposition de dfinition
recouvre une vaste gamme de dmarches, mises en uvre dans des contextes extrmement varis.
Cette premire note propose quelques lments pour se reprer dans cette
diversit. Elle sadresse notamment aux futurs commanditaires dvaluations. Elle espre leur tre utile en leur permettant de choisir le mode
dvaluation qui conviendra leur organisation, et leurs objectifs.
I.
1.
2.
La plupart des dmarches valuatives mettent en scne trois grands rles, un systme de pouvoir, un objet valuer et un dispositif danalyse, et elles se jouent en cinq actes :
1.
2.
3.
4.
5.
II.
LA DIVERSITE
1.
10
Schma n 1
Le schma gnral des valuations : trois acteurs principaux, cinq temps
Un systme de pouvoir
-
2) Commandite un dispositif
danalyse
4
4) Rend compte de ses observations
Un dispositif danalyse
-
Dispositif de contrle
Dispositif de suivi-valuation
Mission permanente
dvaluation
Mission ponctuelle daudit
Un objet
-
Un processus de fabrication
industriel ou artisanal
Un systme de comptabilit et
de gestion
Une politique publique, ou des
lments dune politique
publique
Une institution
Un projet
Etc.
3
3) Observe, compare une rfrence,
et qualifie
11
Ces deux types dexercices, quotidiens ou singuliers, sont complmentaires. Il existe une
gamme continue qui va de lun lautre. Lvaluation vnement dun projet ou dun programme a souvent besoin de sappuyer sur des informations rcoltes tout au long du droulement de celui-ci. La conduite dune opration de dveloppement implique diffrents outils
de rgulation qui fonctionnent sur le mode du bilan/ajustement, des rythmes diffrents.
Le dmarrage
La prparation
du projet
valuation
ex ante ou
identification
La fin de
lexcution
UN PROJET CONU EN DEUX PHASES DISTINCTES
valuation
mi-parcours
valuation
finale
Evaluation
ex post
Schma n 2
Lvaluation diffrentes phases dun projet
12
Externe/interne, exogne/endogne
En termes de vocabulaire, la plupart des auteurs parlent :
1
Mais il est probable que ces contraintes initiales expliquent encore pourquoi des projets de dveloppement
territoriaux ou sociaux sont valus selon des processus si diffrents au Sud et au Nord, alors quils obissent
aux mmes logiques.
13
OE
valuation exogne
OE
valuation endogne
valuation interne
OE
OE
valuation externe
Le commanditaire et
Le commanditaire et
lvaluateur appartiennent lvaluateur appartiennent
deux institutions
la mme institution
diffrentes
dvaluation participative quand, quels que soient les acteurs, ils utilisent des mthodes
du mme nom toutes ou certaines tapes du processus.
14
doutils destins valuer des objets de natures diffrentes pour des systmes de pouvoir diffrents.
Certains auteurs rservent le terme daudit au premier et d auto-valuation au second.
1.3 Dans le type de dmarche danalyse induite
Contrle qualit systmatique trs en amont dune dcision, ou lment dune stratgie de
changement dj en cours
Une valuation peut correspondre une dmarche qualit systmatique, dcide sans a priori
particulier. Elle fonctionne alors sur le mode des bilans de sant rguliers conseills, titre
2
Cf. note n 3 ci-aprs Des domaines de qualit au bon usage des indicateurs , et note n 4 Les principaux
critres de lvaluation de projets .
Cf. les notes ci-aprs n 5 Prparer des termes de rfrence , et n 6 Rdiger une note mthodologique .
15
prventif, par les mdecins leurs patients. On peut les comparer aux rvisions priodiques,
tous les cinquante mille kilomtres, recommandes par les constructeurs automobiles leurs
clients.
Une valuation peut au contraire rpondre une attente prcise, dtermine, par exemple, par
une chance importante, ou par des doutes sur le bon droulement de laction, ou par
lapparition de premiers symptmes de dysfonctionnements.
Elle peut aussi sintgrer une dmarche de changement dj labore, clairer des enjeux
dj reprs, valider ou infirmer des hypothses dj formules pour la poursuite dun programme ou llaboration dun plan daction.
Les valuations du premier type vont donc tre conduites sur le mode du bilan systmatique.
Elles sattachent vrifier un large panel de critres de qualit communment utiliss dans le
domaine o elles interviennent. Leur contexte institutionnel est rarement contraignant.
Les secondes vont, au contraire, comporter des investigations trs cibles, et utiliser des critres de qualit spcifiques choisis en fonction des symptmes ou des attentes relevs par le
commanditaire. Elles doivent tenir compte des contraintes des processus de dcision dans lesquels elles sintgrent.
16
Cette faon de faire a des avantages et des inconvnients. Elle valorise linvestissement de
lvaluateur et sa comprhension de lobjet valu. Elle contribue la cohrence dune dmarche de changement, dont lvaluateur devient le vritable matre duvre. Mais dans certains
cas, le rle de ce dernier risque de devenir trop prminent. Les comptences et la posture
requises pour lvaluation et laccompagnement du changement ne sont pas toujours identiques. Lvaluateur est plus libre de son jugement quand sa mission sarrte lexpression de
celui-ci. Il risque, dans le cas inverse, de limiter les changements quil propose ceux quil
sait accompagner.
Pour limiter ces risques, ces dmarches, incluant valuation et accompagnement du
changement, doivent tre conues comme des processus, dont chaque tape doit tre valide
avant que la suivante ne soit engage. Par exemple, les conclusions de lvaluation doivent
tre approuves avant que ne soient labores les lignes directrices des changements proposs.
Ces dernires doivent leur tour tre agres pour, ensuite, commencer planifier, puis
mettre en uvre les premires phases dun plan daction, ou ltude de faisabilit dun
nouveau projet.
2.
En schmatisant, on peut proposer de reprer une dmarche valuative en la situant entre deux
modles types thoriques et opposs. Nous appelons ces deux modles, les longues et les
rondes , en faisant rfrence au schma n 1, qui reprsente les trois protagonistes dune
valuation au sommet dun triangle.
Les Longues
Les commanditaires des valuations longues sont des systmes de pouvoir dont les centres
de dcision sont physiquement loigns de lobjet valu. Ils fonctionnent selon un mode de
prise de dcision hirarchis et trs codifi. Ils privilgient une apprciation de la qualit fonde sur la comparaison entre la ralit et des normes, ou des prvisions quils ont eux-mmes
dfinies. Ils imposent des procdures dvaluation dtailles et rigides. Ils attendent de
lvaluateur des informations prcises et objectives sur une ralit quils connaissent mal. Ces
informations doivent leur tre prsentes selon leur propre norme. Ils se mfient dune ventuelle collusion entre lvaluateur et les acteurs proches de lobjet valu. Le travail de
lvaluateur doit donc sarrter la remise de ses conclusions.
Les conclusions quon attend de lui sont des constats. Les valuations commandites par les
bailleurs institutionnels, lorsquelles privilgient des questions de respect de procdures, sont
proches de ce type thorique d valuations longues .
Les rondes
Les valuations rondes , au contraire, sont commandites par des systmes de pouvoir
dont les centres de dcision sont proches de lobjet valu. Ces systmes fonctionnent
moins sur le mode de lautorit hirarchique que sur celui du consensus. Ce consensus repose
sur un sentiment identitaire fort, lui-mme fond sur une idologie commune affirme. Les
commanditaires de ces valuations prfrent faire appel des valuateurs proches de leur courant de pense, avec lesquels ils ont dj tabli une relation de confiance. Ils ne demandent pas
de lvaluation des informations nouvelles sur lobjet valu. Ils croient bien le connatre. Ils
17
attendent un regard extrieur pour faire le point, prendre de la distance, largir leurs rfrences, renouveler leurs dbats internes. Ces dbats doivent permettre de confirmer ou de rajuster une stratgie dintervention qui doit rester fonde sur un large consensus interne. Peu procduriers, ils sont nanmoins logiquement attentifs aux mthodes valuatives. Ces dernires
doivent permettre la participation du plus grand nombre llaboration et la validation des
conclusions finales de lvaluation pour produire effectivement un consensus. La mission de
lvaluateur ne sarrte pas la remise de son rapport, mais elle inclut sa participation au processus final qui permet linstitution commanditaire de sapproprier, au moins en partie, ses
conclusions.
Schma n 4
Les rondes et les longues
C : LE COMMANDITAIRE
C
2 Commandite
1 Sinterroge
E : LVALUATEUR
OE : LOBJET EVALU
EVALU
5 Dcide
4 Rend
compte
E
OE
3 Apprcie
C
LES LONGUES
LES RONDES
OE
OE
18
Dans la ralit les valuations ne sont ni tout fait rondes , ni tout fait longues . Leurs
termes de rfrence sont, de plus, souvent le fruit de ngociations et de compromis entre plusieurs commanditaires, positionns diffremment par rapport aux objets valus. Les institutions au gouvernement trs hirarchis prennent conscience de lintrt des dmarches
valuatives qui associent les diffrents acteurs dun projet ou dune organisation. Le schma
n 5 ci-aprs, fait figurer les principaux critres noncs au chapitre prcdent, qui permettent
de classer les valuations plutt du ct des rondes , ou plutt du ct des longues .
3.
La multiplicit des dmarches valuatives nest pas seulement une question dcole. Dans le
domaine de la coopration internationale, elle correspond une diversit dattentes et
dusages. Elle traduit galement la varit de mcanismes luvre dans les changements
associs aux valuations. Le chapitre qui suit na pas la prtention de dresser un panorama
complet de cette diversit des usages et des mcanismes. Il ne traite que des valuations
vnements . Il se limite aux principaux usages de ce que nous avons appel des
valuations endognes . Il insiste ensuite sur le fonctionnement qui est le plus couramment
en jeu dans celles que nous avons appel des valuations plutt rondes .
19
Schma n 5
Les diffrents types dvaluations : ltoile 16 branches
Pilotage rgulier
Evaluation institutionnelle
Dmarche cible, Outil dune stratgie
Dmarche cible, outil dune stratgie
Exercice
Exercice normatif
normatif exexhaustif
Multi acteurs
Multiacteurs
Accompagnement du changement
Accompagnement du changement
Evaluation constat
Evaluation constat
animation
Animation
contrle
Contrle
Simple production
Simple production
dinformations
objectives
dinformations objectives
Evaluation explicative
Evaluation explicative
Dmarche intime
Dmarche intime
Sur mesure
Temps fort
Du ct des rondes
Evaluation de projets, de
dispositifs, de politiques
Du ct des longues
3.1 Les usages multiples des valuations endognes : de la conduite des actions
lajustement des stratgies institutionnelles
20
comme, par exemple, le dveloppement des capacits dacteurs locaux appels relayer et
amplifier, dans la dure, les rsultats de leurs interventions.
Leur attente la plus frquente en matire dvaluation est donc de tirer les leons de ces phases
daction de deux ou trois ans, au regard de finalits poursuivies sur des pas de temps plus
longs, parfois sur des territoires plus vastes que ceux de leurs actions initiales. Lvaluation
doit donc apprcier les qualits dun projet ou dun programme, un moment particulier de
son droulement, pour contribuer aux orientations dun processus plus long et plus vaste. Elle
porte la fois sa mise en uvre et ses rsultats4. Elle est loccasion dajuster des outils de pilotage, de rviser des stratgies, de prendre en compte les volutions du contexte local, de
valider des acquis de mthode ou dorganisation. Elle introduit un temps de dbat partir des
premires conclusions, des doutes, parfois des divergences que partagent ou qui divisent des
quipes de terrain, de supervision et de pilotage.
21
Les mcanismes luvre dans les changements provoqus par une valuation endogne sont
varis. Ils dpendent largement de la posture initiale de lorganisation qui commandite ellemme son valuation ou celle de son projet. Lvaluation elle-mme cre rarement elle seule
une dynamique de changement. Au mieux, elle exploite et amplifie une attitude initiale qui
conjugue curiosit et culture de la qualit. Le fait de dcider une valuation endogne est souvent, mais pas toujours, la fois la preuve de cette attitude et le signe dun certain niveau global de qualit .
Les impacts de ces valuations sont minoritairement provoqus par les apprciations originales portes par lvaluateur, ou par des informations nouvelles issues de son travail. Ils sont
majoritairement dus la valorisation danalyses dj en cours au sein de lorganisation, la
fois commanditaire et value. Les dmarches trs cibles sur des questions valuatives prcises, o celles qui ont un fort contenu technique, font cependant parfois exception cette rgle.
22
Il peut en tenir compte en incluant dans les critres dvaluation, ceux auxquels ses bailleurs sont particulirement sensibles (le respect de leurs propres procdures, la qualit de lorganisation comptable et de la gestion, la
fidlit des rapports qui leurs sont destins, la fidlit au document-projet initial, la prise en compte de leurs
propres objectifs politiques, etc. ).
23
titution ou dun projet, peuvent tre le ressort principal des changements apports par une
valuation. Le rle de lvaluateur nest pas celui danimer ou de mettre en scne cet vnement, mais de contribuer crer les conditions qui vont le faciliter (il peut mme arriver que
lhostilit dclenche lencontre des conclusions de lvaluateur soit lorigine des vnements qui suscitent le passage laction).
24
Note n 2
Apprcier la qualit pour faciliter
la dcision : quelques traits
communs aux valuations
Apprcier la qualit pour faciliter la dcision . Cette dfinition de
lvaluation sert galement de fil directeur cette seconde note. Mais il
sagit cette fois de cerner les principaux points communs aux diffrentes
dmarches valuatives. Ceux-ci permettent de donner un premier clairage
sur la pratique de lvaluation.
Cet clairage peut tre utile de futurs valuateurs qui cherchent mieux
connatre les contours de leur mission.
I.
1.
Cf. note n 3 ci-aprs Des domaines de qualit au bon usage des indicateurs .
25
commanditaire a intrt sassurer que les choix qui lui sont alors proposs sont conformes
ses attentes7.
Quelle que soit la rigueur de leur dmarche, les apprciations des valuateurs ne sont pas toujours fondes sur des indicateurs mesurables, ni en rapport avec des rfrences explicites. (Ils
sen rendent vraiment compte quand ils lisent les rapports des autres). Ils se rfrent invitablement leurs propres expriences, et leur propre conception de la qualit , surtout lorsquils disposent de peu de temps pour qualifier des objets complexes. Ces rfrences ne sont
pas forcment illgitimes, mais elles devraient toujours tre le plus explicite possible. (Nous
croyons souvent que notre jugement est le fruit du bon sens et de lexprience, quand parfois
les autres estiment quil nexprime quun point de vue idologique, ou quune conception particulire).
2.
Sans trop jouer sur les mots, ni relire Marx, on retiendra quune boue de sauvetage a une grande
valeur pour lhomme en train de se noyer, quelle que soit lvolution de lindice du prix de cette
denre au niveau du commerce de dtail. Autrement dit, la valeur dun objet dpend aussi du point
de vue et du contexte do on lobserve. Les points de vue du commanditaire de lvaluation,
comme celui de lvaluateur sont lgitimes. Ils ne sont pas forcment les seuls. Et encore une fois,
ils sont dautant plus comprhensibles par autrui quils sont explicites.
II.
1.
7
8
9
26
Cf. notes n 5 ci-aprs Prparer des termes de rfrence , et n 6 Rdiger une note mthodologique .
Mais pas toujours, cf. la note n 1 Se reprer dans la diversit des dmarches valuatives .
Les perfectionnistes doivent retenir cela : si au cours dune mission courte dvaluation, ils narrtent pas assez
tt leurs dmarches dinvestigation pour commencer laborer et tester leur synthse, leur rapport risque
dtre une catastrophe littraire et financire.
2.
Les deux usines jugement, soi et les autres. Mais aider formuler
un jugement ou recueillir une opinion sont deux exercices bien
diffrents
Lvaluateur peut soit produire lui-mme son propre jugement sur lobjet valu, soit le faire produire par dautres. Il peut aussi combiner ces deux familles de mthodes. La deuxime de ces deux
mthodes est incontournable pour certains objets (les politiques publiques), ou certaines questions
valuatives pour lesquelles lessentiel de la lgitimit de la rponse est lie la qualit de ceux qui
la construisent (lus, membres, citoyens, utilisateurs dun service public, etc.). Il sagit alors de
fournir un groupe les moyens dlaborer un jugement en laccompagnant dans le choix de ses
critres, de ses rfrences, et de ses mthodes. Cest une dmarche trs diffrente de celle qui
consiste recueillir lopinion dun groupe de personnes ou dune population, et se donner les
moyens de le comprendre et de linterprter. Lopinion des utilisateurs, des bnficiaires, est un
lment indispensable pour apprcier la qualit dun service ou dun projet . Mais le jugement
de cette qualit ne se rsume pas cette opinion.
III.
1.
Lvaluateur va tre amen porter un jugement sur un objet qui est bien souvent un enjeu de
pouvoir, ou qui est plac au centre dintrts divergents. Ses conclusions seront rarement neutres vis--vis des rapports de force, et des jeux dopposition et dalliance constitus autour de
ces enjeux. Il a intrt dcrypter ces derniers assez tt, la fois pour interprter les informations et les opinions quil va recueillir, et pour pouvoir ensuite anticiper les ractions que ses
conclusions vont susciter.
Il arrive souvent que les commanditaires aient des ides a priori bien arrtes sur les conclusions quils attendent dune valuation. Ils ne la diligentent que pour faire justifier par un expert indpendant des dcisions quils ont eux-mmes dj arrtes.
Lanalyse rapide du jeu des acteurs concerns par lvaluation et lcoute attentive de leurs
attentes (vis--vis de celle-ci) est souvent une tape pralable utile. Lvaluateur a intrt
bien expliquer, chacun de ses interlocuteurs, comment il se situe par rapport ces enjeux.
(Parfois, il est alors amen dire quil est neutre, indpendant, au-dessus de la mle, mais
pay par le bailleur du projet quil value On ne le croit pas toujours). Il russit rarement
dsarmer toutes les craintes, les animosits, et les anticipations que suscite sa mission. Il peut
cependant y contribuer en expliquant clairement la dmarche quil va suivre. En dehors dun
contexte particulirement conflictuel, la transparence est une bonne arme pour dsarmer la
mfiance. Il peut tre utile lvaluateur de prvoir et dannoncer un temps qui permette aux
principaux acteurs concerns par le projet de ragir ses conclusions, avant quelles ne deviennent dfinitives.
27
2.
1.
Lvaluation est donc un outil daide la dcision. Cela implique que les conclusions dun tel
exercice soient :
rapports crits. Ils doivent systmatiquement comporter synthse, rsum, table des
matires, annexes Ces rapports sadressent souvent des dcideurs presss, ou parfois
des lecteurs pour qui lexercice de la lecture nest pas familier.
La crdibilit est une question de mthode, de cohrence et de rigueur, on y reviendra ciaprs. Elle implique, en tout cas, que les mthodes et les raisonnements qui sont lorigine
des affirmations de lvaluateur soient explicites, comme les rfrences sur lesquelles il
fonde sont jugement (cf. ci-dessus). Ces rfrences doivent tre cohrentes avec celles
utilises par les dcideurs auxquels sadresse le rendu de lvaluation.
Tous ceux qui ont dj subit des valuations doprations quils mettaient eux-mmes en
uvre savent quel point il est insupportable dentendre un valuateur porter un jugement
critique sur son propre travail : voil un individu qui se permet, aprs quelques jours
denqute seulement, de juger luvre sur laquelle vous travaillez avec acharnement
depuis plusieurs annes ! Cest insupportable ! Le jugement de lvaluateur doit tre
mesur et argument quand il sadresse aux personnes fortement impliques dans laction
value. Souligner les points forts et les qualits nest quune faon de rendre la critique
plus audible et plus digeste. Les conclusions inaudibles par ceux auxquels elles sadressent
ne servent rien. Les mthodes participatives, qui permettent aux acteurs de contribuer
28
activement llaboration des jugements ports sur leurs actions, sont, de ce point de vue,
efficaces. Leurs conclusions ont plus de chance dtre entendues, que les jugements
strictement externes et assns de faon premptoire.
Trois autres conditions (aux moins) sont ncessaires pour que les conclusions dune valuation produisent du changement :
ses conclusions sont claires et cohrentes avec les attentes de ceux qui ont commandite
lvaluation : moins dintenses efforts pdagogiques, il ne sert rien de rpondre
des questions dimportance secondaire que son interlocuteur na pas souleves, surtout
tant quon na pas rpondu aux questions quil vous avait pralablement poses10 ;
ses conclusions sont hirarchises et prsentes de faon cohrente avec des niveaux de
dcisions diffrents : Elles distinguent lessentiel du dtail, le stratgique du ponctuel,
le certain du probable11 ;
ses conclusions intgrent les contraintes du systme de pouvoir auquel elles
sadressent. Lvaluateur peut se faire plaisir en imaginant la suite du projet quil vient
dvaluer, avec Dieu le Pre comme matre douvrage, et une arme de petits Jsus
comme matre duvre Une telle simulation est agrable et facile construire. Mais
elle ne sert rien car elle ne se concrtise que trs rarement. Les recommandations ne
sont utiles que si ceux auxquels elles sadressent peuvent se les approprier.
2.
10
11
Cela ne signifie videmment pas quil faille taire des questions importantes rvles par lvaluation, en dehors
de celles explicitement poses par le commanditaire.
Avouons-le lexercice est difficile (et pas toujours demand cf. ci-dessus).
29
V.
1.
Une vidence est toujours bonne rappeler : une valuation consiste excuter une commande. Elle a plus de chances de russir quand :
la commande est claire et comprhensible ;
elle est cohrente, et quand notamment les moyens quelle mobilise sont en phase avec les
ambitions quelle poursuit12 ;
elle est comprise par ceux qui lexcutent ;
son excution fait lobjet dun contrat.
Une partie importante se joue donc dabord lors de llaboration de la commande (et donc de
lcriture des termes de rfrence), puis ensuite dans les ngociations qui suivent entre commanditaires et valuateurs. Ces ngociations sont largement facilites lorsque ces derniers
produisent une note mthodologique suffisamment dtaille13.
2.
Lvaluateur contribue des dcisions, parfois importantes quil ne prend jamais lui-mme. Il
assume donc une responsabilit particulire vis--vis des dcideurs qui coutent ses propositions, comme des valus qui parfois en subissent les consquences. Il doit en contrepartie
respecter un minimum de dontologie professionnelle : Il doit (selon nous) :
2.1 Travailler dans la transparence
Son positionnement, ses mthodes et ses conclusions doivent tre transparents aux yeux de ses
commanditaires, comme des acteurs les plus lis lobjet valu.
La transparence du positionnement initial de lvaluateur vis--vis des protagonistes et de
lobjet de lvaluation nous semble une notion plus oprationnelle que celle, bien abstraite, de
son ventuelle neutralit :
la neutralit absolue nexiste pas ;
la proximit nest pas toujours incompatible avec lobjectivit ;
les valuateurs ne seront jamais des instruments de mesure parfaits. Mieux vaut que leurs
utilisateurs ne recherchent pas une illusoire perfection, mais connaissent les biais ventuels de ceux quils utilisent pour mieux interprter les apprciations qui leur sont livres.
Le fait que les personnes proches de lobjet valu aient au minimum accs aux conclusions
de lvaluation est une exigence opposable aux valuateurs, comme aux commanditaires.
12
13
30
Il ne faut pas croire les publicits tlvises qui prtendent quon peut avoir trois barils dvaluation pour le
prix dun.
Do limportance des deux notes ci-aprs destines faciliter ces deux tapes.
Lvaluateur est responsable de ses crits et de ses conclusions. Il ne lest pas des dcisions
qui peuvent tre prises par la suite par son commanditaire. Cette distinction, fondamentale,
selon nous, ne fonctionne que si lvaluateur prserve son indpendance et garde sa libert de
conclure vis--vis de son commanditaire et de son environnement :
cest parfois moins facile respecter qu dire. (Avouons-le, part peut-tre lauteur de
ces lignes, les valuateurs ne sont pas de purs esprits). Ils vivent de leur mtier et donc
des commandes que leur confient les donneurs dordres. Dans le domaine de la coopration, les bailleurs institutionnels reprsentent la plus grosse part de leur march ; leur indpendance commerciale nest pas toujours absolue. En rgle gnrale, pour la prserver,
sauf si son mandat initial le prvoit au dpart, lvaluateur vite de contribuer la mise en
uvre de ses propres recommandations ;
dexprience, on peut dire que la capacit dun valuateur prserver sa libert de
conclure dpend de son habilet critiquer sans heurter. Mais cet exercice videmment
ses limites.
2.3 Respecter une commande
Les valuateurs doivent se mfier deux-mmes. Ils ont parfois tendance confondre les attentes de leur commanditaire avec leurs propres sujets de recherche et leurs propres travaux.
Certains finissent par reproduire leur approche trs personnelle de lvaluation quel que soit
lobjet quils valuent, dautres ne les considrent que comme une illustration supplmentaire
de leur thorie du dveloppement.
Les valuateurs sont soumis lobligation de rserve. Leurs rendus crits appartiennent leurs
commanditaires. Ils ne peuvent les diffuser ou les utiliser pour leurs propres travaux, sans
lautorisation de ces derniers.
Lvaluation cest apprcier la qualit. Au-del des questions de mthode, lexercice pose
donc aussi la question du choix des rfrences et des valeurs utilises pour cette apprciation. Ce choix nest pas seulement laffaire de lvaluateur.
Lvaluation prpare des dcisions. Elle est donc souvent au cur de conflits dintrts et
de pouvoir.
Cest la fois un travail danalyse, de synthse et de restitution, et donc avant tout un
exercice de communication.
Cest enfin une pratique professionnelle, qui consiste rpondre une commande sur
mesure , en respectant un certain nombre de rgles dontologiques.
31
Annexe 1 de la note n 2
Les diffrentes tapes dune valuation
Le schma ci-aprs dtaille les diffrentes tapes dune valuation externe de projet.
1.
Avant la prparation
2.
La prparation de lvaluation
3.
Chaque valuation est diffrente. Mais sur le terrain, lvaluateur commence par se faire une
image globale du projet quil doit valuer, et par structurer cette image en fonction des
questions qui lui sont poses. Il a besoin de cette tape pour ajuster sa mthode en fonction
de la ralit quil dcouvre. Il peut ensuite commencer la collecte, puis le traitement des
donnes. Ce travail lui permet de construire progressivement son jugement. Il mne en
gnral toutes ces tapes en dialoguant avec lquipe du projet valu et ses partenaires.
32
4.
La conclusion de lvaluation
Lvaluateur rend compte de ses premires conclusions ses interlocuteurs, en fin de mission,
au cours dune restitution orale qui donne lieu un dbat. Il rdigera ensuite un rapport
provisoire quil soumettra son commanditaire. Celui-ci doit le valider et faire part de ces
critiques avant que lvaluateur nen tienne compte (sans forcment changer son jugement)
dans son rapport dfinitif.
5.
Laprs valuation
33
La dcision
AVANT LA
Souvent, la
concertation
DCISION
Llaboration des
termes de rfrence
La rdaction de
la note mthodologique
La prparation
matrielle de
lvaluation
La ngociation de
la note mthodologique
Le choix des
valuateurs
La structuration
de lobjet valuer
Lajustement de
la mthode
La collecte des
donnes
Le traitement
des donnes
Llaboration
des hypothses
de jugement
Les restitutions
Lutilisation des
conclusions de
lvaluation
La rdaction du
rapport dfinitif
La validation
La rdaction du
rapport
provisoire
LGENDE
Le commanditaire
Le commanditaire et
lvaluateur
34
Lvaluateur
Note n 3
Des domaines de qualit
au bon usage des indicateurs
Comment apprcier la qualit ? Ce nest pas si facile expliquer.
Cette troisime note essaie dillustrer le cheminement qui va des domaines
de qualit lutilisation de la mesure des indicateurs, en utilisant un exemple calamiteux, celui de la voiture de Jean-Jacques. Elle tente den
conclure quelques indications de mthode.
Elle pourra peut-tre tre utile aux apprentis valuateurs, mais aussi aux
rdacteurs dbutants de termes de rfrence, qui ont besoin den savoir
davantage sur loutil quils sapprtent commander.
I.
Lauteur demande tous ceux qui ont horreur de la bagnole , tous ceux qui jugent que
lexcs dautomobiles est un des flaux majeurs de ce vingt et unime sicle, de bien vouloir
lexcuser. Il promet de trouver un exemple moins calamiteux dans une prochaine version de
cette note.
1.
Ursuline a une famille nombreuse avec laquelle elle fait souvent de longs voyages, elle est
professeur de musique, elle joue de la contrebasse. Suzy est une fonceuse qui naime que la
vitesse, et elle est pleine aux as. Au contraire, Arthur, est la fois radin et prudent. Gatan lui
est un dragueur, il ne pense quaux filles.
Ils veulent tous changer de bagnole. Jean-Jacques leur propose la sienne. Chacun va valuer
les qualits de cette voiture avant de se dcider : vont-ils lacheter ou non ?
35
Ursuline veut pouvoir transporter sa petite famille et son instrument de musique prfr. Elle
est attentive avant tout lhabitabilit et au confort. Seule la performance compte pour Suzy.
La voiture dArthur doit tre conomique et sre. Celle de Gatan doit plaire aux filles.
Jean-Jacques veut tre honnte sur ltat de la voiture quil vend et ne pas se faire rouler sur le
prix.
1.3 Les critres de qualit
Quand Ursuline parle dhabitabilit, elle veut dire trois choses : le nombre de places assises,
mais aussi le volume et le ct pratique. Elle aussi doit imprativement pouvoir transporter sa
contrebasse.
Pour Suzy les performances cest la vitesse, les acclrations et la tenue de route.
Arthur va dabord regarder le cot dacquisition, la consommation, le cot de lentretien. Il
sintressera ensuite la prsence ou labsence des principaux accessoires de scurit : ABS,
air-bag, etc.
Avant de se dcider Gatan aimerait bien connatre lopinion des jeunes filles de moins de
vingt ans, surtout des brunes aux yeux bleus, sur les diffrents modles de voiture, et sur celle
de Jean-Jacques en particulier.
Jean-Jacques ny connat rien en mcanique. Il a lu que le prix de vente dpend du modle, de
lge, du kilomtrage et de ltat gnral de la voiture.
1.4 Les indicateurs
Pour Ursuline, le nombre de places cest simple, il figure sur la carte grise. Elle veut pouvoir
comparer le volume de la voiture de Jean-Jacques celui dautres modles dont elle a lu les
essais dans lAuto journal . Cette revue spcialise cite deux chiffres, exprims en mtres
cubes, le volume de lhabitacle et celui du coffre bagage. Mais pour le coffre, Ursuline veut
faire un essai : la contrebasse rentre ou ne rentre pas. Pour apprcier si elle se sent bien ou pas
36
dans son ventuelle future voiture, elle doit la conduire sur un parcours mixte ville-campagne,
en vitant les jours de pluie. Elle a toujours le cafard les jours de pluie.
Suzy ne croit ni aux journaux, ni aux moyennes tablies pour un modle donn par son constructeur. Elle se fait chronomtrer elle-mme, Montlhry, au volant des bolides qui la tentent, Elle compare ses propres performances obtenues avec des voitures diffrentes.
Arthur, cest le contraire, il se rfre la cote de lArgus , un autre journal spcialis, pour
connatre la consommation du modle de voiture que propose Jean Jaques, et comparer son
prix de vente dautres vhicules analogues. Il utilise des catalogues de revendeurs pour calculer son indice du cot dentretien. Pour la scurit, il vrifie si la voiture est quipe ou non
des quipements de sa liste. Il note + 1 ou + 5 quand ils sont prsents, selon limportance quil
leur accorde.
Gatan imagine tester son questionnaire compliqu sur une trentaine de jeunes femmes brunes
aux yeux bleus. Mais il ne sait pas encore bien comment il exploitera les rponses quil obtiendra.
Jean-Jacques a fait faire le contrle technique de sa voiture et a calcul sa cotation laide
dune revue spcialise.
1.6 Lutilisation de la mesure
La voiture de Jean-Jacques doit remplir deux conditions pour quUrsuline lachte. Elle doit
offrir six places assises et sa contrebasse doit se loger facilement dans le coffre. Ces deux
conditions remplies, Ursuline se fiera son instinct. La voiture lui plaira ou pas.
Suzy se dcidera en comparant les performances de la voiture de Jean-Jacques au bolide
quelle pilote actuellement.
Arthur, un scientifique dcidment, se dcidera dabord en utilisant un indice synthtique qui
tient compte du prix dachat, de la consommation et de son propre indice du cot dentretien.
Il comparera la valeur de cet indice calcul pour la voiture de Jean-Jacques celles quil a
calcules pour trois modles de rfrence. Si la comparaison est favorable, il utilisera la mme
mthode avec son systme de notation des quipements de scurit.
Pendant que jcrivais ces lignes Gatan a test son questionnaire avec ma femme. Ils sont
partis dans sa vieille Citron pourrie. Comme ils ne sont toujours pas revenus, je ne sais pas ce
quil en a conclu.
Jean-Jacques essaiera de vendre sa voiture au prix quil a calcul, selon son systme de cotation. Il prfre la garder plutt que de la cder moins de 15 % de ce prix.
II.
1.
Ursuline, Suzy, Arthur et Gatan valuent tous les quatre le mme objet, la voiture de JeanJacques. Ils veulent clairer la mme dcision : lachtent-ils ou pas ? Mais en fonction de
37
lusage quils comptent en faire et de leur personnalit , ils ne vont pas du tout sattacher au
mme domaine de qualit , ni forcment utiliser les mmes critres pour explorer ces domaines.
Il ne faut pas trop forcer le trait, il y a aussi des valuations standard comme celle laquelle
procde Jean-Jacques. Mais on peut retenir que lvaluation est souvent une dmarche sur
mesure , qui doit tre adapte aux valeurs du commanditaire de ltude. Le choix des
critres dvaluation nest pas universel . Il nest pas strictement technique. Le commanditaire a son mot dire. Lvaluateur ne peut guider ce choix que sil a une connaissance minimum du contexte de lvaluation et des rfrences de son commanditaire14.
2.
Critre 11
Domaine de
qualit n 1
etc.
Critre 21
Lobjet
valuer
Domaine de
qualit n 2
Critre 22
Critre 23
Indicateur 221
Indicateur 222
Indicateur 223
Domaine de
qualit n 3
Critres 311
etc.
14
38
Do limportance des termes de rfrence, puis de la ngociation de la note mthodologique, cf. notes ciaprs.
Cette dmarche qui va des domaines de qualit la mesure des indicateurs, est une dmarche
trs gnrale. On peut la symboliser par le schma prcdent.
Cette dmarche peut sappliquer quel que soit lobjet dont on cherche apprcier la qualit,
quil sagisse du gruyre ou dun projet de dveloppement villageois
Selon cet objet, elle sera plus ou moins longue, on passera plus ou moins vite du premier indicateur de qualit aux critres. Mais peu importe le nom donn chaque case , pourvu que
la dmarche suive un cours logique et aboutisse la dfinition dindicateurs.
Le cot
La texture
Le
gruyre
La pte
Louverture
La couleur
La prsentation
Le nombre de
trous
La taille des
trous
La rpartition
des trous
39
Schma n 9
Exemple des domaines de qualit possibles dun projet
de dveloppement villageois
La qualit
technique des
ralisations
Les
ralisations
physiques
Celui des
coles
Leur usage
social
Leur appropriation
Un projet de
dveloppement
local
Celui des
infrastructures
hydrauliques
Lvolution de
leurs capacits
institutionnelles
Lvolution
des matres
douvrages
locaux
Celle de leurs
comptences en tant
que matre douvrage
Lvolution
des relations entre
acteurs locaux
40
Le dernier schma ci-avant traite de la qualit dun projet de dveloppement villageois qui
aurait aid techniquement et financirement des collectivits, ou des associations locales,
raliser des infrastructures collectives. Il propose deux grands domaines de qualit. Dune part
celui des infrastructures elles-mmes, et dautre part lvolution des capacits de ces matres
douvrage locaux. Il propose de dtailler ce premier domaine de qualit en trois parties : les
qualits techniques de ces ralisations (par exemple le cot et la qualit des constructions),
leur usage social, et leur appropriation (comment et par qui sont-elles gres et entretenues,
comment seront pris en charge leurs frais rcurrent ?). Lapprciation de leur usage social
dpend de leur nature : centres de sant, coles, infrastructures hydrauliques, etc. Les domaines de qualit ainsi dtaills, restent dfinir des critres et choisir des indicateurs.
Le schma ci-dessous propose ce que pourraient tre ces critres dans lexemple dun projet
dcoles.
Schma n 10
Exemple de la dmarche qui va des domaines de qualit aux indicateurs
pour un projet de dveloppement villageois (suite)
En termes de
scolarisation
Limpact
immdiat
Lvolution de la
dure de la
scolarisation
En termes de conditions
denseignement
Lusage social
des coles
Limpact diffr
41
3.
La qualit des indicateurs choisis dtermine en partie celle des conclusions de lvaluation.
Lvaluateur sachant valuer sinterroge donc sur les critres de qualit des indicateurs (le
bougre adore appliquer lui-mme et son travail les lments de son art). On peut lui rappeler trois vidences :
Les moyens ncessaires la mesure de lindicateur, la collecte, au traitement des donnes, doivent tre en rapport avec ceux dont dispose la mission dvaluation ou le dispositif de suivi-valuation. Ils doivent tre en rapport avec lutilit espre des donnes traites. Cest, en quelque sorte, la faisabilit, le rapport qualit/prix de lindicateur. On peut
parler defficience.
Il doit exister une corrlation forte et indiscutable entre lutilisation de lindicateur et le
critre quil est cens mesurer. On peut appeler cela la pertinence. Elle sapprcie deux
niveaux. Elle implique :
que lindicateur soit adquat, et quil exprime bien le critre quil est cens mesurer ;
et que sa mesure et son utilisation soient effectivement significatives.
Par exemple, lvolution du rendement nest pas un indicateur adquat pour mesurer
limpact de lintroduction dun nouvel itinraire technique sur les conditions de vie des
paysans. Pour approcher cet impact, il faudrait, au minimum, raisonner en termes
dvolution du revenu et, ou, de la productivit du travail. En admettant que lvolution de
la productivit du travail soit thoriquement un bon indicateur, il resterait trouver le
moyen de mesurer cette volution et de sassurer que cette mesure est bien significative15.
Les donnes, collectes selon un protocole prcis, ne doivent pas varier en fonctions des
conditions de cette collecte et en particulier des personnes charges de celle-ci. On peut
parler de fiabilit.
3.2 Etre rigoureux dans la mesure des indicateurs qualitatifs. Ce nest pas
toujours la porte de lvaluateur, qui dpend souvent des chiffres des
autres
Arthur, prtendument le plus scientifique des quatre acheteurs intresss par la voiture de
Jean-Jacques, est aussi celui qui dpend le plus des chiffres des autres. Il est apparemment
rigoureux. Mais en fait il fait une confiance aveugle aux publications spcialises.
Lvaluateur est souvent dans cette mme posture au cours dune mission courte, il travaille
avec les donnes des autres. Il est parfois surprenant de lire quel point certains peuvent tre
premptoires partir de chiffres, sans sinterroger sur lorigine et la qualit de ces derniers.
3.3 Limprialisme et les limites des indicateurs quantitatifs
Limpact des donnes chiffres sur les dcideurs est encore plus important. Mmes errones
ou invrifiables, elles les rassurent plus que des apprciations qualitatives nuances. En tho15
42
rie, tout peut tre mesur objectivement. En ralit cest plus compliqu, comme le montrent
Ursuline et Gatan.
La premire ne peut se fier qu une apprciation qualitative du critre se sentir bien dans sa
future voiture , ce qui nest pas contradictoire avec la recherche de lobjectivit. Elle doit
effectuer cette apprciation en respectant certaines conditions, viter les jours de pluie.
Le second tente de quantifier la sduction quopre un modle de voiture particulier sur les
jeunes femmes brunes aux yeux bleus. Il choue lamentablement. Mais il a tent un exercice
courant et difficile de lvaluation : apprcier puis utiliser lopinion des bnficiaires dun
projet ou dun service, ou des clients potentiels dun produit. Il existe des mthodes pour cela.
Elles ntaient pas la porte de Gatan.
Cest vrai, Ursuline ne fait pas beaucoup defforts. Elle pourrait imaginer un systme plus
scientifique pour mesurer si elle se sent plus ou moins bien dans une voiture. Mais Ursuline
est mre de famille et musicienne. Elle a bien dautres choses faire que de se prendre la
tte pour acheter une bagnole . Elle fait des choix. Cest une pragmatique. Elle est en fait
dans la posture dun valuateur qui travaille en temps limit.
Il ne faut pas pousser trop loin lexemple de la voiture de Jean-Jacques . Cela nous
rappelle que la qualit dun objet nest pas une valeur absolue, mais quelle dpend de
son utilisateur , et des valeurs de ce dernier.
Les attentes de celui-ci dterminent la dmarche de lvaluation Cette dmarche commence par le choix des angles de vue sous lesquels on va considrer lobjet valu, ou
des domaines de qualit qui vont tre apprcis. Cette apprciation implique de choisir des critres, puis des indicateurs. Il convient ensuite de dfinir la faon dont on va mesurer ces indicateurs et comment on va utiliser cette mesure pour conclure.
Ces indicateurs doivent tre efficients, fiables et pertinents.
Les indicateurs quantitatifs paraissent sduisants aux yeux de beaucoup. Mais ils demandent une rigueur qui nest pas toujours la porte des valuateurs en mission courte. Tout
nest pas aisment quantifiable.
43
Lvaluation reste un exercice pragmatique, contraint par les moyens mis sa disposition. Au final lvaluateur doit veiller bien informer ses auditeurs et ses lecteurs sur la
nature de ses apprciations qui oscillent toujours entre faits dmontrs et opinions
argumentes .
44
Note n 4
Les principaux critres
de lvaluation de projets
Cette note prsente les six critres les plus communment utiliss dans les
valuations de projets : la pertinence, la cohrence lefficience, lefficacit,
limpact, et la durabilit. Elle tente den faciliter lusage plutt que den
chercher des dfinitions exactes, ce qui ncessite de rappeler brivement ce
quest le cycle des projets .
Compte tenu de la mode actuelle, cette bote outils devient indispensable
aux commanditaires dvaluations de projets, comme aux valuateurs dbutants.
I.
1.
Ces six critres se rfrent la dmarche projet ou au cycle des projets , dont il existe galement de multiples prsentations. Chaque cole a la sienne. Les lecteurs de cette note
connaissent probablement bien cette dmarche. Ils peuvent donc, en majorit, passer directe-
45
ment au chapitre suivant. Les nophytes pourront sen faire une petite ide partir de cette
prsentation trs simplifie.
1.1 En quelques lignes
16
46
Tous les auteurs ou toutes les grilles utilises pour rdiger des documents projets nutilisent pas ces trois termes, logique dintervention, stratgie daction, prvision oprationnelle. Mais on peut presque toujours les lire
sous ces trois angles successifs.
1.2 En un schma
Schma n 11. Le schma (simplifi) du cycle des projets
La phase de mrissement
La rencontre et lvolution des
relations entre les acteurs
Un contexte
local
Un contexte
global
Un processus didentification
Ltude de faisabilit
La ralit transformer
Des acteurs
Des rgles
de lart
La conception
Une logique dintervention
Une stratgie daction
Une prvision oprationnelle
Les effets
des rsultats
Des moyens
Des rsultats
Des actions
Des dlais
La mise en oeuvre
induits
Les
rsultats
Lapplication de la stratgie
Le management dune quipe
La mobilisation des moyens
La ralisation des actions
1.3 En ralit
Cette description sous la forme dtapes bien distinctes qui se succdent sur un mode linaire,
tout au long de cycles successifs est bien thorique. Dans la ralit, les interventions de dveloppement prennent souvent la forme dembotements de projets diffrents et donc de cycles
qui se tlescopent. Tous les projets ne sont pas conus en dtail avant leur lancement, comme
le laisse supposer ce schma. Certains procdent sur un mode itratif. Leur conception initiale
se limite un cadre relativement souple. Leur stratgie et leurs prvisions oprationnelles
voluent dtape en tape. Elles peuvent tre ngocies au fur et mesure entre plusieurs partenaires, qui eux-mmes voluent avec lavancement du projet. On les dsigne parfois comme
des projets-processus. Lvaluation de ces derniers, et celle des projets plus rigoureusement
47
planifis font appel des mthodes qui utilisent diffremment les six grands critres. (La prsentation qui suit est plus adapte lvaluation des projets planifis).
2.
2.1 La pertinence
La notion de pertinence
Ce que voulait faire ce projet tait-il intelligent ?
Il sagit, selon le schma ci-avant, dapprcier sa logique dintervention , sa finalit, ses
principaux objectifs et principes, au regard de la ralit quil se proposait de transformer.
On peut, par exemple se demander :
si la finalit et les principaux objectifs correspondent aux priorits des acteurs locaux ;
si cette logique est approprie au contexte local ? Prend-elle en compte ses caractristiques
spcifiques ? Est-elle susceptible de valoriser ses atouts particuliers ou de combler les
handicaps majeurs son dveloppement ?
si elle tient suffisamment compte du contexte gnral (les donnes macroconomiques, les
politiques nationales et rgionales, etc.) ;
si elle est en phase avec les rgles de lart qui prvalent dans ce domaine
dintervention ;
si elle est susceptible de sinscrire dans un processus de dveloppement ;
etc.
48
valuer :Schma
apprcier lanqualit
pourpertinence
faciliter la dcision
12. La
La conception
Une logique dintervention
La ralit
transformer
Une stratgie
Une prvision oprationnelle
La mise en oeuvre
Les rsultats
Lapprciation de la pertinence
On peut suivre plusieurs pistes ou mthodes pour apprcier la pertinence dun projet :
On peut sinterroger de faon cartsienne sur ladquation entre sa logique et la
ralit transformer , en dclinant classiquement des questions valuatives de plus en
plus prcises et en tentant dy rpondre. Cela implique souvent de commencer par reformuler cette logique, par revisiter lanalyse du contexte, et actualiser sa perception de
ltat de lart .
La faon dont a t conu un projet explique souvent des dfauts de pertinence. Des
conceptions trop rapides, ou trop prdtermines par les ides reues dun bailleur,
lidologie dune ONG, le savoir-faire initial dun oprateur, peuvent tre lorigine de
logiques dintervention qui ne tiennent pas assez compte des caractristiques de leur
contexte.
De ce point de vue, lanalyse des tudes pralables la conception du projet est souvent
rvlatrice. Elles sont souvent incompltes, parce que ralises selon un angle technique
prdtermin. Lanalyse sociologique est souvent le parent pauvre des tudes
didentification et de faisabilit ; les logiques dintervention font alors limpasse sur les
fonctionnements sociaux des populations auxquelles elles sont supposes sadresser.
La qualit de la conception dun projet se rvle en gnral au cours de sa mise en uvre.
Elle dtermine en partie son droulement et ses rsultats. Lapprciation de la pertinence
dun projet peut donc aussi procder de lexplication de ses autres qualits. Les difficults
de mise en uvre ou la modicit des rsultats obtenus sont parfois les rvlateurs des dfauts de pertinence.
49
critre, les valuateurs doivent expliciter les rfrences qui fondent leurs apprciations : leur
propre analyse du contexte, leur comprhension de la logique dintervention, leur perception
de ltat de lart
Dans certains cas, le manque de pertinence constat la fin dun projet, nest pas forcment
lexpression dun dfaut de conception. Il peut tre d une volution imprvue, ou difficilement prvisible, du contexte (crise ouverte, arrive (ou dpart) dautres projets, phnomne
climatiques majeurs et exceptionnels). Il faut tre prudent dans la critique a posteriori de
limprvision17.
2.2 La cohrence
La notion de cohrence
La manire de faire du projet a-t-elle t conue de faon logique ?
Toujours selon notre schma du cycle du projet, lapprciation de la cohrence consiste
examiner la stratgie du projet et sa prvision oprationnelle au regard :
dune part, de sa logique dintervention, cest la cohrence interne ;
et dautre part, en fonction de la ralit et de son contexte, cest la cohrence externe.
Par exemple, on rencontre des projets qui annoncent des principes participatifs et prvoient
une programmation dtaille qui nest plus ngociable avec ceux quon prtend associer leur
pilotage. Les dlais imposs peuvent tre trop courts pour atteindre des objectifs qui ncessitent des volutions sociales trs lentes. Les ambitions annonces sont disproportionnes au
regard des moyens prvus. Le projet prvoit la collaboration de nombreux acteurs, sans avoir
les moyens de les mobiliser et de les coordonner...
Les questions qui prsident lexamen de la cohrence externe peuvent tre les
suivantes :
La stratgie, lingnierie sociale et les solutions techniques prconises, sont-elles
adaptes leur contexte politique, conomique et social et aux contraintes de leur environnement ?
Les choix techniques et les mthodes prconises tenaient-ils compte de ltat de
lart ?
17
50
La critique serait parfois adresser, non pas la conception du projet lui-mme, mais aux procdures trop
rigides de certains bailleurs.
La mise en oeuvre
Les rsultats
La ralit
transformer
Une stratgie
Une prvision oprationnelle
La mise en oeuvre
Les rsultats
51
La notion defficience
Les moyens mobiliss pour raliser le projet ont-ils t utiliss de faon optimum ? Cette
question peut tre interprte dune manire trs restrictive ou trs large :
on peut la limiter lanalyse du rapport entre les cots des moyens mobiliss, les actions
menes et les rsultats obtenus ;
on peut la concevoir comme lapprciation globale de la mise en uvre.
La notion defficience-cot est assez facile concevoir pour les volets des projets qui
visent des ralisations physiques (btiments, amnagements) et pour des actions normes
(en soins de sant, en formation). Elle sapplique plus difficilement aux volets des projetsprocessus qui sattachent lvolution des capacits et de lorganisation des acteurs
locaux.
Lapprciation plus globale de la mise en uvre renvoie des grilles danalyse, des
sries de questions diffrentes selon la nature et le type de montage des projets valus. Il
peut sagir, par exemple, dapprcier le management dune grosse quipe-projet dun
oprateur, ou dune petite quipe dune ONG. Le caractre plus ou moins oprationnel
dun montage entre de multiples acteurs, parfois le fonctionnement dune association
matre douvrage/matre duvre, ou bien encore celui dun couple sige/quipe terrain
dune ONG
18
52
Finalement, si lvaluateur les confond, ce nest pas dramatique, pourvu quil pose les bonnes questions et
porte les bonnes apprciations sur la conception du projet.
La ralit
transformer
La conception
La mise en uvre
Les effets
des rsultats
Lapplication de la stratgie
Le management dune quipe
La mobilisation des moyens
Les rsultats
Lapprciation de lefficience
En thorie lapprciation de lefficience-cot est simple. Il sagit de calculer des cots
unitaires et de les comparer une rfrence. En ralit ce type danalyse est difficile
tablir : il implique des modes de calcul identiques entre les deux termes de la
comparaison et des chiffres labors dans des contextes et avec des structures de cots
comparables. En mission courte, lvaluateur dpend largement des donnes disponibles
son arrive. Ses rsultats vont dpendre des modlisations quil adopte pour traiter ces
donnes.
Lhonntet demanderait parfois de ne pas donner de chiffres, dont les commanditaires
sont pourtant si friands. Lthique professionnelle implique, en tout cas, de dtailler ses
mthodes de calcul.
Lapprciation globale de la mise en uvre dpend donc largement du type de montage et
de la nature des principaux acteurs chargs de cette mise en uvre. Lanalyse dune mise
en uvre confie une quipe-projet, relativement autonome, distingue en gnral (liste
non exhaustive) :
son organisation (organigramme, procdure, systme de reporting, rythme et mthode
de ses squences de bilan/dfinition des objectifs de la priode/planification, etc.) ;
son leadership ;
ses ressources humaines et ses capacits les faire voluer ;
sa gestion et lorganisation de sa gestion ;
ses mthodes daction, volet par volet ;
53
ses outils de suivi-valuation. Il sagit dun point crucial pour le bon fonctionnement
des projets19.
ses relations extrieures (son ouverture , sa politique de communication, son
image).
Cette apprciation est souvent dlicate, puisquelle amne parfois lvaluateur critiquer ses
interlocuteurs directs. Lexercice est diffrent selon la nature de la structure value. Les quipes-projets importantes et exclusivement ddies leur projet sont, en gnral, obliges par
leur taille et leur environnement immdiat de formaliser trs explicitement leur organisation,
leurs procdures et leurs mthodes. Les petites quipes ONG qui grent souvent leur dure par
de multiples sources de financement, fonctionnent souvent sur un mode moins formalis.
Sauf exception, les structures projets et les ONG nont pas beaucoup de mmoire et les dysfonctionnements dquipes laissent peu de traces crites. Lapprciation de lefficience est
plus facile conjuguer au prsent ou au pass proche. Elle est bien alatoire dans les valuations ex post.
La notion defficacit
Les ralisations sont-elles conformes aux prvisions ? Ont-elles rpondu ce quon attendait delles ? Ces deux questions refltent deux conceptions un peu diffrentes de
lefficacit.
Selon la premire, lexamen de lefficacit se limite une comparaison
prvisions/ralisations. Elle est adapte aux projets qui ne prvoient, pour lessentiel,
que des ralisations physiques normes. Son utilisation abusive, strictement quantitative,
aboutit parfois des conclusions paradoxales : un projet serait un bon projet quand
toutes les ralisations physiques programmes ont t ralises dans les dlais voulus et
19
54
Attention toutefois, les valuateurs ont parfois tendance confondre le systme de suivi-valuation, parfait
dont ils auraient besoin pour russir lvaluation parfaite dont ils rvent, et loutil pratique adapt la fois
aux besoins et aux moyens de lquipe-projet.
avec le budget prvu quels que soient la qualit, lusage, lappropriation, et limpact de
ces ralisations.
Selon la seconde lefficacit quivaut la qualit des rsultats. Cette qualit sapprcie
non seulement au regard des prvisions oprationnelles, mais aussi de la logique du projet
et des critres spcifiques aux types dactivits ou de ralisations vises : les btiments
usage social sont-ils appropris et utiliss, et si oui par qui ? Les amnagements hydroagricoles peuvent-ils effectivement tre mis en valeur comme prvu ? Les services dappui
aux entreprises ou aux organisations locales sont-ils effectivement utiliss ? Les
formations servies ont-elles des chances davoir les effets escompts.20
La conception
La mise en oeuvre
Lapplication de la stratgie
Des moyens
Des actions
Des rsultats
Des dlais
La ralit transformer
Les rsultats
Les effets des rsultats
20
Mais alors, sexclameront les lecteurs avertis, o finit lapprciation du rsultat et o commence celle de
limpact (cf. pour les autres le suivant). Cest une bonne question thorique. En pratique il semble difficile de
ne pas inclure dans lanalyse du rsultat, des lments dimpact immdiat. Le rsultat peut tre dfini
comme ce qui se voit immdiatement aprs laccomplissement de laction ou de la ralisation. Il sapprcie
donc non seulement en fonction de la prvision oprationnelle (souvent restrictive du point de vue de la qualit), mais aussi au regard de la logique dintervention et de la stratgie qui dfinissent en gnral des objectifs
plus globaux, donc plus qualitatifs.
55
Schma n 17
Lefficacit au sens restrictif : ralisation / prvision oprationnelle
La conception
La mise en oeuvre
Lapplication de la stratgie
Des moyens
Des actions
Des rsultats
Des dlais
La ralit transformer
Les rsultats
Les effets des rsultats
56
Rappelons ce sujet la distinction propose dans la note n 2 Apprcier la qualit pour faciliter la dcision .
Les processus qui permettent un groupe de construire un jugement, et ceux qui peuvent tre utiliss pour recueillir lopinion dune population, ne sont pas de mme nature. Le rsultat des deux dmarches na pas la
utiliser ce point de vue pour btir ses propres apprciations. La rigueur voudrait quil restitue
cette utilisation aux intresss.
2.5 Limpact
La notion dimpact
Quels sont les effets des ralisations du projet sur la ralit quil se proposait de transformer ? Quels sont les changements quelles ont directement ou indirectement induits ?
Comment peut-on les caractriser ? Correspondent-ils la logique de lintervention et plus
particulirement aux objectifs initiaux du projet ?
La notion dimpact est simple percevoir. Elle est au cur des projets de dveloppement
censs accompagner des dynamiques de changement. Mais elle ouvre un champ particulirement vaste. Ces changements peuvent tre conomiques, sociaux, environnementaux,
institutionnels, politiques, culturels
La mise en oeuvre
Les rsultats
mme valeur et ne devrait pas tre incorpor de la mme faon dans lapprciation finale de lvaluateur.
En toute rigueur, selon nous, le label valuation participative devrait impliquer le premier et ne pas se
contenter des seconds.
57
22
23
24
58
Les projets mal conus ont souvent des effets la fois prvisibles du point de vue de lvaluateur, et inattendus
du point de vue du document-projet.
Dans les rgions pour lesquelles les donnes sont rares et les bibliographie squelettiques, il suffit quun premier
expert invente un chiffre par inadvertance et le publie dans un rapport, pour que les suivants citent et utilisent
assez systmatiquement ce chiffre sans toujours prciser do il provient. Figurant ainsi dans la plupart des
rapports srieux sur la rgion, le chiffre en question devient une donne incontestable comme une parole
dvangile.
La mesure et lutilisation de la mesure du rendement agricole dans lvaluation des projets de dveloppement
agricole mriterait une petite note elle seule.
Schma n 19
Avant/aprs, avec/sans : quelle dfinition de limpact
avec
avec
limpact
sans
limpact
sans
avant
aprs
avant
aprs
59
Schma n 20
Effets directs, indirects, induits
60
61
aussi une question de rapports sociaux : ces propritaires ont-ils un intrt dans cet entretien ? Ont-ils, dans le cas de propritaires collectifs, la cohsion sociale ncessaire ? La
rponse ces questions dpend en grande partie de la faon dont ces propritaires, individuels et collectifs, se sont appropris ces ralisations26.
Lmergence dorganisations ou dinstitutions nouvelles, ou la consolidation
danciennes. Le pronostic sur lvolution ultrieure dune institution ncessite, en thorie,
des outils danalyse spcifiques, difficiles prsenter en quelques lignes27. Ils ne sont pas
forcment indispensables pour apprcier les principaux critres qui peuvent dterminer la
solidit dune organisation (cependant certains sont plus lisibles que dautres) : la qualit de son leadership, sa cohsion, la cohrence entre sa nature et sa mission, dans certains
cas, la qualit de sa gestion et lvolution probable de ses recettes et de ses dpenses.
La diffusion de techniques, de connaissances, ou de savoir-faire. Qui a adopt ou acquis ces techniques ou ces connaissances ? Comment se les ont-ils appropries ? Quels
bnfices tirent-ils de leur emploi ? Pourquoi les emploient-ils ? Quelles sont les conditions de leur emploi ?
La durabilit, ou la reproductibilit, ou encore la diffusion spontane des techniques et des
savoir-faire proposs par un projet, dpend largement des rponses ces questions.
Lamlioration de laccs des services essentiels aux populations. Lorganisation
dun service (sant, accs leau potable, ducation, crdit, etc.) se rsume souvent la
gestion dquipements et dinfrastructures, par des institutions nouvelles ou transformes,
dont les responsables ou les agents utilisent parfois des techniques et des savoir-faire nouveaux. Lanalyse de la durabilit dun service cr ou transform renvoie donc aux lments prcdents. Elle doit galement prendre en considration lutilisation effective de ce
service et lapprciation que portent sur lui ses utilisateurs.
Lvolution des comportements et des faons de penser. L encore, il est difficile de
faire court, dtre pertinent et gnral dans ce domaine important et dlicat qui recouvre une grande diversit de situations28.
Par ailleurs, En dehors dchecs ou de russites vidents, lapprciation de la durabilit et de
la reproductibilit est une question de pronostic. Lexercice commence souvent par
lidentification des conditions favorables et dfavorables la durabilit, que lon sefforce de
prvoir. Il se poursuit en essayant destimer les chances et les chances de ces conditions. La
prospective ncessaire lapprciation de la durabilit dun objet doit porter, non seulement
sur lobjet et le jeu des acteurs qui lentourent, mais aussi sur son contexte local et global.
Evidemment, les conclusions de cet exercice de pronostic, doivent tre restitues comme
telles.
26
27
28
62
63
Annexe la note n 4
Cadre danalyse et plan des rapports dvaluation
demands par lUnion Europenne
Le Consultant devra dvelopper les analyses pertinentes pour lvaluation en suivant le format de
base ci-dessous, ainsi que la mthode de Gestion du cycle des projets (voir manuel de la Commission). Cependant, sur la base de son exprience et des conditions spcifiques de l'tude, il y a lieu
pour le consultant d'largir ou de mieux cibler l'objet de l'analyse.
Les liens entre les diffrents niveaux d'intervention seront schmatiss par le consultant sous
forme de cadre logique du programme, ventuellement articul sous forme de plusieurs cadres
logiques en cascade . Toutefois ce cadre logique sera seulement annex au rapport, dans le
sens qu'il servira comme outil de travail, sans pour autant dterminer rigidement la structure du
rapport.
(ii)
les objectifs et le plan de travail de l'tude d'valuation elle-mme (noms des valuateurs, dates et principales mthodologies employes).
65
Le degr d'analyse effectu dans cette section variera selon la dimension du projet. Elle peut
se limiter une simple description des activits ou aller jusqu' une apprciation qualitative
du processus de prparation et des tudes (mise en vidence de lacunes ventuelles).
3. PERTINENCE DU PROJET
Ce chapitre value la relation entre les problmes rsoudre et les objectifs du programme, en
rapport avec leur environnement physique et politique, c'est--dire les caractristiques principales de la situation macroconomique et sectorielle du pays et les politiques (explicites et implicites) des diffrents acteurs tels que les gouvernements, IVE, les autres bailleurs de fonds et les
groupes d'intrt. L'volution du contexte dans le temps et ses consquences pour le droulement
du programme devront galement tre passes en revue.
Contexte gnral
Caractristiques structurelles et dynamiques du secteur ; liens avec les autres secteurs.
Politiques du gouvernement (cohrence des politiques macroconomiques et sectorielles, attitude envers les initiatives du secteur priv) et engagement politique vis--vis du secteur
(parts relatives dans les dpenses publiques).
Programme indicatif national et objectifs globaux du projet.
Contexte spcifique
Problmes rsoudre, bnficiaires et acteurs du projet : paramtres de diagnostic technique,
socioconomique, institutionnel... prsents, si possible, sous forme d'un arbre des problmes
(une attention particulire sera accorde au rle des femmes et facteurs socioculturels, et aux
aspects environnementaux). L'valuation devra faire le bilan des problmes pris en compte
par le projet et indiquer ceux qui ne le sont pas, ou d'autres apparus au cours de la mise en
uvre du projet. Autres interventions du gouvernement, de la Commission ou d'autres bailleurs ayant une relation directe ou indirecte avec le projet
66
uvre ont-ils permis d'obtenir des rsultats de manire efficace ? Pourrait-on atteindre les mmes
rsultats ou des rsultats semblables des plus faibles cots ? Cela exige une valuation des diffrents facteurs qui influent sur l'efficience :
Moyens et cots
Cette section contient une analyse cots-efficacit du projet (cots unitaires, moindres cots).
Elle peut galement couvrir des analyses comparatives avec les indicateurs de cots de projets
visant les mmes objectifs, tout en tenant compte des diffrences de contexte. L'adquation du
budget du projet aux moyens mettre en uvre devrait tre value.
Mthodes d'intervention
Il s'agit d'apprcier la dmarche et les mthodes utilises pour la mise en uvre : prendre en
compte le degr d'implication (participation) des bnficiaires dans la ralisation des activits
du projet ; aurait-on pu envisager d'autres modes de faire pour un rsultat quivalent ou
meilleur ? Examiner par exemple dans ce cadre les mthodes de vulgarisation, l'importance
donne la formation et les approches retenues, les formes et mthodes d'appui technique, la
problmatique des interventions de substitution...
Suivi et valuation
Il s'agit d'examiner le suivi effectu au niveau du programme par le gouvernement et par la
Commission. Le suivi de la Commission sera examin aussi sous langle plus ample du suivi
des conditionnalits et du suivi d'impact. Des commentaires seront mis sur la prparation et
la suite donne aux rapports de suivi/valuation.
5. EFFICACITE
Ce chapitre concerne, d'aprs la terminologie du cadre logique , la relation rsultatsobjectif(s) spcifique(s) du projet. Il doit dterminer dans quelle mesure les rsultats du programme ont contribu la ralisation des objectifs spcifiques et si on peut s'attendre, sur la base
des rsultats actuels, ce qu'il y ait une telle contribution dans l'avenir (les rsultats non planifis
devront galement tre analyss). Une attention particulire devra tre porte sur les bnficiaires
du programme. Les questions suivantes devront tre traites, en se basant dans la mesure du possible, sur des indicateurs objectivement vrifiables :
Quels sont les rsultats et qui en bnficie ? (comparer les rsultats rels aux rsultats prvus) ?
67
Dans quelle mesure ces rsultats ont-ils contribu la ralisation des objectifs spcifiques du
projet ? Peut-on s'attendre ce qu'ils y contribuent dans l'avenir ?
Les hypothses ncessaires pour traduire les rsultats en objectifs spcifiques ont-elles t
ralises ? Sinon, pourquoi et quelles rpercussions cela a-t-il eu sur le projet ? Les hypothses seront-elles ralises l'avenir ou devront-elles tre rvises ?
6. IMPACT
Ce chapitre, applicable dans le cas de programmes termins ou dj en cours depuis quelques
annes, value l'impact du projet dans un contexte plus large (relation objectif(s) spcifique(s) objectifs globaux). L'analyse doit tre qualitative et, si possible, quantitative. Une comparaison
sans/avec ou avant-aprs programme devrait tre effectue ce stade.
partir des objectifs spcifiques du projet et du degr d'efficacit ralis (chapitre 5), ce chapitre
analyse les effets globaux (macroconomiques et sociaux) du programme, qu'ils soient positifs ou
ngatifs, prvus ou imprvus. Dans un premier temps, le chapitre analysera les contributions du
(des) objectif(s) spcifique(s) aux objectifs globaux. Dans un deuxime temps, l'analyse ira audel des objectifs globaux tels que dfinis dans la proposition de financement, et valuera l'impact
du programme sur les objectifs gnraux prioritaires pour l'Union europenne.
Contribution des objectifs spcifiques effectivement atteints aux objectifs globaux de dveloppement du projet ou du programme
68
cipaux de viabilit repris ci-dessous dpendra de la nature du projet). Il sera par ailleurs utile
d'examiner la manire dont la ngligence ou une attention particulire donne l'un ou lautre
des facteurs considrs affectent l'obtention de rsultats durables. La rplicabilit de rsultats
positifs devra galement tre analyse. Une attention particulire sera accorde :
Mesures d'accompagnement
Viabilit technologique
Les choix technologiques sont-ils adapts la situation (problmes rsoudre, environnement
technologique. niveau de matrise technique des bnficiaires et des services d'appui technologique...) ? En particulier les bnficiaires des projets pourront-ils adapter et assurer l'entretien de ces acquis technologiques en l'absence de l'aide accorde par le biais du projet ?
Protection de l'environnement
Il faut valuer si les effets sur l'environnement des activits et des rsultats du projet constituent des contraintes telles qu'elles peuvent remettre en cause la viabilit du projet lui-mme,
et/ou atteindre des niveaux non acceptables pour la protection et la gestion de l'environnement long terme.
69
9. CONCLUSIONS ET RECOMMANDATIONS
Sous cette rubrique l'valuateur doit, en se basant sur les conclusions, rsumer les rsultats globaux et formuler des propositions pour les actions futures. Les conclusions devront couvrir tous
les aspects importants qui requirent une action future telles que identifies sous les points 2 8.
A chaque conclusion devra correspondre une recommandation oprationnelle. Les points suivants
feront l'objet d'une attention particulire :
9.1 Rsultats globaux
Quels sont les principaux succs et checs du projet ? Quels facteurs ont t les plus dterminants ?
Les effets/impacts identifis justifient-ils les cots ?
Les objectifs ont-ils t raliss dans les dlais et dans les limites budgtaires prvues ?
9.2 Viabilit
Il s'agit d'mettre des conclusions et de formuler des recommandations sur les lments-cls de la
viabilit du projet :
L'environnement politique est-il susceptible d'assurer la durabilit des effets positifs du projet ?
9.3 Alternatives
Pourrait-on atteindre les mmes effets/impact des cots plus faibles. Existe-t-il d'autres
moyens pour atteindre les mmes rsultats ?
Le projet doit-il tre rorient ? Plus spcifiquement les activits doivent-elles toutes tre
poursuivies ? Sinon, dcrire la manire dont le projet devra tre rorient et rsumer la
proposition sous forme de cadre logique.
Quelle leons peut-on tirer du projet en matire politique, d'organisation (pour lUE par
exemple) et d'oprationnalit ?
Quelles leons gnrales pourraient tre tires de l'valuation par rapport, par exemple, aux
politiques de dveloppement, aux instruments et aux stratgies sectorielles, nationales et rgionales ?
70
Note n 5
Prparer des termes de rfrence
Cette petite note est destine aider celles et ceux qui doivent contribuer
llaboration des termes de rfrence dune valuation. La diversit des
dmarches valuatives, de leur objet et de leur contexte, rend un peu illusoire llaboration dun texte gnraliste adapt tous les cas de figure. Celui qui suit se rfre surtout des dmarches dvaluation externe
doprations de dveloppement. Ces valuations, ralises sous la forme de
missions de quelques semaines, impliquent trois acteurs : un commanditaire, un valuateur et un matre duvre de lopration value.
I.
1.
29
30
31
71
exercice sera une des tapes-cls des valuations dites participatives32. En thorie, le futur
valuateur ne doit pas intervenir ce stade. Si le commanditaire a besoin daide, cette prparation demande quelques notions sur lvaluation, il peut faire appel un autre
professionnel . La dontologie interdit alors ce dernier de participer directement
lvaluation.
La rdaction des termes de rfrence doit permettre au commanditaire dtre lui-mme au
clair sur ce quil attend de lvaluation, et de communiquer avec les futurs valuateurs.
Comme toute commande dun service sur mesure , les termes de rfrence doivent tre
clairs, complets, et cohrents :
clairs, lvaluateur doit videmment pouvoir comprendre la commande pour la satisfaire ;
complets, les termes de rfrence doivent contenir tous les lments ncessaires pour btir
une note mthodologique de qualit ;
cohrents, les objectifs dune valuation doivent tre cohrents entre eux et cohrents
avec les moyens prvus pour la raliser. Les termes de rfrence pchent souvent par
manque de cohrence :
les commanditaires pluriels ne russissent pas toujours faire la synthse des objectifs et des points de vue divergents des diffrentes catgories de personnes ou
dinstitutions quils rassemblent. Ils se contentent souvent den faire la somme. Cette
somme na aucune raison dtre spontanment cohrente ;
pluriels ou singuliers, les commanditaires prouvent souvent des difficults choisir
leurs priorits et valuer le temps de travail ncessaire pour satisfaire leur commande.
Ils fixent alors aux valuations des objectifs contradictoires avec les moyens dont ils
disposent.
La qualit dune valuation dpend 50 % de celle de ses termes de rfrence. , dit-on
souvent. Ceux-ci vont tre dterminants dans le dialogue commanditaire/valuateur. Ils constituent le principal, voire le seul lment dont lvaluateur va disposer pour laborer sa mthode et sa dmarche. Il sera souvent choisi en fonction de ses ractions aux termes de rfrence, notamment dans le cas dappel doffres.
2.
32
Le caractre participatif dune valuation commence ds la dcision et llaboration des termes de rfrence.
72
les rfrences constitutives de lvaluation (la finalit et les objectifs poursuivis par
lintervention, les valeurs de linstitution qui la porte, les conceptions de laction
laquelle elle se rfre, les normes quelle adoptes, etc.).
Des prcisions sur le contenu de la commande (les questions valuatives, les lments
de mthodes)
les principales questions valuatives, et ventuellement les principaux critres
utiliser ;
les indications sur les mthodes souhaites ;
les attentes particulires en termes de restitution et de rendu.
II.
1.
Pour tre complte, cette prsentation devrait comporter quatre courts paragraphes.
1.1 Lintroduction : la prsentation synthtique du contexte et de la nature de
lvaluation
En quelques lignes, ce chapitre va situer lvaluation et en prsenter succinctement les principaux lments. Ceux-ci seront ensuite dcrits plus en dtail.
Le commanditaire
Selon le contexte et la personnalit du commanditaire il peut tre ncessaire quil commence
par se prsenter trs succinctement.
73
Cet objet peut tre caractris rapidement par sa localisation, son antriorit, son ge, ses diffrents protagonistes, son cadre institutionnel, ses diffrentes phases, leurs dures et leurs
budgets, etc.
Un vnement, une finalit, quelques objectifs, ou des enjeux majeurs, expliquent souvent une
grande partie de sa personnalit .
Les termes de rfrence doivent fournir lvaluateur les informations indispensables pour
prparer son travail et rdiger sa proposition mthodologique. Ce paragraphe doit donc dtailler les lments de la prsentation initiale, par exemple : La gographie, les objectifs, les
acteurs, lhistoire, la stratgie, les moyens, lorganisation, les grandes phases, les principaux
rsultats
Le commanditaire doit, par ailleurs, dfinir prcisment le champ de lvaluation. Une ligne
suffit quand ce champ est vident, lorsquil correspond un objet aux limites prcises : un
projet, une institution Mais ce nest pas toujours le cas. Lobjet en question peut comporter
de multiples facettes (quand une valuation porte sur un processus de dveloppement , ou
sur un programme constitu dun montage complexe de diffrents projets). Lvaluation peut,
au contraire, tre circonscrite un seul aspect de lobjet valuer, ou lexamen de celui-ci
sous un angle particulier.
33
74
La note n 1 Se reprer dans la diversit des dmarches valuatives peut aider un commanditaire dcrire
le type dvaluation quil souhaite.
La dfinition du champ de lvaluation (ce que lvaluateur devra rellement considrer pour
faire son travail danalyse) demande donc parfois quelques prcisions supplmentaires (ce
champ, bien videmment, devra tre cohrent avec les moyens mobiliss pour lvaluation et
ltendue des questions valuatives poses).
1.3 Les objectifs dtaills de lvaluation et les attentes de lvaluateur
Et quelques prcisions
Dautres informations peuvent figurer dans ce paragraphe :
Lvaluateur sera plus mme dclairer des choix ou des dcisions sil connat les processus
de dcision dans lesquels vont intervenir ses conclusions. Ces processus peuvent donc tre
voqus dans les termes de rfrence.
Le commanditaire peut prciser aux valuateurs la nature des conclusions quil attend deux :
il peut se contenter danalyses ou dopinions argumentes, exiger des jugements , attendre
des recommandations dorientations, vouloir des propositions stratgiques, demander des propositions trs concrtes sur quelques points prcis.
Les commanditaires peuvent faire part de leurs hypothses ou de celles quils ont dj recueillies, sur les qualits de lobjet valuer. Il est rare que les personnes associes la prparation de lvaluation dune opration, quelles soient impliques dans sa conduite ou son suivi, ne formulent pas, consciemment ou inconsciemment, des hypothses ou des doutes sur ses
dfauts, ses qualits, ses enseignements. Lexplicitation de ces hypothses ne gnera pas les
valuateurs, au contraire34.
34
Cette opinion nest pas forcment partage par tous les professionnels de lvaluation.
75
Lexercice dvaluation consiste, pour une bonne part, produire des images de lobjet valu
et comparer celles-ci des rfrences 35. Le commanditaire a, selon nous, son mot dire
dans le choix de ces rfrences . Il peut sagir, selon lobjet, la nature et le domaine de
lvaluation, des normes spcifiques une organisation ou un domaine professionnel (les
rgles de lart ). Elles peuvent tre des valeurs propres une ou plusieurs institutions,
ou des paramtres initiaux dune intervention.
Par exemple, lvaluation dun projet, dun processus ou dune politique implique souvent de
comparer lanalyse de ses rsultats et de son impact, sa finalit proclame, ses objectifs,
ses principes annoncs et certains lments de sa prvision. Cette finalit, ces objectifs, principes et lments de prvision font alors partie des rfrences utilises pour lvaluation de
ces objets.
Lvaluateur ne pourra pas inventer ces rfrences qui devront donc tre mentionnes, ou
au moins voques dans les termes de rfrence. Ainsi, selon nous, le cadre logique ou,
au moins larbre des objectifs , dun projet ou dun programme doivent figurer quasi obligatoirement dans les termes de rfrence de leur valuation (ou en annexe de ceux-ci)36.
Quand ce cadre na pas t labor lors de la prparation du projet, il est impratif de reconstituer larbre des objectifs a posteriori (en mentionnant quil ne sagit que dune restitution). Llaboration de cette rfrence doit tre faite sous la responsabilit du commanditaire. Elle ne devrait pas tre confie lvaluateur37.
2.
La premier chapitre des termes de rfrence a dfinit les objectifs de lvaluation et apport les
lments qui permettent de les comprendre. Le second doit donner des indications plus prcises sur le processus quelle doit suivre. Deux types de travaux, ou de dmarches permettent de
passer des objectifs au processu. Il faut :
1. Traduire les objectifs gnraux de lvaluation en questions valuatives, ou en domaine
de qualit de plus en plus prcis, puis en critres ou en hypothses, puis en indicateurs38.
35
36
37
38
76
Cf. les notes n 2 Apprcier la qualit pour faciliter la dcision : quelques traits communs aux valuations
et n 3 Des domaines de qualit au bon usage des indicateurs .
Ce petit paragraphe qui stipule que le cadre logique est un lment constitutif des rfrences dune valuation
de projet, quil doit figurer obligatoirement dans les termes de rfrence dune telle valuation, et quil doit
mme tre reconstitu sous la responsabilit du commanditaire sil ne figurait pas dans le document projet initial, est un point de vue personnel qui nest pas forcment partag par tous les valuateurs. Il nous semble
nanmoins incontournable.
Ce dernier pourra, au cours de son travail, tre critique vis--vis de cette rfrence construite a posteriori,
(comme dailleurs vis--vis de toutes les rfrences utilises par le commanditaire). Mais par exprience,
les conclusions dune lvaluation sont souvent plus claires et mieux comprises quand elles distinguent, dune
part lapprciation de la qualit de lobjet valu en fonction des rfrences utilises par le commanditaire
et, dautre part la critique de ces rfrences, en fonction de celles de lvaluateur.
Cf. la note n 3 Des domaines de qualit au bon usage des indicateurs .
77
type daction en rfrence son cadre logique initial : pertinence, cohrence, efficience etc.39. Il sinterroge sur la faon dexaminer ces critres en fonction des spcificits
de lobjet valu.
3. Il peut essayer de combiner ces deux approches. Il peut essayer de dfinir des grands axes
en sinterrogeant partir dune reprsentation synthtique de lobjet valu. Un projet
peut sapprcier selon cinq points de vue :
Chaque point de vue correspond une grille de lecture. Le commanditaire peut commencer
par sinterroger sur les lments quil souhaite privilgier au sein de chacune de ces grilles,
pour ensuite les combiner au sein de questions valuatives spcifiques.
Par exemple, si le commanditaire attend surtout la validation de ses choix de stratgie ou de
mthode lors dune valuation mi-parcours, il privilgiera les questions de pertinence et de
cohrence (grille 1). Ce choix amnera souvent revisiter les tapes de conception du projet
(grille 5). Si lvolution des acteurs de la socit civile est son principal centre dintrt (grille
2), il fera porter plus spcifiquement lvaluation sur les objectifs institutionnels (grille 3) et
sur les volets (grille 4) les plus directement lis cette catgorie dobjectifs.
Cet exercice de combinaison des priorits de lecture sera plus facile et plus rapide, il donnera
des rsultats plus cohrents, sil sappuie sur une prsentation synthtique des objectifs, des
principaux choix stratgiques et des grands lments de lorganisation du projet. Thoriquement un cadre logique , ou plutt un arbre des objectifs bien fait, permet une telle prsentation, do lintrt de partir de cet outil, quitte le reconstituer a posteriori.
39
78
Le choix des critres et des indicateurs qui permettent de rpondre aux questions
valuatives
Le commanditaire peut indiquer les hypothses, les critres et indicateurs40 quil souhaite voir
privilgier dans la faon de rpondre aux questions valuatives quil a poses. Il peut aussi laisser
ce travail lvaluateur et attendre la note mthodologique de celui-ci.
2.2 La mthodologie
40
Idem cf. la note n 3 Des domaines de qualit au bon usage des indicateurs .
79
3.
Une valuation se droule souvent selon un processus itratif : vrification des attentes du
commanditaire, premier travail bibliographique, structuration de lobjet dtude , ajustement de la mthode prvue, chantillonnage et laboration dun guide dentretien, etc. Lors
dvaluations importantes, le commanditaire peut souhaiter matriser ce processus en prvoyant une srie de rendez-vous, en dsignant clairement des interlocuteurs au sein de son
organisation, en prvoyant des processus de validation des tapes intermdiaires du travail.
(Cela implique de constituer un comit de pilotage lorsque le commanditaire est pluriel, ou
(et) lorsque la dmarche suivie doit tre participative).
3.2 Les principales contraintes (dure totale, dure des diffrentes phases,
calendrier)
La dure prvue doit tre cohrente avec les lments de mthodologie imposs par les termes
de rfrence. Le calendrier doit tenir compte des contraintes du projet (disponibilit des quipes, contraintes particulires climatiques (possibilits de dplacements, calendriers agricoles,
calendrier hydraulique), et de celles du commanditaire (calendrier des prises de dcisions,
dlais de mise en uvre de lvaluation).
Ce calendrier peut prciser les priodes et la dure des grandes phases prvues pour
lvaluation : lancement, phase terrain, runions avec les pilotes de lvaluation (lancement,
bilan intermdiaire, restitution finale), date de remise des rapports provisoires et dfinitifs.
3.3 La composition de lquipe dvaluation
La nature de lobjet valuer, parfois sa gographie, souvent des questions valuatives particulires dterminent les comptences quil est ncessaire de runir au sein de lquipe
dvaluation. La diversit de ces comptences et le rapport entre le volume de travail (exprim
en homme/mois ou homme/semaine) et la dure optimum de la mission, fixent le nombre de
consultants runir. Des objectifs particuliers (dmarches participatives, transferts de comptences) annexs lvaluation peuvent ajouter des contraintes la dfinition de la composition
de lquipe.
Attention force de chercher des moutons cinq pattes41, on se retrouve souvent avec des
moutons qui ne marchent que sur trois pattes. Les moutons cinq pattes sont par ailleurs rarement disponibles du jour au lendemain.
3.4 Le budget disponible
Il est rare que les commanditaires ne fixent pas un budget plafond aux valuations quils
commanditent (ils ne lannoncent pas toujours dans le cas dappel doffres en esprant tirer les
prix vers le bas). Ce plafond doit videmment tre cohrent avec le volume de travail attendu.
41
80
Les cinq pattes de lvaluateur : des comptences techniques dans le domaine dintervention du projet (1), et en
ingnierie sociale (2), la connaissance du contexte rgional (3), lexprience de lvaluation (4), de la conduite
de projets (5), et la connaissance souvent ncessaire des procdures du bailleur principal du projet (5bis). Le
choix du commanditaire se situe souvent entre un profil dvaluateur gnraliste (4) et (5), et celui dun technicien (1), la connaissance du contexte tant toujours un lment important.
Pour tre parfaitement claires, les indications budgtaires doivent prciser qui du projet valu
ou de la mission dvaluation prendra en charge certains frais (les transports locaux, les frais
de runions lis aux restitutions).
3.5 Les rendus attendus
Les commanditaires fixent souvent la nature des documents quils attendent des valuateurs,
un ou plusieurs rapports ou notes de synthse selon le droulement, la dure et la complexit
de lvaluation. Ils peuvent exiger certaines annexes. Ils prcisent en gnral la faon dont il
vont valider le rapport dvaluation, exigeant souvent un rapport provisoire quils commenteront pour obtenir ensuite un rapport dfinitif.
Ils exigent parfois des notes dtape pour marquer les principaux rendez-vous entre les valuateurs et les instances de pilotage de lvaluation. Une telle note est souvent exige lors de la
restitution de ltape de terrain. Ces notes sont souvent bien utiles, notamment lorsque les enjeux de lvaluation sont importants. Ses diffrents protagonistes ont alors intrt mettre noir
sur blanc leurs conclusions intermdiaires.
Les commanditaires institutionnels donnent souvent des indications formelles assez prcises, y
compris sur le plan des rapports quils attendent42. Dans la mesure ou un rapport dvaluation
doit faciliter un processus de dcision, ils exigent logiquement la fois une synthse et un
rsum.
Les termes de rfrence peuvent galement fixer des modalits de restitution intermdiaire, en
fin de mission, la remise du rapport provisoire Ces restitutions peuvent se drouler en petit
comit de dcideurs, ou faire lobjet dune vritable animation qui permet aux diffrents partenaires dun projet de ragir aux conclusions des valuateurs.
3.6 Dventuelles prcisions contractuelles
Les termes de rfrence peuvent galement contenir des prcisions sur le contrat ou les modalits de contractualisation entre le commanditaire et lvalu. Mais ces questions font souvent
lobjet dun document part.
Lorsque le commanditaire procde par appel doffres restreint pour choisir son valuateur, ce
document doit donner des indications sur le contenu de la note mthodologique quil attend
des candidats.
III.
Premier conseil : rdiger vos termes de rfrence comme vous le sentez et mfiez vous des
recettes toutes faites, y compris de celle qui vous est propose ci-aprs. Celle-ci ne vaut que
pour des valuations externes conue sous la forme classique dune ou deux missions
courtes. Elle a le tort de prsenter lexercice comme du prt porter , alors, quencore une
fois, il sagit dun travail sur mesure .
42
Ces plans types leur facilitent la lecture et la synthse de plusieurs rapports. Mais ils reprsentent une
contrainte difficile concilier pour faire ressortir les conclusions spcifiques de lvaluation, do limportance
des synthses.
81
La recette qui suit vous propose de rdiger des termes de rfrence selon le plan prsent cidessus. Mais elle propose une chronologie dcriture diffrente de lordre de prsentation des
diffrents chapitres. Elle sadresse une personne charge de cette rdaction. Elle ne traite
donc pas la question, souvent fondamentale, de lorganisation de la concertation initiale entre
les diffrents acteurs dun projet, qui doit avoir lieu en amont de cette rdaction finale.
1.
1.1 aboutir une premire version des questions valuatives, aprs avoir formul
clairement vos attentes et vos objectifs
a) Commencez par bien clarifier les attentes de votre organisation par rapport cette valuation. Vrifiez que ces attentes sont cohrentes avec une dmarche valuative, et avec celle
que vous envisagez.
b) Traduisez ces attentes en rdigeant les objectifs que vous assignez cette valuation. Evitez den rdiger un trop grand nombre. Au-del de quatre objectifs vous courez le risque
dune dmarche peu cohrente. Efforcez vous de rdigez chaque objectif en cinq, dix lignes maximum. Si vous tes plus long, vous risquez de ne pas tre clair.
Vous tes trop long ? Cest peut-tre que vous intgrez dj vos questions valuatives dans
la dfinition de vos objectifs Ce nest pas trs grave, mais vous serez plus clair en distinguant les deux.
c) Hirarchisez ces objectifs.
d) Dclinez chacun dentre eux sous la forme de questions valuatives, en suivant si possible
la mme rgle : pas trop de questions valuatives par objectif, pas plus de quelques lignes
par questions valuatives.
1.2 Vrifiez la cohrence entre cette premire version de vos objectifs et les
moyens dont vous disposez pour lvaluation
e) Vrifiez lordre de grandeur des moyens dont vous disposez ; traduisez approximativement le budget dont vous disposez, en nombre de jours ou de semaines dvaluateurs selon
deux ou trois hypothses (valuateurs Nord , valuateurs Sud ).
f) A partir de vos questions valuatives, imaginez rapidement le droulement de
lvaluation : qui les valuateurs devront-ils rencontrer, enquter ou faire enquter ? Que
devront-ils visiter, quelles donnes devront-ils collecter ? Quelles sont les sources disponibles ? Mme si vous ntes pas un spcialiste de lvaluation, vous pouvez btir un ou
deux scnarios grossirement cohrents.
g) Estimez trs grossirement le temps ncessaire aux valuateurs selon ces scnarios. Fixez
vous une fourchette assez large.
h) Comparez vos deux estimations (cf. e) et g) ci-dessus) :
si toutes les deux se situent dans le mme ordre de grandeur, vous avez gagn le droit
de passer ltape suivante ;
82
sinon, vous devez retourner aux tapes b) et c). Reformulez vos objectifs ou laisser
tomber les moins importants dentre eux, selon la hirarchie que vous avez dj tablie.
Ajustez vos ambitions vos moyens.
2.
Vous avez donc dj rdig le point 13 du plan que nous vous proposons de suivre. Il vous
reste crire les points 11 lintroduction, 12 la description de lobjet valuer et
14 les rfrences de lvaluation .
Mieux vaut commencer la rdaction par le 12.
2.1 La prsentation de lobjet valuer
Les objets valuer et les objectifs des valuations sont si divers quil serait bien prsomptueux de proposer une recette adapte tous les cas de figure.
En rgle gnrale, mfiez-vous de labus de lusage de la fonction copier-coller . Vous avez
souvent dj de multiples documents de prsentation de votre projet, le document initial qui
vous a permis de convaincre des partenaires financiers, des comptes rendus dactivits annuels
ou de fin de phase, ncessaires la supervision de laction. Mais chacun a t crit pour un
objectif bien prcis. Aucun ne la t pour un valuateur. Celui-ci aura besoin de comprendre
rapidement la logique du projet. Il devra disposer des principales informations ncessaires
pour prparer une note mthodologique qui lui permette de traiter vos objectifs. Tout cela ne
devra pas tre trop long lire. Une douzaine ou une quinzaine de pages semble tre le bon
format pour des termes de rfrence. La prsentation de lobjet valuer ne doit pas occuper,
en ordre de grandeur, plus de la moiti de ces douze ou quinze pages. Plus, cest souvent
trop Mais lexception peut confirmer la rgle.
Un petit travail spcifique est donc ncessaire :
i)
Rdigez une prsentation courte et synthtique de lobjet valuer (si cest un projet : son
contexte, son histoire et les acteurs concerns, larbre objectifs , des lments de budget, les principales phases, le dispositif, les activits, les rsultats).
Lintroduction doit tre courte (une page environ). Elle doit permettre aux lecteurs dentrer
rapidement dans le sujet et de comprendre la logique de la dmarche valuative. Sa rdac-
83
tion ne pose pas de difficults particulires (cf. plan propos ci-dessus). Cest un exercice
de synthse classique .
m) Lexplicitation des rfrences utiliser lors de lvaluation doit tre limite aux informations indispensables. Les principes fondateurs et la philosophie dintervention de votre
Organisation, les principaux axes qui ont guid la conception du projet, peuvent faire partie de ces rfrences . Mais un document prparatoire une valuation nest pas un outil de communication destin diffuser ces principes et cette philosophie.
3.
Vous avez donc rdig la premire partie de vos termes de rfrence et dcrit les constituants
de lvaluation. Chemin faisant, vous avez dj formul au moins au brouillon , vos principales questions valuatives et les lments essentiels de la mthode que vous suggrerez
lvaluateur.
Le plus dur est donc fait.
n) Avant daller plus loin, si vous tes en avance sur votre planning, faites relire cette premire partie par une autre personne. Un il extrieur est souvent bien utile pour vrifier la
clart et la cohrence dun texte, et mieux vaut sassurer de ces qualits avant de dtailler
la suite.
o) La suite ne prsente pas de difficults de rdaction particulires, sauf si vous souhaitez
dcliner trs en dtail les questions valuatives, et faire des propositions de critres et de
mthodes dtailles vos futurs valuateurs. Il vous faut alors un minimum de connaissances sur les dmarches valuatives43.
p) Les aspects pratiques que vous devez dtailler pour prvoir lorganisation de lvaluation
ne sont pas trs diffrents de ceux que vous avez prvoir pour nimporte quelle autre
mission dappui ou de suivi. Vous avez dj lordre de grandeur de votre budget (cf. point
e) ci-dessus) (gardez-vous une petite marge de ngociation). Les scnarios grossiers que
vous avez ci-dessus (cf. point f) peuvent vous aider identifier vos contraintes de logistique et de calendrier.
43
84
Les notes n 3 Des domaines de qualit au bon usage des indicateurs et n 4 Les principaux critres pour
lvaluation de projets , peuvent, peut-tre, vous tre utiles.
Note n 6
Rdiger une note mthodologique
Cette petite note est destine aux valuateurs dbutants . Elle espre leur
faciliter la rdaction dune note mthodologique destine prparer une valuation. La encore, la diversit des dmarches valuatives rend un peu illusoire
cet exercice ; il ny a gure de thorie ou de vrit en la matire. Les quelques
recommandations qui suivent, qui ne sont issues que de la pratique, pourront
tre utiles, condition que le lecteur sen inspire pour ses futures rdactions,
sans jamais les suivre la lettre.
I.
1.
Le commanditaire fait appel en gnral plusieurs valuateurs. Il leur adresse les termes
44
45
46
85
permet au commanditaire de vrifier que lvaluateur a bien compris ses attentes et quil
va bien les prendre en compte ;
elle va faciliter les changes entre lvaluateur et son commanditaire qui sont ncessaires
au premier pour bien caler son travail et sa mthode ;
cest une pice contractuelle importante en cas de conflits entre les deux parties. Une
valuation est souvent au centre denjeux de pouvoir, et son bon droulement implique en
gnral la collaboration dun grand nombre dacteurs. Il est bon davoir un document qui
facilite la rpartition des responsabilits quand une valuation se passe mal ;
sans parler de conflits, cette note va servir de document de pilotage lvaluation. Un tel
document est particulirement utile quand lvaluation mobilise une quipe importante,
quand le contexte de lvaluation est tendu, ou quand lvaluation se droule longtemps
aprs les premires ngociations commanditaire/valuateur47 ;
enfin, noublions pas que la qualit de cette note est souvent dterminante lorsque le
commanditaire doit choisir entre plusieurs valuateurs possibles, notamment en cas
dappel doffres.
Le projet de note mthodologique devrait toujours faire lobjet dune discussion, voire
ou plusieurs mois pour une quipe de trois ou quatre experts , selon les dimensions de
lobjet valuer. Le format de la note mthodologique varie dans des proportions
analogues. Le contenu ci-aprs correspond une valuation consquente de plusieurs
hommes/mois .
Lobjet valuer peut tre relativement simple et impliquer des dmarches valuatives trs
normalises ou trs standardises. La note mthodologique se contente alors de rappeler
les rgles communment utilises en la matire et de les adapter aux particularits de
lobjet. A linverse, lvaluation peut porter sur un objet complexe ou trs original. La note
mthodologique doit alors proposer une dmarche sur mesure .
2.
47
86
Ce qui suit est dautant moins un plan type que les commanditaires donnent parfois des
indications prcises sur les informations et le plan quils attendent des valuateurs, ce premier stade de la ngociation.
On peut proposer un plan type, en quatre grandes parties :
la comprhension des termes de rfrence ;
la problmatique ;
la mthodologie ;
le droulement prvu.
II.
1.
Cette premire partie doit dabord permettre lvaluateur et aux commanditaires de vrifier
quils se sont mutuellement bien compris. Il nest donc pas forcment inutile pour lvaluateur
de rsumer, sa faon, les principaux constituants48 de lvaluation. Cette prcaution est
indispensable quand ces derniers paraissent obscurs ou incohrents. Plus les termes de rfrence semblent clairs, complets et cohrents lvaluateur et plus cette premire partie sera
courte. Dans le cas inverse, il ne faut pas hsiter la dvelopper.
En dehors des valuations trs strotypes, lvaluateur va tre amen proposer des choix
de problmatiques, puis de mthodes. Ses choix vont tre fonds sur sa lecture personnelle des
termes de rfrence, et sur les lments quil lui semble ncessaire de privilgier. Cette premire partie doit permettre lvaluateur de faire part de sa comprhension des termes de rfrence. Il asseoit ainsi la cohrence de sa dmarche, et annonce les choix quil va proposer.
Lorsque les termes de rfrence sont particulirement mal conus, il importe de le souligner
ds le dpart, (avec la plus grande diplomatie possible, mais aussi avec prcision). La note
mthodologique amorce le dialogue entre le commanditaire et lvaluateur qui va permettre, si
besoin est, de prciser certains lments de la commande.
Enfin, en cas dappel doffres, les premiers dveloppements de la note mthodologique sont
aussi loccasion pour lvaluateur de montrer quel point il connat son sujet, la problmatique et le contexte du projet. Il commence l prouver quil est vraiment le meilleur candidat
possible pour faire cette valuation.
1.2 Un plan dtaill possible pour cette premire partie
48
49
87
Lobjet valu
Lvaluateur peut profiter de ce court paragraphe pour restructurer la prsentation de lobjet
sa manire. Le dcoupage quil va utiliser annonce thoriquement sa problmatique et sa
mthode.
Il peut aussi faire part, dans ce paragraphe, des interrogations que suscite la description propose par les termes de rfrence [dfinition imprcise du champ de lvaluation, incohrence
entre ltendue de celui-ci et les moyens prvus (budget, dure)], ou la mthodologie recommande.
2.
La problmatique
Les termes de rfrence ont, en gnral, prcis les grandes questions valuatives auxquelles lvaluation doit apporter des rponses. Dans sa note mthodologique, lvaluateur
doit expliquer comment il va traiter ces questions : quelles sont ses hypothses initiales ?
comment va-t-il dfinir les grands domaines de qualit qui correspondent lobjet valuer ? Comment va-t-il dcliner les questions poses en une srie de questions plus prcises ?
Quels sont les critres et ventuellement les indicateurs quil va utiliser ?
Le plan dtaill de cette deuxime partie dpend largement des termes de rfrence, qui peuvent eux-mmes dfinir de faon assez prcise cette problmatique, ou se contenter de trois ou
quatre grandes questions valuatives.
Les quelques indications donnes ci-aprs correspondent plutt cette dernire hypothse. Le
plan de cette partie problmatique dpend videmment de lobjet valuer. On peut traiter
globalement le champ de lvaluation selon une progression qui va de la problmatique gnrale aux critres. On peut aussi distinguer des grands domaines de qualit, les uns aprs les
autres, puis suivre cette mme dmarche pour chacun pris sparment.
2.1 Quelques lments de problmatique gnrale
Lvaluation dun projet est certes un exercice sur mesure . Mais la plupart des projets se
rattachent des domaines dintervention ou des problmatiques connues. Ces domaines ou
ces problmatiques ont en gnral dj donn lieu des analyses et des valuations, et ces
exercices ont permis de dfinir un ensemble de rfrences : des lments de mthode, des
points-cls, parfois des grilles danalyse. Ils ont ventuellement suscit des dbats dcole.
50
88
Cf. la note Les dmarches valuatives, quelques repres, entre le triangle et la sphre .
Lvaluateur va construire sa dmarche sur cet ensemble dacquis qui lui sont indispensables
pour tre pertinent. Il peut tre utile de les rappeler succinctement en introduction du chapitre
problmatique :
ce rappel facilitera la comprhension de sa dmarche ;
il lui permettra dintroduire une partie des rfrences quil va utiliser durant lvaluation
(les rgles de lart) ;
accessoirement, dans le cas dun appel doffres commercial, ce court chapitre lui fournira
loccasion de montrer quil connat bien le sujet quil va traiter (attention ne pas en faire
trop).
2.2 Les principaux axes retenus pour lvaluation
En croisant les rgles de lart quil vient de rappeler, les principales caractristiques de
lobjet valuer et les trois ou quatre attentes majeures du commanditaire, lvaluateur doit
pouvoir construire les grands axes qui vont structurer son travail.
Ce paragraphe est un peu superflu pour les valuations trs courtes ou trs strotypes. Il ny
a alors gure dalternative dapproche et de mthode. Il est inutile den inventer. Cette construction autour de quelques axes est nanmoins utile pour les valuations plus complexes. La
dfinition de la bonne problmatique est alors dterminante dans la russite de
lvaluation.
On est donc bien l dans le domaine du pur sur mesure , o il est difficile de donner des
repres. La construction de ces grands axes peut suivre deux dmarches diffrentes :
Les termes de rfrence peuvent tre centrs autour de deux ou trois questions majeures.
Ils traduisent alors des attentes prcises, soit en termes de dcisions oprationnelles, soit
en termes de rflexion mthodologique. Pour rpondre une telle demande, lvaluateur
cherchera a laborer un petit nombre dhypothses. Elles guideront alors une dmarche
danalyse assez classique, construite pour les valider ou les infirmer.
A linverse les termes de rfrence peuvent tre trs analytiques. Ils font alors rfrence
aux principaux critres utiliss en valuation de projet. Ils attendent de lvaluateur une
apprciation globale sur la qualit de lobjet valu. Les enjeux de la dmarche valuative
se posent moins en termes dhypothses et plus en termes de bonnes coupures et
dangles dobservation : comment dfinir les domaines de qualit de lobjet valuer ?
Selon quel point de vue faut-il en apprcier la qualit ?
2.3 La dclinaison en questions valuatives de plus en plus prcises
Le chapitre prcdent aura formul une srie dhypothses, ou divis lobjet valuer en
grands domaines de qualit. Lvaluateur doit ensuite numrer les bonnes questions qui
vont lui permettre dexaminer ces hypothses ou dapprcier la qualit de ces domaines. Il
procde en gnral par couches successives , en commenant par formuler quatre ou cinq
grandes questions quil dtaillera ensuite par une srie de questions plus prcises. Selon
lampleur et la complexit de lvaluation (et du temps dont on dispose) deux, trois couches
ou plus sont ncessaires. Lvaluateur ne perd pas son temps (sil est sr davoir le march) en
allant assez loin dans le dtail ce stade, car il commence l la prparation effective de son
travail de terrain. Il pourra ainsi tre plus ractif et plus efficace en dbut de mission, pendant
les quelques jours souvent dterminants pour la qualit de son travail.
89
Une fois les questions valuatives dtailles, lvaluateur annonce enfin comment il va y rpondre, et il indique en particulier les critres quil va utiliser. Il sappuie en gnral sur les
critres communment utiliss dans son domaine dintervention spcifique.
Il peut galement indiquer l, la qualit des rponses quil vise. Sur certains points il ne pourra
apporter que des illustrations, sur dautres des synthses dopinions. Il ne pourra sappuyer sur
des faits avrs que pour certaines questions. Cette prcaution est souvent utile. Elle permet
dviter des malentendus ultrieurs. Elle est dontologiquement correcte.
3.
La mthodologie
90
Cest particulirement indispensable pour des valuations complexes. Celles-ci peuvent demander une organisation en plusieurs missions ou en plusieurs tapes itratives, impliquant
des choix intermdiaires. Elles prvoient dans ce dernier cas la runion dinstances de pilotage
et des restitutions partielles aux tapes-cls.
3.3 Le dtail des phases-cls
Certaines phases-cls peuvent mriter des informations plus dtailles. Elles impliquent des
choix de mthodes spcifiques (dmarche dchantillonnage, type denqute et dentretien,
mode de traitement des donnes), ou elles ncessitent la mobilisation de moyens particuliers,
ou encore la participation active de certains acteurs.
4.
Le droulement prvu
On propose ici une rapide synthse des comptences ncessaires pour russir lvaluation,
Cette synthse doit videmment tre cohrente avec la problmatique et la mthodologie proposes (et avec les ventuelles recommandations faites ce sujet dans les termes de rfrence).
Le rsum en quelques lignes des CV des valuateurs suit cette synthse (ces CV devront figurer obligatoirement en annexe de la note mthodologique. Attention certains commanditaires imposent des plans types pour la prsentation de ces CV). Ce rsum montre quel point
les qualits des valuateurs sont bien conformes aux comptences et lexprience ncessaires
pour russir lvaluation.
4.2 Le dtail du droulement
On peut dcrire les diffrentes tapes de lvaluation laide du cadre ci-aprs. Ces diffrentes
tapes sont regroupes selon les grandes phases dfinies au 3.2 ci-avant.
Ce dtail permettra dlaborer rapidement le calendrier, lorganisation et le budget de la mission. Pour lvaluateur, il facilitera lajustement final de sa proposition (On commence souvent par proposer une dmarche trop longue et trop sophistique, qui ne cadre pas avec les
contraintes budgtaires imposes. Il faut donc ensuite limiter sa proposition pour la faire rentrer dans le cadre prvu, tout en restant cohrent.)
Les commanditaires apprcient souvent ce dtail qui leur permet de comprendre le budget qui
leur est propos.
Enfin, cette prcision est souvent utile pour piloter par la suite des quipes de plusieurs valuateurs
91
Le titre de ltape
Objectifs
Mthode /
Contenu
Rendus attendus
Dans certains cas on indique l les rendus auxquels donnera lieu ltape : documents de
synthse, outils mthodologiques, fiches denqutes, rapports intermdiaires, etc. On prcise
alors la diffusion de ces documents (usage interne pour lquipe, outils de restitution
intermdiaire, lments du rapport final, etc.).
Consultants,
dure
Dans le cas dune quipe, on prcise l qui fait quoi, et pendant combien de jours.
Lieux
Attention, sauf exception on devient illisible et trop long si on dtaille lvaluation en plus
dune douzaine dtapes
4.3 La synthse de la proposition
10
11
12
re
1 Phase
1
2
3
4
5
2me Phase
6
7
3me Phase
8
9
10
11
92
llaboration du budget (honoraires et per diem). Ce tableau peut, en effet, tre fait sous Excel
et li la feuille Excel du budget.
Les Phases et les tapes
TOTAL
P C T PC T P C T P C T P C T P C T
1
2
3
4
5
Total phase 1
6
7
Total phase 2
8
9
10
11
Total phase 3
Total
P Paris, C dans la capitale, T sur le terrain, au Total
5.
Le budget
En cas dappel doffres, le budget propos par lvaluateur doit tre adress sparment de la
note mthodologique. Les commanditaires imposent souvent leur mode de prsentation budgtaire. Quand il ne le font pas, mieux vaut leur proposer un descriptif dtaill.
93
Cooprer aujourdhui
est disponible sur le site du Gret : www.gret.org/ressources en ligne
Le monde change, les faons de travailler en coopration aussi. Au Sud comme au Nord, effervescence associative, libralisation conomique et dcentralisations administratives renouvellent le paysage institutionnel. Les revendications lgitimes des citoyens plus de prises sur
leurs conditions de vie amnent inventer des articulations originales entre dmocratie participative et dmocratie lective. Pour rompre les logiques dexclusion, pour assurer un accs quitable aux services et aux opportunits conomiques, de nouvelles articulations entre tat, march et socit civile sont crer, et consolider institutionnellement et juridiquement.
La lgitimit dactions de solidarit internationale est dy contribuer, aux cts des acteurs locaux engags dans de telles dmarches. Mais le systme daide favorise trop souvent les
modes, les impositions de problmatiques, les solutions toutes faites. Cooprer aujourdhui implique de travailler en phase avec les dynamiques sociales, politiques et institutionnelles locales, avec une exigence accrue en termes de qualit et defficacit long terme.
Publie par la Direction scientifique du Gret, cette srie souhaite contribuer au renouvellement
de la rflexion stratgique et mthodologique sur lintervention de dveloppement et les pratiques
de coopration, partir dune rflexion critique sur les pratiques. Principalement issue des travaux
et actions menes au Gret, elle accueille volontiers des textes externes.