Beruflich Dokumente
Kultur Dokumente
DE AVALIAO EDUCACIONAL
Rio de Janeiro-RJ 1 a 3 de dezembro de 1997
EDITOR
Jair Santana Moraes
TRADUES
Jonh Stephen Morris
REVISO
Jair Santana Moraes
Jos Adelmo Guimares
Jos Alfredo Paiva Dezolt
Marluce Moreira Salgado
Rosa dos Anjos Oliveira
NORMALIZAO BIBLIOGRFICA
Regina Helena Azevedo de Mello
Rosa dos Anjos Oliveira
PROJETO GRFICO
Rodrigo Godinho A. da Silva
ARTE-FINAL
Mrcia Terezinha dos Reis
TIRAGEM
500 exemplares
ENDEREO
INEP
MEC Esplanada dos Ministrios, Bloco L, Anexos I e II, 4 Andar, Sala 416
CEP 70047-900 Braslia-DF Brasil
Fones: (061) 224-7092
(061) 224-1573
Fax: (061) 224-4167
http://www.inep.gov.br
E-mail: editoria@inep.gov.br
S UMRIO
Apresentao .............................................................................................................................................
Palestra Inaugural
Maria Helena Guimares de Castro (Inep/Brasil) ..........................................................................................
Pronunciamento
Jorge Whertein (Unesco/Brasil) ....................................................................................................................
13
15
31
41
53
65
75
89
99
103
113
119
133
139
145
159
161
A PRESENTAO
encontra importantes referenciais nas experincias de
diversos pases. Os avanos obtidos nesta direo
como a consolidao do Sistema Nacional de Avaliao da Educao Bsica (SAEB) e a implantao do
Exame Nacional de Cursos (ENC) e do Exame Nacional do Ensino Mdio (ENEM) qualificaram o Brasil para
uma participao mais ativa no debate internacional. Embora sejam ainda bastante recentes, sobretudo quando
comparadas com a larga tradio de outros pases, as
iniciativas brasileiras so inovadoras em vrios aspectos, tanto metodolgicos quanto institucionais. Por isso,
j atraem a curiosidade de especialistas e organismos
internacionais, que reconhecem os passos importantes dados nos ltimos anos e apontam o Brasil como
referncia na Amrica Latina.
Foi neste contexto que o Instituto Nacional de
Estudos e Pesquisas Educacionais (INEP), o Bureau
International d'Education da Unesco e a representao
da Unesco no Brasil se aliaram para promover o Seminrio Internacional de Avaliao Educacional, realizado
no Rio de Janeiro (RJ), de 1 a 3 de dezembro de 1997.
Este evento que reuniu dirigentes do MEC, secretrios estaduais e municipais de Educao, tcnicos das
Secretarias Estaduais de Educao e conceituados especialistas de 10 pases, inclusive do Brasil , teve como
objetivo identificar e discutir os novos desafios e as tendncias da avaliao educacional. O debate, obviamente, teve como pano de fundo a comparao entre as
experincias desenvolvidas pelo Brasil nos ltimos anos
e as experincias realizadas por diversos pases.
A pauta do evento privilegiou a reflexo sobre
as trs questes das quais se ocupa o debate contemporneo na rea: O que e como avaliar? Como organizar institucionalmente um sistema de avaliao?
Como disseminar e utilizar as informaes da avaliao? Esta publicao que rene os papers dos 17
expositores convidados, os documentos apresentados
durante o seminrio e as palestras proferidas na sesso de abertura apresenta a abordagem dessas questes sob diferentes enfoques que contribuem para que
o debate possa avanar e, em ltima instncia, orientar o aperfeioamento dos sistemas de avaliao. Ao
tornar este documento acessvel a um pblico mais
amplo, pretende-se suscitar novas linhas de anlise e
de pesquisa que ofeream respostas completas e conclusivas para as questes levantadas.
Por fim, merece um registro especial a indispensvel colaborao prestada pela Unesco, por meio
da sua representao no Brasil e do Bureau
International d'Education, na realizao do Seminrio
e na preparao desta obra.
L ISTA DE SIGLAS
ACER Australian Council for Educational Research
(Austrlia)
ADEA Associacin para el Desarrollo de la
Educacin Africana
AERA American Educational Research Association
(Estados Unidos)
BID Banco Interamericano de Desenvolvimento
CAT Cognitive Abilities Test / NFER-NELSON
(Inglaterra)
CELADE Centro Latinoamericano de Demografia
CEPAL Comisin Econmica para America Latina
y el Caribe
CINE Clasificacin Internacional Normativo de la
Educacin
CIENES Centro Interamericano de Enseanza
Estadstica [da OEA]
CSF Curriculum and Standards Framework (Austrlia)
DENI Department of Education for Nothern Ireland
(Inglaterra)
DEP Direction de l'valuation et de la Prospective
(Frana)
DfEE Department of Education and Employment
(Inglaterra)
ENC Exame Nacional de Cursos (Brasil)
ENEM Exame Nacional do Ensino Mdio (Brasil)
ERO Education Review Office (Nova Zelndia)
ETS Educational Testing Service (Estados Unidos)
FBI Federal Bureau of Investigation (Estados Unidos)
GAT General Achievement Test (Austrlia)
GCSE General Certification of Secondary
Education (Inglaterra)
GQT Gesto da Qualidade Total (a sigla original,
em ingls, TQM)
GTZ Deutsch Gesellschaft fr Technisch
Zusammenarbeit (Alemanha)
HMI Her Majesty Inspectors (Inglaterra)
IEA International Association for the Evaluation of
Educational Achievement
IGEN Inspection Gnrale de l'ducation National
(Frana)
IMD International Institute for Management
Development
INEP Instituto Nacional de Estudos e Pesquisas
Educacionais (Brasil)
INES International Indicators Systems / OECD
IPES Indicateurs de Pilotage des tablissementes
du Second Degr (Frana)
ISEIC International School Effectiveness and
Improvement Center / Institute of Education /
University of London (Inglaterra)
ISEP Improving Schools Effectiveness Project
(Inglaterra)
P ALESTRA INAUGURAL
*Maria Helena Guimares de Castro, mestre em Cincia Poltica, pela Unicamp, presidente do Instituto Nacional de Estudos e Pesquisas Educacionais (INEP)
desde fevereiro de 1997. O INEP responsvel pela realizao dos censos: Escolar, do Professor e do Ensino Superior; pelo Exame Nacional de Cursos (o
"Provo" do Ensino Superior), pelo Exame Nacional do Ensino Mdio (ENEM), e pelo Sistema Nacional de Avaliao da Educao Bsica (SAEB).
O Sistema Nacional de Avaliao da Educao Bsica (SAEB), embora no tenha sido criado na
atual administrao, passou por um processo de aperfeioamento e consolidao. A primeira mudana que
merece registro foi a sua realizao com regularidade,
a cada dois anos, o que fundamental para efeito de
comparabilidade dos resultados e para o desenvolvimento de uma cultura de avaliao junto aos sistemas
de ensino.
O SAEB abrange uma amostra probabilstica
representativa dos 26 estados e do Distrito Federal,
sendo aplicado s escolas pblicas e privadas de ensino fundamental e ensino mdio. O sistema tem como
objetivos: aferir os conhecimentos e habilidades dos
alunos, mediante aplicao de testes, com a finalidade de avaliar a qualidade do ensino; verificar os fatores
contextuais e escolares que incidem na qualidade do
ensino condies de infra-estrutura das unidades escolares; perfil do diretor e mecanismos de gesto escolar; perfil do professor e prticas pedaggicas
adotadas; caractersticas socioculturais e hbitos de
estudo dos alunos.
A anlise dos resultados dos levantamentos
do SAEB permite acompanhar a evoluo do desempenho dos sistemas de ensino e dos diversos fatores
incidentes na qualidade e na efetividade do ensino ministrado pelas escolas, possibilitando dessa forma a
definio de aes voltadas para a correo das deficincias identificadas. Um exemplo bem concreto e atual de poltica subsidiada pelo resultado do SAEB o
Programa de Acelerao de Aprendizagem, criado pelo
MEC para apoiar os sistemas estaduais e municipais
de ensino a multiplicar aes visando corrigir um dos
principais problemas do ensino fundamental, que a
incidncia de ndices muito elevados de distoro idade/srie.
O SAEB mostrou que os alunos com essa
caracterstica apresentam um desempenho inferior aos
alunos que freqentam a srie correspondente sua
idade. Portanto, torna-se prioritrio criar classes de
acelerao de aprendizagem para estes alunos. O
SAEB tambm ofereceu importantes subsdios para a
definio da poltica de formao de professores.
Com a aplicao do quarto ciclo do SAEB, no
ltimo ms de outubro, este sistema se consolida como
o mais importante e abrangente instrumento de avaliao da educao bsica em todo o Pas.
Por ltimo, cabe registrar que o INEP criou um
Banco Nacional de Itens, que forneceu as questes utilizadas na elaborao das provas do SAEB deste ano.
Alm de atender a essa necessidade, o Banco Nacional de Itens poder fornecer s redes estaduais de ensino que queiram implementar sistemas prprios de avaliao itens pr-testados e calibrados nacionalmente.
Portanto, esta iniciativa fortalece a poltica de avaliao
educacional, estimulando a implementao de sistemas
que permitam a comparabilidade dos resultados.
A principal inovao do MEC na rea da avaliao educacional foi a instituio e implementao do
Exame Nacional de Cursos, para avaliar o ensino de
graduao oferecido pelas instituies de ensino su-
10
perior, pblicas e privadas. Este exame, que a imprensa alcunhou de "Provo", integra um sistema
abrangente de avaliao do ensino superior, orientado
para a melhoria da qualidade dos cursos.
O "Provo" est sendo implementado gradualmente, tendo comeado em 1996 com apenas trs
cursos: Direito, Engenharia Civil e Administrao. Este
ano, foram incorporados mais trs cursos: Odontologia, Medicina Veterinria e Engenharia Qumica e
em 1998 ser avaliado um total de dez cursos. Entretanto, desde que foi lanado, o programa repercutiu
intensamente, produzindo um debate que ganhou as
manchetes dos principais jornais e revistas.
O estabelecimento de uma sistema externo
de avaliao do ensino superior rompe com uma tradio credencialista e burocrtica, na qual o papel exercido pelo MEC se limitava ao credencimento das instituies e autorizao para a abertura de cursos. Isso
implica uma verdadeira mudana cultural, que no acontece sem resistncias. As reaes mais fortes, obviamente, so de natureza corporativa.
Quando o Exame Nacional de Cursos foi lanado, no ano passado, assistimos a uma tentativa da
Unio Nacional dos Estudantes (UNE) - felizmente fracassada de mobilizar os alunos para promover um
boicote a esta iniciativa do Ministrio da Educao. A
absteno em todo o Pas foi inferior a 5%, o que comprova que a maioria absoluta dos estudantes compreendeu o verdadeiro objetivo do "Provo", no se deixando levar pelo discurso maniquesta da UNE.
O que surpreendeu foi a enorme aceitao do
"Provo" pelos formadores de opinio, o que se reflete
na prpria cobertura amplamente favorvel dedicada
pelos meios de comunicao. A dificuldade maior, que
comea a ser superada, foi convencer os diferentes
segmentos da comunidade universitria, sobre os objetivos do Exame Nacional de Cursos e da sua insero como um dos instrumentos que integram o Sistema de Avaliao Institucional do Ensino Superior. Acreditamos que este entendimento j partilhado pela
maioria dos dirigentes, professores e alunos.
O terceiro programa avaliativo que o Ministrio
da Educao est desenvolvendo aplica-se ao ensino
mdio. A primeira experincia foi feita recentemente, no
ltimo dia 5 de novembro, com a aplicao de um exame para os concluintes do ensino mdio em nove Estados brasileiros, abrangendo cerca de 660 mil alunos.
importante notar que essa iniciativa foi concretizada a partir de uma solicitao formal do Conselho Nacional de Secretrios de Educao, frum que
rene os secretrios de educao dos 26 estados e do
Distrito Federal. A adeso ao exame foi voluntria, tendo sido muito expressiva a participao de nove sistemas estaduais de ensino, que respondem por cerca
de 70% dos concluintes do ensino mdio.
Esta experincia foi apoiada com entusiasmo
pelo ministro da Educao, pois oferecer importantes
indicativos para a implantao do Exame Nacional do
11
12
P RONUNCIAMENTO
Jorge Werthein*
objeto tem de satisfazer s nossas necessidades,
expectativas ou desejos. Deste modo, falar de qualidade leva, de forma necessria e orgnica, a falar
de avaliao.
Mas, quando a questo da qualidade circunscrita ao educacional, entram em julgamento no s
um campo substantivo e complexo da atividade humana, mas tambm as necessidades que este campo
deveria satisfazer. Por um lado, as demandas da sociedade em seu conjunto, as demandas dos diversos
subsistemas sociais (o poltico, o econmico, o cultural, etc.), por outro lado as demandas dos agrupamentos humanos que interagem na sociedade (famlia, comunidade, etc.) que exprimem demandas concretas
e, at, muitas vezes contraditrias. Estas demandas e
a forma de satisfazer s mesmas o que se encontra
atualmente na berlinda, mas nos orientam na questo
do que avaliar.
O tema da avaliao educacional no novo.
Longe disso, muito se tem falado, escrito e praticado
neste campo. Mas, a recente emergncia da questo
da qualidade colocou a avaliao em um novo patamar, do qual surgem novas configuraes e desafios
que constituem os tpicos que devero ser abordados
neste seminrio.
Em primeiro lugar, hoje, quando falamos de
avaliao, estamos fazendo referncia a algo bem diferente do que significava a avaliao h 15 ou 20 anos
atrs. Nessa poca, a avaliao estava imbricada com
os grandes nomes que atuavam no campo: Coleman,
Scriven, etc. Falvamos das grandes avaliaes feitas
por grandes figuras. Mas eram avaliaes que aconteciam de forma espordica, quando as circunstncias e
as possibilidades o permitiam.
Hoje falamos das avaliaes do SAEB, do
TIMMS, do SIMCE, do NAEP, sem levar muito em conta que nossos mapas mentais mudaram. Nossas referncias, hoje, so grandes sistemas de avaliao,
rotinizadas por atividades peridicas e recorrentes, sistemticas, de carter longitudinal e quase annimas.
Passamos do espordico e circunstancial da avaliao consolidao de grandes sistemas, com todos
os ganhos, mas tambm com as grandes dificuldades, que isto origina. A avaliao deixou de ter um
incio o projeto, um meio (a coleta e anlise dos dados) e um grande final: o relatrio. Passou a ser uma
atividade permanente, peridica e cclica, que gera rotinas, manuais, problemas de divulgao e questes
13
metodolgicas e tcnicas bem especficas, que devero construir os temas de nosso debate.
Para acharmos exemplos paradigmticos destas transformaes e da modernizao da avaliao
educacional, no temos de ir muito longe; vamos
encontr-los aqui mesmo, no Brasil, onde o Ministrio
da Educao deu, em poucos anos, passos gigantescos nesta direo. longa tradio que j possua a
avaliao dos cursos de ps-graduao, tradio com
mais de 20 anos de prestgio e experincia, soma-se
hoje uma srie de processos e sistemas que cobrem,
praticamente, todos os nveis do ensino.
Temos, por exemplo, o Sistema Nacional de
Avaliao da Educao Bsica (SAEB), uma sofisticada e complexa operao que, a cada dois anos, alm
de testar alunos do ensino fundamental e mdio nas
disciplinas bsicas Portugus, Matemtica e Cincias, levanta informaes sobre o professor, o diretor da
escola, a prpria escola, os hbitos de estudo e o universo sociocultural dos alunos, enfim, o nvel e o conjunto de possveis determinantes, intra e extra-escolares, que incidem na qualidade do ensino ministrado.
Recentemente, foi tambm institudo o Exame
Nacional de Cursos (ENC), mais conhecido como o
Provo que, mediante diversos mecanismos, incluindo
uma avaliao do desempenho dos egressos, pretende
aferir, de forma sistemtica, a qualidade dos cursos de
graduao das universidades do Pas.
Ainda em fase experimental, mas contando j
com a ativa participao e parceria de diversos estados
14
O SISTEMA DE
AVALIAO BRASILEIRO
Maria Ins Pestana*
Pretendemos fazer um rpido histrico do desenvolvimento do Sistema Nacional de Avaliao da
Educao Bsica o SAEB.
Ao desenvolvermos o SAEB, iniciamos um
processo que tem comeo, mas parece no ter fim. O
SAEB tem, portanto, as caractersticas de qualquer
processo: no est pronto; to cedo no estar; talvez, nunca esteja pronto e acabado. Por isso estamos
construindo um sistema de avaliao. E sobre a histria desta construo, algumas caractersticas mais
tcnicas e as questes com que estamos nos deparando nesse momento que pretendemos falar neste
seminrio.
aractersticas do sistema
nacional de avaliao
* Maria Ins Gomes de S Pestana diretora de Avaliao da Educao Bsica, no INEP, e, desde 1995, responsvel pelo desenvolvimento do Sistema
Nacional de Avaliao da Educao Bsica (SAEB).
15
16
Enfoque
D im enso
A te ndim ento
A cesso
ao E nsino
B sico
E ficincia
P roduto
Qu alid ade,
C ontexto
E ficincia,
E qid ade
do sistem a
P rocesso
de ensino
bsico
Insum o
Indicador/Varivel
Taxas de a cesso
Taxas de e sco larizao
Taxas de p rodutividad e
Taxas de transio
Taxas de e ficincia interna
D esem pen ho do aluno , em
term o s de:
apren
dizage m de contedos
desen
volvim ento de h abilidade e
com petncias
N vel so cioecon m ico do s alu nos.
H bito s de estudo dos aluno s
P erfil e con dies de trabalho dos
docen tes e dos d iretores.
Tipo de escola .
Gra u de au ton om ia da esco la.
M atriz orga nizacion al da esco la.
P lane jam ento do ensino e da escola.
P rojeto pedag gico.
R elao entre conted os
propo stos/ensina dos e conted os
ensin ados/aprend idos.
U tilizao do te m p o p edag gico.
E stratgias e tcnicas d e e nsino
utiliza das.
Infra-e strutura (a dequao,
m anuteno e conservao):
espao fsico e instalaes;
equ ipam entos;
recursos e m ateriais did ticos.
Instrum ento
Qu estionrios do
C enso Escolar do
S EEC /IN E P/M E C
Qu estes de provas
Qu estionrios para:
alu nos;
professores;
dire tores.
Qu estionrio sobre
condies d a e scola
rao, 2 mil escolas de todas as redes de ensino (federal, estadual, municipal e particular) e uma amostra
de alunos que est hoje em torno de 220 mil alunos, e
deve ficar, a partir de 1999, com cerca de 300 mil
alunos, 3 mil diretores e aproximadamente 20 mil
professores.
Este , portanto, o esquema bsico da avaliao, que pouco mudou desde que comeou a ser desenvolvido.
Quanto abrangncia, o sistema caracterizase pela participao de todas as 27 unidades da Fede-
17
18
A matriz de referncia para a avaliao apresenta uma srie de descritores do desempenho do aluno. Cada descritor um cruzamento ou associao
entre contedos curriculares e operaes mentais (competncias e habilidades). Nesse ponto reside a nossa
ousadia e a nossa dificuldade.
A matriz parece ser uma maneira de se conseguir superar a quase eterna diviso que h, em quase toda proposta curricular, entre os objetivos
curriculares e a lista de contedos, pois concretiza,
em cada descritor, a articulao entre objetivo curricular
ou objetivo de desenvolvimento e o contedo. Segundo
diversos depoimentos de professores, a matriz de fato
conseguiu descrever, em cada descritor, o desempenho desejado do aluno, ou seja, que operao mental
o aluno tem de realizar com cada contedo.
claro que todo este trabalho est em permanente processo de discusso, para que possa ser sempre aperfeioado.
No momento, as matrizes de referncia para a
avaliao devem cumprir dois objetivos: dar transparncia avaliao e diminuir um dos maiores riscos da
avaliao que o da reduo daquilo que ensinado
somente ao que avaliado. Por isso, o desenvolvimento das matrizes associado utilizao de modelos da
teoria de respostas ao item para anlise e construo
de escalas de desempenho permite que se faa uma
descrio bastante ampla daquilo que se espera que
seja desenvolvido e seja atingido, ou esteja sendo alcanado pelos alunos brasileiros.
Completando a descrio das matrizes, resta
dizer que ela organiza os descritores de desempenho
em tpicos, temas e assuntos (contedos) e operaes mentais (competncias e habilidades) distribudos em trs ciclos (at a 4 srie do Ensino Fundamental, at a 8 do Ensino Fundamental e at a 3
srie do Ensino Mdio) e trs categorias: competncias bsicas, operacionais e globais, isto , em cada
um dos ciclos aparecem as trs categorias de competncias.
Mais uma vez importante destacar que a
matriz baseia-se no que consta das propostas
curriculares em vigor no Brasil.
Aps realizar a coleta e anlise dos dados, o
SAEB informa sociedade os resultados mais gerais
e coloca disposio de administradores, gestores,
professores, diretores de escolas, de alunos, de especialistas, uma srie de informaes que permitem um
olhar mais qualitativo sobre o sistema de ensino.
Em relao ao desempenho dos alunos so
fornecidos dois tipos de informao: primeiramente as
mdias de proficincia, que uma informao mais
geral sobre a capacidade do aluno, isto , aquilo que
os alunos de cada uma das trs sries avaliadas so
capazes de fazer. Esta informao baseia-se na escala de proficincia construda para o Pas, que interpreta e sintetiza o desempenho dos alunos. Estas informaes podem ser obtidas desagregadas por regio
e por estado, rede de ensino, localizao, caractersticas dos alunos, dos professores, diretores e das escolas; em segundo lugar, os resultados de aproveitamento mdio do aluno, isto , qual foi o comportamento dos alunos em relao a cada um dos descritores
de desempenho que constam das Matrizes de Referncia da Avaliao bem como ao seu conjunto, sendo, portanto, uma informao de cunho curricular bastante detalhada.
Todos estes dados devem possibilitar anlises
bem interessantes sobre o currculo aprendido no Brasil e provocar discusses e aperfeioamentos nos currculos propostos.
Tambm esto disponveis todas as demais
informaes sobre variveis associadas ao rendimento
escolar e de caracterizao das escolas, alunos, professores e diretores.
No estgio de desenvolvimento em que se encontra o SAEB, uma grande questo comea a ser
debatida: at aonde vai a real capacidade de um sistema nacional de avaliao de informar sobre todos os
aspectos relacionados educao e sobre a diversidade e a singularidade das escolas?
Apesar de todo esforo at aqui realizado no
desenvolvimento do SAEB, da legitimidade que o sistema possui, da parceria que foi estabelecida com os
sistemas de ensino, e embora a avaliao venha sendo progressivamente apropriada pelos sistemas de
ensino e o SAEB esteja tornando-se uma referncia,
um sistema nacional de avaliao no responde, nem
poderia responder a todas as necessidades de informao, e tambm no tem capacidade de apreender
toda a diversidade e singularidade das escolas, por isso
tem de ser complementado.
A luz que o SAEB joga sobre o sistema de
ensino e as escolas no suficiente, por exemplo,
para iluminar o que acontece dentro da sala de aula.
Neste e em outros aspectos, preciso que os estados
e municpios e as escolas promovam a realizao de
estudos e pesquisas que sustentem o desenvolvimento de sistemticas de avaliao capazes de informar
sobre questes mais especficas e singulares de um
estado, de um municpio e de uma escola. Estas avaliaes poderiam ter um carter complementar ao sistema de avaliao nacional, tanto em termos de objeto
quanto em termos conceituais e metodolgicos.
medida que se amplia a utilizao das informaes do SAEB, ampliam-se os usurios da informao e, talvez por isso, surjam muitas questes para
as quais o SAEB no pode fornecer elementos. Esta
impossibilidade tem gerado crticas ao sistema de avaliao, sendo a principal delas a que v como falha do
19
sistema o fato de no serem encaminhados resultados da avaliao s escolas e, em conseqncia disso, as escolas fazerem pouco ou nenhum uso dos
dados da avaliao nacional.
Embora esta crtica tenha fundamento e seja
desejvel devolver os resultados da avaliao para as
escolas, deve-se discutir alguns outros aspectos que
tambm compem o quadro da avaliao nas escolas.
Primeiramente, como a avaliao no um
fim em si mesma e sim um instrumento que deve ser
utilizado para corrigir rumos e pensar o futuro, parece
ser muito importante assegurar que juntamente com
as informaes que a avaliao fornece sejam criados
e utilizados instrumentos que viabilizem a superao
dos problemas diagnosticados, ou a reafirmao das
medidas e prticas bem-sucedidas.
preciso fazer a ponte entre a avaliao e a
ao. Ou seja, no basta informar ou iniciar um processo de reflexo na escola sobre os problemas ou
deficincias pelos quais ela passa sem colocar sua
disposio os recursos de que precisa para superar
suas dificuldades, pois nesse caso a avaliao tende
a exercer somente o papel cruel, intil e vazio de testemunha, e no de agente transformador e pr-ativo.
Serem informadas, portanto, condio necessria mas no suficiente para que as escolas utilizem dados de avaliaes. informao deve-se somar o conhecimento e a capacidade tcnica para lidar
com a informao, a autonomia para decidir e os recursos para implementar as decises tomadas. Caso
estes trs elementos no existam na escola, a informao da avaliao ser abandonada, na melhor das
hipteses.
Outra possibilidade mais pessimista que a
avaliao, na medida em que as intervenes propostas no sejam coerentes com o diagnstico da avaliao, isto , na medida em que no tenha seus resultados incorporados na linha de atuao da escola e das
secretarias estaduais e municipais de educao, passe a exercer um papel paralisante e desestruturador
da ao educacional, gerando mais impasses do que
solues. A capacitao de professores pode ser exemplo deste tipo de situao. Caso a avaliao mostre
que h problemas de aprendizagem em determinados
contedos de matemtica, seria desejvel que fossem
oferecidas capacitaes de professores relacionadas
a este aspecto, mas no, so oferecidas capacitaes
em outras disciplinas ou em outros aspectos da matemtica, ficando evidente o desprezo aos resultados da
avaliao e a incoerncia na ao educacional.
Por isso parece ser mais prudente que os resultados da avaliao nacional cheguem s escolas
mediados pelos estados e municpios, que podero
estabelecer os vnculos e a coerncia entre o diagnstico e suas linhas de ao.
At aqui foi enfatizado o uso dos resultados
da avaliao pelas escolas e pelos sistemas de ensino. No entanto, existe um outro usurio das informa-
20
onsideraes Finais
21
ANEXOS
12
15
19
18
33
80
35
36
20
21
44
42
35
35
25
31
19
36
32
36
60
33
31
35
33
40
20
46
51
48
46
43
40
32
31
Inst.
H idrul.
44
0
Telh ado
Pa re des
Piso
Bo m
R eg ular
rea
Inst.
C arteiras M e sas,
cadeira s, Externa
Eltrica
arm rios
R uim
14
16
21
16
23
30
80
25
19
22
46
38
16
31
31
31
33
27
34
60
33
27
31
40
52
58
52
52
43
20
41
37
49
46
33
38
0
Telh ado
Pa re des
Piso
Bo m
Inst.
H idrul.
R eg ular
22
Inst.
Eltrica
R uim
C arteiras M e sas,
rea
cadeiras, Externa
arm rios
100
8
17
16
14
28
80
24
21
28
32
43
42
18
17
40
42
38
37
14
34
34
33
60
33
36
32
28
40
48
54
47
20
43
44
38
48
0
Telh ado
Pa re des
Piso
Bo m
Inst.
H idr ul.
R eg ular
rea
Inst.
C arteiras M e sas,
Eltrica
cadeira s, Externa
arm rios
R uim
Bo m
R eg ular
23
R uim
11
17
28
36
15
23
32
38
32
35
36
3
32
6
7
6
8
5
25
25
20
18
12
32
5
9
5
10
17
68
69
37
36
30
50
29
44
50
53
0
30
32
20
Bo m
40
R eg ular
60
11
18
16
12
80
100
120
R uim
Bo m
R eg ular
24
R uim
298
271
300
301
237
290
266
262
225
295
259
253
188
181
182
174
Su deste
Su l
C en tro -O este
Brasil
253
230
150
75
145
153
N orte
N ordeste
3 a srie
8 a srie
4 a srie
Grfico 8: Portugus
3 a srie
8 a srie
25
4 a srie
N O RT E
NO RDESTE
32 5
SU D E S TE
SU L
C -O E ST E
30 0
27 5
25 0
22 5
=< 1 7
18
19
20
21
=> 22
IDADE DO ALUNO
BR ASIL
N O R D ES T E
325
SU D ES TE
SU L
C -O EST E
300
275
250
225
=< 17 A nos
18 An os
19 An os
20 An os
IDADE DO ALUNO
26
21 An os
=>22 A nos
N O RT E
M atem tica
50%
170
M dia 75%
174
212
95%
269
25%
136
95%
271
BR
5%
73
25%
129
54
109
147
145
185
238
63
117
161
154
198
250
NE
59
117
158
153
201
264
62
124
166
160
208
264
SE
92
149
190
188
231
283
86
152
193
187
231
284
98
150
188
181
222
271
84
151
193
181
231
281
CO
89
145
181
182
220
273
91
150
188
185
223
275
RO
60
112
153
150
189
241
52
118
158
152
194
245
AC
46
94
132
129
167
216
61
105
145
147
186
237
AM
80
123
158
156
192
239
67
123
163
159
198
240
RR
77
125
157
157
190
241
76
130
167
162
201
246
PA
51
112
148
140
184
237
57
126
168
154
203
254
AP
33
85
128
127
168
232
25
89
135
134
184
249
TO
51
113
149
147
184
233
49
111
152
151
193
243
MA
41
98
140
141
181
237
34
91
138
139
183
240
PI
71
125
167
172
219
293
71
134
179
176
225
299
CE
57
116
156
151
198
259
77
134
173
163
214
263
RN
59
117
162
155
204
260
53
123
167
157
205
265
PB
41
101
150
148
198
264
56
117
161
160
209
271
PE
60
117
160
153
205
262
57
125
167
159
206
261
AL
41
91
138
137
181
246
45
105
152
150
197
257
SE
67
126
160
162
202
254
76
133
173
171
209
257
BA
68
121
156
156
194
250
62
133
175
167
213
261
MG
110
166
207
195
243
289
88
159
200
185
238
288
ES
77
129
162
166
199
257
80
131
168
169
206
261
RJ
84
139
179
181
224
280
91
150
190
187
226
281
SP
96
150
189
189
229
283
85
153
193
189
229
282
PR
99
155
196
190
233
278
82
162
203
189
238
283
SC
106
154
189
188
223
258
91
145
187
179
223
268
RS
91
140
175
170
209
260
79
143
181
175
220
279
MS
89
145
180
179
217
268
93
149
185
183
219
267
MT
71
123
162
157
198
259
62
118
162
153
197
247
GO
98
151
187
191
226
277
103
155
192
192
226
276
DF
107
157
191
191
226
276
119
170
202
203
237
288
27
5%
72
Leitura
50%
M dia 75%
178
177
217
BR
5%
172
25%
216
50%
247
M dia
253
75%
279
95%
324
5%
163
25%
217
50%
249
M dia
252
75%
279
95%
319
167
206
233
237
260
298
158
208
237
238
264
304
NE
159
199
229
230
263
311
142
197
232
227
264
306
SE
192
233
264
262
293
336
186
234
263
262
291
330
195
236
263
259
290
327
192
235
261
257
289
325
CO
184
225
255
253
283
328
178
226
255
252
283
322
RO
168
207
233
234
261
300
154
207
236
234
261
294
AC
162
197
222
223
249
282
158
199
225
224
251
288
AM
170
209
237
236
265
301
154
209
236
233
262
303
RR
172
212
235
235
261
294
158
206
237
234
266
298
PA
176
215
244
249
273
314
182
222
252
253
278
312
AP
162
200
226
224
252
288
160
205
234
230
259
297
TO
157
194
224
222
252
287
140
191
227
218
255
293
MA
150
188
215
215
242
282
131
184
221
216
252
287
PI
158
199
229
228
257
291
138
195
226
224
255
292
CE
159
203
233
235
269
316
149
204
236
234
268
310
RN
156
196
230
232
270
321
143
195
236
232
271
312
PB
164
207
236
236
271
308
154
203
235
233
268
304
PE
158
196
228
230
262
314
141
192
228
227
261
306
AL
150
187
216
217
252
300
131
182
218
215
252
296
SE
168
208
237
240
268
316
155
206
237
236
266
308
BA
163
203
233
231
263
310
138
200
235
226
266
309
MG
199
239
267
265
297
341
190
236
265
260
293
332
ES
179
220
250
249
278
318
164
215
245
245
274
317
RJ
192
233
264
257
293
330
187
236
264
259
292
330
SP
190
233
263
263
293
332
189
235
265
264
291
329
PR
190
231
260
254
291
331
187
233
259
254
287
326
SC
199
234
257
256
282
314
190
230
254
253
280
310
RS
203
242
269
265
294
327
198
239
267
263
293
328
MS
180
220
248
246
272
310
168
220
249
247
276
317
MT
175
216
245
245
272
307
171
216
245
243
271
308
GO
180
217
248
248
280
328
178
223
252
250
281
323
DF
204
246
274
275
304
342
200
244
270
269
295
334
28
5%
207
25%
252
50%
285
M dia
290
75%
321
95%
370
5%
187
25%
242
50%
275
M dia
277
75%
306
95%
347
195
239
267
271
299
348
179
230
263
262
294
333
NE
194
235
267
266
301
360
172
223
257
253
290
334
SE
229
268
298
298
329
373
207
256
287
285
315
353
235
276
305
301
333
371
207
256
287
283
315
355
CO
219
262
295
295
332
385
206
255
284
283
314
356
RO
204
255
294
280
328
359
178
251
285
279
313
344
AC
194
240
268
264
299
332
177
222
252
250
282
319
AM
208
242
266
275
294
354
192
234
266
265
296
338
RR
195
236
261
263
292
327
186
224
256
255
284
323
PA
198
238
267
269
296
335
173
229
263
262
293
332
AP
204
244
270
274
297
338
190
232
262
265
294
332
TO
179
223
264
266
307
361
166
218
253
249
287
326
MA
180
228
265
256
297
344
151
212
250
242
281
324
PI
187
231
261
258
296
342
165
217
252
245
283
319
CE
198
241
275
277
311
369
170
224
258
255
290
336
RN
183
230
262
260
296
338
164
219
255
252
291
333
PB
191
238
265
266
296
357
175
224
257
254
288
326
PE
192
230
258
262
291
346
170
216
249
247
281
324
AL
201
248
280
280
317
359
185
231
267
261
299
331
SE
215
257
288
294
341
392
191
238
273
272
309
363
BA
197
236
265
266
298
375
179
230
260
261
292
344
MG
233
272
302
303
332
370
203
258
287
283
314
351
ES
225
263
289
285
318
363
199
241
272
271
300
336
RJ
229
267
299
289
332
382
205
254
284
275
312
351
SP
227
269
300
300
330
373
219
263
293
291
319
355
PR
229
270
297
298
325
371
198
251
281
279
309
348
SC
233
271
298
292
328
359
209
256
285
281
313
352
RS
249
288
317
311
342
374
218
269
295
289
321
360
MS
216
254
281
282
311
351
205
248
274
273
300
338
MT
204
242
270
272
300
338
196
241
271
268
295
329
GO
217
257
287
290
328
377
201
253
284
282
314
357
DF
253
296
330
328
365
404
227
275
306
302
331
369
29
30
E DUCAO PARA
TODOS: ACESSO
APRENDIZAGEM E CONQUISTA
DO CONHECIMENTO TIL
Robert Glaser*
ntroduo
Todos ns sabemos que os indivduos so educados de acordo com as condies culturais e econmicas que prevalecem no momento. Entretanto, as condies do passado podero permanecer em vigor, maladaptadas e retardando o progresso, mesmo que a
cultura tenda mudana. medida que trabalhamos
para a avaliao e o aprimoramento dos nossos sistemas de educao, necessrio examinar as nossas
metas e as nossas realizaes luz do conhecimento
moderno; ao mesmo tempo, devemos identificar as restries e os obstculos que nos emperram, e que tornam difcil a mudana.
Tendo em mente este tema da mudana, consideraremos dois aspectos fundamentais de um sistema de educao: como determinado o acesso oportunidade da educao, e como so avaliados os resultados da educao. Estas questes, acesso e realizao, refletem-se em: como os alunos so selecionados para a entrada na escola, como as suas habilidades de aprender so facilitadas, e como a qualidade
da aprendizagem, a competncia alcanada e as metas de educao so avaliadas.
A primeira funo, acesso educao, foi influenciada por prticas sociais que tentam identificar
aqueles que aparentam a habilidade, a aptido ou a
classe social para aproveitarem a escolaridade num
sistema de educao. O acesso instruo administrado atravs de testes e de outros procedimentos
de seleo, e do uso de mtodos para a classificao
e a colocao diferenciada dos indivduos (a teoria
psicomtrica teve a sua expanso principalmente neste contexto de utilizao). Atualmente, enquanto trabalhamos para melhorar os nossos sistemas, devemos nos perguntar se os mtodos de seleo e de
classificao desenvolvidos so agora funcionais e
aceitveis, para uma sociedade que deseja maximizar
as capacidades e as realizaes da maior parte de
todos os cidados, que so o ponto focal de um sistema de educao.
cesso educao
*Robert Glaser, doutor em Psychological Measurement and Learning Theory (Indiana University), diretor do Learning Research and Development Center, da
University of Pittsburgh (Estados Unidos). Autor e editor de extensa bibliografia (livros, artigos de peridico, coletneas e relatrios tcnicos), foi tambm editor
da revista The New Educational Researcher.
31
Para sermos, agora, mais especficos, discutiremos vrias reas em que o uso e o desenvolvimento das habilidades dos alunos para aprender possam
ser consideradas com o propsito de facilitar ambientes de aprendizagem adaptativa. Focalizaremos trs
pontos fortes, sobre os quais pode ser fundamentada
a educao na escola: 1) conhecimento baseado na
comunidade, 2) habilidades para auto-regulao, e 3)
convices sobre esforo e habilidade predeterminada.
32
desempenho de um aluno que tenha um nvel determinado de habilidade (Dweck, 1988; Dweck, Leggett,
1988; Resnick, 1995; Resnick, Nelson-LeGall, no prelo).
Em contraste com essa viso, estudos comparativos entre pases e entre sociedades descreveram padres distintos de crenas em aptido e habilidade, e as prticas escolares resultantes (Holloway,
1988; Peak, 1993; Stevenson, Lee, 1990). Determinados ambientes escolares enfatizam muito os hbitos
de aprendizagem e os modos de interao com os
outros para aprimorar a aptido para aprender. Os alunos acreditam que desenvolver as habilidades que possam capacit-los a melhorar a sua aprendizagem
to importante quanto demonstrar o que foi aprendido.
Os objetivos de aprendizagem tm a mesma importncia que os objetivos de desempenho. O indivduo no
apenas esfora-se para mostrar quo bem uma determinada matria foi aprendida, mas trata tambm de
desenvolver novas formas para aprimorar a sua prpria
capacidade de aprender. Os alunos iniciam comportamentos de aprendizagem, como o teste do seu prprio
entendimento, conscientes dos padres para o seu
desempenho.
O acesso educao melhoraria se os sistemas tradicionais, que valorizam excessivamente a habilidade predeterminada e a aptido, se voltassem para
os ambientes educacionais que enfatizam a importncia de realizar esforos para desenvolver a capacidade
de aprender. Os sistemas baseados em esforos podem motivar a aprendizagem e restaurar nos jovens a
conscincia de que eles podem apresentar contribuies positivas e produtivas, para o seu prprio processo de aprendizagem e para a sociedade.
Ressaltarei, mais uma vez, este ponto geral.
Muitos dos atuais sistemas de educao e seus modos de entrada na escola e na fora de trabalho so
principalmente elaborados a partir da crena de que o
talento e a habilidade so, em grande parte, herdados
e fixos. Como resultado, as prticas educacionais so
destinadas a selecionar aqueles que possuam talento
para os currculos com altos nveis de exigncia: evitase o currculo que envolva desafio para um nmero enorme de alunos, o que termina por confirmar as suas
prprias convices de que no possuem talento para
o raciocnio avanado. Os alunos no tentam romper a
barreira das baixas expectativas, uma vez que eles
mesmos, assim como seus professores e seus pais,
aceitam o julgamento de que a sua habilidade predeterminada e que no possuem o nvel correto de aptides. No surpreende que o seu desempenho permanea baixo e o sistema se torne auto-sustentvel.
Por outro lado, para o futuro, no ser necessrio prosseguir desta forma. A escolaridade e a preparao para a vida e para o trabalho podero ser
construdas com base em suposies alternativas de
que o esforo efetivamente cria a habilidade de aprender, e de que o desenvolvimento de estratgias de apren-
33
esultados da educao
desenvolvimento da competncia
como base para a avaliao
34
cos com entendimento e raciocinar com conhecimento histrico e cvico, para vivermos, efetivamente, como
cidados nas sociedades em desenvolvimento. Em
geral, a avaliao dos resultados da educao deve
considerar no apenas o contedo do que aprendido,
mas tambm as maneiras de usar essa informao, e
as formas de saber que proporcionem conhecimento
intelectual e poder criativo.
Devemos avaliar os tipos de aprendizagem que
contribuam para a competncia individual e para o uso
da mentalidade humana. medida que acontecem
mudanas no conhecimento dos alunos, precisamos
observar o desenvolvimento concomitante dos processos cognitivos envolvidos em solucionar problemas e
em pensar com aquilo que eles conhecem (Anderson,
1985). Devemos ir alm do teste da mera memria, e
avaliar o poder das estruturas interligadas de conhecimento que representam significado, e que levam em
conta os nveis complexos de explicao e entendimento. Os conceitos de estruturas coerentes e interligadas de informao, e a natureza do conhecimento
organizado para o raciocnio devem dirigir os procedimentos modernos de avaliao dos resultados da aprendizagem. Os nossos conceitos do passado, muitas
vezes, resultaram na testagem de informaes fragmentadas, utilizando o formato de mltipla escolha,
que no estimula a inferncia e o raciocnio com o que
sabemos. Agora, os educadores enfrentam o desafio
de desenvolver e avaliar o conhecimento interligado e
utilizvel.
4) Gerenciamento de informao
Avaliar a forma como as pessoas gerenciam a
informao dever ser, cada vez mais, um problema
principal da nossa poca. A quantidade de informao
35
36
o historiador ou o bilogo pensam ao acumularem evidncias para chegar a concluses e para propor explicaes.
Nesses ambientes de aprendizagem, fatos e
informaes tornam-se parte dos dados de um esforo
de aprendizagem e de raciocnio. Os alunos podem
sentir-se ligados a eventos que estejam ocorrendo tanto no mundo quanto nas suas comunidades, utilizando
essa informao oriunda de eventos exteriores para o
que estiverem aprendendo. Por exemplo, podem empregar o seu conhecimento nas reas de Matemtica
e Cincias para o estudo de ecossistemas, podendo
enviar essa informao (pela Internet) para uma comunidade prxima, para maiores informaes. Podem
empregar as suas habilidades de escrever para explicar a outros alunos e aos seus pais como eles interpretam o que esto aprendendo. De uma forma geral,
os alunos, com a orientao do professor, podem avaliar a sua informao e as suas interpretaes, ou tentar encontrar evidncias em outras fontes para apoiar
as prprias idias.
Esses ambientes educacionais foram denominados "comunidades para a construo do conhecimento" (Brown, Campione, 1990, 1994; Scardamalia,
Bereiter, 1991, 1996). Os alunos participam na transmisso do conhecimento procurando, compartilhando
e adquirindo conhecimento entre eles mesmos com
uma quantidade de orientao cada vez menor. Essas
comunidades para a construo do conhecimento distinguem-se pelos esforos de transferir aos alunos os
processos que normalmente ficam sob o controle do
professor. Os alunos so ajudados a formular metas, a
dirigir a sua prpria atividade de consulta, a monitorar
o seu entendimento e a utilizar os recursos que lhes
so oferecidos para planejar o seu prprio ambiente de
aquisio de conhecimento. Nesse ambiente
participativo de aprendizagem, professores e alunos
compartilham a experincia de que dispem, ou assumem a responsabilidade de descobrir e trazer para o
grupo o conhecimento de que precisam. Existe uma
comunidade de discurso no qual a aprendizagem atravs da discusso construtiva, de conjecturas, de
questionamento, de crtica e apresentao de evidncia a coisa normal a ser feita, e no a exceo (Brown,
Campione, 1994; Campione, Brown, Jay, 1992).1 Um
importante conceito instrucional que medida que
os alunos progridem para nveis superiores de conhecimento e de desempenho, tornam-se tambm cada
vez mais hbeis, como agentes ativos, em apoio sua
prpria aprendizagem e aprendizagem dos outros.
As comunidades de construo de conhecimento, enquanto ambientes de aprendizagem, passam atualmen-
integrao da avaliao e da
instruo
No futuro, testes e ensino, avaliao e aprendizagem devero ser eventos que se tornaro mais integralmente relacionados (Frederiksen, Collins, 1989).
medida que for acontecendo o processo de aprendizagem, haver disponibilidade de evidncias para a
avaliao das realizaes e para o julgamento das etapas seguintes da instruo. As caractersticas da avaliao, que so parte integrante da instruo, devero
incluir, pelo menos, seis aspectos:
1) Acesso oportunidade da educao Como
j tive a oportunidade de enfatizar, para limitar os aspectos de excluso dos sistemas de educao, necessrio que a avaliao seja destinada a examinar as
possibilidades de crescimento dos alunos. Os programas de avaliao e de instruo devero capacitar os
professores a reconhecer e apoiar os pontos mais fortes dos aprendizes, de maneira que possam chegar a
currculos com maior eficcia.
2) A exibio de competncia O conhecimento e as habilidades devero ser medidos de forma
que sejam abertamente mostrados os processos e os
produtos da aprendizagem. Os critrios de desempenho atravs dos quais sero julgados os alunos sero
evidentes e claros, de forma que possam motivar e
direcionar a aprendizagem e o ensino.
3) Auto-avaliao A avaliao dever implicar o ensino da auto-avaliao. Uma vez que a avaliao e a instruo so intimamente relacionadas, as
situaes instrucionais devero fornecer estmulo e
prtica, de forma que possam auxiliar os alunos a refletirem sobre o seu desempenho. Essas ocasies para
avaliao permitem aos alunos estabelecerem padres
graduais atravs dos quais possam julgar as prprias
realizaes, alm de desenvolver a autodireo para
atingir nveis mais altos de desempenho.
4) Avaliao situada em termos sociais As
condies da avaliao podem exigir um desempenho
em um cenrio social no qual os alunos contribuam
para uma tarefa e para dar assistncia aos outros. Com
isso, h a vantagem de estimular os alunos a desenvolver e a questionar as suas definies de competncia; eles observam como os outros raciocinam, e recebem feedback sobre os seus prprios esforos. Neste
Com o objetivo de facilitar uma comunidade de aprendizagem, foram projetados sistemas de computadores atravs dos quais as crianas podem interagir, com
os objetivos de construir, explorar e compartilhar o conhecimento. Sua atividade concentra-se em uma base de dados da comunidade, gerada pelos prprios
alunos, onde estes fazem comentrios sobre as anotaes uns dos outros, levantando questes, sugerindo fontes de informao e contribuindo com contraargumentos ou com estmulo (Scardamalia, Bereiter, 1991).
37
contexto, no apenas o desempenho poder ser avaliado, mas tambm a facilidade com que um aluno recebe e se adapta ajuda e orientao.
5) Eficcia da instruo As avaliaes so
julgadas em termos da sua eficcia em informar os
professores no sentido de dedicarem tempo a determinados conceitos e contedos, e a habilidades cognitivas
do currculo. Os produtos da avaliao podero ser interpretados em termos de como influenciam o ensino
e a instruo, e em termos da informao que fornecem para o desenvolvimento de atividades de sala de
aula que se relacionem s metas de aprendizagem.
6) Significado cognitivo As avaliaes proporcionam cobertura do contedo, mas no negligenciam processos significativos de desempenho, como
o levantamento de perguntas, a representao e o planejamento de um problema antes da soluo, e a proposta de explicaes conceituais para os procedimentos de solues. A construo de procedimentos de
avaliao exige a anlise dos aspectos cognitivos de
uma atividade e a determinao de procedimentos relacionados de pontuao que ofeream evidncia do
desempenho cognitivo envolvido.
omentrios finais
eferncias bibliogrficas
38
39
40
O POTENCIAL DOS
ESTUDOS COMPARATIVOS
INTERNACIONAIS PARA O
CONTROLE DE QUALIDADE
DA EDUCAO
Tjeerd Plomp*
ntroduo
O trabalho preparado para este seminrio descreve o contexto para as principais metas do evento:
discusses e reflexes sobre o significado da avaliao de um sistema de educao e a forma adequada
de realiz-la. Prope polticas baseadas em informao, argumentando que "o aprimoramento qualitativo
na educao... s poder fundamentar-se na informao rigorosa, comparada e bem equilibrada" (p. 1). A
avaliao considerada "um instrumento de primeira
classe, a servio de um novo estilo de poltica de educao, e na operao de sistemas educacionais" (p.
1). Outro aspecto importante o de que o trabalho
defende a posio de que "uma das maneiras mais
eficientes de executar a reflexo (sobre a qualidade da
educao) est em comparar as nossas prprias idias e iniciativas s de outros pases"(p. 1), e de que "a
adoo de uma perspectiva supranacional d outra viso das experincias locais, tornando possvel analislas a partir de pontos de vista novos" (p. 2).
De acordo com este contexto, o trabalho discute a importncia de estudos comparativos internacionais para avaliao e controle da qualidade dos sistemas de educao. Inicialmente, sero discutidos alguns dos resultados do Third International Mathematics
and Science Study (TIMSS), que est, no momento,
sendo realizado sob os auspcios da Associao Internacional para Avaliao do Desempenho em Educao (IEA). Esses resultados sero utilizados para ilustrar a importncia da misso da IEA, bem como os
tipos de comparaes proporcionados por ela. O tipo
de estudo desenvolvido pela IEA pode envolver uma
variedade de funes para os responsveis pela poltica em educao e para os que praticam atividades
ligadas educao, o que ser ilustrado a partir de
alguns exemplos. Finalmente, alguns comentrios de
concluso indicaro alguns dos aspectos importantes
da participao de um pas em estudos internacionais
de avaliao comparativa.
escola secundria);
l mais de meio milho de alunos;
l testes aplicados em mais de 30 idiomas
diferentes;
l mais de 15.000 escolas participantes;
l quase 1.000 questes dissertativas, que
geraram milhes de respostas dos alunos;
l avaliao de desempenho;
l questionrios de alunos, professores e diretores de escolas, contendo em torno de 1.500 questes;
l milhares de indivduos, para a aplicao
dos testes e para o processamento dos dados.
O TIMSS foi conduzido com ateno dedicada
qualidade, a cada um dos passos do caminho. Foram aplicados princpios rigorosos para a traduo dos
testes, sendo oferecidas numerosas sesses de treinamento, com respeito aos procedimentos empregados para a coleta de dados e para a pontuao, sendo
todas acompanhadas por observadores do controle de
qualidade. As amostras de alunos selecionados para
o teste foram examinadas de acordo com rigorosos
padres, com o objetivo de evitar parcialidades e assegurar a comparabilidade. Esse controle da qualidade
do estudo resultou na indicao daqueles pases que
no atendiam a todos os critrios de qualidade nas
tabelas de apresentao dos resultados.
Os resultados de desempenho do TIMSS foram publicados pelo Centro Internacional de Estudos
da Universidade de Boston (EUA), e pode-se consultar
* Tjeerd Plomp, professor da Faculty of Educational Science and Technology, da University of Twente, em Enschede (Pases Baixos), , desde 1990, presidente
da International Association for the Evaluation of Educational Achievement (IEA). Na sua produo bibliogrfica, destaca-se a International Encyclopedia of
Educational Technology (2.ed. Oxford : Elsevier, 1996), inclui-se a colaborao em diversas coletneas, a co-edio de livros e anais de conferncias, alm
da publicao de artigos em peridicos, como: Higher Education, Studies of Educational Evaluation, Computers in Education.
41
a bibliografia, para a lista completa de publicaes produzidas pelo estudo. Alguns desses estudos aparecem resumidos e discutidos, para ilustrao da potencial riqueza dos estudos internacionais de avaliaes
comparativas.
Cingapura
Coria
Japo
Hong Kong
Blgica (Fl)
Repblica Checa
Pases Baixos
Bulgria
ustria
Repblica Eslovaca
Blgica (Fr)
Sua
Hungria
Federao Russa
Irlanda
Eslovnia
Austrlia
Tailndia
Canad
Frana
Alemanha
Sucia
Inglaterra
Estados Unidos
Nova Zelndia
Dinamarca
Esccia
Letnia (LSS)
Noruega
Islndia
Romnia
Espanha
Chipre
Grcia
Litunia
Portugal
Repblica Islmica do Ir
Colmbia
frica do Sul
601
577
571
564
558
523
516
514
509
508
507
506
502
501
500
498
498
495
494
492
484
477
476
476
472
465
463
462
461
459
454
448
446
440
428
423
401
369
348
42
Cingapura
Coria
Japo
Hong Kong
Blgica (Fl)
Repblica Checa
Repblica Eslovaca
Sua
Pases Baixos
Eslovnia
Bulgria
ustria
Frana
Hungria
Federao Russa
Austrlia
Irlanda
Canad
Blgica (Fr)
Tailndia
Israel
Sucia
Alemanha
Nova Zelndia
Inglaterra
Noruega
Dinamarca
Estados Unidos
Esccia
Letnia (LSS)
Espanha
Islndia
Grcia
Romnia
Litunia
Chipre
Portugal
Repblica Islmica do Ir
Kuwait
Colmbia
frica do Sul
7 Srie*
fric a d o S u l
Ku w a it
C o l m b ia
C h ip re
R e p b lica Islm ic a d o Ir
B lg ic a (Fra nc s )
L itu n ia
D in a m a rc a
Po rtu g al
L e t nia
R o m nia
Isl n d ia
G r cia
Fra n a
Es p a n h a
Es c c ia
Su ia
H o n g Ko n g
Ta il n d ia
Isra el
N o va Ze l n d ia
N o ru e g a
Canad
Ale m a n h a
Es ta d o s U n ido s
Su c ia
Irla nd a
Fe d e ra o R us sa
R e p b lica E slo va c a
Au s tr lia
B lg ic a
In g la te rra
H u n g ria
u s tria
Pa s e s B a ix o s
Es lov n ia
Bu lg ria
C o r ia
Ja p o
C in g a p u ra
P a s
R e p b lica C he ca
Instrues para ler a Figura 1:Procure o pas a ser comparado em termos de desempenho na coluna vertical,
comparando-o com os pases relacionados na linha superior. Os smbolos indicaro se o desempenho mdio do
pas significativamente mais baixo do que o outro pas comparado, significativamente mais alto do que o outro, ou
se no h diferena estatstica significativa entre os dois pases.
C in gapura
R e pblica C heca
Jap o
C o ria
B u lgria
P a ses B aixo s
E slovn ia
u stria
H u ngria
Ing laterra
B lgic a
A u strlia
R e pblica E slova c a
Fe derao R us sa
Irla nda
S u cia
E stados U nidos
A le m an ha
C a nad
N o rueg a
N o va Z elndia
Ta ilndia
Is rael
H o ng K ong
S u ia
E sc c ia
E spanh a
Fra na
G rcia
Is l ndia
R o m n ia
Le tnia
P o rtuga l
D in am a rca
Litu nia
B lgic a (Fra ncs)
R e pblica Islm ica do Ir
C h ipre
K u w ait
C o lm b ia
frica d o S ul
*Oitava srie na maior parte dos pases. Ver Tabela 2, para maiores informaes sobre as sries testadas em cada um dos pases.
1
Estatisticamente significativo na 5 srie, ajustado para vrias comparaes.
Porque a cobertura est abaixo de 65%, a Letnia aparece com a sigla "LSS", indicando apenas as escolas de lngua let.
Os pases representados em itlico no atenderam a uma ou mais diretrizes, referentes s taxas de participao na amostragem, especificaes de idade/srie,
ou salas de aula.
Procedimentos de amostragem: consultar Apndice A, para maiores detalhes.
43
A Tabela 1 e a Figura 1 ilustram um dos objetivos dos estudos internacionais de desempenho comparativo, que especificamente fornecer aos responsveis pela poltica de educao e aos que trabalham
em educao informaes (indicadores) sobre a qualidade do seu sistema educacional, em relao a grupos relevantes de referncia de naes semelhantes.
Esta a funo de "espelho": os pases tm a possibilidade de determinar se gostam ou no do seu quadro
ou do seu perfil como pas, quando comparados aos
outros.
A Tabela 1 apresenta apenas dados "de classificao", como, por exemplo, Matemtica de 8 srie, a Espanha aparecendo em 31 lugar e Portugal,
ustria
H ung ria
P ase s B aixos
Inglaterra
R ep blica E slovaca
E stad os U nidos
A ustrlia
A lem anh a
C ana d
Irlanda
Tailndia
S ucia
N orue ga
S ua
N ova Ze lndia
E sc cia
Islndia
R om nia
Fra na
G rcia
B lgica (fr.)
D in am a rca
Ir
Letnia (LS S )
P ortu gal
C hipre
Litun ia
C olm b ia
frica do S ul
44
Atravs dos anos, a IEA realizou vrios estudos de avaliao sobre temas escolares bsicos. A
maior parte deles foi determinada pelos prprios currculos, ou seja, foram desenvolvidas estruturas de testes para a avaliao de resultados educacionais, com
base na anlise do currculo dos pases participantes.
Todos esses estudos incluram tambm instrumentos
para mensurao de variveis de processos escolares
e de sala de aula, assim como variveis primrias tanto de professores quanto de alunos. Como exemplos,
citamos os estudos nas reas de Matemtica e Cincias, habilidades em Leitura, Educao Cvica, e Ingls e Francs como lnguas estrangeiras.
Ao lado disso tudo, a IEA realiza tambm outros estudos, no baseados em currculos. Como exemplos, o Pre-Primary Project and the Computers in
Education Study, do qual est sendo preparado um
sucessor (o Second Information Technology in
Education Study).
Atualmente, h vrios estudos em curso na IEA.
O TIMSS o mais extenso j realizado, cujos
resultados so discutidos por este trabalho. Os resultados da populao nmero 3 (final da educao compulsria) sero divulgados em fevereiro de 1998. A IEA
tem planos para repetir o TIMSS para a 8 srie em
1998, para o Hemisfrio Sul, e em 1999 para o Hemisfrio Norte. Os pases que at agora no tiveram a oportunidade de participar do TIMSS so bem-vindos ao
estudo.
Est em via de ser finalizada a primeira fase
do segundo Civics Education Study, o desenvolvimento dos perfis dos pases, cuja primeira parte, do ano de
1999, ser dedicada coleta de informaes nos nveis das escolas, professores e alunos.
Um outro estudo, em mbito distinto, o PrePrimary Project, um estudo de polticas e prticas na
rea de ateno infantil.
Foi iniciado no outono de 1997 um segundo
Information Technology in Education Study (SITES),
com um mdulo de indicadores (uma pesquisa de avaliao escolar limitada, em novembro de 1998). Existem planos para dois outros mdulos, especificamente um mdulo de estudos internacionais de casos comparativos sobre prticas inovadoras no uso da tecnologia
da informao e da comunicao, e (para o ano 2001)
uma pesquisa envolvendo escolas, professores e
alunos.
Como j foi mencionado, a IEA reconhece dois
objetivos nos estudos internacionais de desempenho
comparativo: 1) fornecer aos responsveis por poltica
e aos profissionais em educao informaes sobre a
qualidade da sua educao em relao a grupos de
referncia relevantes, e 2) auxiliar no entendimento dos
motivos para as diferenas observadas entre os sistemas educacionais (o que atende s necessidades dos
organizadores da poltica, mas que claramente tema
de interesse dos pesquisadores).
45
1) Descrio
Em linha com esses dois objetivos, a IEA trata de focalizar dois tipos de comparaes em seus
estudos. A primeira, comparaes internacionais diretas sobre os efeitos da educao em termos de pontuaes (ou subpontuaes) nos testes internacionais,
segundo a forma ilustrada em relao ao TIMSS, na
Tabela 1 e na Figura 1.
O segundo tipo de comparao refere-se
verificao de at que ponto o currculo proposto de
um pas ("aquilo que deveria ser ensinado em uma determinada srie") implementado nas escolas, e alcanado pelos alunos. Esse tipo de comparao
basicamente dirigido s anlises nacionais dos resultados de um pas, ainda que essas anlises possam
ser desenvolvidas de acordo com uma abordagem internacional comparativa.
Um estudo tpico da IEA trabalha com nveis
de sries de trs populaes: educao elementar, incio e final da educao secundria.
A IEA foi fundada como cooperativa de pesquisa. No incio, o seu interesse bsico eram estudos
internacionais comparativos, a partir de uma perspectiva de pesquisa. Na segunda metade da dcada de
80, a IEA comeou a reconhecer o interesse cada vez
maior dos responsveis pela determinao de polticas nos indicadores de educao. Desde ento, a IEA
assumiu como desafio atender tambm aos interesses dessas pessoas, atravs de seus estudos. A incluso dos indicadores de desempenho da IEA nas
publicaes da OCDE ilustra o xito da Associao
nesse esforo. A ltima edio da publicao Education
at a Glance, da OCDE (1996), apresenta um nmero
de indicadores baseados nos resultados do TIMSS.
Exemplos de publicaes da IEA que examinam questes relevantes referentes poltica so Postlethwaite,
Ross (1994) e Keeves (1996), sendo Kellaghan (1996)
outra fonte de relevo.
Nem todos os estudos deveriam incluir uma
extenso e um desenho to abrangentes quanto o estudo TIMSS. Entretanto, a IEA acredita firmemente que
a conceitualizao desses estudos (que resumida
na seo a seguir) permita a organizao de estudos
que possam atender s necessidades tanto dos responsveis pelas polticas quanto dos profissionais de
educao.
Como j foi mencionado anteriormente, a importncia dos estudos desenvolvidos pela IEA vai muito alm da pura realizao de comparaes diretas,
sob a forma de tabelas de grupos. As funes, a seguir, ilustram a importncia dos estudos internacionais
de desempenho comparativo (e dos indicadores de
educao).
46
5) Pesquisa nacional
Nvel d o sistem a
m icro
m eso
m acro
47
A escolha da(s) populao(es)-alvo nitidamente um reflexo das questes de interesse (para polticas ou para pesquisa). Por exemplo, como parte do
seu ciclo de coleta de dados de desempenho, a OCDE
dever concentrar-se em dados de jovens de 15-16 anos
de idade, de forma poder fornecer aos responsveis
pela poltica um perfil bsico do desempenho dos alunos no final (ou prximo) do perodo de escola compulsria.
Por outro lado, no estudo TIMSS da IEA, foram coletados dados (entre outros) relativos s 3 e 4
sries (populao 1), s 7 e 8 sries (populao 2) e
no ltimo ano da escola secundria (populao 3), o
que permite uma srie de comparaes. Em primeiro
lugar, pode ser medida a evoluo entre duas sries
adjacentes. Entretanto, incluindo itens comuns nos
testes para as duas populaes, pode ser medida tambm a evoluo em Matemtica e em Cincias, da 4
srie (escola primria) 8 (fase inicial da escola secundria). No TIMSS, podem tambm ser feitas comparaes entre as populaes 2 e 3. Ainda, as populaes-alvo da IEA permitem o acompanhamento da qualidade da educao durante o perodo de escola compulsria.
C urrcu lo
A ting id o
(A lun o)
An te ced entes P ess o ais
C urrcu lo
Im plem en tado
(Sala d e A ula)
Co m u nid ade L ocal
C urrcu lo
Pre tend ido
(Sis tem a )
S oc ie dad e em G eral
48
administrada em forma de "circo", devendo o aluno realizar entre trs e cinco tarefas. Os resultados aparecem em Harmon et al. (1997). A Tabela 2 apresenta
alguns dos resultados das avaliaes de desempenho,
Tabela 2 TIM SS para a 8 Srie: Pontuaes de realizao e desem penho para M atem tica e C incias
M atem tica
Teste de
D esem pen ho
(pontos na esca la)
C in gapura
643
R ep. C heca
564
S ua
545
B aixos
541
E slovnia
541
A ustrlia
530
C ana d
527
S ucia
519
Ze lndia
508
Inglaterra
506
N orue ga
503
EUA
502
E sc cia
498
E span ha
487
R om nia
482
C hipre
474
P ortu gal
454
Ir
428
C olm b ia
385
M dia Int.
513
Cincias
C in gapura
S ua
A ustrlia
R om nia
S ucia
N orue ga
Inglaterra
E slovnia
R ep. C heca
C ana d
N .Zelndia
P.B aixos
E sc cia
Ir
EUA
E span ha
P ortu gal
C hipre
C olm b ia
70
66
66
66
65
65
64
64
62
62
62
62
61
54
54
52
48
44
37
Teste de
desem pen ho
(pontos na esca la)
C in gapura
607
R ep. C heca
574
P.B aixos
560
E slovnia
560
Inglaterra
552
A ustrlia
545
S ucia
535
EUA
534
C ana d
531
N orue ga
527
N .Zelndia
525
S ua
522
E sc cia
517
E span ha
517
R om nia
486
P ortu gal
480
Ir
470
C hipre
463
C olm b ia
411
M dia Int.
59
M dia Int.
Tarefas de de se m pe nho
m dia (% )
516
Tarefas de de se m pe nho
m dia (% )
C in gapura
Inglaterra
S ua
E sc cia
S ucia
A ustrlia
R ep. C heca
C ana d
N orue ga
N .Zelndia
P.B aixos
E slovnia
R om nia
EUA
E span ha
Ir
C hipre
P ortu gal
C olm b ia
72
71
65
64
63
63
60
59
58
58
58
58
57
55
56
50
49
47
42
M dia Int.
58
Alguns outros pases apresentam um dos resultados desviando-se de um padro. Por exemplo, a
Sua apresenta resultados muito bons em tarefas de
desempenho e em desempenho em Matemtica, mas
medianos na rea de Cincias.
Os exemplos apresentados ilustram o fato de
que a anlise dos resultados descritivos, em mltiplas
medidas de avaliao, permite que os pases determinem os aspectos que devero merecer anlises mais
detalhadas ou em maior profundidade e/ou discusses
sobre a nfase e o enfoque do currculo.
c) Dados primrios
Sempre so coletados dados primrios, como
parte dos estudos da IEA (ver Figura 2). So essas as
informaes que permitem a ateno sobre questes
de pesquisa, com relao a que fatores possam estar
contribuindo para a educao de boa qualidade. Um
outro motivo para a coleta de tais dados o fato de que
permite que os pases busquem os fatores
determinantes dos resultados nacionais num contexto
internacional.
49
Um outro exemplo de anlise nacional da Sua relaciona-se a nossa concluso anterior, de que no
TIMSS a Sua est alcanando resultados relativamente bons nas tarefas de desempenho e no desempenho em Matemtica, mas medianos em Cincias.
Ramseier (1997) analisou as possveis causas para
esse fato, concluindo que pode ser explicado atravs
da discrepncia entre o currculo suo em Cincias
(prioridades de ensino) e a parte de Cincias do teste
internacional de desempenho.
A maioria dos estudos internacionais comparativos permite um nmero limitado de questes nacionais ("opo nacional"). O exemplo da Sua ilustra
at que ponto importante que os pases participantes de um estudo comparativo internacional considerem antecipadamente as questes nacionais (polticas
e/ou de pesquisa) que desejam examinar atravs desses estudos; alm disso, que caractersticas peculiares do sistema nacional precisam ser includas nos
questionrios relativos situao primria, para permitir anlises nacionais relevantes.
bservaes finais
50
eferncias bibliogrficas
51
52
O S INDICADORES
DE EDUCAO DA OCDE:
PROPSITOS, LIMITES E
PROCESSO DE PRODUO*
Norberto Bottani**
A metodologia que utiliza indicadores de educao hoje amplamente adotada para a avaliao
dos sistemas nacionais de educao. H possibilidade de gerao de centenas de indicadores, ainda que
no haja sentido em produzir tantos deles. No a
abundncia de informaes e de medidas que produzir um melhor conhecimento. Ainda mais, um conjunto
grande de indicadores muito difcil de ser gerenciado.
Desde 1991, os pases da Organization for Economic
Co-operation and Development (OCDE) vm tentando
gerar um conjunto restrito de indicadores em educao, alm de identificar aqueles que sejam centrais
para o fornecimento de informao essencial sobre os
sistemas de educao. Apesar desses esforos, o
conjunto de indicadores em educao da OCDE no
apresentou grande evoluo. O nmero de indicadores
includos no conjunto permaneceu estvel, em torno
de 50. realmente difcil identificar os critrios para a
seleo de indicadores: essa operao exige uma estrutura conceitual que espelhe os propsitos da avaliao e dos sistemas de educao.
*Ao preparar este trabalho, utilizei partes de vrios documentos internos no publicados da OCDE, produzidos como parte do projeto dessa instituio,
"International Indicators Systems" (INES), que chefiei de 1988 a 1995. Agradeo, especificamente, a Donald Hirsch e a Franois Orivel pelos trabalhos que eles
prepararam para a ltima Assemblia Geral do Projeto do INES, realizada em Lahti (Finlndia), em junho de 1995.
**Norberto Bottani chefiou vrios setores da Organization for Economic Co-operation and Development (OECD), entre os quais o (International Indicators of
Education Systems (INES)/ CERI Project, e, desde 1997, diretor da Unit for Educational Research, do Canto de Genebra (Sua). Foi editor dos relatrios
e livros da OCDE sobre Educao Infantil, Educao Multicultural e Indicadores Educacionais publicados entre 1976 e 1996. Juntamente com I. Delfau, foi o
co-editor do fascculo especial do peridico International Journal of Educational Research, v. 14, n.4, sobre indicadores da qualidade dos sistemas educacionais
numa perspectiva internacional, em 1990.
53
54
quais deveriam desenvolver-se as atividades de obteno de dados e de iniciativas de informao. Como foi
corretamente indicado pelo Sr. Orivel, em sua anlise
dos primeiros trs conjuntos de indicadores em educao da OCDE, os fatores que influem no desempenho dos alunos so extremamente numerosos, e o seu
impacto varia, dependendo da presena ou no de ainda outros fatores. Ainda mais, alguns fatores so
maleveis, ou seja, podem ser modificados atravs da
interveno externa, enquanto que outros no podem
ser mudados, ou a prpria sociedade se recusa a fazlo. Por exemplo, o tamanho das turmas, ou a durao
do perodo de treinamento dos professores podem ser
mudados; as aptides naturais, o ambiente familiar ou
geogrfico, a aceitao dos pares no podem ser modificados. virtualmente impossvel medir todos aqueles fatores que poderiam representar um impacto. Por
esse motivo, apesar da importncia do trabalho de pesquisa em educao, no h consenso sobre que fatores exercem maior influncia sobre o desempenho dos
alunos. So extremamente raros os resultados que
apresentam um alto grau de consistncia. Assim sendo, quando se escolhem indicadores que tenham a
capacidade para rpida e corretamente informar aos
usurios dos sistemas de educao sobre os desempenhos em educao e alert-los quanto ao estado da
educao, preciso fazer algumas opes. Estas opes no so nem simples, nem neutras.
A OCDE utiliza macrodados para a construo de seus indicadores em educao. A natureza dos
dados utilizados ajuda a executar uma primeira seleo entre os distintos fatores a serem mantidos. Ainda
assim, os indicadores agregados da OCDE so, via de
regra, muito gerais para permitirem uma anlise detalhada das relaes entre os recursos investidos e os
resultados obtidos. Entretanto, sua utilidade reside em
outro fato: eles ajudam a levantar certos aspectos relevantes, no nvel macroeconmico. Isso foi demonstrado pelo Sr. Orivel, ao examinar o caso de um dos indicadores compostos mais bem conhecidos, os gastos
em educao comparados ao PIB. Desde 1975, vemse verificando uma certa convergncia entre os responsveis pelas decises, no sentido de destinar, de
forma significativa, mais ou menos uma mdia semelhante do PIB educao em torno de 6%. "A variao desse indicador pouco a pouco foi-se estreitando.
Os pases que destinavam mais do que 6% do PIB
tenderam a estabilizar, ou a reduzir esse valor, enquanto
que aqueles que destinavam menos do que 4% do seu
PIB educao passaram a tratar de chegar ao valor
mdio de 5% ou 5,5%". O Sr. Orivel afirma que "essa
tendncia, em direo a um certo nvel de convergncia, provavelmente no nenhuma coincidncia, ainda
que no haja declaraes explcitas dos responsveis
pelas decises sobre esse ponto. Por outro lado,
sentimo-nos tentados a propor uma hiptese, quanto
falta de critrios formais slidos, sobre os quais as
autoridades pblicas possam estabelecer um nvel es-
gerem como sendo de interesse poderiam ter aparecido em uma lista ecltica. Em vez disso, e como resultado da base mista, alguns dos indicadores terminaram sendo selecionados porque eram de uma natureza ao mesmo tempo lgica e emprica, enquanto outros eram prticos e sensveis a polticas em sua orientao.
Imaginou-se que, ao adotar uma abordagem
combinada, causar-se-ia um equilbrio embutido entre
a estabilidade e a flexibilidade, em um conjunto de indicadores que teria evoludo com o tempo. A referncia
a um modelo conceitual para o desenho de um conjunto de indicadores teria muito provavelmente criado um
produto relativamente rgido, que arriscaria uma falta
de sintonia com as preocupaes da atualidade. Ainda, muito tempo seria dedicado para chegar a um consenso sobre o modelo, sem que fosse gerada qualquer
informao de utilidade, e sem aprimoramento na estratgia de coleta de dados. Uma abordagem ligada a
questes polticas muito provavelmente teria tido conseqncias semelhantes, do ponto de vista operacional
( preciso lembrar que havia amplo consenso sobre a
falta de validade dos dados obtidos at ali), e teria originado conjuntos de indicadores muito volteis, medida que fossem evoluindo as prioridades.
As reas includas no conjunto de indicadores
englobam informaes importantes, que podem ser
exibidas sobre os sistemas educacionais das naes:
as condies de seus desempenhos, suas caractersticas e aspectos, alm das condies sob as quais
operam. Em relao aos propsitos analticos, essa
estrutura representa a educao como sendo um processo de vrios componentes. importante observar
que muitos dos elementos educacionais da estrutura
interagem de uma forma bastante complexa. Em termos estatsticos, a estrutura de organizao no pretende ser um simples modelo de regresso. Muitos de
seus elementos so paralelos uns aos outros,
recursivos, e operam em vrios nveis: no nvel do pas
como um todo, no nvel da escola, e no nvel das unidades de organizao no meio dos dois.
Na estrutura, as condies demogrficas e
econmicas so vistas como fatores de fundo, que
determinam o trabalho a ser desempenhado pelas escolas, e que estabelecem os recursos disponveis para
o financiamento dos programas escolares. Os sistemas mais ricos conseguem apoiar programas mais
elaborados. Ao mesmo tempo, nveis inferiores de educao no passado, ou nveis mais altos de pobreza
hoje, fazem parte da tarefa de oferecer educao de
qualidade em muitos pases.
Os programas e os processos educacionais
so vistos como as variveis de entrada, que determinam o sucesso do programa escolar. Representam as
caractersticas com base nas quais podem variar os
programas de educao em vrios pases, e que podem explicar, ou pelo menos serem associados aos
resultados da educao.
55
Analisando o conjunto de indicadores at agora publicado, parece que a rea contexto da educao
a que mais mudou ao longo das quatro edies de
Education at glace. Houve uma expanso de cinco para
13 indicadores, e uma reduo para quatro na edio
de 1996, a modificao de maior significado foi a introduo na terceira edio dos resultados de uma pesquisa comum de opinio e expectativas pblicas relativas aos sistemas nacionais de educao (OCDE,
1995b; INES, 1995). De qualquer forma, preciso lembrar que os indicadores referentes a atitudes e a expectativas no devero ser gerados todos os anos, uma
vez que a OCDE no dispe dos recursos para a
implementao de uma pesquisa anual de opinio.
Assim, pode-se esperar uma grande variabilidade nos
indicadores referentes a essa rea para os prximos
anos.
Nas primeiras edies do conjunto de indicadores da OCDE, existem dois subgrupos comuns de
indicadores na rea em questo, ou seja, indicadores
demogrficos e indicadores econmicos. Essas duas
sees so bastante pobres: fornecem apenas informao de carter muito geral, em sua maior parte
dirigida ao desempenho da populao em termos de
educao, diferenas relacionadas a gnero, educao e participao na fora de trabalho e renda nacional per capita. Esses dados demonstram a proporo
da riqueza do pas devotada educao, e possibilita
um primeiro e interessante quadro sobre a relao entre a classificao pelo investimento total em educao e a classificao pelo PIB per capita. Alguns pases, como a Finlndia e o Canad, gastam consideravelmente mais do que pases que tm um PIB mais
alto per capita, como o caso dos Estados Unidos.
Em particular, interessante observar que alguns dos
56
pases menos ricos, como a Irlanda e a Espanha, gastam uma porcentagem maior do seu PIB per capita
para alcanar o mesmo nvel de investimento em educao do que alguns dos pases mais prsperos, como
a Holanda, o Japo, a Alemanha e a Frana. Se considerarmos que esses pases precisam tambm investir
uma porcentagem maior em outras reas bsicas, e
que os pases menos prsperos precisam educar o
maior nmero de alunos, uma vez que o tamanho da
populao jovem nesses pases maior do que em
outros lugares (por exemplo, a populao entre 5 e 29
anos de idade representa a metade da populao da
Turquia, e menos de um tero da populao da Alemanha), temos aqui uma primeira e interessante base de
referncia para a avaliao das polticas de educao.
Os indicadores referentes ao contexto de educao produzidos pela OCDE jamais incluram qualquer indicador sobre a produtividade dos pases, sendo a produtividade definida como o produto interno bruto por indivduo empregado. Em outras palavras, a produtividade uma medida da capacidade produtiva mdia dos empregados de um pas. Os pases com nveis
mais elevados de produtividade tm maior capacidade
econmica, a partir da qual podem investir em infraestrutura socioeconmica, aprimorar a educao, e
elevar o padro de vida de seus cidados. Entre 1961 e
1991, os Estados Unidos experimentaram o mais baixo aumento anual mdio em produtividade entre os
pases do G-7 (1,05%). O Japo alcanou os mais altos ganhos em produtividade entre os pases remanescentes, com um aumento anual mdio de 4,8% (NCES,
1996).
O problema mais frgil e no resolvido nesta
seo a falta de dados nas reas de sade, habitao e estatsticas culturais e sociais. Esse tipo de informao crucial para que seja possvel uma melhor
viso do contexto educacional e das condies de funcionamento dos sistemas de educao.
A rea de custos, recursos e processos escolares a mais estvel e a mais desenvolvida. O nmero de indicadores aqui varia de 21 a 26, que foi o mximo alcanado em 1995, quando a OCDE calculou dois
indicadores em pesquisa e desenvolvimento, que desapareceram na edio de 1996, alm de vrios indicadores referentes a recursos humanos, que desapareceram na edio sucessiva.
A fortssima seo financeira foi reorganizada
de modo substancial entre 1992 e 1996. Graas ao
trabalho desenvolvido para aprimorar, em termos de
comparabilidade, a qualidade das definies e a medio de recursos financeiros, foram reconsideradas as
categorias de despesas. Foi feita uma distino clara
entre despesas ou custos de educao e fontes de
recursos para a educao. A implementao de novos
questionrios para a obteno de dados de natureza
financeira, com as suas respectivas definies e instrues, permitiu a determinao de categorias expl-
57
58
processo de produo
59
transnacional da educao, que invariavelmente demonstra a homogeneidade do desenvolvimento da educao e o peso relativo dos contextos nacional e local.
Este processo pode ser imaginado apenas com base
na confiana forte e mtua entre os fornecedores, geradores e analistas dos dados.
A natureza do trabalho, que implica o intercmbio de informao e de comunicao: ao coletar
os dados, a OCDE manipula informaes estatsticas,
informaes que envolvem milhares de indivduos, suas
ocupaes, suas instituies, sua renda, etc. No
possvel fazer desenvolver esse tipo de trabalho sem
uma forte legitimidade, que pode to-somente ser derivada de uma preocupao comum e de uma concordncia sobre as regras do respeito confidencialidade
e privacidade.
As implicaes polticas do trabalho: a gerao de um conjunto internacional de indicadores em
educao no significa pura e simplesmente trabalho
estatstico, ou trabalho de pesquisa, mas essencialmente uma tarefa poltica, que diz respeito no a um
nmero limitado de especialistas, mas a um grande
nmero de decisores e usurios. Por isso, o programa
estatstico internacional em educao no pode ser
gerenciado por um nmero restrito de profissionais em
estatstica. As decises fundamentais sobre o programa de coleta, processamento e publicao de dados
devem ser tomadas de forma coletiva, por todas as
categorias de atores envolvidos com a implementao
de uma estratgia democrtica de informao em educao.
Esses quatro motivos constituem o raciocnio
para a implementao de formas novas de cooperao
no domnio da estatstica e dos indicadores em educao. Para alcanar essa meta, a OCDE implementou
um sistema em rede. Considerando a utilidade da rede
para a operacionalizao da confiana mtua e para a
gerao de um consenso entre os distintos atores, os
pases-membros da OCDE concordaram j em 1988
em implementar um novo processo de trabalho, baseado na Rede.
Uma rede, no caso do projeto do INES, uma
estrutura flexvel e relativamente informal, que recruta
os seus membros em carter voluntrio, sem elos rgidos demais com as estruturas de poder e de decises.
Foram criadas redes para o desenvolvimento e preparao de aglomerados de indicadores identificados como
sendo relevantes pelos pases-membros. Um pas lder assume a responsabilidade pela organizao da
atividade. A abordagem em rede provou ser extremamente eficaz, representando uma forma poderosa de
mobilizar especialistas, e para gerar indicadores em
reas escassamente exploradas pelos estatsticos de
educao, como o desempenho dos alunos, rumos no
mercado de trabalho de acordo com o nvel de educao, qualificao dos profissionais de educao, expectativas da opinio pblica em relao educao,
e os centros de tomada de decises nos vrios nveis.
60
A idia de criao de uma rede ficou recentemente em moda na vida profissional dos setores tanto
pblico quanto privado. Entretanto, caso os objetivos
da rede sejam mal definidos, podero carecer de direo, de comprometimento da parte de seus membros
e de impacto. No caso das redes do INES, em contraste, foi estabelecido o objetivo tangvel de produzir
indicadores utilizveis em suas respectivas reas. Ainda
que esse objetivo tenha sido por vezes pouco claro,
foram desenvolvidos mtodos firmes de trabalho, na
tentativa de se chegar a eles.
O processo de criao da Rede do INES vale
a pena ser examinado, como sendo uma metodologia
inovadora, que alcanou uma srie de pontos que dificilmente seriam alcanados atravs de outros mtodos. Vrios aspectos distintivos merecem ser considerados, com respeito a evolues futuras tanto no nvel nacional quanto internacional:
O uso da rede para o desenvolvimento de definies padronizadas para a comparao entre dados obtidos nacionalmente. As redes
conseguiram chegar a solues para problemas h muito existentes com respeito
comparabilidade, como, por exemplo, nas
reas de gastos em educao e proporo
entre professores e alunos.
O uso da rede para a identificao de reas
estratgicas em que sejam necessrios novos dados. Ainda que se tenha levado mais
tempo para dominar essa atividade, a rede
gerou instrumentos internacionais para a coleta de dados, cuja relevncia acordada entre os pases participantes refletida no seu
comprometimento em coletar as informaes
necessrias.
O gerenciamento de um grande nmero de
participantes no processo de desenvolvimento. O alto nvel de envolvimento parcialmente sustentado pela natureza semi-autnoma
da rede, e pelo dilogo que gera entre os seus
membros, independentemente da Secretaria
internacional. A rede mostra-se eficaz no
apenas em termos da produo de indicadores, mas tambm em termos de entendimento
internacional entre os participantes.
O mecanismo da "criao das redes", que
envolveu no apenas reunies regulares de
trabalho, mas tambm um feedback constante entre os participantes da rede e entre a
prpria rede e a Secretaria internacional.
As redes so parecidas com clubes. Um grupo de indivduos que se encontre com regularidade, e
que adquira um senso de "identidade de grupo" faz
com que seja mais fcil trabalharem juntos do que com
estranhos. Com isso, tornam-se mais eficazes, ainda
que, potencialmente possam ser levados a tomar decises de interesse do clube, prestando ateno insuficiente aos interesses e prioridades mais amplos.
61
oncluso
eferncias bibliogrficas
62
ANEXO S
R ede 1
Fluxos de a lunos
(A US )
R ede 2
R esultados de
aluno s (EU A )
REDES INES
1 Fase (1988-1989)
R ede 3
R ede 4
E co logia de
Financiam e nto de
escolas
educao
(FR )
(O S T)
R ede 5
A titudes
e exp ectativas
(N ET )
2 Fase (1989-1991)
TG 1 M atrculas (Secr. O C DE )
R ede A
R ede B
R esultados alcanados D estino no m ercado de
pelos alunos
trab alho
(E U A )
(S UE )
3 Fase (1992-1996)
TG
(S ecr. O C D E )
C oordenadores N acionais
R ede A
R ede B
R esultados
D estino no
A lcanados pelos
M ercado de
A lunos
Trabalho
(E UA )
(S U E )
R ede C
P rocessos
E scola res
(N ET )
R ede D
A titudes e
E xp ectativas
(R U )
Estrutura conceitual
R ecurso s e p rocessos
educacionais
R esultados educacionais
Resultados Educacionais
l Resultados alcanados pelo alunos
l Resultados em disciplinas especficas
l Alfabetizao adulta
l Desenvolvimento pessoal
l Resultados alcanados pelo sistema
l Alunos formados em cada nvel de
educao
l Resultados alcanados no mercado de
trabalho
l Desemprego e educao
l Educao e renda
l Situao aps a concluso do
processo educativo
l Satisfao dos alunos com as escolas
Ciclo de Feedback
63
Recursividade
O 4 CONJUNTO DE INDICADORES
EDUCACIONAIS DA OCDE (1966)
Captulo 1: Contexto demogrfico, social e econmico
da educao
l C1: Resultados educacionais alcanados pela
populao adulta
l C2: Diferenas de gnero nos resultados alcanados pela populao adulta
l C3: As dimenses relativas da populao jovem
l C11: Taxas de participao da fora de trabalho por nvel de resultados educacionais
alcanados
Captulo 2: Custos da educao e recursos humanos
e financeiros
l F1:
Despesas educacionais em relao ao
Produto Interno Bruto
l F3:
Despesas em servios educacionais por
aluno
l F3-R: Disparidades inter-regionais em despesas em servios educacionais por aluno
l F5:
Despesas educacionais por categoria de
recursos
l F12: Recursos pblicos por nvel de governo
l F13: Proporo de despesas pblicas em educao
l P31: Funcionrios empregados na educao
l P32: Proporo de alunos em relao ao corpo docente
l
l
P33:
P35:
P22(A):
l
l
l
P22(B):
P22(C):
P22(D):
P22(F):
P22(G):
Tempo de ensino
Salrios determinados por lei para
professores das escolas primrias
pblicas e das primeiras sries das
escolas secundrias pblicas
Estabilidade do corpo docente no nvel primrio
Liderana escolar no nvel primrio
Cooperao com a equipe de apoio
Monitoramento e avaliao no nvel
primrio
Orientao de resultados alcanados
no nvel primrio
Envolvimento dos pais nas escolas no
nvel primrio
64
A VALIAO DE
ALUNOS E APRENDIZAGEM PARA
UMA SOCIEDADE EM MUDANA
Caroline Gipps*
esumo
ntroduo
*Caroline Gipps foi professora de Educao e decano de Pesquisa, do Instituto de Educao, da University of London, antes de iniciar sua carreira na rea de
pesquisa. Sua pesquisa atual na rea de Estratgias de Ensino, Avaliao e Retroalimentao dos Professores de 2 a 6 sries. Publicou vrios trabalhos
sobre polticas e prticas na avaliao, e foi presidente da British Educational Research Association (BERA), em 1993. Seu livro A Fair Test? Assessment,
Achievement and Equity (Um Teste Justo? Avaliao, Realizao e Igualdade), escrito em conjunto com Patricia Murphy, recebeu o prmio da SCSE de melhor
livro de Educao publicado em 1994. A terceira edio de Assessment: a Teacher's Guide to the Issues, escrito com Gordon Stobart, acaba de sair.
65
valiao e aprendizagem
66
unes da avaliao
situao de prova. Os alunos tornaram-se bastante eficientes nessa forma de memorizao, mas os fatos
aprendidos dessa maneira podem ser rapidamente
perdidos/esquecidos. A informao que deve ser retida
precisa ou ser entendida "interagir com" e ser associada a mapas conceituais no crebro ou ser usada
repetidamente aps ser aprendida. A aprendizagem
superficial permitir que os alunos manipulem frmulas ou que trabalhem atravs de exerccios detalhados, ainda que no compreendam os princpios fundamentais. Isso quer dizer que os alunos tero dificuldades em usar esses fatos/conceitos em circunstncias
67
Os testes de mltipla escolha, ou de respostas curtas, so uma forma rpida e eficiente de testar a lembrana de fatos simples, como, por exemplo, identidades numricas, vocabulrio de uma lngua estrangeira, e habilidades bsicas, como multiplicao e ortografia. A menos que os itens
sejam elaborados com cuidado, sero menos eficazes na avaliao do entendimento
de conceitos e princpios.
Respostas dissertativas, tarefas prticas e
projetos, quer sejam parte de uma prova ou
de um exame com hora marcada ou parte
do prprio trabalho do curso, ou ainda,parte
da avaliao de sala de aula de todos os
dias, so mais capazes de avaliar o entendimento e de estimular um nvel mais profundo de aprendizagem. O que mais importante, se o objetivo a avaliao do entendimento, so os mtodos que envolvam
o aprendiz na aplicao do seu conhecimento e na ligao deste com contextos
reais. A avaliao no pode ocorrer testando a lembrana de peas isoladas e
68
No caso da avaliao com objetivos de seleo e de certificao, improvvel que seja reduzida a
sua grande importncia, e por esse motivo so particularmente cruciais o estilo e o contedo das tarefas de
avaliao: precisamos projetar uma avaliao de responsabilidade que gere informao de boa qualidade
sobre o desempenho dos alunos, sem distorcer a boa
prtica de ensino. Alm disso, precisamos lembrar aos
responsveis pelo estabelecimento das polticas a sua
responsabilidade pela avaliao das conseqncias
educacionais e sociais da utilizao de testes em todos os nveis.
Existem alguns aspectos j conhecidos sobre a avaliao que devero ajudar-nos a orientar a prpria avaliao em um futuro previsvel. Mas, o que dizer
da avaliao para o futuro que no podemos prever?
No ser possvel descrever a avaliao para
o milnio, seno quando conseguirmos descrever a
prpria educao para esse mesmo perodo. Estamos
apenas comeando a ter uma viso da educao, no
mundo ps-moderno. Todos concordam que a
globalizao econmica, a viso da cultura como
commodity, e a compresso do tempo e do espao,
que acompanham a revoluo da informao, dever
implicar transformaes radicais na educao (Kenway,
1992; Green, 1994), mas h menos unanimidade sobre o que tudo isso poderia significar, por exemplo, em
termos de currculos. imperioso considerarmos a
natureza da educao para o milnio, em relao
revoluo do conhecimento e da informao: o conhecimento um dos fatores mais importantes de
competitividade, no futuro de qualquer sociedade. Vivemos em um mundo de informaes instantneas, e
de 24 horas de continuidade (Dalin, Rust, 1996, p. 33),
ou ainda, podemos considerar que a informao estar a apenas seis segundos de distncia.
Isso quer dizer que:
l os alunos ver-se-o bombardeados com informao, e os professores precisaro
ajud-los a organizar, conceitualizar e selecionar, em meio a essa impressionante
oferta;
l aprender a aprender tornar-se- uma meta
fundamental do currculo;
l a noo do livro-texto ter que ser reconsiderada (...dando "aos alunos conhecimento e vises gerais bsicas, e auxiliando-os
na explorao das muitas facetas de um
campo" ) (Dalin, Rust, 1996, p. 146);
l a sala de aula do futuro dever extrapolar
as suas quatro paredes, medida que os
alunos sarem, para ter acesso informao e experincia, enquanto que a informao do mundo exterior ser trazida para
a sala de aula;
l a mudana de papel do professor ser inevitvel, devido a outras mudanas. Diferentes estruturas organizacionais, com a for-
mao de grupos maiores para determinados objetivos, acompanhadas pelo emprego de assistentes de ensino, alunos trabalhando juntos e usando sistemas de recuperao de informaes em rede e atravs
de computadores, tudo parece provvel.
O grande educador Jerome Bruner (1996, p.
20), escrevendo sobre o futuro, argumenta que ns precisamos passar de uma concepo empobrecida do
ensino, "... em que um professor nico, presumivelmente onisciente, explicitamente diz ou mostra a
aprendizes presumivelmente ignorantes alguma coisa
sobre a qual eles supostamente nada sabem". Em vez
disso, Bruner fala do desenvolvimento de uma sala de
aula como uma comunidade "de aprendizes mtuos,
com o professor orquestrando as atividades. Observase que, ao contrrio do que preconiza a crtica tradicional, essas subcomunidades no reduzem o papel do
professor, ou a sua 'autoridade'. Na verdade, o professor assume a funo adicional de estimular outros a
compartilh-la. Da mesma forma que o narrador onisciente desapareceu da fico moderna, o professor
onisciente dever desaparecer tambm da sala de aula
do futuro " (p. 21-22, grifos da autora).
Como ser ento que deveremos conceber a
avaliao, na sala de aula do futuro? No esperamos,
com as crianas sentadas em frente a fileiras de computadores, preenchendo sries interminveis de folhas
de trabalhos. A m prtica pedaggica no ir transformar-se em boa prtica pedaggica simplesmente se
for traduzida de lpis e papel para disco e tela. Nem
pela adoo de testes de mltipla escolha, corrigidos
por uma mquina. O processo rpido e eficiente, mas
significa que, com certeza, os alunos no precisam ter
a capacidade para escrever nada. No posso evitar de
pensar que, no prximo milnio, vamos ainda desejar
que os nossos jovens saibam ler e escrever, ainda que
seja atravs de um teclado.
Vrias questes continuam a aparecer, nas
discusses sobre o futuro: a nfase do local, em vez
do global (Kenway, 1992; Harrison, Bailey, Dewar,
1996), do subjetivo, em vez do objetivo (Lincoln, 1992),
a aceitao como vlidas de toda uma variedade de
metodologias (Lather, 1992; Griffiths, 1992), e a funo
desempenhada pela tecnologia.
Como relacionar essas questes avaliao?
1. o local, em vez do global: preciso sublinhar o papel do professor, de forma que a
avaliao possa ser fundamentada em um
contexto "local", apoiando o profissionalismo do professor, e a flexibilidade da
abordagem (mantendo ao mesmo tempo o
rigor, subordinando-a a padres nacionais
e sujeitando-a a moderao externa).
2. o subjetivo em vez do objetivo: na minha
viso, isso quer dizer colocar o aprendiz no
69
Agora, gostaria de ilustrar o impacto de diferentes tipos de programas de avaliao sobre o ensino. Na Inglaterra e no Pas de Gales, feita a avaliao de todas as crianas entre 7 e 11 anos de idade,
nas escolas primrias. Os alunos so avaliados atravs de testes padronizados e das avaliaes dos prprios professores, nas reas de Leitura e Escrita, Matemtica e Cincias. Esse programa de avaliao existe
desde 1991, e tivemos a felicidade de ter podido realizar uma avaliao dele durante seis anos, focalizando
em primeiro lugar o programa de avaliao para crianas de sete anos de idade (na 2 srie, final do Estgio
Principal 1), e para crianas de 11 anos de idade (na 6
srie, final do Estgio Principal 2).
70
projeto de pesquisa
oncluses
71
72
Considerando o modelo "o professor transmite informao s crianas, e assim que acontece o aprendizado" acho que foi assim que
praticamente me senti pressionado a agir, devido ao peso do currculo.
(...)
"o professor transmitindo informao para as
crianas" acho que este tornou-se muito mais
enfatizado com o Currculo Nacional, simplesmente por causa do volume de contedo que
temos que ensinar.
(...)
O que eu acho, e o que o governo acha so
duas coisas completamente diferentes. Se eu
penso em como estava ensinando h cinco
anos atrs, e como estou ensinando agora.
Sempre houve participao minha, mas provavelmente cada vez mais hoje, porque h tanta
coisa a ser coberta.
eferncias bibliogrficas
73
74
A BORDAGENS DE
VALOR AGREGADO PARA A
AUTO-AVALIAO ESCOLAR
NO REINO UNIDO
Sally Thomas*
ntroduo
*Sally Mary Thomas, doutora em Psicologia, conferencista e pesquisadora snior do Instituto de Educao, da University of London. Participou da pesquisa
do ESRC: Optimal multilevel models of school effectiveness. membro do International School Effectiveness and Improvement Center e do conselho editorial
do British Educational Research Journal.
75
76
40
P on tua o To tal do G C S E
35
Va lor A g regad o P o sitivo
30
25
20
15
10
85
90
95
100
105
110
115
interpretao dos dados comparativos. Essencialmente, os intervalos de confiana refletem a falta de preciso inerente nos clculos de quaisquer medidas numricas, como o caso do valor agregado, at mesmo
os das pontuaes brutas. Alm disso, ao estabelecermos comparaes entre escolas, o tamanho apropriado do intervalo de confiana muda de acordo com o
nmero de escolas que estiverem sendo comparadas
(Goldstein, Healy, 1995).
77
78
-15
-10
-5
10
15
Pontuao GCSE
Valor
Agregado
Pontuao
GCSEdede
Valor
Agregado
Identidade
da Escola
Identidade
da Escola
Um aspecto importante que o governo aceitou atualmente a importncia das medidas de valor agregado, e a School Curriculum and Assessment Authority
(SCAA) publicou as recomendaes transitrias para
uma estrutura nacional de valor agregado (SCAA, 1994;
Fitz-Gibbon, 1995). Entretanto, a principal dificuldade
envolvida na introduo de uma estrutura nacional de
valor agregado est na falta de avaliaes padronizadas confiveis para a medio do desempenho dos alunos antes de sua admisso na escola. No existem
avaliaes nacionais dos alunos admitidos escola
primria, e as avaliaes nacionais de currculos para
os Estgios Principais de 1 a 3 podero no estabelecer um nvel suficiente de diferenas entre os alunos,
ou podero no ser suficientemente confiveis para a
finalidade de medio do valor agregado. So necessrias medidas confiveis e sutilmente diferenciadas,
para que seja possvel descrever com preciso o ponto
de partida dos alunos. Por outro lado, caso a inteno
seja implementar qualquer modificao nas avaliaes
nacionais de currculos, precisaro ser mantidos os
benefcios das avaliaes de professores e de tarefas
padronizadas em relao qualidade do ensino e da
aprendizagem, havendo ao mesmo tempo a
complementao atravs de outras avaliaes, que
possam ser empregadas para medir o valor agregado.
Os novos avanos de hoje incluem o requisito de as
Local Education Authorities (LEAs) implementarem um
sistema reconhecido de testes bsicos para crianas
de 5 anos de idade (SCAA, 1996). Algumas LEAs,
como as de Surrey e de Hampshire, j empregaram
avaliaes bsicas para medir a eficcia das escolas
nos perodos pr-escolares (Sammons, Smees, 1997).
O desenvolvimento de medidas de valor agregado como indicadores da eficcia escolar foi gerado a
partir de uma variedade de fontes:
l
79
Thomas e Mortimore (1996) compararam cinco modelos alternativos para a determinao da melhor abordagem de valor agregado. O melhor modelo
inclua o controle relativo a toda uma variedade de fatores relativos a cada um dos corpos discentes no clculo das medidas de valor agregado:
desempenhos anteriores dos alunos em testes de habilidades cognitivas verbais, quantitativas e no verbais;
gnero;
idade;
etnicidade;
mobilidade;
elegibilidade para refeies escolares gratuitas.
Entretanto, como j foi observado anteriormente, o nvel de desempenho que um determinado aluno
possui quando admitido a uma escola o componente principal nas anlises vlidas de valor agregado.
O processo de calcular o efeito que uma escola possa exercer sobre o progresso de um determinado aluno bastante difcil. Quanto mais informao
for possvel obter sobre cada aluno, cada subgrupo de
alunos e sobre todos os alunos de uma escola, bem
como de todas as escolas pertencentes a uma LEA,
mais confivel e mais informativa dever provavelmente
ser qualquer anlise subseqente. A anlise de regres-
80
Os primeiros resultados indicam um impacto duradouro da efetividade da escola primria sobre o progresso
dos alunos durante a escola secundria. Em outras
palavras, os alunos de escolas primrias em que o
ensino e a aprendizagem eram eficazes parecem continuar a apresentar um progresso melhor na escola
secundria do que aqueles oriundos de escolas primrias menos eficazes. Conseqentemente, os novos
avanos na metodologia de clculo das medidas de
valor agregado podero ter que considerar explicitamente as escolas anteriores freqentadas pelos alunos.
A evidncia no perodo dos trs anos (19901992) demonstrou que os efeitos das escolas sobre a
pontuao total no GCSE foram mais estveis (com
as correlaes de ano para ano variando de 0,82 a 0,85
a relao perfeita sendo expressa em termos de 1)
do que no caso das matrias especficas. A, os resultados referentes a Francs revelaram-se os menos estveis, enquanto que os de Histria, os mais estveis
para o perodo dos trs anos. Essas correlaes so
ligeiramente mais baixas do que as do estudo semelhante, realizado por Gray e colaboradores, examinando a pontuao total do GCSE apenas (Gray et al.,
1995; 1996), ainda que isto possa ser explicado pela
influncia especial da mobilidade de professores e de
alunos nas escolas da cidade.
Apesar das evidncias de uma grande estabilidade em algumas reas, as correlaes indicam que
existe ao mesmo tempo um grau substancial de mudana ao longo do tempo no que tange aos resultados
nas vrias matrias, sublinhando a necessidade de
exame dos resultados de mais de um dos anos, bem
como das tendncias expressas nos resultados durante um perodo mnimo de trs anos. importante
enfatizar que a melhoria "real" (ou piora) no desempenho seja resultado, talvez, de mudanas nas prticas
ou polticas de educao somente poder ser
identificada atravs do estudo das mudanas de longo
prazo nos resultados, ao longo do tempo (idem).
As estatsticas gerais do desempenho dos alunos no podem gerar uma representao precisa da
efetividade de uma escola em elevar e em manter o
desempenho de todos os seus alunos, ou da capacidade que tem de sustentar os seus padres atravs do
tempo. A disponibilidade e a anlise de dados referentes a cada aluno so essenciais para o exame dos
vrios aspectos da eficcia da escola. Algumas escolas, que podem parecer eficazes, em termos da medida geral de valor agregado, podero no mostrar-se
to eficazes em termos de cada um dos departamentos, ou para os distintos grupos de alunos, ou ainda
atravs dos diferentes perodos de tempo.
Como exemplo, utilizaremos os resultados de
um estudo realizado com 94 escolas secundrias da
cidade de Londres (Thomas et al., 1997a, 1997b). Este
projeto focalizou trs aspectos do desempenho no
GCSE das escolas:
81
82
83
P ontuaes de valor
agreg ado
do G C S E - 199 4
P ontuaes de valor
agreg ado
do G C S E - 199 5
P ontuaes de valor
agreg ado
do G C S E 1 997/1998
Ingls
Ingls (por
faixas d e 1 a 3)
Ingls (por
faixas d e 1 a 3)
Ingls (por
faixas d e 1 a 3)
3 anos de Ing ls (p or
faixas d e 1 a 3)
C i ncias (po r
faixas d e 1 a 3)
C i ncias (po r
faixas d e 1 a 3)
3 anos de C incias
(por faixas de 1 a 3)
M ate m tica
M ate m tica (por
faixas d e 1 a 3)
C i ncias (po r
faixas d e 1 a 3)
Escalas de
co m po rtam ento
do s alu nos
E ngajam ento
com a escola
A uto-efic cia
C om portam en to
A poio de P rofesso res
Notas:
GCSE (General Certificate of Secondary Education) - exame realizado aos 16 anos.
Faixas de 1 a 3 = As pontuaes de valor agregado so calculadas em separado,
para os alunos classificados em trs grupos (os aproximadamente 25% superiores
- 1; os 50% mdios - 2; os 25% inferiores - 3), em termos de desempenho anterior
(aos 11 anos de idade) nos Testes de Habilidades Cognitivas do NFER.
3 anos = pontuao de valor agregado, calculada utilizando-se trs turmas do
GCSE, incluindo a turma atual do GCSE (por exemplo, 1996), e duas turmas
anteriores (por exemplo, 1994 e 1995).
84
M elho re s 5 (por
faixas d e 1 a 3)
M elho re s 5 durante
3 anos (por
faixas d e 1 a 3)
Pontuao Desvio
Padro*
Mdia*
Escala 1: Engajam ento com a escola
Item 1: E u sem p re gosto da escola [0 ,17].
Item 3: S em pre me dou be m com os professores [0,27].
Item 5: O s professores so sem pre justos [0,33].
Item 6: O trabalh o escolar sem pre interessante [0,19].
Item 31: O s professores s o qu ase se mpre sim pticos co m os aluno s [0,20].
2,85
0,08
3,28
0,07
Escala 3: Auto-eficcia
Item 26: M eu tra balho de aula m uito bom [0,51].
Item 28: Acho que sou m uito inteligente [0,17].
Item 29: Tod os os m eus p rofessores acham bom o m eu trab alho em sa la de aula [0,37 ].
2,93
0,08
3,25
0,10
2,87
0,12
Notas:
*Em todas as escolas.
- Os pesos do LISREL aparecem entre colchetes.
- LISREL (Linear Structural Equation Model for Latent Variables) (Joreskog,
K.G., Sorbom, D., 1989).
- Variao da Escala: 1 (=categoria da resposta mais negativa) a 4 (=categoria da resposta mais positiva, que aparece na tabela).
85
mas quanto ao GCSE. Alm disso, as escolas da Irlanda do Norte envolvidas pela DENI originalmente,
Raising School Standards Initiative (RSSI) tm a inteno de empregar as medidas de valor agregado, bem
como outros tipos de evidncia, para avaliar o impacto
de determinadas estratgias de aprimoramento
(Thomas, 1996).
As evolues futuras na pesquisa de valor agregado provavelmente devero basear-se nas concluses
atuais, que investigam as relaes entre as medidas
de desempenho escolar e as condies que parecem
aumentar ou dificultar a eficcia da escola nos diferentes tipos de contextos escolares. Esta abordagem exige
o uso de dados tanto qualitativos quanto quantitativos.
Por exemplo, a pesquisa realizada por Sammons e
colaboradores (Sammons et al., 1997) empregou a
metodologia de valor agregado para avaliar o desempenho da escola, mas combinando-a a informaes geradas por entrevistas e por questionrios, para investigao dos fatores e dos processos relacionados a uma
maior eficcia dos departamentos ou da escola.
Por outro lado, preciso dedicar mais ateno questo crucial de quais iniciativas ou estratgias para o aprimoramento escolar representam alavancas bem-sucedidas para o melhor desempenho escolar ao longo do tempo. Um aspecto especfico relaciona-se variedade de estratgias que podero ter sucesso nos vrios tipos de contextos, como o caso
das reas de alta ou baixa desvantagem
socioeconmica. O Improving School Effectiveness
Project (MacBeath, Mortimore, 1994) est no momento examinando esses aspectos, e as concluses do
projeto devero gerar informaes importantes com
relao implementao e ao impacto de determinadas estratgias para melhorar a escola.
alm de resultados acadmicos. Mesmo assim, o principal indicador de desempenho das escolas continua
a ser o seu sucesso em garantir que o mximo nmero possvel de alunos alcance o seu potencial acadmico pleno.
Portanto, o monitoramento das variaes internas de desempenho em um ano e ao longo dos anos
dever ser estimulado, para facilitar uma anlise dos
padres para os diferentes grupos de alunos e aos nveis dos departamentos, das matrias e das salas de
aula, bem como no nvel geral, para que se possa observar como esses padres podem mudar com o passar do tempo. Os resultados de pesquisas em que as
escolas so agrupadas em categorias de efetividade
rigidamente definidas demonstram que so poucas as
escolas que apresentam um desempenho tanto consistente atravs das vrias matrias quanto com estabilidade atravs do tempo (Thomas et al., 1997). Essas concluses tm importncia tanto prtica quanto
terica. O desempenho da escola que varia muito atravs do tempo, ou entre os departamentos nas escolas
secundrias, tem implicaes para as polticas escolares integrais, e poder representar evidncia importante do impacto das iniciativas de aprimoramento escolar. O desempenho escolar que varia muito para os
distintos grupos de alunos (como meninos e meninas)
tem implicaes para as questes de oportunidades
iguais e direitos dos alunos. De modo semelhante, as
diferenas significativas entre as diferentes matrias
no nvel primrio (Sammons, Smees, 1997) tm implicaes importantes para a efetividade dos professores
atravs de todas as matrias constantes do currculo
nacional.
oncluses
eferncias bibliogrficas
Este estudo focalizou, principalmente, o desempenho das escolas, em termos dos resultados dos
exames e dos testes. Isoladamente, esses resultados
so insuficientes para julgamentos adequados sobre o
desempenho escolar. Outros resultados relativos aos
alunos, como freqncia, capacidade para aprendizagem independente, atitudes em relao escola e
aprendizagem, comportamento e autoconceito so tambm importantes. A pesquisa na rea de efetividade da
escola visa examinar toda uma variedade de resultados educacionais, e o Junior School Project (Mortimore
et al., 1988), o Lancashire Project (Thomas, Mortimore,
1996) e o Improving School Effectiveness Project na
Esccia (MacBeath, Mortimore, 1994) so exemplos
dessa abordagem, que envolve a obteno de dados
referentes a atitudes de alunos, pais e professores,
86
HILL, N. Value added analysis : current practice in local educational authorities. Slough : National
Foundation for Educational Research in England and
Wales, Education Management Information
Exchange, 1994.
87
88
A VALIAO POR
DILOGOS: UMA CONTRIBUIO
POSSVEL PARA O
APRIMORAMENTO ESCOLAR
David Nevo*
Extensas reformas ou inovaes educacionais,
at mesmo aquelas que defendem abordagens de baixo para cima, foram, em geral, iniciadas nos nveis estadual ou nacional, como iniciativa de partidos polticos, rgos nacionais de educao, pesquisadores ou
estudiosos do mundo acadmico. Entretanto, os resultados dessas iniciativas ainda no foram vistos no
nvel da escola. Observando tentativas de inovao educacional no mundo todo, parece claro que, se alguma
coisa significativa de todo acontecer, no ser no Ministrio de Educao, nem na universidade: ser na
escola, e na sala de aula. Pode ser que as reformas
sejam concebidas por aqueles responsveis pela criao da poltica, e planejadas nos Ministrios de Educao, por especialistas e por administradores, mas
elas tm de ser implementadas nas escolas por professores e por diretores de escolas. Mudar a educao mudar a escola, e a avaliao utilizada para o
aprimoramento de um sistema educacional no poder ter eficcia sem que seja transportada, em sua capacidade e potencial plenos, s instalaes da escola. Se a inteno for utilizar a avaliao para melhorar a educao, ela ter de ser trabalhada no nvel da escola.
A avaliao sempre esteve dentro da escola,
em especial dentro de suas salas de aula, mas numa
capacidade extremamente limitada. A avaliao j estava l at mesmo antes que os administradores de
educao comeassem a empreg-la para a tomada
de decises, e para o controle ou a fiscalizao de
suas operaes, no mbito do sistema educacional.
Entretanto, a avaliao na escola era, em geral, limitada avaliao dos alunos, sendo executada atravs
de testes, notas e boletins de desempenho. A noo
de uma avaliao sistemtica da prpria instruo e
dos professores, a avaliao de programas e projetos,
ou da escola como um todo, s chegou s instalaes
da escola muito recentemente, e ainda est longe de
tornar-se prtica comum, inclusive nos sistemas mais
avanados de educao. At mesmo aquelas escolas
que tenham adotado abordagens inovadoras avalia-
*Davi Nevo, doutor em Avaliao Educacional, professor da School of Education, na Tel-Aviv University. Autor de extensa bibliografia, foi editor do peridico
Studies in Educational Evaluation, de 1984 a 1994, e tambm colaborador da International Encyclopedia of Educational Technology.
89
e metodolgicos que foram acumulados pelos avaliadores de programas ao longo dos ltimos 30 anos, e
de utiliz-los para o benefcio dos alunos, dos professores e dos diretores de escolas.
Usar a avaliao no nvel da escola implica uma
abordagem baseada na escola, aproveitando as concepes atuais de avaliao educacional, e determinando orientaes prticas para essa aplicao. Assim sendo, na parte seguinte deste trabalho, apresentarei um nmero de princpios gerais de avaliao, aplicados na minha abordagem da avaliao escolar. E,
com base no meu trabalho com muitas escolas, no
desenvolvimento das suas capacidades de avaliao,
demonstrarei em seguida como essa abordagem pode
ser implementada de modo realista, no nvel da escola. Este trabalho ser concludo com a sugesto de
que um discurso de mudana poder ser necessrio
na avaliao educacional, para faz-la passar de um
discurso de descrio e de julgamento para um discurso de dilogo.
1 Para uma apresentao mais detalhada dessa abordagem e de seus princpios subjacentes, ver Nevo (1995).
90
5. A avaliao baseada na escola deve ser fundamentada em uma combinao de avaliaes internas e
externas, mas a avaliao interna uma precondio
para a avaliao externa que tenha utilidade.
Na minha concepo, a avaliao baseada na
escola no um sinnimo da avaliao interna nem
um antnimo da avaliao externa, mas sim uma combinao de ambas. As vrias funes da avaliao dentro da escola podem e devem ser atendidas por avaliaes tanto internas quanto externas. Entretanto, a existncia da avaliao interna dentro da escola um prrequisito para qualquer tipo de emprego construtivo da
avaliao externa. Obviamente, os avaliadores internos
executam melhor a funo de avaliao formativa, e os
avaliadores externos, a de avaliao somativa. Mas uma
escola que no disponha de um mecanismo interno de
auto-avaliao ter dificuldades para desenvolver atitudes positivas em relao avaliao, e lhe faltar a
autoconfiana necessria para um dilogo construtivo
entre a escola e a avaliao externa. Nesses casos, a
avaliao se transforma em fonte de acusaes e atitudes defensivas, em vez de servir como base para o
dilogo entre os responsveis internos e externos pela
tomada de decises.
4. As necessidades internas de avaliao de uma escola podem ser melhor atendidas atravs de uma equipe de professores e de outros educadores, para quem
a avaliao apenas parte da definio de suas ocupaes, apoiada por treinamento adequado e assistncia tcnica externa.
processo de desenvolvimento de um
sistema de avaliao baseado na escola
91
exemplo, gesto), e seria interessante se fosse iniciada l mesmo. Na verdade, isso o que ocorre com
algumas escolas, e o mesmo provavelmente poderia
acontecer com outras, principalmente no caso de sistemas descentralizados de educao. Entretanto,
essa, infelizmente, poder ser uma expectativa no
realista em muitos sistemas de educao, principalmente aqueles que tenham longas tradies de centralizao e burocratizao. Nesses casos, a escola
ter de ser estimulada a iniciar o desenvolvimento da
avaliao baseada na escola, e ter de receber os recursos que forem necessrios para mant-la, possivelmente dentro da tendncia mais geral de atribuio de
maiores poderes prpria escola.
O processo de desenvolvimento de um contexto organizacional que possa levar s condies
mencionadas acima, levando ao desenvolvimento de
um sistema de avaliao baseado na escola, consiste
de quatro etapas principais: 1) treinamento bsico, 2)
criao de equipes de avaliao escolar, 3)
institucionalizao da avaliao, e 4) criao de um
dilogo entre a avaliao interna e externa.
necessidades especficas de suas escolas. No devem ser criadas expectativas no sentido de que, durante o workshop, diretores e professores possam
"aprender a como fazer avaliaes", conseguindo voltar para as suas escolas e comear a trabalhar, sem
assistncia posterior. extremamente difcil aprender
a realizar uma avaliao, sem realmente ter a experincia de faz-lo. Portanto, eles devero aprender a
desenvolver a avaliao apenas na fase seguinte, quando
efetivamente realizarem a avaliao nas suas escolas,
com a assistncia de seus instrutores externos de avaliao.
92
93
94
lugar de um discurso descritivo ou cheio de julgamentos. Alguns princpios especficos devem ser seguidos,
para criar bases slidas para o dilogo. Isso modificaria a perspectiva da avaliao, e deveria ser expresso
em vrias das atividades de avaliao escolar, como,
por exemplo, a avaliao de alunos, avaliao de professores, de programas e a avaliao da escola em
sua totalidade.
Em primeiro lugar, a relao entre o avaliador
e as suas platias tem de ser uma relao de duas
mos. Deve ser uma relao em que haja um fluxo de
informaes em duas direes, e um processo duplo
de aprendizagem mtua. As duas partes envolvidas no
dilogo no necessariamente sero iguais, mas existe
simetria na suposio de que ambas tm alguma coisa a aprender da outra, e alguma coisa a ensinar uma
outra. um processo em que, no comeo, ningum
sabe tudo, mas em que as duas partes sabem alguma
coisa, e em que, medida que se engajam no dilogo,
vm a saber mais e mais.
Com respeito avaliao de alunos, a suposio seria a de que no apenas o professor que conhece o valor de um aluno: o prprio aluno tem tambm algo a dizer sobre a qualidade do seu trabalho, e,
para que seja determinada qual realmente a sua condio, essas duas fontes de informao devem ser
combinadas. Para avaliar o aluno, professor e aluno
tm de "comparar anotaes" e intercambiar informaes e interpretaes mtuas da informao disponvel. Um exemplo desse processo de duas mos pode
ser visto em alguns dos novos mtodos alternativos de
avaliao, como o mtodo do portflio e da exposio,
em que a contribuio do aluno, assim como as suas
reflexes, so componentes importantes da sua avaliao. Ainda, o processo de duas vias pode ser observado tambm quando, em paralelo avaliao do aluno, a escola trata tambm de obter classificaes do
mesmo aluno para a avaliao de professores. Isso
reflete a suposio de que o aluno tem algo a descobrir sobre a sua aprendizagem a partir do seu professor, e que o professor pode ficar sabendo alguma coisa sobre a sua atividade de ensino a partir dos seus
alunos.
Ao combinarmos as avaliaes externa e interna para avaliar a escola como um todo, com o objetivo de responsabilizao ou de aprimoramento escolar, supomos que no exista uma nica forma objetiva
de avaliar a qualidade da escola. A chamada verdade
sobre a qualidade da escola no prerrogativa de um
avaliador externo, nem da prpria escola, que atesta
pela sua qualidade. Mesmo que exista uma verdade
nica sobre a escola, estar em algum nvel intermedirio, e portanto somente poder ser revelada atravs
de um dilogo entre as duas partes, as duas recolhendo dados e interpretando-os.
Em segundo lugar, indispensvel que haja
respeito e confiana mtuos entre as partes. As duas
rao com outras concluses, obteno de informaes adicionais, produo de mais concluses,
enfrentamento de complexidades agregadas, e assim
por diante... Se for assim que a avaliao percebida,
ento o dilogo ser uma parte integrante do seu processo, quando so confrontadas vrias perspectivas e
vrias concluses, na tentativa sempre presente de
expandir o entendimento. Talvez seja este o verdadeiro
processo. Mas, se a inteno o trabalho com problemas simples, que possam ser tratados atravs de avaliaes simples e isoladas, por que nos importaramos
com o dilogo? Por que nos importaramos com qualquer coisa?
Em quinto lugar, a avaliao deve ser justa, e
tem de ser justa para as duas partes envolvidas no
dilogo. A avaliao precisa ser justa de uma variedade de maneiras. Em primeiro lugar, tem de ser
conduzida de acordo com preceitos legais, ticos, e
com a devida ateno ao bem-estar daqueles que estiverem associados avaliao, ou que possam ser afetados pelas suas conseqncias. No se pode esperar que os professores que sentirem que esto sendo
avaliados pelos diretores ou pelos pais de uma forma
injusta participem em um dilogo sincero com respeito
a essa avaliao.
Para que a avaliao possa ser justa, os dois
lados precisam determinar com clareza o propsito da
avaliao e seus benefcios esperados, qual dever ser
o seu preo, e quem arcar com os custos, e no apenas aqui os custos financeiros. No seria realista esperar que uma escola entre em um dilogo com uma
avaliao externa, ainda que voluntariamente escolhida pela prpria escola, se a uma determinada altura
chegar concluso de que est sendo explorada, por
motivos que no atendem s necessidades diretas. Isso
pode ocorrer quando a escola acreditar que uma certa
avaliao serve principalmente aos interesses da pesquisa do avaliador, e s necessidades de informaes
do sistema de educao, em vez de ser til escola.
Em sexto lugar, preciso que a avaliao seja
relevante s questes que estiverem em jogo. Um dilogo, qualquer dilogo, uma tarefa que exige muito,
que necessita de abertura, autoconfiana e muita energia da parte dos participantes. A tendncia das pessoas evitar o dilogo, se ele no estiver relacionado s
questes que forem efetivamente importantes para elas.
Se a avaliao tratar principalmente de aspectos triviais, ou se estiver preocupada com sofisticao
metodolgica, e no com aspectos de substncia, o
pessoal da escola perder o interesse na prpria avaliao, e evitar participar de qualquer dilogo. A tendncia de alguns avaliadores, de confundir os seus clientes com sofisticao metodolgica, quando no conseguem encant-los com as suas concluses, uma
tentativa ingnua de tratar de dar avaliao uma boa
aparncia, quando realmente no a tem. Esses esforos conseguiro apenas aumentar a alienao do pes-
95
entre aqueles que descobrem o que est errado e aqueles que tm de corrigir; entre aqueles que tm a autoridade do conhecimento e aqueles que tm a autoridade da ao. Talvez o que seja necessrio agora seja
reduzir essa distino, para criar uma base de dilogo
entre as duas partes. Qui a regra deva ser a de que
ningum deve ter a autoridade para avaliar, se no estiver pronto para compartilhar a responsabilidade pelas
conseqncias da avaliao. E no se deve esperar
que ningum use a avaliao, se no estiver fazendo a
avaliao. Os avaliadores precisam estar prontos para
aprender com os seus clientes e com as suas platias, e no apenas para ensin-los. E os clientes devero no apenas ser recipientes da informao, mas
tambm coletores e fornecedores dessa informao.
Provavelmente, a escola jamais ser um bom
cliente da avaliao, a menos que comece a fazer a
avaliao, tornando-se um parceiro igual no dilogo para
o aprimoramento escolar. preciso que as escolas
tenham a avaliao em mente, se a inteno for fazer
com que a avaliao tenha qualquer papel significativo
para melhorar a educao. Mas as escolas so formadas por alunos, professores e por administradores, e
somente eles podero fazer dela uma escola que tenha a avaliao em mente. Alunos, professores e administradores escolares devem transformar-se em participantes ativos dos dilogos de avaliao, em vez de
continuarem sendo recipientes passivos das descries
e dos julgamentos oriundos das avaliaes. preciso
que eles parem de reclamar da m qualidade da avaliao, e que comecem a realiz-la de uma maneira
melhor.
oncluso
eferncias bibliogrficas
96
97
98
A VALIAO DO
SISTEMA EDUCATIVO: AS
ESTRUTURAS INSTITUCIONAIS
NA FRANA
Jacqueline Heritier*
a) Inspeo Geral
A Lei de Orientao, de 10 de julho de 1989,
atribuiu uma posio central Inspeo Geral no dispositivo da avaliao do sistema educativo. As mis-
99
s atores locais
So aqueles que trabalham no seio do estabelecimento de ensino: professores, quadro da direo/administrativo, pessoal de educao.
a) Os professores
c) O ministro e seu secretariado
Desempenham um papel fundamental na avaliao: dentro da sala de aula, para controlar a progresso da aprendizagem; quando das provas, para validar
esse aprendizado.
Os professores so os responsveis pela articulao da avaliao e da orientao em um processo
evolutivo discutido com o aluno. So levados a motivar
o aluno (e seus pais) na auto-avaliao de seu aprendizado em relao a seu projeto ou a suas aspiraes
profissionais. Alm da funo de avaliao dos alunos,
O ministro desempenha papel decisivo na definio da poltica educativa. Exerce, igualmente, funo determinante na avaliao:
- no incio do processo, decide o que dever
ser avaliado e determina sua execuo Inspeo Geral e DEP (poltica dos ZEPs, zonas experimentais, violncia...);
no final, o ministro o nico juiz dos desdobramentos que devem ser ao trmino de uma
avaliao.
100
101
102
VALIAO E
MONITORAMENTO DOS
ESTABELECIMENTOS
ESCOLARES
Claude Sauvageot e J. C. Emin (colaborador)*
esses trabalhos foram inspirados pela busca da rentabilidade dos estabelecimentos escolares, enquanto os
dispositivos atuais so fundamentados na inteno de
apreciar sua eficcia educativa global.
Um dos elementos do diagnstico apresentado, tanto pelos inspetores gerais quanto pelos outros
observadores, sobre a situao dos estabelecimentos
de ensino e seus responsveis em matria de instrumentos de monitoramento, era a dificuldade que tinham
em encontrar indicadores pertinentes e sua falta de
savoir-faire para conceb-los de maneira relativamente
econmica; pode-se acrescentar que quando os estabelecimentos de ensino puderam e souberam elaborar
indicadores pertinentes, raramente esse esforo conseguiu manter-se, sendo diversos os motivos: cansao ou impossibilidade de coletar todos os anos os dados necessrios, problemas de formatao desses
dados, ou, simplesmente, mudana na equipe de direo do estabelecimento.
Adotou-se, ento, o partido de apoiar os estabelecimentos escolares, primeiramente, fornecendolhes uma base de indicadores totalmente calculados a
partir de informaes recolhidas nos sistemas de informao e de gesto nacionais, em seguida, harmonizando esses indicadores de referncias nacionais e
acadmicas que lhes permitissem situar-se em relao aos demais estabelecimentos e, por fim, dandolhes meios para calcular, acompanhar e armazenar na
memria os indicadores especficos que desejassem
elaborar para serem avaliados e regulamentarem seu
projeto. Tudo isso foi possvel apenas porque os sistemas de informao e de gesto da educao nacional
principalmente no ensino mdio evoluram, consideravelmente, a partir do incio da dcada de 90.
103
At 1992, o Sistema de Informao era essencialmente fundamentado em "questionrios", respondidos manualmente pelos estabelecimentos escolares que, geralmente, no dispunham de equipamentos de informtica. O tratamento estatstico era efetuado em pesados computadores, geralmente em nvel
nacional. Os servios acadmicos dispunham, igualmente, de computadores de capacidade limitada, mas
no havia ligao entre os meios de tratamento dos
nveis nacional e regional. Alm disso, o sistema de
enqute era diferente do sistema de gesto dos estabelecimentos escolares, o que complicava e tornava
ainda mais pesado o trabalho dos diretores de estabelecimentos escolares e era fonte de erros na coleta de
dados.
Um grande esforo de construo e de implantao de novos sistemas de informao foi realizado
desde ento. Cerca de 7 mil colgios e liceus pblicos
beneficiaram-se progressivamente de instrumentos
informatizados para a gesto dos alunos e professores; foram, ao mesmo tempo, equipados com
microcomputadores e, enfim, com um sistema
telemtico que colocou os estabelecimentos escolares em contato com as academias e estas com a administrao central.
Dois elementos do novo sistema de informao so especialmente solicitados para construir os
indicadores fornecidos pelos estabelecimentos de ensino: o aplicativo "Scolarit" que faz o recenseamento
e acompanha, durante toda a escolaridade do ensino
secundrio pblico, os 4,8 milhes de alunos dos colgios e dos liceus pblicos e permite "geri-los" de modo
completo e coerente, nos planos pedaggico, educativo,
administrativo e financeiro; os aplicativos "EmploisPostes-Personnels" que integram, de maneira total, a
gesto dos estabelecimentos secundrios e seus empregos.
Esses dois elementos so os mais solicitados para o clculo dos indicadores, mas esse clculo
utiliza igualmente aplicativos que permitem gerir os
exames e concursos, os que admitem coletar e tratar,
por estabelecimento, os resultados dos alunos nas
avaliaes nacionais na admisso na classe de 6e (1
ano do ensino bsico) e no 1 ano do ensino mdio,
bem como os dados referentes insero dos alunos
no trmino do sistema educativo. O conjunto desses
dados permite o clculo de indicadores relativos a cada
estabelecimento, cujos responsveis consultam facilmente nos computadores disponveis.
Trata-se do primeiro retorno de informaes ordenadas que beneficiam os estabelecimentos
a partir dos dados que eles mesmos forneceram aos
diferentes sistemas de informao e de gesto. organizado segundo dois princpios polticos essenciais.
Os princpios
2.1. Um instrumento que deve servir, simultaneamente, avaliao interna e avaliao externa
O nome dado ao dispositivo "Indicadores para
o Monitoramento dos Estabelecimentos Secundrios"
enfatiza, em primeiro lugar, a avaliao interna da
escola. um instrumento destinado ao diretor do estabelecimento e sua equipe, um instrumento de diagnstico da situao e do funcionamento do estabelecimento, de avaliao da poltica que est sendo
conduzida e de seus resultados, de regulao e de
acompanhamento de seu projeto. Mas, deve tambm
ser um instrumento de prestao de contas de suas
atividades e de seus resultados; a noo de prestao
de contas deve, aqui, ser tomada no sentido amplo do
termo. Os colgios e os liceus so unidades do servio pblico da Educao Nacional e como tais devem,
evidentemente, "prestar contas" de sua tutela, certamente, mas tambm, de forma mais ampla, coletividade. Uma parte dos indicadores propostos aos liceus,
aqueles relativos ao seu desempenho, estabelecidos
a partir dos resultados do baccalaurat so, alis, objeto de publicao desde as provas realizadas em 1993.
104
2.2. Instrumento que associa uma base de indicadores-padro e indicadores especficos para cada
estabelecimento
A bateria-padro de indicadores
Indicadores de resultados
Taxa de xito no baccalaurat por srie;
Taxa de acesso ao baccalaurat;
Proporo de alunos detentores do baccalaurat entre os alunos concluintes do ensino mdio;
Destino dos alunos que concluem o liceu.
Indicadores de funcionamento
Futuro dos alunos ao trmino do 1 ano do ensino mdio;
Proporo de horas de aula efetivamente assegurada ao aluno;
Tamanho das divises; importncia dos servios ligados ao ensino;
Importncia dos servios ligados vida escolar;
Movimento do corpo docente;
Acidentes no estabelecimento escolar;
Estatuto dos alunos.
Indicadores ambientais
Intensidade das relaes com o meio ambiente econmico;
Dados socioeconmicos por zona de emprego.
105
106
107
19 A nos
20 A nos e +
C ategoria
M uito favorvel
90,3%
75,3%
68,9%
S ocioprofission al
Fa vo rvel
85,6%
72,4%
67,8%
dos P ais
M dia
84,0%
71,9%
67,7%
D esfavorvel
81,4%
70,3%
64,7%
86,3%
72,5%
66,9%
Total
108
Grfico 1 Taxa de acesso bruta e taxa de acesso esperada dos liceus da Academia de Lille
90
X
X X
X
X
XXX X X
XX
X
X
XX
X XXXX
X
XXXX
X
X
X
X
XXX X
X
XXX
X
X
X
X X XX X XX
X
XXX XXXX
X
X
X
X
X
X
X
X
X
XX
X X X XXXX
XX
XXXX
XX
X
XX X
X
XX
X
X
X
80
70
60
50
40
30
20
20
30
40
50
60
70
80
90
109
Encarte n 2
Trs indicadores de um liceu e um exemplo de interpretao
1 Taxa de aprovao no Baccalaurat por srie
Taxa
F*
Bruta
86
69
83
91
56
77
67
76
76
68
83
84
71
72
69
75
77
68
85
78
73
69
69
74
135
121
123
85
34
57
197
752
Presentes
F8
F**
Total
*Menos F8, F 11 e F 12
**F 11 e F 12
Taxa
71
65
63
Efetivo do 1ano
do 2 grau
681
P/academia
P/Frana
1, 2, 3 do
ensino mdio
78
67
70
3 ano do
ensino mdio
94
91
88
Na anlise dos resultados do baccalaurat (indicador n 1), esse liceu aparece como mdio. De fato, trs
alunos, entre quatro que se apresentaram para o exame,
obtiveram o diploma. Se levarmos em considerao as
origens sociais e a idade dos alunos, as terceiras sries
desse liceu apresentam resultados prximos do que era
esperado (75% da taxa esperada em base acadmica,
74% da taxa esperada base Frana). 0 exame de cada
srie permite matizar essa interpretao global. As sries
13, C e G apresentam taxas medianas e exibem resultados prximos do que se podia esperar delas. As sries
com os melhores desempenhos so as A, D e F, com
uma contribuio, em termos de valor acrescido, mais
significativo para a srie A. A menos eficaz a srie E, que
apresenta uma taxa de aprovao bruta fraca (56%), comparada com as taxas esperadas de 71% e de 73%.
necessrio, entretanto, relativizar essas ltimas taxas,
estabelecidas com base em apenas 34 alunos.
Analisando as taxas de acesso (indicador n 2) e
as propores de "bacharelados" entre os alunos
concluintes do ensino mdio (indicador n 3), pode-se
melhor delinear a situao desse liceu. Um aluno do 1
ano geral e tcnico desse estabelecimento tem 71% de
possibilidade de obter o baccalaurat nesse mesmo liceu. Considerando-se a estrutura social e a separao
dos alunos por idade, podia-se esperar que essa probabilidade fosse de 65%, em referncia Academia, ou de
63% em relao ao conjunto nacional. Com uma taxa de
aprovao mdia, mas com uma taxa de acesso elevada,
pode-se supor que esse liceu pratique polticas de
repetncia ou de reorientao eficazes entre as sries
alunos at que eles sejam diplomados, mesmo se, para
isso, for necessrio um quarto ou at um quinto ano de
estudo no estabelecimento. Outros liceus teriam, talvez,
reorientado seus alunos para outros estabelecimentos
de ensino.
Essa hiptese confirmada pela anlise da proporo de "bachalerados" entre os alunos que concluram o ensino mdio. De fato, quase todos os alunos de 3
ano (94%) deixam o liceu com o baccalaurat. Se nos
interessarmos em todos os que deixam o liceu, essa proporo cai para 78%, o que bem superior s mdias
acadmica (67%) e nacional (71%). Isso confirma bem a
idia de que se deixa esse liceu, mais do que os outros,
aps ter obtido o baccalaurat em qualquer das opes
propostas.
110
nexos
ANEXO 1
TAXA DE ACESSO DO 1 ANO DO ENSINO MDIO
AO BACCALAURAT
ni, j x ti, j
i j
Taxa de aprovao esperada =
ESL
Taxa de acesso de um nvel a outro =
x 100
EI - ERL
ni, j
i j
Com:
EI = alunos inscritos no nvel inicial em setembro de
1992;
ERL = alunos do estabelecimento que repetiram o nvel inicial no liceu em setembro.
Para o clculo das taxas de acesso do 1 ao 2 ano e
do 2 ao 3 ano:
ESL = alunos do estabelecimento que passaram para
o nvel superior no liceu em setembro de 1993.
Para o clculo da taxa de acesso do 3 para o
baccalaurat:
ESL = alunos do estabelecimento que tenham obtido
o baccalaurat em junho ou em setembro de 1993.
ANEXO 2
TAXAS ESPERADAS
Se a taxa bruta de aprovao no baccalaurat
calculada simplesmente trata-se da relao entre o
nmero de "bachalerados" e o nmero de candidatos
presentes na primeira prova - o clculo da taxa de
aprovao esperada mais complexa.
111
A frmula a seguinte:
ni, j
i j
ni, j x tai, j
i j
112
A RRANJOS INSTITUCIONAIS
PARA AVALIAO
Ernest R. House*
Quais sero os melhores arranjos institucionais
para a realizao de avaliaes? Para responder a esta
pergunta, preciso, em primeiro lugar, considerar o
motivo que nos leva avaliao profissional. A avaliao, como instituio de informao para as decises
pblicas, surgiu apenas durante a ltima tera parte
do sculo XX, em primeiro lugar, e de maneira mais
disseminada, nas sociedades capitalistas avanadas.
O capitalismo avanado altamente valorizado pela sua eficcia em aprimorar os padres de vida
tambm um processo extremamente desestabilizador.
Enormes massas de pessoas migram para longe de
suas casas e de suas famlias, em busca de trabalho
em cidades estranhas, afastando-se de seus amigos,
de suas associaes tradicionais, e at mesmo de seus
idiomas maternos. Quando todos os empreendimentos humanos se vem sujeitos a padres de produtividade e de eficincia, sobra pouco espao para o que
tradicional ou caracterstico de qualquer comunidade.
Por outro lado, foram as formas tradicionais de autoridade - a Igreja, a comunidade e a famlia que deram
apoio legitimidade dos governos.
Com as bases tradicionais de apoio fragilizadas
pela mobilidade tanto do capital quanto da mo-de-obra,
e com as rpidas modificaes na tecnologia e nos
estilos de vida, necessrio que os governos encontrem outras fontes de legitimizao para as suas aes,
alm das tradicionais. Existe toda uma variedade de
fontes de legitimidade, mas, o que mais importante,
os governos precisam demonstrar que tm capacidade para sustentar a melhora material de suas sociedades, ou seja, de aumentar a prosperidade material de
suas populaes. Poucos regimes conseguem sobreviver sem oferecer essa grandeza material. Assim sendo, os governos nessas sociedades tratam de criar as
condies econmicas que possam facilitar os empreendimentos capitalistas.
Outra fonte de legitimidade a instituio da
cincia profissional, que assumiu parte da autoridade
uma vez investida na religio. A avaliao profissional,
atravs da sua identificao com a cincia, d legitimi-
redibilidade
*Ernest R. House professor da School of Education na University of Colorado, desde 1985. Dentre a sua produo bibliogrfia, destacam-se as duas ltimas
obras: Professional evaluation: social impact and political consequences (1993) e Productivity in Education: policies, markets and teacher assets (1998). Realizou
estudos sobre avaliao para vrias instituies: National Education Association, Ford Foundation, OECD, Federal Coordinating Council for Science,
Engineering and Technology in Washington.
113
Para que sejam consideradas como acreditveis, as avaliaes devero ser baseadas em duas prticas principais. Uma delas o emprego de uma
metodologia cientfica objetiva, como j sugeri, e a outra prtica relaciona-se aos avaliadores, que devero
ser politicamente independentes dos programas e das
polticas sob avaliao. Em meio comunidade de avaliao profissional, perdura um debate constante sobre a eficcia das vrias metodologias de avaliao, e
essas discusses variam desde as melhores formas
de obteno de dados como apresentar as concluses.
Freqentemente, esses debates tm um cunho altamente tcnico, ainda que, apesar disso, no sejam
menos ferrenhamente contestados.
A maior parte dos julgamentos sobre as
metodologias adequadas encontra-se nas mos da
comunidade profissional, e no no governo. O empreendimento da avaliao profissional, assim como o
empreendimento mdico profissional, depende de um
mercado livre de idias, para forjar as suas
metodologias. O governo influencia indiretamente a
metodologia, a partir do momento em que aprova que
mtodos devero ser utilizados nos estudos patrocinados por ele, ainda que raramente se envolva diretamente
nos debates metodolgicos.
Por exemplo, em um estudo de cinco anos da
principal agncia de avaliao da National Science
Foundation (NSF), constatei que os rgos do governo
tendem a aprovar as metodologias tradicionais para os
estudos, como pesquisas e visitas de campo, que sejam bem compreendidas e aceitas tanto por avaliadores quanto por no avaliadores. H menos probabilidade de as agncias do governo aprovarem o financiamento de metodologias novas, de que as pessoas discordem. E esse conservadorismo metodolgico faz
sentido, se a legitimidade dos estudos for uma preocupao importante.
A segunda das estratgias principais para a
garantia da legitimidade a localizao dos avaliadores em lugar que seja resguardado da interferncia
poltica. No se deseja que as concluses da avaliao sejam modificadas por aqueles cujos programas
estejam sendo avaliados. Se a agncia de avaliao
estiver localizada em local protegido daqueles que forem ser submetidos avaliao, haver menos oportunidade de interferncia com os estudos. Assim, a agncia de avaliao da NSF est localizada na sua prpria
diviso, tendo o seu diretor status igual ao dos diretores das divises de programas. Eventualmente, a agncia de avaliao localizada dentro de uma agncia
superior da organizao. Por exemplo, o Federal Bureau
of Investigation (FBI) tem a sua agncia de investigao localizada no escritrio do diretor assistente dessa instituio.
Por outro lado, h um preo a ser pago por
esse tipo de independncia poltica. Quando a agncia
de avaliao afastada dos programas, existe menos
endncias recentes
114
comunicao entre os avaliadores e o pessoal dedicado aos programas. Esta separao reduz a possibilidade de as concluses da avaliao serem utilizadas
por aqueles que trabalham nos programas. Uma das
principais preocupaes dos avaliadores da NSF
convencer o pessoal dos programas a empregar as
concluses da avaliao. Para estimular o uso das
concluses, necessrio engajar o pessoal envolvido
no programa desde cedo no projeto do estudo, para
que o aceitem. Mas a separao das agncias no
encoraja esse tipo de cooperao.
Uma outra forma de estimular o uso das concluses da avaliao construir de maneira ativa uma
cultura de avaliao, dentro das prprias agncias do
governo. Isso pode ser feito atravs da organizao de
seminrios para o pessoal envolvido no programa, atravs de reunies individuais com ele, e, principalmente,
ajudando o pessoal do programa a entender e a participar no planejamento da avaliao e na implementao
de suas concluses. Entretanto, a criao de uma
cultura de avaliao em uma agncia um processo
que leva muito tempo; somente poucas agncias em
Washington foram bem-sucedidas nessa tarefa. O
desenvolvimento de uma cultura de avaliao continua
sendo uma tarefa a ser considerada, e no uma tarefa
realizada (House, Haug, Norris, 1996).
Alm de ser cientfica e independente, a avaliao deve tambm ser vista como sendo justa. Com
isso, quero dizer que os interesses e os pontos de
vista relevantes devem ser representados na avaliao.
Uma avaliao ter pouca credibilidade aos olhos do
pblico em geral se representar apenas os interesses
e os pontos de vista do governo. preciso que a avaliao represente os interesses de todos aqueles que
sejam afetados de modo significativo pelo programa
(s vezes mencionados como "partes interessadas").
Atualmente, um dos debates mais controversos na
comunidade de avaliao diz respeito a que interesses
deveriam ser representados.
115
onde e como cortar alguns dos programas. importante saber como a terceirizao das avaliaes e o
desenvolvimento de um mercado de avaliao afetam
as prprias avaliaes, mas no dispomos de um entendimento sobre esse fenmeno.
Em terceiro lugar, esto as questes
metodolgicas, que incluem a acomodao das
metodologias ideais de avaliao aos aspectos polticos. Buscam-se mtodos que sejam possveis de serem apoiados, do ponto de vista poltico, e que sejam
profissionalmente aceitveis o que nem sempre
fcil de achar. E possvel imaginar de que forma essas questes poderiam interagir. Por exemplo, em qualquer operao burocrtica, o fluxo de informaes atravs dos nveis tcnico, administrativo e institucional
problemtico (Wilson, 1989).
Os funcionrios tcnicos fazem o trabalho, ao
passo que os prprios especialistas em avaliao fiscalizam os contratos e operam os programas. Administradores, em geral diretores de divises ou de departamentos, preocupam-se com os produtos finais, e
podem ter apenas um conhecimento superficial das
empresas que estejam realizando o trabalho. Os chefes institucionais, no topo da organizao, lidam com
legisladores, com o pblico e com outras foras polticas, para obterem recursos para a sua agncia. Possuem conscincia nada mais do que vaga sobre o trabalho que est sendo desenvolvido. A comunicao
entre esses nveis pode ser disfuncional.
O desastre do nibus espacial Challenger,
causado por um anel de vedao, um exemplo impressionante, quando os funcionrios tcnicos (os engenheiros) desaconselharam o lanamento da nave,
devido ao tempo frio. A empresa contratada, a Morton
Thiokol Corporation, tinha conhecimento de que os
anis de vedao, que selam os tanques de combustvel, poderiam apresentar mau funcionamento no inverno. Os altos administradores da National Aeronautics
and Space Administration (NASA) foram informados
do perigo, mas jamais compreenderam plenamente a
probabilidade de falha do anel de vedao. Estavam a
tal ponto preocupados com as conseqncias polticas de no lanar o nibus espacial, que o desastre
aconteceu: o nibus foi lanado e explodiu. Considerando-se que cada um dos nveis da organizao estava preocupado com um aspecto distinto, as probabilidades de falhas na comunicao eram altas.
A mesma coisa pode ser dita da avaliao
dentro do governo. Por exemplo, os legisladores exigem informao "de impacto", uma necessidade transmitida aos especialistas em avaliao atravs da cadeia de comando. Os especialistas em avaliao e as
empresas contratadas determinam o que tecnicamente vivel de ser feito sob aquelas circunstncias,
ou seja, que tipos de informaes podero ser obtidas.
Entretanto, aquilo que o Congresso quer dizer com "informao de impacto" e o que pode ser produzido so
esafios futuros
Quais so os futuros desafios a serem considerados por essas organizaes institucionais de avaliao? Em primeiro lugar, existe o problema potencial
da interferncia poltica, como j foi levantado. Nitidamente, a avaliao tem funes polticas, e politicamente til, mas, para desempenhar adequadamente a
sua funo de legitimizao para o governo, no pode
ter os seus processos politizados. Perder toda a sua
credibilidade. Ter credibilidade significa ter a capacidade para publicar concluses negativas. Que cidado,
onde quer que pudesse estar, acreditaria que as aes
do governo so sempre positivas?
Em segundo lugar, existe o problema econmico dos mercados especializados de avaliao. Conexes estreitas entre os governos e as empresas resultam em relacionamentos bilaterais prximos, o que
pode terminar por afetar a qualidade e a credibilidade
do trabalho. Ser que as empresas que forem to dependentes das agncias do governo geraro relatrios
favorveis aos programas dessas mesmas agncias?
H sinais disso nas avaliaes da NSF. Em uma extensa avaliao, com visibilidade nacional, os avaliadores mostraram-se relutantes em criticar a poltica do
governo, embora os avaliadores da NSF argumentem
que este no um problema muito disseminado.
Evidentemente, fcil ver que as empresas
contratadas imaginem que, ao produzirem relatrios
negativos, tero menos probabilidade de receberem
contratos futuros da agncia. Ironicamente, neste caso,
o que os funcionrios das agncias desejam ver so
as concluses negativas, de forma que possam saber
116
especializado para servios de avaliao. Essas empresas contratadas precisam ser vistas como competentes, do ponto de vista profissional, e as agncias
dos governos devem tomar determinadas providncias
para que esses arranjos possam funcionar, incluindo
tanto a fiscalizao da qualidade das avaliaes produzidas, quanto a capacidade dos prprios contratados para a avaliao.
Finalmente, estou consciente de que muitas
pessoas imaginaro que seja ingnuo falar da independncia poltica dos avaliadores dos governos, que
os funcionrios do governo sempre trataro de interferir
nas avaliaes e de influenciar as concluses, para a
sua prpria vantagem. E, claro, muitos funcionrios
de governos faro isso. Por outro lado, a outra considerao significativa a relativa fragilidade dos governos nos Estados capitalistas avanados. Nessas sociedades, os governos necessitam de legitimidade, uma
vez que as decises econmicas crticas foram colocadas alm do seu alcance. Os governos precisam de
amigos, que possam dar apoio sua legitimidade, ainda que esses amigos sejam justos e imparciais.
eferncias bibliogrficas
oncluso
117
118
*Barry McGaw diretor do Conselho Australiano de Pesquisa Educacional (ACER). Foi o autor do estudo de caso australiano para o projeto da Organizao para
a Cooperao e Desenvolvimento Econmico (OCDE) sobre a definio de padres na educao. Em 1996-1997, o relatrio final da sua anlise sobre o
certificado da High School em Nova Gales do Sul foi a base para o informe oficial do governo, divulgado em agosto de 1997.
119
120
Benchmarking em educao
121
N vel de
resulta do
N vel 1
N vel 2
N vel 3
N vel 4
N vel 5
N vel 6
N vel 7
S rie
Final da Srie P repara tria
Final da 2 s rie
Final da 4 s rie
Final da 6 s rie
Final da 8 s rie
Final da 10 s rie
E xten s o para os que passam do N vel 6
representam
simplesmente
descries
122
Figura 1 Material de estmulo para avaliao dos conceitos de Cincias dos alunos
123
64
62
60
58
C ategoria de resposta
conde nsao q uando o ar resfria
da atm o sfera sem indica o d e m ecanism o
conde nsao sem m encionar a atm osfe ra
lquid o fora da jarra ve m de dentro
lquid o passou pelos lado s da jarra
respostas im possveis de interpretar
Pontos
exemplos ou "mgica" como explicao
4
3
2
1
0
0
56
61
60
58
124
In g l s d e 1 2 s rie e m 1 9 9 6
D o is cu rs o s c o m m a io r e x ig n c ia
S e g u n d o c u rs o c om m e n o s e x ig n c ia
C u rs o c o m m e n o r e xig n c ia
3 0 % s u p e rio re s e m
In g l s d a 1 0 s rie e m
1 9 9 4 , d e a c o rd o c o m
a a v a lia o e s ta d u a l
SO de
N de
S yd n e y
S yd n e y
M
F
M
F
35
22
22
13
62
73
70
78
4
5
8
9
1 0 % s u p e rio re s e m
In g l s d a 1 0 s rie e m
1 9 9 4 , d e a c o rd o c o m
a a v a lia o e s ta d u a l
SO de
N de
S yd n e y
S yd n e y
M
F
M
F
63
56
51
33
36
44
48
67
1
0
1
0
priados para os alunos com diferentes nveis de desempenho anterior. De fato, a diferenciao dos cursos mapeada de acordo com a diferenciao social.
Os alunos da Zona Sudoeste de Sydney, como aparece na Tabela 3, no so diferentes dos da Zona Norte,
em termos de desempenho anterior em Lngua Inglesa; a nica diferena acontece em termos de geografia
e condio socioeconmica.
A interpretao dos dados de desempenho no
nvel do sistema no um processo direto. Os resultados podem fornecer informaes sobre o nvel e sobre
a abrangncia dos desempenhos dos alunos, alm de
comparaes atravs de sries, caso sejam examinadas mais sries, e caso os testes sejam interligados e
calibrados de acordo com uma escala comum. A questo de se o nvel de desempenho satisfatrio ou no
geralmente aparece como aspecto principal em qualquer discusso pblica sobre a educao.
125
seu emprego com alunos que sejam comparveis entre si, pertencentes a um outro sistema.
Uma recente pesquisa nacional de habilidades de letramento, entre alunos de escolas primrias,
na Austrlia, uma boa ilustrao para esse aspecto.
Esta pesquisa investigou os nveis de letramento entre
alunos de 3 e 5 sries, nos cinco aspectos do
letramento determinados na estrutura do currculo nacional, ou seja, escrita, leitura, visualizao, expresso oral e escuta.
A pesquisa determinou a extenso dos nveis
de desempenho dos alunos, e os mapeou de acordo
com os nveis de resultados na estrutura do currculo
nacional (Comit Administrativo para o Exame de Alfabetizao de Ingls da Escola Nacional NSELS,
1997). As percentagens dos alunos nos vrios nveis
das quatro dimenses de letramento avaliados aparecem na Tabela 4.
126
Caso exista um enunciado claro sobre os nveis esperados de desempenho, estes podem servir
como modelo a ser seguido, e de acordo com o qual
podem ser julgados os nveis reais de desempenho.
Evidentemente, uma outra possibilidade que seja levantada a questo de se as expectativas esto determinadas no nvel correto ou no.
O acompanhamento repetido atravs do tempo pode fornecer evidncia de qualquer mudana nos
padres de desempenho, contanto que os testes
efetuados durante os vrios anos estejam interligados,
e possam ser calibrados de acordo com uma escala
que seja comum. Caso os materiais de teste no sejam firmes, a ligao entre os testes aplicados nos
vrios anos poder ser estabelecida, no atravs da
utilizao repetida do mesmo contedo, mas atravs
do desenvolvimento de um teste composto com materiais dos testes aplicados nos vrios anos, alm de
Comparaes internacionais
Uma outra maneira de formar uma opinio sobre se os nveis de desempenho eram ou no
satisfatrios seria atravs do uso de dados comparativos oriundos de um outro sistema, ou de um outro pas.
O Third International Mathematics and Science Study
(TIMSS) possibilitou comparaes entre os sistemas
de educao dos estados e territrios australianos, bem
como entre a Austrlia e outros pases.
As comparaes internacionais possibilitadas
pelo TIMSS foram de uma maneira geral encorajadoras
para a Austrlia. A Tabela 6 mostra os resultados. Havia
pases com desempenhos superiores aos da Austrlia, mas, ainda assim, os alunos australianos mostraram um bom desempenho nas comparaes internacionais. Nenhum pas de lngua inglesa ou da Europa
Ocidental aparecia nossa frente. Enquanto isso nos
permitia algum nvel de satisfao, no devia ser razo
para atitude de complacncia. Um dos estados, o de
Western Australia (Austrlia Ocidental), atingiu nveis
de desempenho comparveis ao pas de mais alto desempenho, que foi Cingapura.
Enquanto isso permitia algum nvel de satisfao para os australianos, no devia ser razo para atitude de complacncia. Nitidamente, existem padres
mais altos sendo atingidos em outros locais, e preciso encarar a questo sobre se esses padres mais
altos devem tambm ser esperados na Austrlia. Isso
traz mesa a possibilidade de tentar chegar melhor
prtica internacional, no em termos de processos,
mas sim de resultados, ainda que o aspecto de processos tenha tambm que ser examinado.
o acompanhamento do desempenho
mudana de polticas
127
Da avaliao ao
necessrio que seja desenvolvida uma anlise mais detalhada do que a mera comparao e inspeo dos dados mdios de carter geral, para que as
informaes geradas pelos programas de acompanhamento possam ter utilidade como base de avaliao.
Essas anlises detalhadas do desempenho
dos alunos australianos no TIMSS, em comparao
com os de outros pases, que apresentaram um desempenho melhor, em especial Cingapura, o Japo e a
Coria indicam as deficincias na Austrlia na rea de
Matemtica. Eventualmente, a Austrlia poderia ter
imaginado que os seus alunos apresentariam um desempenho pior nas tarefas ligadas a clculos matemticos, uma vez que essa rea recebe menor nfase
nos currculos australianos, e os alunos apresentam
um desempenho mais baixo a. Por outro lado, a Austrlia poderia ter pensado que os seus alunos apresentariam melhor desempenho nas atividades relacionadas soluo de problemas, o que no aconteceu:
eles s vezes apresentam bom desempenho, mas
freqentemente aparecem significativamente abaixo,
tambm nesse tipo de tarefa (Stacey, no prelo).
A anlise dos dados relativos s
subpopulaes poder tambm indicar as reas em
que tambm necessrio algum nvel de ao. sempre importante verificar o que esses dados tm a dizer,
em termos de aspectos ligados eqidade nos resultados. Os grupos em situao de desvantagem podem
ser identificados, podendo receber uma quantidade
adicional de recursos, ou at mesmo programas especiais.
O Estado de Nova Gales do Sul utilizou, a uma
determinada altura, os seus resultados no Teste de
Habilidades Bsicas na rea de letramento para a 3a
srie, para a identificao daquelas escolas que apresentavam um nmero significativo de alunos com mau
desempenho, para encaminhar professores
especializados em letramento precoce para as escolas que tivessem revelado as maiores necessidades.
Os dados que vm do nvel do sistema podero produzir tambm informaes no nvel da instituio, principalmente se for testada toda a populao de
alunos. Por outro lado, a interpretao dos dados do
nvel da instituio no fcil, uma vez que o resultado no apenas do que a instituio faz, mas tambm
das caractersticas dos alunos que fazem parte da instituio. Isso quer dizer que as instituies devem tratar de enxergar alm das comparaes com outras instituies, ainda que dem ateno a elas, para chegarem a uma anlise interna mais detalhada de si mesmas e da sua comunidade.
Da ao avaliao
Esses tipos de anlises de dados, vindos do
acompanhamento do sistema, poderiam ento levar a
consideraes de reforma curricular, para resolver deficincias quando fossem consideradas como srias.
Quaisquer que fossem as iniciativas
curriculares introduzidas dessa forma deveriam ser avaliadas com bastante seriedade, sem serem
implementadas simplesmente pela confiana cega no
sucesso. A longo prazo, preciso que apaream as
vantagens nos nveis de desempenho, a partir do acompanhamento do sistema. A curto prazo, medida que
forem sendo implementadas e desenvolvidas as iniciativas, preciso que seja empregado todo o arsenal do
128
percepes dos pais sobre o valor dos relatrios de desempenho de seus filhos.
escolas voluntrias. Em torno de 300 escolas juntaram-se ao programa em 1994, mais 500 em 1995, e as
ltimas 400 no meio do ano de 1995.
A estrutura de responsabilidades baseia-se em
cinco princpios: foco sobre o cliente, orientao para
o desempenho, propriedade e transparncia locais,
integrao de todas as partes do planejamento, poltica e atividades operacionais da escola, e, ainda assim, um conjunto comum de requisitos para todas as
escolas, com relao obteno e publicao dos
dados.
na administrao, usando:
opinies do pessoal, sobre a qualidade da
administrao da escola;
extenso do desenvolvimento profissional
entre os membros do pessoal;
faltas do pessoal.
Para estabelecerem as suas metas, as escolas precisam levar em considerao o acesso e a eqidade para os alunos de famlias que no falam ingls,
os que so portadores de incapacidades e os alunos
aborgenes.
As escolas recebem orientao do Escritrio
de Avaliao do Departamento de Educao sobre
como implementar a estrutura de responsabilidades,
incluindo como obter e analisar os dados relevantes.
Entre os documentos fornecidos pelo Escritrio, incluem-se: Developing a School Charter, School Annual
Report Guidelines, School Organisational Health Survey,
para a pesquisa com o pessoal, e Parent Opinion
Questionnaire e Monitoring Parent Opinion: User Guide,
como documento associado.
no currculo, usando:
as designaes de cargas horrias para as
oito reas curriculares;
a participao por gnero nas matrias da
escola secundria, quando os alunos tm
a possibilidade de opo;
as opinies dos pais sobre a qualidade do
currculo.
na responsabilidade, usando:
dados sobre as matrculas dos alunos, principalmente mudanas atravs do tempo;
no caso das escolas secundrias, destino
dos alunos que deixam a escola;
129
para os mesmos alunos no GAT estiverem suficientemente fora de linha, so enviados escola avaliadores
independentes, para reviso do trabalho dos alunos
anteriormente avaliado pela prpria escola. Se a avaliao da escola for mais alta do que o esperado, passada esta nova avaliao, o processo de estimativa do
valor agregado rotular ento a discrepncia, como
evidncia de valor agregado, e no como evidncia de
uma elevao artificial das avaliaes da escola.
Caso essa prtica fique padronizada, haver
um incentivo para as escolas tentarem baixar o desempenho de seus alunos no GAT, para criar uma discrepncia entre esses resultados e os da avaliao da
escola, de uma forma que no pudesse ser anulada
atravs de uma reviso das avaliaes feitas pela escola. Uma outra reao seria tentar inflacionar suficientemente as avaliaes da escola, para receber alguma vantagem da estimativa de valor agregado, ainda
que no o suficiente para causar anlise externa.
O problema tanto com a abordagem da
Western Australia (hoje abandonada) quanto com a de
Victoria que elas usam uma avaliao atual de desempenho de 12 srie como substituto para o desempenho no momento de admisso s 11 e 12 Sries,
ou, o que pior, como substituto para "inteligncia".
oncluso
eferncias bibliogrficas
130
O Escritrio de Avaliao utiliza os dados combinados das escolas, quer sejam todas as escolas, ou
amostras representativas entre elas, para determinar
as distribuies como as escolas possam compararse. So descritas como modelos, mas so, evidentemente, nada mais do que representaes do desempenho do momento entre as escolas.
No se pede que as escolas faam comparaes entre si mesmas e todas as escolas, mas com
"escolas semelhantes". Esse agrupamento de "escolas semelhantes" baseia-se na proporo de alunos
de uma escola que usa um idioma que no seja o ingls em casa, e na proporo de alunos considerados
como em "situao de risco". Os alunos "em situao
de risco" so considerados como aqueles que recebem subsdio do governo para os pais de baixa renda.
131
132
Laboratrio Latino-Americano de
Avaliao da Qualidade da Educao
Para situ-los no contexto a partir do qual formulamos nossos comentrios, permitam-nos expressar brevemente que, diferentemente do IEA, o Laboratrio Latino-Americano uma rede intergovernamental,
que agrupa o conjunto de sistemas de medio e de
avaliao dos sistemas de Educao da Amrica Latina e do Caribe. Desta rede (com exceo do Uruguai)
participam todos os pases de fala portuguesa e espanhola da regio. Criada em 1994, no Mxico, sua coordenao foi confiada ao Escritrio Regional da Unesco
em Santiago do Chile, e o Laboratrio conta com o
apoio financeiro dos pases-membros, da Unesco, da
Fundao Ford e do Banco Interamericano de Desenvolvimento (BID), entre outros.
Entretanto, apesar de ser uma rede
intergovernamental, suas aes no esto distantes
das preocupaes do IEA. O Laboratrio desenvolve
um programa que contm quatro linhas de ao orientadas no sentido de apoiar a formulao e gesto de
polticas educacionais:
a) estudos comparativos internacionais (como
o levantamento de informaes do estudo
internacional nos pases-membros, concludo no dia 28 de novembro);
b) gerao de padres (standards) regionais;
c) fortalecimento institucional dos pases-membros por meio de formao, assistncia tcnica, disponibilidade de bases de dados e
bancos de itens;
d) desenvolvimento de um programa de pesquisa e experimentao no mbito da avaliao e as variveis associadas ao rendimento
escolar.
*As expresses aqui apresentadas so de responsabilidade do autor e no comprometem nem a Unesco nem o Laboratrio Latino-Americano de Avaliao da
Qualidade da Educao. O autor aproveita a oportunidade para agradecer a Eduardo Cabezn, Sandra Cusato e Juan Carlos Palafox pelos comentrios feitos
verso preliminar deste texto.
**Juan Casassus funcionrio da Unesco desde 1977, e desde 1988 especialista regional em polticas, planejamento e gesto da educao da Orealc. autor
e co-autor de vrias publicaes sobre administrao da educao e qualidade da educao. Coordena o Laboratrio Latinoamericano de Evaluacin de la
Calidad de la Educacin, com sede em Santiago do Chile, e realiza freqentes misses de assessoria aos pases que participam desse projeto.
133
s dilemas
134
O professor Plomp deu nfase s possibilidades abertas pelos estudos internacionais. Concordamos com os pontos de vista por ele expostos. Efetivamente, cremos que este tipo de estudo tem mltiplas
possibilidades e, apenas com o propsito de reforar o
que j foi mencionado, permitimo-nos repeti-las. Os
estudos internacionais:
a) produzem descries comparativas que funcionam como um espelho onde cada pas
possa "ver" a si mesmo de uma maneira
diferente, ao olhar-se em comparao com
outros;
b) estabelecem referncias em matrias especficas;
c) facilitam o monitoramento ou o acompanhamento dos processos em diferentes nveis
do sistema mediante a constituio de sries histricas;
d) produzem informaes que permitem interpretar as diferenas observadas entre os
sistemas educacionais;
e) facilitam os estudos de diferenas e de
recorrncias entre pases.
A estes elementos j mencionados, poderamos acrescentar outros, prprios das redes
conversacionais, como o Laboratrio, tais como:
f) facilitar os processos de integrao
supranacional (M. H. Guimares de Castro
e M. I. Pestana, 1996);
g) dar origem aos processos de formao, aos
processos de implementao;
h) avanar por meio de acordos, em face de
sua vinculao com a poltica educacional;
i) melhorar as possibilidades de financiamento dos sistemas por seu impacto e sua
vinculao com os meios de comunicao
de massa.
Em resumo, estes estudos, graas s suas
contribuies em termos de informao e anlise, abrem
possibilidades, tanto no plano da poltica educacional,
como no da gesto dos sistemas, da pesquisa e da
comunicao social.
135
Num passado recente, a medio (em especial os modelos com referncia norma) foi o principal
procedimento para aferir (assess) os resultados de rendimento na maioria dos sistemas nacionais e internacionais de avaliao. As idias de Bloom e de Schriver
sobre o papel formativo da avaliao e, tambm, os
avanos recentes no plano da psicologia cognitiva
(Garner, Steinberg) tm sido confrontados pela nfase
objetiva e discriminatria (seletiva) da avaliao vista
pela perspectiva psicomtrica.
De fato, podemos observar que est se desenvolvendo atualmente uma tendncia, na medio e
na avaliao, que busca meios para modificar o papel
136
textos bem delimitados, como o do ensino de Matemtica, alm dos especialistas em Matemtica ou em
ensino de Matemtica, so numerosos os grupos chamados para manifestar sua opinio muitas vezes contrria sobre o assunto, como, por exemplo, as associaes de pais num pas como os Estados Unidos,
onde se encontra a liderana exercida pelo National
Council of Teachers of Mathematics (NCTM) do movimento de standards em Matemtica.
vidades bilnges na educao. Este fato, porm, dificilmente captado pelos sistemas de avaliao.
Para fazer frente a este dilema, o de poder dar
conta do diverso nos sistemas de avaliao centrados
no homogneo, particularmente nos contextos de
multi(inter)culturalidade, o Laboratrio Latino-Americano criou um grupo de trabalho com os pases interessados.
137
realidades. Embora isto tenha sido indicado com freqncia como um problema, em termos tericos no
deveria haver contradio.
Na prtica, a ao e o trabalho humano so
sempre locais. O que varia no a localizao da ao,
e sim o seu alcance. O tema est, no no locus, mas
no alcance, que varivel de acordo com vrios
parmetros, sendo que o menor deles no o uso da
Internet nas escolas.
O dilema, em nossa opinio, no est no locus,
e sim nos contedos da globalizao e da natureza da
competitividade. Quer dizer, por um lado, o dilema est
no que vai ser posto nos contedos da globalizao,
no sentido de saber se vo ser caracterizados predominantemente como processos pertencentes ao mbito econmico e financeiro, e, conseqentemente, com
um carter reducionista e dominante, ou, pelo contrrio, se tero uma dimenso holstica, diversificadora e
flexvel.
Por outro lado, h a questo da natureza da
competitividade, se ela interpretada como uma atividade dinamizadora pelo seu contedo de rivalidade, de
depredao e de negao dos outros, ou se ser situada no plano da cooperao e da complementao.
Do ponto de vista educacional, o tipo de interpretao ou a construo conceitual que se faa da
globalizao e da natureza da competitividade ter
certamente um grande impacto sobre a gerao dos
novos programas curriculares. Quanto metodologia
da relao entre o enfoque global e o local, consideramos que um marco conceitual desenvolvido pelo IEA,
que estabelece a associao entre currculo intentado
e o macro; entre currculo implementado e o meso e
entre currculo conseguido e o micro, apresenta uma
pista que pode ser frtil para avanar na anlise deste
dilema.
oncluso
138
E STATSTICAS EDUCAIONAIS
NA AMRICA LATINA E NO CARIBE:
RESUMO DOS RESULTADOS
R. W. McMeekin*
Um estudo financiado pela Fundao Ford e
executado pela Oficina Regional da Unesco para la
Educacin en Amrica Latina y el Caribe (Orealc)
examinou o estado em que se encontram as
estatsticas educacionais na regio. Resumimos a
seguir os pontos principais apurados.
O estado das estatsticas educacionais na
Amrica Latina e no Caribe melhorou visivelmente nos
ltimos anos, mas ainda subsistem srios problemas.
Os pases esto conseguindo proporcionar
estatsticas educacionais com muito mais sucesso que
at uma dcada atrs. Receberam bastante assistncia
externa para melhorar suas estatsticas educacionais,
seus indicadores e sistemas de informao para a
administrao (embora isso tenha sido menos eficiente
do que se esperava). A tecnologia disponvel atravs
dessa assistncia foi de grande ajuda e as estatsticas
so hoje mais oportunas e acessveis, podem ser
analisadas com maior facilidade e contm menos erros.
Entretanto, no existe uma compilao de
conhecimentos consensuais a respeito do que constitui
um bom sistema de estatsticas educacionais, nem
uma equipe de consultores especializados aos quais
as agncias e os pases pudessem recorrer.
Foram encontradas prticas inovadoras em
vrios pases: por exemplo, o novo sistema de
informao sobre a Educao no Brasil, o poderoso
sistema de mapas escolares do Paraguai, os
experimentos efetuados em Mendoza com registros
individuais dos estudantes e o extenso conjunto de
indicadores de eficincia dos fluxos de alunos na
Nicargua. Existe tambm uma conscincia crescente
sobre a importncia das estatsticas, dos indicadores
e dos sistemas de informao para a administrao.
Alguns grupos sub-regionais, como o Mercosul e a
Organizacin de Estados Caribeos Orientales (OECS),
esto tomando a iniciativa de estabelecer estatsticas
e sistemas de indicadores comparveis, e os pases
do Convnio Andrs Bello j manifestaram interesse
na questo.
possvel identificar trs grupos principais de
pases, em termos do grau de desenvolvimento e
roblemas tcnicos
Em muitos pases h uma carncia de dadoschave, por exemplo, com respeito matrcula por srie
e por idade dos alunos. Tambm existe uma medio
ou estimativa inadequada de variveis como a
repetncia.
Existem problemas conceituais (especialmente em relao medio de fluxos de alunos e
sua eficincia).
Com freqncia, existe uma discrepncia
entre os perodos de tempo a que se referem a matrcula,
o gasto e a populao por grupo etrio.
Observa-se uma falta de definies e
terminologias claras e consistentes. Existe a
necessidade de se elaborar um glossrio por consenso
dos termos de estatstica educacional. H tambm
srias fraquezas em categorias completas de
139
roblemas institucionais
140
1. Contexto
Populao, taxa mdia de crescimento da
populao e populao escolar (entre 5 e 24 anos de
idade, ou a maior aproximao possvel que for vivel)
141
5. Eficincia interna
Taxas de repetncia, por nvel de ensino.
Taxas de evaso escolar, por nvel de ensino.
2. Alunos e participao
Taxas brutas de matrcula por nvel, inclusive
tercirio, por gnero (e por regio urbana/rural, se
possvel).
Taxas lquidas de matrcula por nvel, por
gnero (e por regio urbana/rural, se possvel).
Taxas de transio entre os nveis primrio e
o secundrio inferior e entre o secundrio inferior e o
superior (Cite 1 a 2 e Cite 2 a 3).
Taxa de transio entre os nveis secundrio
(Cite 3) e o tercirio.
6. Eficincia externa
Mdia do ingresso de pessoas empregadas
segundo o nvel de educao, por gnero;
Taxas de emprego dentro da fora de
trabalho, segundo o nvel de educao alcanado, por
gnero;
Taxas de rendimento econmico, social e
privado por nveis educacionais principais (separando
a educao vocacional/tcnica da educao secundria
geral, se possvel), por gnero.
142
oncluses e recomendaes
eferncias bibliogrficas
143
144
PROJETO INSTITUCIONAL DO
SISTEMA NACIONAL DE AVALIAO
EDUCACIONAL DA TAILNDIA
Nongram Setapanich*
Com relao ao desempenho econmico, polticas macroeconmicas prudentes apoiaram um rpido crescimento econmico e a estabilidade dos preos na Tailndia durante a ltima dcada. Entretanto,
a partir do incio de 1997, o pas passou a experimentar uma crise econmica, devida a lderes polticos incompetentes, polticas e desempenhos econmicos
inadequados dentro do pas, bem como ataques externos moeda e intensa concorrncia.
Esta crise contribuiu tambm para a m qualidade, como resultado da educao inadequada do povo
tailands, que ser descrita neste trabalho.
ntroduo
A Tailndia est localizada no corao do continente do Sudeste da sia, com uma populao de 60
milhes de habitantes (dados de 1996), que vive em
um clima quente e bastante mido. Ainda que a maioria da populao seja tailandesa, o pas tem uma variedade de grupos minoritrios, entre os quais, os mais
numerosos so os chineses. Em termos de religio, a
maioria da populao tailandesa formada de budistas.
Em 1996, 57,3% da populao geral participavam da fora de trabalho, enquanto que 18,8% eram
formados de indivduos com mais de 13 anos de idade,
que no participavam da fora de trabalho. Os 23,9%
restantes tinham ainda menos de 13 anos. Entre a
populao empregada, 50,4% trabalhavam no setor
agrcola; 13,9%, na indstria; 12,7%, no comrcio;
11,7%, no setor de servios; 6,2%, em construo e
3,6%, no setor de transportes.
*Nongram Setapanich, doutora em Educao Comparada, secretria-geral adjunta da ONEC, onde anteriormente desempenhou o cargo de diretora do
Education System Developmet Office. Publicou artigos em peridicos e relatrios sobre avaliao da educao, onde se destacam as seguintes obras:
Evaluation System of National Quality and Standards (1997) e An Evaluation of the Sixth National Education Development Plan: a policy paper (1994).
145
De acordo com o Esquema Nacional de Educao de 1992, o sistema educacional tailands cobre
tanto a educao em sistemas relacionados escola
quanto o processo de aprendizagem constante, durante todo o perodo da vida dos indivduos.
A educao dentro do sistema relacionado com
a escola fornecida por instituies educacionais, que
se caracterizam por um sistema de classes e sries,
utilizando currculos especficos para distintos nveis e
tipos de educao. O sistema escolar divide-se em
quatro nveis: educao pr-escolar, de um a trs anos
de idade, educao primria, durante seis anos, educao secundria, dividida entre trs anos iniciais e
trs anos de escola secundria superior, e educao
superior, que cobre de quatro a seis anos, para o grau
de bacharel, e dois anos para os graus de mestrado e
doutorado.
O processo de aprendizagem contnua, ao longo de toda a vida, diz respeito auto-aprendizagem a
partir de vrias fontes de conhecimento e ambientes,
relacionados a formas de vida que existam naturalmente
ou modificadas, para expanso da prpria aprendizagem. No apenas esse processo de aprendizagem
complementa a educao formal, mas corrige tambm
a dependncia excessiva da educao formal, oferecendo oportunidades para educao constante, atravs da aprendizagem em comunidade e da utilizao
das tecnologias de informao e dos meios de comunicao de massa.
Os programas de educao no formal so
tambm cruciais para o desenvolvimento de uma sociedade da aprendizagem, tanto em termos do sistema
relacionado escola, utilizando currculos equivalentes aos da educao formal, quanto o sistema informal, ou de auto-aprendizagem, a partir de uma variedade de fontes de aprendizagem.
Em termos administrativos, h muitos ministrios e agncias que fornecem educao. Os princi-
Como j foi mencionado anteriormente, a educao vista como instrumento crucial para o desenvolvimento dos recursos humanos, considerados muito importantes para todos os outros aspectos do desenvolvimento, bem como para o fortalecimento da
competitividade da Tailndia em relao a outros pases, em meio corrente da globalizao. A evidncia
emprica demonstra de forma consistente que os povos dos pases mais desenvolvidos so melhor educados do que os dos menos desenvolvidos. Portanto, a
comparao da educao entre uma variedade de pases dever possibilitar um quadro sobre a condio
da educao tailandesa, em meio a este mundo competitivo.
O nvel de educao do total da populao pode
melhor refletir a qualidade do povo tailands. Constatase que a mdia de anos de educao da populao da
Tailndia, em comparao com os pases vizinhos da
sia, menor do que na Malsia, em Cingapura, na
Coria e no Japo (ver Grfico 1).
146
pais ministrios, com responsabilidade direta pela educao, so o Ministrio da Educao, que fornece praticamente todos os nveis e tipos de educao para o
grupo maior de aprendizes; o Ministrio de Assuntos
Universitrios, responsvel principalmente pela educao superior; e o Ministrio do Interior, responsvel pelas
escolas municipais, bem como pelas de Muang Pattaya
e as da rea metropolitana de Bangcoc, que oferecem
educao bsica do jardim de infncia at o nvel secundrio inferior. Alm disso, h seis outros ministrios que oferecem educao, especificamente para atender s necessidades de suas especialidades, enquanto que o Escritrio da Comisso Nacional de Educao a entidade responsvel pela formulao e pelo
planejamento da poltica educacional geral.
No nvel de departamentos, existem aproximadamente 54 departamentos que fornecem educao,
para um total de 50 mil escolas ou mais. Como conseqncia do nmero muito grande de agncias e instituies que fornecem educao, inevitvel a variao
da qualidade educacional e de seus padres; assim,
obviamente necessria uma avaliao da qualidade da
educao, para a obteno dos padres exigidos.
O mesmo verdadeiro para o nmero de anos de educao da fora de trabalho tailandesa, que fica
tambm atrs do indicador correspondente de outros pases (ver Grfico 2).
Grfico 2 Educao da fora de trabalho
Com relao mo-de-obra nos campos de cincia e tecnologia, constata-se que o nmero de cientistas e
de engenheiros por 1.000 habitantes relativamente pequeno na Tailndia (ver Grfico 3).
Grfico 3 Nmero de cientistas e engenheiros por 1.000
147
643
650
607
607
600
605
599
571
565
550
500
M ate m tica
C i ncia
450
0
2 4
3 3
4 24
20 21
1 1
C in gapura C oria Japo H ong co ng Tailndia
Ainda, a classificao das 50 universidades da sia, realizada pela Asiaweek, apesar de alguns problemas
quanto a sistemas de medio e indicadores, revelou que as universidades tailandesas ficaram no grupo inferior, em
comparao a outras universidades da sia (ver Grfico 5).
Grfico 5 Classificao de Universidade da Asiaweek
87.52
77.38
72.01
64.25
61.40
47.63
21.63
Jap o
H o ng co ng C in g ap ura M alsia
11
C o ria
Tail nd ia
16
36 44
estrutura e administrao. Alm disso, a crise econmica deste ano e a prevalncia dos governos fracos no
pas mostram uma evidncia da baixa qualidade da
populao tailandesa, como resultado da m educao.
Portanto, preciso melhorar e atualizar a educao na Tailndia, e para isto no bastar apenas
oferecer uma educao superior e mais extensa. So
tambm extremamente necessrias melhorias de qualidade, e essas melhorias no podero ser realizadas
sem uma avaliao adequada, para revelar as falhas
existentes, que precisam ser revistas e aprimoradas.
148
100
90
80
70
60
50
40
30
20
10
149
150
Atualmente, o processo de garantia de qualidade na escola particular encontra-se na fase de reviso dos critrios de avaliao que, com freqncia,
realizada como resultado de remanejamento do secretrio-geral, o que desta forma contribui para uma garantia da qualidade escolar que no tem consistncia.
O Departament of Vocational Education (subordinado ao Ministrio de Educao) avalia universidades, com a finalidade de selecionar e premiar as
que mais se distingam, empregando os seus prprios
critrios, quanto a padres. A principal tarefa do departamento hoje desenvolver a garantia de qualidade nas
universidades vocacionais, aplicando as normas da
International Standards Organization (ISO 9000) ao sistema educacional. Esse desenvolvimento ocorreu atravs de um projeto piloto implementado em uma das
universidades vocacionais: o corpo docente foi treinado para obter conhecimento e entendimento sobre
como aplicar a ISO 9000 para o desenvolvimento da
educao vocacional. A implementao deste projeto
vem-se revelando como sendo bastante satisfatria, e
o departamento tem inteno de estend-lo a outras
universidades.
Alm disso, o departamento avalia tambm os
projetos implementados de acordo com o Plano
Qinqenal de Desenvolvimento da Educao Nacional, ainda que as amostras em estudo sejam ainda
muito pequenas, e existam problemas, devido
inadequao de pessoal, oramento e apoio administrativo.
O Officce of Rajabhat Institute Council (subordinado ao Ministrio da Educao), responsvel pelas
instituies dedicadas ao treinamento de professores,
raramente executa avaliaes significativas, limitandose ao acompanhamento da implementao dos projetos e do emprego do oramento. No so realizadas
de modo consistente quaisquer avaliaes diretas do
treinamento de professores; apenas pesquisas ocasionais foram realizadas, sobre aspectos como a qualidade do trabalho dos funcionrios das Rajabhat Teacher
Training Institutions, alm do acompanhamento da condio de emprego dos formados. O conselho enfrenta
tambm os mesmos problemas que os outros departamentos, como o fato da falta de pessoal de avaliao
e outros meios de apoio.
Apesar do problema, Rajabhat percebeu a necessidade de garantia de qualidade, e apoiou o treinamento do seu pessoal, ministrado por especialistas
estrangeiros nas reas de Gesto da Qualidade Total
e ISO 9000. Com base nos conceitos e nas prticas
desses mtodos, foram ressaltados fatores que afetam a qualidade da educao atravs de um processo
de brainstorming realizado entre as instituies
Rajabhat, como estrutura para o desenvolvimento da
qualidade. Esses fatores incluem a filosofia das instituies Rajabhat, currculo, pessoal, corpo discente,
instruo, atividades estudantis, recursos de aprendizagem, administrao, finanas, pessoal administrativo,
ONEC
Ministrios
Departamentos
Escritrios
Subprovinciais
Escritrios
Provinciais
Avaliao externa de um
desenvolvimento geral,
realizada pelos rgos
centrais
Escolas
enviar questionrios
devolver questionrios preenchidos
151
Planejar
Metas e
Objetivos
Necessrios
Implementar
Resultado
ou
Produto
152
Avaliar
padro. Ademais, so relatados os resultados da avaliao para o pblico, como fator de proteo do consumidor.
153
educao para o desenvolvimento de recursos humanos, que possam contribuir para o desenvolvimento
nacional. Tudo isso tambm verdadeiro na Tailndia,
que precisa efetivamente desenvolver a qualidade de
sua populao e os seus potenciais, para expandir a
competitividade do pas em relao a outros pases, e
em todos os aspectos do desenvolvimento.
Apesar de todos os esforos, o sistema educacional na Tailndia no dispe de um rgo principal,
que seja responsvel pela avaliao, pela qualidade nacional da educao e dos seus padres. Verifica-se tambm que o sistema de avaliao existente inadequado, tanto em termos de qualidade quanto de quantidade,
o que gera feedback igualmente no apropriado para o
desenvolvimento nacional da educao.
Por isso, preciso que seja desenvolvido uma
estrutura sistemtica de avaliao, com base no conceito e na prtica analisada em outros setores e em
outros pases, para que possam ser solucionados os
problemas existentes, assim como para que seja possvel adquirir um mecanismo para aprimoramento e
desenvolvimento educacionais.
necessrio desenvolver diretrizes e padres
nacionais de educao, em todos os nveis, sendo indispensvel executar-se uma avaliao de qualidade,
para garantir que essas diretrizes e padres sejam atendidos. Tudo isto dever partir de esforos de colaborao, empreendidos entre os vrios rgos relacionados, que, como rgos implementadores, incluindo
vrios ministrios e departamentos responsveis pela
educao e por instituies de educao, devem tomar parte no desenvolvimento de padres, bem como
na implementao e na avaliao de seu prprio desempenho de acordo com eles. O rgo diretamente
responsvel pelo desenvolvimento de padres e diretrizes, bem como pela garantia da qualidade baseada
em nveis acordados, dever ter carter central e autnomo, fora da linha de controle dos rgos de
implementao. Este rgo dever promover e apoiar
a avaliao interna nas instituies de educao atravs de vrios canais, como, por exemplo, o fornecimento de treinamento e de financiamento parcial para
esta atividade. No caso da avaliao externa, ser oferecido apoio ao setor privado bem como s associaes acadmicas e profissionais, para a inspeo e a
avaliao das instituies de educao.
Os inspetores privados devero ser treinados
e registrados como inspetores qualificados, para estarem aptos para a avaliao de escolas de educao
pr-universitria, como o caso dos inspetores independentes registrados na Inglaterra. A inspeo escolar ser realizada atravs de licitaes efetuadas entre
inspetores privados registrados, que devero estudar
antecedentes sobre a escola e preparar planos de inspeo antes de procederem inspeo das escolas.
Os relatrios de inspeo resultantes devero ser apresentados ao rgo central responsvel, s escolas e
154
O Instituto
1. Desenvolvimento de
Padres
5. Secundrio
8. Educao
Superior
2. Inspetor
Registrado
6. Treinamento
Vocacional
3. Pr-Primrio
7. Instituio
Privada
9. Outros
rgos
10. Administrao
155
4. Primrio
O Grupo de Trabalho sobre Padres ser responsvel pelo desenvolvimento de pesquisa, para o desenvolvimento de Padres Nacionais de Educao que
possam ser comparados aos padres de nvel mundial.
O Grupo de Trabalho sobre Inspetores
Registrados ser responsvel por selecionar, desenvolver e registrar inspetores independentes privados qualificados, bem como por supervisionar se as inspees
executadas pelos inspetores atendem qualidade e
aos padres exigidos.
Os Grupos de Trabalho 3 a 9 sero responsveis pela promoo de avaliao interna nos vrios nveis de instituies e rgos de educao.
O Grupo de Administrao ser responsvel
pela administrao geral, em apoio a todas as atividades descritas acima.
Processo de Implementao. A implementao
dever incluir as etapas abaixo (Grfico 9):
2
Apresentao da poltica de Padres
Nacionais de Educao Comisso
Nacional de Educao
4
Avaliao interna
3
Aprovao dos Padres
Nacionais de Educao
5
Avaliao externa
As etapas para a avaliao interna executadas pelas instituies e rgos de educao podero incluir o
seguinte (Grfico 10):
1. Preparao da
avaliao interna
4. Preparao dos
documentos
necessrios
7. Monitorizao e
avaliao
2. Comparao com
a ISO 9000/GQT
5. Preparao
de manuais de
qualidade
8. Aprimoramento/
ajuste da
implementao/
documentos
156
6. Implementao
9. Solicitao de
avaliao externa
1. Estabelecimento de
critrios de avaliao
4. Execuo da
avaliao
2. Desenvolvimento e
seleo de avaliadores
externos
6. Apresentao Comisso
Nacional de Educao,
Gabinete e ao Congresso
5. Preparao do
relatrio
oncluso
Sendo a educao uma das chaves para o desenvolvimento da qualidade humana, considerada como
primordial para o desenvolvimento nacional e para a
competitividade mundial, de suma importncia a gerao de educao de qualidade. Desta forma, a garantia da qualidade e a avaliao tornaram-se uma questo crucial no fornecimento de educao de boa qualidade aos povos de vrios pases. A avaliao no deve
ser limitada a testes e medies, como era o conceito
do passado, mas uma parte significativa do
gerenciamento. Este tipo de avaliao dever incluir
tanto a avaliao externa quanto interna, sendo executada por todas as instituies e rgos de educao,
como parte integrante do processo de gesto, para
chegar s metas e objetivos exigidos. Outrossim, dever ser bem-vinda a participao no processo de todas as partes envolvidas, sendo os resultados da avaliao informados e verificados pelo pblico, com fins
de prestao de contas. Ainda, as concluses derivadas da avaliao devero ser utilizadas para sugerir
aprimoramentos de qualidade e maiores recomendaes para o desenvolvimento educacional. Este sistema de avaliao dever ser desenvolvido por um rgo
que seja independente e autnomo, para permitir flexibilidade, eficcia e avaliao imparcial. Todas essas
prticas tornaro a avaliao educacional mais significativa, contando com o valor pelo investimento, a prestao de contas, a liberdade acadmica, a administrao descentralizada e a participao, para chegar a
obter impactos significativos sobre o planejamento, a
elaborao de oramentos e a administrao, com vistas a uma melhor qualidade e eficincia da educao.
3. Determinao de
contratos para
avaliao externa
eferncias bibliogrficas
157
158
159
160
S EMINRIO INTERNACIONAL
DE AVALIAO EDUCACIONAL:
DOCUMENTO DE TRABALHO
A exemplo do que ocorre num crescente nmero de pases, o Ministrio da Educao e do Desporto do Brasil (MEC) incluiu entre seus objetivos
prioritrios para os prximos anos a melhoria de qualidade da educao. Os desafios cientficos,
tecnolgicos e econmicos que experimentam nossas
sociedades, a forte demanda social que reclama uma
educao mais ampla e completa, a necessidade de
utilizar mais adequadamente possvel os recursos, escassos por natureza, e a presso em favor de um desenvolvimento sustentvel e eqitativo convertem esse
objetivo numa exigncia incontestvel qual os poderes pblicos devem dar resposta. Em diversos foros
internacionais, foi salientado que o principal desafio dos
sistemas educacionais contemporneos no mais
apenas proporcionar educao a todos os cidados,
mas, tambm, assegurar que esta seja de qualidade.
Entre os fatores que podem contribuir para a
melhoria qualitativa da educao, a avaliao do sistema educacional e de seus componentes ocupa um lugar de destaque. Na realidade, a adoo de medidas
voltadas para a melhoria da atividade educacional somente pode assentar-se sobre uma informao rigorosa, contrastada e equilibrada. A avaliao permite obter e difundir essa informao, convertendo-se assim
num poderoso instrumento de conhecimento, de valorizao e, em ltima instncia, de mudana. No de
estranhar que, neste contexto, tenha-se chegado a afirmar que ela constitui um recurso de primeira ordem a
servio de um novo estilo de fazer poltica e de conduo dos sistemas educacionais.
Em concordncia com essas premissas, o Ministrio brasileiro vem desenvolvendo j h alguns anos
uma srie de programas de avaliao, que compreendem diversos nveis educacionais, como a Educao
Bsica, as universidades e os cursos de graduao e
ps-graduao. As iniciativas empreendidas at o momento permitiram articular uma linha de trabalho promissora, constituir novas equipes de profissionais e
adquirir uma valiosa experincia acerca das possibilidades e limitaes do uso da avaliao no mbito educacional.
Entretanto, apesar dos avanos alcanados
neste terreno, a rpida evoluo por que passa a ativi-
161
162
163
164
que se orientam nessa direo. Visto que a experincia e o saber em matria de avaliao esto espalhados internacionalmente, a cooperao internacional
muito conveniente. Por esse motivo, a agenda de trabalho do futuro deve reservar um espao para as tarefas de formao.
Por ltimo, convm reservar tambm um lugar
especfico nesta agenda do futuro para dar respostas
s necessidades especficas dos pases em desenvolvimento. Tanto no que se refere gerao e difuso de
conhecimento como s atividades de intercmbio e
cooperao internacional e s tarefas de formao, este
grupo de pases deve ocupar um papel relevante, se
no quisermos que fiquem marginalizados das novas
tendncias que se vm observando nos pases desenvolvidos. Sem que isso suponha, de alguma forma, uma
assimilao mimtica ou a criao de uma nova dependncia, necessrio contribuir para gerar naqueles pases os elementos de reflexo, as competncias
profissionais e os modos de organizao que permitam extrair o mximo de valor possvel da avaliao,
mediante uma adaptao inteligente a suas prioridades, suas agendas e suas necessidades. As decises,
que os organismos internacionais venham a tomar para
continuar trabalhando neste campo nos prximos anos,
devero levar em conta esta situao especfica e
integr-la a seus respectivos planos de ao.
Muito embora esta formulao de intenes
possa parecer demasiado ambiciosa, convm voltar a
insistir no realismo que deve presidir a realizao do
seminrio. Os desafios enfrentados pelos sistemas
educacionais no mbito da avaliao exigem um trabalho cooperativo e gradual, que s pode ser desenvolvido mediante passos sucessivos. Este seminrio quer
contribuir para esse avano geral, ainda que seja realizando apenas uma modesta contribuio.
165