Beruflich Dokumente
Kultur Dokumente
ISSN 0103-6831
5/29/15 3:37 PM
VERSO IMPRESSa
http://publicacoes.fcc.org.br
Dezembro de 2014
Tiragem: 300 exemplares
e-mails
eae@fcc.org.br (contato)
publicacoesfcc@fcc.org.br (aquisio e assinaturas)
AF miolo_EAE_60.indd 2
5/29/15 3:37 PM
Paran, Brasil)
So Paulo, Brasil)
Robert Verhine
So Paulo, Brasil)
So Paulo, Brasil)
COORDENAO DE EDIES
REVISO ESTATSTICA
Miriam Bizzocchi
assistente de edies
Camila Maria Camargo de Oliveira
secretria de edies
Camila de Castro Costa
PADRONIZAO BIBLIOGRFICA
Biblioteca Ana Maria Poppovic
AF miolo_EAE_60.indd 3
5/29/15 3:37 PM
AF miolo_EAE_60.indd 4
5/29/15 3:37 PM
sumRIO
AS CONTRIBUIES DE HERALDO VIANNA
PARA A AVALIAO EDUCACIONAL
Apresentao .................................................................................. 7
AF miolo_EAE_60.indd 5
5/29/15 3:37 PM
Heraldo M. Vianna,
acervo da Fundao Carlos Chagas
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 6
5/29/15 3:37 PM
apresentao
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 7
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 8
5/29/15 3:37 PM
esto separados por temas: teoria e histria da avaliao educacional; formao do avaliador; instrumentos de avaliao; e
reflexes sobre a prtica avaliativa.
Em Avaliao educacional: teoria e histria so apresentados quatro textos. O primeiro, Avaliao educacional: uma
perspectiva histrica, de 1995, discorre sobre o desenvolvimento da avaliao educacional nos Estados Unidos e na Inglaterra, e, posteriormente, no Brasil. O texto apresenta autores e
conceitos importantes para interessados na rea. A seguir, em
Medida da qualidade em educao: apresentao de um modelo, de 1990, Heraldo Vianna discute o conceito de qualidade
em educao, suas implicaes e relaes com a responsabilizao educacional. No terceiro artigo deste segmento, Avaliao
de programas educacionais: duas questes, de 2005, o autor
discute aspectos da validade em avaliao de programas, apontando as diferenas entre esse tipo de avaliao e a avaliao de
desempenho, destacando o aspecto democrtico desse processo e ressaltando a importncia da disseminao dos resultados
para seu efetivo impacto. Em Fundamentos de um programa
de avaliao educacional, de 2003, o autor reflete sobre aspectos que envolvem a definio de uma poltica de avaliao
do sistema educacional brasileiro, considerando a diversidade
socioeconmica e cultural dos alunos, os problemas para a
disseminao dos resultados e as necessidades envolvidas no
planejamento escolar e na tomada de decises.
A segunda parte, Avaliao educacional: formao do
avaliador, composta por apenas dois textos, mas que traduzem
as condies mais relevantes a serem consideradas quando o foco
quem desenvolve a avaliao. Em Avaliao educacional:
problemas gerais e formao do avaliador, de 1982, Vianna
discorre sobre a complexidade crescente do campo da avaliao educacional e suas consequncias para a formao do
avaliador. Dentre os aspectos discutidos esto os modelos tericos desenvolvidos por alguns autores, as diferenas e semelhanas entre pesquisa e avaliao educacional e as funes
do avaliador educacional. Em Avaliao e o avaliador educacional: depoimento, de 1999, Heraldo relata as experincias
vivenciadas por ele no campo avaliativo e as reflexes que suscitaram, sobretudo quanto s necessidades na sua formao e
na reviso de seus posicionamentos.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 9
5/29/15 3:37 PM
10
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 10
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 11
11
5/29/15 3:37 PM
12
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 12
5/29/15 3:37 PM
AvaliacAo
educacional:
teoria
e histOria
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 7-11, n. especial, dez. 2014
AF miolo_EAE_60.indd 13
13
5/29/15 3:37 PM
AVALIAO EDUCACIONAL:
UMA PERSPECTIVA HISTRICA1
1 Artigo publicado na
revista Estudos em
Avaliao Educacional,
So Paulo, n. 12, p. 7-24,
jul./dez. 1995.
14
1. INTRODUO
A pesquisa e a avaliao tm um significado especial no delineamento do processo decisrio em educao. A pesquisa, inicialmente, e, depois, a avaliao, especialmente a avaliao de
programas, projetos e produtos, passaram a ter uma dimenso
maior a partir do sculo XX, sofrendo ambas pesquisa e avaliao a influncia de diferentes cincias, como por exemplo, a
psicologia, a psicometria, a sociologia, a antropologia, a etnografia e a economia, entre outras, de determinaram novos enfoques
metodolgicos com base em vrios posicionamentos tericos.
A avaliao, aps o trauma provocado pela constatao
da deficincia tecnolgica associada carncia educacional,
no mundo ocidental, especialmente nos Estados Unidos, com
o lanamento do Sputnik, no dia 4 de outubro de 1957, tornou-se
impositiva. H todo um esforo no sentido de recuperar o tempo
educacional que fora perdido, sendo criados novos currculos,
e a avaliao passou a ter papel de relevncia no desenvolvimento de novas estratgias de ensino2.
A literatura sobre avaliao educacional, a partir dos
anos 60, cresce enormemente. Surgem novos posicionamentos
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 14
5/29/15 3:37 PM
tericos e novas propostas de atividades prticas, que enriquecem e tornam complexo o campo da avaliao. Algumas
questes fundamentais so levantadas, com profundas implicaes na sua teoria e na sua prtica. justo, portanto, que,
inicialmente, seja discutida a sua evoluo histrica a partir
da perspectiva norte-americana, em cujo contexto se desenvolveram numerosos e importantes trabalhos, em particular
em decorrncia da ao seminal de Ralph W. Tyler. Outras
fontes, entretanto, tambm sero indicadas, especialmente
inglesas e, subsidiariamente, trabalhos de autores nacionais,
ainda que a produo terica destes ltimos seja bastante reduzida no seu aspecto quantitativo.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 15
15
5/29/15 3:37 PM
16
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 16
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 17
17
5/29/15 3:37 PM
18
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 18
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 19
19
5/29/15 3:37 PM
20
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 20
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 21
21
5/29/15 3:37 PM
22
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 22
5/29/15 3:37 PM
A avaliao educacional na Inglaterra surge em meados do sculo XIX, integrando um programa social maior com vistas eficincia nacional. A educao, na concepo inglesa, considerada
como elemento indiscutivelmente essencial para alcanar essa
eficincia. As pesquisas (e a avaliao) na rea educacional, inicialmente, desenvolvem uma linha ligada a mtodos estatsticos
e tcnica de survey, como ocorreu tambm nos Estados Unidos,
contribuindo, assim, para o desenvolvimento de uma tecnologia:
a psicometria, que mais tarde, seria duramente criticada por
muitos educadores ingleses.
Os trabalhos realizados por F. Galton, K. Pearson, C. Spearman
e C. Burt, entre outros, na Inglaterra, contriburam para que a
psicometria tivesse influncia considervel na avaliao educacional, em especial na construo de instrumentos de medidas
psicolgicas e do rendimento escolar. A utilizao da teoria dos
erros e a aplicao da noo de distribuio normal no estudo
da variabilidade das diferenas individuais concorreu para gerar
reaes justificadas ao uso da psicometria da avaliao3. Isso contribuiu para que novos caminhos se abrissem para a explorao
de diversos aspectos da avaliao educacional. Entretanto, apesar dessas reaes adversas tradio psicomtrica, a Inglaterra,
a partir da dcada de 50, realizou importantes trabalhos sobre
a alfabetizao e a aprendizagem da leitura, contribuindo, desse
modo, para o delineamento de novas metodologias experimentais e o desenvolvimento da teoria dos testes (Norris, 1993).
A teoria do desenvolvimento econmico, pleno emprego
e segurana nacional, inspirada em concepes apresentadas por
Keynes, teve amplas repercusses na definio das polticas pblicas da educao inglesa. Houve, naquele momento histrico,
uma preocupao especial com os problemas relativos qualidade dos estudantes que, em grande nmero, procuravam cursos
de cincias aplicadas e tecnologias, e, concomitantemente, um
profundo interesse na formao de professores de cincias destinados s escolas secundrias. A partir do iderio econmico de
Keynes, que em grande parte fundamenta o capitalismo posterior
guerra de 1939-45, inclusive nos Estados Unidos, os educadores
ingleses passaram a considerar a relao entre mo de obra tecnicamente qualificada pelo processo educacional e o crescimento
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 23
23
5/29/15 3:37 PM
24
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 24
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 25
25
5/29/15 3:37 PM
4 Uma apresentao
detalhada da evoluo
histrica da avaliao na
Inglaterra e suas mais recentes
experincias de avaliao de
programas acha-se em Norris
(1993), captulos 2, 4, 5 e 6.
As atividades de avaliao educacional no Brasil so bastante escassas, ainda que, no momento atual (1995), a temtica venha
sendo verbalizada pelo Ministrio da Educao, que tem apresentado ideias, s vezes bastante discutveis, sobre a seleo para
o acesso ao 3 grau de ensino e relativas avaliao institucional
por intermdio de uma avaliao do rendimento acadmico ao
trmino dos cursos de graduao.
A avaliao educacional, conforme ser discutido, mesmo
quando a nvel de sistema, no contexto brasileiro, baseia-se, fundamentalmente, no rendimento escolar, ainda que haja uma coleta
simultnea de dados socioeconmicos e de variveis ligadas ao ensino, ao professor e escola, em alguns casos. As pesquisas e estudos de avaliao apresentados nesse item em discusso no visam
a uma reviso da literatura e nem incluem trabalhos acadmicos,
quase sempre relacionados a pr-requisitos da ps-graduao universitria, como, por exemplo, os mencionados por Luckesi (1991);
26
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 26
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 27
27
5/29/15 3:37 PM
28
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 28
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 29
29
5/29/15 3:37 PM
mentos, com novas avaliaes, a pedido da Secretaria de Estado da Educao do Paran, envolvendo, inicialmente, alunos
de 2 e 4 sries de escolas de sete cidades (Vianna; Gatti, 1988)
e depois, uma amostra de alunos de escolas oficiais de 22 outras
cidades (Vianna, 1991), com os mesmos objetivos dos trabalhos
propostos pelo INEP.
As avaliaes a nvel estadual promovidas pelo Instituto
Nacional de Estudos e Pesquisas Educacionais INEP visavam a fornecer s Secretarias de Estado da Educao um conjunto de informaes sobre as deficincias da aprendizagem
escolar; por outro lado, os projetos procuravam criar, tambm,
condies para que as prprias Secretarias tivessem uma efetiva participao nos assuntos pertinentes avaliao do rendimento, assim como se envolvessem, ainda, em projetos outros
relacionados a programas, sistemas e materiais didticos (Gatti,
1994). As concluses do projeto, que mostraram aspectos crticos
do ensino de 1 grau em quase 70 cidades das diversas regies
geogrficas do pas, no podem ser, entretanto, generalizadas,
tendo em vista a natureza da amostra, um segmento estatisticamente pouco representativo do universo escolar a nvel de 1
grau, e a falta de equalizao (equating) dos instrumentos. O interessante, e digno de ser destacado, que esse projeto, iniciado
em 1987, mais tarde, em 1991, realizaria pela primeira vez uma
avaliao de escolas do sistema privado de ensino, mostrando a relao entre condio social e rendimento escolar. O estudo, entretanto, ao comparar o desempenho da escoa privada
com o dos alunos das escolas pblicas, revelou que nem sempre
a escola privada um mar de excelncia e a escola pblica tambm nem sempre to ruim quanto se julga, aprioristicamente.
Ainda na dcada de 80, um novo projeto de avaliao a nvel
nacional foi realizado por intermdio da Secretaria de Ensino do
2 Grau, do Ministrio da Educao, com apoio do Banco Mundial
e a colaborao cientfica da Fundao Carlos Chagas, sobre
o desempenho escolar de alunos da 3 srie do Ensino Mdio
(Vianna, 1991). A partir de uma amostra de 3.972 sujeitos de escolas tcnicas federais, escolas estaduais, escolas particulares,
escolas oficiais e particulares com habilitao magistrio e escolas de formao profissional industrial (SENAI), nas cidades de
Fortaleza, Salvador, So Paulo e Curitiba, o projeto identificou
variveis sobre escolaridade e a influncia de fatores socioecon-
30
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 30
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 31
31
5/29/15 3:37 PM
32
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 32
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 33
33
5/29/15 3:37 PM
REFERNCIAS BIBLIOGRFICAS
BUARQUE, Lair L. et al. Avaliao do desempenho da rede pblica escolar do
estado de Pernambuco na rea de linguagem. Estudos em Avaliao Educacional,
So Paulo, n. 5, p. 95-106, 1992.
CAMPBELL, D. T.; STANLEY, J. C. Experimental and quasi-experimental designs
for research on teaching. In: GAGE, N. L. (Ed.). Handbook of research on teaching.
Chicago, IL: Rand McNally, 1963. p. 171246.
CRONBACH, L. J. Course improvement through evaluation. Teachers College
Record, n. 64, p. 672-683, 1963.
GATTI, Bernardete A. O rendimento escolar em distintos setores da sociedade.
Estudos em Avaliao Educacional, So Paulo, n. 7, p. 95-112, 1993.
______. Avaliao da jornada nica em So Paulo. Estudos em Avaliao
Educacional, So Paulo, n. 5, p. 85-89, 1992.
______. Avaliao educacional no Brasil: - experincias, problemas,
recomendaes. Estudos em Avaliao Educacional, So Paulo, n. 10, p. 67-80, 1994.
GATTI, Bernardete A.; VIANNA, Heraldo M.; DAVIS, Claudia. Problemas
e impasses da avaliao de projetos e sistemas educacionais: dois casos
brasileiros. Estudos em Avaliao Educacional, So Paulo, n. 4, p. 07-26, 1991.
LINDQUIST, E. F. Design and analysis of experiments in Psychology and Education.
Boston, Houghton Mifflin, 1953.
LUCKESI, Cipriano C. Avaliao dos resultados da aprendizagem escolar: a prtica
atual e sua compreenso nas concepes pedaggicas. 1991. Tese (Doutorado)
Pontifcia Universidade Catlica de So Paulo, So Paulo, 1991.
MADAUS, G. F.; AIRASIAN, P. W.; KELLAGHAN, T. School effectiveness:
a reassessment of the evidence. New York: McGraw-Hill Book, 1980.
MADAUS, G. F.; STUFFLEBEAM, D. L.; SCRIVEN, M. S. Program evaluation: a
historical overwiew. In: MADAUS, G. F. et al. (Ed.). Evaluation Models: viewpoints
on educational and human services evaluation. Boston: Kluwer-Nijhoff, 1993.
NORRIS, N. Understanding educational evaluation. London: Kogan Page, 1993.
34
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 34
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 35
35
5/29/15 3:37 PM
MEDIDA DA QUALIDADE
EM EDUCAO:
APRESENTAO
DE UM MODELO1
36
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 36-42, n. especial, dez. 2014
AF miolo_EAE_60.indd 36
5/29/15 3:37 PM
apresentam refletem expectativas culturais e educacionais na sociedade, bem como seus valores e seus objetivos sociais e econmicos. Assim, impositivo verificar em que medida a interao
dessas variveis contribui para a qualidade da educao.
necessrio reiterar que a avaliao da qualidade da educao no se limita apenas verificao do rendimento escolar,
que um momento na caracterizao dessa qualidade. O desempenho dos estudantes em pesquisas da qualidade da educao
melhor compreendido e interpretado quando se levantam informaes sobre o tipo de ensino que recebem, os procedimentos que vivenciam em sala de aula e no colgio, e ainda sobre
as caractersticas ambientais da famlia que determinam o seu
comportamento. Assim, a pesquisa sobre a qualidade da educao precisa caracterizar o contexto nacional em que o processo
educacional se desenvolve, identificar criticamente os fatores
no diretamente ligados escola que afetam a educao e analisar
a ao da escola em termos de entrada, processo e produto.
A avaliao da qualidade da educao deve, necessariamente,
partir de uma anlise do contexto nacional, envolvendo as caractersticas da populao, os seus valores culturais, os investimentos
financeiros em educao e a organizao das escolas. As caractersticas da populao no se devem limitar a estatsticas demogrficas, mas apresentar e discutir os vrios nveis de educao,
o processo de transformao da economia e a composio da fora de trabalho, assim como suas tendncias. Os valores culturais
da sociedade precisam ser identificados, destacando-se, particularmente, a problemtica da maior ou menor valorizao da
educao, o papel da educao no desenvolvimento individual
e na formao profissional, as oportunidades educacionais oferecidas pela sociedade e o grau de universalizao da educao;
alm disso, problemas cruciais como o do status do professor na
sociedade e a responsabilidade da famlia na educao necessitam tambm ser considerados. Os investimentos financeiros em
educao no podem deixar de ser considerados como uma das
importantes variveis que influenciam na qualidade da educao,
juntamente com a alocao de recursos humanos qualificados
para a rea educacional. Finalmente, no quadro do contexto nacional, a avaliao da qualidade da educao deve considerar a
organizao do sistema escolar, identificando os diversos tipos
de escola, os graus de centralizao administrativa, a influncia
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 36-42, n. especial, dez. 2014
AF miolo_EAE_60.indd 37
37
5/29/15 3:37 PM
38
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 36-42, n. especial, dez. 2014
AF miolo_EAE_60.indd 38
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 36-42, n. especial, dez. 2014
AF miolo_EAE_60.indd 39
39
5/29/15 3:37 PM
40
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 36-42, n. especial, dez. 2014
AF miolo_EAE_60.indd 40
5/29/15 3:37 PM
ANEXO
Medida da Qualidade em Educao
Esquema de um modelo
AF miolo_EAE_60.indd 41
5/29/15 3:37 PM
3.1.5.
42
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 36-42, n. especial, dez. 2014
AF miolo_EAE_60.indd 42
5/29/15 3:37 PM
AF miolo_EAE_60.indd 43
5/29/15 3:37 PM
Avaliao de
Programas Educacionais:
duas questes1
2 In: Kellaghan e
Stufflebeam (2003).
44
1. Introduo
A avaliao educacional, no contexto brasileiro, comeou a
desenvolver-se tardiamente, em meados dos anos 60, ainda que
com a quase total centralizao nos processos de medida, situao esta que subsiste nos tempos atuais. Apesar desse relativo
desenvolvimento, foi ignorado, por alguns segmentos, o fundamento terico da avaliao; a subjacente teoria da avaliao em
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 44
5/29/15 3:37 PM
2. Avaliao de Programas:
um processo democrtico
O problema da avaliao como um processo democrtico foi
discutido com bastante amplitude por House e Howe (2003)
e permite consideraes relativas a esse assunto nem sempre
explorado por tericos e praticantes da avaliao. O trabalho
de avaliar uma atividade de equipe e, como tal, pressupe
uma ao sem conflitos internos, visando a garantir a validade das concluses a que a equipe possa chegar na consecuo
dos seus objetivos. bom destacar que toda avaliao, inclusive a de programas, tem inserido em seu contexto interesses
de diferentes pessoas que refletem diversidade de valores, vrias vises de mundo e, consequentemente, posicionamentos
diversos, traduzidos, por vezes, em situaes de conflito, que
fragilizam a equipe e perturbam o andamento dos trabalhos.
Seria bom lembrar, nesse momento, que, segundo Merleau-Ponty (2004), ... Cada ser um s, e ningum pode dispensar os outros... No h vida em grupo que nos livre do peso
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 45
45
5/29/15 3:37 PM
3 Entende-se como
audincias (stakeholders, em
ingls) todas e quaisquer
pessoas envolvidas ou
afetadas pela avaliao:
estudantes, pais/
responsveis, professores,
administradores, orientadores,
psiclogos, associaes
de pais e mestres, futuros
empregadores, membros da
comunidade e outros que
tomem decises que afetem a
educao do estudante.
46
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 46
5/29/15 3:37 PM
3. Elementos resultantes
de uma avaliao de programas
A indagao sobre quais seriam os elementos que resultariam das
vrias aes em uma avaliao de programa admite mltiplas respostas, se considerarmos o grande nmero de modelos existentes,
como pode ser constatado na obra de Madaus et al. (1993); desse
modo, para responder questo inicialmente proposta, o presente
artigo se basear em trabalho de Stake (1973), que teve larga repercusso e, decorridos mais de trinta anos, ainda pode servir de
orientao para aqueles que se dedicam avaliao de programas.
A expectativa, segundo o ponto de vista a ser seguido, de
que o relatrio da avaliao apresente os objetivos definidos
em razo das informaes coletadas nas reunies interativas
com as audincias interessadas. Algumas informaes so significativas para certos grupos de pessoas, mas essas mesmas informaes no atendem aos interesses de outros segmentos das
audincias consultadas. O que importa aos responsveis pela
formulao do programa pode no corresponder aos aspectos
que so de interesse imediato dos pais de alunos, por exemplo.
Assim, fundamental ter em mente a especificidade dos vrios
grupos integrantes das audincias, na fase de elaborao de
relatrios parciais, no decorrer do processo de avaliao e no
momento de estruturao do relatrio final.
O documento de disseminao dos resultados da avaliao
deve ter um carter eminentemente descritivo e levar em considerao o pblico a que se destina. Ele pode no ser de interesse
imediato para os que participaram da implementao do programa no seu dia a dia (professores, tcnicos escolares, administradores, entre outros), mas ser de grande valia para pesquisadores
educacionais e especialistas em avaliao; desse modo, fica definido que na divulgao dos dados de uma avaliao de programa, para que ela tenha impacto, necessrio que a cada tipo de
audincia corresponda um relatrio especfico, variando de um
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 47
47
5/29/15 3:37 PM
48
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 48
5/29/15 3:37 PM
Ainda dentro da linha apresentada por Stake (1973), a avaliao de programa se preocupa em medir diferentes dimenses,
envolvendo habilidades, compreenso e capacidade de interpretar conceitos, por exemplo, cujos resultados devem ser apresentados e interpretados nos relatrios parciais e no documento
final. Essas mensuraes, ocorridas em diferentes momentos da
avaliao do programa, procuram apresentar as suas consequncias, ou seja, os seus resultados. Alm desses resultados, muitas
vezes, no decorrer do projeto, so verificadas atitudes e habilidades motoras. necessrio que se ressalte, quanto s mensuraes,
que elas no podem ficar restritas ao esquema bastante simplista do pr e ps-teste, devendo, ao contrrio, ser adotado um esquema de avaliao formativa.
O relatrio de avaliao apresenta, dessa forma, os efeitos
do programa em relao aos alunos, porm no fica restrito a
esse segmento. Oferece, tambm, informaes relacionadas ao
impacto sofrido pelos professores e pela prpria instituio em
que o programa est sendo aplicado. Essas informaes devem
ser levantadas por intermdio de mltiplas coletas, com o uso de
diferentes tipos de instrumentos, e no podem ficar limitadas
aplicao de um nico teste, questionrio ou a um simples julgamento de professores, como ocorre em frequentes avaliaes.
Ao apresentar o relatrio, necessrio que o avaliador
responsvel pela equipe de trabalho insira uma descrio da
filosofia que serviu de base para a definio e estruturao do
programa que est sendo objeto da avaliao ou, resumindo,
a fundamentao terica do programa, que no pode ser desconhecida pelos que avaliam, mas muitas vezes ignorada por
quem implementa o projeto. preciso levar em conta, por outro
lado, que existem diferentes posicionamentos filosficos em relao educao, sendo necessrio que se caracterize, no documento de disseminao da avaliao, qual a filosofia que serviu
de base para a definio e a construo do programa.
O avaliador, ao considerar o conjunto das atividades que
sero empreendidas pela sua equipe, necessita considerar o
corpo do programa na sua inteireza e identificar os aspectos
que tero maior destaque pela importncia no todo a ser avaliado. Nem tudo incorporado ao conjunto das preocupaes
do avaliador. H aspectos que, por seu significado, configuram
realmente o programa e, assim, merecem ser considerados; so
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 49
49
5/29/15 3:37 PM
50
partes que, por serem essenciais ao programa, vo exercer influncia no seu xito.
Stake (1973), com razo, chama a ateno para o fato de que
o avaliador no deve procurar identificar, na anlise do programa, objetivos referentes a comportamentos. A sua preocupao
centra-se, especialmente, nos objetivos da instituio que adotou
o programa, nos dos pais/responsveis em relao ao programa,
assim como nos objetivos dos alunos, dos professores e nos objetivos que por ventura outros membros da instituio interessados no programa possam ter. Esses objetivos so considerados
durante o transcurso da avaliao, e as vrias audincias ficaro
a par desses objetivos surgidos aos poucos e identificados no decorrer do processo de avaliao. preciso ficar claro, portanto,
que a avaliao no parte de objetivos, mas os vai identificando
no decorrer do processo.
A necessidade de coletar informaes ao longo da avaliao
encarecida por Stake (1973), que, entre outras informaes,
destaca as que se referem 1) a procedimentos instrucionais,
2) a estratgias de ensino adotadas, e 3) a diferentes meios
(e multimeios) empregados pelos professores. Esses elementos
podem ser levantados por intermdio de entrevistas e pela utilizao das mltiplas tcnicas de observao (Vianna, 2000). Ao serem realizadas as observaes necessrio que se caracterizem
os elementos que comprovam o efetivo desempenho dos professores e dos alunos em sala de aula. Alm do mais, importante
que, por intermdio da observao, seja constatada a interao
professor/aluno, a ser objeto de anlise pela equipe.
Ao realizar a avaliao, alm das caractersticas ligadas ao
nvel de competncia dos alunos, precisa ser considerada a sua situao social, varivel esta que pode concorrer para explicar o desempenho escolar. A situao social, segundo Stake (1973), pode
ser apresentada sob a forma de um sociograma4, sendo til esse
dado para mostrar os diferentes tipos de contato social, caso se
realizem avaliaes sucessivas. Outro aspecto a considerar refere-se ao contexto social, ou seja, relao entre a comunidade e a
escola. Ambas devem ser apresentadas com o mximo de detalhes
para que, na hiptese de comparaes e generalizaes, o avaliador possa decidir sobre a efetividade desses procedimentos.
preciso atentar para o fato de que, ao ser adotado o esquema ora apresentado, com base na orientao de Robert L.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 50
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 51
51
5/29/15 3:37 PM
tipos de ganhos no transcurso de um programa. Os instrumentos ora empregados podem ser vlidos para a medida de diferentes tipos de atitudes e a identificao de diversos nveis de
desempenho, mas no refletem, necessariamente, o impacto dos
programas. Essa uma problemtica bastante sria, porquanto,
salvo as excees de sempre, poucas ou raras so as instituies
que se dedicam a criar instrumentos sensveis medida do impacto provocado pelo desenvolvimento de um programa; consequentemente, como atesta Stake (1973), difcil apresentar um
quadro completo do que est efetivamente ocorrendo no mbito
das instituies educacionais.
A caracterizao dos efeitos de um programa outro aspecto a considerar. Algo acontece, sem sombra de dvida, nas
salas de aula, algo alm do tradicional detalhamento dos programas curriculares e das possveis expectativas de professores,
mas esse algo apresenta dificuldades para a tarefa do avaliador,
mesmo que seja um profissional bastante experimentado em
seu mtier. Um caminho provvel para tentar identificar alguma
coisa sobre esse algo desconhecido, que todos sabem existir,
segundo a colocao de Stake (1973), estaria em analisar as
habituais crticas aos programas educacionais; os comentrios,
muitas vezes azedos, sobre as metodologias utilizadas; e, ainda,
as crticas ao material didtico empregado, entre outros aspectos. Uma outra alternativa possvel, proposta por Stake (1973),
consistiria em fazer uma anlise dos dados de diferentes pesquisas educacionais, dados estes que permitiro ao avaliador
identificar variveis teis para a avaliao e para a soluo de
seus possveis problemas.
Todo projeto de avaliao tem um custo que no apenas
financeiro, mas que precisa ser estimado e o seu oramento
controlado, tendo em vista solicitaes e novas ideias que possam gerar despesas no previstas. Outros custos existem, como
os de pessoal, considerando que uma avaliao de programa
exige uma equipe capacitada, cujo custo nem sempre possvel traduzir em termos quantitativos, mas que no deixa de ser
um custo, e que a avaliao de programas demanda um tempo
razoavelmente longo para a sua concretizao. Por outro lado,
h o custo relativo ao aluno, que se v envolvido numa atividade nem sempre interessante para ele. A sua participao significa horas extras de trabalho, aumento de tenso e a conscin-
52
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 52
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 53
53
5/29/15 3:37 PM
4. Consideraes finais
As partes envolvidas na avaliao de um programa precisam partir, necessariamente, de um processo de negociao, conforme
destaque anterior, a fim de que os seus interesses sejam definidos
e a avaliao possa atingir os objetivos propostos. A negociao
vai possibilitar que os grupos envolvidos, atendendo dinmica
de um processo democrtico, definam suas concordncias e eliminem possveis situaes de conflito, prejudiciais ao trabalho.
O impacto de um programa de avaliao est diretamente
ligado ao sucesso da disseminao dos resultados. Uma poltica de divulgao dos resultados precisa considerar os diferentes
grupos interessados para que, em funo de suas caractersticas, possam ser selecionadas as informaes que correspondem
diversidade dos vrios interesses. Assim, a validade de uma
avaliao depende grandemente da disseminao criteriosa das
informaes para as vrias audincias.
Ao finalizar o presente artigo, importante destacar a criao
da memria do projeto, atividade que no pode ser desprezada em
nenhum momento do seu processo de gerenciamento. As avaliaes repetem-se ao longo do tempo e a documentao referente a
atividades anteriores pode contribuir para evitar que sejam duplicados trabalhos antes definidos, planejados, desenvolvidos e concretizados. O material para a realizao de novas avaliaes pode,
assim, ser aprimorado luz de experincias anteriores.
5. Referncias bibliogrficas
HOUSE, E. R.; HOWE, K. R. Deliberative democratic evaluation. In: KELLAGHAN,
T.; STUFFLEBEAM, D. L. (Ed.) International handbook of educational evaluation.
Boston: Kluwer Academic, 2003. v. II. p. 79.
KELLAGHAN, T.; STUFFLEBEAM, D. L. (Ed.) International Handbook of Educational
Evaluation. Boston: Kluwer Academic, 2003. v. II, section 8, p. 699.
MADAUS, G. et al. Evaluation models: viewpoints on education and human
services evaluation. Boston: Kluwer-Nijhoff, 1993.
MERLEAU-PONTY, M. Conversas: 1948. So Paulo: Martins Fontes, 2004. p. 50.
______. Merleau-Ponty na Sorbonne: resumo de cursos, filosofia e linguagem.
Campinas: Papirus, 1990.
54
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 54
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 44-55, n. especial, dez. 2014
AF miolo_EAE_60.indd 55
55
5/29/15 3:37 PM
Fundamentos
de um Programa de
Avaliao Educacional1
Maurice Merleau-Ponty2
Estudos em Avaliao
Educacional, n. 28, p. 33-37,
jul./dez. 2003.
2 MERLEAU-PONTY,
Maurice. Fenomenologia da
percepo. 2 ed. So Paulo:
Martins Fontes, 1999. p. 3-6
[Traduo de Carlos Alberto
Ribeiro de Moura].
56
As reflexes sobre avaliao, ora registradas, decorreram de experincias pessoais a partir de 1962 e se expandiram aps 1969,
compreendendo a publicao de livros e a elaborao de artigos,
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 56
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 57
57
5/29/15 3:37 PM
comprometidas e que comparaes intra e entre sistemas no levem a colocaes destitudas de valor educacional ou que gerem
proposies falaciosas.
Os resultados das avaliaes no devem ser usados nica e exclusivamente para traduzir um certo desempenho escolar. A sua
utilizao implica servir de forma positiva na definio de novas
polticas pblicas, de projetos de implantao e modificao de currculos, de programas de formao continuada
dos docentes e, de maneira decisiva, na definio de elementos
58
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 58
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 59
59
5/29/15 3:37 PM
60
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 60
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 61
61
5/29/15 3:37 PM
62
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 62
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 63
63
5/29/15 3:37 PM
64
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 64
5/29/15 3:37 PM
devem ter, necessariamente, validade consequencial. A expresso pode determinar controvrsias, necessitando, portanto, ser
plenamente esclarecida. A validade consequencial no se refere
a distines, prmios e/ou bnus, e muito menos a rankings e menos ainda a comparaes. fundamental que os resultados das
avaliaes cheguem aos alunos, aos pais, aos educadores e
a toda a comunidade educacional, no devendo ficar restrita
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 65
65
5/29/15 3:37 PM
4 DESCARTES, Ren
(1596-1650). Princpios da
Filosofia. Portugal: Porto
Editora, 1995. Coleo
Filosofia Textos. [Introduo
e comentrios de Isabel
Marcelino. Traduo de Isabel
Marcelino e Teresa Marcelino.]
66
que futuras geraes tenham conscincia de que ensinar, aprender e avaliar constituem um processo interativo contnuo.
A avaliao no pode ignorar as vrias dimenses do contexto escolar, tendo em vista a influncia que o mesmo tem, e
com destaque especial, na definio das diferentes propostas de
avaliao, cujo objetivo maior, no final, e sem que paire qualquer dvida, centra-se na melhoria do proceder educacional.
preciso atentar para o fato de que nesse momento crtico,
e no apenas para o professor ou para o avaliador, que todos
os envolvidos na ao educativa fazem diferentes opes sobre
como obter informaes compreensivas que permitam decises
individualizadas ou outros elementos que possibilitem amplas
generalizaes sobre os diferentes atores dessa complexa teia
que o ato de ensinar e educar. Alm disso, em funo desse
contexto em que a avaliao se concretiza que diversas opes
precisam ser definidas de uma forma consistente pelo professor/avaliador: avaliao por critrio ou norma; avaliao
formativa ou somativa; avaliao interna ou externa entre
outras questes igualmente possveis e relevantes para os procedimentos subsequentes da avaliao. No se pode deixar de levar
em conta que os elementos obtidos por intermdio das avaliaes devem ser, necessariamente, interpretados em funo do
contexto em que foram levantados, o mesmo ocorrendo com
a sua disseminao para os diferentes segmentos interessados
nesse tipo de conhecimento.
A educao, em razo do momento histrico, social e poltico, considera seus objetivos e define metas a concretizar, no havendo, destaque-se, um modelo nico e geral que sirva a todos os
povos e a diferentes culturas. H um ponto sobre o qual parece
haver algum consenso, certo grau de concordncia entre educadores dos vrios sistemas educacionais: a educao no visa a
proporcionar apenas conhecimento. O processo educacional
procura formar, tambm, outros tipos de saberes: o saber ser,
o saber fazer e, especialmente, o saber pensar, que implica,
entre outras dimenses, o compreender, o querer, o imaginar e
o sentir, como j acentuava Descartes no distante sculo XVII4.
E a esses saberes agregam-se, ainda, habilidades, interesses,
atitudes e, particularmente, valores. Tudo isso importante
e necessita ser considerado durante a avaliao formativa/contnua. Esse considerar leva-nos a um aspecto da avaliao que
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 66
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 67
67
5/29/15 3:37 PM
bretudo porque, tendo em vista o destino escolhido, a deciso tomada vai influenciar de modo considervel o planejamento da
prpria avaliao. Anteriormente, procuramos dar mais destaque avaliao formativa, ao desenvolvimento individualizado.
A estrutura dessa avaliao no ter as mesmas caractersticas de
uma avaliao baseada em normas, que consideram o desempenho do conjunto amostral, expresso por estatsticas descritivas.
significativo, por outro lado, que se identifiquem os diversos
segmentos da sociedade que utilizaro, com inteligncia, conhecimento de causa e bom senso, os elementos informativos da avaliao. Nem sempre os mais interessados dispem de formao
profissional adequada para um trabalho em profundidade e que
tenha ressonncia na comunidade acadmica. No caso especfico
do contexto brasileiro, reconhecemos que h interesse em divulgar resultados e, nesse sentido, relatrios tcnicos so publicados, ainda que com uma certa demora; por outro lado, as autoridades educacionais, a fim de acelerar o processo de disseminao
das informaes, utilizam-se dos vrios rgos da mdia visando
a fazer com que os dados cheguem aos vrios segmentos sociais.
Isso, entretanto, no basta, no suficiente, quando no se promovem estudos analticos que identifiquem pontos positivos
do ensino/aprendizagem e as defasagens que se constatam, sendo
estas bem mais importantes do que aqueles primeiros.
A ao de avaliar sempre provoca reaes, muitas das quais
com caractersticas negativistas, argumentando que apenas aspectos cognitivos so destacados, sem considerar outros aspectos que, por sua natureza, so, muitas vezes, mais importantes
do que o simplesmente aprendido. preciso no esquecer, contudo, que ao avaliar, implicitamente, tambm se est avaliando
algo mais, representado por habilidades, interesses e valores.
A avaliao, particularmente a que realizada em sala de aula,
sob responsabilidade direta do professor, mais importante,
sem dvida, porque no se restringe a um nico instrumento,
mas resulta, quase sempre, de muitos outros tipos de fazeres,
que englobam elementos qualitativos, incluindo entre essas
prticas as tcnicas de observao. No entanto, a avaliao sistmica, realizada em grande escala, pressupe, naturalmente,
procedimentos padronizados, no para fins de comparao,
como julgam muitos, mas para gerar um quadro isonmico
que d a todos as mesmas condies para demonstrar as capa-
68
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 68
5/29/15 3:37 PM
cidades de cada um por intermdio dos desempenhos especficos que lhes so solicitados. foroso reconhecer, contudo,
que os procedimentos de avaliao, por mais bem planejados e
refinados que sejam os seus instrumentos, nunca oferecem um
quadro completo da realidade do ensinar/aprender, pois nunca se conhece a realidade em toda a sua complexidade, assim
como, tambm, por melhores que sejam os indicadores sociais
os mesmos no conseguem refletir, com preciso absoluta, a
complexidade do mundo social. Sem a avaliao, entretanto,
impossvel formar percepes do processo educacional e da
influncia da ao educativa da escola-famlia-comunidade-aluno e professor.
necessria uma definio de vrios elementos indispensveis a uma avaliao que atenda a todos os requisitos tcnicos,
conforme registro anterior; desse modo, entre essas decises,
todas igualmente prioritrias, cumpre estabelecer se a avaliao
ser por norma ou por critrio. Se for por critrio, como seria realmente desejvel, temos de imediato um srio problema a solucionar: qual seria o ponto de corte a ser definido? Por outro
lado, mais um problema, igualmente importante, deve ser equacionado: quais os padres a serem estabelecidos? A respeito
dos critrios preciso considerar o fato de que esse estabelecimento parte de dados empricos; portanto, a posteriori, ou, ento,
a partir da experincia de professores da rea e/ou de especialistas
no campo da avaliao. preciso lembrar que, na elaborao de
provas referenciadas a critrios, foroso abranger amostras representativas de contedos e habilidades, que, supostamente,
deveriam ser desenvolvidas na escola. Ainda relativamente definio de critrios, estabelecidos a posteriori, isso no se constituir
em um grande problema se a metodologia empregada for a da
Teoria da Resposta ao Item (TRI), conhecida em nosso contexto
educacional graas ao seu uso no Sistema de Avaliao do Ensino Bsico Saeb5. bastante conhecido nos meios educacionais
que o problema da fixao de padres gera controvrsias, mas
uma situao que deve ser encarada e examinada, apesar da sua
complexidade. A definio de padres seria em mbito nacional
ou seriam definidos diferentes padres regionais, considerando
que, muitas vezes, a avaliao no possui carter censitrio, sendo
amostral, mas abrangendo uma geografia sociocultural bastante
diferenciada? Apesar da complexidade do problema, seria reco-
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 69
69
5/29/15 3:37 PM
6 LOCKE, John
(1632-1704). Ensaios Acerca
do Entendimento Humano
(1690) Livro II As Ideias,
Captulo IX. So Paulo: Nova
Cultural, 1999. p.79-80.
70
mendvel a definio de padres de desempenho com suas habilidades em termos nacionais, conforme a amplitude espacial da
avaliao. Esses padres poderiam servir de orientao para professores, especialistas em currculo, administradores e pesquisadores, na definio de seus respectivos planejamentos e, inclusive,
no caso de pesquisas sobre aprendizagem e rendimento escolar.
Insistimos, reiteradas vezes, ao longo das presentes consideraes, que o documento ora apresentado procura traduzir a
nossa percepo sobre o problema da avaliao e seu possvel
impacto nos sistemas educacionais, refletindo-se, dessa forma,
a nossa preocupao com a chamada validade consequencial,
o impacto que toda essa sistemtica exerce nos sistemas de ensino. preciso, no trato dessas questes, evitar a implantao
de certos parmetros valorativos: classificaes, bnus para
os professores, vantagens para os alunos ou premiaes, hierarquizao das escolas, entre outros, que, no final, acabam por
dicotomizar os sistemas, as escolas e os prprios alunos em duas
categorias: os melhores e os piores. Isso determina a perda do
esprito de colaborao que deve existir, estabelecendo-se, em
oposio, um esprito competitivo entre sistemas, instituies
e alunado. evidente que esse tipo de consequncia deve ser
evitado e superado, quando existe. O importante que as propostas de avaliao sejam um reflexo da realidade educacional
e que possibilitem o autoconhecimento do sistema e o conhecimento do sistema pela comunidade social, que nele investir
em termos de recursos humanos e materiais. Uma avaliao que
tenha validade consequencial pode-se transformar, sem sombra
de dvida, em um processo de certificao de competncia.
Ao longo deste trabalho, procuramos pensar sobre os diferentes problemas ligados avaliao e suas possveis solues
a fim de que, aos poucos, mas de forma simples e clara, pudssemos traduzir as nossas percepes, conforme registramos no
incio do trabalho. perfeitamente aceitvel que, quando refletimos sobre o que se passa em nosso entendimento, acabamos
por gerar e, tambm, adquirir novos conhecimentos, conforme
a viso de Locke6. A nossa percepo, desse modo, resultou de
uma operao ativa e refletiu a ao do nosso pensamento, mostrando o entendimento que temos da avaliao e o significado
que lhe atribumos no processo educacional.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 56-70, n. especial, dez. 2014
AF miolo_EAE_60.indd 70
5/29/15 3:37 PM
AF miolo_EAE_60.indd 71
5/29/15 3:37 PM
72
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 72
5/29/15 3:37 PM
AvaliacAo
educacional:
formacAo do
avaliador
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 73
73
5/29/15 3:37 PM
AVALIAO EDUCACIONAL:
PROBLEMAS GERAIS
E FORMAO DO AVALIADOR1
1 Artigo publicado na
revista Educao e
Seleo, n. 5,
p. 9-14, jan./jun. 1982.
74
1. INTRODUO
A importncia da avaliao educacional costuma ser ressaltada
por todos os que integram a comunidade acadmica. At poca
recente, entretanto, essa mesma avaliao limitava-se mensurao do desempenho escolar, ou, ento, era concebida segundo
um modelo simplista, baseado na apresentao de objetivos
comportamentais, construo e aplicao de instrumentos, anlise dos resultados e elaborao de um relatrio final. A avaliao
inclui, sem dvida, todos esses procedimentos, mas a eles no
se circunscreve, porque significaria limitar os seus objetivos, que
so bem mais amplos.
A avaliao, como rea de investigao cientfica, transformou-se numa atividade complexa. Inicialmente, todo o seu enfoque
centralizava-se no aluno e nos problemas de sua aprendizagem;
aos poucos, entretanto, sem se afastar desse interesse, modificou a sua orientao e passou do estudo de indivduos para o de
grupos, e destes para o de programas e materiais instrucionais;
na etapa atual, preocupa-se com a avaliao do prprio sistema
educacional. Se, primeiramente, o interesse maior estava relacionado com problemas de microavaliao, para usar expresso
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 74
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 75
75
5/29/15 3:37 PM
I. a
usncia de uma teoria perfeitamente estruturada e que
traduza um consenso entre educadores;
II. inexistncia de uma tipologia de informaes fundamentais para o processo decisrio;
III. insuficincia de instrumentos e planejamentos adequados
para a avaliao dos diversos fenmenos educacionais;
IV. falta de um sistema que possibilite a organizao, processamento e relatrio de informaes necessrias avaliao; e, finalmente,
V. carncia de elementos qualificados para a realizao das
complexas atividades que o processo de avaliao exige.
Apesar desses problemas, a avaliao educacional pode oferecer valiosas contribuies para a concretizao de mudanas
educacionais, que, na verdade, somente deveriam ser empreendidas quando baseadas em concluses de investigaes perfeitamente estruturadas, implementadas e analisadas.
76
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 76
5/29/15 3:37 PM
Medir uma operao de quantificao, em que se atribuem valores numricos, segundo critrios preestabelecidos,
a caractersticas dos indivduos, para estabelecer o quanto possuem das mesmas. O ndice quantitativo, obtido por intermdio
da medida, identifica o status do indivduo face caracterstica.
Relativamente avaliao, a medida um passo inicial, s vezes
bastante importante, mas no condio necessria, e nem suficiente, para que a avaliao se efetue. Eventualmente, a medida
pode levar avaliao, que, entretanto, ss e realiza quando so
expressos julgamentos de valor.
Avaliar determinar o valor de alguma coisa para um determinado fim. A avaliao educacional visa, pois, coleta de informaes para julgar o valor de um programa, produto, procedimento
ou objetivo (Worthen e Sanders, 1973); ou ainda, a julgar a utilidade potencial de abordagens alternativas para atingir a determinados propsitos. A avaliao refere-se, assim, a atividades
sistemticas ou formais para o estabelecimento do valor de fenmenos educacionais (Popham, 1975), quaisquer que sejam.
A avaliao, para alguns, um processo assistemtico, baseado na opinio de um especialista; um julgamento emitido por
um profissional. So comuns, na rea educacional, avaliaes
informais para a tomada de certas decises. Um livro adotado em vez de outro; uma metodologia de ensino empregada
em substituio a outra, apenas com base em avaliaes assistemticas e impressionistas. A chamada avaliao, nesses casos,
limita-se a uma escolha, com base em percepes, da que seria a
melhor alternativa. , pois, uma simples opo, sem fundamento cientfico. A avaliao, ao contrrio, decorre de um esforo
sistemtico para definies de critrios, em funo dos quais se
coletam informaes precisas para julgar o valor de cada alternativa apresentada. Avaliar , assim, emitir um julgamento de valor sobre a caracterstica focalizada, podendo esse valor basear-se,
parcial mas no exclusivamente, em dados quantitativos.
A Tyler (1942) coube a difuso da definio de avaliao
como um processo de comparao entre os dados do desempenho e os objetivos instrucionais preestabelecidos. Essa definio desfruta de grande aceitao nos meios-educacionais
e, com pequenas variaes, foi incorporada a alguns modelos tericos, como, por exemplo, o de Hammond (s.d.) e o de
Metfessel e Michael (1967).
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 77
77
5/29/15 3:37 PM
Stufflebeam et al. (1971) desenvolveram um modelo centralizado na ideia de que a avaliao deve permitir aos administradores a tomada de decises e, coerentemente, definiram
avaliao como o processo de identificar e coletar informaes
que permitam decidir entre vrias alternativas.
Outros tericos da avaliao educacional, juntamente com
as suas propostas de estratgias para a investigao avaliativa,
propuseram, tambm, definies que, em maior ou menor grau,
so aceitas por muitos praticantes da avaliao educacional.
Entre essas definies destacam-se a de Provus (1971), que apresenta a avaliao como um processo de comparao entre desempenho e padres, e a de Stake (1967), que a caracteriza como
descrio e julgamento de programas educacionais.
A avaliao, como campo emergente na rea educacional,
tem recebido contribuies provenientes de vrias fontes, entre
as quais se destacam as de Michael Scriven, que marcaram, profundamente, a teoria da avaliao educacional Scriven (1967)
concebe a avaliao como um levantamento sistemtico de
informaes e sua posterior anlise para fins de determinar o
valor de um fenmeno educacional. Essa definio, centralizada no problema do valor, influenciou o pensamento de grande
parte dos tericos e praticantes da avaliao educacional moderna, inclusive de alguns elementos que no se preocuparam em
detalhar e explicitar a questo, como foi o caso de Stufflebeam.
Analisada a conceituao estabelecida por este terico, verifica-se que tambm incluiu um julgamento de valor, ainda que no
o tenha explicitado, isso porque escolher essa ou aquela alternativa, isto , decidir, conforme estabeleceu Stufflebeam, julgar
o valor de uma ou de outra alternativa, optando pela melhor,
o que mostra que, na definio de Stufflebeam et al.(1971), est
implcito, tambm, um julgamento de valor.
78
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 78
5/29/15 3:37 PM
das mesmas tcnicas, e muitos dos seus mtodos de ao apresentam grandes semelhanas , o que toma difcil a categorizao de atividades que sejam exclusivamente de um nico tipo
contudo, possuem, tambm, algumas diferenas substanciais,
que merecem ser destacadas.
1) A pesquisa visa a produzir novos conhecimentos, que
representem verdades importantes para a cincia, independentemente de sua aplicao prtica. A avaliao
procura julgar o valor ou a utilidade de um fenmeno, a
fim de tomar decises a seu respeito.
2) A pesquisa, com base na verificao emprica, procura a
verdade cientfica, sem julgar o mrito das relaes entre
variveis; ao contrrio, a avaliao julga a qualidade de
uma determinada relao entre variveis.
3) A pesquisa procura relacionar variveis ou fenmenos
para estabelecer leis;a avaliao, baseando-se numa escala de valores, descreve um fenmeno especfico.
4) A pesquisa, utilizando mtodos empricos ou outros mtodos, examina as relaes entre variveis pata obter um
conhecimento que seja generalizvel, isto , tenta generalizar os seus resultados para situaes comparveis e
quanto maior essa possibilidade, maior o seu significado
cientifico. A avaliao concentra-se num fenmeno especifico, procura estabelecer as relaes entre as variveis
mais relevantes, e no se preocupa com a possibilidade
de generalizar os resultados para outras situaes.
5) A pesquisa e a avaliao buscam o conhecimento para
melhor compreender os fenmenos educacionais, mas
usam esse conhecimento para fins diferentes. A pesquisa, partindo das informaes coletadas, visa a extrair
concluses; a avaliao centraliza o seu interesse em
tomar decises.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 79
79
5/29/15 3:37 PM
80
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 80
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 81
81
5/29/15 3:37 PM
desenvolvidas. Sem pretender apresentar uma relao exaustiva dessas capacitaes, mas apenas considerando as funes
do avaliador numa situao real (Millman, 1975; Payne, 1974;
Worthen, 1975), pode-se estabelecer que, para realizar um trabalho consequente, o avaliador deve ser capaz de:
1. especificar informaes necessrias para o de senvolvimento de programas de avaliao;
2. localizar, ler e integrar informaes existentes na literatura tcnica de pesquisa, medidas e avaliao;
3. analisar possveis implicaes de avaliao anteriores relativamente avaliao que pretender realizar;
4. definir com preciso o objetivo da avaliao;
5. examinar, criticamente, estratgias de avaliao e selecionar a mais adequada para os fins da avaliao;
6. formular hipteses ou questes a serem verificadas ou
respondidas pela avaliao;
7. especificar os dados necessrios para verificar as hipteses
formuladas ou responder s questes propostas;
8. desenvolver planejamentos apropriados para a coleta de
dados que permitam examinar as hipteses ou responder s indagaes propostas;
9. selecionar amostras representativas da populao para
a qual os resultados das avaliaes sero generalizados;
10. aplicar o planejamento da avaliao e controlar os fatores que poderiam comprometer a sua validade;
11. identificar padres ou normas para julgar o valor do
fenmeno a ser avaliado;
12. transformar objetivos gerais em objetivos operacionais;
13. identificar classe de variveis para mensurar;
14. estabelecer critrios para selecionar e desenvolver instrumentos de medida;
15. determinar a validade dos instrumentos de medida
usados nas avaliaes;
16. usar mtodos adequados para o levantamento de dados;
17. controlar o desenvolvimento do programa e identificar
desvios de planejamento ou de procedimentos especficos;
18. selecionar e aplicar tcnicas estatsticas adequadas
anlise de dados;
19. descrever o planejamento da avaliao e os procedimentos de anlise em termos de processamento de dados, a
82
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 82
5/29/15 3:37 PM
20.
21.
22.
23.
24.
25.
7. Referncias bibliogrficas
MILLMAM, Jason. Selecting educational researchers and evaluators. ETS. Princepton,
New Jersey: ERIC Clearing house on tests, measurement and evaluation, 1975.
15 p. (TM Report, 48).
PAYNE, David A. Toward a characterization of curriculum evaluation. In: PAYNE,
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 83
83
5/29/15 3:37 PM
84
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 74-84, n. especial, dez. 2014
AF miolo_EAE_60.indd 84
5/29/15 3:37 PM
AF miolo_EAE_60.indd 85
5/29/15 3:37 PM
AVALIAO E O
AVALIADOR EDUCACIONAL:
DEPOIMENTO1
1 Artigo publicado na
revista Estudos em
Avaliao Educacional,
n. 20, p. 183-205, jul./dez. 1999.
86
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 86
5/29/15 3:37 PM
5 FLANAGAN, J. C.
The use of comprehensive
rationales in test development.
Educacional and Psychological
Measurement, 11, 1951,
p. 151 e segs.
6 GARRETE, H. E. A
Estatstica na Psicologia e
na Educao. Trad. Eva Nick.
Rio de Janeiro: Fundo de
Cultura, 1946. 2 vol.
7 GUILFORD. J. P.
Fundamental Statistics
in Psychology and Education.
41 Edition. New York: McGrawHill Book Co., 1946.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 87
87
5/29/15 3:37 PM
8 DUROST, W. N.;
PRESCOT, C. A. Essentials of
measurement for teachers.
New York: Harcourt,
Brace, and World, 1962.
9 DAVIS, F. B. Educational
Measurement, Washington,
DC. American Council
on Education, 1971.
88
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 88
5/29/15 3:37 PM
10 THORNDIKE. R. L. C
Ed. Educational Measurement,
Washington, DC. American
Council on Education, 1971.
11 ANASTASI, A. Psychological
Testing. Third Edition.
New York. The MacMillan
Co. 1968.
12 THORNDIKE, R. L.
e HAGEN, E. Measurement
and Evaluation in Psychology
and Education. New York:
John Wiley and Sons, 1961.
13 THORNDIKE, R. L.
Personnel Selection Test
and Measurement Techniques.
New York: John Wiley and
Sons, Inc., 1949.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 89
89
5/29/15 3:37 PM
90
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 90
5/29/15 3:37 PM
Toulouse, ao estabelecermos contatos com a cultura pedaggica dos liceus franceses, na parte relativa avaliao, mostrou
a independncia acadmica dos professores, a sua capacidade de
decidir sobre o futuro dos seus alunos, a severidade muitas vezes exagerada dos seus exames, que podem gerar frustraes,
como as decorrentes do clebre baccaleaurat, que foram parcialmente responsveis pelos acontecimentos de maio de 1968,
cujo significado no foi percebido por De Gaulle, ento presidente da Frana, que considerou tudo simplesmente um chienlit, mas
cujas razes penetravam na rea educacional e em um sistema de
avaliao que precisava ser renovado, corno deve ocorrer em toda
e qualquer estrutura educacional, segundo a nossa percepo.
Ainda no final de 1968, tivemos uma sequncia de novas
experincias que serviram para consolidar antigas vivncias e
proporcionar novas vises no campo da avaliao educacional, a
partir da realizao do Mestrado na Michigan State University (East
Lansing, Mich.), sob a orientao de Robert L. Ebel. As disciplinas do major Educational Research Methods, Testing and Grading,
Problems of Measurement, Quantitative Methods, Standardized Tests,
Advanced Quantitative Methods, Principies of Measurement e Psychological Testing foram a base para o domnio da parte substantiva
da avaliao educacional, segundo uma perspectiva eminentemente quantitativa, e que foi complementada por um minor que
fundamentou essa prtica, por intermdio de outros cursos, e
lhe deu significado: School Learning, Growth and Behavior, Philosophy
of Education e Problems of Higher Education. A experincia de uma universidade norte-americana marcante e, no nosso caso pessoal,
sentimos que, apesar de altamente competitiva e estressante, exerceu um papel formativo e consolidou antigos conhecimentos. Foi
importante, neste novo contexto, o papel de Robert L. Ebel, que nos
mostrou que avaliao no apenas anlise estatstica, a partir de
instrumentos construdos segundo os princpios da tecnologia, que
oferecem resultados fidedignos, mas uma atividade que envolve seres humanos e pode ter influncia sobre seus destinos, no plano da
realizao pessoal e profissional. Foi a partir desse momento que
comeamos a nos preocupar mais seriamente com certos conceitos carregados de abstrao, mas que constituem o cerne de toda a
avaliao: valores, critrios, objetivos, normas, significncia prtica, entre outros. A prpria avaliao pareceu-nos um conceito abstrato, como reconhecem Madaus, Scriven e Stufflebeam16 (1993).
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 91
91
5/29/15 3:37 PM
18 MAGNUSSON, D. Test
Theory. Addison-Wesley
Publishing Co. Reading,
Mass. 1967.
92
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 92
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 93
93
5/29/15 3:37 PM
19 Acerto casual em
prova objetivas. O GLOBO,
04/09/73. A Seleo de
Candidatos atravs de Provas
Objetivas. Folha de So Paulo,
25/12/73. O que a prova de
redao realmente mede?
Folha de So Paulo, 19/10/75.
20 Emprego e caractersticas
de provas objetivas. Cincia
e Cultura, vol. 22, n 3, 1970.
Os vestibulares refletem toda
a problemtica da educao.
Mundo Econmico,
vol. IV, n 5, 1971.
21 Testes em Educao.
Editora IBRASA. So
Paulo. 1973. Los Testes em
La Educacin. Ediciones
Universidad de Navarra
SA. EUNSA. Pamplona,
Espanha. 1983.
94
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 94
5/29/15 3:37 PM
com o problema da medida da expresso escrita22 analisando experincias realizadas no exterior, especialmente no Educational
Testing Service - ETS, com particular destaque para o trabalho de
Godshalk, Swineford e Coffman23 realizando estudos empricos
sobre a fidedignidade dos corretores e dos resultados, inclusive usando vrios critrios, determinando a validade preditiva e
concorrente de provas objetivas na medida da expresso escrita,
e verificando, entre outros aspectos, as diversas contribuies
da pesquisa educacional para a compreenso dessa medida em
situao de exame de massa, como o rito de passagem do
vestibular. Todo o material escrito (artigos e pesquisas) foi
posteriormente publicado em forma de livro24.
Simultaneamente, outras atividades foram igualmente realizadas, como a anlise do possvel impacto dos testes sobre
o sistema educacional brasileiro25 tendo em vista a afirmao,
alis, no confirmada empiricamente, de que o exame vestibular estaria moldando, negativamente, o sistema de ensino
no Brasil. Alm disso, preocupava-nos, sobremodo, a falta de
formao tcnica dos professores em medidas educacionais,
motivando um paper que foi apresentado em seminrio internacional no Rio de Janeiro, em 197826.
O problema do acesso ao ensino superior recorrente na educao brasileira; desse modo, no final da dcada de 70, voltou a ser
discutido e processos alternativos foram propostos. Velhas questes provas objetivas versus provas dissertativas continuaram
a ser discutidas ad nauseam27 sem nenhuma comprovao, mas
apenas com base em opinies pessoais, idiossincrasias ou vieses
poltico-acadmicos. O mesmo assunto voltaria a ser discutido em
1986 e, novamente, tornaria a ser discutidas em 1995, sem maiores consequncias prticas. Ainda em 1986, analisamos o problema28 e voltamos ao assunto em um longo ensaio sobre as origens
do vestibular (1911), sua histria, sua legislao, suas inovaes e
retrocessos o ttulo do trabalho reflete a nossa posio sobre o assunto (Acesso Universidade caminhos da perplexidade), depois
do que passamos a nos dedicar quase inteiramente avaliao
educacional: inicialmente, na rea do rendimento escolar; mais
tarde, em estudos sobre aptides e, a seguir, na avaliao de programas e sistemas de ensino.
A intensa atividade na rea de seleo no nos impediu de
refletir sobre outros aspectos da avaliao, especialmente sobre
22 Medida da Expresso
Escrita. Didata, n 4, 1976.
Redao e medida da
expresso escrita: algumas
contribuies da pesquisa
educacional. Cadernos de
Pesquisa. So Paulo, Fundao
Carlos Chagas, n 19, 1976.
Flutuao de julgamentos em
provas de redao. Cadernos
de Pesquisa. So Paulo.
Fundao Carlos Chagas, n
19, 1976. Aplicao de critrios
de correo em provas de
redao. Cadernos de Pesquisa.
So Paulo, Fundao Carlos
Chagas, n 26, 1978. Medida
da Expresso Escrita e Prova
Objetiva: um estudo preliminar
de validade. Cadernos de
Pesquisa. So Paulo. Fundao
Carlos Chagas, n 38, 1981.
Comunicao e Expresso
no acesso a Universidade:
uma experincia diversificada.
Educao e Seleo. So
Paulo, Fundao Carlos
Chagas, n 4, 1981. Validade
de contedo de uma prova
de Comunicao e Expresso:
anlise de alguns problemas.
Educao e Seleo. So Paulo.
Fundao Carlos Chagas, n
4, 1961. Redao e Medida da
Expresso Escrita: algumas
contribuies da pesquisa
educacional. Educao e
Seleo. So Paulo. Fundao
Carlos Chagas, n 6, 1962.
Dupla Correo em provas
de redao. In: Comunicao
e Expresso. IBRASA. So
Paulo. 1963. Provas e Testes no
Concurso Vestibular. Educao
e Seleo. So Paulo. Fundao
Carlos Chagas, n 12, 1965.
23 GODSHALK, F. L.;
SWINEFORD, F.; COFFMAN,
W. E. The measurement
of writing hability. College
Entrance Examination Board.
New York. 1966.
24 Comunicao e
Expresso problemas
tericos e prticos de
avaliao. IBRASA.
So Paulo. 1983.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 95
95
5/29/15 3:37 PM
26 Development of Technical
Competence of Teachers in
Educational Measurement
(paper). lnternational Council
on Education for Teaching. Rio
de Janeiro, 1978.
27 Processos alternativos
de seleo para ingresso no
ensino superior. Cadernos
de Pesquisa. So Paulo.
Fundao Carlos Chagas, n
34, 1980. Acesso Universidade
reflexo sobre problemas
atuais. Educao e Seleo.
So Paulo. Fundao Carlos
Chagas, n 1, 1980.
28 Acesso a Universidade
Anlise de alguns modelos
alternativos de seleo.
Educao e Seleo. So
Paulo. Fundao Carlos
Chagas, n 13 1 1986. Acesso
Universidade Caminhos da
perplexidade. Educao e
Seleo. So Paulo. Fundao
Carlos Chagas, n 14. 1986.
Acesso Universidade um
estudo de validade. Educao
e Seleo. So Paulo.
Fundao Carlos Chagas,
n 15, 1987. Acesso
Universidade uma reflexo ao
longo do tempo. Educao e
Seleo. So Paulo. Fundao
Carlos Chagas, n 18, 1988.
29 A perspectiva das
medidas referenciadas
a critrio. Educao
e Seleo. So Paulo.
Fundao Carlos Chagas,
n 2, 1980. Medidas
referenciadas a critrio:
uma introduo. In:
A construo do projeto de
ensino e avaliao. Fundao
para o Desenvolvimento
da Educao FDE.
So Paulo, 1990.
30 Seleo para programas
de ps-graduao um
projeto transnacional.
Educao e Seleo.
So Paulo. Fundao Carlos
Chagas. N 2, 1980.
31 Avaliao educacional
problemas gerais e formao
do avaliador. Educao e
Seleo. So Paulo,
Fundao Carlos Chagas,
n 5, 1982. Qualificao tcnica
e construo de instrumentos
de medida educacional.
Educao e Seleo. So
Paulo. Fundao Carlos
Chagas, n 10, 1984.
96
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 96
5/29/15 3:37 PM
32 Avaliao educacional
algumas ideias precursoras.
Educao e Seleo. So
Paulo. Fundao Carlos
Chagas, n 6, 1982.
33 Validade de construto
em testes educacionais.
Educao e Seleo. So
Paulo. Fundao Carlos
Chagas, n8, 1983.
34 STAKE, Robert E.
Estudo de caso em pesquisa
e avaliao educacional.
Educao e Seleo. So
Paulo. Fundao Carlos
Chagas, n 7, 1983. Robert E
Stake. Pesquisa qualitativa/
naturalista: questes
epistemolgicas. Educao e
Seleo. So Paulo. Fundao
Carlos Chagas, n 7, 1983.
35 Avaliao do Rendimento
de Alunos de Escola do
1Grau da Rede Pblica: uma
aplicao experimental em 10
cidades. Educao e Seleo.
So Paulo. Fundao Carlos
Chagas, n 17,1988. Avaliao
do Rendimento dos Alunos
de 2 e 4 sries de Escolas
Oficiais do Estado do Paran.
Educao e Seleo. So
Paulo, Fundao Carlos
Chagas, n18, 1988. Avaliao
do Rendimento de Alunos de
Escolas do 1 grau da Rede
Pblica: um estudo em 39
cidades. Educao e Seleo.
So Paulo. Fundao Carlos
Chagas, n 20, 1989.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 97
97
5/29/15 3:37 PM
36 A prtica da Avaliao
Educacional: algumas
colocaes metodolgicas.
Cadernos de Pesquisa,
n 69. So Paulo.
37 Avaliao Institucional: a
Universidade (texto proposto
para discusso). Estudos em
Avaliao Educacional,
n 1, So Paulo. Fundao
Carlos Chagas, 1990.
38 Medida da Qualidade em
Educao apresentao
de um modelo. Estudos em
Avaliao Educacional,
n2. So Paulo. Fundao
Carlos Chagas. 1990.
39 Avaliao do Rendimento
Escolar de Alunos da 3 srie
do 2 Grau subsdios para
uma discusso. Estudos em
Avaliao Educacional,
n 3. So Paulo. Fundao
Carlos Chagas, 1991.
98
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 98
5/29/15 3:37 PM
41 Evaso, repetncia
e rendimento escolar
a realidade do sistema
educacional brasileiro.
Estudos em Avaliao
Educacional, n 4.
So Paulo. Fundao
Carlos Chagas, 1991.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 99
99
5/29/15 3:37 PM
44 Desenvolvimento de
um programa de avaliao
do Sistema Estadual de
Ensino: o exemplo de Minas
Gerais. Estudos em Avaliao
Educacional, n 8, So Paulo,
Fundao Carlos Chagas, 1993.
45 Ver Estudos em Avaliao
Educacional, n 2, 1990.
100
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 100
5/29/15 3:37 PM
46 Avaliao educacional
nos Cadernos de Pesquisa.
Cadernos de Pesquisa, n 89.
So Paulo. Fundao Carlos
Chagas, fevereiro de 1992.
47 GUILFORD, J.P.
Fundamental Statistics in
Psychology and Education.
Mc Graw-Hill Book Co. Fourth
Edition. New York, 1965.
48 FREDERICKSEN, N.;
MISLEVY, R. J e BEJAR, I.I.
Test Theory for a New
Generation of Tests.
Laurence Erlbaum Associates.
Publishers; Hillsdale,
New Jersey, 1993.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 101
101
5/29/15 3:37 PM
102
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 102
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 86-103, n. especial, dez. 2014
AF miolo_EAE_60.indd 103
103
5/29/15 3:37 PM
104
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 104
5/29/15 3:37 PM
Instrumentos
de AvaliacAo
EDUCACIONAL
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 105
105
5/29/15 3:37 PM
QUALIFICAO TCNICA
E CONSTRUO DE
INSTRUMENTOS
DE MEDIDA EDUCACIONAL1
1 Artigo publicado em
Educao e Seleo, n. 10,
p 43-49, jul./dez. 1984.
106
1. A mensurao educacional
problema geral
A anlise dos instrumentos de medida do rendimento escolar,
ora empregados em nosso meio educacional, revela diversos
nveis de qualidade tcnica. Ao lado de alguns poucos que realmente demonstram medir aquilo a que se propem, existe,
infelizmente, um nmero elevado de instrumentos que apresentam completa carncia de requisitos tcnicos. O problema da
qualidade desses instrumentos grave, sobretudo em virtude da
influncia que exercem no processo de aprendizagem.
Os instrumentos de medida, independentemente do seu
aspecto formal, mas desde que bem construdos, representam
um estmulo para o estudante e um desafio ao seu interesse e
sua curiosidade intelectual. fato reconhecido que os bons instrumentos de medida exercem una funo direcional, pois orientam o examinando sobre o que estudar e, mais importante ainda,
sobre como estudar. Entretanto, quando certos instrumentos de
medida so analisados observa-se que no orientam, mas sim
conduzem o estudante a adotar comportamentos sem grande
relevncia educacional, ou seja, estimulam a aprendizagem do
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 106
5/29/15 3:37 PM
2. Os instrumentos e as medidas
educacionais problemas especficos
O exame de alguns problemas relacionados com o processo de
mensurao demonstra a falta de formao tcnica de muitos
construtores de instrumentos de medida. Apenas os problemas
mais significativos sero discutidos a seguir.
2.1. A maioria dos julgamentos sobre o rendimento
educacional subjetiva, ainda que muitos avaliadores
acreditem possuir padres absolutos de julgamento.
A carncia de fidedignidade dos julgamentos subjetivos acha-se demonstrada por copiosa literatura de pesquisas em educao. A soluo para o problema estaria na realizao de um
julgamento mdio por vrios examinadores; no trabalho cooperativo para a construo dos instrumentos de medida e,
particularmente, no desenvolvimento da compreenso de que
somente atravs do uso de padres relativos de julgamento,
com base no comportamento do grupo de examinados, que
constitui o sistema referencial, possvel um julgamento adequado do desempenho escolar.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 107
107
5/29/15 3:37 PM
H, implicitamente, um outro problema, que foge ao nosso campo de indagao, mas que no pode ser evitado, porque influi
no estado atual das medidas educacionais. O construtor de instrumentos de medidas, geralmente professor militante, v-se
obrigado a exercer mltiplas atividades desgastantes, fsica e
emocionalmente, e, assim, desconhece o lazer criativo, que lhe
permitiria considerar a problemtica do processo de orientar e
avaliar a aprendizagem. Desse modo, os instrumentos de medida so elaborados s pressas, em vspera de exame e, s vezes, na
prpria hora do exame, sendo, portanto, instrumentos defeituosos
e de m qualidade.
2.3. Os instrumentos ora empregados so
mal planejados e quase nunca possuem validade
de contedo, por no considerarem uma
amostra representativa de conhecimentos
e capacidades relevantes.
O importante, para alguns construtores de instrumentos de mensurao, , por exemplo, a data do descobrimento da Amrica,
por Colombo, e no as caractersticas do impacto que esse descobrimento teve sobre a evoluo da histria do mundo moderno. Saber o nome de quem escreveu a obra De Revolutionibus
108
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 108
5/29/15 3:37 PM
A deficincia formal muitas vezes considerada por alguns crticos como sendo apangio exclusivo dos itens objetivos. O argumento, ainda que sem apoio emprico, serve, frequentemente,
para justificar e defender os itens de dissertao. Nada mais errneo, pois, desde que bem elaborados, ambos os tipos de questo
podem medir capacidades complexas. H, na verdade, um problema tcnico na estruturao de itens para a mensurao de capacidades complexas, que, infelizmente, nem todos os construtores de
instrumentos conseguem solucionar satisfatoriamente.
A anlise crtica de textos de dissertao mostra que as
chamadas evidncias da capacidade de analisar nada mais so
do que exerccios de parfrases de manuais e livros didticos,
sem nenhuma originalidade e profundidade. Entretanto, um
tipo de comportamento que pode ser verificado atravs de dissertaes, desde que esse comportamento tenha sido desenvolvido durante o processo de aprendizagem. Ainda que bizarra,
a situao realmente existe; muitas vezes, procura-se verificar
comportamentos para os quais o examinando no recebeu
treinamento prvio.
O problema mais ou menos semelhante com relao aos
testes objetivos. A falta de qualificao tcnica de um construtor
de itens no lhe permitir elaborar uma unidade de informao
que exija demonstrao da capacidade de anlise. Entretanto,
a sua verificao possvel; assim, no caso de interpretao de
textos literrios ou cientficos (Diederich, 1955) pode-se exigir
que o examinando demonstre esse comportamento atravs da
capacidade de:
a) identificar objetivos e atitudes do autor do texto;
b) estabelecer a ideia principal do texto;
c) mencionar argumentos que apoiam a ideia principal;
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 109
109
5/29/15 3:37 PM
Os defeitos de construo costumam ser mais aparente nos testes objetivos do que nos itens de dissertao. Entretanto, ao contrrio da crena geral, um bom item de dissertao coisa rara,
pois mais difcil de ser construdo do que um item objetivo,
sobretudo quando se pretende um instrumento de alta qualidade (Stanley, 1958).
Os itens objetivos, construdos sem a observncia de normas tcnicas, costumam apresentar os seguintes problemas:
a) desequilbrio na nfase relativa das dimenses comportamento-contedo, o que reflete ausncia de planejamento;
b) nmero reduzido de questes, o que demonstra despreocupao com os problemas de validade e fidedignidade;
c) distribuio defeituosa do ndice estimado de dificuldade, geralmente obedecendo a padres extremos de facilidade ou de dificuldade;
d) irrelevncia dos conhecimentos substantivos, inobservncia da tecnologia do item e erros grosseiros de edio;
e) favorecimento a padres regulares de respostas, em virtude da falta de uma distribuio equilibrada das alternativas corretas;
f) inconsistncias gramaticais, falta de homogeneidade e
plausibilidade das alternativas distratoras, o que favorece o acerto casual.
Os itens de dissertao tambm apresentam defeitos, ainda
que menos visveis para os no especialistas, mas que nem por
isso deixam de ser graves. Os vcios de construo mais frequentes so os seguintes:
I. proposio imprecisa dos temas ou das perguntas, caracterizada pela ausncia de determinantes explicativos
110
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 110
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 111
111
5/29/15 3:37 PM
112
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 112
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 113
113
5/29/15 3:37 PM
o aluno a superar suas deficincias de aprendizagem e a acompanhar, sem maiores problemas, o desenvolvimento de outras
unidades ou cursos.
H necessidade de outro modelo o teste de predio a
fim de verificar o desempenho relativo do indivduo, comparando o seu rendimento com o do grupo. A funo desse modelo no
a de verificar objetivos e determinar deficincias individuais,
mas sim a de coletar informaes que possam levar tomada de
decises, como aprovao e orientao vocacional.
Ambos os testes critrio e predio se completam por suas
informaes; contudo, um terceiro modelo poderia ser construdo para obter os mesmos elementos que os outros proporcionam
isoladamente. Ainda que mais complexo, o teste combinado , na
verdade, um teste de predio sobreposto a um teste de critrio.
O teste combinado apresenta, inicialmente, um teste de
critrio, que inclui todos os objetivos a verificar. o quadro de
referncia para a elaborao de um teste mais extenso. Os itens
estabelecem o desempenho mnimo aceitvel, por isso so fceis, com um ndice 90%, porcentagem esperada de acertos.
A partir dos objetivos fixados, so elaborados novos itens
para a verificao de diferentes nveis de desempenho alm do
mnimo aceitvel. Os itens da parte de predio sofrem um aumento crescente de dificuldade, cuja amplitude deve variar entre 20% e 80%, a fim de discriminar os melhores. A correo do
teste combinado feita em dois momentos. Inicialmente, corrigida a parte relativa ao teste de critrio, no havendo escores,
mas apenas sucesso ou insucesso em alcanar o mnimo aceitvel.
Os que no foram bem sucedidos so submetidos a diferentes
formas de ensino de recuperao at que consigam atingir o critrio. Os bens sucedidos tm a segunda parte do teste (predio)
corrigida e so atribudos escores para fins vrios.
Os instrumentos aplicados em nossa escola no se enquadram no modelo critrio, ainda que estabeleam um desempenho mnimo a mdia 5 , porque o ensino no orientado
por objetivos e os instrumentos no seguem a mesma orientao;
por outro lado, quando o critrio (!) no atingido, as possibilidades de recuperao so mnimas, talvez um novo exame a
segunda poca , geralmente to duvidoso quanto os exames
anteriores, e a ameaa de uma reprovao pura e simples, com
a repetio de novo perodo letivo, cuja eficincia discutvel.
114
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 114
5/29/15 3:37 PM
Os mesmos testes tambm no podem ser considerados de predio, pois nem sempre possuem validade e quase nunca oferecem
resultados fidedignos. O que so? o que medem? o que permitem
avaliar? so questes difceis de elucidar no momento presente.
4. Qualificaes tcnicas do
construtor de instrumentos de medida
A verdadeira questo, no atual contexto educacional e no referente avaliao do rendimento escolar, centraliza-se no fato de
que muitos construtores de instrumentos de medida educacional no possuem a necessria formao tcnica para o exerccio
de uma atividade especfica que exige determinadas qualificaes. Utiliza-se, s vezes, de uma tecnologia sofisticada, mas desconhecem os seus fundamentos tericos.
As qualificaes necessrias para o domnio da construo
de instrumentos de medida educacional podem ser desenvolvidas
atravs do:
a) conhecimento das vantagens e das limitaes dos atuais
instrumentos de medida;
b) conhecimento de critrios para o julgamento da qualidade dos instrumentos e dos meios de obter evidncias
relacionadas com esses critrios;
c) conhecimento de como planejar um instrumento e elaborar diferentes tipos de itens ou questo;
d) conhecimento de como aplicar eficientemente os instrumentos de medida;
e) conhecimento de como interpretar corretamente os escores e outros elementos quantitativos.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 115
115
5/29/15 3:37 PM
6. Resumos
1. Os instrumentos de medida educacional, independentemente do seu aspecto formal, quando bem planejados e construdos, estimulam e orientam a aprendizagem do estudante.
2. Qualquer que seja o tipo de instrumento, necessrio o
domnio da tecnologia da sua construo, a fim de que
sejam meios vlidos de mensurao e fidedignos os resultados da sua aplicao.
3. O sistema de mensurao ora em prtica apresenta
problemas que revelam a inobservncia dos fundamentos tericos e dos princpios tecnolgicos que
orientam a elaborao de instrumentos usados num
programa de medidas.
116
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 116
5/29/15 3:37 PM
surao educacional, os mesmos no esto sendo utilizados em nenhum dos nveis de escolaridade.
5. Atravs de um treinamento especializado, possvel desenvolver capacitaes tcnicas a fim de permitir a introduo e a implementao de programas vlidos de
medidas educacionais.
7. Referncias bibliogrficas
CRONBACH, L. J. Essentials of psychological testing. 3th ed. New York: Harper
and Row, 1970.
DlEDERICH, P. B. - Making and using tests. English Journal. Illinois: NCTE, 1955.
EBEL, R. L. Improving the competence of teachers in educational measurement.
The Clearing House, New York, v. 36, n. 2, October 1961.
______. Essentials of educational measurement. Englewood Cliffs, N J:
Prentice-Hall, 1972.
ENGELHART, M. D. What to look for in a review of an achievement test.
Personnel and Guidance Journal, n. 42, p. 616-19, 1964.
KATZ, M. Selecting an achievement test: principles and procedures. Princeton:
Educational Testing Service, 1961.
LAIDLAW, W. J. Teacher-made test: models to serve specific needs. The Clearing
House, February 1965.
STANLEY, J. C. ABCs of test construction. National Educators Association Journal,
April 1958.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 106-117, n. especial, dez. 2014
AF miolo_EAE_60.indd 117
117
5/29/15 3:37 PM
NATUREZA DAS
MEDIDAS EDUCACIONAIS1
1. INTRODUO
A mensurao de variveis educacionais e seu tratamento quantitativo apresentam inmeras dificuldades. A falta de definio
precisa das variveis, a frequente impossibilidade de construir
instrumentos de mensurao adequados e, particularmente, a
divergncia quanto ao significado das medidas (Lorge, 1951), entre outros problemas, so elementos que concorrem para a configurao de uma situao complexa na rea educacional e bem
diferente da que resulta, por exemplo, das mensuraes fsicas.
1 Artigo publicado em
Educao e Seleo, n. 9,
p. 7-16, jan./jun. 1984.
118
2. Medida de atributos
Antes da discusso dos vrios nveis de medida, necessrio
considerar alguns aspectos especficos: que medir? o que
se mede efetivamente? as medidas educacionais so diretas?
A palavra medida empregada com diferentes significados
e aplicada para os fins mais diversos, podendo traduzir:
o ato ou processo de determinar a quantidade, durao ou
dimenso de uma coisa;
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 118
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 119
119
5/29/15 3:37 PM
120
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 120
5/29/15 3:37 PM
4. Nveis de Medidas
O processo de medida, conforme discusso no item anterior procura informaes sobre os atributos dos objetos. Essas informaes
decorrem dos numerais atribudos s caractersticas medidas e
dependem do tipo de escala utilizada. As escalas mais comumente empregadas apresentam-se em quatro nveis, que, a partir do
mais baixo, so: nominal, ordinal, intervalar e de razo.
4.1. Escala nominal
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 121
121
5/29/15 3:37 PM
A escala ordinal ou escala de postos reflete a posio ou a importncia relativa da medida de um atributo. A escala ordinal apresenta duas propriedades: equivalncia e importncia relativa
(maior do que; menor do que). Sempre que a relao > for vlida
para todos os pares de classe, a escala ordinal (Siegel, I 975).
122
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 122
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 123
123
5/29/15 3:37 PM
124
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 124
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 125
125
5/29/15 3:37 PM
126
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 126
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 127
127
5/29/15 3:37 PM
assemelha-se de Ghiselli (1964) e de Guilford (1954), baseando-se essas abordagens nos seguintes argumentos: 1) ainda que
os procedimentos de construo dos testes no garantam uma
escala de intervalo, pelo menos eles se aproximam do objetivo; 2) tratar os escores de um teste como medidas de intervalo
produz resultados teis, possibilitando-nos, assim, admitir que
temos uma escala de intervalo e agir como se tivssemos esse
tipo de escala, pois a anlise dos resultados, segundo essa tica,
permite ter confiana nos pressupostos estabelecidos. As escalas
de intervalo, conforme se ver, possuem inmeras vantagens sobras escalas ordinais, da a necessidade de expressar e interpretar os escores resultantes de testes como medidas de intervalo.
Os escores de um teste educacional, conforme discusso anterior so considerados como constituindo uma escala intervalar. Sem esse posicionamento, seria impossvel, dada a natureza
da sua escala (ordinal), estabelecer medidas de disperso, como,
por exemplo, a varincia e o desvio padro, que so indispensveis para a definio de normas e a verificao do funcionamento efetivo do teste como instrumento de medida educacional.
Os sujeitos com mesmo escore num teste educacional so
admitidos como possuindo igual capacidade. Um escore alto indica maior capacidade do que um escore baixo. Suponhamos, a
ttulo de exemplificao, os escores de trs estudantes 15, 20
e 30. possvel na escala intervalar, medir a diferena (distncia) entre qualquer par de escores. Assim, no caso considerado,
o segundo escore cinco pontos maior do que o primeiro e o
terceiro maior 10 pontos em relao ao segundo escore. Alm
disso, nessa escala, a razo entre os intervalos tem significado.
Consideremos os intervalos 5 e 10 entre o primeiro e o segundo
escore, e entre este e o ltimo escore. A razo entre os intervalos (2) indica que o terceiro escore (30) excede o segundo em
duas vezes mais o que o segundo excede o primeiro. Observa-se, dessa forma, que a escala intervalar, alm de especificar a
equivalncia, como na escala nominal, e a relao maior do
que, como na escala ordinal, especfica, tambm, a razo de
dois intervalos, quaisquer que sejam (Siegel, 1975).
Os escores dos testes de escolaridade, quando o nmero de
itens grande e a sua dificuldade bem distribuda, so tratados
como uma escala de intervalo, conforme considerao anterior, a fim de possibilitar comparaes inter e intraindivduos.
128
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 128
5/29/15 3:37 PM
A escala de razo, que um tipo particular de escala de intervalo, possui todas as propriedades da escala intervalar mais
o zero absoluto ou verdadeiro como origem. O zero absoluto
significa ausncia total do atributo mensurado. Graas ao zero
absoluto, a escala de razo proporciona uma medida do intervalo de um certo valor em relao ao zero absoluto. Isso tem
grande importncia, pois a razo entre dois valores da escala
significativa assim como tambm significativa a razo entre
dois intervalos dessa escala.
Quando a escala no possui um zero absoluto, a soma das
medidas no permite interpretaes adequadas, pois, nesse
caso, o valor numrico de uma medida representa uma distncia a partir de uma origem arbitrria e inclui uma constante,
geralmente de tamanho desconhecido, que representa a distncia da origem arbitrria ao zero absoluto. Assim, quando so
somadas duas dessas medidas, a soma inclui uma quantidade
igual a duas vezes a constante desconhecida. Entretanto, ainda
que a soma de duas medidas apresente dificuldades de interpretao, quando a escala no de razo, a mdia de duas ou mais
medidas pode ser interpretada do mesmo modo que as medidas
individuais (Jones, 1971).
A maioria das medidas fsicas temperatura na escala
Kelvin, comprimento, peso etc. forma escalas de razo. As medidas nessa escala, alm de refletirem diferenas na quantidade
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 129
129
5/29/15 3:37 PM
do atributo (escala de intervalo), mostram, tambm, quantas vezes a quantidade do atributo maior ou menor do que a quantidade do atributo de outro objeto.
O problema da mensurao de variveis educacionais em escalas de razo ainda no foi satisfatoriamente resolvido. O zero
num teste educacional no significa, necessariamente, ausncia
da capacidade mensurada, consequentemente, 75 itens respondidos corretamente no significam uma capacidade trs vezes
maior do que a capacidade representada por 25 itens tambm
respondidos corretamente (Guilford, 1954). Entretanto, os escores
dum teste podem ser considerados como formando uma escala de
razo desde que o nosso interesse se limite, exclusivamente, ao
nmero de itens respondidos corretamente. Isso no ocorre na
maioria das vezes, porque se procura, na verdade, dar um significado ao escore, que usado para indicar a posio do indivduo
numa escala de capacidade. E quando isso se verifica, as frequncias da distribuio perdem suas propriedades de razo.
130
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 130
5/29/15 3:37 PM
Escala
Nominal
Escala
Ordinal
Importncia relativa
grandeza relativa dos nmeros
A
atribudos aos elementos reflete a
quantidade do atributo possuda
pelo elemento, indica a relao maior
do que ou menor do que. Iguais diferenas entre os nmeros no significam iguais diferenas nas quantidades dos atributos dos elementos.
Proporciona uma medida do intervalo
(distncia) entre valores da escala
ma unidade de medida fundaU
mental para caracterizar essa escala;
desse modo, os nmeros, alm de
significarem ordenao, mostram
que diferenas iguais entre os nmeros refletem igual diferena na quantidade do atributo medido, ou seja, a
razo entre os intervalos da escala
significativa. O ponto zero arbitrrio e no reflete ausncia do atributo.
Escala
Intervalar
Escala
de Razo
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 131
131
5/29/15 3:37 PM
132
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 132
5/29/15 3:37 PM
7. Referncias bibliogrficas
ANDERSON, C. Scales and statistics: parametric and nonparametric.
Psychological Bulletin, Washington, v. 58, n. 4, p. 305-316, Jul. 1961.
ARMORE, S. J. Introduction to statistical analysis and inference for psychology
and education. New York: John Wiley and Sons, 1967.
BONEAU, C. A. A note on measurement scales and statistical tests.
American Psychologist, v. 16, n. 1, p. 160-261, may 1961.
BROWN, F. G. Principles of educational and psychological testing. Illinois:
The Dryden Press, 1970.
BURKE, C. J. Additive scales and statistics. Psychological Review,
v. 60, n. 1 p. 73-75, Jan. 1953.
GHISELLI, E. E. Theory of psychological measurement. New York:
McGraw-Hill Book, 1964.
GLASS, G. V.; STANLEY, J. C. Statistical methods in education and psychology.
Eaglewood Cliffs, New Jersey: Prentice-Hall, 1970.
GUlLFORD, J. P. Psychometric methods. New York: McGraw-Hill Book, 1954. ______.
Fundamental statistics in psychology and education. New York: McGraw-Hill, 1965.
JONES, L. V. The nature of measurement. In: THONDIKE, R. L. Educational
measurement. Washington, DC.: American Council on Education, 1971.
KERLINGER, F. M. Foundations of behavioral research. 2th ed. New York: Holt,
Rinehart and Winston, 1973.
LORD, F. M. On the statistical treatment of football numbers. American
Psychologist, Washington, DC., v. 8, n. 12, p. 750-751, Dec. 1953.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 133
133
5/29/15 3:37 PM
134
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 118-134, n. especial, dez. 2014
AF miolo_EAE_60.indd 134
5/29/15 3:37 PM
AF miolo_EAE_60.indd 135
5/29/15 3:37 PM
VALIDADE DE CONSTRUTO
EM TESTES EDUCACIONAIS1
1 Artigo publicado em
Educao e Seleo, n. 8,
p. 35-44, jul./dez. 1983
2 Constructos so traos,
aptides ou caractersticas
supostamente existentes e
abstrados de uma variedade
de comportamentos
que tenham significado
educacional (ou psicolgico).
Assim, fluncia verbal,
rendimento escolar, aptido
mecnica, inteligncia,
motivao, agressividade,
entre outros, so constructos..
136
INTRODUO
O problema da validade de construto2 de grande relevncia
na rea educacional, tendo em vista o fato de que a avaliao
se vale, frequentemente, de construtos, que, aps sua definio operacional, so medidos por intermdio de testes. A validade de contedo e a validade de critrio (concorrente e preditiva), atributos exigidos dos bons testes de escolaridade, no
se preocupam, entretanto, com a compreenso dos construtos
que os testes medem; consequentemente, impe-se, conforme
acentua Brown (1970), uma nova abordagem para anlise dos
instrumentos de medida da aprendizagem escolar.
A validade de muitos instrumentos de medida , s
vezes, inferida, mas tal procedimento adotado revelia da
metodologia cientfica, no sendo, pois, um comportamento
justificvel. So necessrias provas insofismveis de que um
teste, construdo para determinado fim, efetiva mente vlido. Desse modo, se um teste visa a medir processos mentais
complexos, como ocorre inmeras vezes na rea educacional,
inclusive nos exames de acesso s universidades, indispensvel que existam provas irrefutveis de que os instrumentos
utilizados medem, efetivamente, o construto hipotetizado.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 136
5/29/15 3:37 PM
A validade de construto possibilita determinar qual a caracterstica educacional que explica a varincia do teste ou, ento,
qual o significado do teste (Kerlinger, 1973). Um avaliador, desse
modo, poder fazer perguntas do tipo: o teste mede, efetivamente, a capacidade de expresso escrita? O teste um reflexo
do status socioeconmico dos estudantes avaliados? A indagao,
no caso, pretende esclarecer qual a proporo da varincia total do teste que decorre desses construtos: expresso escrita e
status socioeconmico. Ou, ainda, procura explicar as diferenas
individuais nos escores desse instrumento de medida. O interesse, na validao de construtos, centraliza-se na caracterstica ou
trao que est sendo medido, mais do que no prprio teste.
A verificao da validade de construto, sua lgica e metodologia foram amplamente estudadas por Cronbach e Meehl
(1955), que produziram documento fundamental para a compreenso desse tipo de validade, que de particular importncia
sempre que um instrumento deva ser interpretado como proporcionando medidas de um atributo ou qualidade que, presumivelmente, as pessoas possuem. Outro documento bsico para
o estudo do problema o ensaio de Campbell e Fiske (1959) sobre
validade convergente e discriminante. Ambos os trabalhos so
amplamente utilizados na fundamentao do presente estudo.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 137
137
5/29/15 3:37 PM
AS TEORIAS EDUCACIONAIS E
A LGICA DA VALIDADE DE CONSTRUTO
comum em educao (e em psicologia) o desenvolvimento
de sistemas unificados de princpios, definies, postulados
e observaes, para explicar o relacionamento entre variveis
(Sax, 1980), ou seja, o desenvolvimento de teorias educacionais,
a partir das quais so construdos instrumentos para a mensurao de um determinado trao ou caracterstica. Somente por
intermdio da constatao da validade de construto desses
instrumentos que se pode confirmar o significado dessas caractersticas ou traos apresentados pela teoria. E para alcanar
esse objetivo, necessrio se faz a aplicao dos procedimentos
clssicos do mtodo dedutivo: teoria; deduo, hiptese, experimentao e, finalmente, dados que confirmem ou neguem a
hiptese, ou seja, o construto.
A lgica da validade de construto, assim como o seu processo, so, essencialmente, os do mtodo cientfico. Parte-se de uma
teoria sobre a natureza do construto e fazem-se predies sobre
as relaes entre os escores do teste e outras variveis. A seguir,
138
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 138
5/29/15 3:37 PM
A REDE NOMOLGICA,
SEGUNDO CRONBACH E MEEHL
As teorias que procuram explicar um determinado fenmeno compreendem um conjunto interrelacionado de conceitos, proposies e leis. A esse sistema interligado Cronbach
e Meehl (1955) deram o nome de rede nomolgica3. As leis
estabelecem relaes entre diferentes caractersticas, entre
caractersticas e construtos, ou entre um construto e outro,
conforme aqueles autores, os quais ressaltam ainda que as
leis e os conceitos devem estar ligados a comportamentos observveis. s vezes, entretanto, isso no ocorre. Uma determinada lei ou conceito no se relaciona diretamente com as
caractersticas, mas com outras leis e conceitos, que, por sua
vez, so diretamente ligados a caractersticas observveis.
condio necessria, na pesquisa da validade de construto,
que a definio de conceitos ou formulao de leis estejam
apoiados, direta ou indiretamente, em dados observveis.
Cronbach e Meehl (1955) assinalam, ainda, que o significado de um conceito somente fica perfeitamente esclarecido
quando se elabora uma rede de relaes que mostre, claramente, que essas relaes so especficas e definitivas. Dessa forma,
na validao de um construto, h necessidade de um grande nmero de diferentes operaes, inclusive de ordem qualitativa,
para a mensurao de um conceito e a fim de mostrar que esse
mesmo conceito est ligado a outro conceito por intermdio de
uma rede nomolgica.
A partir desse posicionamento, preciso considerar as seguintes situaes:
1. o processo de inferncia do significado de um construto
exige que os dados sejam observveis;
2. o processo de inferncia do significado de um construto,
a partir de dados observveis, deve ser explicitamente
3 Nomolgico - relativo
nomologia, estudo das
leis que presidem aos
fenmenos naturais.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 139
139
5/29/15 3:37 PM
VALIDAO DE TESTES
E VALIDAO DE TEORIAS
A validao de construtos no se limita apenas a validar um
teste, o seu alcance bem mais amplo, centrando-se o seu
objetivo na validao da teoria em que se apoiou a construo do instrumento (Kerlinger, 1973); desse modo, o trabalho de validao de um construto urna pesquisa cientfica
emprica, porque, definidos os construtos que seriam responsveis pelo desempenho no teste o avaliador passa a formular hipteses sobre a teoria dos construtos e, a seguir, testa
empiricamente essas hipteses. A testagem de hipteses sobre construtos exige a verificao da convergncia e da discriminatividade. A convergncia mostra que as evidncias coletadas
de diferentes fontes e de diferentes modos indicam um significado igual ou semelhante para o construto. A discriminatividade refere-se possibilidade de diferenciar, empiricamente,
um construto de outros construtos semelhantes, assim como
a de constatar o que no est correlacionado aos construtos
(Kerlinger, 1973). As ideias de convergncia e de discriminatividade sero retomadas mais adiante, quando for discutida a
metodologia de Campbell e Fiske (1959) relativa matriz do
multitrao-multimtodo. A validao de construtos ultrapassa, assim, os limites de uma validao emprica, pois, alm
de constatar a correlao com um critrio ou em que medida
o instrumento separa indivduos que possuem alto ou baixo
grau de uma determinada caracterstica, explica, tambm,
o porqu dessas ocorrncias.
140
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 140
5/29/15 3:37 PM
O PROCESSO DE VALIDAO
E TESTAGEM DE HIPTESES
O processo de validao exige, essencialmente, o estabelecimento de hipteses, a partir de leis e construtos definidos pela
rede nomolgica, e a coleta de dados para testar essas hipteses. Ao discutir os dados sobre a validade de um construto
necessrio que sejam claramente. especificados os seguintes
aspectos (Brown, 1970):
1. a interpretao proposta, ou seja, qual o construto que
se tem em mente, como esse construto definido e como
a hiptese testada foi estabelecida a partir de uma teoria
importante;
2. a comprovao adequada da interpretao, oferecendo
elementos que apoiaram ou rejeitaram as hipteses;
3. a argumentao sobre a concretizao dos objetivos
propostos (apresentar detalhes sobre os procedimentos
experimentais e a linha de raciocnio que permitiu inferncias sobre o significado do construto).
O que significam, efetivamente, os resultados da comprovao das hipteses levantadas? Se as predies forem confirmadas empiricamente, pode-se acreditar que o teste mea
o construto e ter maior confiana no conceito adotado. Um
construto nunca pode ser comprovado como correto em termos absolutos (Cronbach; Meehl, 1955), mas somente adotado
como a melhor definio de trabalho. Se, ao contrrio, os resultados forem negativos e os dados no confirmarem as predies, trs interpretaes so possveis: 1 o teste no mede o
construto; 2 o referencial terico no correto, possibilitando inferncias errneas; e 3 o planejamento experimental
no possibilita a testagem de hipteses.
O fracasso na confirmao de uma predio indica a necessidade de uma reviso na rede terica ou no procedimento
experimental (Brown, 1970). As interpretaes ambguas de
resultados negativos constituem uma das desvantagens da validade de construto.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 141
141
5/29/15 3:37 PM
A METODOLOGIA DA PESQUISA
DA VALIDADE DE CONSTRUTO
A validade de construto pode ser pesquisada por diferentes mtodos, inclusive os que so empregados na validade de contedo
e de critrio. Ao utilizar diferentes mtodos importante que se
estude (Magnusson, 1967), entre outros aspectos:
a) as diferenas entre os grupos em funo do que a teoria
estabelece relativamente varivel pesquisada;
b) como os resultados dos testes so influenciados por
mudanas nos indivduos ou no meio, as quais, segundo a teoria, devem, respectivamente, influenciar ou
deixar de influenciar as vrias posies dos indivduos no continuum;
c) as correlaes entre diferentes testes que, supostamente, medem a mesma varivel. necessrio cautela
a fim de que as correlaes entre as medidas no se
elevem em virtude de similaridades nos mtodos utilizados (Cronbach; Meehl, 1955). Isso pode acontecer
(Magnusson, 1967) se as respostas dos testes exigirem
alguma aptido especial alm da que est sendo considerada. Uma possvel concordncia entre as medidas
poderia, simplesmente, provocar um aumento da correlao do efeito de diferenas individuais relativas a
essa aptido especial;
d) as correlaes entre itens isolados ou diferentes partes
do teste, a fim de verificar se possuem alta intercorrelao e o teste possa ser considerado como medindo uma
varivel unitria.
A validade em geral e, especialmente, a validade de construto so as estimadas pela concordncia de medidas obtidas por
mtodos to diferentes quanto possvel. As dissimilaridades dos
mtodos, no estudo da validade de construto, so importantes
para que as intercorrelaes obtidas possam ser interpretadas
como expressando realmente esse tipo de validade.
142
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 142
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 143
143
5/29/15 3:37 PM
5 Generalizabilidade
propriedade que tm as coisas
de se tornarem generalizveis.
144
MTODOS USADOS NA
VALIDAO DE CONSTRUTOS
Os mtodos usados no estudo da validade de construto
podem ser classificados, de acordo com Brown (1970), em
cinco categorias: mtodos intratestes, mtodos entretestes,
estudos relacionados a critrios, estudos experimentais e estudos de generalizabilidade5.
Mtodos intratestes esses mtodos usam tcnicas que permitem o estudo da estrutura interna do teste seu contedo,
as interrelaes entre os itens e os subtestes e os processos relacionados com as respostas aos itens. Essas tcnicas no consideram variveis externas, porque se preocupam, antes de mais
nada, com a estrutura interna do teste. Assim, no se pode usar
essa metodologia para obter amplas informaes sobre a validade de construto do teste, quando muito o seu emprego possibilitaria algum conhecimento sobre a natureza do construto,
mas no o relacionamento do construto com outras variveis.
A determinao da validade de contedo fornece informaes
sobre a validade de construto e um tipo de estudo que pode ser
includo na categoria dos mtodos intratestes. As especificaes
do contedo e do domnio comportamental amostrado no teste,
condio essencial no estudo da validade de contedo, tambm
servem para definir a natureza do construto que o teste mede.
A anlise da homogeneidade do teste, mtodo que tambm
pode ser includo na categoria dos intratestes, por intermdio de medidas de consistncia interna (coeficientes de Kuder Richardson), pela anlise fatorial dos itens, entre outros
estudos de homogeneidade, auxiliam na definio do construto, especialmente ao indicar se o teste mede um nico
trao ou se, ao contrrio, mede diversos traos.
Ao analisar um teste, o interesse nem sempre se limita ao
conhecimento do contedo dos itens, aprofunda-se e procura conhecer, tambm, o processo usado pelos examinandos nas suas
respostas aos itens. Assim sendo, qualquer processo de anlise
que identifique capacidade e habilidades pode, em princpio, esclarecer o significado do construto que o teste mede, ao indicar
as variveis que esto sendo medidas pelos itens do instrumento.
preciso, entretanto, usar de cautela quando for empregado o
processo de anlise, pois, indiscutivelmente, diferentes pessoas
podero utilizar processos diversos, mas igualmente vlidos, de
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 144
5/29/15 3:37 PM
resposta a um item, criando-se, desse modo, uma situao complexa que pode levar a falsas interpretaes.
Mtodos entretestes os mtodos includos nessa categoria
consideram, simultaneamente, vrios testes, mas no levam em
considerao variveis extratestes. Os mtodos entretestes permitem indicar, geralmente, os aspectos comuns a vrios testes,
mas no possibilitam a realizao de inferncias diretas sobre a
relao entre escores do teste e variveis externas.
O mtodo mais simples dessa categoria consiste em correlacionar um teste novo a um outro teste j amplamente estudado e conhecido nas suas diversas dimenses. a chamada
validade congruente. Se existe essa alta correlao entre os dois
testes pode-se dizer que ambos medem o mesmo construto. Essa
abordagem apresenta um aspecto que merece reflexo, pois a
menos que os dois testes sejam altamente correlacionados (Brown, 1970), isto , as correlaes e as fidedignidades sejam da
mesma magnitude, os fatores que influenciam no abaixamento
da correlao podem ser importantes para determinar a relao entre o teste e a varivel externa e, desse modo, invalidar as
inferncias realizadas com base na intercorrelao dos testes.
Uma outra abordagem, ainda nessa categoria, consiste em
promover a anlise fatorial em um grupo de testes. A anlise
fatorial , no momento, o mtodo mais promissor para estimativa da validade de construto (Kerlinger, 1970), pois objetiva
reduzir um grande nmero de medidas a um nmero reduzido de fatores a fim de estabelecer quais os que medem as
mesmas coisas e em. que medida est, realmente, ocorrendo a
mensurao que era esperada. A anlise fatorial, ainda que seja
um procedimento complexo, exigindo inclusive o emprego de
computador, um caminho fecundo na pesquisa de construtos, pois mostrar quais os testes que compartilham da varincia comum e, assim, medem o mesmo construto pesquisa
das cargas do mesmo fator (Brown, 1970), no contedo comum
dos testes, possibilita inferir sobre a natureza do construto e
at mesmo pode levar identificao do fator. A anlise fatorial permitir verificar em que medida cada teste est saturado pela varincia comum e em que medida os seus escores
dependem da varincia especfica. A proporo da varincia
total dos escores do teste, que varincia comum, um ndice
da validade de construto. O presente mtodo visa a estabele-
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 145
145
5/29/15 3:37 PM
146
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 146
5/29/15 3:37 PM
produzir textos de valor artstico nos vrios setores da literatura e aqueles que apenas possuem o domnio da lngua, como
qualquer pessoa comum. O instrumento assim construdo teria
validade de critrio (concorrente), o que representa importante
informao para a caracterizao do construto.
Uma outra abordagem, ainda segundo essa perspectiva, seria a formao de dois grupos distintos com base nos escores
do teste (quartil superior e inferior, por exemplo) e o estabelecimento das caractersticas de cada um desses grupos, o que
permitiria estabelecer uma definio to completa quanto possvel, sobre a natureza do construto.
Destaca-se, nessa categoria, o mtodo baseado no emprego
de coeficientes de validade, o qual consiste em verificar o xito de
um instrumento na predio de um determinado comportamento. Um teste de aptido escolar deve ser um bom preditor do desempenho acadmico, pois h uma clara associao entre essas
duas variveis. Ora, na medida em que isso ocorre, o teste critrio estaria medindo se o construto realmente aptido escolar.
Estudos experimentais Outros mtodos usados para determinao da validade de construto exigem a manipulao de
algumas variveis e a observao dos efeitos consequentes nos
escores do teste. Tomem a. o exemplo da ansiedade, conforme
a colocao de Brown (1970). Os estudantes, em poca de exames, costumam demonstrar um aumento na sua ansiedade.
A ansiedade durante a realizao de um teste refletiria medo
de fracasso no exame e o comprometimento do autoconceito
da pessoa. A partir dessa definio de ansiedade, pode-se estabelecer a hiptese de que o desempenho no exame inversamente correlacionado ansiedade durante a realizao de
um teste, se o teste for de grande importncia para a pessoa.
Igualmente, pode-se hipotetizar que ansiedade e exame no se
correlacionam, se o teste for estruturado de forma a no constituir um11 ameaa ao indivduo. Se, nesse contexto, os escores
num teste de ansiedade no apresentarem relao de predio
com os escores de um exame, ter-se-ia, ento, evidncia de que
o teste mede realmente o construto ansiedade.
Um conceito de grande importncia em psicometria o
de fidedignidade pode ser usado no estudo da validade de
construto (CronbacH; Meehl, 1955). Se o construto estabelece
que o trao a ser medido grandemente estvel ao longo do
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 147
147
5/29/15 3:37 PM
148
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 148
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 149
149
5/29/15 3:37 PM
Trao
A1
B1
Mtodo 2
C1
A2
Mtodo 3
C2
B2
A3
C3
B3
A1 0,89
Mtodo 1
B1
C1
A2
Mtodo 2
B2
C2
A3
Mtodo 3
0,51
0,89
0,38
0,37
0,76
0,57
0,22
0,09
0,93
0,22
0,57
0,10
0,68
0,94
0,11
0,11
0,46
0,59
0,58
0,84
0,56
0,22
0,11
0,67
0,42
0,33
0,94
0,23
0,58
0,12
0,43
0,66
0,34
0,67
0,92
0,11
0,11
0,45
0,34
0,32
0,58
0,58
0,60
B3
C3
0,85
MTODO DO MULTITRAO-MULTIMTODO:
CONDIES PARA APLICAO
Campbel e Fiske (1959) estabeleceram algumas condies para,
usando o mtodo do multitrao-multimtodo, desenvolver o
processo de validao:
1. os coeficientes de correlao entre medidas da mesma
varivel com diferentes mtodos (coeficiente de validade
convergente) devem ser significativamente maiores do
que zero.(Este critrio , normalmente, considerado suficiente para caracterizar a validade);
2. as medidas de uma varivel devem apresentar uma correlao mais estreita com medidas do mesmo tipo, e que
foram obtidas por um outro mtodo, do que com medidas de outro tipo que foram estabelecidas pelo mesmo
mtodo. Os coeficientes de validade para uma certa varivel devem, assim, ser maiores do que os coeficientes
150
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 150
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 151
151
5/29/15 3:37 PM
REFERNCIAS BIBLIOGRFICAS
BROWN, F.G. Principles of Educational and psychological testing. Hinsdale,
lllinois: The Dryden Press, 1970.
CAMPBELL, D. T.; FlSKE, D. W. Convergent and discriminant validation
by the multitrait-multimethod matrix. Psychological Bulletin, n. 59, 1959.
CRONBACH, L. J.; MEEHL, P. E. Construct validity and psychological tests.
Psychological Bulletin, n. 52, 1955.
KERLINGER, F. M. Foundations of Behavioral Research. 2th ed. New York:
Holt, Rinehart and Winston, 1973.
MAGNUSSON, D. Test theory. Reading, Mass: Addison-Wesley, 1967.
SAX, G. Principles of educational and psychological measurement and evaluation.
2th ed. California: Wadsworth Publishing, 1980.
152
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 136-152, n. especial, dez. 2014
AF miolo_EAE_60.indd 152
5/29/15 3:37 PM
AF miolo_EAE_60.indd 153
5/29/15 3:37 PM
APLICAO DE
CRITRIOS DE CORREO
EM PROVAS DE REDAO1
1 Artigo publicado em
Cadernos de Pesquisa,
n. 26, p. 29-34, set. 1978.
154
INTRODUO
A partir de 1965, a seleo de candidatos para algumas universidades e escolas superiores brasileiras comeou a ser feita
por meio de provas objetivas, com o emprego de itens de mltipla escolha. Aos poucos, o uso desse tipo de instrumento de
medida educacional se difundiu e, na dcada de 70, o que representava uma experincia limitada a determinados centros
educacionais passou a traduzir o comportamento geral das
instituies de ensino superior, com apoio em normas oriundas
do Ministrio da Educao e Cultura. Isso significou, consequentemente, o abandono da redao, instrumento de seleo
tradicionalmente empregado nos vestibulares, desde a criao
desses concursos em 1911.
A reao ao uso exclusivo de provas objetivas no se fez esperar. A Universidade de So Paulo, em 1976, reintroduziu, em
seus exames de ingresso, provas dissertativas, que, a partir de
janeiro de 1978, tambm passaram a ser adotadas pelas demais
instituies de ensino superior do pas, como decorrncia da
nova orientao do Ministrio da Educao e Cultura, que tomou obrigatria a prova de redao em todos os vestibulares.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 154
5/29/15 3:37 PM
A redao, na atual sistemtica dos vestibulares, que envolvem, muitas vezes, mais de 100.000 estudantes, como nos casos
de So Paulo e do Rio de Janeiro, criou, naturalmente, numerosos problemas, entre os quais sobressai o da aplicao de um
critrio de correo, objetivo do presente estudo.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 155
155
5/29/15 3:37 PM
20
30
10
40
Total
100
156
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 156
5/29/15 3:37 PM
62,50
48,00
42,50
77,00
61,00
23,00
17,00
96,00
80,50
41,00
53,00
96,00
86,00
35,00
53,00
93,00
72,50
36,75
41,37
90,50
10,67
9,17
15,14
7,88
Os elementos da Tabela 1 demonstram que houve divergncias na aplicao do critrio pela equipe responsvel por
sua elaborao, conforme indicam as disperses (s) das vrias
notas. Analisando-se, entretanto, as posies atribudas pelos quatro professores, observa-se que, na aplicao do critrio, os julgadores foram unnimes em classificar as redaes
D e A como as melhores, nas posies 1 e 2, respectivamente.
Verifica-se, tambm, quanto s provas B e C, que os julgadores
concordaram que deveriam ocupar os postos 3 e 4, havendo dvidas quanto redao que se situaria na posio 3 ou 4, j que
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 157
157
5/29/15 3:37 PM
dois deles acharam que a B deveria estar na posio 3, enquanto que os dois outros optaram pela redao C, para esse mesmo
posto. Levando-se em considerao que a mdia dos julgadores
mais fidedigna do que um julgamento isolado (Vianna, 1977),
a aplicao do critrio permitiu classificar as quatro provas, a
partir da melhor, na seguinte ordenao: D, A, C, e B.
158
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 158
5/29/15 3:37 PM
Aps os debates e a aceitao do critrio pelo grupo de avaliao, distriburam-se as redaes anteriormente avaliadas pela
equipe de coordenao, solicitando-se aos professores que a corrigissem segundo o critrio. A redao D, por solicitao dos examinadores, foi avaliada com base na impresso geral. A Tabela 2
apresenta os resultados dessas correes.
TABELA 2 Notas atribudas por quarenta professores a quatro
redaes, em correes independentes. Mdias e desvio-padro.
Fundao Carlos Chagas - 1976
Redaes
Frequncias
Notas
90-96
--
--
--
83-89
--
--
10
76-82
--
--
6(*)
69-75
--
--
13
62-68
--
55-61
9(*)
--
48-54
--
41-47
--
34-40
16(*)
--
27-33
11(*)
--
20-26
12
--
13-19
--
--
6-12
--
--
--
Notas
40
40
40
40
55,52
29
38,57
79,37
14,18
9,27
12,45
8,97
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 159
159
5/29/15 3:37 PM
Mnima
88
49
62
95
Mxima
25
14
60
Amplitude
64
36
57
36
160
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 160
5/29/15 3:37 PM
Total
Redao
Aprovao
Reprovao
80
20
100
10
90
100
30
70
100
100
100
A correo de uma redao no assunto pacfico, conforme mostram as porcentagens da Tabela 4. Alguns consideram
o trabalho digno de merecer aprovao; outros, ao contrrio, o
julgam destitudo de valor. Os dados sintetizados nas Tabelas 2,
3 e 4 pem em destaque a possvel influncia do professor no
xito ou insucesso do aluno.
APLICAO DO CRITRIO
verificao de uma hiptese
As atividades prticas de 1976 proporcionaram elementos para
a reformulao do critrio e o estabelecimento de novos procedimentos para sua aplicao. Aos avaliadores solicitaram-se
relatrios individuais de sua experincia, especialmente das
dificuldades encontradas na aplicao do critrio, e apresentao de sugestes para a sua modificao, de modo a garantir o
xito de sua prpria utilizao. A partir do exame desses relatrios e de suas sugestes modificaram-se alguns elementos do
critrio, que passou a ter a verso anteriormente apresentada
no presente estudo.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 161
161
5/29/15 3:37 PM
A dinmica da reunio para debate do novo critrio, por sugesto dos professores, sofreu, igualmente, modificaes. Criaram-se grupos menores para permitir melhor interao dos avaliadores com a equipe de coordenao; desse modo, enquanto
na experincia anterior o treinamento ocorreu com a presena
de todos os avaliadores (40), nesta organizaram-se grupos com
doze (12) professores apenas. Prepararam-se, tambm, dois documentos (1977a, 1977b) para exame mais detalhado: o primeiro
estabelece a metodologia que orientou a elaborao do critrio;
o segundo define seus diferentes componentes e discute aspectos para a sua aplicao prtica e quantificao dos trabalhos.
A discusso desses documentos e a aplicao do critrio a um novo
conjunto de redaes ocorreu em duas etapas, totalizando seis horas de atividades, nos meses de novembro e dezembro de 1977.
Ao trmino dessas reunies, havia, aparentemente, um consenso
sobre a aplicabilidade do critrio numa situao de vestibular.
Os exames de ingresso universidade, em janeiro de
1978, permitiram testar a hiptese de que no haveria diferenas estatisticamente significantes entre as mdias dos
subconjuntos de redaes corrigidos por professores que passaram pelas sesses de treinamento. Assim, 2.738 redaes
foram submetidas ao julgamento de 48 professores treinados,
que, em mdia, corrigiram 57 redaes num nico dia, em
dois perodos, num total de oito horas.
Aps a correo das 2.738 provas, calculou-se, inicialmente, a mdia geral (X = 50,65); a seguir, a fim de atingir
o objetivo maior do presente estudo, estabeleceram-se as mdias de cada professor para cada um dos 48 subconjuntos.
A Tabela 5 apresenta uma distribuio de frequncia dessas
mdias, nos quarenta e oito subconjuntos. A amplitude das
mdias foi de trinta (30) pontos.
162
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 162
5/29/15 3:37 PM
60-62
57-59
54-56
51-53
14
48-50
45-47
42-44
39-41
36-38
33-35
30-32
48
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 163
163
5/29/15 3:37 PM
91-100
19
81-90
111
71-80
201
61-70
396
51-60
512
41-50
631
31-40
460
21-30
232
11-20
93
1-10
13
70
2.738
A questo fundamental, anteriormente formulada na hiptese, consiste, portanto, em verificar se realmente existe diferena significante entre as mdias dos quarenta e oito subconjuntos de provas. A expectativa, em que pesem elementos
anteriormente apresentados, de que no existam diferenas
significantes, tendo em vista o cuidado do critrio em eliminar
todos os elementos capazes de gerar controvrsias. Alm disso,
a preocupao da equipe de coordenao em debater e analisar
os vrios problemas que poderiam ocorrer na fase de aplicao; a constituio de grupos homogneos de avaliadores, no
que tange formao profissional e experincia docente; e,
finalmente, a procura de consenso, supostamente obtido nas
sesses destinadas discusso e aplicao preliminar do critrio, permitem esperar que no haja uma variao significante
entre os examinadores.
A fim de testar a hiptese formulada, foi feita a anlise da
varincia (ANOVA one-way) das mdias das notas atribudas pelos examinadores aos seus respectivos subconjuntos. A Tabela
7 apresenta os dados da ANOVA.
164
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 164
5/29/15 3:37 PM
Fonte de
Variao
Graus de
liberdade
soma dos
quadrados
quadrados
mDIOS
47
108605,69
2310,76
7, 17***
RESDUO
2.690
866455,61
322,10
TOTAL
2.737
975061,30
professor
A anlise da varincia das mdias dos 48 subconjuntos mostrou que existem diferenas significativas entre essas medidas
de tendncia central; consequentemente, no se pode admitir
que essas discrepncias sejam puramente casuais, devendo-se atribu-las falta de homogeneidade na utilizao do critrio pelos examinadores. Assim, a hiptese de que no haveria
diferenas estatisticamente significantes entre as mdias dos
subconjuntos de redaes, corrigidos por professores que receberam treinamento especfico para esse fim, deve ser rejeitada;
admite-se, desse modo, que os avaliadores, no processo de correo, empregaram critrios prprios, diferentes do proposto.
CONCLUSES
Os elementos coletados no presente estudo possibilitam estabelecer as seguintes concluses:
1- a aplicao de um critrio de correo de redao pela
prpria equipe que o definiu no representa garantia
de que haver uniformidade nos resultados quantitativos apresentados;
2- ao corrigirem uma nica prova, diferentes examinadores
tendem a variaes considerveis nas notas, ainda que concordem quanto posio dessa prova em relao s demais;
3- a variabilidade dos professores em relao a uma nica
prova to grande, mesmo supostamente usando um
nico critrio, que a aprovao ou reprovao do estudante fica sujeita aos azares da sorte;
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 165
165
5/29/15 3:37 PM
REFERNCIAS BIBLIOGRFICAS
FUNDAO CARLOS CHAGAS. Apresentao do critrio de correo.
So Paulo: Fundao Carlos Chagas, 1977a. Mimeo.
______. Explanao do critrio adotado para julgamento da dissertao.
So Paulo: Fundao Carlos Chagas, 1977b. Mimeo.
VIANNA, Heraldo M. Redao e medida da expresso escrita:
algumas contribuies da pesquisa educacional. Cadernos de Pesquisa,
So Paulo, n. 16, p. 41-47, 1976.
______. Flutuaes de julgamento em provas de redao. Cadernos de Pesquisa,
So Paulo, n. 19, p. 5-9, 1977.
166
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 154-166, n. especial, dez. 2014
AF miolo_EAE_60.indd 166
5/29/15 3:37 PM
AF miolo_EAE_60.indd 167
5/29/15 3:37 PM
168
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 168
5/29/15 3:37 PM
ReflexOes
sobre a
prAtica
avaliativa
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 169
169
5/29/15 3:37 PM
AVALIANDO A AVALIAO:
DA PRTICA PESQUISA1
1 Artigo publicado em
Estudos em Avaliao
Educacional, n. 5, p. 55-61,
jan./jun. 1992. Trabalho
apresentado ao XXIV
Encontro Nacional da
Fundao AMAE para
Educao e Cultura no
Instituto Granbery da Igreja
Metodista, em Juiz de Fora,
Minas Gerais (14-17.07.92).
170
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 170
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 171
171
5/29/15 3:37 PM
172
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 172
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 173
173
5/29/15 3:37 PM
174
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 174
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 175
175
5/29/15 3:37 PM
176
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 176
5/29/15 3:37 PM
BIBLIOGRAFIA
FREDERICKSEN, J. R.; COLLINS, A. A Systems approach to educational testing.
Educational Researcher, v. 18, n. 9, p. 27-32.1989.
NICKERSON, R. S. New directions in educational assessment. Educational
Researcher, v. 18, n. 9, p. 3-7, 1989.
NORRIS, S.P. Can we rest validity for critical thinking? Educational Researcher,
v. 18, n. 9, p. 21-26, 1989.
SIEGLER, R. S. Strategy diversity and cognitive assessment. Educational
Researcher, v. 18, n. 9, p. 15-20, 1989.
SNOW, R. E. Toward Assessment of Cognitive and Conative Structures in
learning. Educational Researcher, v. 18, n. 9, p. 8-14, 1989.
SNOW, R. E.; LOHMAN, D. F. Implications of cognitive psychology for
educational measurement, In: LINN, R. L. (Ed.). Educational measurement. 3th ed.
New York: Macmillan, 1989. p. 263-331.
VIANNA, Heraldo M. Avaliao do rendimento de alunos de escolas do 1 grau
da rede pblica: um estudo em 20 cidades. Educao e Seleo, So Paulo, n. 19,
p. 33-98, jan./jun. 1989a.
______ . Avaliao do rendimento de alunos de escolas de 1 grau da rede pblica:
um estudo em 39 cidades. Educao e Seleo, So Paulo, n. 20, p. 5-56, 1989b.
______. Avaliao Educacional nos Cadernos de Pesquisa. Cadernos de Pesquisa,
So Paulo, n. 80, p. 100-105,1992.
VIANNA, Heraldo M.; GATTI, Bernardete A. Avaliao do rendimento de alunos
de escolas de 1 grau da rede pblica: uma aplicao experimental em
10 cidades. Educao e Seleo, So Paulo, n. 17, p. 5-52, jan./jun. 1988.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 170-177, n. especial, dez. 2014
AF miolo_EAE_60.indd 177
177
5/29/15 3:37 PM
A PRTICA DA
AVALIAO EDUCACIONAL:
ALGUMAS COLOCAES
METODOLGICAS1
1 Artigo publicado em
Cadernos de Pesquisa,
n. 69, p. 40-47, maio 1989.
178
A avaliao educacional nos dias de hoje atrai a ateno de pesquisadores face necessidade de promover o levantamento de
um amplo espectro de elementos que possibilitem a anlise dos
sistemas educacionais em suas vrias dimenses. Esse processo, entretanto, atravessa momento crtico, porque, conforme
Stufflebeam et al. (1971), no possui uma teoria perfeitamente
estruturada que traduza um consenso entre educadores. Alm
do mais, inexiste uma tipologia de informaes fundamentais
para o processo decisrio, h insuficincia de instrumentos e
planejamentos adequados aos diversos fenmenos educacionais e, ainda, destaca-se a falta de um sistema que possibilite
a organizao, o processamento e o relatrio de informaes
necessrias avaliao educacional. O trabalho de avaliao
exige, consequentemente, certa criatividade e independe da
adoo de modelos desenvolvidos em outros contextos. Assim,
a pesquisa em avaliao educacional, inclusive quando restrita ao rendimento escolar, exige definies e procedimentos
ad hoc, para que possa ser realizada com pleno xito. evidente
que, no havendo um consenso difcil, s vezes, entre educadores ocorram, especialmente nessa rea, incompreenses quase
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 178
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 179
179
5/29/15 3:37 PM
A avaliao, para alguns, um processo assistemtico baseado na opinio de um especialista, um julgamento emitido por
um profissional. So comuns, na rea educacional, avaliaes
informais para a tomada de certas decises. Um livro adotado em vez de outro, uma metodologia de ensino empregada
em substituio outra, apenas com base em avaliaes assistemticas e impressionistas. A chamada avaliao, nesses casos,
limita-se a uma escolha, com base em percepes, da que seria a
melhor alternativa. , pois, uma simples opo, sem fundamento cientfico. A avaliao, ao contrrio, decorre de um esforo
sistemtico para definio de critrios, em funo dos quais se
coletam informaes precisas para julgar o valor de cada alternativa apresentada. Avaliar , assim, emitir um julgamento de
valor sobre a caracterstica focalizada, podendo esse valor basear-se parcial, mas no exclusivamente, em dados quantitativos.
A Tyler (1942) coube a difuso da definio de avaliao como
um processo de comparao entre os dados do desempenho e os
objetivos instrucionais preestabelecidos. Essa definio desfruta
de grande receptividade nos meios educacionais e, com pequenas
variaes, foi incorporada a alguns modelos tericos como, por
exemplo, o de Hammond (s.d.) e o de Metfessel e Michael (1967).
Stufflebeam et al. (1971) desenvolveram um modelo centralizado na ideia de que a avaliao deve permitir aos administradores a tomada de decises e, coerentemente, definiram avaliao como o processo de identificar e coletar informaes que
permitam decidir entre vrias alternativas.
Outros tericos, juntamente com as suas contribuies de
estratgias para a investigao avaliativa, propuseram tambm
definies que, em maior ou menor grau, so aceitas por muitos praticantes da avaliao educacional. Entre essas definies,
destacam-se a de Provus (1971), que apresenta a avaliao como
um processo de comparao entre desempenho e padres, e a de
Stake (1967), que a caracteriza como descrio e julgamento de
programas educacionais.
A avaliao, como campo emergente na rea educacional,
tem recebido contribuies provenientes de vrias fontes, entre
as quais destacam-se as de Michael Scriven, que marcaram, profundamente, a teoria da avaliao educacional. Scriven (1967)
concebe esse processo como um levantamento sistemtico de
informaes e sua posterior anlise para fins de determinar o
180
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 180
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 181
181
5/29/15 3:37 PM
O avaliador educacional, ao selecionar determinado modelo terico, a fim de desenvolver um projeto, dever levar em
considerao a natureza do problema a investigar, os recursos
disponveis e sua prpria situao pessoal. Os modelos no se
propem a resolver todos os problemas que se apresentem ao
avaliador; objetivam, na verdade, permitir que o avaliador dimensione, adequadamente, os seus projetos, para evitar que deficincias de planejamento invalidem o processo e levem a falsas
decises (Vianna, 1982a).
Cronbach, no artigo Course improvement through evaluation
(1963), ainda que no apresente um modelo de avaliao, oferece um conjunto de ideias altamente provocadoras que tiveram grande impacto na dcada de 60, influenciando trabalhos
como o de Scriven (1967) e o de Stake (1967) que, por sua vez,
repercutiram profundamente na prtica de avaliao educacional. O ensaio de Cronbach de grande valor e discute,
sobretudo, quatro pontos: a associao entre avaliao e processo de tomada de deciso, os diferentes papis da avaliao
educacional, o desempenho do estudante como critrio de avaliao de cursos, algumas tcnicas de medidas disposio do
avaliador educacional.
A avaliao, no seu sentido mais amplo, pode ser definida
como um processo que visa coleta e ao uso de informaes
que permitam tomar decises sobre um programa educacional.
A avaliao, portanto, segundo Cronbach (1963), deve ser entendida como uma entidade diversificada, que exige a tomada de
diversos tipos de decises e o uso de uma grande variedade de
informaes. A avaliao com vistas ao aprimoramento de currculos no deve ser confundida, como muitos o fazem, com a
construo de instrumentos de medida e a obteno de escores
fidedignos, processos que, eventualmente, podem entrar no contexto da avaliao mas que no so indispensveis para que ela
possa atingir os seus objetivos.
Cronbach mostra que a avaliao usada com o objetivo de
tomar alguns tipos de decises, entre os quais:
1. determinar se os mtodos de ensino e o material instrucional utilizado no desenvolvimento de um programa
so, realmente, eficientes;
2. identificar as necessidades dos alunos para possibilitar
o planejamento da instruo, julgando o mrito dos es-
182
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 182
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 183
183
5/29/15 3:37 PM
184
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 184
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 185
185
5/29/15 3:37 PM
dos; dessa forma, certas preocupaes das medidas educacionais para a produo de escores precisos, visando
a comparar indivduos ou escores mdios de diferentes
cursos, pouco contribui para a avaliao educacional,
cuja descrio dos resultados deve ser a mais ampla possvel, ainda que s custas do sacrifcio de uma suposta
justia e preciso.
2. A anlise do desempenho em itens isolados ou em certos
tipos de problemas fornece mais informaes do que a
anlise de escores compsitos.
3. O objetivo da avaliao educacional no consiste em,
simplesmente, aquilatar o valor de cursos, rejeitando-os ou aceitando-os, mas, sim, em ser uma parte fundamental no processo de desenvolvimento de currculos,
atravs da coleta e do uso de dados que possibilitem
uma compreenso mais profunda do processo educacional (Vianna, 1982b).
A avaliao necessita considerar aspectos do meio educacional em que se desenvolver, evitando, assim, a imposio de
modelos nem sempre ajustveis aos vrios aspectos do sistema,
ainda que bem estruturados do ponto de vista terico. A realidade brasileira possui aspectos de grande singularidade, sendo
prefervel a adoo de algumas ideias gerais para orientao e
fundamentao do trabalho de avaliao, como as que foram
desenvolvidas por Cronbach (1963). Essas ideias so perfeitamente vlidas em funo de nosso contexto, mas no constituem, exatamente, um modelo. A adoo de um modelo transplantado de outras culturas pode criar uma situao artificial,
sem desdobramentos prticos.
preciso, no processo de desenvolvimento de uma avaliao, compreender o sentido de certos conceitos psicomtricos,
como validade, fidedignidade e discriminao, importantes sem
dvida em medidas educacionais, os quais, entretanto, devem
ser ponderados em funo de uma avaliao que no vise seleo e ao prognstico de comportamentos.
A validade de contedo geralmente associada a uma amostragem representativa de conhecimentos e comportamentos adquiridos durante o processo educacional. A conceituao no
186
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 186
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 187
187
5/29/15 3:37 PM
refletiria domnio do material instrucional, entre outros aspectos, e no a heterogeneidade resultante da maior variabilidade
entre os vrios nveis de desempenho.
O clculo de coeficientes de discriminao, expressos por
diferentes tipos de medidas de correlao (r-bisserial, phi, entre outros), presena obrigatria em estudos psicomtricos
na rea da docimologia educacional, quando, especialmente,
h necessidade de contrastar desempenhos extremos, a fim
de verificar o comportamento dos itens/questes do teste/prova na separao dos indivduos com vrios nveis de domnio
instrucional. A teoria clssica das medidas pe em destaque a
importncia desses coeficientes, favorecendo os itens/questes
que discriminaram positivamente, ou seja, aqueles itens/ questes que foram respondidos, corretamente, pela maioria dos
que obtiveram escores elevados e por poucos ou nenhum dos
elementos situados no extremo inferior da distribuio de escores, em oposio aos itens/questes de discriminao negativa, isto , que foram respondidos, em maior proporo, pelo
grupo de elementos situados no extremo inferior da distribuio de escores e por pequena proporo dos situados no extremo superior. Os primeiros so valorizados por terem cumprido
o seu papel discriminar; os segundos, condenados, pois no
concretizaram o esperado discriminar. A avaliao formativa,
assim como a avaliao com vistas a um determinado programa ou currculo, no objetiva discriminar, no pretende estabelecer diferentes nveis de desempenho. Ao contrrio, a
no discriminao, a homogeneidade do grupo, o mximo de
respostas corretas, respeitadas as diferenas individuais, o
objetivo primordial de um ensino eficiente e de um programa
ou currculo estruturado adequadamente, porquanto demonstraria sensibilidade ao processo instrucional e sequncia
curricular. Ainda que possam constar de estudos de avaliao
educacional, nem sempre os coeficientes de discriminao so
pea essencial, apesar de necessrios para anlise de questes
em uma avaliao somativa.
Um problema, muitas vezes, apresenta-se em avaliao
educacional: necessria a construo de testes padronizados e o uso de diferentes tipos de normas em investigaes
sobre o rendimento escolar? As palavras testes padronizados
e normas, quase sempre, so usadas com impreciso, con-
188
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 188
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 189
189
5/29/15 3:37 PM
190
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 190
5/29/15 3:37 PM
chegando muitas vezes a 40%, como o caso das estatsticas sobre populao em idade escolar fora do sistema educacional.
A questo da amostragem em avaliao educacional complexa
e, s vezes, difcil de solucionar, porque, malgrado o rigor dos
procedimentos lgico-estatsticos, sempre subsiste a pergunta: a
amostra selecionada representativa do universo investigado?
O importante, em relao atual estrutura de ensino em
seus vrios graus, criar um sistema de avaliao externa que,
de modo sistemtico, informe aos responsveis pelo ensino/
educao os problemas da realidade pedaggica que ocorrem
na escola e que se refletem nos diferentes nveis de capacitao
cognitiva. A identificao de pontos crticos no desempenho escolar dos estudantes deve ser um dos objetivos do diagnstico de
deficincias, para que possam ser corrigidos os desvirtuamentos
do processo ensino/aprendizagem.
O praticante da avaliao educacional, frequentemente,
necessita posicionar-se em relao a problemas aparentemente menores mas que perturbam o seu trabalho, se no forem
equacionados. As decises sobre esses problemas so subjetivas
na maioria das vezes. A vivncia do avaliador e seu bom senso
encontraro uma soluo para as situaes que, imprevisivelmente, possam surgir. Assim, o avaliador, na construo dos instrumentos de mensurao, v-se s voltas com a definio de um
contedo programtico que corresponda mdia do que ocorre
nas escolas do sistema, no caso de uma avaliao do rendimento. As Secretarias de Estado da Educao poderiam colaborar na
soluo do problema, mas, quase sempre, acham-se impossibilitadas, por no possurem cpias dos programas desenvolvidos
nas escolas. A legislao permite que cada escola estabelea seus
prprios contedos, havendo, portanto, grande diversidade de sequncias curriculares em escolas de uma mesma cidade situadas
prximas uma das outras. Algumas Secretarias possuem guias
curriculares que oferecem uma certa ordenao ao contedo
em suas linhas gerais, mas essa situao no a regra comum.
O avaliador v-se compelido a criar um programa mnimo, no
muito coerente s vezes, a partir dos aspectos comuns s vrias
programaes. Uma soluo alternativa e parcial para o problema
estaria na anlise dos livros didticos utilizados, que se constituem em fonte subsidiria de informaes sobre o que desenvolvido em sala de aula pelos professores. O procedimento no
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 191
191
5/29/15 3:37 PM
192
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 192
5/29/15 3:37 PM
tivos pelos professores das instituies avaliadas. Algumas experincias em avaliao educacional perderam o seu significado,
justamente em face desse acesso. Ao tomar conhecimento das
reas de contedo objeto da avaliao, o professor, inconscientemente, tende a acentuar esses aspectos, provocando, portanto, um direcionamento favorvel a seus alunos, em oposio
aos demais sujeitos submetidos avaliao. A avaliao externa, se no for bem compreendida pelos professores, gera uma
certa ansiedade entre eles, em decorrncia, possivelmente, do
atual carter punitivo de que, muitas vezes, reveste-se a avaliao em nosso contexto. O professor, desse modo, tende a criar
uma imagem favorvel para seu desempenho atravs do bom
desempenho dos seus alunos. A avaliao procura obter dados
para orientar o professor em seu trabalho, indicando as distores no processo de aprendizagem. Busca, tambm, outros
elementos que facilitem o processo decisrio, no vindo a criar
uma situao de constrangimento para o professor, a escola e o
prprio sistema educacional.
A divulgao das provas usadas em pesquisas ligadas diretamente avaliao costuma ser advogada por alguns elementos da comunidade educacional, criando uma situao de constrangimento para o avaliador que, a duras penas, construiu seu
instrumental. H uma tradio em nosso contexto social favorvel divulgao de provas e testes, inclusive por intermdio
da imprensa, o que precisaria ser rompido. Ao avaliador cabe
decidir o momento apropriado para divulgao do instrumental, no todo ou em parte. Alguns relatrios reproduzem fragmentos com tipos especficos de questes, outros se limitam
descrio geral do instrumental e, ainda, um terceiro grupo o
divulga na sua inteireza, impossibilitando, desse modo, a reaplicao dos mesmos instrumentos em sucessivas avaliaes.
Ao longo do tempo, com a ampla divulgao dessas provas e a
grande rigidez curricular, torna-se difcil a construo de novos instrumentos de medida sem o comprometimento da sua
validade. Por outro lado, a disseminao de provas favorece o
treinamento para a avaliao, como j vem ocorrendo em outros contextos que, tradicionalmente, usam testes padronizados. Ao avaliador cabe julgar, portanto, aps considerar diferentes variveis, o acesso s provas e a divulgao das mesmas.
A prudncia recomenda, entretanto, que o sigilo seja mantido,
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 193
193
5/29/15 3:37 PM
se o objetivo for criar uma tradio relativa avaliao externa, tornando-a parte integrante da vida escolar.
O uso de provas objetivas ou discursivas costuma ser apresentado como um problema para alguns avaliadores. A questo,
em si, um falso dilema, considerando-se que existe extensa
literatura com base emprica, demonstrando, de modo insofismvel, a adequao de ambos os tipos de prova para medir praticamente os mesmos traos, sendo, pois, inteiramente ociosa
qualquer discusso sobre o assunto. Ao avaliador o problema
deve se apresentar de uma outra forma, considerando a natureza da investigao e a populao avaliada. Dependendo do contexto, talvez sejam recomendados instrumentos semiobjetivos
apenas ou, ento, inteiramente objetivos, em funo do tempo
disponvel, da problemtica relativa sua aplicao e aos custos
operacionais. A discusso sobre itens discursivos/objetivos no
bizantina, como poderia parecer primeira vista, merece reflexo, mas no deve ser colocada em termos extremados, pois
depende de um concurso de variveis que interagem, cabendo
assim ao avaliador tomar a deciso que melhor se ajuste ao quadro investigativo.
A avaliao, segundo a perspectiva ora desenvolvida, um
processo sistemtico de levantamento de dados relativos a um
determinado fenmeno, a fim de possibilitar a tomada de decises com base em julgamentos de valor. A avaliao educacional
aplicada situao especfica do rendimento escolar procura,
desse modo, identificar as necessidades instrucionais dos alunos, com base em pontos crticos do seu desempenho em provas
de escolaridade. Busca coletar elementos para fundamentar a
anlise da eficincia do sistema de ensino. A avaliao educacional est, basicamente, comprometida com a melhoria da qualidade do ensino e com a compreenso da influncia dos professores no desenvolvimento de programas educacionais.
REFERNCIAS BIBLIOGRFICAS
BLOOM, B. S. et al. Taxonomy of educational objectives: handbook 1; Cognitive
domain. New York: David McKay, 1956.
CRONBACH, L. J. Course improvement through evaluation. Teachers College
Record, New York, v. 64, n. 8, p. 672-683, May 1963.
194
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 194
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 178-195, n. especial, dez. 2014
AF miolo_EAE_60.indd 195
195
5/29/15 3:37 PM
AVALIAES NACIONAIS
EM LARGA ESCALA:
ANLISES E PROPOSTAS1
1 Artigo publicado em
Textos FCC, v. 23, 2003. 41 p.
196
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 196
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 197
197
5/29/15 3:37 PM
198
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 198
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 199
199
5/29/15 3:37 PM
200
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 200
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 201
201
5/29/15 3:37 PM
202
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 202
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 203
203
5/29/15 3:37 PM
AVALIAES SISTMICAS
ALGUMAS QUESTES CRUCIAIS
Ainda nos anos 90 houve grandes avaliaes dos sistemas estaduais de ensino no Brasil, ligadas, na maioria das vezes, a projetos educacionais financiados pelo Banco Mundial. Essas avaliaes apresentaram-se de diferentes formas: algumas, realizadas
pelas prprias Secretarias de Educao; outras, por rgos estaduais nem sempre diretamente ligados rea da educao; um
terceiro grupo, com a colaborao de Fundaes, instituies
de direito privado especializadas na avaliao e seleo de recursos humanos; finalmente, um quarto grupo realizou suas
avaliaes sistmicas estabelecendo consrcios com mltiplas
instituies de ensino pblico e privado de terceiro grau, sob a
coordenao de uma universidade de prestgio orientadora de
todo o processo. Tudo isso gerou diferentes experincias, mas
no contribuiu para a formao de um know-how coletivo, pois,
na maioria dos casos, essas experincias no se transformaram
em vivncias que pudessem ser intercambiveis e a prpria
204
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 204
5/29/15 3:37 PM
divulgao dos resultados foi precria, sem atender aos diversos segmentos educacionais potencialmente interessados nos
resultados e nas concluses das avaliaes.
Algumas avaliaes sistmicas tiveram um carter censitrio,
mas a maioria optou pela adoo de avaliaes amostrais. As primeiras, ainda que apresentassem custos elevados, tendo em vista
o nmero expressivo de alunos e a problemtica de uma logstica
complexa, foi resultado de uma deciso poltica: fazer com que
todo o sistema participasse da problemtica da avaliao e no
se limitasse apenas a colaborar na aplicao dos instrumentos,
mas fosse partcipe inclusive da construo dos instrumentos e
dos trabalhos de uma correo preliminar nas respectivas escolas, discutindo, imediatamente, os primeiros problemas identificados e fossem antecipadas as primeiras providncias para o seu
saneamento, antes da divulgao dos resultados globais pelos rgos centralizadores. Outros sistemas comearam com avaliaes
amostrais, que nem sempre tinham grande impacto, e evoluram
para avaliaes censitrias, supostamente pelas razes anteriormente apontadas. A maioria, entretanto, optou por uma avaliao
amostral, por representar economia de problemas operacionais
e minimizar os custos, alm de oferecer resultados igualmente
confiveis. As avaliaes censitrias tinham a vantagem de apresentar os resultados por escola, municpio, Delegacia ou Superintendncia de Ensino, e os dados globalizados por estado.
Observa-se nessas avaliaes que o grau de sofisticao do
tratamento estatstico dos dados variou grandemente. Inicialmente, houve uma tendncia a apresentar os resultados de forma que fosse palatvel para o sistema, que estivesse de acordo
com a cultura educacional de todos os segmentos e seria ingenuidade imaginar que os professores do ensino fundamental
ou do ensino mdio tivessem suficiente conhecimento estatstico para entender prticas de anlise supostamente novas, mas
que j vigoravam em pases mais avanados desde os anos sessenta, como o caso da anlise das questes por intermdio da
metodologia da Teoria da Resposta ao Item (TRI). A impossibilidade de aplicao imediata dessas novas tecnologias decorreu,
tambm, da inexistncia de hardware nas Secretarias de Estado
da Educao, que se utilizavam de outros rgos, no necessariamente ligados educao, para o processamento de dados,
alm, naturalmente, da falta de domnio na utilizao dos pa-
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 205
205
5/29/15 3:37 PM
206
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 206
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 207
207
5/29/15 3:37 PM
208
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 208
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 209
209
5/29/15 3:37 PM
fessar, por ser de inteira justia, que, em 2001, o INEP, compreendendo a relevncia do problema ora exposto, promoveu em
Curitiba, na Secretaria de Estado da Educao, uma reunio de
elementos das outras Secretarias e pessoas ligadas avaliao
educacional para discutir a questo da disseminao do SAEB,
ficando assentado que em 2002 apresentaria seus dados em relatrios com diferentes abordagens, para atender os vrios segmentos da sociedade. Assim procedendo, e havendo a integrao
das escolas para discusses dos dados, acreditamos ser possvel
que, a mdio prazo, talvez se possa comear a falar da validade
consequencial do SAEB.
210
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 210
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 211
211
5/29/15 3:37 PM
212
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 212
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 213
213
5/29/15 3:37 PM
Ao longo dos anos, a parte verbal tem sido bastante diversificada, partindo de subsdios de diferentes reas social, poltica e cientfica s quais so agregados elementos de outras
reas literria, artstica e filosfica , enquanto a parte numrica do SAT procurou afastar-se de contedos curriculares, na
medida do possvel, concentrando-se em raciocnio lgico e na
percepo de relaes matemticas. O SAT, ressalte-se, possui
vrias formas ou verses para aplicao em diversos momentos
do ano, ao longo de anos sucessivos, e para fins de evitar problemas com a interpretao dos escores, so os mesmos padronizados em uma escala com mdia pr-fixada de 500 e desvio
padro igualmente preestabelecido de 100.
Vejamos a estrutura bsica do SAT, conforme a descrio apresentada em Donlon e Angoff (1971), atentando, entretanto, para
o fato de que, ao longo dos anos, o SAT vem sofrendo alteraes
bastante cautelosas e muito controladas, ao introduzir algumas
poucas alteraes no seu contedo e na apresentao de novos
tipos de itens, considerando a complexa problemtica do equating
(tornar equivalentes resultados de diferentes verses do mesmo
teste) e da estrutura fatorial do teste. A ltima alterao de que
temos notcia foi a ocorrida no incio da dcada de 90, conforme
comunicao durante a reunio anual da International Association
for Assessment in Education, realizada no Saint Patricks College,
em Dublin (1992); assim sendo, a verso ora apresentada refere-se
quela que analisada no relatrio coordenado por William Angoff, inicialmente referido. Nesse formato, a parte verbal do SAT,
composta de 90 itens, envolve antnimos, sentenas a completar,
analogias e compreenso de leitura de textos. A parte numrica,
com 60 itens, apresenta dois conjuntos de itens, sendo que um deles reflete questes habitualmente encontradas em testes de matemtica e o outro usa itens sobre suficincia de dados. Os itens
esto organizados em ordem de dificuldade crescente, igualmente padronizada pelo coeficiente Delta , a partir dos mais fceis, em
cada um dos blocos, e a dificuldade mdia de cada bloco igual
dificuldade do teste no seu conjunto, o que possvel tendo em
vista as cuidadosas estatsticas levantadas na fase de pr-testagem.
Os itens no SAT so de mltipla escolha, com cinco alternativas, e os folhetos de prova contm alguns itens a mais
(25), chamados de itens variantes, pois variam de aluno para
aluno e de prova para prova, sendo que alguns desses itens va-
214
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 214
5/29/15 3:37 PM
riantes destinam-se a obter informaes necessrias equalizao das vrias formas; outros, usados como se a aplicao fosse
uma fase de pr-teste, sero incorporados mais tarde a futuras
verses do SAT, e um terceiro conjunto de itens destina-se
realizao de pesquisas. Esclarea-se, tambm, que os itens variantes no diferem dos demais itens operacionais. So itens
paralelos, na medida do possvel, com o objetivo de evitar a
ocorrncia de resultados enviesados (item bias) em relao a determinadas variveis. A aplicao total do SAT de trs horas,
sendo duas horas e meia para os itens operacionais e a restante
meia hora para as questes variantes.
O SAT, ainda que seja um teste de aptido, , igualmente,
um teste de desempenho (achievement), mas deste difere pelo fato
de que mnima a sua dependncia em relao aos currculos
tradicionais. Um aspecto a ressalvar na parte verbal relaciona-se
aos itens de compreenso de textos, que so em nmero de sete
e envolvem cincias biolgicas, cincias fsicas, humanidades,
estudos sociais, havendo outros trs itens que abrangem narrao, sntese e argumentao. As questes esto distribudas em
trs amplas categorias, que, por sua vez, so subdivididas em categorias mais restritas. Temos itens de COMPREENSO, abrangendo (1) compreenso da ideia principal e (2) compreenso de
ideias secundrias; itens de RACIOCNIO LGICO, envolvendo
(3) completar inferncia pretendida, (4) o uso de generalizao
e (5) a avaliao da lgica da linguagem do texto; e, finalmente,
itens relacionados a ASPECTOS EMOCIONAIS DA LINGUAGEM,
(6) envolvendo a percepo do estilo e do tom do texto.
A dimenso contedo do subteste numrico do SAT abrange trs categorias: aritmtica-lgebra, geometria e outros.
A combinao de aritmtica e lgebra resulta de que as regras
bsicas de combinao para ambas so as mesmas e, em muitos casos, os itens podem admitir uma soluo por mtodos
aritmticos ou algbricos. A categoria geometria apresenta
itens que demandam exclusivamente conhecimentos da geometria euclidiana dedutiva; por sua vez, a categoria outros
inclui problemas que versam sobre lgica, topologia intuitiva,
smbolos no usuais, operaes e definies. Quanto s capacidades exigidas, os itens compreendem, habilidade computacional, julgamento numrico e estabelecimento de relaes,
alm de outras mais classificadas como miscelnea.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 215
215
5/29/15 3:37 PM
216
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 216
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 217
217
5/29/15 3:37 PM
218
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 218
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 219
219
5/29/15 3:37 PM
220
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 220
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 221
221
5/29/15 3:37 PM
222
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 222
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 223
223
5/29/15 3:37 PM
meiros momentos da sequncia formativa, omitindo ou deixando de considerar outros aspectos objeto de estudos nas ltimas
sries da formao acadmica. Alm do mais, seria preciso que o
MEC levasse em considerao o fato de que similaridades curriculares nem sempre traduzem identidades e cursos com a mesma designao podem ter estruturas inteiramente diferenciadas;
desse modo, na prtica, os syllabus se assim podemos chamar
, que foram divulgados pelo MEC, e so dados a conhecer todos
os anos, na poca do Exame, passaram a ser programas de ensino em muitas instituies, mais preocupadas com o que seria a
avaliao institucional do que com a formao geral, cientfica e
profissional do seu alunado. Alm do mais, algumas instituies,
considerando as repercusses do desempenho dos alunos no seu
marketing promocional, desenvolveram imaginosas estratgias
de ensino com vistas ao preparo para o ENC ou, mais especificamente, para o hoje clebre Provo, configurando-se nova
modalidade de cursinho preparatrio.
Outras comisses, integradas por membros de diferentes
instituies, necessitam ser organizadas ao longo do processo de desenvolvimento do ENC. Assim, definidos os contedos,
constituem-se grupos para a elaborao dos instrumentos, ressaltando-se que estes novos grupos so diferentes dos que definiram a filosofia e desenvolveram o que chamamos de syllabus.
Apresentam-se muitas vezes situaes conflitivas, pois os que
devem elaborar o material do Exame nem sempre tm as mesmas percepes tericas dos que integraram a primeira comisso, dificultando, desse modo, a operacionalizao do Exame.
bem possvel, a ttulo de uma exemplificao inteiramente
hipottica, mas no absurda, que um grupo junguiano deva
implementar uma programao de sabor skinneriano ou vice-versa; ou que um programa de fsica orientado no sentido
eminentemente experimental deva ser trabalhado por um
outro grupo extremamente matematizado ou vice-versa; ou
que um programa de biologia inspirado na qumica molecular
deva ser operacionalizado por um grupo mais chegado a uma
orientao tradicionalista ou vice-versa. Essas so algumas hipteses levantadas para configurar situaes que podem ser
consideradas impossveis, mas que ocorrem na prtica do dia
a dia, em que divergncias conceituais, filosficas e de tratamento dos vrios assuntos existem, sem dvida, dificultando
224
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 224
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 225
225
5/29/15 3:37 PM
com elementos que no participaram das vrias fases anteriores, com o objetivo de, em princpio, fazer uma anlise crtica
dos instrumentos elaborados. sabido que no existem instrumentos perfeitos, especialmente no caso presente, pois medem
elementos no tangveis que englobam aspectos cognitivos e
diferentes capacidades relacionadas ao construto que, supostamente, est sendo mensurado. Toda e qualquer discusso na
rea sempre proveitosa, dependendo dos seus termos e, no caso
presente, as consideraes devem basear-se nas matrizes compostas por diferentes elementos estatsticos possveis de coletar
sobre o desempenho dos que responderam s questes. Isso no
significa, ressaltemos, que no haja um certo subjetivismo sempre que so expressos juzos de valor relacionados a assuntos e
maneira como foram abordados nas vrias questes; entretanto,
esse subjetivismo no pode resultar de posicionamentos ideolgicos, idiossincrasias pessoais e nem decorrer de antagonismos
acadmicos. O que se observa, no entanto, que essas discusses
possuem um tom eminentemente impressionista eu acho; eu
penso; eu acredito; eu julgo sem qualquer tipo de fundamentao emprica ou terica; por outro lado, as crticas no incidem
sobre o instrumento como tal, sua estrutura, seus possveis e at
mesmo compreensveis defeitos, mas resultam de um posicionamento muitas vezes contrrios filosofia, prtica do Exame
Nacional de Cursos e sua razo de ser, refletindo, por outro
lado, um certo antagonismo a toda a poltica educacional que
fundamentou a deciso de instituir um amplo programa de avaliao de todo o sistema educacional do pas. A anlise supostamente crtica reflete com bastante frequncia um certo sabor
xenfobo, digamos, ao considerar o instrumento com um vis
regional, considerando a prova como identificada com certas
instituies, mas negando-lhe valor em relao a outras.
226
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 226
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 227
227
5/29/15 3:37 PM
228
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 228
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 229
229
5/29/15 3:37 PM
AUTOAVALIAO E AVALIAO
EXTERNA SEU SIGNIFICADO
Pensamos que essas e outras sugestes tenham praticabilidade e possam vencer ou atenuar as resistncias ora oferecidas.
Ao MEC e s Secretarias de Estado da Educao caberiam a importante e significativa misso de controlar os resultados das
avaliaes e aplicar as possveis punies s instituies que
no atingissem os parmetros desejados. O assunto polmico,
temos plena conscincia, assim como quase tudo em educao
igualmente polmico ou objeto de polmicas. preciso lembrar, alm dos problemas anteriormente apontados, os atuais
custos elevados do ENC e tememos que, em futuro bem prximo, seja o mesmo inviabilizado do ponto de vista financeiro.
O assunto deve ser discutido pela sociedade, inclusive considerando outras alternativas alm das que foram anteriormente propostas, a fim de alterar a atual situao, considerando
que as prprias instituies de terceiro grau precisam de informaes consistentes que lhes permitam aprimorar os seus
procedimentos e atender a suas necessidades. A sociedade, sem
dvida, necessita, igualmente, de informaes vlidas e consistentes para julgar de forma criteriosa as instituies que, de
um modo ou de outro, so suas subsidiadas.
A avaliao institucional de Universidades, Centros Universitrios, Faculdades Integradas e de todas as modalidades de
Instituies de Ensino Superior IES que possam existir no sistema educacional brasileiro, salvo melhor juzo, deve basear-se,
necessariamente, na AUTOAVALIAO e em AVALIAES EXTERNAS por iniciativa das prprias instituies, a exemplo do que j
ocorre em algumas universidades que tiveram um papel pioneiro nessa iniciativa, como a Universidade Nacional de Braslia
UnB e em outras instituies mais, que, sendo subordinadas a
Conselhos Estaduais, como as universidades estaduais do Estado
de So Paulo e os Centros Universitrios de Santo Andr e So
Caetano, no mesmo estado, j promovem suas autoavaliaes.
230
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 230
5/29/15 3:37 PM
preciso resgatar a promissora experincia do Programa de Avaliao Institucional das Universidades Brasileiras PAIUB, que,
lamentavelmente, no foi levada adiante.
A autoavaliao e as possveis avaliaes externas, quando
estas ltimas se fizerem necessrias, a juzo das instituies,
deveriam ser complementadas com avaliaes eminentemente
qualitativas dos programas de pesquisas pelas agncias financiadoras, como, por exemplo, o CNPq e a FAPESP, e, finalmente, a avaliao tambm qualitativa, mas incluindo elementos
quantitativos, dos cursos de ps-graduao pela CAPES, o que
j vem ocorrendo. As autoavaliaes, realizadas em intervalos
a serem fixados, cinco anos, suponhamos, juntamente com
possveis avaliaes externas para fins especficos, e mais os
trabalhos de auditoria no campo da pesquisa e da ps-graduao, forneceriam, sem dvida, elementos preciosos para o MEC
exercer sua funo principal de agncia controladora da qualidade do ensino superior, podendo, inclusive, atravs de procedimentos legais apropriados, isentar alguns cursos de graduao de novos exames, a partir dos dados informativos oriundos
dos rgos corporativos responsveis pelos exames de fim de
curso, como a OAB, CFM, CREAs e outros conselhos mais, que
tivessem comprovado de forma indiscutvel a eficincia ao longo de quatro anos seguidos, suponhamos.
As presentes consideraes, acompanhadas de algumas
sugestes, que julgamos realistas face o atual quadro, visam a
propor uma nova formatao s pioneiras avaliaes em larga
escala promovidas nos anos 90 pelo MEC e implementadas
com grande eficincia pelo Instituto Nacional de Estudos e
Pesquisas Educacionais INEP. Queremos, ao finalizar, reiterar o significado da avaliao no processo educacional, como
o fez Kellaghan (2001), e destacar sua importncia no sentido
de (1) elevar os padres de ensino muitas vezes bastante comprometidos em algumas instituies; (2) ajustar os processos
de ensino aprendizagem com o uso de metodologias adequadas e que devem ser de domnio dos professores, o que nem
sempre ocorre; (3) contribuir para a formao de cidados que
possam desafiar a complexidade de uma sociedade tecnolgica; e, ainda, (4) proporcionar aos responsveis pela tomada de
decises educacionais o feedback necessrio para que prevalea
o bom senso que, na prtica, conduz ao acerto das aes.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 231
231
5/29/15 3:37 PM
REFERNCIAS BIBLIOGRFICAS
BELLER, Michal. Admission to higher education: current dilemmas and
proposed solution. In: KELLAGHAN, Thomas (Ed.). Admission to higher education:
issues and practice. Dublin: Educational Research Centre; New Jersey:
International Association for Educational Assessment, 1995.
BLOOM, Benjamin S. Inocncia em educao. Cadernos de Pesquisa, So Paulo,
n. 16, p. 63-71, mar. 1976.
BLOOM, Benjamin S.; HASTINGS, J. Thomas; MADAUS, George F. Handbook on
formative and summative evaluation of student learning. New York: McGraw-Hill
Book, 1971.
BROWN, Frederick G. Principles of educational and psychological testing. Illinois:
The Dryden, 1970.
CAMPBELL, Donald T.; FISKE, Donald W. Convergent and discriminant validation
by the multitrait-multimethod matrix. Psychological Bulletin, n. 59, 1959.
CRONBACH, Lee J. Essentials of psychological testing. 2th ed. New York: Harper and
Row, 1960.
______. Test validation. In: THORNDIKE, Robert L. Educational measurement.
2th ed. Washington, D.C: American Council on Education, 1971.
______. Essentials of psychological testing. 3th ed. New York: Harper and Row, 1977.
CRONBACH, Lee J.; MEEHL, Paul F. Construct validity in psychological tests.
Psychological Bulletin, n. 52, 1955.
CRONBACH, Lee. J.; WARRINGTON, Willard G. Efficiency of multiples: choice
tests as function of spread of items difficulties. Psychometrika, n. 17, 1952.
DONLON, Thomas F.; ANGOFF, William H. The Scholastic aptitude test. In:
ANGOFF, W.H. (Ed.). The College board admissions testing program: a technical
report on research and development activities relating to the SAT and
achievement tests. New York: College Entrance Examination Board, 1971.
KELLAGHAN, Thomas. The use of assessment in educational reform. In: ANNUAL
CONFERENCE OF THE INTERNATIONAL ASSOCIATION FOR EDUCATIONAL
ASSESSMENT, 27., 2001, Rio de Janeiro, Paper Rio de Janeiro: IAEA, 2001.
NUTTALL, Desmond. The Myth of comparability. In: MURPHY, Roger;
BROADFOOT, Patricia. A Tribute to Desmond Nuttall. London: The Falmer, 1995.
RYANS, D. G.; FREDERICKSEN, N. Performance tests of educational achievement.
In: LINDQUIST, E. F. (Ed.). Educational measurement. Washington, DC: American
Council on Education, 1951.
VIANNA, Heraldo M. Validade de construto em testes educacionais. Educao e
Seleo, So Paulo, n. 8, p. 35-44, jul./dez. 1983.
WEDMAN, Ingeman. Selection to higher education in Sweden. In: KELLAGHAN,
Thomas (Ed.). Admission to higher education: issues and practice. Dublin:
Educational Research Centre; New Jersey: International Association for
Educational Assessment, 1995.
232
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 196-232, n. especial, dez. 2014
AF miolo_EAE_60.indd 232
5/29/15 3:37 PM
AF miolo_EAE_60.indd 233
5/29/15 3:37 PM
AVALIAO EDUCACIONAL:
VIVNCIA E REFLEXO1
234
Introduo
Ao longo de vrios momentos, esforamo-nos para definir
a posio metodolgica de alguns responsveis pela criao da nossa concepo de avaliao, focalizando, especialmente, Tyler, Cronbach, Scriven, Stufflebeam e Stake.
Procuramos destacar aqueles que se preocuparam com a lgica do processo (Scriven) e visaram a apresentar solues
para problemas prticos (Cronbach), criando, assim, uma
sistemtica para lidar com os problemas enfrentados pelos
avaliadores. Chegamos, agora, ao momento de considerar
algumas outras questes, refletindo o nosso posicionamento. Ao faz-lo, partimos da lembrana das 95 teses apresentadas por Cronbach2, esclarecendo que a presente reflexo
representa um esforo visando a mostrar a compreenso
que temos dos problemas considerados e vivenciados por
ns no perodo de 1962 a 1995. uma tentativa, portanto,
de registrar o nosso pensamento sobre avaliao educacional de forma sistematizada, luz de experincias pessoais,
refletindo algumas das influncias que sofremos ao longo
daquele perodo e da prtica da avaliao.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 234
5/29/15 3:37 PM
Avaliao e autoconhecimento
A educao no se limita a transmitir conhecimento elaborado e sistematizado ao longo do tempo. Esse conhecimento
indispensvel sobrevivncia do indivduo e sua necessidade
se torna cada vez mais crtica medida que a nossa cultura
sofre um maior aprofundamento tecnolgico, exigindo o domnio de tcnicas necessrias a atividades bastante simples. A
educao, entretanto, no fica restrita apenas a esse aspecto,
pois assim no teria sentido o seu proceder. Para completar e
dar significado ao seu proceder, impe que, ao lado do conhecimento humanstico e tecnolgico, sejam incorporados valores e
tradies definidos culturalmente. Ora, diante desse quadro, a
avaliao no um processo que leva apenas ao levantamento
de dados, identificao de problemas para que os executivos
da educao lhes deem as melhores solues. A avaliao, vista
sob o enfoque que pretendemos, bem mais do que apenas
isso; uma forma de autoconhecimento da prpria sociedade, que procura conhecer a si mesma atravs da identificao
do que prevalece em uma de suas principais instituies a
escola , que responsvel por sua continuidade. O fracasso
refletido atravs de uma avaliao representa, na realidade, o
prprio fracasso da sociedade em concretizar seus objetivos,
ficando, desse modo, detentora de uma forma de conhecimento que poder utilizar, mas que pouco contribuir para a sua
sobrevivncia uma escola falida reflete, atravs da avaliao,
uma sociedade igualmente fracassada nos seus objetivos.
Avaliao e planos de ao
Algumas sociedades possuem verdadeira obsesso relativamente avaliao caso especfico da norte-americana ; outras,
a usam com moderao, preocupadas muitas vezes com suas
implicaes sociolgicas como parece ocorrer na Inglaterra ,
tornando o seu uso bastante cauteloso e um terceiro grupo, geralmente integrado por pases do Terceiro Mundo, que sofrem
a influncia de agncias internacionais de financiamento, as
quais usam a avaliao como forma de controle dos seus subsdios financeiros e tentam influenciar polticas pblicas. A situao nestes pases de plena euforia avaliativa, especialmente
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 235
235
5/29/15 3:37 PM
Avaliao e transformao
A avaliao s vezes vista de forma bizarra, como um processo
revolucionrio que promover mudanas imediatas em todo o
sistema, abrangendo todos os sujeitos administradores, tcnicos, professores e alunos, com a alterao imediata de programas, projetos e materiais. Assim como na natureza nada se faz
aos saltos, mas resulta de um processo s vezes razoavelmente
longo, o mesmo ocorre em educao, especialmente em relao
avaliao e aos seus propsitos. A escola tende a ser conserva-
236
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 236
5/29/15 3:37 PM
Avaliao e reflexo
A avaliao est integrada no processo contnuo de refletir sobre as diversas reas educacionais e seus problemas. A reflexo
constante e envolve o administrador, com os seus problemas
para o bom funcionamento do pequeno/grande mundo que a
escola, o pessoal tcnico supervisores e coordenadores que
deve refletir sobre a diversidade dos problemas de seu dia a dia,
envolvendo, inclusive, problemas de relacionamento humano, e
o professor, supostamente um tcnico em promover a aprendizagem, que precisa refletir como desenvolver habilidades e aptides, alm, naturalmente, de procurar fixar todo um contedo
associado a um conjunto de experincias curriculares. A reflexo sobre essa diversidade mantm uma relao biunvoca com
a avaliao; pois no se pode pensar em educao e ensino sem,
simultaneamente, uma valorao de outros elementos diversos.
A avaliao no um conjunto de tcnicas para o levantamento de informaes sobre diferentes sujeitos, mas um momento permanente na reflexo sobre os problemas educacionais.
A contradio momento/permanente justifica-se, porque se refere no a um instante temporal, mas a um elemento indispensvel ao constante refletir sobre a educao e seus problemas.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 237
237
5/29/15 3:37 PM
Avaliao e o avaliador
Falamos, anteriormente, em reflexo, que resultaria numa anlise que incluiria, tambm, um processo de avaliao e ressaltamos o papel de administradores, tcnicos e professores, que,
em princpio, estariam qualificados para esse desempenho. A
incidimos em um ponto nuclear, pois a anlise exigida de
natureza bastante complexa, no admitindo improvisaes.
fundamental que o avaliador possua uma formao geral e que
tenha vivenciado os problemas do ensino, especialmente atravs
238
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 238
5/29/15 3:37 PM
Avaliao e controvrsias
Alguns programas educacionais costumam dar margem a controvrsias. Pensamos, a ttulo de ilustrao, nos chamados programas
de matemtica moderna em oposio matemtica clssica.
Isso costuma gerar situaes muitas vezes passionais e, portanto, emotivas, que do margem ao surgimento de elementos
que dificultam a tarefa do avaliador. preciso, portanto, que
o avaliador, na medida do possvel, mantenha-se isento, sem
tomar aprioristicamente um posicionamento. Isso ocorre
com bastante frequncia, ao contrrio do que se possa pensar.
o resultado do desejo de provar que o novo melhor, em
oposio ao antigo, o que no necessariamente verdade. A
responsabilidade do avaliador, no caso, bastante grande, exigindo que, graas sua capacitao e experincia adquirida
ao longo da prtica habitual, possa identificar essas situaes
desfigurantes e, assim, estabelecer meios adequados para esclarecer os problemas, sem envolvimentos ou controvrsias
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 239
239
5/29/15 3:37 PM
240
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 240
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 241
241
5/29/15 3:37 PM
pblicas, quando so consideradas. importante que as avaliaes sejam utilizadas pelo sistema, mas sumamente necessrio
que essas avaliaes sejam responsveis, tendo em vista a possvel influncia que vo exercer.
Avaliao e consenso
Uma nica teoria da avaliao o desejo no concretizvel da
maioria dos avaliadores. Assim como no existe apenas uma
teoria da educao aceita pelo consenso impossvel o consenso em educao, apesar das esperanas da tcnica Delphi, que
parte desse pressuposto , no existe um consenso que tambm
seria desejvel em avaliao. As posies so muitas, s vezes
antagnicas. Pode-se elaborar uma teoria com base em uma
concepo de educao, mas ser sempre uma entre muitas outras teorias igualmente possveis. Algumas vezes, em educao,
ficamos no domnio da idealidade. Elaborar uma teoria da avaliao que satisfaa a todos difcil, praticamente impossvel.
As coisas tornam-se mais complexas quando se pensa em uma
teoria que seja ao mesmo tempo uma teoria da interao poltica. lnterao poltica um construto e admite diferentes posicionamentos difceis de conciliar; por outro lado, uma teoria
assim estruturada somente se completaria se a ela pudssemos
integrar uma teoria da determinao de fatores, pois, no fundo,
o avaliador procura estabelecer os fatores determinantes que
dimensionam o problema a solucionar. Acreditamos que o avaliador deva assumir uma posio filosofante, como pensador
que , e procurar basear-se em uma teoria (ou criar uma teoria)
associada interao poltica, no importando que vozes diversas se manifestem contrrias. O significativo o seu trabalho
e nesse quadro no podemos deixar de pensar em Tyler, que
legou uma obra significativa, apesar de todas as resistncias
que enfrentou e soube superar.
Avaliao e expectativas
A avaliao afigura-se a muitos como o caminho da esperana,
acreditando que, por intermdio da avaliao, se podero obter
242
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 242
5/29/15 3:37 PM
respostas inequvocas para os numerosos problemas que o campo educacional oferece. Sem dvida, poderemos obter respostas
para algumas questes, mas no para todas. Ao delinearmos um
programa educacional, qualquer que seja, simples, sem maiores complexidades, sempre surgiro controvrsias. A avaliao
do programa poder fornecer certas informaes sobre o seu
possvel mrito, indiscutivelmente, mas essas informaes por
mais completas que possam ser, por maior que seja a soma de
dados coletados, nunca eliminar totalmente as controvrsias
que sobre seus mritos possam existir. Poder haver um certo
convencimento, mas que no ser suficiente para dirimir as dvidas que possam existir. Neste caso, a avaliao que surge para
alguns como a senda da esperana, pode vir a transformar-se em
caminho do desapontamento. E por isso talvez seja rduo o mtier
de avaliador, que deve conviver com opostos: a esperana e a
angstia da frustrao. preciso, pois, que o avaliador no parta
de certezas absolutas, mas baseie o seu trabalho em possibilidades, em expectativas que possam vir a se concretizar, mas sem
pensar que a tudo domina, que o senhor de todos os saberes
e que o seu domnio das tecnalidades seja capaz de eliminar as
dvidas que so parte da contingncia humana.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 243
243
5/29/15 3:37 PM
em que tudo est inserido. um instante crtico, que demonstra a situao de impotncia em que se encontra a avaliao e
o avaliador educacional. H razes outras que podem escapar
sua compreenso, mas que se impem tendo em vista que a
educao ocorre em um contexto poltico e parodiando o velho
sempre moderno filsofo francs, pode-se dizer que a poltica tem razes que a prpria razo desconhece. Isso verdade
no mundo das emoes e no mbito das realidades. A educao
deve estar pronta para enfrentar essas realidades, sendo que isso
no representa um demrito para o avaliador, quando as suas
concluses nem sempre so consideradas.
Avaliao e pesquisa
A ideia de avaliao comea a dominar a nossa sociedade, graas,
em parte, atuao da mdia, chamando a ateno para alguns
problemas que s vezes no so realmente prioritrios, com
o esquecimento de outros, mais relevantes e de repercusso
social mais profunda. A questo da avaliao passou a dominar
os mais diversos segmentos sociais, despertando o interesse de
rgos sindicais de um lado e no extremo oposto de grupos empresariais, ainda que por motivos diversos. Existe uma crena
generalizada na necessidade de impor a avaliao como um
procedimento normal ao sistema educacional. Percebe-se, entretanto, que essa ideia, aparentemente nova, nada mais do
que o desdobramento de uma ideia anterior, que tardiamente
surgiu no mbito do ensino superior: a prtica da pesquisa.
A pesquisa em educao bastante recente, pelo menos em
nosso contexto, e recebeu grande impulso na medida em
que a ps graduao se consolidou nos principais centros de
ensino superior. Uma nova atitude comeou a formar-se em
relao anlise dos problemas educacionais e um acmulo
de know-how tecnolgico se estruturou, permitindo trabalhos
empricos. Avaliao e pesquisa seriam campos separados ou
seriam na verdade reas que se integram e se complementam?
Tentamos, muitas vezes, delinear as caractersticas de uma e
de outra, pontos de aproximao e de divergncia; no entanto,
afigura-se-nos que as atuais distines so artificiais, so mais
um exerccio acadmico, pois o evoluir de ambas as atividades
244
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 244
5/29/15 3:37 PM
est fazendo com que a possvel distino que ento existia esteja desaparecendo e a avaliao se transformando igualmente
em uma forma de pesquisa. Podemos estabelecer como um imperativo atual que se formem pesquisadores para uma atuao
eficiente na rea da avaliao educacional.
Avaliao e accountability
A dcada de 60 assistiu a um boom da avaliao educacional no
contexto norte-americano. Alguns milhares de projetos foram
realizados com o investimento de centenas de milhes de dlares; ao final, alguns trabalhos se revelaram realmente relevantes e tiveram ampla repercusso, mas a maioria foi objeto
de acerbas crticas, tendo em vista as limitaes dos resultados
apresentados. Aos poucos, comeou a impor-se o conceito de
accountabillty, palavra difcil de traduzir com exatido; contudo, percebe-se que est relacionada expresso to be accountable
for ser responsvel por , da a traduo que usualmente
empregamos responsabilidade educacional. Por outro lado,
preciso lembrar, tambm, que account tem um sentido contbil, financeiro. Haveria, assim, uma preocupao maior com
as grandes despesas governamentais para obteno de resultados muitas vezes decepcionantes, em decorrncia, inclusive, da irrelevncia metodolgica da maioria dos projetos.
Aprofundando-se o conceito de accountability sente-se que,
alm do aspecto financeiro, h uma grande preocupao com
o que foi, com o passado, visando a definir mritos e a estabelecer a culpabilidade dos responsveis pelos programas;
parece-nos, entretanto, que a avaliao pode ser melhor utilizada na medida em que nos permita compreender os acontecimentos e a ter uma inteligncia aprofundada dos processos
educacionais, com o objetivo de fornecer subsdios para os
novos educadores que se venham a envolver com futuros projetos e com outros programas, aproveitando os ensinamentos
do passado e as experincias vivenciadas. A avaliao um
olhar para frente, um olhar em perspectiva, talvez a partir do
que foi, mas sem querer culpabilizar pessoas ou instituies,
bastando a angstia do possvel insucesso. A avaliao guia; a
avaliao no pune.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 245
245
5/29/15 3:37 PM
Avaliao e realidades
O poeta diz com razo que navegar preciso; diramos que avaliar tambm preciso, mas com as devidas cautelas, tendo uma
bssola orientadora, a fim de evitar certos abrolhos e possveis
desapontamentos. Algumas vezes, arquitetam-se grandes planos,
com vistas a grandes renovaes e a esperana de promover uma
revoluo. Sonhar igualmente necessrio, mas dentro de certos
limites, considerando as nossas realidades. Ideias so importadas sem que sofram um processo de aculturao; instituies so
transplantadas com o esquecimento de que, atrs delas, h toda
uma tradio acumulada ao longo dos tempos e experincias verificadas ao longo de um processo de validao. A situao no
abstrata, mas ocorrente em nosso contexto. O avaliador educacional v-se muitas vezes envolvido nessa situao e obrigado a
opinar sobre propostas de renovao ou a elaborar planejamento que acompanhe a implementao dessas novas experincias.
A sua situao pessoal bastante crtica. Nem sempre pode recusar a sua participao; outras vezes, procurando agir com imparcialidade na medida em que o ser humano pode ser imparcial
seus resultados contrariam as expectativas, sendo prudente,
portanto, que o avaliador considere a possibilidade de insucesso
do projeto de renovao e advirta os responsveis pelo projeto.
Sinceridade e honestidade so, obrigatoriamente, atributos de
um avaliador consciente.
Avaliao e comprometimento
A atividade educacional implica intenso comprometimento dos
envolvidos. Esta situao deve ser mantida ao longo de todo o desenrolar das aes programadas, inclusive com a participao ativa
dos avaliadores, sejam estes especialistas externos ou professores,
que, em ltima anlise, so, realmente, os avaliadores dos programas nas escolas. A atividade educacional em pases em transio
socioeconmica extremamente desgastante fisicamente e sem
uma certa paixo, reflexo do comprometimento, fcil ser cair na
descrena, na prtica do fazer pelo fazer, simplesmente. O avaliador, e no somente ele, mas todos os educadores, devem superar
seus momentos de descrena e dvida f e dvida coexistem e
a dvida robustece a f , que podem levar ao negativismo e in-
246
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 246
5/29/15 3:37 PM
Avaliao e controle
H alguns pargrafos consideramos a problemtica da
accountability. Voltemos a ela, porque esse conceito que surgiu
h mais de trinta anos no contexto norte-americano comeou
a expatriar-se, passando a fazer parte do jargo tecnolgico das
avaliaes nacionais. Ser que essa ideia se aplica nossa situao, que somente agora, nos ltimos anos, menos de um decnio, comea a se preocupar com a avaliao, seus problemas e
as inmeras implicaes que dela decorrem? Acreditamos que
sim, considerando que havendo recursos, pessoal qualificado,
planejamento adequado e ao implementadora consistente, os
programas educacionais, quaisquer que sejam, sero bem sucedidos. Essa a ideia mais explcita do conceito de accountability.
Outras percepes tambm existem, como o seu contedo financeiro, entretanto, preocupa-nos um outro aspecto, que nos parece extremamente grave. Se necessitamos desse conceito a ponto
de import-lo e incorpor-lo prpria educao, no dizemos
que apenas a avaliao o incorporou. A educao em geral sentiu
necessidade de utilizar essa ideia, no unicamente a avaliao,
e isso preocupante, pelo menos para ns, pois revela que o
sistema se apercebe que um quadro patolgico se desenvolve no
sistema, e necessita de elementos de controle, a fim de evitar
que ele se desenvolva e comprometa a sua prpria razo de ser,
inclusive a avaliao, que passa a sofrer os mesmos malefcios,
via todo um processo de metstase social. A avaliao, ao coletar
e analisar dados, passa, assim, a exercer as funes de um elemento de controle da salubridade do sistema educacional.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 247
247
5/29/15 3:37 PM
Avaliao e credibilidade
A eficincia de um governo no est no fazer, mas no saber fazer em correspondncia com as realidades vividas no contexto
da sociedade. Ao querer fazer, sem antes consultar a sociedade
e ouvir seus posicionamentos, um governo democrtico, constitudo por pessoas de formao democrtica, mas s vezes sem
experincia democrtica, acaba por revelar uma face autoritria
at ento desconhecida. A centralizao na rea educacional leva
muitas vezes a situaes contraditrias. Ao impor, por exemplo,
a avaliao processo fundamental no mbito da educao, no
temos dvida, por uma questo de coerncia com o prprio viver sentimos um princpio de violncia, que no desejvel.
A avaliao deve resultar de uma aspirao prpria e do desejo
de autoconhecer-se, ao mesmo tempo que identifica seus problemas, seus xitos e seus fracassos, ainda que essa colocao possa
parecer utpica, mas sem uma utopia no se vive, nem sobrevive.
248
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 248
5/29/15 3:37 PM
Avaliao em que o governo avalia seus prprios procedimentos no merece credibilidade. Falta-lhe credibilidade por
querer impor uma avaliao no inteiramente independente,
porque realizada por rgos de certa forma ligados ao poder
central ou que dele dependem para sobreviver. Cairamos, dessa forma, no mundo inconsequente de verdades paradoxais
(uma contradio, evidentemente), ou seja, em educao o suposto racionalismo de um governo centralizado pode levar ao
autoritarismo, ao generalizar medidas possivelmente aceitas
pela sociedade, desde que tivesse sido ouvida e os temas discutidos por suas instituies mais representativas.
Avaliao e obstculos
O avaliador, assim como o homem de Ortega y Gassett, ele
prprio e suas circunstncias. Possui suas limitaes e sofre restries que lhe so impostas pelo contexto em que atua. Tem o
domnio das tcnicas, mas nem sempre as pode usar, tendo em
vista os condicionamentos do pblico a que se destinam, ou,
ento, as empregam usando meios palatveis de comunicao,
a fim de que seu trabalho possa ser compreendido e utilizado. Nem sempre pode realizar o que, teoricamente, gostaria de
concretizar, porque possui limitaes oramentrias, s vezes
bastante srias. Sendo o seu trabalho o resultado do esforo de
uma equipe, em muitos casos no dispe de pessoal qualificado ou deve agir com apoio de um grupo bastante restrito. Ao
desenvolver o projeto no ter condies de superar muitas dificuldades e ele prprio em seu relatrio dever honestamente
explicitar as dificuldades encontradas, as limitaes enfrentadas e os aspectos que no puderam ser abordados, por razes
diversas, e as solues que no forem possveis. O avaliador,
assim como o pesquisador, e ele prprio tambm um pesquisador, no um super-homem que vence todos os obstculos,
enfrenta todas as situaes e soluciona todos os problemas,
armado com os instrumentos que lhe oferece a tecnologia de
ponta. O avaliador , em grande parte, o gerenciador de um
programa, que, com diligncia, procura torn-lo o mais eficiente possvel, sem o uso de superpoderes que no possui. Seria
uma iluso pensar ao contrrio.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 249
249
5/29/15 3:37 PM
Avaliao e gerenciamento
Chegamos a um ponto crtico nestas reflexes sobre a avaliao
educacional. Perguntamo-nos: por que o sucesso do Eight-Year
Study, de Tyler, ou o de Stufflebeam, baseado no modelo Contexto,
lnput, Processo e Produto (CIPP)? evidente que, primeiramente, havia a vontade poltica de realizao das avaliaes, sem o
que nada possvel realizar. Havia, ainda, um modelo com slida
fundamentao terica, independentemente das restries que
alguns elementos da comunidade de avaliadores apresentaram
a essas formulaes. Os projetos possuam dotaes oramentrias necessrias sua concretizao, com verbas de fontes diversas. Isso tudo, entretanto, no seria suficiente para explicar
o xito desses projetos ou de quaisquer outros programas de
avaliao; h um outro elemento de capital importncia: o responsvel pelo gerenciamento dos projetos. Tyler e Stufflebeam
tinham experincia de ensino; participaram de atividades acadmicas, inclusive administrativas, em grandes universidades,
e possuam a vivncia de outros programas anteriormente executados. Tinham capacidade de liderana, aglutinando em torno
de si instituies diversas e diferentes pessoas com formao
variada; faziam valer, democraticamente, o seu comando, solucionando os vrios conflitos de relaes humanas; alm de se
imporem pelo domnio da rea substantiva em que estavam envolvidos, ou seja, o gerente no um burocrata, mas um cientista
com experincias diversificadas. Em sntese, o xito de qualquer
programa de avaliao depende de um controle firme da parte
de seu gerente e da sua capacidade de liderana.
250
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 250
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 251
251
5/29/15 3:37 PM
processo de avaliao, com envolvimento de at mesmo as agncias, mas sem a prevalncia de suas ideias, muitas vezes exticas.
A imposio de consultores preciso ser vista igualmente com
reserva, pois quase sempre apresentam extenso currculo, mas
desconhecem a realidade nacional e agem em termos inteiramente abstratos, sugerindo metodologias que no atendem s
necessidades do projeto e nem aos seus objetivos. Ainda, frequentemente, propem tcnicas de tratamento para fins de futuras pesquisas que no se ajustam natureza dos dados coletados e
exigem dos participantes da avaliao, especialmente em nvel
de corpo docente, uma familiaridade com elementos que no
fazem parte da sua cultura pedaggica. O avaliador deve fazer
frente a essas situaes, impondo-se, exercendo a sua funo
de avaliador, dentro das suas responsabilidades. evidente que
nem sempre se pode prescindir da colaborao das agncias financiadoras. preciso que o responsvel pela avaliao no seja
um guardio platnico do seu projeto, mas adote uma posio
que resguarde o seu planejamento, sem, entretanto, criar uma
situao conflitiva que impea a concretizao do trabalho.
Avaliao e meta-avaliao
A experincia pessoal nos tem demonstrado que, qualquer que
seja o processo de avaliao, o sistema tende a permanecer imvel, sem promover iniciativas que levem atuao do avaliador.
preciso que sua iniciativa pessoal atue, coordenando as vrias
atividades e promovendo o envolvimento de todos os participantes. Apresentados os resultados, muito possivelmente pouco se
far em termos de modificaes, salvo se estas vierem atravs de
sugestes no prprio relatrio do avaliador. lgico que existem
excees; no entanto, considerando os interesses polticos em
entrechoque na rea educacional, talvez seja necessria uma interveno do avaliador. As coisas facilmente se acomodam e tendem a permanecer como se encontram, prevalecendo o estado de
inrcia. Assim, obtidos os resultados do trabalho necessrio que
se promova a avaliao dos mesmos, que, em outras palavras, se
faa uma anlise de todo o processo, ou seja, que haja uma meta-avaliao (avaliao da avaliao) a fim de que seja julgado o seu
valor. A avaliao da avaliao, segundo determinados padres
252
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 252
5/29/15 3:37 PM
(Stufflebeam), deve ser externa, na medida do possvel, considerando o envolvimento do avaliador e o seu comprometimento, o
que pode gerar vieses nos julgamentos, ficando comprometidos
os juzos que se fizerem. Alm das caractersticas j apresentadas, o avaliador tambm deve ter iniciativa e senso de oportunidade, para agir no momento prprio.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 253
253
5/29/15 3:37 PM
Avaliao e dvidas
Ao longo de um trabalho de avaliao as dvidas, as inseguranas
e as incertezas so constantes e devem ser superadas. O avaliador
deve ter uma estrutura mental capaz de superar esse quadro depressivo que se forma e que o leva a perceber que muitas vezes
est sozinho e que por si deve vencer suas prprias angstias. A
situao do avaliador se enquadra nesse contexto, apesar de possuir uma equipe que o auxilia e estar envolvido por numerosas
pessoas que o observam e esperam seus resultados, mas na hora
da tomada de deciso sobre como agir em relao a determinado
aspecto, ele um solitrio na multido, e deve agir por si. Ento,
254
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 254
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 255
255
5/29/15 3:37 PM
256
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 256
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 257
257
5/29/15 3:37 PM
258
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 258
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 259
259
5/29/15 3:37 PM
260
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 260
5/29/15 3:37 PM
de forma que possam ser amplamente utilizados, preciso reconhecer que a avaliao no sua propriedade particular, devendo,
assim, conciliar os seus desejos com os interesses da outra parte (agncias financiadoras, rgos governamentais, instituies
etc.). Por outro lado, precisa considerar que crenas e convices
no devem influenciar a avaliao, produzindo um trabalho
ideologicamente contaminado, o que muitas vezes ocorre; alm
disso, o avaliador no deve insistir em permanecer indefinidamente em um mesmo projeto, apropriando-se dele como algo
exclusivamente seu. O rodzio do avaliador por vrios projetos
salutar para a avaliao e especialmente para o prprio avaliador.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 261
261
5/29/15 3:37 PM
tados de avaliaes educacionais sejam apresentados com a individualizao das escolas participantes, acreditamos seja questionvel esse comportamento, tendo em vista as suas diferentes
implicaes. Alm disso, em muitos casos, existem obrigaes
contratuais, que limitam a divulgao parcial ou total dos dados, sendo um aspecto a considerar pelo avaliador.
A estratgia de divulgao dos resultados de avaliaes
precisa ser considerada com cautela. Qual o procedimento a seguir? Resultados parcelados ou apenas ao final dos trabalhos? A
divulgao dos resultados globais, procedimento mais frequente, costuma causar um grande impacto, mas, simultaneamente,
provoca interpretaes que podem ser distorcidas, especialmente pelos rgos da mdia, que nem sempre esto interessados no
fato cientfico, mas na repercusso que ter junto ao pblico.
A divulgao parcelada parece-nos a mais sensata, porque o
pblico interessado passa a participar das vrias fases do trabalho e assim o acompanha at o final, discutindo seus aspectos
e vivenciando os problemas em diferentes momentos.
262
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 262
5/29/15 3:37 PM
Avaliao e repercusses
Ao fazermos uma avaliao precisamos pensar que os nossos
procedimentos tero implicaes nas prximas avaliaes.
Ou seja, ao avaliarmos no presente, estamos criando vetores
que atuaro no futuro. Uma avaliao sempre consequente;
h um momento do agora, quando a avaliao realizada, e um
do depois, quando nova avaliao ser feita. Precisamos pensar,
simultaneamente, em duas dimenses. Um bom trabalho gera
bons frutos: mas um mau trabalho tambm gera frutos, somente que amargos. Uma experincia de avaliao fracassada pode
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 263
263
5/29/15 3:37 PM
264
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 264
5/29/15 3:37 PM
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 265
265
5/29/15 3:37 PM
266
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 266
5/29/15 3:37 PM
Avaliao e validade
A questo da validade dos dados mais importante que a fidedignidade. Se os resultados so vlidos, evidente que so precisos,
ainda que a recproca no seja verdadeira. Os dados devem permitir que se faam inferncias sobre a natureza do objeto estudado e
que essas inferncias possam ir alm dos prprios dados (validade
externa). H um acentuado desejo de muitos, entretanto, com a
sofisticao dos planejamentos e, com isso, aumentar a validade
interna, que s vezes mais importante do que as generalizaes.
A avaliao implica custos, muitas vezes bastante elevados e
as fontes de financiamento so bastante parcimoniosas. Assim,
preciso que o avaliador exera um controle nos gastos e desenvolva na equipe um posicionamento tico para que as verbas no
se diluam inutilmente. necessrio, entretanto, atentar para a
qualidade dos dados. s vezes, o controle excessivo pode levar
ao comprometimento dos dados, ou falta de dados essenciais
ao estudo; por sua vez, o controle oramentrio em um aspecto
pode prejudicar outros aspectos do programa. O gerenciamento
a ser exercido pelo avaliador, assim como, na verdade, todos os
seus procedimentos, deve ser caracterizado por um comedimento equilibrado que no afete a harmonia de todo o programa.
Os problemas de amostragem so bastante complexos.
A amostragem exige do especialista uma formao especial, um
treinamento bsico e um estudo especializado bastante aprofundado. A amostragem no admite espritos aventureiros ou simplistas, que acreditam que 10% de alguma coisa seja representativo
de algo que s vezes desconhecem totalmente. Se o trabalho por
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 267
267
5/29/15 3:37 PM
amostragem, por detrs dela deve existir uma matemtica bastante sofisticada. Surpreendente, e paradoxal, que nem sempre
uma amostra, por ser supostamente representativa, proporciona
todos os elementos necessrios para um estudo; s vezes, a natureza do estudo pode necessitar de uma sobrerrepresentao de
casos excepcionais para uma coleta de melhores informaes; dar
o papel do estatstico especializado em amostragem, que deve ser
o associado constante do avaliador nos seus estudos, nas suas pesquisas, tendo em vista a validade dos resultados.
268
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 268
5/29/15 3:37 PM
a nossa clientela, o que se completa com variveis socioeconmicas relacionadas escola e uma srie de indicadores no ligados
escola, mas que so de fundamental importncia para a compreenso do fenmeno por exemplo, a participao da famlia na
educao e, depois, ento, indicadores que dizem respeito diretamente escola, para conhecimento de variveis do contexto,
do processo e do produto. A existncia de mltiplos indicadores
que se intercruzam concorre, pois, para que se forme um quadro
detalhado da realidade a ser criticamente analisada e avaliada.
O avaliador nem sempre est ligado a um nico projeto,
muitas vezes, v-se obrigado, por razes profissionais, a atuar
simultaneamente em diversas avaliaes, s vezes sobre objetos
inteiramente diferentes entre si. Isto exige um esforo hercleo,
uma capacidade de multiplicar-se diante de diferentes situaes
sem se sentir perdido, sem saber que procedimentos adotar e
sem se deixar sucumbir diante do estado de entropia em que se
acha submerso. A avaliao acaba sendo um mergulho em profundidade num mundo de incertezas, por falta de um treinamento adequado do avaliador.
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 269
269
5/29/15 3:37 PM
Avaliao e comparabilidade
O desenvolvimento de um programa de avaliao muitas vezes
se reveste de grande complexidade, exigindo elementos tcnicos em vrios nveis, pessoal qualificado para diferentes tarefas
e muitas vezes o envolvimento de dezenas de pessoas para que
o processo ocorra com um nmero mnimo de problemas. Ora,
certas avaliaes so verdadeiras operaes de estado-maior, que
exigem hierarquizao, disciplina e seguimento de normas prescritas. H necessidade, assim, do estabelecimento de mecanismos de controle que garantam o desenvolvimento do processo,
por exemplo o monitoramento dos pais, como representantes
da sociedade. preciso, contudo, que esses controles representem um custo razovel e limitado s previses oramentrias;
por sua vez tambm necessrio que se pense na possibilidade
da dispensa desses controles e nos efeitos negativos irreversveis
para a avaliao se a eliminao dos mesmos ocorrer.
comum em avaliao ouvir falar em comparaes dos dados. A coisa colocada de tal forma que se no houver compa-
270
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 270
5/29/15 3:37 PM
Avaliao e terceIrizao
Avaliao um processo financeiramente dispendioso, exigindo
investimentos, e que demanda o envolvimento de um nmero
elevado de pessoal tcnico-cientfico, administradores e elementos da rea burocrtica em diferentes nveis. Isto significa dizer
que muitas instituies, por suas limitaes, no fazem avaliaes, ainda que as desejem, e nem as contratam de terceiros,
pelas mesmas razes. A avaliao est se tornando uma atividade entre instituies especializadas e rgos governamentais,
via diferentes processos de associao, consrcio ou simples terceirizao. A legislao sobre o assunto complexa e de difcil
entendimento, demandando assessoria especializada na hermenutica jurdica. Qualquer falha que venha a ocorrer pode inviabilizar todo o processo, inclusive impedindo a realizao da
avaliao, em muitos casos.
As relaes avaliao-avaliador so intermediadas por uma
instituio, na maioria das vezes. O avaliador no tem maior
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 271
271
5/29/15 3:37 PM
envolvimento institucional, sendo apenas um tcnico, mas estranho aos quadros institucionais. O avaliador, muitas vezes, se
encontra em uma situao bastante bizarra, vendo-se obrigado,
por fora contratual, a aceitar certas decises ou a participar de
aes que foram decididas sua revelia, sem a sua concordncia,
sem ao menos ter sido ouvido. Isso realmente um problema,
que pode ter implicaes ticas para o avaliador que, assim, fica
numa situao conflitiva que pode levar renncia ao projeto,
com prejuzo para ambas as partes, sendo aconselhvel, portanto, que se estabeleam negociaes entre instituies e avaliadores a fim de evitar constrangimentos que possam invalidar os
esforos no sentido de realizar um trabalho significativo.
A sociedade moderna, com suas relaes jurdicas extremamente complexas, est criando uma nova situao e gerando
novos tipos de relacionamento, forando o aparecimento de
outras formas de responsabilidade ou de corresponsabilidade. Anteriormente, a avaliao se fazia pela contratao de
algum responsvel pela avaliao, um professor com experincia, e uma instituio. A responsabilidade pelo sucesso e, sobretudo, pelo fracasso estava centrada na pessoa do avaliador;
hoje, entretanto, as relaes se esto alterando. O avaliador,
um professor ou especialista, est ligado a uma instituio,
que contratada para fazer a avaliao. Desse modo, as relaes jurdicas e a responsabilidade se alteram, no mais uma
relao indivduo/instituio, mas instituio/instituio, e a
responsabilidade no mais exclusiva do avaliador, mas da
instituio, passando o avaliador a corresponsvel, apenas.
272
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 272
5/29/15 3:37 PM
pela comunidade e cumpridos sem relutncia. Inclusive, deve-se fixar um deadline para o trabalho avaliativo. A fixao de um
cronograma de um bvio total, sendo indispensvel qualquer
comentrio. O estabelecimento de um prazo final tambm se
justifica, pois a sua fixao no incio vai ditar o ritmo dos esforos ao longo dos trabalhos. Avaliao, planejamento e cronograma impossvel fugir a esses dois ltimos elementos, qualquer
que seja o tipo de avaliao: quantitativa ou qualitativa.
As relaes contratuais para a prestao de servios de avaliao esto ficando cada vez mais complexas, mais detalhistas, mais
cheias de sutilezas e, consequentemente, dando origem a contratos longos, com itens, subitens, pargrafos e alneas, que acabam
fazendo com que sua leitura seja difcil e, frequentemente, bastante tediosa. mais uma influncia do bacharelismo coimbro
na rea educacional. A tentativa de amarrar bem as coisas, prevendo tudo e estabelecendo todos os detalhes, acaba por dificultar a avaliao, s vezes impedindo a de concretizar-se. Uma lio
preciso extrair desta situao: definir demais as coisas no a
melhor forma de estruturar um bom esquema para levantamento
de informaes, pelo menos em avaliao educacional.
O macro e o micro em avaliao precisam ser considerados.
H casos em que uma macroavaliao, realizada a partir de toda
uma populao, impe-se por diferentes razes, inclusive por
suas ressonncias polticas. A microavaliao, a partir de uma
amostra, tambm igualmente vlida, no nos esqueamos. Isto
significa que precisamos atentar para as diferentes circunstncias que vo afetar a concretizao da avaliao; no entanto,
foroso que nos convenamos de que, pelo simples fato de
estarmos realizando uma pesquisa em larga escala, envolvendo centenas de milhares de sujeitos, no estaremos coletando
informaes de melhor qualidade, mais vlidas, do que se tivssemos partido para uma avaliao amostral, em pequena escala.
As circunstncias, o contexto e os recursos financeiros so variveis que ditaro o caminho a seguir.
Avaliao e macroavaliao
As avaliaes, conforme foi reiterado ao longo destas reflexes,
so um empreendimento dispendioso. Ipso facto, uma avaliao
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 273
273
5/29/15 3:37 PM
que abranja um nmero considervel de sujeitos e exija infraestrutura complexa, alm, naturalmente, de um software sofisticado,
deve ser objeto de mltiplos financiamentos oriundos de agncias diferentes: pblicas e privadas; nacionais e internacionais;
entretanto, quando se aprofunda o problema, chega-se concluso de que essas agncias devem ter diferentes perspectivas sociais, polticas e at mesmo econmicas. Parece-nos salutar que
uma viso multifacetada venha a influir sobre a abordagem metodolgica e a diversidade dos interesses a considerar.
Vivemos, pelo menos no contexto nacional, no momento
presente (1997), a hora das grandes avaliaes: avaliao de sistemas de ensino, avaliaes ao final do 2o Grau como uma nova
forma de acesso ao ensino superior e avaliao das grandes reas
profissionais, ao final dos cursos, para, a partir desses resultados, fazer uma avaliao institucional. No pretendemos entrar
no mrito dessas complexas questes. A vida a grande mestra,
mesmo em avaliao. Fazer macroavaliaes implica, necessariamente, descentralizar tarefas e atividades, uma questo de bom
senso; uma prtica saudvel. A avaliao, reproduzindo uma
expresso utilizada anteriormente, no de forma alguma one
man/woman show; mas um trabalho socializado por uma sociedade que busca conhecer a si mesma, suas virtudes e seus defeitos,
principalmente estes ltimos.
A avaliao pode prestar grandes servios sociedade, especialmente em relao a elementos fundamentais: a escola, seu
currculo, seus programas, seus professores e, acima de tudo,
seus alunos. A sociedade comea a descobrir a avaliao, a sentir
os efeitos da sua atuao e a perceber que para se autoconhecer
necessita estabelecer um estreito relacionamento com a avaliao, inclusive para no sucumbir. Entretanto, at agora, a contribuio da avaliao para a sociedade ainda no perfeitamente
reconhecida. Por qu? Apesar da importncia da avaliao, o
papel do avaliador, como profissional da educao, tambm ainda
no foi reconhecido pela sociedade, como ocorre, alis, com a
profisso do professor. A importncia do trabalho de ambos
figura de retrica dos que detm o poder.
274
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 274
5/29/15 3:37 PM
Avaliao e expertise
O momento presente (1997) de excitao com o boom da avaliao. A partir da cpula da educao ao sacrificadssimo professor
de escola rural todos, repentinamente, passaram a acreditar, a
desejar, a louvar e a aplaudir diferentes propostas de avaliao,
nos vrios nveis educacionais. A comunidade se esquece de que
para uma avaliao bem feita, precisamos, antes de mais nada, de
pessoal tcnico competente e com expertise adquirida ao longo de
uma prtica constante. E ns perdemos o bonde da histria, no
campo da avaliao, porque no se procurou formar recursos humanos, jovens, sobretudo, nos grandes centros de excelncia em
avaliao. E existem muitos nos Estados Unidos, na Inglaterra, na
Esccia e em outros pases fora do mundo anglo-saxo. Por outro
lado e h sempre um outro lado , o governo em seus diferentes
nveis federal, estadual e municipal no se preocupou em fazer investimentos financeiros na rea, salvo alguns poucos casos
(INEP/MEQ). No possvel avaliar sem recursos humanos e sem
recursos financeiros, obvio, mas esta a realidade.
A avaliao, no momento atual, em nosso contexto, um
trabalho isolado. O avaliador um solitrio perdido na sua solido muitas vezes do autodidatismo, e isso um perigo. Este
no o caminho para impor-se socialmente e adquirir o status
que deve ter na sociedade. Sozinho, nada conseguir. Ficar
perdido na estepe desolada em que se pode tornar o mundo
da educao. Sem compartilhar seus interesses, suas dvidas e,
para que no dizer, as suas angstias com outros avaliadores,
ser um ser atomizado, em um mundo intelectual estril. A
avaliao um trabalho participativo, com vistas socializao das experincias individuais.
O ritual de pesquisa educacional estabelece que, identificado um problema, se procure fazer um levantamento de trabalhos anteriores para depois mergulhar efetivamente no campo
da investigao. preciso conhecer e assimilar experincias
anteriores, acumulando-as e incorporando-as ao patrimnio do
pesquisador. A mesma liturgia deve ser seguida pelo avaliador.
Ainda que o nmero de avaliaes no nosso contexto seja limitado, a literatura estrangeira, e no apenas a anglo-sax, copiosa, sendo necessrio um trabalho seletivo, tendo em vista que,
ao lado de trabalhos de relevncia, existem experincias sem
grande significao, que pouco, ou mesmo nada, acrescentam
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 275
275
5/29/15 3:37 PM
ao existir do avaliador. Todo o material acumulado deve ser estudado, discutido e analisado em profundidade, a fim de que,
mais tarde, o avaliador realize trabalhos significativos que, por
diferentes caminhos, possa influenciar na educao, inclusive
por intermdio da definio de novas polticas pblicas.
276
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 234-276, n. especial, dez. 2014
AF miolo_EAE_60.indd 276
5/29/15 3:37 PM
AF miolo_EAE_60.indd 277
5/29/15 3:37 PM
INSTrUES A COLABOrADOrES
(impresso)
NORMAS gERAIS
processo de avaliao.
dos autores.
AF miolo_EAE_60.indd 278
5/29/15 3:37 PM
direito de resposta
Estudos em Avaliao Educacional acolhe
a resenhas.
ASSINE A REVISTA
Estudos em Avaliao Educacional
www.fcc.org.br
AF miolo_EAE_60.indd 279
5/29/15 3:37 PM
280
Est. Aval. Educ., So Paulo, v. 25, n. 60, p. 14-35, n. especial, dez. 2014
AF miolo_EAE_60.indd 280
5/29/15 3:37 PM