Beruflich Dokumente
Kultur Dokumente
Natal
2006
Natal
2006
Agradecimentos
Ao Prof. Dr. Oswaldo H. Yamamoto, para quem no h palavras que
expressem minha admirao e gratido, cuja pacincia e sabedoria compensam qualquer
falta de tempo e que, com suas orientaes que provocam mais dvidas do que certezas,
me conduziu elegantemente pelo cenrio acadmico.
Aos professores do Programa de Ps-Graduao em Psicologia da UFRN, em
especial ao Prof. Dr. Jos Q. Pinheiro, especialmente pelas longas conversas no
restritas vida acadmica e Prof Dr Lvia de Oliveira Borges, pelas contribuies ao
desenvolvimento da dissertao.
Aos membros do Grupo de Pesquisas Marxismo & Educao, em especial
bolsista de Iniciao Cientfica Keyla Mafalda de Oliveira Amorim, pela ajuda durante
todo o trajeto do curso de mestrado e Prof Dr Isabel Fernandes de Oliveira, pela
colaborao tanto na dissertao como na vida pessoal.
A todos aqueles que fizeram ou fazem parte da revista Estudos de Psicologia
(Natal), onde dei meus primeiros passos na rea de publicao cientfica e pude
acompanhar a luta diria para publicao de uma revista cientfica de qualidade e
reconhecida pela comunidade acadmica de Psicologia.
Aos mestrandos do Programa de Ps-Graduao em Psicologia da UFRN da
turma 2004.1, pela troca de experincias e pelo companheirismo nas horas de
dificuldade e s colegas do Curso de Psicologia da UFRN da turma 2003.2. (Janine,
Mariana, Marluce, Micheline, Monique, Nivia, Raquel e Vanessa), sempre dispostas a
ajudar, a encorajar frente aos desestmulos e, acima de tudo, a acolher.
Dentre as amigas, foi essencial a convivncia com a mestranda Candida Maria
Bezerra Dantas, parceira desde a graduao, com quem descobri o real valor da amizade
e que sempre esteve presente em diferentes momentos: nos mais descontrados, como
nas viagens para congressos e na rdua tarefa dos estudos e pesquisas.
Aos amigos Alex Reinecke Alverga, Ana Anglica Fernandes e Iluska
Linhares, aos primos (e tambm amigos) Danilo Tzio e Luana de Oliveira, e ao querido
(e muito companheiro) Roberto Lima, que trazem mais diverso para minha vida, me
levando longe da universidade e perto do lazer.
Aos meus pais e irmos, que se esforam para me mostrar que a importncia e
beleza da vida esto nos aspectos mais simples, como solidariedade, respeito e amor. E
em especial Andra e Tiago, pela convivncia afetuosa e apoio incondicional nesses
ltimos dois anos.
A todos os participantes da pesquisa editores, bibliotecrios e membros da
Comisso de Avaliao cuja colaborao tornou possvel este trabalho. Em especial,
s Profas Dras Silvia H. Koller e Maria do Carmo Guedes, que me ajudaram a desvendar
as nuanas das avaliaes de peridicos da rea.
E ao Conselho Nacional de Desenvolvimento Cientfico e Tecnolgico
(CNPq), pela concesso da bolsa de estudos.
Sumrio
78
98
Lista de figuras
Figura
Pgina
Evoluo das revistas de Psicologia na base Qualis (segundo o
1
conceito de qualidade) ............................................................................
85
87
Lista de tabelas
Tabela
1
Pgina
Resultados das avaliaes da Comisso CAPES/ANPEPP para a base
Qualis.....................................................................................................
82
106
158
146
124
122
116
159
160
Lista de siglas
ABEC
ABECiP
ANPEPP
APA
BIREME
BVS-Psi
CAPES
CCB
CCN
CNPq
COE
Comit Editorial
DEX
Diretoria Executiva
FAP
FAPESP
FINEP
GAE
IBICT
INEP
IPPUC-SP
IPUSP
ISI
ISOP
ISSN
JCR
10
LILACS
OPAS
PEPSIC
ReBAP
SBP
SBPC
SciELO
SPSP
UNESCO
USP
Universidade de So Paulo
11
Resumo
A produo cientfica brasileira tem passado por intensas mudanas visando
atender s demandas por produtividade dos pesquisadores. Entretanto, a multiplicao
de produtos acadmicos explicita a necessidade de qualificao dessa produo, uma vez
que imprescindvel a publicao de material relevante e inovador. Na Psicologia, a
avaliao de peridicos empreendida pela Comisso CAPES/ANPEPP gerou grande
repercusso na comunidade cientfica e suscita questionamentos em torno do modelo de
avaliao utilizado. Considerando este impacto, o objetivo do trabalho fazer uma metaavaliao sobre o processo de avaliao de peridicos cientficos utilizado nas revistas
de Psicologia pela CAPES para alimentao da classificao Qualis. Para a pesquisa,
foram consultados editores de revistas de Psicologia (n=38, questionrio enviado por email), bibliotecrios envolvidos com avaliao de peridicos (n=5, entrevistas semiestruturadas) e pesquisadores que participaram/participam da Comisso de Avaliao
(n=8, questes abertas via e-mail). Os resultados foram agrupados em 3 eixos temticos:
avaliao geral sobre o processo de avaliao Qualis (incluindo posicionamento sobre
constituio das Comisses de Avaliao), critrios de avaliao utilizados no modelo
adotado e os efeitos decorrentes das avaliaes para a comunidade cientfica e mudanas
percebidas no quadro editorial. Alguns aspectos centrais ficaram evidenciados: a
divergncia entre os atores envolvidos quanto adequao do modelo em retratar a
realidade editorial da rea; a discordncia em relao aos critrios adotados, que so
vistos, simultaneamente, como necessrios e teis; o reconhecimento da melhoria das
revistas, principalmente no que se refere normalizao e difuso; a indicao de que
esse modelo de avaliao no aprecia a qualidade da revista propriamente dita, ou seja, o
contedo dos peridicos por meio dos artigos. Apesar desses pontos, a avaliao dos
peridicos em Psicologia continua a ser o principal instrumento para garantir um padro
mnimo de qualidade nas publicaes da rea.
Palavras-chave: produo cientfica; peridicos de Psicologia; avaliao de peridicos;
Qualis.
12
Abstract
Recently, Brazilian scientific production has increased greatly, due to demands
for productivity from scientific agencies. However, this high increases requires a more
qualified production, since its essential that publications are relevant and original. In the
psychological field, the assessment scientific journals of the CAPES/ANPEPP
Commission had a strong effect on the scientific community and raised questions about
the chosen evaluation method. Considering this impact, the aim of this research is a
meta-analysis on the assessment of Psychological journals by CAPES to update the
Qualis database. For this research, Psychology scientific editors (38 questionnaires were
applied by e-mail) were consulted, also 5 librarians who work with scientific journals
assessment (semi-structured interviews) and 8 members who acted as referees in the
CAPES/ANPEPP Commission (open questions were sent by e-mail). The results are
shown through 3 analysis: general evaluation of the Qualis process (including the
Assessment Committee constitution), evaluation criteria used in the process and the
effect of the evaluation on the scientific community (changes on the editing scene
included). Some important points emerged: disagreement among different actors about
the suitability of this evaluation model; the recognition of the improvement of scientific
journals, mainly toward normalization and diffusion; the verification that the model does
not point the quality of the journal, i.e., the content of the scientific articles published in
the journal; the disagreement with the criteria used, seemed necessary and useful but
needed to be discussed and cleared between the scientific community. Despite these
points, the scientific journals evaluation still is the main method to assure quality for
Psychology publications.
13
1. Introduo
A publicao cientfica pode ser definida como um processo que engloba a
produo da informao, sua insero nos canais de comunicao utilizados pelas
comunidades cientficas e a recuperao dessa informao pelos pesquisadores e
acadmicos. Trata-se de um conjunto de atividades associadas construo,
disseminao e uso de dados, a partir da concepo da pesquisa at a aceitao das
informaes geradas como constituinte do conhecimento cientfico.
A prpria estrutura da pesquisa cientfica faz com que os pesquisadores se
envolvam com o processo de comunicao: para que todo o conhecimento construdo
exera sua funcionalidade, so necessrios o registro e divulgao dos achados por meio
da publicao cientfica. Dessa forma, a construo do conhecimento est
intrinsecamente ligada a sua comunicao, no exclusivamente com as geraes
contemporneas, mas tambm com as geraes subseqentes, sendo inegvel a
necessidade da publicao para o progresso da cincia. Afinal, sem disseminao no
h a retroalimentao necessria ao crescimento (Mueller, 1999, p. 3 ).
Segundo Meadows (1999), a comunicao situa-se no prprio corao da
cincia. para ela to vital quanto a prpria pesquisa (p. vii). O processo de
acumulao do saber envolve a troca de informaes (fornecimento de dados sobre o
prprio trabalho a outras pessoas e feedbacks a respeito do que foi processado) e
divulgao das mesmas de forma durvel e prontamente acessvel, visando a difuso do
conhecimento em longo prazo.
14
15
2000)
revelam
dinmica
concentradora
caracterstica
do
mundo
16
17
18
19
20
21
22
23
Parte I
Conceituao e delineamentos
24
25
26
27
28
pelos
pesquisadores
da
rea,
comunidade
cientfica
29
30
excelncia que participa das discusses sobre a poltica editorial do peridico, ajuda a
compor o corpo de assessores cientficos, revisa manuscritos e d prestgio revista; e
conselho cientfico, composto por membros da comunidade cientfica que se distinguem
dos consultores ad hoc por serem fixos na revista e requisitados para avaliar trabalhos
de destaque e tambm avaliar pareceres de outros avaliadores (Valerio, 1994).
O editor e seus auxiliares devem ter um amplo conhecimento sobre a
comunidade cientfica e selecionam os avaliadores dos manuscritos a partir disso. No
h um critrio nico para formalizao da escolha, mas em geral so escolhidos entre os
melhores especialistas do tema de que trata o trabalho, preferencialmente com ttulo de
doutor e que publique regularmente. Uma vez selecionados os consultores, inicia-se o
processo de arbitragem dos manuscritos, sendo o sistema peer review (reviso por
pares) o mecanismo padro utilizado pela maioria dos peridicos cientficos (nacionais
e internacionais) comprometidos com a qualidade.
Tal sistema de arbitragem envolve o uso sistemtico de rbitros para
assessorar na aceitao de manuscrito submetido publicao (Pessanha, 1998, p.
226)3. O nmero de avaliadores que julgam os artigos varia de um a trs, dependendo
do critrio de cada editor, e podem emitir parecer com base em roteiro pr-determinado
pela revista, ou no. Os pareceres adotados so de modelos variados, mas, em geral,
obedecem s categorias aceito para publicao sem restries, aceito para publicao
com necessidade de alteraes e rejeitado. No caso de pareceres divergentes de dois
consultores sobre o mesmo trabalho, os editores freqentemente submetem a um
terceiro avaliador. Independente do modelo a seguir, a aceitao final da publicao dos
O incio oficial desse procedimento data de 1753, quando a Royal Society of London passou a se
responsabilizar formalmente pela avaliao dos textos publicados, suprindo a necessidade de organizao
e seleo do material submetido para publicao. Contudo, a disseminao dessa prtica ocorreu apenas a
partir do sculo XX, decorrente do crescimento exponencial da produo cientfica aps a II Guerra
Mundial.
31
32
33
Apesar das falhas e distores envolvendo o peer review, quando este processo
bem conduzido pode ser benfico para o editor e para a comunidade cientfica de
modo geral. Por meio da reviso pelos pares possvel a correo de erros e preveno
de publicao de trabalhos cientificamente inconsistentes, melhorar a anlise e
apresentao do contedo da pesquisa, proteger outros cientistas de cometer erros
baseados em artigo mal escrito e treinar jovens pesquisadores sobre a melhor forma de
comunicao de resultados de pesquisas.
Para investigar a adoo deste mecanismo como sistema de arbitragem padro
e a avaliao feita pelos editores sobre esse processo, foi empreendido um estudo por
Castro, Negro e Zaher (1996) com 507 peridicos latino-americanos indexados nas
bases LILACS (Literatura Latino-Americana e do Caribe em Cincias da Sade) e
Medline sobre procedimentos editoriais. Foi constatado que apenas 54,4% dos
peridicos tinham instrues definidas para os avaliadores, mas que so raras as revistas
(4,75%) que publicam trabalhos sem avaliao prvia e que 66% dos editores
consideram que a reviso feita pelo corpo editorial equivalente de revisores externos.
Percebe-se, assim, que a avaliao do trabalho cientfico materializada pela
participao de dois atores: o editor e o consultor cientfico, j que primeiro h o
controle dos avaliadores sobre o trabalho a ser publicado e, em seguida, o da avaliao
dos pareceres por parte do editor cientfico (Pessanha, 1998). So muitos os editores que
acreditam que o processo de reviso ajuda, mesmo que os estudos no comprovem
objetivamente e que, apesar das conhecidas crticas, o sistema de arbitragem tem
desempenhado um papel crucial no desenvolvimento da cincia. Um artigo publicado
em um peridico de qualidade no representa apenas a opinio do seu autor, mas
Psicologia, cujos aspectos so mais amplos, muitas vezes comprometem a operacionalizao dos estudos
nessa rea.
34
35
de autores com a mesma orientao ideolgica com trabalhos publicados numa mesma
revista (Valerio, 1994). A endogenia no considerada saudvel para o
desenvolvimento cientfico uma vez que oferece uma viso unilateral dos fenmenos,
no possibilita troca e no permite renovao de idias.
Outro problema relacionado autoria cientfica diz respeito ao privilgio
concedido pelos peridicos aos pesquisadores mais renomados, a fim de atrair ateno
da comunidade cientfica para os estudos de ponta. Em detrimento, os espaos
conferidos a autores iniciantes como recm-mestres ou recm-doutores se tornam cada
vez mais restritos e disponveis em ttulos com menor visibilidade e, portanto, menor
alcance. Quanto a isso, preciso que haja um alinhamento entre a proposta editorial e os
artigos que so publicados por um determinado peridico, para que haja a veiculao de
material apenas em virtude do contedo propriamente dito, e no do currculo dos
autores.
Por outro lado, os autores devem estar atentos s normas de publicao das
revistas, evitando assim uma rejeio do manuscrito de incio. As normas elaboradas
por cada peridico cientfico informam aos pesquisadores no s sobre a padronizao
adotada (como formatao do texto, quantidade de vias a serem entregues, tabulao das
figuras, etc.), mas tambm sobre o tipo de trabalho aceito como relatos de pesquisa,
resenhas e notas tcnicas. E ainda h os casos de revistas especializadas em determinada
temtica ou metodologia, que publicam apenas material relacionado a uma rea de
enfoque, o que os autores precisam conhecer e analisar no momento de escolha de um
determinado peridico para envio de seus trabalhos.
Em suma, os editores, revisores e autores trabalham em conjunto e se esforam
para que o objetivo maior do peridico cientfico seja alcanado: divulgao de
36
informao cientfica relevante com a maior presteza possvel. E, nesse processo, cada
um tem seu papel a desempenhar e tarefas a cumprir.
37
A atual busca por altos ndices de produtividade por parte dos pesquisadores,
que representam os principais meios de verificao para a concesso de financiamentos
pelas agncias de fomento, fundamenta a idia de que no basta publicar, preciso ser
lido e citado. Ou seja, os cientistas se deparam com um duplo esforo: conseguir que
seu artigo seja publicado e fazer com que, depois de divulgado, o manuscrito seja
acessado e comentado pela comunidade cientfica.
Os artigos, ao serem submetidos revista, j devem estar de acordo com as
normas editoriais para publicao, as quais devem estar explicitadas nas instrues aos
autores. Geralmente, uma reviso tcnica necessria para os devidos ajustes de
referncias bibliogrficas e padronizao do corpo do texto (numerao e ttulos de
tabelas, tipo e tamanho da fonte adotada, etc.).
Alguns aspectos que so abordados pelas revistas cientficas so a originalidade
dos manuscritos (vista como garantia da relevncia do contedo apresentado); resumo
em, no mnimo dois idiomas, preferencialmente ingls (que permite maior alcance, no
nvel internacional); registro de datas, de recebimento e publicao (para sinalizar o
crdito pela autoria dos achados); e normas bibliogrficas bastante estritas. importante
enfatizar que a estrutura exata de apresentao das referncias bibliogrficas adotada
varia a cada revista cientfica e muitas delas esto presentes em manuais oficiais das
diversas disciplinas.
A normalizao do peridico cientfico em si refere-se presena de alguns
elementos na revista, como identificao da publicao (ISSN, endereo, legenda
bibliogrfica, linha editorial, normas de publicao, entre outros) e identificao dos
trabalhos publicados (resumos bilnges, descritores, afiliao institucional, endereo do
autor para correspondncia, etc.). Muitos desses elementos s so percebidos como
necessrios e obrigatrios ao longo da experincia do editor, que, geralmente, no
38
39
40
41
42
43
44
Garcia, 2000). Devido a isso, muitos editores de peridicos o utilizam como uma
estratgia de marketing e o incluem em cada fascculo a lista de indexadores.
45
Em estudo de King e Tenopir (1998), as maiores redues de custos alcanadas pelas revistas
eletrnicas seriam no mximo da ordem de 10%. O que pode acontecer que os preos para as revistas
eletrnicas sejam estabelecidos segundo outras formas de clculo, baseadas em diferentes produtos e em
suas quantidades (um ou mais fascculos, por artigo, por pginas, etc.). Vale salientar que essa estimativa
se refere ao contexto norte-americano (custos cobertos por assinatura) e no leva em conta a perspectiva
dos arquivos abertos (Open Access).
46
47
48
atualmente
em
formato
eletrnico,
sob
denominao
de
49
50
51
Cincias da Sade publicada nos pases da Amrica Latina e do Caribe a partir de 1982
e contm artigos de mais de 670 revistas, atingindo mais de 150.000 registros; o Index
Psi Livros, portal de livros cientficos nacionais que esto disponveis no mercado
editorial, com links para a editora responsvel pela venda; e a SciELO, biblioteca virtual
de revistas cientficas que organiza e publica textos completos na Internet. Tambm
disponibilizada uma verso SciELO-Psi, apenas com as revistas da rea de Psicologia.
Outro servio disponibilizado so os catlogos de revistas cientficas: CCB Catlogo Coletivo Brasileiro de Peridicos em Psicologia (disponibiliza informaes
sobre as publicaes peridicas especializadas em Psicologia e o usurio ou pesquisador
pode saber qual biblioteca possui o ttulo de seu interesse e obter dados sobre o editor da
revista), Portal de Revistas Cientficas Internacionais em Cincias da Sade Psicologia
(oferece aos usurios informaes sobre a descrio bibliogrfica e o acesso ao formato
eletrnico dos ttulos, bem como das colees de bibliotecas. Contm 339 ttulos
relativos a Psicologia e Psicanlise) e Revistas Psicologia - Portal CAPES (diretrio
selecionado de revistas do Portal CAPES que disponibiliza 872 ttulos com texto
completo referente ao assunto Psicologia).
Trabalhando em conjunto com a BVS-Psi, a ReBAP (Rede Brasileira de
Bibliotecas da rea de Psicologia) visa a construo e manuteno de fontes de
informao essenciais para o ensino, pesquisa e extenso em Psicologia. Criada em
maro de 2001, seu objetivo operar de forma integrada, por meio do
compartilhamento de recursos e esforos (Sampaio, 2001). Resultado do empenho do
Conselho Federal de Psicologia e do Servio de Biblioteca e Documentao do Instituto
de Psicologia da USP (Universidade de So Paulo), a ReBAP surgiu em meio s
discusses sobre a importncia do investimento no acesso informao como
contribuio ao desenvolvimento da Psicologia.
52
Composta pelas bibliotecas que do suporte aos cursos de graduao e psgraduao em Psicologia, a rede tambm est aberta para todas as bibliotecas que
oferecem apoio s atividades das diversas entidades da rea. No incio, em maio de
2001, a ReBAP contava com a adeso de 57 bibliotecas e em 2004, j eram quase 100
instituies que participavam do empreendimento.
Uma das principais atividades da Rede a alimentao das bases de dados que
sustentam a Biblioteca Virtual de Psicologia e, para tanto, as bibliotecas esto inseridas
no projeto de divulgao das fontes de informao e peridicos da rea, com
participao na capacitao de usurios e bibliotecrios.
Outra meta da ReBAP o incremento de ttulos indexados na base de dados
LILACS, cujo rgo responsvel pelos ttulos de Psicologia a biblioteca do Instituto
de Psicologia da USP. Visando a internacionalizao dos peridicos brasileiros da rea,
a biblioteca vem incorporando base, livros, captulos de livros, teses de doutorados e
artigos de peridicos. Em 1999, a LILACS ampliou o nmero de ttulos indexados
passando de quatro para nove e em 2000, sugeriu a incluso de mais onze ttulos. Hoje,
de um total de 680 revistas cientficas nas vrias reas do conhecimento provenientes de
vrios pases da Amrica Latina, 281 so brasileiras e destas, 47 so de Psicologia.
A ReBAP tambm incentiva os editores a submeter suas publicaes ao Comit
de Avaliao da APA (American Psychological Association), com o objetivo de
cadastr-las na base de dados PsycINFO, principal ndice para a Psicologia em mbito
mundial. Esse catlogo uma verso on line da publicao Psychological Abstracts e
tem como objetivo reunir e divulgar a literatura relevante publicada internacionalmente
na rea da Psicologia. No ano de 2000, havia cinco revistas brasileiras de Psicologia.
Esse nmero cresceu para seis em 2002 e agora o indexador conta com 14 ttulos
53
brasileiros da rea. Vale salientar que o universo completo da base de 1.969 revistas
cientficas8.
Alm da ReBAP e BVS-Psi, outra instncia que busca uma articulao mais
organizada da rea a Associao Brasileira de Editores Cientficos de Psicologia
ABECiP, que pretende levar apoio aos editores e avano da qualidade das revistas de
Psicologia. A Associao foi criada em agosto de 2004, votada e aprovada por
unanimidade pelos participantes do I Encontro de Editores de Revistas Cientficas da
rea de Psicologia.
Tal evento foi organizado pela Biblioteca Virtual em Sade Psicologia
(BVSPsi), e seus objetivos giravam em torno da preocupao com a melhoria da
qualidade das publicaes e da necessidade de divulgar metodologias para gesto e
publicao das revistas em formato eletrnico e sua disponibilizao gratuita na
Internet. Os temas do evento concentraram-se nas temticas: critrios de qualidade,
indexao em bases de dados, gesto editorial online e publicaes eletrnicas.
Na esteira da disponibilizao eletrnica de informaes cientficas de
qualidade, tem-se o caso da SciELO. No seu lanamento, em 1998, a biblioteca contava
com 10 ttulos. Em 2000, passou para 29 revistas, em 2002, os nmeros passaram para
63 e em 2005, eram contabilizados 134 ttulos. Desses, apenas seis so de Psicologia e
todos brasileiros.
O PEPSIC (Peridicos Eletrnicos em Psicologia) um portal com link a partir
da BVS-Psi que pretende reunir uma coleo de revistas cientficas utilizando a
metodologia SciELO. Fruto da parceria entre a BVS-Psi e a ABECiP, tem como meta
ampliar o acesso produo cientfica em Psicologia e reas afins por meio da
54
55
56
No final da dcada de 1970 foi feito um estudo da rea de radiologia (Lemos, 1978) e outro em Cincia
& Tecnologia (Santos, 1979).
57
58
59
60
61
at
aspectos
denominados
critrios
editoriais:
periodicidade,
distribuio, gesto editorial, endogenia de autoria, etc. (Souza & Paula, 2002). Para
avaliao desses critrios, em geral, so apreciados os trs ltimos fascculos das
revistas cientficas.
A avaliao da normalizao leva em conta a padronizao do fascculo como
um todo, das referncias bibliogrficas e se a revista est de acordo com as normas por
ela declaradas. Nesse quesito, pontuada a presena de itens como legenda
bibliogrfica, ficha catalogrfica, ISSN, endereo completo da sede do peridico, as
normas de publicao (indicao do formato de apresentao dos manuscritos para
submisso), a descrio da linha editorial, sumrio bilnge (em algumas reas
62
63
64
65
realizar essa avaliao por meio de duas estratgias: a indicao por pares e a anlise de
indicadores bibliomtricos.
A estratgia de anlise de contedo por pares feita a partir do envio de
material para especialistas na rea em questo que emitem opinio a respeito do mrito
do peridico. A avaliao de trabalhos cientficos realizada por consultores, os quais
so, em tese, pesquisadores experientes, baseia-se no pressuposto de que dado o
treinamento, o conhecimento especializado e a experincia com a atividade de pesquisa
e publicao, tais especialistas so considerados os mais capacitados para julgar, para
distinguir entre o material adequado e necessrio daquele inconsistente e precrio
(Freitas, 1998).
O grupo que avalia a qualidade dos peridicos pode seguir algum roteiro para
apreciao, que, em geral, ao final, solicita a indicao da relevncia da revista: se esta
pode ser considerada prioritria, importante ou no relevante para o meio cientfico. De
acordo com Ferreira e Krzyzanowski (2003), para definio desse grau de importncia
de cada ttulo, devem ser levados em considerao alguns aspectos, contudo a qualidade
dos artigos o item que merece maior ateno e que tem maior peso na avaliao geral
do peridico. So apreciados o nvel cientfico dos trabalhos, atualidade da informao,
identificao com a orientao temtica da revista, percentual de artigos originais e
relatos de pesquisa. Tambm avaliada a qualidade do corpo editorial e dos
consultores, com valorizao se h participao de membros da comunidade nacional e
estrangeira. A natureza do rgo publicador tambm levada em considerao e os
peridicos devem ser editados, de preferncia, por instituio de ensino, pesquisa e
sociedade cientfica.
A abrangncia um aspecto essencial para aferir a qualidade do peridico
cientfico, geralmente classificada em institucional, regional, nacional ou internacional e
66
67
68
cientficos indexados ao ISI vem sendo publicado pelo Journal Citation Reports (JCR),
(Pinto & Andrade, 1999).
Quando adequadamente utilizados e interpretados, os ndices bibliomtricos
so teis para medir a difuso das publicaes. Entretanto, embora tenham alguma
relao com a qualidade, no devem ser usados como nico critrio para avali-la.
Torna-se mais prudente interpretar tais parmetros como indicadores descritivos que
ajudam a conhecer melhor e comparar revistas analisadas.
importante destacar a distino entre os termos: qualidade se refere ao
contedo cientfico da publicao, adequao do mtodo, clareza da redao,
originalidade do tema entre outros fatores. Impacto, por sua vez, diz respeito
influncia de um artigo/revista cientfica sobre as pesquisas em um determinado
momento (Silva & Bianchi, 2001). Em outras palavras, o nmero de citaes que uma
revista recebe depende, em algum grau, de sua qualidade, mas tambm de outras
variveis como modismos, publicao de artigos polmicos, convite a autores muito
citados, recomendaes para que os autores citem artigos publicados na mesma revista,
entre outros.
No so poucos os estudos que debatem as vantagens e limitaes do uso do
Fator de Impacto e outros indicadores bibliomtricos (Buela-Casal, 2001; Buela-Casal,
Carretero-Dios & Santos-Roig, 2002; Elkis, 1999; Mello, 1996; Pinto & Andrade, 1999;
Seglen, 1997; Silva & Bianchi, 2001). Se, por um lado, ressaltada a utilidade do Fator
de Impacto por se tratar de uma avaliao quantitativa, objetiva, da qualidade de uma
produo cientfica, por outro, necessrio chamar a ateno para os cuidados na
aplicao desse ndice para que no extrapole seu escopo.
Um dos aspectos a se considerar o nmero de revistas por rea do
conhecimento: nas disciplinas com maior nmero de peridicos cientficos, os artigos
69
70
10
Alm da FAPESP, outras seis Fundaes de Amparo a Pesquisa estaduais, entre as 16 existentes,
dispem de linhas de fomento a peridicos cientficos, quais sejam: FAPERJ (Fundao Carlos Chagas
Filho de Amparo a Pesquisa do Estado do Rio de Janeiro), FAPEMAT (Fundao de Amparo a Pesquisa
do Estado do Mato Grosso), FAP/SE (Fundao de Amparo a Pesquisa do Estado do Sergipe),
FUNDECT (Fundao de Apoio ao Desenvolvimento do Ensino, Cincia e Tecnologia do Estado do
Mato Grosso do Sul), Fundao Araucria (Paran), e FAPEMIG (Fundao de Amparo a Pesquisa do
Estado de Minas Gerais).
71
11
72
13
73
74
75
76
Alm disso, o propsito inicial da Qualis, de subsidiar a avaliao da psgraduao brasileira foi extrapolado e hoje, a classificao obtida pelos veculos, surte
um efeito significativo na comunidade cientfica. Tanto editores buscam elevar o padro
de qualidade considerado pelas avaliaes a fim de manter financiamentos, quanto
autores/pesquisadores levam em conta tal avaliao no momento de escolha por um
ttulo para submisso de seu trabalho. E, por conseguinte, os leitores/consumidores da
produo cientfica tambm atentam para os rankings ao atribuir certa credibilidade aos
trabalhos publicados em determinados peridicos.
Tais avaliaes provocaram significativas mudanas na Psicologia brasileira,
assim como em algumas outras reas. Os resultados das avaliaes de peridicos
passaram a ser considerados em diversos contextos, suscitando questionamentos em
torno do modelo de avaliao utilizado.
Esta avaliao de peridicos abordada na seo seguinte.
77
78
79
para o ano de 2001; uma atualizao no ano de 2004, para o binio 2002-2003; e a
ltima avaliao em 2005, para os ttulos publicados em 200417.
Os objetivos da avaliao de peridicos em Psicologia se situam em trs
pontos:
a) qualificar os veculos cientficos nos quais publicam
os pesquisadores vinculados aos programas de ps-graduao
em Psicologia no Brasil; b) criar mecanismos para viabilizar a
manuteno dos peridicos com melhor avaliao; c)
estabelecer parmetros para o incremento da qualidade dos
peridicos da rea (Yamamoto et al, 1999, p. 5-6).
Para atender ao primeiro desses objetivos, foi constituda uma comisso
editorial intitulada Comisso para Avaliao de Revistas Cientficas em Psicologia,
formada por quatro membros da comisso de avaliao dos programas de psgraduao da CAPES, pelo coordenador e vice-coordenador da rea de Psicologia na
CAPES e por trs pesquisadores com experincia em editorao escolhidos por votao
pelos programas afiliados a ANPEPP (a lista com a composio de todas as comisses
apresentada no anexo 1). Pela composio, tal comisso comumente intitulada
Comisso CAPES/ANPEPP.
A referida comisso produziu um instrumento objetivo, baseado em normas e
critrios tcnicos apropriados, visando valorizar e disseminar as publicaes cientficas
nacionais e fornecer resultados da forma mais precisa da produo cientfica da rea. A
Ficha de Avaliao (pode ser conferida no anexo 2) foi elaborada com base no modelo
proposto por Krzyzanowski e Ferreira (1998): apresenta uma escala total composta por
cinco tpicos gerais (normalizao, publicao, circulao, autoria e contedo e gesto
editorial) que classificam a revista quanto qualidade (conceitos A, B e C) e uma subescala composta por cinco itens extrados da escala geral (indexao, distribuio,
17
80
81
82
Tabela 1
Resultados das avaliaes da Comisso CAPES/ANPEPP para a base
Qualis.
CLASSIFICAO 1996-1997
Internacional
Nacional
19
98-2000
20
01
2002-2003
2004
15
14
19
25
15
19
10
14
10
12
21
47
50
55
78
55*
Local
TOTAL
83
Vale salientar que o primeiro trabalho enfatizava o carter educativo, mais preocupado
com o incremento da qualidade das publicaes do que o simples estabelecimento de
parmetros.
Tambm importante destacar que, at ento, os editores no tinham
orientaes referentes a publicaes de peridicos cientficos de qualidade, j que eles,
em sua maioria (se no, na totalidade) so profissionais da rea de Psicologia e no de
Cincias da Informao. Esta avaliao foi considerada de carter provisrio, tendo em
vista uma segunda avaliao, com os peridicos j preparados para passar por outro
exame.
Esta primeira verso da avaliao foi bastante divulgada em eventos
cientficos, diretamente aos editores, por meio de textos e pginas na Internet. Foi bem
recebida pela maior parte da comunidade cientfica, que apesar de perceber falhas e
limitaes, se mostrou interessada na iniciativa til e necessria.
O prprio processo de avaliao passou, por sua vez, por uma avaliao de
especialistas independentes, no vinculados a ANPEPP, da rea de Biblioteconomia e
Cincias da Informao. Baseada na idia de que sempre possvel aperfeioar e
aprimorar esse tipo de atividade (Hutz, 2000), a Comisso consultou quatro
especialistas e solicitou que fosse feita uma avaliao da avaliao. A partir dos
feedbacks obtidos, algumas alteraes foram feitas na sistemtica adotada e em 2000,
uma atualizao da primeira avaliao foi conduzida.
Desta vez, os peridicos analisados foram os relatados pelo programas em
relao avaliao trienal do perodo 1998-2000, totalizando 50 ttulos. A manuteno
do mesmo instrumento da primeira avaliao para a segunda aconteceu visando evitar
que os peridicos que se esforaram para se adequar aos padres definidos no fossem
84
85
50
Quantidade de revistas
40
30
A
B
C
20
10
0
1996-1997 1998-1999
2001
2002-2003
2004
Perodo de avaliao
Figura 1.
Evoluo das revistas de Psicologia na base Qualis (segundo o conceito de qualidade).
Os dados apontam que houve uma melhoria expressiva no quadro editorial da
Psicologia brasileira entre as duas primeiras avaliaes: 25 revistas incrementaram sua
posio no ranking e apenas cinco, tiveram-na rebaixada. Entretanto, mais da metade
das revistas referidas pelos docentes de ps-graduao ainda foram consideradas de
mbito local (52%).
As avaliaes surtiram alguns efeitos no quadro editorial, comprovados no s
pelos dados que os resultados apontam. Alguns indicadores dessa melhoria so os
depoimentos de bibliotecrios, interesse crescente dos editores por eventos da rea de
Cincias da Informao e incluso das revistas em bases de dados internacionais.
Em uma nova avaliao da avaliao, feita pela prpria Comisso, foram
destacados alguns aspectos positivos e desafios a serem enfrentados na prxima etapa.
A transparncia do processo (devido indicao de editores eleitos pela ANPEPP para
86
87
Alm disso, foram determinados valores para cada um dos itens que estabeleceram as
classificaes (mbito e qualidade).
Outra alterao foi a criao da categoria mbito Internacional, resultante de
um acordo da grande rea de Humanas. Os critrios utilizados foram a manuteno da
classificao nacional A por trs avaliaes consecutivas e presena em indexadores
internacionais importantes, como o PsycINFO.
O relatrio de divulgao dos resultados aponta que trs das revistas avaliadas
foram classificadas como tal (conforme apontado na Figura 2). Outro dado interessante
o salto para 62,9% de peridicos classificados como nacional (mais que o dobro do
percentual obtido na primeira avaliao) e, desses, 41,1% foram avaliados com conceito
A.
50
Quantidade de revistas
40
30
Internacional
Nacional
Local
20
10
0
1996-1997 1998-1999
2001
2002-2003
2004
Perodo avaliado
Figura 2.
Evoluo das revistas de Psicologia na base Qualis (classificao mbito).
88
89
Dessa vez, o nmero total de ttulos citados nos relatrios dos programas de
ps-graduao foi 94, mas 16 ttulos estavam em atraso e no foram avaliados (e como
no tinham sido avaliados nas outras edies, ficaram sem classificao).
Dos 78 peridicos avaliados, 40% (31 revistas) foram classificados como
locais, 56% (44 revistas) como nacionais e 4% so os internacionais. Quanto aos
conceitos de qualidade, 37% foram classificadas como A, 12% como B e 51% como
C. O grande percentual de revistas avaliadas com conceito C deve-se, em parte, ao
grande nmero de revistas que ainda no tinham sido avaliadas, e, portanto, no
estavam dentro dos padres exigidos pelo instrumento: das 22 revistas que ainda no
tinham sido avaliadas, 15 foram classificadas com conceito C (Comisso Conjunta
CAPES/ANPEPP, 2004).
A divulgao desse quarto processo de avaliao foi precria, disponvel
apenas no site da ANPEPP, e somente o ranking final, sem os pontos alcanados por
cada peridico em cada um dos itens, como nas verses anteriores.
O ltimo procedimento de avaliao empreendido pela Comisso teve incio
em julho de 2005, quando foi remetida correspondncia aos editores informando sobre o
processo e solicitando a auto-avaliao e o envio dos fascculos para serem analisados
pelos membros da Comisso, e apresentou o relatrio final em setembro do mesmo ano.
A discusso sobre as revistas em avaliao aconteceu novamente na biblioteca do
IPUSP e contou com a colaborao de um bibliotecrio para a classificao inicial dos
peridicos.
Para essa avaliao, a Comisso considerou algumas crticas e sugestes que
foram apresentadas pelos editores no Frum de Discusso sobre Publicaes Cientficas
realizado em 2004 durante o X Simpsio de Pesquisa e Intercmbio Cientfico
promovido pela ANPEPP. Dois aspectos foram revistos para essa avaliao: a
90
classificao das revistas publicadas no Brasil como de mbito Internacional foi retirada
at que sejam feitos novos estudos que possibilitem essa qualificao e foi revisto o
item relativo autoria, que passou a usar o critrio de diversidade institucional em
substituio ao critrio de diversidade geogrfica. Foram mantidos, alm disso, os
mesmos critrios utilizados na atualizao relativa ao ano de 2003 (realizada em 2004).
Para a classificao dos peridicos foram consideradas as pontuaes mnimas
de trs blocos de critrios circulao, autoria e gesto editorial e o total de pontos. A
classificao em mbito (Nacional ou Local) e em qualidade (A,B,C) foi assegurada
pelo cumprimento, simultneo, de cada um desses itens.
O resultado final da ltima avaliao permite o delineamento de um quadro
geral das publicaes da rea desde o primeiro processo de classificao das revistas.
Percebe-se que a quantidade de ttulos classificados como Nacional A sempre esteve
crescente, o que confirma o carter pedaggico e o alcance do objetivo dessa avaliao
de qualificar os peridicos que passam pelos processos. O nmero de revistas avaliadas
como nacional B se manteve pequeno, ainda que constante. E os peridicos com
conceito Nacional C variaram desde ento, com menor nmero nas primeiras avaliaes
e em maior quantidade nos trs ltimos processos. Quanto a isso, pensa-se que possa ser
decorrente do aumento na quantidade de ttulos avaliados a cada procedimento e estes
novatos, em geral, no esto adequados aos critrios exigidos como aqueles que j
passam pela avaliao em sua terceira ou quarta vez.
Quanto aos peridicos cientficos de Psicologia avaliados como Local A, estes
se mantiveram em pequeno nmero e sem grandes variaes. Pode-se identificar esses
veculos como voltados para uma comunidade restrita, mas que primam pela qualidade,
da no ser uma categoria preocupante. J a quantidade de ttulos classificados como
Local B e C tem diminudo drasticamente quando se compara os resultados da primeira
91
18
Uma proposta preliminar foi apresentada pela Comisso de Avaliao no XI Simpsio de Pesquisa e
Intercmbio Cientfico promovido pela ANPEPP em maio de 2006, na cidade de Florianpolis (SC).
92
93
Dessas sugestes, a nica adotada at a ltima avaliao (em 2005) foi quanto
avaliao de peridicos eletrnicos, que j passaram a compor a lista de ttulos
avaliados desde 2001.
A partir das avaliaes para a base Qualis, o quadro atual se apresenta
promissor, o que pode ser percebido no apenas pelos resultados e rankings das
avaliaes. Outros indicadores so maior conhecimento das revistas por parte da
comunidade cientfica, depoimentos de bibliotecrios envolvidos com os peridicos
cientficos de Psicologia e, principalmente, o nmero de ttulos que esto sendo
encaminhados pela biblioteca do Instituto de Psicologia da USP para indexao na base
de dados LILACS (Sampaio & Sabadini, 2002). Vale ressaltar que, at ento, os
editores no se interessavam ou desconheciam a necessidade de indexar os ttulos para
garantir maior divulgao e acesso.
Alm desses efeitos, a avaliao de peridicos cientficos de Psicologia tem
mobilizado editores e interessados pela atividade em geral a participar de eventos
voltados para editorao cientfica (como as reunies bi-anuais da ABEC Associao
Brasileira de Editores Cientficos), promover Fruns de Discusso (como o realizado no
X e XI Simpsio de Pesquisa e Intercmbio Cientfico da ANPEPP) e compartilhar
experincias (como durante o I Encontro de Editores de Revistas Cientficas da rea de
Psicologia, realizado em agosto de 2004 e em maro de 2006 em So Paulo). Isso
reflete uma maior preocupao com a qualidade dos peridicos cientficos da rea e o
acompanhamento de tendncias da publicao cientfica (Serradas, 2004).
Se por um lado, pode-se observar tais impactos positivos e mobilizao da
comunidade
cientfica
decorrentes
das
avaliaes
realizadas
pela
Comisso
CAPES/ANPEPP, por outro, existem crticas quanto aos critrios adotados nas
avaliaes. Um dos pontos que promovem esta discusso situa-se no fato de que o
94
aprimoramento dos peridicos tornou obsoletos alguns dos critrios utilizados nas
avaliaes, havendo necessidade de revis-los para uma prxima etapa de avaliao
(Menandro, 2002). Se antes no havia parmetros de qualidade para que os editores
buscassem alcan-los, hoje o nvel das publicaes foi elevado, o que demanda o
estabelecimento de novos critrios e padres de exigncias.
A prpria Comisso reconhece que o sistema apresenta falhas e limitaes, que
necessrio rever alguns critrios e procedimentos, o que maciamente apontado
pelos editores. No raro, quando se comenta sobre essa avaliao, surgirem
comentrios crticos proposta, que seja enfatizada a necessidade de aprimoramento do
instrumento para a conduo de resultados que retratem adequadamente o quadro
editorial de Psicologia (Yamamoto & LoBianco, 2004). Conquanto o esforo da
Comisso, pioneiro e uma providncia til e necessria, uma vez que promoveu o
aprimoramento dos peridicos da rea, a avaliao passvel de questionamentos,
reformulaes e atualizaes.
Essa discordncia no se restringe aos editores de Psicologia e aos membros da
Comisso, mas envolve tambm a comunidade cientfica em geral: o tema tem
promovido grandes debates e repercusses acerca dos caminhos pelos quais a editorao
cientfica em Psicologia tem seguido.
Essa polmica, entre a defesa da avaliao tal qual est sendo conduzida e a
urgncia na reviso dos critrios, reforada, sobretudo, em decorrncia da ausncia de
consenso sobre a alternativa mais adequada de desenvolver tais avaliaes. No h
consonncia estabelecida nessa esfera e muitas tentativas tm sido feitas na direo do
estabelecimento de critrios e metodologias de avaliao que satisfaam a todos os
envolvidos. No se pode esquecer que se trata de uma avaliao e, como todo processo
95
96
apontados pelas avaliaes ao optar por uma revista cientfica ao fazer suas pesquisas e
estudos.
nesse ponto que se detecta um efeito negativo dos resultados das avaliaes:
aquelas revistas bem qualificadas vo sendo procuradas pelos pesquisadores mais
experientes, so as escolhidas pelas agncias de financiamento e so incorporadas pelas
bases de dados. J para os ttulos que no se saem bem na classificao, as
oportunidades so, cada vez mais restritas, o que resulta na potencializao das revistas
bem avaliadas e na retrao daquelas que mais precisam de apoio e estmulo.
preciso encontrar alternativas, urgentemente, para enfrentar tal situao, a
fim de no punir exageradamente os peridicos com conceito B ou C (que muitas vezes
so obtidos por questes alheias ao trabalho do editor como falta de recursos
financeiros, infra-estrutura, etc.) e valorizar, acentuadamente, revistas com conceito A
(que podem adaptar seus padres unicamente para satisfao dos critrios das
avaliaes e no para elevar o nvel de qualidade da produo cientfica). A simples
adoo desse sistema de avaliao, questionvel, pode significar uso de escores
distorcidos, provocando um grande vis nos rankings estabelecidos.
Uma vez discutida a problemtica da pesquisa, sero apresentadas as
informaes para proceder meta-anlise sobre a classificao Qualis na rea de
Psicologia, buscando articular idias do referencial terico para desvelar os conceitos
atribudos pelos respondentes da pesquisa, suas crticas e sugestes e, tambm, os
paradoxos e contradies embutidos nesse processo de avaliao.
97
Parte II
Elementos para discusso: os dados de pesquisa
98
4. Materiais e mtodo
4.1. Consulta aos editores cientficos
Participantes
Editores de peridicos cientficos que participaram da avaliao de peridicos
para a base Qualis da CAPES realizada em 2004, o que totaliza 94 participantes. A
amostra final correspondeu a 38 respondentes, representando uma taxa de devoluo de
40% (Apndice A).
Instrumento
Um questionrio eletrnico contendo dados gerais de identificao (nome do
editor, peridico cientfico que edita e instituio ao qual o peridico est vinculado) e
quatro questes abertas, a primeira delas subdividida em quatro quesitos (Apndice C).
Vale salientar que, exceo da ltima questo, eram admitidas mltiplas respostas.
Procedimento
O questionrio foi elaborado e submetido a um teste-piloto com trs
respondentes, que sugeriram alteraes ao instrumento que foram incorporadas. A
segunda verso do questionrio foi a enviada aos editores.
Os endereos eletrnicos dos participantes foram coletados a partir do site da
Biblioteca Virtual de Sade Psicologia. Aqueles que no estavam disponveis no
portal foram pesquisados nos sites das instituies dos peridicos e nos currculos
Lattes dos editores.
99
100
Sade da BIREME,
Instrumento
Cada entrevista seguiu roteiro pr-estabelecido prprio (Apndice D).
Continham de cinco a dez perguntas, abertas, sobre peridicos cientficos e avaliao de
revistas, alm de questes relativas ao trabalho desenvolvido por cada um dos
entrevistados.
Procedimento
Os bibliotecrios foram primeiramente contatados por e-mail e entrevistados
pessoalmente. As entrevistas aconteceram nos dias 31 de maio e 01 e 02 de junho de
2004 em So Paulo. O contedo foi gravado e transcrito na ntegra.
101
Instrumento
Foi enviado um questionrio eletrnico, composto por trs questes abertas, a
primeira delas subdividida em quatro quesitos (Apndice E). Ainda havia a indicao
para a possibilidade de no restrio s perguntas formuladas.
Procedimento
Os membros da Comisso foram contatados por correio eletrnico (e-mail) no
ms de agosto de 2005. Dois deles (Silvia H. Koller e Maria do Carmo Guedes) foram
entrevistados pessoalmente (entrevistas gravadas e transcritas na ntegra) e os demais
foram consultados apenas por e-mail.
102
b)
c)
Efeitos das avaliaes e mudanas percebidas no quadro editorial, cujos subtemas so a melhoria das revistas; o estabelecimento de parmetros; o aumento do
hiato
entre
as
revistas
avaliadas;
interao
com
comunidade
acadmica/cientfica.
O material coletado (respostas dos questionrios dos editores e membros da
Comisso e entrevistas com bibliotecrios transcritas), ento, foi agrupado em um
103
104
105
Essa
diferena
se
deve,
principalmente,
aos
modos
diversos
de
106
TOTAL
Sim
08
03
04
15
Parcialmente
12
02
02
16
No
10
01
11
Outros*
08
08
TOTAL
38
05
07
50
107
mesmo esperado que cada revista tenha seu prprio processo de arbitragem,
seguindo os padres recomendados internacionalmente. Todavia, valer-se somente do
processo interno de avaliao equipara as publicaes, deixando a cargo do leitor,
especialista ou no, julgar a qualidade do conhecimento divulgado.
Essa posio representa uma das tendncias atuais no campo da disseminao
do conhecimento, passando por sistemas de arquivo aberto (open archives), autoarquivamento ou de disponibilizao de pre-prints. As questes que esto no fundo
dessa discusso so, de um lado, o questionamento acerca da propriedade do
conhecimento; de outro, uma crtica ao carter conservador dos procedimentos usuais
empregados pela comunidade cientfica para o crivo da produo, nos moldes das
anlises de Kuhn (1962/2003).
Embora questionvel, se o argumento apresentado por Ed69 pode ser
interpretado como um alinhamento a essas posies, certamente a objeo de que as
avaliaes servem a finalidades especficas, como qualificar, comparativamente, a
produo de segmentos diversos da comunidade cientfica (como, por exemplo, dos
docentes vinculados aos sistemas de ps-graduao) para efeito de estabelecimento de
hierarquias, articulados ou no com fomento, fica sem resposta.
O outro tipo de resposta contrria avaliao, dessa vez mais recorrente,
argumenta que o processo tem caractersticas mais acadmicas do que cientficas. No
deixa de ser verdade que esta avaliao est diretamente relacionada aos padres
acadmicos de publicao, uma vez que compe as avaliaes dos programas de psgraduao. Mas h de se considerar que os resultados das avaliaes de peridicos
acabam por se refletir tambm na produo cientfica indiretamente, ou seja, a partir de
um conjunto de critrios que as revistas apresentam ou no, possvel estimar o status
cientfico do que publicado.
108
109
110
111
112
113
Essa idia foi confirmada por alguns editores, que ressaltaram a importncia de
a comunidade cientfica estar atenta para os propsitos da base Qualis, que so
direcionados pela CAPES para avaliar os programas de ps-graduao. Como afirmado,
considero que a avaliao Qualis da CAPES importante para que a prpria CAPES
possa avaliar os PPG e produo dos professores, mas no necessariamente o critrio
que deveria ser utilizado pela comunidade cientfica (e nem pretende ser) (Ed55).
Mas esse no um ponto convergente entre todos os respondentes, sejam
editores, bibliotecrios ou participantes da Comisso. Ao contrrio, foi sugerida a
criao de um sistema nico de avaliao de peridicos cientficos, pelo menos no que
concerne avaliao dos programas de ps-graduao e concesso de financiamentos
para facilitar o trabalho dos editores para submisso de seus peridicos avaliao.
Como aponta um dos editores, os parmetros de CNPq e CAPES so muito dspares,
onerando o editor com o preenchimento de formulrios e a submisso a diversos
processos de avaliao. Se a autonomia dos dois rgos desejvel, poderia haver
maior convergncia na solicitao de informaes sobre os peridicos (Ed56).
Essa estratgia de uniformizao das avaliaes, que poderia auxiliar editores e
pesquisadores, foi consensual entre os bibliotecrios entrevistados. Foi assinalado que a
existncia de um modelo nico para diferentes propsitos facilitaria o intercmbio de
informaes entre a comunidade usuria dos peridicos.
Alm de existirem modelos de avaliao diversos, h divergncias dentro das
prprias reas do conhecimento. Na avaliao para incluso na base Qualis, cada rea
tem seu prprio processo de classificao. A biblioteca virtual SciELO tambm tem os
seus critrios. Entre esses modelos variados de avaliao de revistas, o processo
desenvolvido pela Psicologia para Qualis foi bastante elogiado pelos bibliotecrios: eu
114
115
No caso de ser possvel criar uma metodologia que pudesse ser adotada no pas
como um todo, embora ainda no seja factvel, poderia gerar uma massa crtica de dados
que poderia ser comparada e explorada, a fim de fornecer informaes para incrementar
os estudos sobre a produo cientfica nacional.
O que se pde perceber a partir das respostas dos participantes da pesquisa
que h uma diversidade de posicionamentos em relao a uma apreciao sobre a
avaliao de revistas feita pela Psicologia na CAPES. Entre a adeso incondicional e a
desqualificao da necessidade desse tipo de procedimento, encontram-se aqueles que
reconhecem a sua importncia, mas com ressalvas sobre suas limitaes.
De modo geral, o panorama construdo indica que os bibliotecrios
entrevistados apiam a iniciativa da Comisso e concordam sobre a forma como esta
vem sendo conduzida e os efeitos que tm gerado. J os membros da Comisso
contatados acreditam que o trabalho realizado est satisfatrio, mas reconhecem a
necessidade de reformulao e atualizao dos procedimentos e instrumentos. Quanto
aos editores, por serem os principais interessados, apontam as falhas e destacam os
pontos negativos que existem em torno do processo.
A possibilidade de um sistema nico de avaliao, que contemplasse os
interesses da CAPES, das agncias de fomento e da comunidade cientfica, parece ser
consensual entre os trs tipos de respondentes e tida como uma alternativa interessante
para reverter as crticas e os problemas identificados.
116
14
37
13
34
Entidades da Psicologia
09
24
05
13
Comisso multidisciplinar
02
05
Resposta prejudicada
01
03
Total de respondentes
38
117
sua opinio de que a produo cientfica deve estar distante de questes relacionadas a
financiamento.
J se sabe que tais instituies tm seus prprios processos de avaliao, com
objetivos especficos. Por essa experincia, eles poderiam colaborar, efetivamente, com
uma comisso de revistas de Psicologia. No caso da ABEC e IBICT, que esto em
contato com peridicos cientficos de todas as reas e supe-se que conheam o
funcionamento das revistas brasileiras, poderiam trazer pontos de vista diferentes das
agncias j conhecidas pelos editores CNPq, CAPES, SciELO.
Quanto participao dos principais atores envolvidos com publicao
cientfica, houve meno incluso dos editores ou profissionais com experincia em
editorao de peridicos e da comunidade cientfica, tanto aqueles que desempenham
papel de autores quanto de leitores especializados, ou seja, os pesquisadores vinculados
a instituies acadmicas e cientficas. Vale destacar aqui a sugesto de que fosse
formada uma comisso de especialistas por rea da Psicologia, a fim de abarcar a
diversidade temtica das revistas.
bastante coerente a idia de que os interessados e envolvidos com os
peridicos cientficos tenham experincia til para contribuir em uma Comisso de
Avaliao de revistas. Contudo, necessrio que se faa distino entre aqueles que
realmente possam colaborar, uma vez que a formao dos editores, autores e revisores,
salvo raras excees, provida pela prpria prtica. Assim, preciso tempo para
adquirir a experincia necessria e conhecimento sobre pesquisa e sobre a rea de
atuao.
E, de fato, o que acontece na composio da atual Comisso: so
pesquisadores renomados e reconhecidos por efetiva contribuio produo cientfica
de Psicologia no pas. Portanto, so profissionais que lidam com pesquisa (e os produtos
118
de sua comunicao), como autores, leitores e revisores, sendo que alguns desses
membros so tambm editores, eleitos pelos componentes da ANPEPP.
Foram citadas tambm as entidades da Psicologia para uma possvel comisso.
So elas: os Conselhos Federal e Regionais de Psicologia, o Frum de Entidades
Nacionais da Psicologia, a Sociedade Brasileira de Psicologia e a ANPEPP, alm das
sociedades e associaes cientficas especializadas. O envolvimento dessas entidades e
associaes no consensual, como comentado por um dos editores respondentes: uma
possibilidade seria uma avaliao das sociedades cientficas envolvidas, mas isto
acarretaria problemas na medida em que elas tambm so responsveis por alguns
peridicos (Ed23).
Das respostas fornecidas pelos editores, poucos (cinco, ou 13% dos 38
respondentes) mencionaram que a atual comisso responsvel pela avaliao (formada
por representantes da CAPES e da ANPEPP, com colaborao dos editores cientficos
da rea) era adequada, sem necessidade de alteraes. Isto indica que h uma percepo
de problemas em torno da atual avaliao, o que resulta na insatisfao dos editores em
relao comisso que atua no momento. Outras alternativas de entendimento para esse
posicionamento esto relacionadas hiptese dos editores no conhecerem ou no
lembraram dessa Comisso.
Vale destacar, mais uma vez, que a deciso sobre quem realiza uma avaliao
de peridicos cientficos deve estar diretamente relacionada com o propsito dessa
avaliao. A questo colocada para os editores foi sobre a responsabilidade de
monitorao da produo cientfica de Psicologia em virtude do aumento no nmero de
veculos de publicao.
Um outro aspecto destacado por alguns editores foi a composio de uma
comisso multidisciplinar, uma vez que o objeto da avaliao perpassa vrias reas do
119
120
entrevistados, de que a anlise do contedo dos peridicos deve ser realizada por um
especialista da rea.
Ainda foram apontadas pelos bibliotecrios outras categorias profissionais que
poderiam auxiliar na avaliao. A colaborao de estatsticos importante,
principalmente para anlise dos pesos das variveis e para estabelecimento dos pontos
de corte. Um dos entrevistados tambm apontou que a computao dos dados para
anlise da endogenia pode ser feita por um auxiliar tcnico, j que esto em voga
programas auto-analisveis, no qual s h a descrio de autores e ttulos.
Na avaliao feita por Hutz, em 2000, tambm sobre os procedimentos da
avaliao de peridicos de Psicologia para Qualis junto a bibliotecrios, foi sugerida a
convocao de algum profissional com experincia para participar das avaliaes nos
quesitos relativos a normalizao dos ttulos. Essa sugesto de formao de uma equipe
multidisciplinar para realizar a tarefa de avaliar os peridicos da rea foi atendida e, a
partir dessa indicao, foi includo um manual com definio dos itens e critrios
pontuados e passou a contar com a participao de um bibliotecrio especializado em
normalizao. Essas aes surtiram efeito e foram percebidas nas entrevistas feitas para
esta pesquisa: porque uma coisa que eu achei legal nesse ltimo trabalho (...) definiu o
que legenda, porque eu acho que uma pessoa que no bibliotecria teria dificuldade
de fazer isso, no iria aplicar direito (Bib1).
fato, ento, que para uma avaliao de peridicos cientficos consistente e
eficiente, necessria a participao de vrios tipos de profissionais, cada um atuando
sua maneira e contribuindo na rea de sua competncia. Este processo de avaliao
termina por se constituir em uma atividade de carter multidisciplinar, to caracterstico
dos tempos atuais.
121
122
Anual
15
39
Bianual
12
33
03
08
Anual ou bianual
02
06
Trienal
01
03
01
03
Resposta inadequada
03
08
TOTAL
38
100
123
haja um monitoramento que seja mais prximo da realidade e evoluo desses ttulos,
podendo compreender realmente o seu funcionamento.
fato que seria mais educativo e apresentaria resultados mais justos se tal
procedimento fosse posto em prtica, com participao de grande nmero de editores.
Entretanto, a viabilidade de um empreendimento dessa natureza, frente exigidade do
tempo e as distncias entre os participantes, questionvel.
A avaliao continuada, realizada a cada fascculo publicado das revistas se
apresenta como uma alternativa conveniente, uma vez que possibilita que os ajustes
feitos pelas revistas sejam considerados com presteza. Segundo um dos editores,
poderia ser estudado um processo de fluxo contnuo para editores que desejassem a
incluso de novos peridicos ou uma reavaliao, aps um determinado nmero de
edies (Ed46). A avaliao em fluxo contnuo tambm se aplica s novas revistas, que
no ficariam sem conceito at acontecer uma nova avaliao.
J uma avaliao a cada trs anos, ou a cada cinco anos, como mencionado por
alguns editores, permitiria a observao da revista por um perodo de tempo maior, o
que poderia gerar um retrato mais fiel das publicaes.
Os bibliotecrios e membros da Comisso de Avaliao no se posicionaram
em relao a esse aspecto da avaliao.
Outro ponto questionado aos editores foi sobre os procedimentos que seriam
mais adequados para a realizao de uma avaliao de peridicos de Psicologia. A
diversidade das respostas levou ao agrupamento nas categorias apresentadas na Tabela
5.
124
Tabela 5
Procedimentos adequados para uma avaliao de peridicos de Psicologia, segundo os
editores
Procedimentos mais adequados
Aspectos operacionais
12
32
tica da avaliao
07
18
Procedimentos atuais
06
16
Contatos/divulgao
05
13
04
11
07
18
Total de respondentes
38
125
peridico, anlise dos recursos solicitados pelas revistas e divulgao ampla dos
resultados.
A categoria intitulada tica da avaliao agrupou as respostas que se referiam
atitude que a comisso deve ter em relao s revistas avaliadas. A opinio que haja
respeito s condies e caractersticas de cada peridico, ou seja, sua poltica editorial,
histria e ao desenvolvimento da revista e s dificuldades encontradas. Essa sugesto
seria de difcil implementao, dada a complexidade para executar uma avaliao que
seja simultaneamente comum para mais de 90 revistas e que resguarde caractersticas
particulares dessa mesma quantidade de ttulos.
Ademais, foi bastante recorrente a idia de que necessrio conceder prazos
para que os peridicos se adeqem aos parmetros colocados pelas avaliaes. Quanto a
isso, atualmente os ttulos dispem de um intervalo (em geral, de um ano) entre duas
avaliaes para apresentar seus avanos e principais mudanas.
A composio da equipe de avaliadores julgados competentes para
desempenhar tal avaliao foi citada como importante etapa deste trabalho. Desta vez,
foi destacada a importncia de contar com profissionais especializados, no caso,
bibliotecrios, para a realizao da etapa tcnica-normativa da avaliao. Alm de
apontarem os editores cientficos e especialistas por sub-rea da Psicologia como
partcipes fundamentais desse processo, os pesquisados ressaltaram a necessidade de
levar em conta a opinio dos autores e leitores.
Cinco editores ainda apontaram que preciso maior interao entre eles e a
Comisso de Avaliao. Esta comunicao precisa acontecer no s para divulgao
dos resultados, mas que seria importante promover debates sobre os critrios e os
rankings obtidos, sob a forma de frum permanente e encontros de editores, como
afirma um dos respondentes: procedimentos mais democrticos e participativos deviam
126
127
128
por
parte
dos
respondentes
da
pesquisa.
Sero
discutidos
tais
129
130
considerado como critrio mnimo, uma exigncia mnima para ser avaliado. As revistas
j tiveram um tempo suficiente para essa adaptao. Para ser avaliado, (deve) estar bem
normalizada (Bib3).
No outro grupo de respondentes, um dos editores chamou a ateno para este
fato, que j acontece em algumas avaliaes de certas reas, como na Educao,
afirmando que (...) aspectos inerentes a uma publicao cientfica, tais como corpo
editorial e aspectos tcnicos, so questes primrias sem os quais no podemos chamar
a publicao de peridico cientfico. Quer dizer, so quesitos eliminatrios para
concorrer a uma avaliao (Ed31). Pensando nessa questo, muitos indexadores,
incluindo a biblioteca virtual SciELO, adotam tal procedimento, visando definir um
padro e sinalizar um parmetro de qualidade mnimo necessrio para um peridico ser
avaliado.
Outros dois entrevistados (Bib2 e Bib3) concordaram que j houve muita
indicao por parte da Comisso do que considerado nas avaliaes, mas apontaram
que no h necessidade de estabelecer pontos de corte. Na verdade, a excluso de
revistas do processo de avaliao s prejudica a comunidade cientfica, que fica sem
informaes a respeito do maior nmero de ttulos da rea.
Apesar de j definidos desde 1998 no quadro de Psicologia, muitas revistas no
preenchem os requisitos estabelecidos e, quando uma revista no cumpre esses aspectos
tcnicos, que so mais facilmente atendidos, prejudicada na avaliao, o que j pode
ser considerado uma punio.
Alm disso, de acordo com um dos bibliotecrios entrevistados, o modelo
adotado conduz a avaliao a privilegiar ou punir certos aspectos, pontuando
duplamente. Como exemplo, citaram que uma revista avaliada duas vezes quanto ao
131
132
publicaes (item que era muito problemtico na imensa maioria dos peridicos) e a
gesto editorial (Com2).
Na verdade, os critrios adotados pela Comisso so sempre um dos pontos
mais polmicos e que geram tantas discusses nos encontros de editores e interessados
em publicao cientfica. No h consenso entre os envolvidos e as crticas e sugestes
aparecem, mas no satisfazem a todos. De fato, desde a primeira avaliao, existem
alguns itens da ficha de avaliao que foram modificados, tiveram a pontuao alterada
ou foram excludos, em virtude da opinio dos editores, autores, leitores ou da prpria
Comisso.
O posicionamento dos editores em relao aos critrios atuais paradoxal:
foram citados tanto como aspecto negativo (com maior freqncia), como positivos e
ainda houve aqueles que indicaram a necessidade de serem feitos apenas alguns ajustes,
como bem explicado aqui: Os critrios que a comisso original formulou so
relevantes, adequados e suficientes. necessrio recalibrar pesos e ponderaes, tendo
em vista mudanas que ocorreram (para melhor) na qualidade editorial das revistas
(Ed5).
Os aspectos positivos citados em relao aos critrios atuais foram o
levantamento
de
parmetros
acadmicos
como
normalizao,
exigncia
de
133
134
135
exemplifica o entrevistado Bib4: o instrumento, ele tem de ser avaliado e tem de ser
sempre atualizado. Tem de ter mudanas mesmo, no poderia dar a mesma classificao
que dava na primeira, se no, todas as revistas seriam nacionais, nacionais A.
Apesar das mudanas observadas desde as primeiras avaliaes de peridicos
aos dias atuais, ainda no h um modelo satisfatrio. Segundo um dos entrevistados,
(...) a coisa est melhorando, mas no existe ainda um modelo (Bib3). O sistema
desenvolvido pela biblioteca virtual SciELO foi apontado como o mais completo
existente no Brasil atualmente19.
esse o princpio apontado pelos bibliotecrios, que o nvel de exigncia nas
avaliaes deve ser sempre crescente. Uma vez que as revistas avaliadas atingiram um
determinado patamar, ou seja, melhoraram e conseguiram atender o mnimo estipulado,
esse grau de cobrana aumenta. Os peridicos e seus editores tm sempre um degrau
para galgar e o ranking sempre mutvel. Essas alteraes em relao ao padro
mnimo requerido das revistas so inevitveis uma vez que incoerente atribuir o
conceito mximo ao universo total de revistas: dentro de um conjunto de ttulos, h
aqueles que mais se destacam.
19
O processo de avaliao dos peridicos para compor a coleo SciELO comea com a anlise das
chamadas pr-condies, ou seja, o formato da revista e a endogenia, que inclui normalizao,
distribuio, se recebe financiamento do CNPq e o conceito obtido na base Qualis. Em seguida, so
enviados fascculos da revista para dois ou trs especialistas da rea para emisso de parecer sobre o
contedo publicado. Por fim, so anexados os relatrios dessas duas etapas e submetidos a avaliao pelo
Comit Consultivo da SciELO, que pode aprovar, reprovar ou requerer mais elementos para subsidiar a
avaliao.
136
137
entrevistados: quando voc aplica esses nossos modelos, em que a gente fala
obrigatrio ter o resumo bilnge, sumrio bilnge, ttulo traduzido, descritores
traduzidos, etc, ele perde. Mas a, a gente sabe que a revista perde nesses critrios
formais, o editor reclama bastante por isso, que diz que isso no tem nada a ver, etc.,
mas uma caracterstica que a revista no tem, ele assume isso, uma opo do editor,
mas que prejudica essa contagem (Bib1). Outro entrevistado completa essa idia,
afirmando que os editores esto bastante conscientes de tudo que eles tm que fazer. Se
no fazem porque no querem, mas a parte de citao independe de voc fazer uma
boa avaliao de forma (Bib4).
No caso da avaliao que feita pela Comisso de Psicologia para a base
Qualis, existem dois pontos centrais a serem discutidos, resultantes da opinio dos
envolvidos no processo: primeiro, o ganho sem precedentes decorrente do maior
controle da formalizao das revistas e, segundo, a concentrao na avaliao dos
aspectos formais em detrimento da anlise do contedo publicado.
Alguns editores (29%) fizeram meno ao critrio Padronizao em resposta
aos critrios que julgam mais importantes para uma avaliao dos ttulos da rea. Isso
representa um avano significativo da comunidade editorial de Psicologia. Se at h
pouco tempo muitos desconheciam os aspectos tcnicos necessrios, como presena de
ISSN, resumo bilnge e legenda bibliogrfica, hoje, reconhecem a importncia da
padronizao dos peridicos para facilitar a comunicao entre os interessados. O que
se percebe que revistas mais antigas, embora j consolidadas e com prestgio
reconhecido, apresentam graves problemas tcnicos, de normalizao, por terem surgido
em um momento em que no se priorizavam tais aspectos.
Por outro lado, h crticas valorizao apenas desses aspectos, como bem
pontua uma das integrantes da Comisso de Avaliao: o tpico Normalizao no se
138
139
contedo. Esta se apresenta, para trs dos entrevistados, como um elemento essencial
para uma avaliao de peridicos cientficos completa e que a no incluso desse
aspecto faz diferena nos resultados. J os outros dois apontam que o contedo uma
questo complexa para ser abordada, principalmente por ser uma avaliao muito
subjetiva e no ter um instrumento a ser seguido.
Atualmente,
com
muitas
revistas
em
nvel
semelhante
de
140
141
142
143
144
145
146
Contedo
18
47
Publicao
17
45
Gesto editorial
13
34
Autoria
12
32
Impacto
11
29
Normalizao/Padronizao
11
29
Circulao
07
18
Critrios atuais
07
18
Critrios mnimos
01
03
Resposta prejudicada
05
13
Total de respondentes
38
147
148
regular, sem atrasos. Muitas vezes so fatores externos aos peridicos, como
financiamento, falta de estrutura e recursos humanos deficitrios para cumprir os
prazos. As revistas muito atrasadas tm que ser consideradas e penalizadas por isso nas
avaliaes, mas h de se conceder uma margem para esse atraso. A prpria Comisso
defende esse ponto: cria um rtulo nem sempre totalmente justo quando penaliza
revistas por atrasos, por exemplo (Com6).
Na categoria Gesto editorial foram contabilizadas as respostas que se
referiam ao conselho editorial das revistas, ao conselho cientfico e corpo de consultores
ad hoc, ao fluxo das revistas (e ndice de rejeio) e aos mecanismos utilizados pelas
revistas para arbitragem dos artigos, como o peer review.
Os editores que responderam a pesquisa destacaram no s a importncia da
diversidade desses gestores das revistas, mas tambm sua representatividade, ou seja,
que sejam pesquisadores renomados da rea da Psicologia. Ora, no restam dvidas de
que a presena de pesquisadores bem conceituados pode elevar o padro de qualidade
de um peridico, uma vez que se trata de profissionais experientes. Mas como bem
lembrado por um dos respondentes, o corpo de consultores importante, mas a
exigncia de que sejam doutores de diferentes instituies acaba no fazendo muito
sentido, quando se tem pessoas (que no so doutores renomados) que realmente
trabalham e fazem uma avaliao sria dos manuscritos encaminhados enquanto muitos
consultores externos no correspondem aos prazos e demandas dos editores (Ed44).
Haja vista a quantidade de revistas que temos no pas e a quantidade de pesquisadores
de ponta, torna-se impraticvel a presena de tais pesquisadores nos quadros de todas
elas. E se o fazem, h sempre o risco de uma participao apenas formal, sem
participao efetiva nas decises editoriais.
149
Outra categoria que ganhou ateno por parte dos editores foi Autoria. A
referncia mais recorrente nesse quesito foi a pontuao quanto a diversidade e
reconhecimento do corpo de autores publicado no peridico. Um dos editores,
entretanto, no compartilha dessa idia e afirmou que devem excluir a computao
quanto origem territorial dos artigos (Ed61). Vale salientar que a heterogeneidade de
autores no deve se limitar a vnculos com diferentes instituies e originados de
diversas regies geogrficas, mas tambm quanto postura cientfica dos pesquisadores.
Desta forma, a exogenia estimulada a fim de promover perspectivas diferenciadas
sobre o mesmo fenmeno, possibilitar trocas e permitir renovao de idias.
Se consenso que necessrio cumprir o que preconizado, qual seja, publicar
artigos de vrios autores e de distintas instituies, h discordncia quanto ao peso que
esta varivel deve apresentar. Tomando o exemplo da avaliao para composio da
coleo SciELO Brasil, a revista deve publicar mais de 60% de artigos de autores de
outros estados da federao que no o estado de origem da revista. Caso o peridico no
alcance esse percentual considerado endogenia e o ttulo pode no ser aprovado nessa
avaliao.
Foi levantado tambm que o modelo de avaliao da base Qualis no leva em
considerao a distribuio da produo cientfica do pas: outro ponto que acaba
ficando comprometido em funo da realidade do pas refere-se distribuio da
produo cientfica, uma vez que os manuscritos so, em sua maioria, de autores de um
mesmo plo (o circuito sul/sudeste consideravelmente mais expressivo) (Ed44).
Um dos bibliotecrios concorda com a questo e apontou que o percentual
exigido para pontuao mxima pela avaliao Qualis de Psicologia era muito alto para
ser alcanado pelas revistas, principalmente aquelas situadas no sudeste, onde h maior
concentrao da produo cientfica e acadmica de Psicologia no pas. Quando
150
151
152
pouco adianta que a revista publique material relevante e inovador se ela no est
disponvel facilmente para os seus leitores.
Tambm consenso entre os bibliotecrios que a indexao realmente
importante como indicador de qualidade para os peridicos cientficos. Como os
servios de indexao so, em geral, bastante seletivos, as revistas que esto indexadas
so consideradas de alto nvel, uma vez que conseguiram atender aos rgidos critrios de
seleo adotados, ou seja, j passaram pelo crivo do indexador. Ser disponibilizado em
uma base de dados significa ter passado por mais um processo de avaliao, um
indicador de que ela foi aceita por uma outra comunidade, muitas vezes internacional.
E principalmente quanto a esse aspecto que as revistas nacionais apresentam
suas maiores dificuldades. Para figurar em bases de dados internacionais, o idioma
portugus se apresenta como uma barreira, que dificulta a incluso dos ttulos. Ou seja,
que os peridicos inseridos nos bancos de dados tm qualidade, no h muitas dvidas.
Entretanto, o fato de alguns no conseguirem ser indexados no significa que no
tenham esse mesmo nvel de qualidade. Em outras palavras, ser disponibilizado por um
indexador pode (e deve) mesmo ser considerado como um elemento a mais e quanto
maior o nmero de servios aos quais o peridico est indexado, certamente, significa
que a revista tem o recurso do endosso da comunidade cientfica. Mas preciso analisar
o motivo pelo qual as revistas que esto fora desses servios no entraram, se devido
ao no cumprimento de outros critrios das bases de dados que no a qualidade do
contedo.
Por essa razo, nem a indexao garantia de qualidade, tanto por incluso
quanto por excluso de ttulos. Na maioria das vezes os indexadores explicitam os
critrios que utilizam e tm objetivos prprios de seleo que vo alm da questo
qualidade da revista. H crticas ao fato de muitos avaliadores de peridicos, no s
153
154
155
maior o seu alcance ao pblico, o que nem sempre verdade. possvel um peridico
ter uma tiragem de mil exemplares e estes ficarem estocados, sem serem distribudos.
Por outro lado, a indexao um critrio que vem sendo cada vez mais valorizado,
considerado um retrato mais fiel da abrangncia dos peridicos. Se for um servio
internacional, a visibilidade adquirida pode superar qualquer tiragem.
Quanto abrangncia dessa circulao, os limites nacionais ou estrangeiros so
questionveis. Segundo um dos editores, (a revista) pode ser muitssimo importante
para o Brasil e no para o exterior e isso suficiente, porque o impacto se dar aqui e
no l (Ed34).
Essa classificao quanto ao mbito das revistas um ponto controverso nas
avaliaes. A questo aparece como aspecto negativo, uma vez que h falta de clareza
na compreenso do que vem a ser uma revista local, nacional e internacional. Um dos
bibliotecrios chamou a ateno que para avaliar peridicos segundo sua cobertura deve
se levar em conta a situao da rea que o peridico se refere. Um exemplo citado por
um dos entrevistados foi o caso das revistas de Fonoaudiologia: como s existem cursos
de ps-graduao em quatro ou cinco estados, se uma revista da rea publica trabalhos e
est distribuda por esses estados, ela j tem a cobertura nacional. Entretanto, revistas de
outras reas precisam cobrir todos os estados brasileiros para serem consideradas de
mbito nacional.
Os trs grupos de consultados levantaram a questo da classificao de
peridicos na categoria internacional. Vale a pena diferenciar, aqui, o que considerado
mbito internacional e padro internacional. O mbito (ou abrangncia) de um peridico
est relacionado a sua distribuio por vrios pases, que pode ser medido pelos servios
aos quais est indexado e se recebe contribuio de autores de outros pases. A
publicao com padro internacional refere-se internacionalizao da produo
156
157
critrios
atualmente
utilizados
pela
Comisso
de
Avaliao
158
Editores
Comisso de Avaliao
12
31
05
71
07
18
06
16
02
28
05
13
Estabelecimento de parmetros
05
13
04
57
02
05
01
14
01
03
No h / No respondeu / No sabe
07
18
Total de respondentes
38
07
159
Tabela 8
Aspectos positivos da avaliao para a base Qualis
Editores
Comisso de Avaliao
Aspectos positivos
N
Estabelece parmetros
10
26
03
43
08
21
06
86
Os critrios utilizados
06
16
02
05
02
05
01
03
01
14
02
28
Debate pblico
01
14
13
34
Total de respondentes
38
07
160
Alm dos pontos positivos indicados pelos respondentes, foi solicitado que
apontassem os problemas percebidos em torno da avaliao de peridicos da Qualis da
rea de Psicologia.
Como demonstrado nas Tabelas 8 e 9, tanto editores quanto membros da
Comisso de Avaliao encontraram-se bastante divididos apesar de terem sido
mencionados aspectos comuns aos dois grupos de respondentes.
Tabela 9
Aspectos negativos da avaliao para a base Qualis
Editores
Comisso de Avaliao
Aspectos negativos
N
Critrios utilizados
10
26
01
14
06
16
06
16
03
43
05
13
01
14
Desperta a concorrncia
04
10
02
28
No educativo
03
08
01
14
01
03
01
03
01
14
08
21
01
14
Total de respondentes
38
07
161
162
163
164
165
166
167
peridico considerado importante quando publica grande parte de seu material sob a
forma de artigos originais. Porm, no caso das revistas da rea de Humanas, os ensaios
tambm so considerados trabalhos relevantes, e, portanto, devem ser valorizados nas
avaliaes tambm. A despeito dessa importncia atribuda pelos especialistas em
Cincias da Informao publicao de uma maior proporo de artigos inditos, a
variedade da produo uma caracterstica de muitos peridicos cientficos de
Psicologia. Ao serem penalizados nas avaliaes por no cumprirem essa exigncia, se
sentem injustiados e consideram a pontuao arbitrria.
Essa excessiva padronizao se torna potencialmente mais grave tratando-se de
revistas de subreas menos representadas no cenrio cientfico. Neste caso, as subreas
com comunidades cientficas restritas ou subreas dedicadas a um mtodo especfico de
trabalho ou de atuao so prejudicadas por no atenderem aos critrios que so padro
a todas as reas. Segundo um dos editores, a avaliao formal deveria fazer uma
distino entre as reas, suas dinmicas e especificidades (Ed35). E um membro da
Comisso corrobora: (um aspecto negativo) que homogeneizou as revistas, tentou
imprimir um parmetro e acabou perdendo as especificidades de algumas revistas.
Outra resposta que surgiu como aspecto negativo da uniformizao dos ttulos
que o processo de avaliao para composio da classificao Qualis no educativo e
no indica para o editor os pontos mal avaliados relativos revista. Tal opinio destoa
de uma afirmao reiteradamente feita desde o inicio dos trabalhos pela Comisso de
Avaliao de que o processo a ser empreendido tinha esse carter educativo, de
estabelecer parmetros e apontar para a comunidade cientfica as caractersticas que
devem ser seguidas para um bom peridico cientfico.
Desde as primeiras avaliaes de peridicos em todas as reas h uma grande
agitao entre a comunidade cientfica relativa aos aspectos de normalizao. Como as
168
169
170
171
172
peridico pode ser muito bom para um determinado nicho no mercado cientfico,
mesmo sem ser o melhor entre todos os peridicos. Uma grande dificuldade encontrada
hoje em dia que algumas revistas, por no serem avaliadas como as mais importantes,
acabam deixando de cumprir um objetivo intermedirio com sucesso, deixa de atender a
um pblico que poderia conquistar.
Assim, percebe-se que nem a rea de publicao cientfica foge competio
de mercado. Segundo o bibliotecrio Bib2, os peridicos tm que buscar serem criativos
o suficiente ou mostrar vantagens para os pesquisadores submeterem seus trabalhos,
levando a revista a conseguir publicar os melhores trabalhos e conquistar um pblico
definido.
Dentre o conjunto de estratgias que uma revista pode adotar para melhorar sua
divulgao e se tornar reconhecida na comunidade internacional, so consideradas as
mais promissoras, pelos bibliotecrios entrevistados, o estabelecimento de parcerias,
recebimento de colaborao de outras revistas de maior impacto e a busca por
publicaes afins em outros pases. O editor deve buscar que sua revista seja citada mais
freqentemente
ao
investir
no
marketing
do
peridico,
de
preferncia
internacionalmente, uma vez que quanto mais autores de outros pases publicando em
uma revista, seja em artigos em co-autoria, seja porque decidiram submeter os trabalhos
a esses ttulos, essa revista automaticamente vai adquirindo um maior status
internacional.
Alm de melhorar o aspecto da divulgao internacional, esperado que as
revistas tenham um diferencial, como a especializao temtica. De acordo com os
bibliotecrios, o estmulo especializao , cada vez mais, uma realidade nacional e a
ABEC tem como proposta que sejam criadas revistas em reas carentes de ttulos
especializados.
173
174
175
peridicos cientficos, avaliao de revistas, fruto do interesse dos alunos como futuros
autores que querem conhecer a qualidade dos veculos para escolher onde publicar.
Apesar desse efeito, os editores apontaram que ainda preciso maior interao
entre eles e a Comisso de Avaliao. Esta comunicao precisa acontecer no s para
divulgao dos resultados, que foi descrita como falha. A apresentao do ranking final
existe atualmente, embora no de forma to ampla como nas primeiras avaliaes, que
foram discutidas em eventos cientficos, por meio de correspondncia a cada um dos
editores, com a publicao de artigos e disponvel em pginas na Internet. Hoje, a
divulgao do processo de avaliao e dos resultados dos peridicos brasileiros de
Psicologia acontece pelos sites da ANPEPP e da CAPES, onde so veiculadas tambm
as classificaes conduzidas pelas diversas reas do conhecimento.
No h dvidas de que as avaliaes de peridicos empreendidas pela CAPES,
em articulao com a ANPEPP, tomou uma dimenso muito ampla e grande
repercusso na comunidade cientfica de Psicologia. Antes desses processos, no havia
tanta preocupao em relao qualidade dos peridicos e, atualmente, todos os
envolvidos com pesquisa se interessam pelos conceitos recebidos pelas revistas.
176
177
178
179
180
por exemplo) que no o contexto acadmico. preciso levar em conta que os critrios
adotados atualmente pela Comisso de Avaliao de Psicologia privilegiam certos
aspectos que podem prejudicar as revistas caracterizadas pela produo da prtica
profissional e no da pesquisa cientfica propriamente dita. Nesse caso, o ttulo recebe
um conceito no satisfatrio (B ou C, ou Local), o que pode afastar autores em potencial
bem qualificados e leitores interessados.
Uma alternativa vivel para esses problemas pode ser o convite para
participao na avaliao para todas as revistas da rea (cadastradas pela BVS-Psi, com
auxlio da ReBAP, por exemplo), e a efetivao da avaliao para aquelas que
acusassem interesse em ser classificada pela Comisso. Essa prtica j vem sendo
corrente na rea de Educao e tem obtido grande sucesso entre os editores20.
Ainda em relao definio do grupo de peridicos a serem avaliados,
importante discutir a estratgia de estabelecimento de critrios mnimos para os que se
submetem avaliao. Existem certos aspectos das revistas cientficas que podem ser
consideradas indicadores universais de qualidade, como o bloco de normalizao,
presente na Ficha de Avaliao da Qualis de Psicologia (conferir anexo 2) e a
regularidade da publicao. consenso entre os atores consultados para esta pesquisa
que essas exigncias j foram amplamente divulgadas e que no so aspectos difceis de
serem obtidos. Portanto, a restrio da avaliao s revistas que no cumprirem com
esses requisitos essenciais funcionaria como punio, mas, principalmente, chamaria a
ateno dos editores para a conceituao e funcionalidade de um peridico cientfico.
Essas duas alternativas, de ser avaliado o ttulo que tem interesse e fazer uso de
critrios mnimos, podem parecer contraditrias, j que a primeira marcada por um
carter inclusivo e a segunda, eliminatrio. Entretanto, o objetivo maior de pensar em
20
181
182
183
184
185
186
187
188
189
190
dvida, entrevistas presenciais com todos esses pesquisadores enriqueceria ainda mais a
pesquisa.
Considera-se que o objetivo da pesquisa foi alcanado, levantando informaes
que possam contribuir, tambm, para o aprimoramento do modelo de avaliao adotado.
Os respondentes proporcionaram a discusso de questes fundamentais, sendo possvel
fazer uma anlise precisa sobre a temtica. Desde aspectos especficos como pontuao
do item autoria, existncia do critrio indexao e o modo de definio do mbito
dos ttulos, at debates mais gerais como a utilizao de instrumentos de avaliao
distintos para peridicos de naturezas diferentes ou padronizao excessiva em
detrimento da apreciao qualitativa, este trabalho abordou de forma ampla o objetoalvo da pesquisa, oferecendo sugestes e alternativas para a comunidade cientfica.
Alm da anlise propriamente dita do processo de avaliao de peridicos
cientficos, outros objetivos, no explicitados, foram alcanados. A expectativa que a
divulgao destes resultados possa auxiliar no debate pblico sobre o tema,
esclarecendo aos interessados e divulgando a avaliao de peridicos cientficos.
Entende-se que, quanto melhor a apropriao do processo pelos envolvidos, maiores as
chances de ser bem recebido e desenvolvido eficientemente.
Por fim, esta pesquisa empreendeu uma tentativa, ainda que incipiente, de
questionar os valores vigentes na sociedade do conhecimento, que decreta a criao
de (bons) trabalhos em um ritmo acelerado a fim de atender aos preceitos da
produtividade e da qualidade da produo cientfica. Diante dessa comunidade
acadmica que cresce a cada dia e, portanto, publica cada vez mais, o prprio sistema
exige e, ao mesmo tempo, exclui, provando que a lgica da construo do conhecimento
no est isenta dos princpios mercantilistas atuais.
191
9. Referncias bibliogrficas
192
Enserink, M. (2001). Peer review and quality: a dubious connection? Science, 293,
2187-2188.
Feitosa, M. A. G. (1993). A tica do processo de reviso de manuscritos: a expectativa
do editor em relao ao papel do consultor. Psicologia: Teoria e Pesquisa, 9, ivvi.
Feitosa, M. A. G. (1994a). A responsabilidade do autor de manuscritos submetidos a
publicao. Psicologia: Teoria e Pesquisa, 10(1), iv-viii.
Feitosa, M. A. G. (1994b). A responsabilidade tica do editor de um peridico
cientfico. Psicologia: Teoria e Pesquisa, 10(2) iv- viii.
Ferreira, M. C. G., & Krzyzanowski, R. F. (2003). Peridicos cientficos: critrios de
qualidade. Pesquisas de Odontologia Brasileira, 17, 43-48.
Forattini, O. P. (1996). A trade da publicao cientfica. Revista de Sade Pblica, 30,
3-12.
Freitas, M. H. A. (1998). Avaliao da produo cientfica: consideraes sobre alguns
critrios. Psicologia Escolar e Educacional, 2, 211-228.
Guedes, M. C. (2004). Escrever e editar: compromisso com a disseminao de
conhecimento. Psicologia USP, 15, 249-256.
Guedes, M. C., Zannon, C., & Luna, S. V. (1996). O cenrio da publicao cientfica em
Psicologia no Brasil [Editorial]. In Sociedade Brasileira de Psicologia (Org.),
Encontro de editores de Psicologia. Ribeiro Preto: Autor.
Gibbs, W. W. (1995). Lost science in the third world. Scientific American, Agosto, 7683.
Gurgel, N. M. C., & Maia, O. L. (2003). Poltica de desenvolvimento do acervo para o
sistema de bibliotecas da Universidade Federal do Cear. In Ncleo Organizador
(Org.), XIII Seminrio Nacional de Bibliotecas Universitrias (pp. 15). Natal:
Autor.
Gutirrez, J., & Lpez-Nieva, P. (2001). Are international journals of human geography
really international? Progress in Human Geography, 25, 53-69.
Hill, D. L. (2004). Latin America shows rapid rise in S & E articles. Disponvel em
http://www.nsf.gov, acessado em 02 de novembro de 2004.
Hutz, C. S. (2000). Avaliao dos peridicos brasileiros em Psicologia 2000. Estudos
de Psicologia (Natal), 5, 471-487.
Institute for Scientific Information (1999). About ISI.
http://www.isinet.com, acessado em 12 de novembro de 2004.
Disponvel
em
193
194
Packer, A. L., Biojone, M. R., Antonio, I., Takenaka, R. M., Garca, A. P., Silva, A. C.,
Murasaki, R. T., Mylek, C., Reis, O. C., & Delbucio, H. C. R. F. (1998). Scielo:
uma metodologia para publicao eletrnica. Cincia da Informao, 27, 109121.
Paula, M. C. S. (2002). A base Qualis e sua utilizao no projeto Insero. In J. Velloso
(Org.), Formao no Pas ou no exterior? Doutores na ps-graduao de
excelncia. Um estudo na Bioqumica, Engenharia Eltrica, Fsica e Qumica no
Pas (pp. 217-237). Braslia: Fundao Coordenao de Aperfeioamento de
Pessoal de Nvel Superior.
Pessanha, C. (1998). Critrios editoriais de avaliao cientfica: notas para discusso.
Cincia da Informao, 27, 226-229.
Pinto, A. C., & Andrade, J. B. (1999). Fator de impacto de revistas cientficas: qual o
significado deste parmetro? Qumica Nova, 22, 448-453.
Sampaio, M. I. C., & Peixoto, M. L. (2000). Peridicos brasileiros de Psicologia
indexados nas bases de dados LILACS e PsycInfo. Boletim de Psicologia, L, 6573.
Sampaio, M. I. C. (2001). Ata da primeira reunio do Comit Consultivo Nacional da
Biblioteca Virtual em Sade. Disponvel em http://www.bvs-psi.org.br/atas.htm,
acessado em 02 de setembro de 2004.
Sampaio, M. I. C., Sabadini, A. A. Z. P., & Linguanotto, A. R. J. (2002). Peridicos
cientficos: caractersticas e exigncias. Mudanas, 10, 184-200.
Santos, D. D. (1979). Resultados preliminares do projeto de avaliao de peridicos em
cincia e tecnologia. Trabalho apresentado na Reunio Brasileira de Cincia da
Informao, Rio de Janeiro.
Seglen, P. O. (1997). Why the impact factor of journals should not be used for
evaluating research. Biological and Medical Journal, 7079, 314-322.
Serradas, A. (2004). Relatrio do I Encontro de Editores de Revistas Cientficas da
rea de Psicologia. Disponvel em http://www.bvs-psi.org.br/, acessado em 05 de
outubro de 2004.
Silva, J. A., & Baffa Filho, O. (2000). A centralizao do saber. Paidia Cadernos de
Psicologia e Educao, 10, 8-11.
Silva, J. A., & Bianchi, M. L. P. (2001). Cientometria: a mtrica da cincia. Paidia
Cadernos de Psicologia e Educao, 11, 5-10.
Souza E. P., & Paula, M. C. S. (2002). Qualis: a base de qualificao dos peridicos
cientficos utilizada na avaliao CAPES. Infocapes, 10, 06-24.
Stumpf, I. R. G. (1996). Passado e futuro das revistas cientficas. Cincia da
Informao, 25, 383-386.
195
196
Apndices
197
A.
REVISTA
RESPONDENTE
Alethia
Mauro Magalhes
Marysandra Carlotto
Avaliao Psicolgica
Cludio S. Hutz
Cadernos de Psicanlise - SPCRJ
Luiz Ricardo Prado de Oliveira
Doxa
Paulo Rennes Marcal Ribeiro
Estilos da Clnica
Maria Cristina M. Kupfer
Leandro de Lajonquire
Rinaldo Voltolini
Estudos de Psicanlise
Carlos Perktold
Estudos e Pesquisas em Psicologia
Anna Paula Uziel
Ariane Ewald
Eleonora Prestrello
Deise Mancebo
Estudos Interdisciplinares sobre o Envelhecimento
Sergio Antonio Carlos
Griphos
Instituto de Estudos Psicanalticos
Imaginrio
Maria de Lourdes Beldi de Alcntara
Interao (Curitiba)
Ldia Natalia Dobriansky Weber
Mal-estar e Subjetividade
Henrique Figueiredo Carneiro
Memorandum
Miguel Mahfoud
Marina Massimi
Mudanas
Luciano Sathler Rosa Guimares
Jos Tolentino Rosa
Natureza Humana
Zeljko Loparic
Opo Lacaniana
Angelina Harari
Paidia
Zlia Maria Mendes Biasoli-Alves
Perfil
Sonia Aparecida Moreira Frana
Psicologia & Sociedade
Cleci Mareschin
Psicologia Argumento
Elizabeth Veiga
Andra Silveira
Psicologia Clnica
Ana Maria Rudge
Bernardo Jablonski
Psicologia em Estudo
Maria Lucia Boarini
Psicologia em Revista
Jos Newton G. Arajo
Psicologia: Cincia e Profisso
Accia Aparecida Angeli dos Santos
Psicologia: Reflexo e Crtica
Lisiane Bizarro
Psicologia: Teoria e Pesquisa
Tereza Cristina C. Ferreira de Arajo
Psicologia: Teoria e Prtica
Maria Cristina Trigueiro Veloz Teixera
Psych
Daniel Delouya
Reverso
Carlos Perktold
Rev. Bras. Crescimento e Desenvolvimento Humano Elaine Pedreira Rabinovich
Rev. Bras. de Terapia Comportamental e Cognitiva Roberto Alves Banaco
198
Revista da SBPH
Rev. da Soc. de Psicologia do Tringulo Mineiro
Revista de Psicologia
Revista de Psicoterapia da Infncia e Adolescncia
Revista Kairs
Rev. Latino-americana de Psicopat. Fundamental
Temas sobre Desenvolvimento
Julieta Quayle
Fernando Antonio Leite de Oliveira
Izabel Cristina Ferreira Borsoi
Catia Olivier Mello
Beltrina Corte
Suzana Rocha Medeiros
Manoel Tosta Berlinck
Jos Salomo Schwartzman
199
200
Privada
17
Pblica
17
No informa
Total
38
Universidade
27
Autarquia
Editora
Total
38
201
Sudeste
24
Sul
10
Nordeste
Centro-oeste
Total
38
202
apenas 23 tem relao com algum curso de ps-graduao. Alm disso, dos 23
peridicos cientficos que afirmam ter contato com programas de ps-graduao, 14 (ou
61%) so publicados por instituies pblicas.
Tabela 5
Vinculao das revistas com programas de ps-graduao
Vnculo com ps-graduao
Sim
23
No
15
Total
38
Periodicidade
Semestral
24
Anual
Quadrimestral
No informa
Trimestral
Bimestral
Total
38
203
Psicologia
12
Psicanlise
Psicologia Clnica
Subjetividade e Psicologia
Filosofia e Psicoterapia
Psicologia / Psicometria
Psicologia Social
Total
38
204
2000
2001
2003
2004
2005
No foi avaliada
18
17
15
Local A
Local B
Local C
Nacional A
11
18
Nacional B
Nacional C
Internacional
205
Revista:
Editor:
Instituio/Sociedade cientfica:
1.
O crescimento da produo cientfica nos ltimos anos e conseqente aumento
no nmero de veculos de publicao tem colocado a necessidade de monitorao
dessa produo. Com relao avaliao dos peridicos cientficos da rea da
Psicologia:
Quem deve se responsabilizar pela avaliao?
Quais os critrios que voc julga relevantes?
Qual(is) o(s) procedimento(s) mais adequado(s)?
Qual periodicidade da avaliao?
2.
Com relao avaliao realizada pela Capes (sistema Qualis), quais so os
aspectos positivos e negativos que voc destacaria?
3.
Quais mudanas podem ser percebidas no quadro de revistas de Psicologia
decorrentes dos resultados do sistema Qualis?
4.
Voc considera que os conceitos atribudos a cada revista retratam
adequadamente o material avaliado?
206
207
208
209
Anexos
210
x
x
x
211
x
x
212
2. Ficha de Avaliao
Item
2
3
4
5
NORMALIZAO
Subtotal
12
1
1
2
1
2
1
2
PUBLICAO
Tempo de publicao
Regularidade
Proposta de periodicidade
(desde que cumprida no
perodo)
10
Pontuao
possvel
Mais de 15 anos
Mais de 10 anos
Mais de 5 anos
Mais de 2 anos
Publicao sem atraso
4 edies ao ano
3 edies ao ano
2 edies ao ano
4
3
2
1
8
4
3
2
Subtotal
16
2
3
2
1
3 CIRCULAO
Subtotal
Mximo
5
2
12
213
Item
Definio do critrio
4 AUTORIA E CONTEDO
15 Autoria estrangeira
16 Autoria nacional
17 Autoria interinstitucional
18 Artigos/Ensaios originais
Pontuao
possvel
(NO PERODO)
Mnimo de 2 artigos/ensaios originais de autores estrangeiros
Mnimo de 75% de artigos/ensaios originais de autores de 2 ou mais UFs (que no a UF
de origem)
Entre 50% e 74% de artigos/ensaios originais de autores de 2 ou mais UFs (que no a
UF de origem)
Publicao de artigos/ensaios originais de 5 ou mais instituies (ainda que na mesma
UF)
Mnimo de 75% do total de pginas de cada fascculo
Entre 50% a 74% do total de pginas de cada fascculo
3
12
8
5
4
3
2
12
4
2
Subtotal
40
22 Comisso executiva
Presena
23 Editor responsvel
Presena
Diversidade do Conselho
24
Reconhecida contribuio na rea e compatvel com a linha editorial
Editorial/Cientfico
mbito nacional (pelo menos 3 UFs), com membros de reconhecida contribuio na rea
Abrangncia do Conselho
25
mbito internacional (membros afiliados a instituies estrangeiras e nacionais de no
Editorial/Cientfico
mnimo 3 UFs, com reconhecida contribuio na rea)
Consultores externos
26
Publicao da nominata (mnimo uma vez a cada 2 anos)
(ad hoc)
Abrangncia dos consultores
27
Participao de consultores de no mnimo 6 instituies
externos (ad hoc)
Procedimentos de tramitao
28
Publicao de esclarecimentos sobre estes procedimentos
e arbitragem
Data de recebimento e
29
Presena regular
aceitao dos manuscritos
1
2
5 GESTO EDITORIAL
Subtotal
TOTAL GERAL
4
4
5
1
4
2
1
20
100