Anlise de resduos e transformao de dados em variveis de tomateiro Diogo Vanderlei Schwertner1 Rlia Rodrigues Brunes1 Fernando Machado Haesbaert1

Daniel Santos1 Denison Esequiel Schabarum1 Alessandro DalCol Lcio1 1 Introduo Devido a importncia econmica e agronmica do tomateiro (Solanum lycopersicum L.), um grande nmero de experimentos realizado anualmente com a cultura. Nesses experimentos a anlise de resduos deve ser utilizada para testar o atendimento as pressuposies do modelo matemtico [10]. A anlise dos resultados experimentais de boa qualidade quando as pressuposies de aditividade dos efeitos do modelo, homogeneidade de varincias, normalidade e aleatoriedade dos erros so satisfeitas. Quando tais pressuposies no so atendidas, a confiabilidade das anlises paramtricas fica comprometida, pois ocorrem alteraes nas probabilidades de ocorrncia dos erros tipo I e tipo II, podendo levar a falsas concluses a respeito dos efeitos de tratamento [10, 6]. A anlise de resduos deve ser aplicada anteriormente a anlise de varincia dos dados, utilizando o teste de no aditividade de Tukey para verificar a aditividade dos efeitos [9], o teste de Lilliefors [8], de Bartlett [9] e de Aleatoriedade [8] para verificar, respectivamente, a normalidade, a homogeneidade e a aleatoriedade dos erros. Quando ocorrem violaes as pressuposies, dois caminhos so possveis: anlise no paramtrica, ou, transformao dos dados, de maneira que passem a atender as pressuposies do modelo [10]. Trabalhos realizados com abobrinha italiana [1], brcolis e pimento [3, 4] investigaram a ocorrncia de violao aos pressupostos do modelo matemtico e a necessidade de transformaes de dados. Os resultados demonstraram que ocorrem violaes as pressuposies de normalidade e homogeneidade dos erros, bem como, dificuldades em obter transformaes eficientes dos dados, sendo necessrias transformaes diferentes para cada varivel, cultura e poca de cultivo. No foram encontradas informaes a respeito do atendimento as pressuposies de aditividade dos efeitos e aleatoriedade dos erros em

Departamento de Fitotecnia, Centro de Cincias Rurais (CCR), Universidade Federal de Santa Maria (UFSM), CEP 97105-900, Santa Maria, RS, Brasil. E-mail: vs.diogo@gmail.com

hortalias, bem como, estudos com tomate visando verificar o atendimento as pressuposies e transformao de dados visando atende-las. O objetivo desse trabalho foi verificar o atendimento s pressuposies do modelo matemtico e, identificar transformaes de dados para variveis produtivas de tomateiro em colheitas individuais e agrupadas.

2 Material e Mtodos Foi conduzido um experimento com a cultura do tomate tipo salada, hbrido Grandeur na primavera-vero do ano de 2010 em tnel alto no Departamento de Fitotecnia da Universidade Federal de Santa Maria (UFSM), Santa Maria, RS. O tnel possui 20 m de comprimento, 4 m de largura, 3 m de p direito, e orientao Norte-Sul, coberto com filme de polietileno de baixa densidade (PEBD) de espessura de 100 micras. As mudas foram dispostas em trs linhas. Utilizou-se espaamento de 0,8 m entre plantas e 1,2 m entre linhas, num total de 24 plantas por linha de cultivo. A adubao foi realizada conforme resultado da anlise de solo [7] e os demais manejos seguiram as indicaes para a cultura do tomateiro [3]. A parcela foi constituda de duas plantas na direo da linha de cultivo. Foi utilizado o delineamento blocos ao acaso, com trs repeties e 12 tratamentos. Foram realizadas 10 colheitas de frutos (de 11/11/2010 a 27/01/2011). Em cada colheita avaliou-se: peso de frutos por planta em balana digital com preciso de 1 g; nmero de frutos por planta; comprimento e largura mdia de frutos, mensurados com paqumetro com preciso de 1 mm. A anlise de resduos foi utilizada para testar o atendimento s pressuposies do modelo matemtico em cada data de colheita e em colheitas agrupadas. Para isso, as colheitas foram agrupadas por seus mltiplos: agrupamento duas em duas (1+2; 3+4; ...; 9+10), agrupamento cinco em cinco (1+2+3+4+5; 6+7+8+9+10) e agrupamento total (1+2+3; ...; 8+9+10). O erro experimental foi obtido pelo modelo matemtico do delineamento blocos ao acaso: yij = m + ti + bj + eij, com i = 12 tratamentos e, j = 3 repeties, onde: m uma constante associada a todas as observaes; ti o efeito do tratamento; bj o efeito do bloco; eij o erro experimental associado observao yij [1]. A anlise de resduos foi realizada utilizando os testes de no aditividade de Tukey [9], Lilliefors [8], Bartlett [9] e de Aleatoriedade [8]. Nos casos de violao dos pressupostos do modelo matemtico os dados foram transformados e novamente submetidos anlise de resduos. Foram testadas as

transformaes: raiz quadrada (Yij)0,5 [10], raiz quarta (Yij)0,25 [1] e suas inversas: (Yij)-0,5 e (Yij)-0,25 [3, 4]; inversa (Yij)-1 [6]. Nestas transformaes, quando havia no banco de dados valores nulos adicionou-se uma constante (c=0,5) a varivel [10]. Foi tambm testada transformao logartmica (log10 (Yij)) e sua inversa (log10 (Yij))-1, adicionando-se a constante (c=1) para valores nulos [3, 10]. Todos os testes foram aplicados em nvel de 5% de probabilidade de erro, utilizando planilha eletrnica em Office Excel elaborada por [6].

3 Resultados e Discusses Houve 100% de atendimento ao pressuposto da aditividade dos efeitos do modelo para todas as variveis analisadas em colheitas individuais e agrupadas (dados no apresentados). Alta porcentagem de atendimento dessa pressuposio (91,25%) tambm foi obtida por [5] em ensaios de competio de cultivares de milho no RS. Foram identificadas violaes as pressuposies de normalidade, homogeneidade e aleatoriedade dos erros (Tabela 1). A normalidade foi violada em colheitas individuais nas variveis comprimento (COM) e largura (LAR) de frutos e no agrupamento de duas colheitas, na varivel LAR (Tabela 1). A partir do agrupamento da produo em duas metades iguais (5 em 5) obteve-se 100% de atendimento a essa pressuposio. Maiores porcentagens de violao a homogeneidade de varincias foram verificadas para uma mesma varivel e tipo de colheita em relao a normalidade dos erros (Tabela 1), no sendo essa a causa da falta de homogeneidade dos erros conforme sugerido por [6]. Somente com o agrupamento de todas as colheitas realizadas (total) foi possvel obter 100% de homogeneidade dos erros para todas as variveis analisadas. Praticamente no houve atendimento a pressuposio da aleatoriedade dos erros independentemente do tipo de colheita e da varivel observada (Tabela 1). Esse no era um resultado esperado, pois em princpio, a aleatoriedade assegurada pela casualizao dos tratamentos na rea experimental [10, 6]. Possivelmente diferenas na fertilidade do solo e na distribuio da gua de irrigao entre e dentro das linhas de cultivo sejam responsveis pela no aleatoriedade dos erros. Apenas foi possvel identificar transformao de dados eficiente em contornar a falta de homogeneidade de varincias em colheitas individuais (Figura 1). A transformao logartmica, raiz quadrada e inversa da raiz quarta foram eficientes nessa situao, porm mesmo assim, em porcentagem igual ou inferior a 50% dos casos de violao das variveis estudadas. Esse resultado concorda com [1, 3 e 4], que tambm verificaram grande

dificuldade em identificar transformaes eficientes em superar a falta de homogeneidade dos erros. Tabela 1. Porcentagem de atendimento aos pressupostos do modelo matemtico das variveis peso (g planta-1), nmero de frutos (NF), comprimento (COM, mm) e largura de frutos (LAR, mm) de tomate. Santa Maria, UFSM, 2012. Tipo de Colheita Individuais Agrupadas 2 em 2 Agrupadas 5 em 5 Total Individuais Agrupadas 2 em 2 Agrupadas 5 em 5 Total Individuais Agrupadas 2 em 2 Agrupadas 5 em 5 Total Variveis NF COM 100% 100% 100% 100% 70% 100% 50% 100% 0% 0% 0% 0% 90% 100% 100% 100% 50% 40% 100% 100% 10% 0% 0% 0%

PESO Normalidade 100% 100% 100% 100% Homogeneidade 80% 80% 100% 100% Aleatoriedade 10% 0% 0% 0%

LAR 90% 80% 100% 100% 40% 80% 100% 100% 20% 20% 0% 0%

Log (Y+1)= transformao logartmica; (Y+0,5) 0,5= raiz quadrada; Y-0,25= inversa da raiz quarta; Sem T= sem transformao eficiente.

Figura 1. Eficincia percentual da transformao de dados em provocar o atendimento das variveis peso, nmero (NF), comprimento (COM) e largura (LAR) de frutos em colheitas individuais a pressuposio de homogeneidade de varincias. Santa Maria, UFSM, 2012.

No houve transformao eficiente para contornar a falta de normalidade e aleatoriedade dos erros. Esse resultado concorda com [3], que mesmo aps a transformao

Box-Cox em dados de brcolis no obteve a normalidade dos erros. Conforme [6], no h soluo aparente para a falta de aleatoriedade dos erros, uso de testes no paramtricos ou transformao de dados.

4 Concluses Os dados das variveis de tomateiro apresentam atendimento ao pressuposto da aditividade dos efeitos. Ocorrem violaes das pressuposies de normalidade,

homogeneidade e aleatoriedade dos erros nas variveis de tomateiro. As transformaes raiz quadrada, logartmica e inversa da raiz quarta so eficientes para superar a heterogeneidade de varincias das variveis de tomateiro.

5 Bibliografia [1] COUTO, M. R. M. et al. Transformao de dados em experimentos com abobrinha italiana em ambiente protegido. Cincia Rural. Santa Maria. v. 39, n. 6, p. 1701-1707, 2009. [2] FILGUEIRA, F. A. R. 2008. Novo manual de Olericultura: Agrotecnologia moderna na produo e comercializao de hortalias. Viosa: UFV. 421p. [3] LCIO, A. D. et al. Excesso de zeros nas variveis observadas: estudo de caso em experimento com brcolis. Bragantia. Campinas. v. 69, n.4 , p. 1035-1046, 2010. [4] LCIO, A. D. et al. Transformao box-cox em experimentos com pimento em ambiente protegido. Horticultura Brasileira. Braslia. v. 29, p. 38-42, 2011. [5] MARQUES, D. G. et al. Qualidade dos ensaios de competio de cultivares de milho no estado do rio grande do sul. Cincia Rural. Santa Maria. v. 30, n. 3, p. 381-385, 2000. [6] MARTIN, T. N.; STORCK, L. Anlise das pressuposies do modelo matemtico em experimentos agrcolas no delineamento blocos ao acaso. In: MARTIN, T. N.; ZIECH, M. F. (Org.). Sistemas de Produo Agropecuria. Curitiba: UTFPR, 2008. cap. 11, p. 177-196. [7] SOCIEDADE BRASILEIRA DE CINCIA DO SOLO. Comisso de qumica e fertilidade do solo. 2004. Manual de adubao e de calagem para os estados do Rio Grande do Sul e de Santa Catarina. Porto Alegre: Ncleo Regional Sul - Sociedade Brasileira de Cincia do Solo. 394p. [8] SPRENT P; SMEETON NC. 2007. Applied nonparametric statistical methods. Boca Raton: Chapman & Hall. 530p. [9] STEEL, R. G. D.; TORRIE, J. H.; DICKEY, D. A. Principles and procedures of statistics: a biometrical approach. New York: McGraw-Hill, 1997. 666 p. [10] STORCK, L. et al. Experimentao vegetal. Santa Maria: UFSM, 2011. 200 p.