Novo índice geoestatístico para a mensuração da dependência espacial
http://dx.doi.org/10.1590/S0100-06832014000300002
New geostatistical index for measuring spatial dependence
Enio Júnior SeidelI; Marcelo Silva de OliveiraII
IProfessor Adjunto, Universidade Federal do Pampa - UNIPAMPA, Campus Itaqui. Rua Luiz Joaquim de Sá Britto, s/n, Bairro Promorar. CEP 97650-000 Itaqui (RS). E-mail: ejrseidel@hotmail.com
IIProfessor Associado, Departamento de Ciências Exatas, Universidade Federal de Lavras - UFLA. Caixa Postal 3037. CEP 37200-000 Lavras (MG). E-mail: marcelo.oliveira@dex.ufla.br
O semivariograma possibilita uma avaliação visual da dependência espacial, mas sem resultar diretamente em um valor numérico único que expresse a mensuração de tal dependência. Contudo, a partir dos parâmetros estimados do modelo teórico ajustado ao semivariograma experimental, é possível construir uma medida dessa dependência espacial. Atualmente, há dois índices na literatura, com uso cada vez mais frequente; porém, há inadequações nesses índices existentes. O objetivo deste trabalho foi propor um novo índice para medir a dependência espacial de dados geoestatísticos, que supere as incipiências dos atuais. Esse novo índice utiliza a relação existente entre o semivariograma e o correlograma, contemplando dessa forma todos os aspectos da dependência espacial. Realizaram-se uma comparação, por simulação, entre o índice proposto e os índices já existentes e também verificação da aplicabilidade do índice proposto utilizando pesquisas reais publicadas, em que ocorreram ajustes dos modelos teóricos esférico, exponencial e gaussiano. Verificou-se que o índice proposto foi melhor que os índices existentes. Além disso, observou-se que os índices existentes podem levar a equívocos nas interpretações do grau de dependência espacial, evidenciando que devem ser evitados. Em decorrência, recomenda-se a utilização do novo índice proposto para medir o grau da dependência espacial.
Termos de indexação: semivariograma, alcance prático, fator de modelo, medidas resumo.
The semivariogram provides a visual assessment of spatial dependence but without directly resulting in a single numerical value that expresses the measurement of such dependence. However, from the estimated parameters of the theoretical model adjusted to the experimental semivariogram, it is possible to construct a measure of this spatial dependence. Currently, there are two indices in literature that are widely used; however, these indices show some gaps. The aim of this study was to propose a new index to measure the spatial dependence of geostatistical data to overcome problems shown by existing indices. This new index uses the relationship between the semivariogram and the correlogram, thus including all aspects of spatial dependence. A comparison by simulation between the proposed index and existing indices was carried out, and the applicability of the proposed index was verified using actual published research, where adjustments of spherical, exponential, and Gaussian theoretical models were made. It was found that the proposed index was better than existing ones. Furthermore, it was observed that existing indices can lead to errors in the interpretation of the degree of spatial dependence, indicating that they should be avoided. As a result, the use of this new index to measure the degree of spatial dependence is recommended.
Index terms: semivariogram, practical range, model factor, summary measures.
Uma adequada descrição da dependência espacial é fundamental para revelar tanto o grau ou a magnitude da continuidade espacial de um atributo em estudos de variabilidade espacial quanto o seu modo de variação (sua estrutura). O semivariograma é a principal ferramenta utilizada na Geoestatística para a descrição da dependência espacial e consiste num gráfico que associa distâncias com semivariâncias. Segundo Olea (2006), o semivariograma tem a propriedade de medir o grau de dissimilaridade entre pares de medidas em razão da distância e orientação da linha entre dois locais de amostragem. Para mais detalhes sobre a definição estatística de semivariogramas, suas propriedades e sua construção, consultar Journel & Huijbregts (2003), Wackernagel (2003), Olea (2006) e Webster & Oliver (2007).
Os modelos tradicionais de semivariograma, em processos estocásticos que atendem a hipótese de estacionariedade de segunda ordem, isto é, que apresentam patamar, são parametrizados diretamente por quatro parâmetros: contribuição, efeito pepita, patamar e alcance. O semivariograma é um descritor muito informativo da estrutura de dependência espacial do fenômeno sob estudo, apresentando muitas informações no seu conjunto gráfico; porém, exatamente por essa abundância de detalhamento gráfico, pode suscitar a necessidade de uma rápida e única medida da dependência espacial, construída como medida numérica singular oriunda das diversas informações semivariográficas, medida essa que sintetiza todo o conjunto gráfico do semivariograma.
Biondi et al. (1994) apresentaram uma medida de dependência espacial que relaciona o parâmetro contribuição com o parâmetro patamar. Em Cambardella et al. (1994), também foi sugerida uma medida que relaciona o parâmetro efeito pepita com o parâmetro patamar. Intuitivamente, se o modelo de semivariograma possui inclinação próxima de zero, então o patamar é igual ao efeito pepita e, portanto, a variável é descrita como espacialmente independente e completamente aleatória. Desse modo, uma medida que relaciona efeito pepita e patamar realmente tem condições de caracterizar em alguma medida a dependência espacial de um atributo. De forma semelhante, a comparação entre a contribuição e o patamar também permite gerar uma medida relativa da dependência espacial. Segundo Biondi et al. (1994), esses índices são úteis para fazer comparações entre diferentes cenários de dependências espaciais.
A literatura apresenta que os índices propostos por Biondi et al. (1994) e Cambardella et al. (1994) são muito utilizados na área da Ciência do Solo (Grego et al., 2006; Simões et al., 2006; Boruvka et al., 2007; Duffera et al., 2007; Gallardo & Paramá, 2007; Gontijo et al., 2007; Vieira et al., 2009; Guedes Filho et al., 2010; Sampaio et al., 2010; Silva et al., 2010; Siqueira et al., 2010; Alvarenga et al., 2011; Ávila et al., 2011; Miqueloni & Bueno, 2011; Oliveira Júnior et al., 2011; Skorupa et al., 2012). Esses trabalhos são uma amostragem da, já extensa, gama de pesquisas sobre variabilidade espacial em solos e demonstram a importância de se terem medidas para possibilitar a descrição da estrutura de dependência espacial. Contudo, as medidas sugeridas por Biondi et al. (1994) e Cambardella et al. (1994) não contemplaram aspectos mais profundos da geometria do semivariograma e consequentemente da estrutura de continuidade espacial do fenômeno, o que pode ser considerada uma fragilidade (ou incipiência) dessas duas medidas.
Essa fragilidade fica evidente pelo fato de que esses dois índices só consideram os parâmetros contribuição e efeito pepita, ressaltando-se que o patamar é a soma dos dois. Essa é uma incipiência que pode levar o usuário a equivocadas interpretações sobre o grau de dependência espacial de um fenômeno, já que pode considerar iguais variabilidades que são diferentes. Em outras palavras, essa interpretação equivocada pode acontecer, pois dois fenômenos, sob comparação, podem ter valores de contribuição e efeito pepita muito semelhantes, o que faz, por consequência, com que os dois índices assumam valores semelhantes. Contudo, podem ter alcances de dependência espacial totalmente diferentes, tornando-os, em seu todo, diferentes. Dessa forma, o usuário, com base nos dois índices, poderia supor que os fenômenos são semelhantes em termos de dependência espacial, quando na verdade não são.
Schabenberger & Gotway (2005) observaram a fragilidade de uma medida entendida, ou apresentada, como uma variabilidade estrutural relativa, que é essencialmente a mesma da proposta em Biondi et al. (1994), considerando-a como uma medida bastante grosseira da estrutura de um processo estocástico, deixando de contemplar muitos aspectos do processo, como o alcance do semivariograma.
Essas observações apontam para a necessidade de pesquisas adicionais sobre a construção de índices de dependência espacial, alternativa, ou mesmo substitutiva, dos dois índices existentes hoje. Pelo fato de que essas duas medidas atuais serem complementares, gerando interpretações semelhantes, podem-se estender a observação de Schabenberger & Gotway (2005) e o argumento de incipiência, para o índice dado em Cambardella et al. (1994). Desse modo, a tentativa de construir uma nova medida, que descreva a dependência espacial, levando em consideração todos os aspectos do semivariograma, é necessária e plausível para uma completa caracterização espacial.
Assim, o objetivo deste trabalho foi propor um índice para medir a dependência espacial, em Geoestatística, que leve em consideração todos os aspectos do semivariograma e consequentemente do fenômeno em si, na caracterização de tal dependência.
A medida de dependência espacial (DE), apresentada em Biondi et al. (1994), é dada pela expressão:
em que C0 é o efeito pepita; e C1, a contribuição.
O índice, encontrado em Cambardella et al. (1994), que expressa a razão de dependência espacial (RD) é dado pela expressão:
em que C0 é o efeito pepita; e C1, a contribuição. É possível observar que RD = 100 % - DE, isto é, RD e DE fornecem, essencialmente, a mesma informação.
Pelo fato de essas duas medidas (RD e DE) não considerarem maiores aspectos do semivariograma, tem-se então a proposição de uma nova medida. A nova medida proposta leva em consideração aspectos geométricos do semivariograma e do correlograma, que são desenvolvidos a seguir.
Na Geoestatística, especificamente no estudo da variabilidade de atributos de solo, quando se observa a existência de estacionariedade de segunda ordem, uma relação entre o semivariograma e o correlograma é válida. Essa relação diz que o correlograma pode ser escrito como:
em que γ(h) é o modelo teórico do semivariograma; e C = C0+ C1, o patamar.
Com base nessa relação existente entre correlograma e semivariograma, tem-se a figura 1, que apresenta uma representação geral de um correlograma com seus respectivos parâmetros e a área de correlação espacial correspondente.
Percebe-se, com base na figura 1, que o correlograma gera uma área de correlação espacial (ACEobservada) entre a origem do correlograma e o alcance prático. As expressões da área de correlação espacial para os modelos de semivariograma esférico, exponencial e gaussiano, respectivamente, são dadas por:
em que C é o patamar; C0, o efeito pepita; C1, a contribuição; a, o alcance; e h, a distância entre pontos. Observa-se nas expressões 4, 5 e 6 que cada modelo de semivariograma, ou correlograma, apresenta um fator em sua respectiva expressão da área ACEobservada. Esse fator, inerente a cada modelo, pode ser entendido como um fator de modelo que reflete a força da dependência espacial prevista para aquele modelo. Numa escala decimal, os fatores, podem ser expressos, respectivamente, pelos valores exatos 0,375; 0,317; e 0,504.
Como é possível observar nas expressões 4, 5 e 6, a ACEobservada é dada na unidade de medida do alcance prático, que, em geral, é dado em metros. Para facilitar a interpretação dessa medida, tornando-a adimensional, livre de uma unidade de medida, realiza-se uma modificação em sua expressão, multiplicando-a pelo termo , em que q.MD é o valor que corresponde à fração (q) atingida da máxima distância (MD) entre pontos amostrados. Assim, com essa modificação, constrói-se o índice de dependência espacial proposto, denominado de IDE. Esse índice, para os modelos de semivariograma esférico, exponencial e gaussiano, pode ser generalizado por:
em que FM é o fator do modelo; C0, o efeito pepita; C1, a contribuição; a, o alcance prático; e q.MD, o valor que corresponde à fração (q) atingida da máxima distância (MD) entre pontos amostrados. Caso a relação resulte em valor maior que 1, essa razão é, então, fixada em 1, para que assuma apenas valores entre zero e 1. Além disso, quanto maior o valor de FM, maior é a força da dependência espacial do modelo. O modelo que apresenta o menor valor de fator de modelo é o de efeito pepita puro, que possui FM igual a zero.
Quando se considera o IDE sem o fator , se tem uma espécie de valor de alcance corrigido pela força do modelo, dando ideia de um alcance ideal, ou alcance efetivo, fazendo os valores de FM e corrigirem o valor do alcance prático. Tem-se, então, que esse alcance corrigido poderia variar de 0 a no máximo FM.a. Dessa forma, o alcance corrigido é dado na unidade de medida do alcance prático. A expressão generalizada do alcance corrigido é dada por:
em que FM é o fator do modelo; C0, o efeito pepita; C1, a contribuição; a, o alcance prático. Esse alcance corrigido poderia ser também entendido como um índice de dependência espacial; porém, teria a desvantagem de não ser um valor relativo, pois é dado na unidade de medida do alcance, o que poderia dificultar comparações. Por esse fato, prefere-se manter o índice IDE proposto anteriormente, que preserva a característica de valor relativo, considerada mais adequada em face da prática convencional.
O índice IDE é mais completo em sua base teórica do que os índices dados em Biondi et al. (1994) e Cambardella et al. (1994), no sentido de que já contempla, em sua essência, uma medida de correlação espacial, além de considerar todos os parâmetros dos modelos da estrutura de dependência espacial (efeito pepita, contribuição, alcance, fator de modelo). Assim, esse índice abrange mais aspectos do semivariograma, se comparado aos outros dois índices já existentes.
O índice IDE assume os seguintes intervalos de valores: entre zero e 50,4 %, em semivariogramas com ajuste de modelo gaussiano; entre zero e 37,5 %, em semivariogramas ajustados com modelo esférico; e entre zero e 31,7 %, nos semivariogramas ajustados por modelo exponencial. Nesse índice, tem-se o conceito de fator de modelo (FM), que evidencia que os fenômenos observados frequentemente na natureza não conseguem atingir dependência espacial de 100 %, mas sim um grau de dependência espacial específico, menor que 100 %, que depende do modelo a ser ajustado para descrever a dependência espacial do fenômeno.
Adicionalmente às considerações teóricas anteriores, é realizada uma comparação, por simulação, entre o índice IDE proposto neste trabalho e o índice DE dado em Biondi et al. (1994), não sendo necessário comparar o IDE com o índice RD de Cambardella et al. (1994), pois como os índices de Biondi et al. (1994) e de Cambardella et al. (1994) são complementares, esses geram resultados equivalentes. Para realizar a comparação, são simulados cenários geoestatísticos, por meio do pacote geoR (Ribeiro Júnior & Diggle, 2001) do software R (R Core Team, 2012), que estão apresentados no quadro 1. São cenários que correspondem a dependências espaciais de diferentes cenários.
As simulações apresentam as seguintes características: média = 0; patamar = 50; n = 169; grid regular de 100 × 100 m; processo estocástico gaussiano; e estimador clássico de semivariograma.
Ao simular os 25 cenários, geram-se 25 valores do índice DE e 25 valores do IDE, bem como 25 erros quadráticos médios dos erros de predição (EQMe), uma dessas medidas para cada cenário. A partir disso, é possível calcular a correlação entre cada índice e EQMe, de modo que são, então, obtidas duas correlações (DE × EQMe e IDE × EQMe). De posse dessas duas correlações, verifica-se qual delas é a melhor, mais próxima de -1, pois as correlações entre cada índice e EQMe são negativas, variando entre -1 e zero. A estatística EQMe foi escolhida por representar uma medida objetiva de qualidade de modelo espacial, refletida, por exemplo, nos mapas gerados, sendo um referencial para aferir qualquer índice.
Como uma única correlação é pouco expressiva para possibilitar adequada conclusão, a respeito do comportamento dos índices, são realizadas 100 replicações da simulação dos 25 cenários e, por consequência, 100 correlações entre cada um dos índices e EQMe, para que se tenha como observar qual índice apresenta maior frequência de melhores correlações (mais próximas de -1) com o EQMe.
Percebe-se, por meio do estudo das simulações com as correlações entre cada índice e EQMe, que o índice IDE obteve maior frequência de melhores correlações com o EQMe nos fenômenos com ajuste de modelos esférico e gaussiano, com 72 e 57 %, respectivamente. Contudo, para os fenômenos com ajuste de modelo exponencial, esse índice teve menor frequência de melhores correlações com o EQMe (36 %).
Para o índice DE, obtiveram-se, como frequências de melhores correlações com o EQMe, os fenômenos com ajuste de modelos esférico, exponencial e gaussiano, respectivamente, de 28, 64 e 43 %.
Deve-se ressaltar que o modelo esférico tem alcance bem definido e, neste modelo, o IDE foi sensivelmente superior ao DE. A razão para uma diminuição da superioridade de IDE versus DE nos modelos exponencial e gaussiano pode dever-se ao fato de que, nesses dois modelos, o alcance não ter uma definição objetiva, o que torna necessário mais estudos no sentido de avaliar a influência de definições alternativas de alcance espacial para esses dois modelos. Ao considerar os fenômenos sem distinguir o modelo de ajuste, observa-se que o índice IDE teve a maior frequência de melhores correlações, com 55 % nas 300 simulações.
O melhor desempenho do índice IDE para os cenários simulados, a incorporação de uma base teórica e o fato de contemplar mais aspectos do semivariograma, se comparado aos índices já existentes, corroboram para que o IDE deva ser o preferido para descrever o grau de dependência espacial. Para apresentar o desempenho do IDE nas avaliações da dependência frente aos índices atualmente em uso, têm-se as informações do quadro 2, em que se apresentam os dados contidos nas pesquisas de Simões et al. (2006), Chiba et al. (2010) e Sampaio et al. (2010) sobre alguns atributos avaliados espacialmente.
Observa-se no quadro 2 que alguns fenômenos que parecem ter mesma dependência espacial pelos índices DE e RD obtiveram diferentes graus de dependência com base no índice IDE, ou seja, alguns atributos que foram considerados semelhantes pelos índices DE ou RD foram considerados diferentes pelo índice IDE. Da mesma forma, atributos considerados distintos pelos valores gerados pelos índices DE ou RD foram reclassificados como semelhantes pelo índice IDE. Além disso, alguns atributos que, com base nos índices DE ou RD, eram considerados com maior grau de dependência que outros, a partir do índice IDE, tiveram a ordem do grau de dependência espacial invertida. Essas diferenças nas conclusões oriundas do uso dos diferentes índices recebem a indicação de equívoco para os índices já existentes, por causa tanto da incipiência de base teórica quanto da menor correlação com o indicador de maior objetividade EQMe.
Deve-se observar que os artigos citados não incorreram explicitamente nos equívocos apontados, mantendo-se como potenciais equívocos que um usuário da informação poderia cometer. Esses fatos evidenciam a importância de considerar o fator de modelo e o alcance de dependência espacial no cálculo do grau dessa dependência espacial, como é proposto no IDE.
Assim, em síntese, os equívocos potenciais apontados são: variabilidades diferentes, sendo consideradas iguais; variabilidades iguais, sendo consideradas diferentes; e ordens de grandeza de variabilidades espaciais invertidas. Vê-se que o uso dos índices usuais de Biondi et al. (1994) e de Cambardella et al. (1994) pode ser substituído pelo novo índice IDE proposto neste artigo, levando a uma mensuração melhorada da qualidade das predições e inferências sobre a variabilidade espacial do fenômeno sob estudo.
O novo índice proposto é inteiramente viável, sendo teoricamente embasado e calculável nas análises e nos estudos práticos, se considerado em fenômenos espaciais que atendam às condições apresentadas. Seu único inconveniente seria a incontornável perda de informações quando se quer resumir um gráfico todo por um número apenas, mas essa limitação foi, é, e será o inconveniente de todo índice que pretenda fazer tal redução. Porém, nesse inexorável destino dos índices redutores de gráficos, o novo índice deixa escapar menos informação do que os atuais índices, justificando assim sua razão de proposição.
1. O novo índice IDE, por considerações teóricas e corroborado por simulação, teve desempenho melhor que os índices DE e RD.
2. Os índices DE e RD podem levar a equívocos na interpretação do grau de dependência espacial, recomendando-se a substituição deles pelo novo índice IDE.
À Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES), pelo apoio financeiro em forma de bolsa.
BIONDI, F.; MYERS, D.E. & AVERY, C.C. Geostatistically modeling stem size and increment in an old-growth forest. Can. J. For. Res., 24:1354-1368, 1994. [ Links ]
BORUVKA, L.; MLADKOVA, L.; PENIZEK, V.; DRABEK, O. & VASAT, R. Forest soil acidification assessment using principal component analysis and geostatistics. Geoderma, 140:374-382, 2007. [ Links ]
CAMBARDELLA, C.A.; MOORMAN, T.B.; NOVAK, J.M.; PARKIN, T.B.; KARLEN, D.L.; TURCO, R.F. & KONOPKA, A.E. Field-scale variability of soil properties in Central Iowa soils. Soil. Sci. Soc. Am. J., 58:1501-1511, 1994. [ Links ]
CHIBA, M.K.; GUEDES FILHO, O. & VIEIRA, S.R. Variabilidade espacial e temporal de plantas daninhas em Latossolo Vermelho argiloso sob semeadura direta. Acta Sci. Agron., 32:735-742, 2010. [ Links ]
DUFFERA, M.; WHITE, J.G. & WEISZ, R. Spatial variability of Southeastern U. S. Coastal Plain soil physical properties: Implications for site-specific management. Geoderma, 137:327-339, 2007. [ Links ]
GALLARDO, A. & PARAMÁ, R. Spatial variability of soil elements in two plant communities of NW Spain. Geoderma, 139:199-208, 2007. [ Links ]
GONTIJO, I.; DIAS JÚNIOR, M.S.; OLIVEIRA, M.S.; ARAUJO JÚNIOR, C.F.; PIRES, B.S. & OLIVEIRA, C.A. Planejamento amostral da pressão de preconsolidação de um Latossolo Vermelho distroférrico. R. Bras. Ci. Solo, 31:1245-1254, 2007. [ Links ]
GREGO, C.R.; VIEIRA, S.R.; ANTONIO, A.M. & ROSA, S.C.D. Geostatistical analysis for soil moisture content under the no tillage cropping system. Sci. Agric., 63:341-350, 2006. [ Links ]
JOURNEL, A.G. & HUIJBREGTS, C.J. Mining geostatistics. Caldwell, Blackburn Press, 2003. 600p. [ Links ]
OLEA, R.A. A six-step practical approach to semivariogram modeling. Stoch. Environ. Res. Risk Assess., 20:307-318, 2006. [ Links ]
OLIVEIRA JÚNIOR, J.C.; SOUZA, L.C.P.; MELO, V.F. & ROCHA, H.O. Variabilidade espacial de atributos mineralógicos de solos da formação Guabirotuba, Curitiba (PR). R. Bras. Ci. Solo, 35:1481-1490, 2011. [ Links ]
R CORE TEAM. R: a language and environment for statistical computing. Vienna, R Foundation for Statistical Computing, 2012. [ Links ]
RIBEIRO JÚNIOR, P.J. & DIGGLE, P.J. GeoR: A package for geostatistical analysis. R. News, 1:15-18, 2001. [ Links ]
SAMPAIO, F.M.T.; FERREIRA, M.M.; OLIVEIRA, M.S.; ALMEIDA, A.C. & JOSÉ, M.R. Variabilidade espacial da umidade de um Latossolo Vermelho-Amarelo sob plantio direto. Eng. Agríc., 30:854-861, 2010. [ Links ]
SCHABENBERGER, O. & GOTWAY, C.A. Statistical methods for spatial data analysis. Boca Raton, Chapman & Hall/CRC, 2005. 488p. [ Links ]
SIMÕES, W.L.; SILVA, E.L.; LIMA, D.M. & OLIVEIRA, M.S. Variabilidade espacial de atributos físicos de um Latossolo Vermelho distroférrico, submetido a diferentes manejos. R. Bras. Ci. Solo, 30:1061-1068, 2006. [ Links ]
SIQUEIRA, D.S.; MARQUES JÚNIOR, J. & PEREIRA, G.T. The use of landforms to predict the variability of soil and orange attributes. Geoderma, 155:55-66, 2010. [ Links ]
SKORUPA, A.L.A.; GUILHERME, L.R.G.; CURI, N.; SILVA, C.P.; SCOLFORO, J.R.S. & MARQUES, J.J.G.S.M. Propriedades de solos sob vegetação nativa em Minas Gerais: Distribuição por fitofisionomia, hidrografia e variabilidade especial. R. Bras. Ci. Solo, 36:11-22, 2012. [ Links ]
WACKERNAGEL, H. Multivariate geostatistics: An introduction with applications. New York, Springer-Verlag, 2003. 387p. [ Links ]
WEBSTER, R. & OLIVER, M. Geostatistics for environmental scientists. 2.ed. Chichester, John Wiley, 2007. 315p. [ Links ]