U
A
Faculteit Economie en Bedrijfskunde
Verschillen tussen de
kleinstekwadratenmethode en kriging bij het
updaten van metamodellen
Bachelorscriptie Econometrie en Operationele Research
Auteur: Christopher Spelt Student nr:
Email: christopherspelt@icloud.com Studiejaar:
-Datum: juni
Samenvatting
Om metamodellen te schatten wordt vaak gebruikt gemaakt van het klassiek lineair-regressiemodel op basis van de kleinstekwadratenmethode. Naast het lineair-regressie-model is er een relatief nieuw metalineair-regressie-model gebaseerd op kriging. Kriging is een geosta-tistische schattingsmethode ontworpen voor het schatten van over ruimte verdeelde stochasten. In dit onderzoek is gekeken hoe een metamodel op basis van kriging pres-teert ten opzichte van een metamodel op basis van het klassiek lineair-regressiemodel. In het bijzonder is gekeken hoe de metamodellen reageren op het toevoegen van data-punten. Om dit te onderzoeken werd het gemiddelde cijfer van eerstejaars studenten van de Vanderbilt Universiteit vier keer geschat uit eerder behaalde cijfers op een wiskunde- en taaltoets. In elke schatting zijn er datapunten toegevoegd. Er is geble-ken dat de schattingen met ordinary kriging een beter voorspelvermogen hebben dan de schattingen met OLS op basis van de root mean squared error (RMSE) in alle vier de schattingen. Dit kan worden verklaard doordat de ordinary krigingschatter een lineaire interpolator is, terwijl de OLS-schatter dit niet is. Ook is gebleken dat de kri-gingschatter inputcombinaties die op grote afstand van de waargenomen datapunten slechter schat dan de OLS-schatter. Hieruit bleek dat de krigingschatter een relatief slechte extrapolator is. Daarnaast is geconcludeerd dat naarmate de waarnemingen in de dataset toenemen, het krigingmodel een vlak responsieoppervlak hee met veel lokale maxima en minima waardoor deze minder bruikbaar is voor het voorspellen van het GPA dan het lineaire-regressiemodel. In het bijzonder is gebleken dat het toevoegen van datapunten niet resulteert in betere schattingen met ordinary kriging, terwijl dit bij OLS wel het geval is.
Hierbij verklaar ik, C.N.E. Spelt, dat ik deze scriptie zelf geschreven heb en dat ik de volledige verantwoordelijkheid op me neem voor de inhoud ervan. Ik bevestig dat de tekst en het werk dat in deze scriptie gepresenteerd wordt origineel is en dat ik geen gebruik heb gemaakt van andere bronnen dan die welke in de tekst en in de referenties worden genoemd. De Faculteit Economie en Bedrijfskunde is alleen verantwoordelijk voor de begeleiding tot het inleveren van de scriptie, niet voor de inhoud.
Inhoudsopgave
Inleiding
Kleinstekwadratenmethode en Kriging
. Kleinstekwadratenmethode . . . . . Theoretische grondslagen van kriging . . . . . . Ordinary Kriging . . . . . . Schatten van covarianties . . . . . Verschillen tussen OLS en ordinary kriging . . . .
De twee metamodellen
. De dataset . . . . . Het updaten van de modellen . . . . . De metamodellen . . . . . Beoordeling en vergelijking van de twee metamodellen . . . .
Uitkomsten van de geschatte metamodellen
. Resultaten lineaire-regressiemodel . . . . . Resultaten ordinary kriging . . . . . Vergelijking lineair-regressiemodel en het krigingmodel . . . .
Conclusie Bibliografie
|
Inleiding
Veronderstel dat een econoom de vraag naar een bepaald goed wilt schatten. Omdat het niet bekend is welke factoren er van invloed zijn op de vraag naar het goed, en hoe deze factoren precies met elkaar samenhangen, postuleert de econoom een model op basis van een economische theorie die de vraag naar dit goed verklaart uit een aantal verklarende variabelen. Zo kan de econoom bijvoorbeeld aannemen dat de vraag naar dit goed afhangt van de prijs van dit goed en van de vraag naar een ander goed. Verder kan de econoom specificeren hoe deze variabelen de vraag naar het goed verklaren. In het model kan de vraag naar het goed bijvoorbeeld op een lineaire wijze afhangen van de verklarende variabelen. Vervolgens kan de econoom gegeven een verzameling waarnemingen van de variabelen, de parameters in dit model schatten om het model bijvoorbeeld te gebruiken om voorspellingen te doen over de vraag naar dit goed, als de verklarende variabelen veranderen. Het model dat de econoom postuleert, is een voorbeeld van een metamodel.
Een metamodel is een benadering van een onderliggend datagenererend proces (Kleijnen, ). Het lineaire-regressiemodel op basis van de
kleinstekwadratenme-thode (Ordinary Least Squares, OLS) is één van de bekendste en meest gebruikte metamodellen die in vrijwel alle disciplines van de wetenschap wordt gebruikt. In het bijzonder hee het lineaire-regressiemodel een centrale plek binnen de econometrie. Naast het lineaire-regressiemodel is er een minder bekend en relatief nieuw metamo-del gebaseerd op kriging.
Kriging is een statistische schattingsmethode geformuleerd door de Franse wiskun-dige Georges Matheron, die deze methode hee vernoemd naar de Zuid-A ikaanse mijningenieur Danie Krige (Cressie, ). Het probleem waar Krige zich mee bezig-hield was het schatten van de hoeveelheid goud op een bepaalde locatie, gegeven een aantal testboringen op goud in een omgeving van deze locatie. De cruciale veronder-stelling die hierbij gemaakt werd, is dat de aanwezigheid van goud bij een proefboring op bijvoorbeeld kilometer afstand meer zegt over de aanwezigheid van goud op deze locatie, dan de aanwezigheid van goud bij een proefboring op bijvoorbeeld
kilome-ter afstand. Door deze veronderstelling is kriging een natuurlijke schattingsmethode bij geostatistische vraagstukken waarbij variabelen over ruimte verdeeld zijn. Voorbeel-den hiervan zijn het schatten van grondstoffen en het schatten van regenval (Chiles & Delfiner, ).
De eerste stap bij het schatten van een metamodel, is het vinden van bruikbare data om het model mee te schatten. Met behulp van deze data kan een metamodel worden geschat. Het kan voorkomen dat na de schatting van een metamodel nieuwe data beschikbaar komt. In dat geval moet het metamodel opnieuw worden geschat om rekening te houden met deze data. Dit heet het updaten van het metamodel. Het is de vraag of nieuwe data ook altijd zorgt voor betere schattingen. Zo kan het voorkomen dat boven een zeker aantal waarnemingen de schattingen van parameters met behulp van het metamodel de werkelijke parameters niet significant beter benaderen. In dit onderzoek wordt onderzocht hoe een krigingmetamodel presteert ten opzichte van het klassieke lineaire-regressiemodel op basis van OLS als er nieuwe datapunten in de dataset worden toegevoegd. Om dit uit te voeren worden twee metamodellen geschat op basis van een dataset bestaande uit toetsscores van studenten van de Vanderbilt Universiteit in de Verenigde Staten.
Het onderzoek is als volgt uiteengezet. In hoofdstuk worden de theoretische grondslagen van OLS en kriging behandeld. Hierbij ligt de nadruk op de theorie van kriging. In hoofdstuk worden aan de hand van toetsscores van studenten van de Vanderbilt Universiteit twee metamodellen op basis van OLS en kriging opgesteld. Er wordt behandeld hoe deze metamodellen geschat worden en hoe er datapunten in de dataset worden toegevoegd. Aansluitend worden de resultaten van de schattingen met behulp van deze metamodellen in hoofdstuk gepresenteerd en vergeleken. Er wordt hierbij gekeken wat het effect is van het toevoegen van datapunten in de dataset op geschatte metamodellen. Tot slot worden in hoofdstuk de conclusies van het onderzoek gepresenteerd.
|
Kleinstekwadratenmethode en Kriging
In dit hoofdstuk worden de theoretische grondslagen van OLS en kriging behandeld. De theorie van OLS op basis van de klassieke veronderstellingen wordt eerst gepresen-teerd. De OLS-schatter wordt gegeven, alsmede een uitdrukking voor de variantie van deze schatter. Om het krigingmodel te formuleren moet eerst een veralgemenisering van een stochastisch proces worden geïntroduceerd. Met behulp hiervan wordt het kri-gingmodel geformuleerd, waarna de ordinary krigingschatter wordt afgeleid. Omdat de krigingschatter afhankelijk is van theoretische covarianties, worden er ook schat-tingsmethodes gegeven om de theoretische covarianties te schatten. Tot slot worden de theoretische aspecten van OLS en kriging met elkaar vergeleken.
. Kleinstekwadratenmethode
Het lineaire-regressiemodel gaat uit van
y = Xβ + ε, ( . )
waarbij y ∈ Rneen vector is van te verklaren variabelen, X een n × k reële matrix
is met verklarende variabelen, β ∈ Rkeen vector met coëfficiënten is en ε ∈ Rkeen
stochastische vector van storingstermen is (Heij et al., ). De klassieke veronder-stellingen op het lineaire-regressiemodel zoals geformuleerd door Heij et al. ( ) zijn
⒤ de matrix X is deterministisch en hee rang k; (ii) ε ∼ N(0, σ2I
n)met σ > 0 mogelijk onbekend;
Voor een matrix A ∈ Mat(n × k, R) wordt met A′ de transpose van A genoteerd.
Gegeven het lineaire regressie model in ( . ) kan de kleinstekwadratenschatter ˆ
β = (X′X)−1X′y
voor β worden afgeleid. Als voldaan is aan bovengenoemde veronderstellingen, dan kan worden bewezen dat ˆβ de beste lineaire zuivere schatter van β is (Heij et al.,
). In het algemeen geldt voor een waargenomen y dat X ˆβ ̸= y, dat wil zeggen dat het lineaire-regressiemodel geen lineaire interpolator is. In de volgende paragraaf wordt aangetoond dat ordinary kriging wel een lineaire interpolator is. De variantie van de schatter ˆβ wordt door Heij et al. ( ) afgeleid en is gelijk aan Var( ˆβ) =
σ2(X′X)−1. Op basis van de uitdrukkingen voor de verwachting en variantie van ˆβ
leiden Heij et al. ( ) af dat ˆβ ∼ N(β, σ2(X′X)−1). Ook leiden Heij et al. ( )
de kleinstekwadratenschatter
ˆ
σ = e ′e n− k
voor σ af, waarbij e := y − Xb de vector van residuën is. Om de variantie van ˆβ te schatten kan de schatter ˆσ worden gebruikt. Zoals Heij et al. ( ) aantonen geldt voor alle i = 1, . . . , k dat βˆi−βi
ˆ
σ√zii ∼ t(n − k) waarbij zii het i-de diagonaalelement
is in (X′X)−1 en t de Student-t verdeling voorstelt. Deze verdeling kan worden
gebruikt om een significantietoets op te stellen voor de geschatte parameters ˆβ. De nulhypothese is βj = 0 tegenover de alternatieve hypothese βj ̸= 0. Met behulp
van de student t-verdeling wordt de t-waarde tj = ˆβj/ˆσ opgesteld, waarna gekeken
wordt of deze significant verschilt van nul.
.
Theoretische grondslagen van kriging
Om kriging te formuleren, worden eerst een aantal maattheorietische concepten ter herinnering gebracht. Een kansruimte (Ω, F, P) bestaat uit een verzameling Ω, sigma-algebra F ⊆ P(Ω) op Ω en een kansmaat P : F → [0, 1]. Op R is een natuurlijke sigma-algebra gegeven: de Borel sigma-algebra B welke gegenereerd wordt door de Euclidische topologie op R. Een meetbare afbeelding F : Ω → R heet een stochast, dat wil zeggen dat voor alle B ∈ B geldt dat F−1(B) ∈ F. Voor een uitgebreidere
behandeling van deze maattheoretische concepten, zie Schilling ( ).
Voor een topologische ruimte X, noteer RX voor de ruimte van continue functies X → Ruitgerust met de producttopologie. Gegeven de bovengenoemde begrippen
definiëert Adler ( ) een stochastisch veld F als een meetbare afbeelding F : Ω → RX. Deze definitie zegt dat voor elke x ∈ X de afbeelding F(·)(x) : Ω → R een
stochast is, met realisatie F(ω)(t) op ω ∈ Ω. Er wordt F(x) voor de afbeelding
F (·)(x)genoteerd. Met behulp van deze notatie wordt een stochastisch veld F over
X beschreven door een verzameling {F(x) : x ∈ X} waarbij F(x) een stochast
is voor alle x ∈ X. Hieruit blijkt dat een stochastisch veld een veralgemenisering is van een stochastisch proces, want als voor X een totaal geordende verzameling met de ordetopologie wordt genomen, dan is F een stochastisch proces. Voor alle
n∈ Nen alle x1, . . . , xn∈ Xhee de stochastische vector (F(x1), . . . , F(xn))een
multivariate verdelingsfunctie, die door Chiles en Delfiner ( ) de spatial distribution wordt genoemd. Als deze verdelingsfunctie multivariaat normaal is voor alle n ∈ N en x1, . . . , xn∈ X, dan heet F een Gaussisch stochastisch veld. Voor een stochastisch
veld F over X wordt de verwachting gedefinieerd door
m : X → R, x 7→ E(F(x))
en de covariantiefunctie door
s : X× X → R, (x, y) 7→ Cov(F(x), F(y)).
Een stochastisch veld F over X heet tweede-orde stationair als voor x ∈ X en alle
h∈ Xer een µ ∈ R en c : X → R bestaat zodat m(x) = µ en s(x + h, x) = c(h)
(Chiles & Delfiner, ). Als X een genormeerde n-dimensionale reële vectorruimte is en c : X → R alleen afhangt van ∥h∥ dan heet de covariantiefunctie isotropisch (Chiles & Delfiner, ). Als geldt dat s(x + h, x) = ∏n
i=1ci(hi) dan heet de
covariantiefunctie anisotropisch (Chiles & Delfiner, ).
Voor een tweede-orde stationair stochastisch veld F met isotropische covariantie functie worden door Chiles en Delfiner ( ) het covariogram en semi-variogram respectievelijk gedefinieerd door
C : X → R, h 7→ s(x + h, x) = c(∥h∥)
en
γ : X→ R, h 7→ 1
2E(F (x + h) − F (x))
2.
volledig bepaald door het semi-variogram omdat C(h) = C(0) − γ(h). Met behulp van deze begrippen kan ordinary kriging worden geformuleerd.
. . Ordinary Kriging
Ordinary Kriging gaat uit van een tweede-orde stationair stochastisch veld Y over
D ⊆ Rd met onbekend gemiddelde µ ∈ R en bekend veronderstelde covarianties c(∥x−y∥)voor zekere c : R → R. Gegeven observaties Y := (Y (x1), . . . , Y (xm))′
wordt voor x0 ∈ D de lineaire ordinary-krigingschatter ˆY (x0) voor Y (x0) bepaald.
Deze krigingschatter is gedefinieerd door ˆ Y (x0) = m ∑ i=1 λiY (xi), ( . )
met λ = (λ1, . . . , λm)oplossingen van het optimalisatieprobleem
min λ∈Rm { MSE( ˆY (x0)) : m ∑ i=1 λi = 1 } . ( . ) De mean squared error (MSE) in ( . ) is gedefineerd als
MSE( ˆY (x0)) :=E[( ˆY (x0)− Y (x0))2].
De restrictie ∑m
i=1λi = 1 in ( . ) garandeert dat ˆY (x0) een zuivere schatter is
(Cressie, ). Het minimaliseren van de MSE impliceert dat de krigingschatter een lineaire interpolator is, want als x0 = xj voor zekere j = 1, . . . , n dan zal de MSE
geminimaliseerd worden door λi = δij zodat ˆY (x0) = ˆY (xj). Zoals door Cressie
( ) wordt afgeleid, kan het optimalisatieprobleem ( . ) worden opgelost met behulp van Lagrange-multiplicatoren, zodat
λ = ( σ(x0) + 1 1− 1′Σ−1σ(x0) 1′Σ−11 )′ Σ−1 ( . ) waarbij σ(x0) := (c(∥x0− x1∥), · · · , c(∥x0− xm∥))′, 1 := (1, . . . , 1)′ ∈ Rmen
Σ := (c(∥xi − xj∥))ni,j=1. Zoals Kleijnen ( ) vermeldt, kan MSE( ˆY (x0))nu
geschreven worden als
MSE( ˆY (x0)) = c(0)− σ(x0)′Σ−1σ(x0) +
(1− 1′Σ−1σ(x0))2
Het is gebruikelijk om σ2
k te noteren voor MSE( ˆY (x0)), omdat deze gelijk is aan
de variantie van ˆY (x0)(Kleijnen, ). De uitdrukking in vergelijking ( . ) wordt
daarom ook wel de krigingvariantie genoemd (Kleijnen, ). Naast ordinary kriging bestaan er ook univeral kriging en stochastische kriging. Voor een behandeling van deze concepten, zie Cressie ( ) en Kleijnen ( ).
Een probleem bij het schatten van Y (x0) is dat de ordinary-krigingschatter
ˆ
Y (x0) expliciet afhangt van de covarianties Σ en dat er verondersteld wordt dat de
covarianties Σ bekend zijn. In de praktijk zal dit niet vaak het geval zijn. De cova-rianties Σ zullen daarom moeten worden geschat. Methodes om de covacova-rianties te schatten worden in de volgende paragraaf toegelicht.
. . Schatten van covarianties
Om de covariantiefunctie c(∥x − y∥) van het krigingmodel te schatten hee Ma-theron het empirische variogram geïntroduceerd (Cressie, ). Gegeven observaties
Y (x1), . . . , Y (xm)wordt het empirische variogram ˆγ gedefinieerd door
ˆ γ(h) := 1 2 1 #N(h) ∑ (xi,xj)∈N(h) (Y (xi)− Y (xj))2,
waarbij N(h) := {(xi, xj) : xi− xj = h, i, j = 1, . . . , m}. Met behulp van het
empirische variogram ˆγ kan het theoretische semi-variogram γ van het krigingmodel worden geschat. Het empirische variogram wordt voor verschillende waarden van h geplot, waarna bepaald wordt met welk model het theoretische semi-variogram het beste geschat kan worden. Voorbeelden van veel gebruikte variogrammodellen zijn, zoals Cressie ( ) en Gelfand, Diggle, Guttorp en Fuentes ( ) vermelden:
. Het lineaire model:
γ(h; ϑ) = ϑ0+ ϑ1∥h∥,
met parameters ϑ := (ϑ0, ϑ1)waarbij ϑ0, ϑ1 ⩾ 0.
. Het exponentiële model:
γ(h; ϑ) = ϑ0+ ϑ1
(
1− e−∥h∥ϑ2
) ,
met parameters ϑ := (ϑ0, ϑ1, ϑ2)waarbij ϑ0, ϑ1⩾ 0en ϑ2> 0.
. Het Gausische model:
γ(h, ϑ) = ϑ0+ ϑ1 ( 1− e− ∥h∥2 ϑ2 ) ,
0 1 2 3 4 1 2 3 4 5 ⒜ Lineaire model 0 1 2 3 4 1 1.2 1.4 1.6 1.8 ⒝ Exponentiële model 0 1 2 3 4 1 1.2 1.4 1.6 1.8 2 ⒞ Gaussische model
Figuur . : Variogrammodellen met parameters ϑ1 = ϑ2 = ϑ3= 1.
Zie figuur . voor een grafiek van deze variogrammodellen. Om de parameters ϑ te schatten wordt veelal gebruik gemaakt van weighted least squares (WLS), generali-sed least squares (GLS) en maximum likelihood (MLE) (Chiles & Delfiner, ). Om het theoretische variogram te kunnen schatten met MLE moet een aanname ge-maakt moeten worden op de spatial distributions van Y . Er wordt in dat geval vaak aangenomen dat Y een tweede-orde Gaussisch veld is (Gelfand et al., ). Nadat het theoretische semi-variogram geschat is, kan deze worden gebruikt om de kriging-schatter ˆY (x0)en de krigingvariantie σk2 te bepalen.
. Verschillen tussen OLS en ordinary kriging
Een van de belangrijkste verschillen tussen OLS en ordinary kriging is dat ordinary kriging een exacte interpolator is, terwijl OLS dit niet is. Dat wil zeggen dat het geschatte krigingmodel de waargenomen waarden exact schat, terwijl OLS dit niet doet.
Een tweede verschil tussen OLS en ordinary kriging is dat ordinary krigingschat-ter expliciet afhangt van de covarianties tussen de waarnemingen, krigingschat-terwijl de OLS schatter alleen afhangt van de waarnemingen zelf. Ook kan bij het krigingmodel wor-den aangenomen dat waarnemingen yi en yj voor i ̸= j gecorreleerd kunnen zijn,
terwijl uit aanname (ii) in paragraaf . van het klassiek lineair-regressiemodel blijkt dat observaties yien yj voor i ̸= j niet gecorreleerd zijn, want
Cov(yi, yj) = δijσ2 i, j = 1, . . . , n.
Tot slot hebben hebben de geschatte coëfficienten βi bij het lineaire
regressie-model ( . ) een duidelijke interpretatie als marginale effecten. Immers, ∂yi/∂xj = βj, zodat βj een maat gee voor de gevoeligheid van yi als xj verandert. De
co-ëfficiënten in de krigingschatter ˆY (x0) geven niet een dergelijke interpretatie
om-dat ∂ ˆY (x0)/∂Y (xi) = λi het gewicht is van de observatie Y (xi). Met andere
woorden: het gewicht λi meet het effect als de observatie Y (xi) verandert, terwijl xi = (x1i, . . . , x1m) vast blij . Het krigingmodel hee dus geen maat voor het
effect op ˆY (x0)als de verklarende variabelen veranderen.
Om geschatte metamodellen op basis van OLS en kriging met elkaar te vergelijken wordt gebruikgemaakt van de root mean squared error (RMSE). De RMSE van een schatter ˆY voor een statistische grootheid Y is gedefinieerd door
RMSE( ˆY ) = ( 1 n n ∑ i=1 (ˆyi− yi)2 )1 2 ( . )
waarbij ˆyi de geschatte waardes van yiop basis van ˆY zijn (Mayer & Butler, ).
In dit hoofdstuk zijn twee metamodellen gepresenteerd. Het eerste metamodel is het klassiek lineair-regressiemodel met OLS-schatter ˆβ = (X′X)−1X′y. De
OLS-schatter hee de eigenschap, dat onder bepaalde aannames, de OLS-schatter zuiver is. Het tweede metamodel gaat uit van een tweede-orde stationair stochastisch veld Y waarbij gegeven omliggende waarnemingen Y (xi)van een x0 ∈ D ⊆ Rdde krigingschatter
ˆ
Y (x0) =
∑
iY (xi)wordt bepaald. De gewichten λiworden gegeven door de MSE
van de krigingschatter te minimaliseren. Het blijkt dat de gewichten λiafhangen van
de covarianties van de waarnemingen. Omdat deze covarianties vaak onbekend zijn, moeten deze worden geschat. Om de covarianties te schatten worden de deze geformu-leerd in termen van het semi-variogram. Het semi-variogram kan empirisch worden geschat, waarna een theoretisch model voor het semi-variogram wordt opgesteld. Met behulp hiervan kan de krigingschatter worden bepaald. Tot slot zijn de karakteristieke verschillen tussen OLS en kriging behandeld. Zo blijkt dat OLS geen exacte inter-polator is, terwijl de krigingschatter dat wel is. Tevens wordt bij OLS aangenomen dat waarnemingen niet gecorreleerd zijn, terwijl bij het krigingmodel dit niet hoe te worden aangenomen. Ook blijkt dat uit het krigingmodel geen marginale effec-ten kunnen worden bepaald als de verklarende variabelen veranderen, terwijl dit bij OLS wel kan. Tot slot is de RMSE als grootheid geïntroduceerd om het voorspellend vermogen van metamodellen te kunnen vergelijken.
|
De twee metamodellen
In dit hoofdstuk wordt de dataset geïntroduceerd waarop de schattingen worden uit-gevoerd. Deze dataset wordt vervolgens opgesplitst, zodat er systematisch datapunten kunnen worden toegevoegd. Er worden twee metamodellen opgesteld op basis van het lineaire-regressiemodel en ordinary kriging. Er wordt behandeld hoe deze meta-modellen worden geschat en hoe de twee metameta-modellen met elkaar worden vergeleken op basis van hun voorspelvermogen.
. De dataset
De dataset waarop de twee metamodellen worden geschat is door Heij et al. ( ) beschikbaar gesteld en is afkomstig van het artikel van Butler, Finegan en Sieg ied ( ). De dataset bestaat uit waarnemingen van scores van studenten van
Van-derbilt University in de Verenigde Staten. De waargenomen variabelen in deze dataset zijn
• yi :=grade point average (GPA) op een schaal van tot aan het einde van
het eerste universitaire jaar van persoon i;
• xi1:=score op de Scholastic Aptitude Test (SAT) wiskundetoets (SATM) op
een schaal van tot van persoon i;
• xi2:=score op de SAT taaltoets (SATV) op een schaal van tot van persoon i.
In de dataset is tevens de dummyvariabele
xi3:=
1 persoon i is een vrouw 0 persoon i is een man
aanwezig. Omdat ordinary kriging geen interpretatie kan geven aan dummyvariabalen, wordt deze niet worden opgenomen bij het opstellen van de twee metamodellen.
.
Het updaten van de modellen
Er worden twee metamodellen opgesteld die elk afzonderlijk vier keer worden geschat om te onderzoeken hoe deze twee metamodellen reageren op het toevoegen van da-tapunten. De waarnemingen in de dataset zijn geïndexeerd van persoon i = 1 tot persoon i = 609. Voor de eerste schatting worden de waarnemingen i beschouwd zodat i een veelvoud van is. Deze indexverzameling wordt genoteerd met I1. Voor
de tweede schatting worden alle waarnemingen met i een veelvoud van beschouwd. Deze indexverzameling wordt genoteerd met I2. In de derde schatting worden alle
waarnemingen met een i een veelvoud van beschouwd, welke genoteerd wordt met
I3. Tot slot worden alle waarnemingen met even index beschouwd, genoteerd met I4.
. De metamodellen
Het metamodel van de dataset ℓ = 1, 2, 3, 4 op basis van het klassiek lineaire-regressie-model is
yi,ℓ= β0,ℓ+ β1,ℓxi1+ β2,ℓxi2+ εi,ℓ, i∈ Iℓ. ( . )
Er wordt aangenomen dat de klassieke aannames van het lineair-regressiemodel zoals vermeld in paragraaf . van toepassing zijn op het model ( . ). De parameters in het lineaire-regressiemodel ( . ) worden geschat met behulp van MATLAB op basis van OLS.
Het metamodel van de dataset ℓ = 1, 2, 3, 4 op basis van ordinary kriging is
Yℓ = µℓ+ Fℓ, ( . )
waarbij µℓ ∈ Ronbekend is en Fℓ een tweede-orde stationair stochastisch veld over Dℓ ⊆ R2, met Dℓ := {(x1i, x2i) : i ∈ Iℓ}. Als voor zekere i, j ∈ Iℓ geldt dat
(x1i, x2i, yi) = (x1j, x2j, yj), dan is de vector (x1i, x2i) eenmalig in Dℓ
opgeno-men met bijbehorende GPA-waarde yi+yj
2 . Dit is noodzakelijk omdat de
ordinary-krigingschatter een exacte interpolator is: deze kan niet op één locatie verschillende waardes toekennen. Om de ordinary krigingparameters te schatten, wordt eerst een plot gemaakt van het semi-variogram op basis van de genormaliseerde datasets. Er wordt gebruik gemaakt van genormaliseerde datasets, omdat het krigingmodel geschat wordt in MATLAB op basis van genormaliseerde data. Met behulp van het empirische semi-variogram wordt een theoretisch semi-variogram voorgesteld, zoals in paragraaf
. . is behandeld. Om het empiricism semi-variomgram te plotten wordt gebruik gemaakt van de ee-source tool ‘Experimental (Semi)-Variogram’ voor MATLAB ont-wikkeld door Schwanghart ( ). Voor het schatten van het metamodel ( . ) op basis van ordinary kriging wordt gebruikgemaakt van de ee-source toolbox ‘Design and Analysis of Computer Experiments (DACE)’ in MATLAB ontwikkeld door Lophaven, Nielsen en Søndergaard ( ).
.
Beoordeling en vergelijking van de twee metamodellen
In elke schatting ℓ = 1, 2, 3, 4 wordt voor de OLS-schatter ˆβℓ = ( ˆβ0,ℓ, ˆβ1,ℓ, ˆβ2,ℓ)
en de ordinary krigingschatter ˆYℓ(x0)de variantie bepaald en vergeleken. Omdat de
krigingvariantie per datapunt geschat wordt, wordt gekeken naar het gemiddelde van de krigingvarianties over alle geschatte datapunten. Er wordt gekeken of deze varian-ties kleiner worden, naarmate de dataset in grootte toeneemt zoals te verwachten is uit de theorie die behandeld is in hoofdstuk . Voor het krigingmodel wordt geke-ken hoe het empirische variogram verandert naar mate er meer datapunten worden geschat. Ook wordt voor het krigingmodel het responsieoppervlak beschouwd. Het responsieoppervlak wordt gegegeven door de grafiek van de ordinary-krigingschatter,
G( ˆYℓ) ={(x, ˆYℓ(x)) : x∈ Dℓ} ⊆ R3 ℓ = 1, 2, 3, 4.
Voor de OLS-schatter ˆβ wordt bij elke schatting gekeken of deze significant verschil-lend is van nul. Hiervoor wordt een standaard t-toets met 95%-significantieniveau gebruikt, welke is gegeven in paragraaf . . Om het voorspelvermogen van de twee metamodellen in elke schatting met elkaar te vergelijken wordt gebruik gemaakt van de RMSE zoals besproken in paragraaf . . Voor het klassiek lineair-regressiemodel is de RMSE gedefinieerd als
RMSE(ˆyℓ) := ( 1 n(yℓ+1− Xℓ+1 ˆ βℓ)′(yℓ+1− Xℓ+1βˆℓ) )1 2 ℓ = 1, 2, 3, 4
waarbij y5 = (y1, . . . , y609)′ en X5 = (xi1, xi2)609i=1. Voor het krigingmodel is de
RMSE gedefinieerd als
RMSE( ˆYℓ) := 1 n ∑ xi∈Dℓ+1 ( ˆYℓ(xi)− Y (xi))2 1 2 ℓ = 1, 2, 3, 4
waarbij D5:={(x1i, x2i) : i = 1, . . . , 609}. In D5is zoals in paragraaf . voor
her-haalde waarnemingen het gemiddelde van de bijbehordende GPA-waardes genomen. Er zijn twee metamodellen opgesteld om het gemiddeld eindcijfer van het eer-ste jaar van studenten van de Vanderbilt University te verklaren uit de score op de SAT wiskundetoets de SAT taaltoets. Het eerste metamodel is een klassiek lineair-regressiemodel en het tweede metamodel is op basis van ordinary kriging. Deze me-tamodellen worden elk vier keer geschat. In elke schatting worden datapunten aan de dataset toegevoegd, zodat gekeken kan worden hoe de schattingen veranderen bij het aanvullen van datapunten in de dataset. Hierbij wordt gekeken naar veranderingen in de variantie van de schatters, de covariantiestructuur van het krigingmodel en de significantie van de geschatte parameters op basis van OLS. Bij elke schatting wordt het voorspellend vermogen van de metamodellen beoordeeld op basis van de RMSE.
|
Uitkomsten van de geschatte
meta-modellen
In dit hoofdstuk worden de geschatte metamodellen op basis van lineaire-regressie en ordinary kriging gepresenteerd. Eerst worden de resultaten van het metamodel op basis van OLS besproken. Er wordt gekeken naar de significantie van de OLS-parameters en de variantie van de OLS-schatter. Hierna worden de resultaten van het metamodel op basis van ordinary kriging uiteengezet. Er wordt op basis van het empirische semi-variogram, een theoretisch semi-variogram voorgesteld, waarna het krigingmodel wordt geschat. De parameters van het krigingmodel worden besproken en er wordt in detail gekeken naar het responsieoppervlak van de krigingmodellen. Tot slot worden het lineair-regressiemodel en het krigingmodel vergeleken op basis van de RMSE.
. Resultaten lineaire-regressiemodel
De uitkomsten van het lineaire-regressiemodel in vergelijking ( . ) geschat met MAT-LAB zijn in tabel . weergegeven. In deze tabel zijn de geschatte coëfficienten, ge-schatte standaardafwijkingen (sd), p-waardes op basis van de t-toets met een 95%-significantieniveau en de RSME af te lezen.
Te zien is dat de geschatte standaardafwijking ˆσ√ziivan ˆβi,ℓzoals gedefinieerd in
paragraaf . afneemt naarmate de dataset in grootte toeneemt. Dit is in overeenstem-ming met de asymptotische eigenschappen van de OLS-schatter zoals is besproken in paragraaf . . Dit impliceert dat de geschatte OLS-parameters bij het toenemen in grootte van de datasets dichter bij hun populatiewaarde liggen.
In schatting zijn op basis van de t-toets geen van de coëffienten ˆβi,1 significant
verschillend van nul. In schatting is alleen ˆβ0,2 significant verschillend van nul
en in schattingen en zijn zowel ˆβ0,ℓ en ˆβ1,ℓ significant verschillend van nul. In
Schatting Aantal 38 76 152 304 ˆ β0,ℓ(sd) 1, 334 (0, 670) 2, 113 (0, 547) 1, 578 (0, 445) 1, 654 (0, 317) p-waarde 0, 054 0, 000 0, 000 0, 000 ˆ β1,ℓ(sd) 0, 225 (0, 120) 0, 031 (0, 086) 0, 170 (0, 063) 0, 138 (0, 046) p-waarde 0, 070 0, 720 0, 008 0, 003 ˆ β2,ℓ(sd) 0, 025 (0, 099) 0, 092 (0, 072) 0, 036 (0, 061) 0, 052 (0, 040) p-waarde 0, 802 0, 204 0, 551 0, 197 RMSE 0, 397 0, 463 0, 459 0, 451
Tabel . : Resultaten lineaire-regressiemodellen voor datasets ℓ = 1, 2, 3, 4. Dit laat zien dat er geen statistische validiteit is voor het eerste metamodel en dat in geen enkel model kan worden geconcludeerd dat het gemiddeld GPA op lineaire wijze afhangt van het SATV-cijfer. Ook blijkt in schatting het SATM-cijfer het gemiddeld GPA niet op lineaire wijze te verklaren. Er is te zien dat naarmate de dataset in grootte toeneemt, er meer significantie coëffienten van het lineair-regressiemodel zijn, wat impliceert dat het toevoegen van datapunten betere schattingen van het metamodel oplevert.
De RMSE stijgt met ongeveer 0, 70 bij de overgang van schatting naar schatting . In de schattingen tot en met is de RMSE nagenoeg constant met een waarde van 0, 46. Merk op dat hoewel de RMSE van de OLS-schatter in de eerste schatting lager is dan de RMSE van de OLS-schatter in schattingen , en , dit niet hoe te betekenen dat model het beste voorspelvermogen hee . De RMSE is namelijk geen correcte maatstaf om modellen met een verschillend aantal waarnemingen te vergelijkgen.
.
Resultaten ordinary kriging
De eerste stap in het schatten van het krigingmodel voor ℓ = 1, 2, 3, 4 is het specifi-ceren van een covariantiestructuur. Om deze structuur te onderzoeken zijn de empiri-sche semi-variogrammen van de genormaliseerde modellen ℓ = 1, 2, 3, 4 weergegeven in figuur . .
Uit figuur . is af te lezen dat naarmate de dataset in grootte toeneemt, het empi-risch semi-variogram minder fluctuatie vertoont en convergeert naar een kromme met een sterke positieve helling op het interval [0.1, 0.3] en een vlakke lijn op het interval [0.3, 3]. Dit suggereert dat een isotropisch Gaussisch semi-variogram een geschikte keuze is voor de covariantiestructuur van de krigingmodellen voor ℓ = 1, 2, 3, 4.
0 0.5 1 1.5 2 2.5 3 h 0 0.5 1 1.5 2 . (h) (Semi-)Variogram Model 4 Model 3 Model 2 Model 1
Figuur . : Empirische variogrammen voor genormaliseerde datasets ℓ = 1, 2, 3, 4. weergegeven in tabel . . In deze tabel zijn het aantal waarnemingen in de dataset, de geschatte ϑ parameter, de gemiddelde krigingstandaadafwijkingen en de RMSE weer-gegeven. Hierbij is ϑ de parameter in de Gaussische correlatiefunctie ρ(h) = e−ϑh2
. Omdat het empirisch semi-variogram op het interval [0.1, 0.3] sterk stijgt, valt te verwachten dat de geschatte ϑ relatief groot is. Bij het schatten van ϑ is in DACE een startwaarde van 10 gegeven en het zoekgebied voor de optimale waarde van ϑ is (0, 30]. Er is voor 30 als bovengrens gekozen om een relatief glad responsieopper-vlak te krijgen. Indien de bovengrens verder toeneemt en er een randmaximum wordt aangenomen, zal het responsieoppervlak vlak zijn met discontinuïteiten rond de data-punten. Dit is niet wenselijk omdat dit geen bruikbaar model gee voor het schatten van de GPA score op niet waargenomen punten.
Schatting
Aantal (zonder meervoudige waarnemingen) 38(37) 76(74) 152(134) 304(228)
ϑ 29, 14 30 30 30
Gemiddelde sd 0, 339 0, 420 0, 512 0, 548
RMSE 0, 316 0, 389 0, 372 0, 378
Tabel . : Resultaten ordinary krigingschattingen met isotropisch Gaussisch
semi-variogram voor datasets ℓ = 1, 2, 3, 4.
De schattingen uit DACE voor ϑ blijken relatief groot te zijn. Voor schatting gee DACE een optimale parameter ϑ = 29, 14. Voor de schattingen , en gee DACE een optimale parameter ϑ = 30, het randmaximum op het ingevoerde
interval (0, 30]. De gemiddelde variantie van de krigingschatter neemt toe naarmate de data set in grootte toeneemt. Omdat de dataset in grootte toeneemt en ordinary kriging de waargenomen waardes exact interpoleert, wordt deze variantie groter omdat de dataset meer fluctuaties vertoont. De RMSE van de krigingschatter neemt toe bij de overgang van schatting naar schatting met 0, 07. In de schattingen tot en met is de RMSE nagenoeg constant met waarde 0, 38.
⒜ Responsieoppervlak schatting . ⒝ Responsieoppervlak schatting .
⒞ Responsieoppervlak schatting . ⒟ Responsieoppervlak schatting .
Figuur . : Kriging responsieoppervlakken bij schattingen , , en .
In figuur . zijn de responsieoppervlakken van de krigingschatter voor schattin-gen , , en weergegeven. Uit deze figuren blijkt dat het responsieoppervlak van de krigingschatter minder glad wordt naarmate er meer datapunten in de schatting aanwezig zijn. Als er meer datapunten aanwezig zijn, dan zal de krigingschatter meer punten exact moeten interpoleren, waardoor er grote lokale maxima en minima in het
responsieoppervlak komen. Dit probleem zou mogelijk verholpen kunnen worden door het ontwerp van het experiment aan te passen. Dat wil zeggen, dat in plaats van alle waarnemingen te gebruiken voor de krigingschatting, een selectie van deze waarnemingen te gebruiken. De waarnemingen kunnen dan meer gespreid gekozen worden, zodat de krigingschatter minder lokale extrema en maxima zal hebben. Voor een discussie voor het ontwerp van experimenten wordt verwezen naar Kleijnen ( ) en Kleijnen en Van Beers ( ).
Om voorspellingen te doen met het krigingmodel is het wenselijk om een glad responsieoppervlak te hebben met een kromming op het hele definitiegebied. Bij de schattingen , , en hee het responsieoppervlak geen kromming op het defi-nitiegebied waarin geen datapunten aanwezig zijn. Hierdoor is het niet mogelijk is voorspellingen te doen voor waardes die op grotere afstand liggen van de waargeno-men datapunten. Op deze punten wordt een GPA van ongeveer . toegekend, wat tevens ook het gemiddelde GPA over alle datapunten is. Zo zou een SATM en SATV score van beide , een GPA van , opleveren in schatting . Dit is onwaarschijnlijk omdat de kans dat een persoon het gemiddelde GPA behaalt terwijl deze persoon een hoge cijfers op de SATM en SATV toets hee gehaald klein is. Dit illustreert dat de krigingschatter combinaties van SATM en SATV waarden die op grote afstand van de waargenomen waardes liggen slecht extrapoleert. De bovengenoemde problemen sug-geren dat het uitbreiden van de dataset niet resulteert in beter geschatte metamodellen op basis van ordinary-kriging.
Het ordinary-krigingmodel gaat uit van een constant gemiddelde over alle input-combinaties. Deze aanname zou in twijfel getrokken kunnen worden want studenten met lage SATM en SATV-cijfers zullen doorgaans een lager gemiddeld GPA-cijfer hebben dan studenten met hoge SATM en SATV-cijfers. Dit probleem zou verhol-pen kunnen worden door een metamodel op te stellen op basis van universal kriging. Voor een uitgebreide behandeling van universal kriging, zie Cressie ( ).
. Vergelijking lineair-regressiemodel en het krigingmodel
In alle schattingen is de RMSE van de krigingschatter kleiner dan de RMSE van de OLS-schatter zodat op basis van de RMSE de krigingschatter een groter voorspel-lend vermogen hee dan de OLS-schatter. Dit kan verklaard worden doordat de krigingschatter een lineaire interpolator is, terwijl de OLS-schatter dit niet is. De ge-middelde variantie van de ordinary-krigingschatter wordt groter naarmate de dataset in grootte toeneemt, terwijl de varianties van de OLS-parameters juist kleiner
wor-den. Dit wordt verklaard doordat kriging een exacte interpolator is zodat als er meer datapunten aanwezig zijn er meer fluctuaties zijn, welke zorgen voor een grotere vari-antie. Bij OLS worden deze afwijkingen uitgemiddeld. Voor inputcombinaties van de SATM en SATV scores op kleine afstand van de waargenomen datapunten schat de krigingschatter de FGPA beter dan de OLS-schatter. Voor inputcombinaties van de SATM en SATV scores die op grote afstand liggen van de waargenomen datapunten gee de OLS-schatter over het algemeen betere schattingen. In paragraaf . werd geïllustreerd dat een SATM en SATV score van beide , een GPA van , oplevert volgens de krigingschatter in schatting . De OLS-schatter gee voor deze inputcom-binaties een meer realistische waarde van , . Dit effect is aanwezig bij alle vier de schattingen. Hiermee kan worden geconcludeerd dat de krigingschatter een slechtere extrapolator is dan de OLS-schatter.
In dit hoofdstuk zijn de resultaten van het lineaire-regressiemodel en het kriging-model voor de schattingen gepresenteerd. De parameter ˆβ2,ℓ bleek in geen enkele
schatting significant van nul te verschillen. De parameters ˆβ0,ℓ en ˆβ1,ℓ zijn in
schat-tingen , en significant van nul verschillend en ˆβ0,ℓ is ook significant
verschil-lend van nul in schatting . Hieruit blijkt dat het huidige metamodel op basis van lineaire-regressie in geen enkele schatting correct is. De geschatte variantie van de OLS-schatters neemt zoals verwacht af naarmate de dataset in grootte toeneemt. De RMSE van de OLS schatter is in schatting in 0, 4 en in schattingen tot en met gelijk aan 0, 6. Op basis van het empirisch semi-variogram zijn de krigingmodellen
ℓ = 1, 2, 3, 4 geschat met een Gaussische correlatiefunctie. De gemiddelde
krigingva-riantie neemt toe naarmate de dataset in grootte toeneemt. De RMSE van de kriging-schatter is in schatting ongeveer 0, 3 en in schattingen tot en met ongeveer gelijk aan 0, 38. Dit laat zien dat de krigingmodellen een grotere voorspelkracht hebben dan de lineaire-regressiemodellen. Er is echter gebleken dat voor inputcombinaties die in afstand ver van de waargenomen datapunten afliggen de krigingschatter minder goede voorspellingen gee dan de OLS-schatter, wat laat zien dat de krigingschatter een slechtere extrapolator is dan de OLS-schatter. Het blijkt dat het uitbreiden van de dataset niet resulteert in betere schattingen op basis van ordinary-kriging. Om betere schattingen te krijgen met ordinary-kriging zou in een vervolgonderzoek gekeken kunnen worden naar het ontwerp van dit experiment. Ook blijkt de aanname van een constant gemiddelde over alle inputcombinaties van het krigingmodel niet realistisch is. Om dit probleem te verhelpen, zou gekeken kunnen worden naar een metamodel op basis van universal kriging.
|
Conclusie
Het klassiek lineair-regressiemodel is een veel gebruikte en bekende schattingsme-thode. Kriging is minder bekend en een relatief nieuwe schattingsmethode afkomstig uit de geostatistiek. In dit onderzoek is gekeken naar de verschillen tussen metamo-dellen op basis van het klassiek lineaire-regressiemodel en metamometamo-dellen op basis van ordinary kriging. Het doel van dit onderzoek was om het voorspelvermogen van de OLS-schatters te vergelijken met het voorspelvermogen van de krigingschatters op basis van de RMSE. In het bijzonder is gekeken hoe de metamodellen reageren op het toevoegen van datapunten in de dataset.
Om dit te onderzoeken zijn twee metamodellen geschat om de GPA score aan het eind van het eerste jaar van studenten van de Vanderbilt Universiteit te verklaren uit de SATM en SATV score. Elk metamodel werd vier keer geschat om te kijken wat het effect is als er datapunten aan de dataset worden toegevoegd.
Er is gebleken dat de schattingen met ordinary kriging een beter voorspelvermo-gen hebben dan de schattinvoorspelvermo-gen met OLS op basis van de RMSE. Dit kan worden verklaard doordat de ordinary krigingschatter een lineaire interpolator is, terwijl de OLS-schatter dit niet is. Ook is gebleken dat de krigingschatter inputcombinaties die op grote afstand van de waargenomen datapunten slechter schat dan de OLS-schatter. Hieruit bleek dat de krigingschatter een relatief slechte extrapolator is. Dit werd bevestigt door de responsieoppervlakken van de krigingschatter te bekijken. De res-ponsieoppervlakken voor alle schattingen zijn vlak met lokale maxima en minima op de waargenomen datapunten. Dit effect is het kleinst bij het eerste geschatte model bestaande uit waarnemingen en het grootst bij het vierde geschatte model bestaande uit waarnemingen. Het is mogelijk om in een vervolgonderzoek het ontwerp van dit experiment aan te passen, zodat in plaats van alle waarnemingen te gebruiken, er een selectie waarnemingen wordt gekozen waarmee vervolgens een ordinary kriging-model geschat wordt. Hiermee is het mogelijk om een responsieoppervlak te krijgen met een grotere globale kromming en minder locale minima en maxima zodat deze beter kan worden gebruikt bij het voorspellen van het GPA op basis van de SATM
en SATV score. Ook bleek de aanname van een constant gemiddelde over alle input-combinaties bij ordinary-kriging niet realistisch. Om dit probleem te verhelpen kan in een vervolgonderzoek gekeken worden naar een metamodel op basis van universal kriging.
Samenvattend luidt de conclusie van dit onderzoek dat metamodellen op basis van ordinary kriging over het algemeen een lagere RMSE hebben dan metamodellen op basis van het klassiek-lineair regressiemodel. Hierbij is de kanttekening gemaakt dat de krigingschatter een relatief slechtere extrapolator is ten opzichte van OLS. Tevens is gebleken dat naarmate de waarnemingen in de dataset toenemen, het krigingmodel een vlak responsieoppervlak hee met veel lokale maxima en minima waardoor deze minder bruikbaar is voor het voorspellen van het GPA dan het lineaire-regressiemodel. Op basis van de responsieoppervlakken is geconcludeerd dat het updaten van het model niet resulteert in betere schattingen bij ordinary-kriging, terwijl dit bij OLS wel het geval is.
Bibliografie
Adler, R. J. ( ). The geometry of random fields (Dl. ). Siam.
Butler, J. S., Finegan, T. A. & Sieg ied, J. J. ( ). Does more calculus improve stu-dent learning in intermediate micro and macro economic theory? The American
Economic Review, ( ), – .
Chiles, J.-P. & Delfiner, P. ( ). Geostatistics: modeling spatial uncertainty (Dl. ). John Wiley & Sons.
Cressie, N. ( ). Statistics for spatial data. John Wiley & Sons.
Gelfand, A. E., Diggle, P., Guttorp, P. & Fuentes, M. ( ). Handbook of spatial
statistics. CRC press.
Heij, C., De Boer, P., Franses, P. H., Kloek, T., Van Dijk, H. K. et al. ( ).
Eco-nometric methods with applications in business and economics. Oxford University
Press.
Kleijnen, J. P. ( ). Design and analysis of simulation experiments (Dl. ). Springer. Kleijnen, J. P. & Van Beers, W. C. ( ). Application-driven sequential designs
for simulation experiments: Kriging metamodelling. Journal of the Operational
Research Society, ( ), – .
Lophaven, S. N., Nielsen, H. B. & Søndergaard, J. ( ). DACE a MATLAB kriging
toolbox, version . (Rapport).
Mayer, D. & Butler, D. ( ). Statistical validation. Ecological modelling, ( ), – .
Schilling, R. L. ( ). Measures, integrals and martingales (Dl. ). Cambridge University Press.
Schwanghart, W. ( ). Verkregen van http://www.mathworks.com/ matlabcentral/fileexchange/20355-experimental--semi---variogram
