Selectiemethodes voor instrumentele variabelen : een vergelijking tussen de LASSO en de C-test

(1)

SELECTIEMETHODES VOOR

INSTRUMENTELE

VARIABELEN

Een vergelijking tussen de LASSO en de C-test

Bachelorscriptie

Auteur:

Nousjka de Lange

Studentnummer:

10220917

Opleiding:

Econometrie en Operationele Research

Opleidingsinstituut:

Universiteit van Amsterdam

Begeleider:

Milan Pleus

(2)

Inhoud

1. Inleiding ... 3 2. Theoretisch kader ... 5 2.1 Algemene modellen ... 5 2.2 Introductie IV-methode ... 5 2.3 Toepassing IV-methode ... 6

2.4 Incrementele Sargan/C test ... 7

2.5 LASSO ... 8

2.6 Vergelijking LASSO en C-test ... 10

3. Onderzoeksmethode ... 11

3.1 Monte Carlosimulaties ... 11

3.2 Toepassing LASSO en C-test ... 13

4. Resultaten ... 14

4.1 Aantal instrumenten in Z2: 2 ... 14

4.1.1 Aantal valide instrumenten: 1 ... 14

4.2 Aantal instrumenten in Z2: 8 ... 16

5. Conclusie ... 20

Literatuurlijst ... 22

(3)

3

1. Inleiding

Bij het meten van het effect van politiegeweld per stad op het aantal misdaden per stad, zou je verwachten dat politiegeweld een negatief effect heeft op het aantal misdaden. Het tegenovergestelde komt echter uit het onderzoek; politiegeweld heeft een positief effect heeft op het aantal misdaden. Dit komt doordat steden met hoge misdaadcijfers ook veel meer politiegeweld gebruiken. Dit onderzoek van Levitt (2004) kampt met een probleem wat endogeniteit wordt genoemd; een correlatie tussen de random variantie in de verklarende variabele (in dit geval het politiegeweld) en de variantie in de residuen. Omdat het effect hier twee kanten op werkt, is het moeilijk om het directe effect van X op y te bepalen.

De Ordinary Least Squaresschatter (OLS) is een veelgebruikte techniek die in het geval van endogeniteit niet meer consistent is en daarom onbruikbaar is (Bowden & Turkington, 2007). Om dit op te lossen wordt veel gebruikgemaakt van de methode van instrumentele variabele (IV). Hierbij wordt gebruikgemaakt van instrumenten die exogeen zijn zodat er een causaal verband kan worden geschat. Tevens moeten de instrumenten gecorreleerd zijn met de endogene variabelen zodat ze hier het effect van op kunnen vangen. Sommige exogene variabelen kunnen door middel van economische theorie gevonden worden, maar vaak moet er een test aan te pas komen.

In dit onderzoek zijn twee veelgebruikte methodes voor het vinden van de instrumenten vergeleken en besproken. De eerste is de incrementele Sargan test, welke ook wel de C-test genoemd wordt. Deze test is het verschil van twee Sargan-testen en test of een bepaalde set van variabelen exogeen of endogeen is. De tweede methode is de LASSO-methode, ook wel de Least Absolute

Shrinkage and Selection Operator genoemd. Deze methode speelt in op de

gebreken van OLS zoals moeilijk interpreteerbare modellen en

onnauwkeurigheden van de voorspellingen en is tevens in staat om specifieke valide variabelen te selecteren. De LASSO is een vrij nieuwe techniek waarvan de werking nog niet met veel andere technieken vergeleken is. In dit onderzoek zijn simulaties gedaan onder verschillende omstandigheden om zo te vergelijken welke techniek beter presteert in welke situatie. Aan het eind van dit onderzoek is dan meer inzicht verkregen in hoe de LASSO methode en de C-test zich tot

(4)

4 elkaar verhouden.

Om de twee methodes te vergelijken zijn er een aantal Monte

Carlosimulaties gedaan analoog aan de simulaties in het onderzoek van Caner

(2014). Er is gevarieerd tussen het aantal valide momenten, de zogenoemde

tuningparameter bij de Lasso, significantieniveaus bij de Sargantoets en andere situaties welke later in dit verslag besproken zullen worden.

Allereerst wordt in hoofdstuk 2 een algemene introductie van het model waarmee gewerkt is gegeven. In de eerste paragraaf van dit hoofdstuk worden de algemene modellen uit dit onderzoek geïntroduceerd. Vervolgens wordt in paragraaf 2.2 besproken wat de IV-methode precies inhoudt en in paragraaf 2.2 wanneer deze methode toegepast wordt. In 2.4 wordt de eerste test uit dit

onderzoek, namelijk de C-test, geïntroduceerd en de werking hiervan besproken. De paragraaf daarna, paragraaf 2.5, introduceert de LASSO met bijbehorende modellen. De laatste paragraaf van hoofdstuk 2 vergelijkt de LASSO en C-test en beargumenteert wanneer verwacht wordt dat één van de twee methodes beter presteert. In hoofdstuk 3 wordt de onderzoeksopzet toegelicht. Hierin staat hoe de simulaties opgebouwd zijn, welke varianten bekeken zijn en hoe met de resultaten gekeken is naar welke methode het beste werkt. Hoofdstuk 4

beschrijft de analyse van alle resultaten van de simulaties. Het laatste hoofdstuk van bevat tenslotte de uiteindelijke conclusie.

(5)

5

2. Theoretisch kader

In dit hoofdstuk worden allereerst de algemene modellen beschreven. In

paragraaf 2.2 wordt de IV-methode geïntroduceerd, gevolgd door een paragraaf waarin de toepassing van de IV-methode wordt besproken. In paragraaf 2.4 en 2.5 wordt achtereenvolgend de C-test en de LASSO-methoden toegelicht met bijbehorende toetsingscriteria. Er wordt afgesloten met een paragraaf waarin de twee methodes vergeleken worden.

2.1 Algemene modellen

Er is uitgegaan van een lineair model van de vorm:

𝑦 = 𝑋𝛽 + 𝑢 (1)

Hierin is y de n x 1 vector van waarnemingen voor de afhankelijke variabelen, X een n x k matrix met daarin n waarnemingen voor k verklarende variabelen en β de k x 1 vector van onbekende parameters. De storingsterm u in dit model is dan:

𝑢 = 𝑦 − 𝑋𝛽. (2)

De OLS-schatter wordt vervolgens verkregen door de gekwadrateerde storingstermen u te minimaliseren met betrekking tot β. De schatter die dan gevonden wordt van β is:

𝛽̂ = (𝑋′𝑋)−1𝑋′𝑦 (3) Volgens Heij et al (2004, p. 125) moet deze schatter aan een aantal

voorwaarden voldoen zodat de schatter consistent is. Als niet aan deze

voorwaarden voldaan is, heeft dat vergaande gevolgen voor de consistentie van de schatter en zijn de t-testen en F-testen niet meer geldig.

2.2 Introductie IV-methode

Eén van de meest voorkomende problemen bij de OLS-methode is dat één of meerdere variabelen gecorreleerd zijn met de storingstermen, en daarom endogeen zijn. Hierdoor is de OLS-schatter niet meer consistent. Een

(6)

6 variabelen (IV). Deze schatter is wel consistent, mits er goede instrumenten gebruikt zijn. Deze IV-methode wordt ook wel de Two Stage Least Squares genoemd omdat de schatter gevonden kan worden door het doen van twee regressies (Heij et al, 2004, p. 400).

De eerste stap van de Two Stage Least Squares is een regressie van X op Z. Hiermee worden alle variabelen in X verklaard door Z. De matrix Z is een n x

L matrix met instrumenten. De regressie is gedaan in het volgende model:

𝑋 = 𝑍𝛿 + 𝑣 (4)

De voorspelde waarde van X ziet er dan als volgt uit:

𝑋̂ = (𝑍′𝑍)−1𝑍′𝑋 (5)

Hiermee is X verklaard door alleen maar exogene variabelen uit Z en kan de volgende stap gedaan worden. Deze stap is een regressie van y op 𝑋̂. De IV-schatter van β die dan gevonden wordt is:

𝛽̂𝐼𝑉= (𝑋′𝑃𝑧 𝑋)−1𝑋′𝑃𝑧 𝑦 𝑚𝑒𝑡 𝑃𝑧= 𝑍(𝑍′𝑍)−1𝑍′ (6)

Als instrumenten zijn de variabelen die gecorreleerd zijn met de endogene variabelen uit het model maar niet gecorreleerd zijn met de storingstermen gebruikt (Baum et al, 2003). Dit soort instrumenten worden valide instrumenten genoemd. De matrix Z van instrumenten kan worden gesplitst in [Z1 Z2] waarvan

Z1 de L1 instrumenten zijn die sowieso valide zijn en Z2 de L2 instrumenten zijn

waarvan niet zeker is of ze valide zijn of niet. Verderop in dit onderzoek is onderzocht hoe de validiteit van de instrumenten uit Z2 getest kan worden.

2.3 Toepassing IV-methode

Voordat overgegaan wordt op de IV-methode, moet eerst vastgesteld worden of de OLS wel echt inconsistent is. Als de residuen namelijk homoscedastisch zijn en alle variabelen exogeen, dan is OLS de meest efficiënte schatter en is de IV-methode niet nodig. Voor het testen van de heteroscedasticiteit zijn een hoop mogelijkheden, denk bijvoorbeeld aan de Breusch-Pagan test (Pagan and Hall, 1983) of de White-test (White, 1982). Het testen van de consistentie van de OLS kan gedaan worden met de Durbin-Wu-Hausman test (Hausman, 1978) voor endogene regresoren. Op deze testen wordt in dit onderzoek niet verder ingegaan omdat dit buiten het doel van het onderzoek ligt.

(7)

7 Als blijkt dat de OLS inconsistent is, kan overgegaan worden op de IV-methode. De werking van deze methode is gebaseerd op een set goede

instrumenten. Goede instrumenten zijn instrumenten die ten eerste relevant zijn, oftewel variabelen die gecorreleerd zijn met de endogene variabelen. Dit kan eenvoudig getest worden door een regressie te doen van de endogene variabelen op alle instrumenten uit Z. Vervolgens zijn er verschillende methodes om de correlatie te testen. Zo gebruikt Bound et al. (1995) de R2_{uit deze regressie en} Shea (1997) een partiele R2 _.

Een tweede voorwaarde is dat de instrumenten niet gecorreleerd zijn met de residuen. Om dit te testen zijn er meerdere methodes, waarvan er twee uitgebreid besproken en vergeleken zijn in dit onderzoek. De eerste is de incrementele Sargan-test, ook wel de C-test, en de tweede is de LASSO-methode.

2.4 Incrementele Sargan/C test

De instrumenten die gebruikt zijn voor de IV-methode kunnen getest worden op validiteit met de Sargan-test uit Sargan (1958). Deze test heeft als voorwaarde dat de residuen homoscedastisch zijn. De Sargan-statistiek is gegeven door

Baum et al (2003):

𝑆 =

𝑢̂′𝑃𝑧 𝑢̂ 𝑢̂′_𝑢_̂/𝑛

𝑑

→ 𝜒

2_𝐿−𝐾 (7)

Hierin staat 𝑢̂ voor de IV–residuen. Deze test heeft als nulhypothese dat alle instrumenten uit Z valide zijn en is asymptotisch chi-kwadraat verdeeld met L-K vrijheidsgraden. Met deze statistiek wordt echter de hele set van variabelen getest terwijl men vaak maar een subset van de variabelen wil testen. Er is meestal al een vermoeden over welke instrumenten wel exogeen zijn, en daarom buiten beschouwing gelaten kunnen worden. De Sargan-test heeft een andere variant die dit wel kan: de incrementele Sargan-test.

Deze test is bekend onder meerdere namen, maar in dit onderzoek is verwezen naar de C-test net als in Baum et al (2003). De test is het verschil van twee Sargan-statistieken. De eerste test is een Sargan-test op de gehele set instrumenten Z. De tweede test gaat alleen over een subset van instrumenten waarvan zeker is dat ze valide zijn, in dit geval Z1, en zijn de andere

(8)

8 instrumenten uit Z2 weggelaten. De residuen uit de IV-regressie op Z1 zijn

aangeduid met 𝑢̂₁. De C-test heeft dan de vorm:

C =

𝑢̂’P𝑧𝑢̂ 𝑢̂′_𝑢_̂/𝑛

–

𝑢̂1’P𝑍1 𝑢̂1 𝑢̂1′𝑢̂1/𝑛

𝑑

→ 𝜒

2_L2 (8)

Het verschil van de twee statistieken is weer asymptotisch chi-kwadraat verdeeld met als vrijheidsgraden het aantal variabelen dat buiten beschouwing is gelaten, L2 in dit geval. De nulhypothese van deze test is dat de weggelaten instrumenten

uit Z2 goede instrumenten zijn (Baum et al, 2003). Een alternatieve vorm die in Baum et al (2003) genoemd wordt, is bovenstaande test waarin 𝑢̂1′𝑢̂1/𝑛

vervangen is door 𝑢̂′𝑢̂/𝑛. Als schatter van de standaardafwijking voor de tweede

regressie wordt nu ook van de residuen uit de gehele set gebruikgemaakt. Beide varianten zijn in dit onderzoek bekeken.

2.5 LASSO

De tweede manier om valide momenten te detecteren die behandeld zijn, is de LASSO-methode. Deze methode is voorgesteld in Tibshirani (1995) en is bedacht als oplossing voor twee problemen die bij de OLS veel voorkomen. De eerste die genoemd wordt in Tibshirani (1995) is het feit dat de schatters vaak zuiver zijn maar onnauwkeurig, oftewel grote varianties hebben. Het tweede

veelvoorkomende probleem is dat de modellen vaak moeilijk te interpreteren zijn vanwege het grote aantal schatters. Tibshirani (1995) stelt hierom de LASSO voor wat staat voor least absolute shrinkage and selection operator. Bij deze methode worden de coëfficiënten van een aantal regresoren naar 0 ‘gekrompen’. Dit wordt gedaan door, op dezelfde manier als bij de OLS, de gekwadrateerde residuensom te minimaliseren. Alleen wordt dit bij de LASSO met een restrictie gedaan voor de absolute som van de coëfficiënten. Deze moet namelijk kleiner of gelijk zijn aan de zogenoemde ‘tuning’ parameter (Tibshirani 1995). De schatter van 𝛽 die hier uit komt is dan:

𝛽̂ = arg min{ ∑(𝑦𝑖− ∑ 𝛽𝑗 𝑗 𝑥𝑖𝑗)2 𝑁 𝑖=1 } 𝑚𝑒𝑡 𝑟𝑒𝑠𝑡𝑟𝑖𝑐𝑡𝑖𝑒 ∑|𝛽𝑗| ≤ 𝑡 𝑗 (9)

Hierin is 𝑥𝑖𝑗 de waarde van de variabele j in de waarneming i. De restrictie kan

met behulp van de Lagrange methode worden opgenomen in de formule, waardoor (9) geschreven kan worden als:

(9)

9 𝛽̂ = arg min{ ∑(𝑦𝑖− ∑ 𝛽𝑗 𝑗 𝑥𝑖𝑗)2 𝑁 𝑖=1 − 𝜆 ∑|𝛽𝑗| 𝑗 } (10)

Afhankelijk van hoe deze parameter gekozen wordt, zal het aantal coëfficiënten dat op 0 wordt gezet toe of afnemen. In dit onderzoek is niet verder ingegaan op de vraag waarom de coëfficiënten krimpen bij deze restrictie, meer informatie hierover is te vinden in Tibshirani (1995). Als de t groter is dan de som van de coëfficiënten uit de OLS, dan zijn de schatters ook gelijk aan de OLS-schatters omdat dan gelijk al aan de restrictie is voldaan (Hsu et al, 2007). Het mag duidelijk zijn dat de keuze van t erg veel invloed heeft op de uitkomst van deze LASSO. Er zijn verschillende methodes om de hoogte van t te bepalen.

Tibshirani (1995) noemt er drie: de cross-validatiemethode, gegeneraliseerde

cross-validatiemethode en een analytische zuivere schatter van risico. De methode welke hierboven is beschreven is een toepassing van de LASSO om de coëfficiënten te schatten. De LASSO leent zich ook voor een ander doeleinde; namelijk dat van het detecteren van de valide instrumenten uit Z2.

Hiervoor zijn twee aannames gedaan met betrekking tot het model uit (1) en de instrumenten Z:

𝐸[𝑍1′(𝑦 − 𝑋𝛽)] = 0 (11)

𝐸[𝑍₂′_{(𝑦 − 𝑋𝛽) − 𝜃] = 0 (12)}

Zoals eerder genoemd, wordt er vanuit gegaan dat alle instrumenten in Z1

exogeen zijn en daarmee voldoen aan de eerste vergelijking. Met behulp van de IV-methode kan β geschat worden met alleen Z1. Dat geeft de volgende

consistente schatter:

𝛽̂1= (𝑋′𝑃𝑧1 𝑋)

−1

𝑋′_𝑃

𝑧1 𝑦 (13)

Nu β geschat is, kunnen de IV-residuen ook als volgt geschat worden:

𝑢̂1= 𝑦 − 𝑋𝛽̂1 (14)

Hierna wordt een nieuw model gespecificeerd, waarin de residuen uit de vorige regressie verklaard worden door Z2, oftewel:

(10)

10 Vervolgens wordt de residuele kwadratensom van dit model geminimaliseerd naar 𝛾 met een restrictie op de absolute som van de parameters in 𝛾. Het minimalisatieprobleem is dan als volgt:

min 𝛾 (𝑢̂1− 𝑍2𝛾) ′_(𝑢̂ 1− 𝑍2𝛾) + 𝜆 ∑ |𝛾𝑗 𝐿2 𝑗=1 | (16)

De geschatte coëfficiënten van de instrumenten uit Z2 die hier op 0 zijn gezet,

horen bij de valide instrumenten. Deze instrumenten uit Z2 zijn de instrumenten

die gebruikt kunnen worden voor bijvoorbeeld de IV-methode.

2.6 Vergelijking LASSO en C-test

Beide methodes vereisen dat er eerst een set Z1 gespecificeerd wordt van

instrumenten die duidelijk valide zijn. Vervolgens worden de methodes op de set Z2 toegepast. De C-test zal dan de hele set wel of niet verwerpen en dus een

schatting maken op basis van Z1 of heel de set Z. Een groot voordeel van de

LASSO is dat deze methode specifieke variabelen uit Z2 kan aanwijzen als valide

variabelen. De coëfficiënten die op 0 worden gezet zijn volgens de LASSO de valide instrumenten die het beste gebruikt kunnen worden bij het schatten van een model. Bij de LASSO wordt geen significantieniveau gekozen en dit is daarom geen formele test. Bij de C-test wordt wel een significantieniveau gekozen voor het verwerpen van de nulhypothese.

Als Z2 uit één instrument bestaat, zijn de twee methodes goed te

vergelijken. Met de C-test zal dit instrument bestempeld worden als wel of niet valide en ook de LASSO zal hier duidelijkheid in verschaffen. Echter vereist de LASSO dat Z2 uit minstens twee instrumenten bestaat met als gevolg dat deze

situatie niet te testen is. Wel zal bij de simulaties gevarieerd worden in het aantal instrumenten van Z2.

Als Z2 uit een aantal valide en een aantal invalide momenten bestaat, zal

de C-test de hele set als wel of niet valide bestempelen, het is dan nog

onduidelijk of alle instrumenten invalide zijn of dat dit er maar een paar zijn. Het grote voordeel van de LASSO is dat deze de specifieke instrumenten uitzoekt die invalide zijn. Als ondanks dit voordeel blijkt dat de C-test beter presteert, dan is er nooit reden toe om de LASSO te gebruiken.

(11)

11 steekproeven. De LASSO heeft namelijk de moeilijke taak om specifieke

variabelen te selecteren en zal daarom gebaat zijn bij grotere steekproeven. Ook de C-test zal beter presteren in grotere steekproeven. Onder de alternatieve hypothese, de hypothese waarin Z2 invalide wordt bevonden, gaat de

verwerpingskans namelijk voor grote steekproeven naar 1. Dat betekend dat als de instrumenten in Z2 niet valide zijn, de C-test dit bij grotere steekproeven

beter kan zien. Als de steekproef groot genoeg is zal de C-test dus altijd de nulhypothese verwerpen.

3. Onderzoeksmethode

In dit hoofdstuk wordt besproken hoe het onderzoek opgezet is. Allereerst wordt in paragraaf 3.1 toegelicht hoe met Monte Carlosimulaties data wordt

gegenereerd met verschillende waardes voor de variabelen. In paragraaf 3.2 wordt vervolgens besproken hoe de LASSO en C-test op deze gegenereerde data zijn toegepast en welke criteria zijn gebruikt om de twee methodes te

vergelijken.

3.1 Monte Carlosimulaties

Er zijn Monte Carlosimulaties gedaan in het model uit (1) en (4) in hoofdstuk 2.

𝑦 = 𝑋𝛽 + 𝑢 (1)

𝑋 = 𝑍𝛿 + 𝑣 (4)

De instellingen voor het genereren van de data hiervoor zijn voor een deel analoog aan die uit het onderzoek van Caner et al (2014). De werkelijke parameter β is gelijk gezet aan 0.5 met als gevolg dat de matrix X uit één

endogene variabele bestaat en een constante. Vervolgens is er data gegenereerd uit een normale verdeling met verwachting 0 en de volgende (L+2)x(L+2)

covariantiematrix voor Z, u en v: Σ = [ 𝜎𝑧𝑧2 𝑰𝑳 𝝈𝒛𝒖′ 𝟎𝑳 𝝈𝒛𝒖 𝜎𝑢2 𝜎𝑢𝑣 𝟎𝑳 𝜎𝑢𝑣 𝜎𝑣2 ] (17)

(12)

12 Hierin is 𝜎_𝑧𝑧2_𝑰

𝑳 een diagonaalmatrix van LxL met de varianties van de

instrumenten uit Z. Er zijn twee varianties bekeken: 0.5 en 1. Verder zijn op de diagonaal 𝜎𝑢2 en 𝜎𝑣2 te vinden welke respectievelijk de varianties voor de storingen

u en v uit (1) en (4) zijn. Deze varianties staan vast op 0,5 en 1. De covariantie

tussen u en v is gegeven door 𝜎_𝑢𝑣. Om een sterke en zwakke correlatie tussen de storingen te onderzoeken is gekozen om 𝜎_𝑢𝑣= {0.2, 0.5} te zetten. Bij deze

covarianties horen correlaties tussen u en v van ongeveer 0.28 en 0.71 welke de zwakke en sterke correlatie vertegenwoordigen. De Lx1 vector 𝝈𝒛𝒖 bestaat uit de

covarianties tussen de L instrumenten en de structurele storingstermen. Deze vector is gegenereerd met constante correlaties D=0.2 voor de invalide

instrumenten en 0 voor de valide instrumenten.

Er zijn simulaties uitgevoerd waarin het aantal instrumenten varieert. Grofweg zijn er twee situaties bekeken:

1) Z2 bestaat uit twee instrumenten

2) Z2 bestaat uit acht instrumenten

In de eerste situatie zijn vervolgens weer twee situaties bekeken; die waarin één van de twee instrumenten valide is en die waarin allebei de instrumenten valide zijn. In de tweede situatie is gevarieerd in het aantal valide variabelen. Dit zal variëren van 0 t/m 8 valide instrumenten in stapjes van twee. De LASSO zal hoogstwaarschijnlijk minder vaak invalide variabelen selecteren dan de C-test.

In beide situaties is gevarieerd met de eerder genoemde covarianties. Tot slot is gevarieerd met sterke en zwakke instrumenten, welke duiden op een sterke en zwakke identificatie tussen de instrumenten uit Z en de variabelen in X. In het geval van sterke instrumenten zijn alle covarianties gelijk aan 2. In het geval van zwakke instrumenten uit Z2 hebben alleen de valide variabelen uit Z1

een covariantie van 2 gekregen en hebben alle instrumenten uit Z2 een

covariantie van 0.2 gekregen. In de tweede situatie is ook gekeken naar wat de invloed is van de sterkte van de instrumenten uit Z1. Elke simulatie bestaat uit

(13)

13

3.2 Toepassing LASSO en C-test

Na elke simulatie is zowel de LASSO als de C-test gebruikt voor het selecteren van de juiste instrumenten. De LASSO selecteert een aantal instrumenten, welke vervolgens gebruikt zijn voor het schatten van β, waarvan de werkelijke waarde in deze simulatie op 0.5 staat. De C-test verwerpt of behoudt de héle set Z2 en

gebruikt deze vervolgens als instrumenten om β te schatten. De LASSO neemt naast de instrumenten uit Z1 eventueel een aantal instrumenten uit Z2 mee

waarvan hij denkt dat ze valide zijn.

Voor beide methodes is de Root Mean Squared Error (RMSE) van de uiteindelijke schatter over de 10000 replicaties berekend. De RMSE statistiek is als volgt: 𝑅𝑀𝑆𝐸 = √(1 𝑅∑ (𝛽 𝑅 𝑖=1 −𝛽̂𝑖)2)

Hierin staat R voor het aantal replicaties van de simulatie, welke standaard op 10000 staat. Na elke replicatie wordt β geschat en wordt de gekwadrateerde fout berekend. Na 10000 replicaties kan hiermee de RMSE berekend worden. De methode met de laagste RMSE zal β het beste schatten en is dan ook de

methode die wordt geprefereerd. Naast de RMSE zijn voor elke methode ook de gemiddelde schatting van β, de gemiddelde variantie van β en de gemiddelde fout van de schatting in de resultaten opgenomen.

(14)

14

4. Resultaten

In dit hoofdstuk worden de meest relevante resultaten van de simulaties

besproken. In paragraaf 4.1 de eerste situatie besproken, namelijk die waarbij Z2

uit twee instrumenten bestaat. In paragraaf 4.2 wordt de andere situatie besproken waarin Z2 uit acht instrumenten bestaat.

In de sub paragrafen wordt besproken hoe gevarieerd is in het aantal valide instrumenten waaruit de set bestaat. In beide gevallen zijn de twee verschillende C-testen en de LASSO vergeleken op basis van hun RMSE, gemiddelde en

variantie van β en hun onzuiverheid. Alle resultaten zijn afgerond op 4 decimalen, tenzij dit geen duidelijk onderscheid gaf. In het lichtgrijs zijn de resultaten gearceerd welke de laagste RMSE hebben.

4.1 Aantal instrumenten in Z2: 2 4.1.1

Aantal valide instrumenten: 1

Als eerste is gekeken naar de situatie waarin Z2 uit twee instrumenten bestaat

waarvan er één valide is. De C-test kan er hier voor kiezen om de hele set Z2

mee te nemen, en dus één invalide instrument mee te nemen. Het alternatief is dat de hele set Z2 niet wordt meegenomen, met als gevolg dat er één valide

instrument niet wordt meegenomen. De C-test kan in dit geval dus niet, zoals de LASSO, optimaal kiezen.

De instrumenten uit Z1 zijn hier zwak gecorreleerd met de variabele uit X.

De RMSE is berekend voor de LASSO-methode, de C-test waarin als schatter voor de standaardafwijking in het tweede deel van de test 𝑢̂₁ is gebruikt (in de tabellen met C-test (u1) aangeduid) en de C-test waarin 𝑢̂ is gebruikt (aangeduid met C-test(u) ). Alle resultaten zijn te vinden in tabel 1.

Allereerst valt op dat als de instrumenten uit Z2 sterk zijn, de RMSE altijd

lager is dan wanneer ze zwak zijn. Doordat de instrumenten sterk zijn, en dus beter gecorreleerd met de variabele uit X, kan deze beter verklaard worden. Verder valt op dat voor een grote steekproef de RMSE altijd lager wordt. Dit is logisch omdat er voor een grotere steekproef simpelweg een betere afweging gemaakt kan worden over welke instrumenten wel of niet meegenomen zouden moeten worden. Wat ook duidelijk wordt uit de resultaten, is dat een variantie

(15)

(16)

16 van de instrumenten van 1 altijd een lagere RMSE geeft dan bij een variantie van 0.5.

Tot slot valt het op dat wanneer de variantie van de instrumenten gelijk is aan 0.5 en de instrumenten in Z2 zwak zijn, de LASSO altijd een lagere RMSE

heeft. Wanneer hier de variantie niet 0.5 maar 1 is, is de LASSO alleen in de grootste steekproef de beste methode. Als de instrumenten uit Z2 sterk zijn,

presteert één van de C-testen het vaakst het beste.

4.1.2

Aantal valide instrumenten: 2

Ook als Z2 uit twee valide instrumenten valt op dat er een groot verschil is tussen

het wel of niet sterk zijn van de instrumenten. De resultaten hiervan zijn te vinden in tabel 2. Verder is het in deze situatie heel duidelijk dat de C-test (u) bijna overal het beste presteert. Alleen wanneer de covariantie tussen de

storingen 0.5 is presteert de andere C-test beter. Omdat alle variabelen in de set valide zijn, kan de C-test geen variabelen vergeten mee te nemen. De C-test neemt dus vaak de hele set mee, wat in dit geval het juiste is om te doen. Waarschijnlijk heeft de LASSO nog een aantal momenten waarop hij één van de twee variabelen weglaat, en hierdoor een mindere schatting maakt dan de C-test. Ook valt op dat beide methodes altijd een lagere RMSE hebben wanneer er twee valide instrumenten zijn. Dit komt omdat er in totaal meer valide

instrumenten zijn om mee te schatten waardoor de schatting van β beter wordt.

4.2 Aantal instrumenten in Z2: 8

In deze paragraaf is onderzocht welke methode de laagste RMSE heeft als Z2 uit

acht instrumenten bestaat. Er is gevarieerd van 0 t/m 8 valide instrumenten in stapjes van twee. Daarnaast is er gekeken naar of het feit dat Z1 uit zwakke of

sterke instrumenten bestaat, invloed heeft op de resultaten. Vanwege

ruimtegebrek zijn de resultaten uit deze paragraaf terug te vinden in de bijlages.

4.2.1 Aantal valide instrumenten: 0

Er is een duidelijk verschil tussen de RMSE van de twee verschillende situaties waarin de sterkte van Z1 varieert. Die waarin de instrumenten uit Z1 sterk zijn

(17)

(18)

18 De instrumenten uit Z1 worden namelijk altijd meegenomen in de schatting.

Ongeacht de werking van de LASSO en de C-test, zal Z1 bestaan uit instrumenten

die β beter kunnen schatten wat in een lagere RMSE resulteert.

Wat daarnaast opvalt voor het geval waarin er 0 valide instrumenten zijn, is dat de daadwerkelijke keuze voor een methode niet veel afhangt van de sterkte van de instrumenten uit Z1. Ook is duidelijk dat als de instrumenten in Z2

sterk zijn, de C-test (u) bijna overal de laagste RMSE heeft. Met 0 valide instrumenten heeft de C-test namelijk de mogelijkheid om precies het goede aantal valide instrumenten mee te nemen. De LASSO heeft deze mogelijkheid altijd, maar kiest blijkbaar nog af en toe een instrument wat niet valide is en krijgt daarmee een lagere RMSE. Als de instrumenten in Z2 daarentegen zwak

zijn, scoort de LASSO vaak beter.

4.2.2 Aantal valide instrumenten: 2

De resultaten in het geval dat er 2 van de 8 valide instrumenten zijn, verschillen nauwelijks van de situatie waarin er 0 valide instrumenten zijn. Als de

instrumenten in Z1 sterk zijn, zijn alle RMSE lager dan wanneer deze

instrumenten zwak zijn. Ook hier is het zo dat als de instrumenten in Z2 sterk

zijn, de C-test(u) de laagste RMSE heeft. Een ander opvallend verschijnsel is dat de keuze van de hoogte van de covariantie tussen de storingen weinig verschil lijkt te brengen in de resultaten. Wel is duidelijk te zien dat wanneer de variantie van de instrumenten 0.5 is, alle RMSE hoger zijn dan wanneer de variantie 1 is. Een hogere variantie van de instrumenten zorgt er dus blijkbaar voor dat beide methodes betere keuzes kunnen maken.

Als de instrumenten van Z1 sterk zijn en de instrumenten in Z2 zwak zijn,

zijn de methodes verdeeld met hun RMSE. In de grootste steekproef heeft de LASSO echter altijd de voorkeur. In de gevallen waarin de instrumenten uit Z1

zwak zijn of de instrumenten uit Z2 sterk zijn, hebben de twee verschillende

C-testen de laagste RMSE. Het lijkt hier weinig uit te maken met welke

standaardafwijking is gecorrigeerd. Dit zal veelal niet uitmaken voor het wel of niet verwerpen van de nulhypothese, en dus tot dezelfde uitkomst leiden.

(19)

19

4.2.3 Aantal valide instrumenten: 4

Ook hier zijn de resultaten weer erg vergelijkbaar met de vorige twee situaties. Wanneer de instrumenten uit Z1 zwak zijn, zijn de RMSE veel hoger dan wanneer

ze sterk zijn. Voor de sterkte van de instrumenten in Z2 geldt hetzelfde; sterkere

instrumenten zorgt voor een lagere RMSE. Net als in de vorige situaties, is de LASSO in de grootste steekproef de geprefereerde methode als de instrumenten in Z2 zwak zijn. Als de instrumenten uit Z2 sterk zijn, is de C-test(u) vaak de

methode met de laagste RMSE. Ook hier is er weinig verschil te zien voor de verschillende covarianties tussen de storingen, en lijkt de variantie van de

instrumenten de grootste invloed te hebben. Bij een hogere variantie van 1, zijn de instrumenten onderling meer gecorreleerd en kunnen ze elkaar beter

verklaren waardoor de RMSE lager wordt.

4.2.4 Aantal valide instrumenten: 6

De resultaten wanneer 6 van de 8 instrumenten valide zijn, verschillen wederom weinig van de andere situaties. Net als in de andere situaties wordt duidelijk dat de LASSO vaak de beste methode is als de instrumenten uit Z2 zwak zijn en is de

C-test(u) de vaak de beste methode als de instrumenten sterk zijn.

4.2.5 Aantal valide instrumenten: 8

Als laatste is bekeken welke methode het beste β kan schatten als alle 8 instrumenten valide zijn. De C-test heeft nu weer de mogelijkheid om een perfecte selectie te doen, namelijk door de hele set Z2 mee te nemen. In de

andere situaties was het zo dat als de instrumenten uit Z1 sterk waren en de

instrumenten uit Z2 zwak waren, de LASSO in ieder geval in de grootste

steekproef de laagste RMSE had. Nu lijkt het er echter op dat dat de C-test is. In de varianten van sterke en zwakke instrumenten is de C-test(u) overduidelijk de geprefereerde methode.

(20)

20

5. Conclusie

Om het probleem van endogeniteit tussen variabelen op te lossen, wordt veel gebruikt gemaakt van de IV-methode. Deze methode vereist een

instrumentenmatrix Z met instrumenten die valide zijn. Er zijn veel testen om uit te zoeken of de instrumenten valide zijn. Twee van de belangrijkste testen zijn de incrementele Sargan test, ook wel de test genoemd, en de LASSO. De C-test is het verschil van twee Sargan-statistieken en kan een hele set van instrumenten wel of niet verwerpen. De schatting van de parameter wordt dan gedaan met of zonder deze hele set. Een groot nadeel aan deze test is dat als de instrumenten niet allemaal valide dan wel allemaal invalide zijn, de C-test

sowieso een aantal instrumenten ten onrechte weglaat of meeneemt. Een methode die dit probleem niet heeft, is de LASSO-methode. Deze methode laat een aantal coëfficiënten krimpen en degene die dan op 0 komen te staan zijn de instrumenten die valide zijn. Deze test kan dus een aantal variabelen selecteren en doet op basis van deze instrumenten de schatting van de parameter.

De twee methodes hebben allebei hun voor- en nadelen, maar zijn nog niet eerder vergeleken met elkaar. In het uitgevoerde onderzoek zijn Monte Carlosimulaties gedaan met 10000 replicaties, waarin voor verschillende instellingen de RMSE van de beide methodes werden vergeleken. Zo is er gevarieerd met de hoogte van de covariantie tussen de storingen, de variantie van de instrumenten, de sterkte van de instrumenten uit Z2, het aantal valide

instrumenten, het aantal instrumenten in Z2 en tot slot ook in de sterkte van de

instrumenten uit Z1 wanneer Z2 uit 8 instrumenten bestond.

In de situatie waarin Z2 uit twee instrumenten bestond en er één valide

instrument was, viel op dat als Z2 zwak was de LASSO vaak de beste methode

was. Als de variantie van de instrumenten 0.5 was, kwam de LASSO altijd beter naar voren. Als de variantie gelijk aan 1 was, was de LASSO alleen in de grootste steekproef de beste methode. Als Z2 daarentegen sterk was, werd altijd voor één

van de twee C-testen gekozen.

Wanneer er 2 valide instrumenten zaten in Z2 kwam de C-test overal beter

naar voren. In deze situatie kan de C-test namelijk precies het goede aantal instrumenten kiezen, iets wat met 1 valide instrument niet mogelijk is. Er wordt dan altijd een instrument te veel of te weinig meegenomen. Blijkbaar is de LASSO minder goed in staat om ervoor te kiezen om beide instrumenten mee te

(21)

21 nemen en maakt deze hierin vaker een verkeerde beslissing.

Als er 8 instrumenten in Z2 zaten, waarvan 0 valide, dan bleek dat als deze

instrumenten sterk waren, de voorkeur altijd naar de C-test ging. Als ze zwak waren ging de voorkeur vaak naar de LASSO. Ook als er 2 valide instrumenten waren werd in dezelfde situatie voor de C-test gekozen. Echter werd nu alleen voor de LASSO gekozen wanneer Z2 zwak en tegelijkertijd de instrumenten uit Z1

sterk waren. Als hier niet aan voldaan werd ging de voorkeur vaak naar één van de twee C-testen.

De resultaten waarin er 4 of 6 valide instrumenten waren zorgden voor vergelijkbare resultaten. Alleen de situatie waarin alle 8 instrumenten valide waren, zorgde voor een ander resultaat. Hier werd namelijk bijna nooit voor de LASSO gekozen, maar altijd voor één van de twee C-testen. Net als in het geval waarin er 2 van de 2 instrumenten valide waren, blijkt hier weer dat de C-test beter presteert. De test heeft hier weer de mogelijkheid om precies het goede aantal instrumenten mee te nemen.

Wat over het algemeen opviel in de resultaten was dat sterke instrumenten altijd tot lagere RMSE leidden. Dit geldt voor zowel de

instrumenten in Z2 als die in Z1. Dit is niet meer dan logisch, Z1 wordt immers

altijd meegenomen in de schatting en elk instrument uit Z2 dat wordt

meegenomen heeft meer waarde als deze sterk is. Daarnaast viel op dat als de variantie van de instrumenten uit Z2 1 was, de RMSE ook lager was dan wanneer

deze 0.5 was. Tot slot bleek dat de hoogte van de covariantie tussen de storingen eigenlijk geen invloed had op de resultaten.

(22)

22

Literatuurlijst

Baum, C. F., Schaffer, M. E., & Stillman, S. (2003). Instrumental variables and GMM: Estimation and testing. Stata journal, 3(1), 1-31.

Bound, J., Jaeger, D. A., & Baker, R. M. (1995). Problems with instrumental variables estimation when the correlation between the instruments and the endogenous explanatory variable is weak. Journal of the American statistical

association, 90(430), 443-450.

Bowden, R. J., & Turkington, D. A. (1990). Instrumental variables (Vol. 8). Cambridge University Press.

Breusch, T. S., & Pagan, A. R. (1979). A simple test for heteroscedasticity and random coefficient variation. Econometrica: Journal of the Econometric Society, 1287-1294.

Caner, M., Maasoumi, E., & Riquelme, J. A. (2014). Moment and IV Selection Approaches: A Comparative Simulation Study.

Hausman, J. A. (1978). Specification tests in econometrics. Econometrica:

Journal of the Econometric Society, 1251-1271.

Heij, C., De Boer, P., Franses, P. H., Kloek, T., & Van Dijk, H. K.

(2004).Econometric methods with applications in business and economics. Oxford University Press.

Hsu, N. J., Hung, H. L., & Chang, Y. M. (2008). Subset selection for vector autoregressive processes using lasso. Computational Statistics & Data

Analysis, 52(7), 3645-3657.

Levitt, S. D. (2004). Understanding why crime fell in the 1990s: Four factors that explain the decline and six that do not. Journal of Economic perspectives, 163-190.Shea, J. (1997). Instrument relevance in multivariate linear models: A simple measure. Review of Economics and Statistics, 79(2), 348-352.

Tibshirani, R. (1996). Regression shrinkage and selection via the lasso. Journal of

the Royal Statistical Society. Series B (Methodological), 267-288.

White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica: Journal of the

(23)

23

Bijlagen

Tabel 3a: Situatie 2

8 instrumenten, 0 valide, instrumenten Z1 sterk =0.2

=0.5 Gemiddelde Variantie Fout RMSE Gemiddelde Variantie Fout RMSE n=50 LASSO 0,5016 0,9586 0,0016 0,05989 0,5141 0,9283 0,0141 0,0630 C-test (u1) 0,5016 0,9587 0,0016 0,05990 0,5128 0,9326 0,0128 0,06121 C-test (u) 0,5016 0,9587 0,0016 0,05990 0,5128 0,9326 0,0128 0,06119 n=100 LASSO 0,5004 0,9811 0,0004 0,04171559 0,5056 0,9725 0,0056 0,04222 C-test (u1) 0,5004 0,9811 0,0004 0,04171562 0,5056 0,9726 0,0056 0,04220 C-test (u) 0,5004 0,9811 0,0004 0,04171562 0,5056 0,9726 0,0056 0,04220 n=250 LASSO 0,5001 0,9929 0,0001 0,0260 0,5021 0,9899 0,0021 0,0263 C-test (u1) 0,5001 0,9929 0,0001 0,0260 0,5021 0,9899 0,0021 0,0263 C-test (u) 0,5001 0,9929 0,0001 0,0260 0,5021 0,9899 0,0021 0,0263 =0.2

= 1 Gemiddelde Variantie Fout RMSE Gemiddelde Variantie Fout RMSE n=50 LASSO 0,5030 0,9567 0,0030 0,0431 0,5153 0,9448 0,0153 0,0510 C-test (u1) 0,5025 0,9574 0,0025 0,0430 0,5115 0,9612 0,0115 0,0462 C-test (u) 0,5025 0,9575 0,0025 0,0429 0,5116 0,9600 0,0116 0,0458 n=100 LASSO 0,5005 0,9800 0,0005 0,0296 0,5047 0,9834 0,0047 0,0323 C-test (u1) 0,5004 0,9801 0,0004 0,0295 0,5030 0,9887 0,0030 0,0298342 C-test (u) 0,5004 0,9801 0,0004 0,0295 0,5030 0,9887 0,0030 0,0298315 n=250 LASSO 0,5000 0,9931 0,0000 0,0182737 0,5010 0,9970 0,0010 0,0185 C-test (u1) 0,5000 0,9931 0,0000 0,0182739 0,5010 0,9971 0,0010 0,0184 C-test (u) 0,5000 0,9931 0,0000 0,0182739 0,5010 0,9971 0,0010 0,0184 = 0.5

=0.5 Gemiddelde Variantie Fout RMSE Gemiddelde Variantie Fout RMSE n=50 LASSO 0,5043 0,9555 0,0043 0,0425 0,5015 0,9890 0,0015 0,0364 C-test (u1) 0,5060 0,9540 0,0060 0,0426 0,5015 0,9687 0,0015 0,0282 C-test (u) 0,5060 0,9540 0,0060 0,0426 0,5017 0,9671 0,0017 0,0273 n=100 LASSO 0,5027 0,9770 0,0027 0,029372 0,5012 0,9943 0,0012 0,0249 C-test (u1) 0,5034 0,9763 0,0034 0,02939 0,5010 0,9843 0,0010 0,0193 C-test (u) 0,5034 0,9763 0,0034 0,029374 0,5011 0,9840 0,0011 0,0192 n=250 LASSO 0,5008 0,9922 0,0008 0,01804 0,5003 0,9987 0,0003 0,0152 C-test (u₁) 0,5011 0,9919 0,0011 0,01799 0,5004 0,9947 0,0004 0,01194 C-test (u) 0,5011 0,9919 0,0011 0,01798 0,5004 0,9946 0,0004 0,01188 =0.5

= 1 Gemiddelde Variantie Fout RMSE Gemiddelde Variantie Fout RMSE n=50 LASSO 0,5035 0,9543 0,0035 0,0429 0,5161 0,9312 0,0161 0,0512 C-test (u1) 0,5032 0,9551 0,0032 0,0431 0,5121 0,9507 0,0121 0,0465 C-test (u) 0,5031 0,9551 0,0031 0,0430 0,5122 0,9495 0,0122 0,0461 n=100 LASSO 0,5007 0,9794 0,0007 0,02952 0,5049 0,9788 0,0049 0,0322 C-test (u1) 0,5006 0,9795 0,0006 0,02951 0,5032 0,9849 0,0032 0,029813 C-test (u) 0,5006 0,9795 0,0006 0,02951 0,5032 0,9849 0,0032 0,029810 n=250 LASSO 0,5001 0,9929 0,0001 0,0182723 0,5011 0,9957 0,0011 0,0185 C-test (u1) 0,5001 0,9929 0,0001 0,0182724 0,5011 0,9958 0,0011 0,0184 C-test (u) 0,5001 0,9929 0,0001 0,0182724 0,5011 0,9958 0,0011 0,0184

Zwakke identificatie Sterke identificatie Zwakke identificatie Sterke identificatie Zwakke identificatie Sterke identificatie Zwakke identificatie Sterke identificatie

(24)

24

Tabel 3b: Situatie 2

8 instrumenten, 0 valide, instrumenten Z1 zwak

=0.2

=0.5 Gemiddelde Variantie Fout RMSE Gemiddelde Variantie Fout RMSE

n=50 LASSO 0,7400 0,9624 0,2400 0,6245 0,6971 0,5534 0,1971 0,2373 C-test (u1) 0,7261 1,0207 0,2261 0,6778 0,6960 0,5689 0,1960 0,2384 C-test (u) 0,7260 1,0207 0,2260 0,6777 0,6960 0,5689 0,1960 0,2384 n=100 LASSO 0,6035 0,9973 0,1035 0,4360 0,6857 0,5969 0,1857 0,23083 C-test (u1) 0,6035 0,9977 0,1035 0,4366 0,6848 0,6020 0,1848 0,23076 C-test (u) 0,6035 0,9977 0,1035 0,4366 0,6848 0,6020 0,1848 0,23076 n=250 LASSO 0,5357 1,0025 0,0357 0,2676 0,6541 0,6691 0,1541 0,2094 C-test (u1) 0,5357 1,0025 0,0357 0,2676 0,6537 0,6703 0,1537 0,2092 C-test (u) 0,5357 1,0025 0,0357 0,2676 0,6537 0,6703 0,1537 0,2092 =0.2

= 1 Gemiddelde Variantie Fout RMSE Gemiddelde Variantie Fout RMSE

n=50 LASSO 0,6910 0,9648 0,1910 0,4961 0,6012 1,1124 0,1012 0,1641 C-test (u1) 0,6465 1,0027 0,1465 0,4852 0,6007 1,1186 0,1007 0,1637 C-test (u) 0,6479 0,9989 0,1479 0,4818 0,6006 1,1074 0,1006 0,1624 n=100 LASSO 0,5638 0,9975 0,0638 0,3188 0,5945 1,1727 0,0945 0,1619 C-test (u1) 0,5486 1,0025 0,0486 0,30051 0,5942 1,1829 0,0942 0,16263 C-test (u) 0,5486 1,0025 0,0486 0,30048 0,5942 1,1828 0,0942 0,16261 n=250 LASSO 0,5172 1,0032 0,0172 0,1866 0,5775 1,1450 0,0775 0,1453 C-test (u1) 0,5170 1,0033 0,0170 0,1863 0,5773 1,1476 0,0773 0,1454 C-test (u) 0,5170 1,0033 0,0170 0,1863 0,5773 1,1476 0,0773 0,1454 = 0.5

n=50 LASSO 0,7842 0,7130 0,2842 0,4900 0,6096 1,0259 0,1096 0,1661 C-test (u1) 0,7399 0,8340 0,2399 0,5533 0,6083 1,0329 0,1083 0,1653 C-test (u) 0,7246 0,8364 0,2246 0,5299 0,6083 1,0265 0,1083 0,1646 n=100 LASSO 0,5869 0,9188 0,0869 0,3081 0,6025 1,1170 0,1025 0,1675 C-test (u1) 0,5784 0,9296 0,0784 0,3043 0,6020 1,1265 0,1020 0,1680 C-test (u) 0,5779 0,9299 0,0779 0,3034 0,6020 1,1265 0,1020 0,1680 n=250 LASSO 0,5271 0,9768 0,0271 0,185662 0,5848 1,1075 0,0848 0,1518 C-test (u1) 0,5271 0,9769 0,0271 0,185665 0,5845 1,1101 0,0845 0,1519 C-test (u) 0,5271 0,9769 0,0271 0,185665 0,5845 1,1101 0,0845 0,1519 Sterke identificatie Zwakke identificatie Sterke identificatie

Zwakke identificatie Sterke identificatie

Zwakke identificatie

(25)

25

Tabel 4a: Situatie 2

8 instrumenten, 2 valide, instrumenten Z1 sterk

=0.2

n=50 LASSO 0,5046 0,9523 0,0046 0,0432 0,5135 0,9542 0,0135 0,0479 C-test (u1) 0,5054 0,9520 0,0054 0,0436 0,5147 0,9554 0,0147 0,0462 C-test (u) 0,5053 0,9520 0,0053 0,0435 0,5151 0,9529 0,0151 0,0458 n=100 LASSO 0,5011 0,9793 0,0011 0,0295 0,5048 0,9861 0,0048 0,0318 C-test (u1) 0,5008 0,9798 0,0008 0,029418 0,5031 0,9924 0,0031 0,02991 C-test (u) 0,5008 0,9798 0,0008 0,029416 0,5031 0,9922 0,0031 0,02990 n=250 LASSO 0,5002 0,9922 0,0002 0,01821 0,5010 0,9975 0,0010 0,0185 C-test (u1) 0,5001 0,9923 0,0001 0,01822 0,5009 0,9981 0,0009 0,0184 C-test (u) 0,5001 0,9923 0,0001 0,01822 0,5009 0,9981 0,0009 0,0184

(26)

26

Tabel 4b: Situatie 2

=0.2

n=50 LASSO 0,8605 0,6756 0,3605 0,5974 0,6663 1,6412 0,1663 0,3191 C-test (u1) 0,8397 0,7769 0,3397 0,6901 0,6646 1,6480 0,1646 0,31851 C-test (u) 0,8309 0,7779 0,3309 0,6780 0,6647 1,6480 0,1647 0,31854 n=100 LASSO 0,6595 0,8671 0,1595 0,4258 0,6554 1,0294 0,2415 C-test (u1) 0,6522 0,8821 0,1522 0,4330 0,6554 1,0265 0,1554 0,2409 C-test (u) 0,6522 0,8821 0,1522 0,4329 0,6554 1,0265 0,1554 0,2409 n=250 LASSO 0,5539 0,9588 0,0539 0,2662 0,6319 1,0208 0,1319 0,2204 C-test (u1) 0,5511 0,9624 0,0511 0,2640 0,6318 1,0198 0,1318 0,2201 C-test (u) 0,5511 0,9624 0,0511 0,2640 0,6318 1,0198 0,1318 0,2201 =0.5

(27)

27

Tabel 5a: Situatie 2

=0.2

(28)

28

Tabel 5b: Situatie 2

=0.2

(29)

29

Tabel 6a: Situatie 2

=0.2

(30)

30

Tabel 6b: Situatie 2

=0.2

(31)

31

Tabel 7a: Situatie 2

=0.2

(32)

32

Tabel 7b: Situatie 2

=0.2