Het Daviesprobleem in een niet-lineaire regressie : optimaal toetsen als een nuisance parameter alleen ge denticeerd is onder de alternatieve hypothese

Het Daviesprobleem in een niet-lineaire regressie

alternatieve hypothese

Bachelorscriptie Econometrie Eleanoor Polder

10979301 22 December 2017

Begeleider: Dr. K.J. van Garderen Abstract

In dit onderzoek staat een niet-lineair model met het Daviesprobleem centraal. Doordat er een nuisance parameter is die alleen onder de alternatieve hypothese voorkomt, gelden de asymptotische eigenschappen van de klassieke toetsen niet. Als oplossing voor dit probleem wordt de average exponenti¨ele vorm van de klasieke toesten op het model toegepast. Tot slot wordt de point optimaltoets uitgevoerd, hieruit blijkt dat de power steeds lager wordt voor een kleinere waarde van de nuisance parameter die verdwijnt onder de nulhypothese.

Verklaring eigen werk

Hierbij verklaar ik, Eleanoor Polder, dat ik deze scriptie zelf geschreven heb en dat ik de volledige verantwoordelijkheid op me neem voor de inhoud ervan. Ik bevestig dat de tekst en het werk dat in deze scriptie gepresenteerd wordt origineel is en dat ik geen gebruik heb gemaakt van andere bronnen dan die welke in de tekst en in de referenties worden genoemd. De Faculteit Economie en Bedrijfskunde is alleen verantwoordelijk voor de begeleiding tot het inleveren van de scriptie, niet voor de inhoud.

Inhoudsopgave

1 Inleiding

2 Analyse van het Daviesprobleem en mogelijke oplossingen 3

2.1 Klassieke toetsen . . . 3

2.2 Mogelijke oplossingen voor het Daviesprobleem . . . 5

2.2.1 Davies . . . 5

2.2.2 King en Shively . . . 6

2.2.3 Pavlidis en Tsionas . . . 6

2.2.4 Andrews en Ploberger . . . 7

3 Onderzoeksmethode 9 3.1 Defini¨eren Model . . . 9

3.2 Average Exponenti¨ele Toetsen . . . 9

3.3 Point Optimaltoest . . . 11

4 Resultaten en Analyse 12 4.1 Klassieke Toetsen . . . 12

4.2 Average Exponenti¨ele Toetsen . . . 13

4.3 Point Optimaltoets . . . 14

1

Inleiding

Neem het model:

yi = β1+ β2xi+ β3xγi + i, (1.0.1)

met  ∼ N (0, 1).

Bij het verkrijgen van dit model wordt er in eerste instantie getoetst op niet-lineariteit en de relevantie van x. Om te toetsen of de conditionele verwachting van y lineair van x afhangt wordt de hypothese: H₀(a): γ = 1, getoetst. Daarnaast wordt er getoetst of y van x afhangt, dit kan op twee manieren gedaan worden. Ten eerste kan de hypothese H₀(b) : γ = 0 en β2 = 0 worden toegepast. Een andere manier om dit te toetsen is H0(c) : β3 = 0 en β2 = 0.

Het probleem ontstaat wanneer β3 = 0 getoetst wordt, daarom staat de volgende hypothese

centraal in dit onderzoek:

H0 : β3 = 0 H1: β36= 0. (1.0.2)

Bij het toetsen van de hypothese is β3 de parameter of interest, dit is de parameter die

getoetst wordt. β1, β2 en γ zijn nuisance parameters, dit zijn parameters die wel van belang

zijn voor het model, maar deze worden niet geanalyseerd of getoetst. Onder hypothese 1.0.2 is γ alleen ge¨ıdentifceerd onder de alternatieve hypothese. In dit geval is γ een nuisance parameter die verdwijnt onder de nulhypothese. Het gevolg hiervan is dat de asymptotische optimale eigenschappen van de klassieke testen; de Lagrange Multiplier-test (LM), de Likelihoodratio-test (LR) en de Wald-test, niet meer gelden. Zodoende geldt de asymptotische χ2 verdeling van de LM-, LR- en Wald-toets onder dit probleem niet en kan het asymptotisch kritiek gebied hieruit verkregen niet gebruikt worden onder de standaard resultaten. Een conclusie trekken over de hypothese op basis van de eigenschappen van de klassieke standaard asymptotische toetsen is hierdoor niet mogelijk. Dit is de aanleiding om dit probleem te onderzoeken en hier een oplossing voor te genereren. Dit toetsingsprobleem werd in 1977 door Davies ge¨ıntroduceerd en geanalyseerd, aan de hand daarvan stelde hij

een oplossing voor. Sindsdien wordt deze complicatie ook wel het Daviesprobleem genoemd. Na Davies volgden meer onderzoekers die het probleem onderzochten en een oplossing aandroegen. Ook in dit onderzoek staat centraal, hoe een model met een nuisance parameter die niet ge¨ıdentificeerd is onder de nulhypothese getoetst kan worden.

De methode die wordt gebruikt om deze centrale vraag te beantwoorden wordt nu uitgelicht. De data wordt gegenereerd door middel van simulaties. Op basis van deze simulaties worden de klassieke LM-, LR-, en Wald-toets uitgevoerd. De resultaten van de toetsen worden achteraf geanalyseerd en vergeleken. De oplossing die wordt gebruikt in dit onderzoek is gebaseerd op ’Optimal Test When a Nuisance Parameter is Present Only Under the Alternative’ (Andrews & Ploberger, 1994). Dit is de average exponenti¨ele vorm van de klassieke toetsen. De resultaten van deze toetsen worden vergeleken en beoordeeld door middel van de point optimal toets.

De opbouw van het onderzoek wordt nu verder toegelicht. In het tweede hoofdstuk worden de asymptotische klassieke toetsen en de bruikbaarheid hier van in een model met het Daviesprobleem beschreven. Daarnaast komen er verschillende eerdere oplossingen aanbod om een indicatie te krijgen hoe het probleem door verschillende onderzoekers wordt aangepakt. Hierin wordt de oplossing van Andrews en Ploberger (1994) uitvoerig uitgelicht, omdat daar de onderzoeksmethode van dit onderzoek op gebaseerd is. Daarna zal in het derde hoofdstuk de opzet en inhoud van het eigen onderzoek naar voren komen. In dit hoofdstuk wordt het model gedefinieerd, de klassieke toetsen gegeven, de average exponenti¨ele vorm van deze toetsen benoemd en de point optimaltoets uitgelicht. In hoofdstuk 4 staan de resultaten van het eigen onderzoek en de interpretatie hiervan. Tot slot wordt het hele onderzoek samengevat en wordt er een duidelijk antwoord op de centrale vraag geformuleerd in de conclusie.

2

Analyse van het Daviesprobleem en mogelijke oplossingen

In dit hoofdstuk wordt eerst een beschrijving van de drie klassieke toetsen gegeven onder de asymptotische eigenschappen en de bruikbaarheid hiervan bij een model met het Daviesprobleem. Vervolgens wordt er een aantal voorgestelde oplossingen voor toetsen waarbij de nuisance parameter verdwijnt onder de nulhypothese geanalyseerd om zo een beeld te krijgen van hoe verschillende onderzoekers met het Daviesprobleem omgaan. Tot slot wordt de optimale average exponenti¨ele toets uitvoerig besproken, aangezien daar de onderzoeksmethode op gebaseerd is.

2.1 Klassieke toetsen

De drie asymptotische klassieke toetsen, de LR-, LM- en Wald-toets, worden in deze subparagraaf uitgelicht onder de asymptotische eigenschappen, vervolgend wordt aangetoond waarom deze niet gelden onder hypothese 1.0.2 en tot slot wordt beschreven hoe deze toetsen in een model met het Daviesprobleem uitgevoerd kunnen worden. De LR-toets is gebaseerd op het verschil tussen de loglikelihood met de unrestricted schatters en de loglikelihood met de restricted schatters. Als het verlies van de loglikelihood waarde door de restrictie te groot is, te meten op de verticale as in Figuur 1, zal de nulhypothese verworpen worden. De formule voor deze toets wordt gegeven door:

LR = 2(`(ˆθ) − `(˜θ)) ∼ χ2(g) (2.1.1)

Waar de LR-test de maximum likelihoodschatters onder de nul- en de alternatieve hypothese vereist, hebben de LM- en de Wald-test slechts ´e´en optimalisatie nodig. De LM-test is enkel op het restricted model gebaseerd. Als de gradi¨ent van de loglikelihood genomen met de restricted maximum likelihoodschatters te veel van nul afwijkt, zal de nulhypothese worden verworpen. De score-versie van deze toetsingsgootheid wordt gegeven door:

LM = (∂`( ˜θ) ∂θ )0(In)

−1₍∂`( ˜θ)

∂θ ) ∼ χ

De Wald-toets daarentegen is alleen gebaseerd op het unrestricted model. In dit geval wordt de nulhypothese verworpen als de geschatte maximum likelihoodschatters te veel verschillen van de restrictie onder de nulhypothese, te zien in de horizontale lijn van Figuur 1. De vergelijking voor deze toets wordt gegeven door:

W = r(ˆθ)0(R1I−1(ˆθ)R10)−1r(ˆθ) ∼ χ2(g) (2.1.3)

In deze toetsingsgrootheden zijn ˆθ en ˜θ gedefinieerd door de Maximum Likelihoodschatter van θ onder respectievelijk de nul- en de alternatieve hypothese. Daarnaast worden de loglikelihood, de scorevector, de Hessiaan en de Informatiematrix van het model gegeven door respectievelijk `(θ), s(θ), H(θ) en I(θ). De asymptotische verdeling van alle drie de klassieke toetsen is een χ2(g)-verdeling.

Figuur 1: Grafische weergave van de klassieke toetsen

Echter, zullen door het ontbreken van de nuisance parameter onder de nulhypothese deze toetsen niet meer voldoen aan deze asymptotische eigenschappen. Een duidelijk voorbeeld hiervan is als de LR-toets op model 1.0.1 wordt uitgevoerd. De maximum likelihoodschatters onder de alternatieve hypothese wordt gegeven door ˆβ1, ˆβ2, ˆβ3 en ˆγ.

Onder de nulhypothese worden enkel de schatters van ˜β1, ˜β2 en ˜β3 verkregen. In dit geval is

LR-test niet asypmtotisch correct worden uitgevoerd (Heij et al, 2014).

In dit onderzoek worden deze toetsen, onder het Daviesprobleem, uitgevoerd. De Wald-toets is enkel gebaseerd op de de schatters van het unrestricted model. Deze toetsingsgrootheid kan dus zonder problemen verkregen worden. Echter, geldt het kritieke gebied verkregen uit de asymptotische χ2(g)-verdeling niet. Om de toets toch bruikbaar te maken, wordt er een kritiek gebied gegenereerd door het 95e percentiel van de gesimuleerde Wald-uitkomsten te nemen. Om de LR- en LM-toetsen te kunnen uitvoeren moet er een schatter van γ onder de nulhypothese gedefineerd worden. Hiervoor wordt γ geschat onder de alternatieve hypothese gebruikt. Met deze waarden kan de LR-toetsingsgrootheid verkregen worden. De LM-toetsingsgrootheid wordt verkregen door dezelfde waarde van γ onder de nulhypothese te definieren. Daarnaast moet voor het uitvoeren van deze toets de gegeneraliseerde inverse van de Hessiaan genomen worden, om zodoende de Informatiematrix te verkrijgen. Dit komt omdat onder de restrictie de laatste kolom en rij van de Hessiaan gelijk is aan nul, de determinant hierdoor gelijk is aan nul en de reguliere inverse hierdoor niet verkregen kan worden. Voor de LM- en de LR-toets, wordt op dezelfde manier een kritieke waarde gegenereerd zoals bij de Wald-toets. Op deze manier kunnen de klassieke toetsen toch bruikbaar worden uitgevoed in een model waar de nuisance parameter alleen ge¨ıdentificeerd is onder de alternatieve hypothese.

2.2 Mogelijke oplossingen voor het Daviesprobleem

In paragraaf 2.3 worden vier verschillende oplossingen voorgesteld die in eerder onderzoek zijn geanalyseerd, inclusief de oplossing van Andrews en Ploberger (1994). Deze wordt gebruikt in dit onderzoek.

2.2.1 Davies

In het onderzoek ’Hypothesis Testing When a Nuisance Parameter is Present Only Under the Alternative’ van Davies (1977) wordt het toetsingsprobleem, dat ontstaat als een nuisance parameter alleen aanwezig is onder de alternatieve hypothese, ge¨ıntroduceerd. Tegenwoordig

wordt er nog steeds naar het ’Daviesprobleem’ verwezen. Door het Daviesprobleem kunnen standaard asymptotische toetsen zoals de LR-toets en de C(α) toets niet worden gebruikt. Echter kunnen deze methodes, onder bepaalde voorwaardes, wel worden gebruikt om er een Gaussian process van te maken. Davies laat zien hoe van het originele probleem een Gaussian process wordt gemaakt. Een benadering hiervan is om een toets te baseren op de hele random functie of stochastisch process, Zn(θ), als een functie van θ. Vervolgens presenteert Davies twee

toetsen die nu gebruikt kunnen worden. De eerste wordt afgeleid uit Roy’s type I principle, deze kan ook worden afgeleid als een LR-toets. De tweede toets kan worden verkregen door middel van de locale optimale Bayes toets als de verdeling uitgaat van θ. Met geschatte waardes voor het significantie level en de power laat Davies zien dat dit een bruikbare oplossing voor het probleem is.

2.2.2 King en Shively

Ongeveer zestien jaar later werd dit probleem in ’Locally Optimal Testing When a Nuisance Parameter is Present Only Under The Alternative’ van King en Shively (1993) onderzocht. De oplossing die zij geven bestaat uit twee stappen. Ten eerste wordt het toetsingsprobleem gereparametriseerd. Nadat deze techniek is toegepast kan de LMMPI-toets (King & Wu, 1990) worden gebruikt. De LMMPI- en SSEWE-toetsen worden empirsch vergeleken door middel van gesimuleerde powers. Hieruit blijkt dat de power van LMMPI voor alle waarden hoger is dan die van SSEWE.

2.2.3 Pavlidis en Tsionas

Vervolgens geven Pavlidis en Tsionas een andere oplossing in ’The Spurious Effect of ARCH Errors on Lineairity Tests: a Theoretical Note and an Alternative Maximum Likelihood Approach’ (2017). Het artikel begint met het Smooth Transition Autogregressive (STAR) model. Het Daviesprobleem wordt opgelost door de transitiefunctie te vervangen door een eerste, tweede of derde orde Taylorbenadering. Toetsen op lineairiteit worden gebaseerd op de least-square (LS) covariantie matrix schatter. Voor deze schatter, in een model met een

autoregressive conditional heteroscedastische (ARCH) fouten, wordt een bias afgeleid. Hieruit blijkt dat toetsen onterecht niet-lineariteit aantonen. Vervolgens worden er verschillende oplossingen voor modellen met ARCH fouten gegeven. De eerste methode is gebaseerd op heteroskedasticiteit constante (HC) covariantie matrix schatters. De tweede methode gaat uit van de Wild Bootstrap (WB) techniek en tot slot wordt er een benadering gegeven van de Maximum Likelihood (ML). Deze methodes worden vergeleken door middel van twee Monte-Carlosimulaties en hieruit blijkt dat de ML-methode ten opzichte van de LS betere size properties heeft. Daarnaast heeft deze een hogere power dan de toetsen gebaseerd op HC en WB.

2.2.4 Andrews en Ploberger

Tot slot wordt het onderzoek, ’Optimal Test When a Nuisance Parameter is Present Only Under the Alternative’ door Andrews en Ploberger (1994) geanalyseerd, met als doel een optimale test af te leiden voor toetsingsproblemen waarin de nuisance parameter alleen aanwezig is onder de alternatieve hypothese.

Ten eerste worden de paramaters ge¨ıdentificeerd. De overkoepelende parameter θ ∈ Θ ⊂ Rs bestaat uit θ = (β0, δ0) met β ∈ Rp en δ ∈ Rq waarbij s = p + q. π ∈ Π is de extra parameter die alleen ge¨ıdentificeerd is onder de alternatieve hypothese. Kortom, β is de parameter of interest en π de nuisance parameter die niet ge¨ıdentificeerd is onder de nulhypothese. De hypothese wordt gegeven door:

H0: β = 0 H1: β 6= 0. (2.2.1)

De parametervector onder de nulhypothese is θ0 met bijbehorende likelihoodfunctie fT(θ0).

In de alternatieve situatie hangt de likelihood wel van π af en wordt die gegeven door fT(θ, π). Omdat de parameter π niet ge¨ıdentificeerd is onder de nulhypothese en wel onder

de alternatieve hypothese, gelden de asymptotische verdeling en optimale eigenschappen niet meer voor de standaard klassieke toetsen.

Andrews en Ploberger (1994) gebruiken een weighted average power criterion function om de optimale test af te leiden. Deze is, op enkele kleine verschillen na, soortgelijk aan die van Wald (1943). Met behulp van deze functie worden de average exponenti¨ele LM-, Wald-en LR-toets ge¨ıntroduceerd. Andrews Wald-en Ploberger (1994) focussWald-en zich in het onderoek op de ExpLMT, waar T gedefinieerd is als de steekproefgrootte. Hierbij wordt LMt(π) gegeven

door de standaard LM-tests statistic met de hypothese H0 : β = 0 tegenover Ha: β 6= 0 voor

een fixed π ∈ Π ExpLMt= (1 + c)− p 2 Z (exp(1 2 c 1 + cLMT(π))dJ (π) (2.2.2) In formule 2.2.2 is p is de dimensie van β, J (·) de weightfunctie over alle waardes van π ∈ Π en c een constante scalair die afhangt van de gekozen weightfunctie. ExpWT en ExpLRT zijn

hetzelfde gedefinieerd met respectievelijk Wt(π) en LRt(π).

In het onderzoek worden vijf assumpties genoemd waar de likelihood en het model aan moeten voldoen. Onder deze assumpties wordt stelling 2.1 gegeven.

Theorie 1 Onder de nulhypothese en de assumpties 1-5 geldt dat (a) ExpLMT_−→dχ(θ0, c), (b)

ExpWT_−→dχ(θ0, c), en (c) ExpLRT_−→dχ(θ0, c)

Aan de hand van de toetsingsgrootheid in vergelijking 2.2.2 en de verdeling die daaruit volgt in Theorie 1 kan een geldig kritiek gebied opgesteld worden en vervolgens een conclusie getrokken worden over de hypothese. Op deze manier kan een een hypothese, waarbij de nuisance parameter verdwijnt onder de nulhypothese, worden uitgevoerd op model 1.0.1.

3

Onderzoeksmethode

De onderzoeksmethode is in vier stappen te beschrijven. Ten eerste het defini¨eren van het niet-lineaire model met een hypothese die het Daviesprobleem oplevert. Vervolgens het uitvoeren van duizend gesimuleerde klassieke asymptotische toetsen. Daarna worden duizend simulaties van de average exponenti¨ele vorm van de LM-, LR- en Wald-toets op het model toegepast. Tot slot wordt een point optimaltoets uitgevoerd om te meten voor welke waarde van γ de toets de hoogste power heeft.

3.1 Defini¨eren Model

Model 1.0.1 staat centraal in dit onderzoek. Hieren worden θ = (β1, β2, β3, γ)0 en

β = (β1, β2, β3)0 gedefinieerd. De werkelijke waarden van de parameters worden

ge¨ınitialiseerd op β1= 1, β2= 1, β3 = 0.1 en γ = 2. De x-waarden worden weergeven in een

n bij drie matrix waarbij de eerste kolom uit ´enen bestaan, deze representeert de constante in het model. De tweede en de derde kolom bestaan uit de absolute waarden van een random trekking uit de standaard normale verdeling. Hierbij is n het aantal waarnemingen, deze wordt vastgesteld op honderd.  wordt ook verkregen uit een standaard normale verdeling. Met deze informatie worden de y-waarden gegenereerd. Vervolgens is het doel om hypothese 1.0.2 hierop toe te passen. Allereerst, wordt dat gedaan door de LR-, LM- en Wald-test uit te voeren zoals in paragraaf 2.1 beschreven. Deze toetsingsgrootheden worden duizend keer gesimuleerd met steeds andere waarden voor . Uit de uitkomsten wordt voor elke klassieke toets een kritieke waarde gegenereerd door het nemen van het 95e percentiel.

3.2 Average Exponenti¨ele Toetsen

Aangezien de asymptotische eigenschappen van de klassieke toetsen niet gelden, worden de average exponenti¨ele vorm van de LM-, LR- en Wald-toets ge¨ıntroduceerd om de hypothese 1.0.2 te toetsen. Hierin worden ˜β en ˆβ gegeven door de Maximum Likelihoodschatter van β onder respectievelijk de nulhypothese en alternatieve hypothese. De average exponenti¨ele

LM-toetsingsgrootheid en zijn verdeling wordt gegeven door: ExpLMn= (1 + c)− 1 2 Z (exp(1 2 c 1 + cLMn(γ))dJ (γ) d−→χ(β0, c), (3.2.1) met LMn(γ) = (B−1n ∂`( ˜β,γ) ∂β )0I −1 n ( ˜β, γ)(Bn−1 ∂`( ˜β,γ) ∂β ).

De average exponenti¨ele LR toetsingsgrootheid wordt gegeven door:

ExpLRn= (1 + c)− 1 2 Z (exp(1 2 c 1 + cLRn(γ))dJ (γ) d−→χ(β0, c), (3.2.2) met LRn(γ) = −2(`n( ˜β) − `n( ˆβ(γ), γ)).

De laatste toetsingsgrootheid voor model 1.0.1 is de average exponenti¨ele Wald-toets, die wordt gegeven door:

ExpWn= (1 + c)− 1 2 Z (exp(1 2 c 1 + cWn(γ))dJ (γ) d−→χ(β0, c), (3.2.3) met Wn(γ) = (M Bnβ(γ))0[M Iˆ n−1( ˆβ(γ), γ)M 0]−1(M Bnβ(γ)).ˆ

In deze modellen worden In, H, B als volgt gedefinieerd:

In(θ) = −B−1n ( ∂2`(θ) β )B −1 n , H = h 0 0 1 i en B =√nI3

Tot slot wordt de weighted criterion functie gegeven door:

J (γ) =              1 4(ˆγ − 2 ∗ se(ˆγ)) 1 2(ˆγ) 1 4(ˆγ + 2 ∗ se(ˆγ)) , (3.2.4)

met Cov = (−H(θ))−1 en se(ˆγ) =pCov(4, 4).

Nadat deze toetsen zijn uitgevoerd op het model, wordt op dezelfde manier als bij de klassieke toetsen een kritieke waarde gegenereerd, om zo te toetsen bruikbaar te maken.

3.3 Point Optimaltoest

Voor de point optimaltoets wordt eerst een power envelope gegenereerd. Dit wordt gedaan door middel van vergelijking 3.3.1, dit is een ratio van de likelihood functies onder de alternatieve en de nulhypothese. Hierin worden de werkelijke waarden voor de nuisance parameters gebruikt. In de noemer wordt voor β3 nul is gevoerd, en in de teller varieert β3

van -1 tot 1. Vanuit deze simulatie wordt een kritieke waarde gegenereerd, waarna een power envelope wordt gegeven.

P O = `([β1, β2, varieerβ3, γ]0) `([β1, β2, 0, γ]0)

(3.3.1) Vervolgens wordt dit proces herhaald met andere waardes voor γ, de parameter die verdwijnt onder de nulhypothese. Deze waardes zijn γ = 1.5 en γ = 0.5. De de lijn die de maximale afstand tot de power envelope minimaliseert heeft de beste power (King & Sriananthakumar, 2015).

4

Resultaten en Analyse

In dit hoofdstuk worden eerst de resultaten en analyse van de klassieke toetsen gegeven. Vervolgens worden de resultaten van de average exponenti¨ele toetsen gepresenteerd. Tot slot wordt de point optimaltoets verkregen.

4.1 Klassieke Toetsen

De eerste tien uitkomsten van de duizend simulaties van de maximumlikelihoodschatters onder de alternatieve en nulhypothese worden gegeven in respectievelijk Figuur 2(a) en Figuur 2(b).

ˆ

β3 wordt, op enkele uitschieters na, redelijk dicht rond de werkelijke waarde geschat. De

schatters van β1 en β2 onder de alternatieve en de nulhypothese verschillen, voor de meeste

waarnemeningen, slechts enkele decimalen. Daarnaast ligt 90% van de schattingen van γ tussen de nul en de vijf.

Figuur 2: Maximumlikelihoodschatters

(a) onder de alternatieve hypothese (b) onder de nulhypothese

Bij het uitvoeren van de klassieke toetsen ontstaat er nu een probleem. Namelijk, γ is niet ge¨ıdentificeerd onder de nulhypothese. Hierdoor, zoals te zien in Figuur 2(b), wordt er bij het minimaliseren van de loglikelihood onder de nulhypothese geen geschatte waarde voor γ verkregen. Er zijn een aantal manieren om deze geschatte waarden van gamma vast te stellen. In dit onderzoek wordt γ geschat onder de alternatieve hypothese gebruikt, na

het vaststellen van deze waarneming kunnen alle klassieke toetsen worden uitgevoerd. De eerste tien uitkomsten van de duizend simulaties zijn te zien in Figuur 3(a). De LM- en LR-toetsingsgrootheden zijn voor alle sumulaties identiek. In reguliere situaties is dit niet het geval. Een mogelijke verklaring voor dit verschijnsel is dat de Hessiaan van de schatters onder de alternatieve en de nulhypothese aan elkaar gelijk zijn op de laatste kolom en rij na. De laatste kolom en rij van de Hessiaan onder de nulhypothese is gelijk aan nul, door de restrictie ˜β3 = 0. De overige elementen zijn aan elkaar gelijk doordat ˆγ en ˜γ aan elkaar

gelijk zijn gesteld (Appendix I). Een eigenschap van de klassieke asymptotische toetsen is de asymptotische χ2(1)-verdeling, met bijbehorende kritieke waarde 3,8415. Een bruikbare kritieke waarde voor deze toetsen wordt gegenereerd door de toetsingsgrootheden te sorteren en het 95e-percentiel eruit te halen. De verschillende gegenereerde kritieke waarden zijn te zien in Figuur 3(b). Hierin is te zien dat deze gegenereerde kritieke waarden niet in de buurt liggen van de asympotische kritieke waarden. De toetsen uitvoeren op basis van het asymptotische kritieke gebied zou geen geldige uitkomsten geven.

Figuur 3: Uitkomsten klassieke toetsen

(a) Toetsingsgrootheid (b) Kritieke waarden

4.2 Average Exponenti¨ele Toetsen

De oplossing van Andrews en Ploberger (1994) op het Daviesprobleem is een average exponenti¨ele vorm van de klassieke toetsen. Deze komt tot stand met een weighted average

criterion functie, gegeven in formule 3.2.4, die gebaseerd is op de maximumlikelihoodschatter van γ onder de alternatieve hypothese en het 95%-betrouwbaarheidsinterval daarvan. De eerste tien uitkomsten van de honderd simulaties worden gegeven in Figuur 4(a). Opmerkelijk is dat voor alle drie de toetsen de uitkomsten hetzelfde zijn. De overeenkomst tusssen de average exponenti¨ele LM- en LR-toets is te verklaren door de identiciteit van de klassieke LM- en LR-toets. De minimale waarde die de average exponenti¨ele toetsingsgrootheid aanneemt is 6.4992, de maximale waarde is 424.6911 en het gemiddelde 21.2994. In Figuur 4(b) is te zien dat, als de waarnemingen op grootte gesorteerd worden, het verloop van de toetsingsgrootheden exponenti¨eel stijgt. Op dezelfde manier als bij de klassieke toetsen kan er bij deze uitkomsten een kritieke waarde worden gegenereerd. Deze kritieke waarde wordt gegeven door 59.2147.

Figuur 4: Uitkomsten average exponent¨ele toetsen (a) Eerste tien simulaties (b) Gesoorteerde waarnemingen

4.3 Point Optimaltoets

De power envelope wordt gegeven door de blauwe lijn in Figuur 5. Hierin zijn alle waarden van de nuisance parameters gelijk gesteld aan de werkelijke waarden en varieert β3 tussen -1

en 1. Vervolgens zijn er in het Figuur voor γ = 1.5 en γ = 0.5 twee powercurves gegenereerd. Voor γ = 1.5 wordt voor β3 < −0.5 en β3 > 0.6 de H0 altijd verworpen. Voor γ = 0.5 is

afstand tot de power envelope groter wordt.

5

Conclusie

In dit onderzoek staat het niet-lineaire model 1.0.1 centraal. Bij het toetsen van dit model wordt er in eerste instantie getoetst op niet-lineairiteit en relevantie van x. Dit model levert een probleem op zodra de hypothese 1.0.2 wordt uitgevoerd. γ wordt in dit geval alleen onder de alternatieve hypothese ge¨ıdentificeerd. Hierdoor gelden de asymptotische eigenschappen van de klassieke toetsen niet. De LM-, LR- en Wald-toetsingsgrootheden geven hierdoor geen asymptotisch geldige uitkomsten en onder andere geen geldige kritieke gebieden. Deze complicatie wordt ook wel het Daviesprobleem genoemd. In dit onderzoek wordt er naar een oplossing gezocht waarmee de hypothesetoets toch kan worden uitgevoerd op dit niet-lineaire model.

Als eerst wordt het model met zijn werkelijke waarden gedefinieerd. Vervolgens zijn er duizend uitkomsten van de klassieke toetsen gesimuleerd. In deze toetsen is ˜γ gelijke gesteld aan ˆγ. De toetsingsgrootheden van de LR- en de LM-toets zijn identiek voor elke simulatie. Dit is mogelijk te verklaren door de Hessiaan die onder de nul- en de alternatieve hypothese, op de laatste rij en kolom na, aan elkaar gelijk zijn. De uitkomsten van deze klassieke toetsen voldoen niet aan de asymptotische eigenschappen, en zo kan de asymptotische χ2-verdeling niet gebruikt worden om een kritiek gebied te verkrijgen. Om deze toetsen toch bruikbaar te maken is er een kritiek gebied gegenereerd door het 95e-percentiel te nemen. Vervolgens worden de average exponenti¨ele toetsen verkregen, deze zijn ge¨ıntroduceerd door Ploberger en Andrews (1994). De toetsingsgrootheden zijn voor alle simulaties aan elkaar gelijk. De verklaring voor de gelijkenis van de average exponenti¨ele LR- en LM-toets is te verklaren door de identiciteit van de klassieke LR- en LM-toets. Ook voor deze uitkomsten wordt er een kritieke waarde gegenereerd, om zo te toets bruikbaar. Zo kan er geconcludeerd worden dat de LM-, LR- en Wald-toetsen en de average exponenti¨ele vorm hiervan, met de gegenereerde kritieke waarden, bruikbaar zijn in een model waar een nuisance parameter niet ge¨ıdentificeerd is onder de nulhypothese. Vervolgens wordt de point optimaltoets uitgevoerd, dit is een ratio van de loglikelihood met de werkelijke waarden voor de nuisance parameters en een vari¨erende

waarde voor β3 onder de alternatieve hypothese. Hieruit blijkt dat voor kleinere waarden van

Bibliografie

Andrews, D. W., & Ploberger, W. (1994). Optimal tests when a nuisance parameter is present only under the alternative. Econometrica: Journal of the Econometric Society 62.6: 1383-1414.

Davies, R. B. (1987). Hypothesis testing when a nuisance parameter is present only under the alternative. Biometrika 74.1: 33-43.

Heij, C. et al (2014). Econometric Methods with Applications in Business and Economics (pp. 230-238). New York: Oxford University Press.

King, M.L., & Shively, T. S. (1993). Locally optimal testing when a nuisance parameter is present only under the alternative. The Review of Economics and Statistics 75.1: 1-7. King, M. L., & Sriananthakumar, S. (2015). Point optimal testing: A survey of the post

1987 literature. Model Assisted Statistics and Applications, 10 (3), 179-196.

Paflidis, E., & Trionas, E. (2017). The Spurious Effect of ARCH Errors on Linearity Tests: A Theoretical Note and an Alternative Maximum Likelihood Approach. Studies in Nonlinear Dynamics and Econometrics.

Wald, A. (1943). Tests of statistical hypotheses concerning several parameters when the number of observations is large. Transactions of the American Mathematical society 54.3: 426-482.

Appendix

De loglikelihood van model 3.1.1 wordt gegeven door ` (θ) = −1₂Pn

i=1(yi− β1− β2xi− β3xγi) 2

De scorevector van de likelihood wordt gegeven door

s(θ) =         Pn i=1(yi− β1− β2xi− β3x γ i) Pn i=1(yi− β1− β2xi− β3xγi)xi Pn i=1(yi− β1− β2xi− β3x γ i)x γ i β3Pni=1(yi− β1− β2xi− β3xγi) log (xi) xγi         De Hessiaan van de likelihood wordt gegeven door H(θ) = − Pn i=1         −1 −xi −xγi −β3log(xi)xγi −xi −x2_i −xγ_ixi −β3log(xi)xγ_ixi −xγ_i −x_ixγ_i −x2γ_i −β₃log(xi)x2γi

−β3log(xi)xγ_i −β3xilog(xi)xγ_i −β3log(xi)x_i2γ (β3i(log(xi)2x_iγ− β32(log(xi))2x2γ_i

        De Informatiematrix van de likelihood wordt gegeven door

I = E[−H] =         N Pn i=1xi Pni=1x γ i β3Pni=1log(xi)xγi Pn i=1xi Pn i=1x2i Pn i=1x γ ixi β3 Pn i=1log(xi)x γ ixi Pn i=1x γ i Pn i=1xixγi Pn i=1x 2γ i β3Pni=1log(xi)x2γi

β3Pn_i=1log(xi)x_iγ β3Pn_i=1xilog(xi)xγ_i β3Pn_i=1x_iγlog(xi)xγ_i β32

Pn i=1(log(xi))2x 2γ i        