Over de optimaliteit van "adaptief" voorspellen

Over de optimaliteit van "adaptief" voorspellen

Citation for published version (APA):

Winkel, van, E. G. F. (1976). Over de optimaliteit van "adaptief" voorspellen. (TH Eindhoven. THE/BDK/ORS, Vakgroep ORS : rapporten; Vol. 7634). Technische Hogeschool Eindhoven.

Document status and date: Gepubliceerd: 01/01/1976

Document Version:

Uitgevers PDF, ook bekend als Version of Record

Please check the document version of this publication:

• A submitted manuscript is the version of the article upon submission and before peer-review. There can be important differences between the submitted version and the official published version of record. People interested in the research are advised to contact the author for the final version of the publication, or visit the DOI to the publisher's website.

• The final author version and the galley proof are versions of the publication after peer review.

• The final published version features the final layout of the paper including the volume, issue and page numbers.

Link to publication

General rights

Copyright and moral rights for the publications made accessible in the public portal are retained by the authors and/or other copyright owners and it is a condition of accessing publications that users recognise and abide by the legal requirements associated with these rights. • Users may download and print one copy of any publication from the public portal for the purpose of private study or research. • You may not further distribute the material or use it for any profit-making activity or commercial gain

• You may freely distribute the URL identifying the publication in the public portal.

If the publication is distributed under the terms of Article 25fa of the Dutch Copyright Act, indicated by the “Taverne” license above, please follow below link for the End User Agreement:

www.tue.nl/taverne Take down policy

If you believe that this document breaches copyright please contact us at: openaccess@tue.nl

providing details and we will investigate your claim.

7601.92~

T.

H. EINOHO\'EfJ

OVER DE OPTIMALITEIT VAN "ADAPTIEF" VOORSPELLEN

Bob van Winkel

I. Inleiding.

Uitgangspunt van deze studie vormt een artikel van Theil en Wage (1964), waarin een stochastisch model voor een tijdreeks wordt gepostuleerd en - in combinatie hiermee - de predictor van

Winters (1960) wordt voorgesteld. Ret blijkt mogelijk uitdrukkingen af te leiden voor de optimale waarden van de in de predictor komende parameters. De beschouwing beperkt zich tot een-staps voor-spellingen. Door gebruik te maken van enige resultaten uit het werk van Box en Jenkins (1970), blijken Theil en Wages conclusies gege-neraliseerd te kunnen worden.

2. Ret model.

We beschouwen het stochastische proces {x

t}, t

=

0, ~I, ~2, ,

gedefinieerd door

x_t

=

t;,_t + u_t

met

De storingstermen u

t en vt hebben de volgende eigenschappen

(2.1) (2.2) (2.3) 1.

=

0 1. ;t 0

(2.4)

(2.5)

o

j

=

0 j ;t 0 aIle 1 (2.6) (2.7)

Beschouwen we t:t ais het systematisch deel of het "nivo" van x ten tijde t, dan Iigt het voor de hand de grootheid

n

_t - immers de ver-andering in het nivo na een periode - ais "trend" aan te duiden

*).

Definieren we de achterwaartse differentie-operator V ais

(2.8) n

=

2, 3, •..

dan voIgt uit de relaties (2.1 tim (2.3)

(2.9) Vn = v t (2.10) t zodat

v

2t: = v t (2. 11 ) t en

v

2x = v t + V 2 _(2.12) t ut ofweI

v

2x r_t met r_t v + u t - 2ut_1 + u 2 (2.13) t t

t-*) Deze aanduidingen sluiten o.i. beter bij het algemene taalgebruik aan dan de door Theil en Wage gebruikte termen "trend" resp. "trend change"

(op. cit. p. 198). Ook hun gebruik van de term '~daptive"verdient geen navolging; juister 1S het, de term te reserveren voor die voorspellers, waarvan de parameters door de gesignaleerde voorspelprestatie worden ge-stuurd. In de regeltechniek is dit gebruikelijk.

Blijkens de eigenschappen van u

t en vt is rt een covariantie-stationair proces met

(2.14) De autocovariantiefunktie y (k).k

r 0, I, 2, .•. van rt kan worden

berekend via

(2.15) Voor k

₌

0, 1, 2, resp. k~3 vinden we, via (2.5) tim (2.7)

YO(r) (6 + g2)02 u Y1(r) -4 02 u Y2(r) 02 u yk(r) 0 k~3 met 0 v > 0 g

₌

0 u (2.16) (2.17) (2.18) (2.19 ) (2.20) 2 2 *

de positieve vierkantswortel voor van 0 resp. 0 ) .

v u

worden beschouwd als een moving-average Hierin stellen 0 en 0

v u

Blijkens (2.16) tim (2.19) mag {r t} proces van de tweede orde [MA(2)]

(2.21) met I"(a a .) .-C t t-J

·r:

j

=

0 j ~ 0 (2.22) Op grond van (2.13) is {x

t} blijkbaar een lMA (0,2, 2)-proces. Voor de autocovariantiefunktie van r

t geldt ditmaal **)

* )

Cf. Nerlove en Wage (1964), p. 208

YO' (r) (I + () 2 + () 2)a 2 I 2 a (2.23) YI'(r)

=

-G 2 I(I-G2)a·a (2.24) Y2' (r) -8 a2 _(2.25) '2 a Y_k' (r) 0 k;:::3 _(2.26) 2 Uitdrukkingen voor

e

_I,

e

2 en a a kunnen worden gevonden door geIijksteIIing van yk(r) en Y'k(r) voor k

=

2, I, O.

Voor k

=

2 vinden we - Aa2 a2 2 a u 2

e

_-

a w.

-2 ;2 a a 1 a

e

₂ = met f a > 0 _(2.27) £2 au

Hierin is _aa de positieve vierkantswortel van a2

.

a Voor k

₌

I voIgt analoog

e

₌

4

1 _{f2+ 1}

en voor k

=

0

g(f) (f2_ 1)2

f(f2+I )

De eis g > 0 beperkt het aantal oplossingen f, met f > 0, tot twee. Nu weten we, dat voor het algemene ARMA(p,q)-proces de coefficienten niet eenduidig uit de autocovariantiefunktie kunnen worden afgeleid. Door de extra eis van omkeerbaarheid te steIIen, wordt de uniciteit

van de coefficientenvector weI gegarandeerd.

Om in te zien waartoe dit in ons geval Ieidt, definieren we eerst de

~-operator B d.m.v.

(2.28)

Bat

=

a_t-l

Bn_at B(Bn- 1a ) n = 2,3, •••

t

We hebben dan, bIijkens (2.13) en (2.21):

'il2_x . 2

t = (l4:l1B- 82B ) at

Bezien we de karakteristieke vergeIijking van het rechteriid 2 1-8 B-8B =0 1 2 (2.30) (2.31) (2.32) -1

en noemen we de worteis HI en H₂-1 ' dus

(2.33)

dan voIgt door geIijksteIIing van de coefficienten van Bi(i=0,1,2)

HI + H 2 = 8 4 (2.34) 1 _f2+l H 1H2 -8 1 (2.35) 2

7"

Nu hebben Box en Jenkins aangetoond, dat de autocovarianties niet veranderen door vervanging van een willekeurig aantal der reele worteis door hun reciprook. Komen er paren (toegevoegd) complexe worteis voor, dan geldt de bewering indien de vervanging paarsge-wijs geschiedt. Dit laatste is hier van toepassing, omdat voor (2.32) geldt 8 2 8 1 + 4 2 -4(£2_1)2 (f2+l)2 f 2 < 0 (2.36)

Vervangen we nu 1n (2.33) de worteis door hun omgekeerde, dan ont-staat de nieuwe karkateristieke vergeIijking

(I - H '-IB)(I - H -IB)

Definieren we de nieuwe wortels

*

-I en H 2 v~a (2.38)

*

-I 2 HI

=

H_I

=

f H₂

waarbij het tweede gelijkteken aan (2.35) is ontleend, dan leidt substitutie van

*

H 2 HI

=

en

7

~n (2.34) en (2.35) tot

*

H + I

*

_HI H 2

=

--2 f 4 (2.39) (2.40) * * f2 I HI H2 = = *f2 met f*

_I

I (2.41) (2.42) Vergelijken we het resultaat met (2.34) en (2.35) dan kunnen we

concluderen, dat door de gelijkstelling van yk(r) en Y'k(r) (k 2,1,0)

twee oplossingen voor f onstaan, die elkaars omgekeerde zijn. Bij elke oplossing hoort een eigen(8I ,8

2)-waarde. De conclusie wordt bevestigd door (2.29), immers

I

g(f) = g(l) (2.43)

De omkeerbaarheidsvoorwaarden voor het MA(2)-proces luiden

8 2 + Ell < I 8 2 - 61 <1 -I < 8 2 < (2.44)

*) Deze volgen rechtstreeks uit de eis, dat de wortels van (2.32) buiten de eenheidscirkel vallen.

en leiden tot de slotsom dat voor omkeerbaarheid f >

moet gelden. De oplossing ~s daarmee uniek geworden. 3. De voorspellingen.

Nu het oorspronkelijke stochastische proces {x

t}, zoals dit was gedefinieerd door (2.1) tim (2.7), tot een lMA (0,2,2) proces is getransformeerd, blijkt het mogelijk de l-staps voorspellingen te berekenen.*)

De prognoses hebben de eigenschap, dat de verwachte voorspelfout nul is en de verwachte kwadraatfout (MSE) minimaal.

Als functie van 1 blijkt de voorspelling lineair te zijn

De grootheden bO(t) en b

1(t) kunnen wederom worden geinterpreteerd als schattingen, gedaan ten tijde t, van het nivo resp. de helling van x

t; zij voldoen aan de volgende recurrente betrekkingen:

(3.2)

(3.3) met

(3.4)

De term at representeert de eenstaps-voorspelfout

(3.5)

Eliminatie van a en

x

1(1) leidt tot

t t

-(3.6) (3.7)

x

(1)

t (3.8)

Van de betrekkingen (3.6) en (3.7) representeert de eerste term in het rechter1id "nieuwe evidentie", gebaseerd op x_t terwij1 de 1aatste term gebaseerd is op schattingen van een periode gleden. Beide termen

worden via een gewogen gemidde1de samengeste1d. Het toege1aten gebied voor (AO,A

I) kan worden afge1eid uit (2.44) en

(3.4);

1ve vinden

A > 0

I (3.9)

Merk op dat de gewichten I - A

O en I - Al in de rechter1eden van (3.6) en (3.7) niet noodzake1ijk positief zijn.

De predictor, gedefinieerd door (3.6), (3.7) en (3.8) ~s die van Holt, o.m. behande1d door Contie (1964).

Voor de gemidde1de kwadraatfout ge1dt

MSE(l)

=

02 {I + (1-1) 2 1(1-1)(21-1) 2 l(l-I)A A }(3.IO)

a _AO + 6 Al + 0 I

en ~n hetbijzonder

MSE(l ) (3.11)

Omdat de verwachte fout nul is, ste11en (3.10) en (3.11) tevens de varianties van de voorspe1fout voor.

4. Verband tussen de Holt en de Winters predictor.

h d 1 d k · ~~ d . . *)

De met 0 evan Ho t wor t vaa ~n eeen a em genoemd met d~e van W~nters ~

Ana100g aan (3.6) tim (3.8) ge1dt voor Winters' predictor

,

,

bO(t) = A

_o

x

t + (I-AO ) [bO(t-I) + bI(t-I)] (4. 1)

,

,

b

l(t) = Al [bO(t) - b (t-I)]1 + (I-AI )bI(t-l) (4.2)

x

_t(1) bO(t) + b_l(t)l

*) en met de twee-parameter variant van Brown's "double exponential smoothing", die hier niet za1 worden besproken.

Het en~ge verschil bestaat hierin, dat bij het schatten van de helling de nieuwe realisatie x

t ~s vervangen door de nieuwe nivo-schatting bO(t). Hoe groot de overeenkomst tussen beide methoden is, kan zichtbaar

worden gemaakt door voor elk van beiden de voorspelling xt(l) te schrijven als funktie van uitsluitend de realisaties x •

t

Door gebruik te maken van de eerder (zie (2.30)) gedefinieerde lag-operator B kunnen we uit (3.6) en (3.7) afleiden:

(l->::OB)b_O(t) - >':OBb

l(t) AOx t

AIBbO(t) + (l->::IB)bl(t) _Alxt

-met A

_o

= I-A en _Al = I-A

0 1 (4.4)

(4.5)

Hieruit lossen we op (4.6) ~t met - 2 ~

=

~OB + (A O+AOAI-2)B + I Uit (3.8) volgt voor de voorspelling

en meer ~n het bijzonder~ voor 1=1

(4.7)

(4.8)

(4.9)

De uitdrukking (4.9) kunnen we gebruiken om de voorspelling te schrij-van als lineaire funktie schrij-van x . (i

=

0,1,2, .... )

t-~

Stellen we de eis dat de gewichten afnemen bij toenemende i, dan dienen de nulpunten van ~ buiten de eenheidscirkel te liggen. Dit leidt tot de eerder ontmoete voorwaarden (Cf.(3.9))

Geheel analoog kunnen we de Winters-predictor behandelen. We vinden A '(1+1.. '1) + A '(A '-I-A 'l)B 0, 1 0 1 1 lJ.' (4.11) Voor 1=1 voIgt A '(l+>.. ') - A 'B 0 1 0 !J.' (4.12) met lJ.' = (I-A ') B2 + (A '+A 'A ') B + 1

o

0 0 1

De voorwaarden voor

A '

_o

en >.. ' luiden ditmaal 1 (4.13) A ' > 0

o

A 'I > 0 \ '1\

_o

< - -_2+1..4 I (4.14)

Vergelijken we nu de zogenoemde overdrachtsfunkties uit (4.8) en (4.11), dan blijkt dat we te maken hebben met twee speciale gevallen van een algemene trendcorrigerende predictor, van de vorm

(I-P)+(P-Q+I)1+{(2P-Q)+(Q-P-l)1}B PB2-QB+l

(4.15)

xt(l) = (2-Q)+(P-l)B *) (4.16)

PB2-QB+I Met als toegelaten gebied

IQI < I+P (4.17)

en

Ipi

< I **) (4.18)

Voor Holt en Winters gelden resp.

Q 2-1.. -A

_o

P = I-A (4.19)

1 0

Q 2-1.. '-A 'A ' P I-A ' (4.20)

0 0 1 0

*) Voor 1=1 is oak Browns's methode te beschouwen als speciaal geval; voor 1> 1 niet meer. Zie noot pag.8

**) De resultaten va or 1=1 zijn, met gebruik van voortbrengende funkties, door Ward (1963) voor het eerst afgeleid.

We constateren dat beide predictoren voor elke reeks realisaties

en voor eZke voorspeZtermijn Z, tot identieke voorspellingen leiden,

indien voldaan is aan de volgende relaties tussen de parameters:

A

_o

A'

0 A = A 'A ' 1 0 1 5. Voor1opige conc1usie. (4.21)

Het proces (2.1) tIm (2.7) b1ijkt ~n de It1A(0,2, 2)-vorm te kunnen worden geschreven, wat aan1eiding geeft tot een optima1e predictor

x

_t(l) die het Holt-schema b1ijkt te vo1gen.

De betreffende parameters kunnen op de door Box en Jenkins *) aange-geven w~Jze, via een niet-1ineaire k1einstekwadratenprocedure, worden geschat.

Winters' predictor, met coefficienten ( AO',A

1') die m.b.v. (4.21) uit (AO,A

1) kunnen worden afge1eid, 1eidt tot identieke voorspe11ingen en is derha1ve ook optimaa1, voor 1=1,2, ...

6. Theil en Wages benadering.

Het model (2.1) tIm (2.7) is door Theil en Wage (1964) bestudeerd. Het model wordt gecombineerd met Winters' predictor, waarna optima1e waarden van de parameters A

O' en AI' kunnen worden bepaa1d. A1s

criterium gebruiken de auteurs de verwachting van het kwadraat van de een-staps voorspe1fout en komen tot het vo1gende resu1taat

A O

,

2h Al

,

= h

T+il

MSE(1) l+h = I-h 2 (J u 4h4 2 met g I-h2 (6. 1) (6.2) (6.3) *) Op.cit., Ch.7

en met g gedefinieerd als in (2.20).

Merk op, dat we nu beschikken over twee uitdrukkingen voor MSE(I). Vanuit de lMA(0,2,2)-versie van het proces voIgt, zoals we zagen

MSE(I) = f2

2

(J u

(6.4)

terwijl (6.2) rechtstreeks werd afgeleid. Beide uitdrukkingen blijken inderdaad identieK, wat m.b.v. de relaties (6.3) en (2.29) eenvoudig kan worden geverifieerd

*).

Uitdrukking (6.4) is echter een bijzonder geval van een meer algemene uitdrukking voor MSE(I) (zie (3.10). Voor 1=2 laat zich bijvoorbeeld afleiden

enzovoort MSE(2) 2 (J u ( I+4h2) ( I+h) (I-h)

*) Zou men, ten overvloede, het model niet, zoals Theil en Wage doen, op Winters' predictor toepassen, maar op die van Holt, dan worden de conclusies bevestigd:

we vinden

A

=

I

welke resultaten, gecombineerd met (6.1) aan de voorwaarde (4.21) blijken te voldoen.

I

I

u I cr £

-

-

_cra 1.007 1.023 1.073 1.252 2.081 10.29 100.0 u

e =

4/(£2+ 1) 1.986 1.956 1.859 1.558 .7504 .03744 .033997 I y' 8₂

₌

-1/£2 -.9860 -.9563 -.8681 -.6382 -.2309 -.029448 -.049994 A

_o

=

A '

₌

2h/ (I +h) .01404 .04374 .1319 .3618 .7691 .9906 .9999 0 Al

=

2h2/(I+h) .049930 .039779 .029317 .07989 .4805 .9720 .9997 A '_i

=

h .027070 .02236 .07062 .2208 .6248 .9812 .9998 MSE(I)/cr2

=

f 2

=

1.0142 I .0457 I. 1519 1.5668 4.3306 105.84 10023.0 u

=

(I+h)/(I-h) 2 MSE(2)/cr

=

1.0144 1.0478 1.1749 1.8723 11.0928 513.43 50099,0 u

=

(1+4h){I+h)/(1-h)

Optimale waarden van enige parameters als funk ties van g

I

LV

7. Conclusies.

De door Theil en Wage afgeleide optimale Winters-parameters z~Jn

ook optimaal voor 1 > I. Voor praktisch gebruik kan men echter niet volstaan met het

postuZeren

van model

(2.1)

tim (2.7): men zal moeten nagaan of de data x

t beschouwd mogen worden als realisaties van het

proces. Deze zgn. identifikatie kan bij het getransformeerde model

(2.13)

plaatsvinden op de door Box en Jenkins aanbevolen wijze*) •

Tevens vraagt de oorspronkelijke formulering om een schatting van g

=

a

fa .

Hoewel de coefficienten van het lMA (0,2,2) proces eveneens

v u

funkties van g zijn (zie (2.27) tim (2.29)), hoeft men van deze relaties geen gebruik te maken: men kan een niet-lineaire schattingsprocedure gebruiken die ¢I en ¢2 rechtstreeks schat.

Literatuur.

G.E.P.Box

&

G.M.Jenkins (1970)

Time Series Analysis Forecasting and Control Holden Day

G.A.Coutie a.o. (1964)

Short-Term Forecasting (I.C.I.Monograph No.2) Oliver

&

Boyd

M.Nerlove

&

S.Wage (1964)

On the Optimality of Adaptive Forecasting

Management Science, ~Hno.2, 207-224

H.Theil

&

S.Wage (1964)

Some Observations on Adaptive Forecasting

Management Science, ~ no.2, 198-206

D.H.Ward (1963)

Comparison of Different Systems of Exponentially Weighted Prediction

The Statistician, 13 no.3, 173-185

P.R.Winters (1959/60)

Forecasting Sales by Exponentially Weighted Moving Averages