Enkele geselecteerde onderwerpen uit de
maattheoretische kansrekening
Vincent Hsu
24 juli 2014
Bachelorproject Wiskunde
Begeleiding: prof. dr. Ronald Meester
Korteweg-De Vries Instituut voor Wiskunde
Samenvatting
Als we het interval(0, 1] bekijken in zijn binaire representatie, dan blijkt de gemiddelde waarde van de eerste n cijfers naar 1/2 te convergeren als n → ∞. Verder blijken bijna alle getallen uit(0, 1] normaal te zijn, d.w.z. , op een nulverzameling na kent elke ω∈ (0, 1] een binaire representatie met evenveel nullen als enen. Dit laatste resultaat is een speciaal geval van de sterke wet van de grote aantallen.
Als we verder kijken naar een rij {An}n∈N van onafhankelijke gebeurtenissen, dan
is ∑∞n=1P(An) < ∞ equivalent met P (lim supnAn) = 1 en ∑∞n=1P(An) = ∞ is dan
equivalent met P(lim supnAn) = 0. Deze resultaten vormen de lemma’s van
Borel-Cantelli en zijn voorbeelden van de zogeheten nul-´e´enwetten. Bovendien geldt er voor A∈ ∩∞n=1σ(An, An+1, . . .) ´of P (A) = 1 ´of P (A) = 0.
Bij het spel ‘ru¨ınering der spelers’ met winkans p en verlieskans q = 1 − p, blijkt een speler met kans 1 blut te raken wanneer p≤ q. Een tactiek waarmee men probeert dit te omzeilen is om een inzetcriterium te hanteren. Dat betekent dat de speler op basis van de voorgaande resultaten besluit al dan niet in te zetten. Dit zal niet werken: wanneer we ons beperken tot de rondes waarin we wel inzetten, blijkt de kansverdeling precies hetzelfde te zijn als voorheen. Ook het hanteren van een stoptijd (stoppen aan de hand van een criterium) zal niet helpen. In verwachting blijkt de speler er namelijk niets mee op te schieten.
Tot slot: de voorwaardelijke verwachting gegeven een sigma-algebra E(XG) is een G-meetbare en integreerbare stochast die voldoet aan ∫GE(X∣G)dP = ∫GEXdP voor alle G∈ G. De voorwaardelijke kans gegeven een sigma-algebra P (A∣G) is een speciaal geval hiervan, want P(A∣G) ∶= E(1A∣G). Indien G = σ(B1, B2, . . .) met {Bn}n∈Neen partitie van
Ω, de gehele verzameling, dan bestaat de volgende relatie tussen de voorwaardelijke kans gegeven een sigma-algebra en die gegeven een gebeurtenis: P(A∣G) = ∑∞n=1P(A∣Bn)1Bn.
Titel: Enkele geselecteerde onderwerpen uit de maattheoretische kansrekening Auteur: Vincent Hsu, 10202544@student.uva.nl, 10202544
Begeleiding: prof. dr. Ronald Meester Tweede beoordelaar: prof. dr. Jan de Boer Einddatum: 24 juli 2014
Korteweg-De Vries Instituut voor Wiskunde Universiteit van Amsterdam
Science Park 904, 1098 XH Amsterdam http://www.science.uva.nl/math
Inhoudsopgave
1. Inleiding 2
2. Wetten van de grote aantallen 3
2.1. Het eenheidsinterval . . . 3
2.2. Zwakke wet van de grote aantallen . . . 6
2.3. Sterke wet van de grote aantallen . . . 8
3. Aftelbare kansrekening 11 3.1. Limietverzamelingen en π- en λ-systemen . . . 11
3.2. Onafhankelijke gebeurtenissen . . . 14
3.3. Nul-´e´enwetten . . . 18
4. Goksystemen 21 4.1. Ru¨ınering der spelers I . . . 21
4.2. Ru¨ınering der spelers II . . . 23
4.3. Selectiesystemen . . . 24 4.4. Gokbeleid . . . 30 5. Conditionering 34 5.1. Conditionering op gebeurtenissen . . . 34 5.2. Voorwaardelijke verwachtingen . . . 35 5.3. Voorwaardelijke kansen . . . 40 A. Kansrekening 45 B. Maat- en integratietheorie 48 C. Populaire samenvatting 51 Bibliografie 53
1. Inleiding
De maattheoretische kansrekening is de tak van wetenschap waar twee belangrijke wis-kundige disciplines samenkomen; de maattheorie en de kansrekening. Met de maatthe-orie, die het begrip grootte (denk aan lengte, oppervlak, inhoud en aantallen) beschrijft en generaliseert, kunnen we de kansrekening eenduidig beschrijven. Waar men voorheen binnen de kansrekening vele resultaten apart voor het discrete en continue geval moest bewijzen, kan dit voortaan in ´e´en keer m.b.v. de maattheorie.
In deze scriptie wordt deze maattheoretische benaderingswijze gebruikt om de kans-rekening elegant te beschrijven. We zullen beginnen met een beperkte definitie van een kansmaat en ontdekken dat we met zeer elementaire middelen al tamelijk krachtige resul-taten kunnen bewijzen. De zwakke en sterke wetten van de grote aantallen zullen in een speciale vorm volgen uit deze elementaire middelen. Vervolgens kijken we naar aftelbare combinaties van gebeurtenissen (meetbare verzamelingen). Een notie van onafhankelijk-heid wordt introduceerd en het, bij de maattheoretici bekende, begrip sigma-algebra zal ook zijn intrede doen. Belangrijke resultaten die dan bewezen zullen worden, zijn o.a. de bekende lemma’s van Borel-Cantelli. Dit wordt allemaal toegepast in het toepassings-hoofdstuk erna, want dan komen goksystemen aan bod. Het spel ru¨ınering der spelers zal uitgebreid beschreven worden en er zullen een aantal methoden, waarmee men tracht het toeval te verslaan, onderzocht worden. Ten slotte beschouwen we de conditionele kansrekening. Er zal niet alleen geconditioneerd worden op gebeurtenissen, maar ook op sigma-algebra’s. De link tussen conditionering op deze twee verschillende objecten zal centraal staan. Met allerlei voorbeelden zal door de scriptie heen aangetoond worden, dat al deze onderwerpen met elkaar te maken hebben, ondanks dat ze in hun definitie heel verschillend zijn.
De tekst in deze scriptie is geschreven met het oog op de gemiddelde derdejaarsstudent wiskunde. Er wordt derhalve rekening gehouden met het kennisniveau van de derdejaars-student. Dit houdt onder meer in dat de lezer een inleidingscursus kansrekening en een cursus maattheorie moet hebben gehad. We zullen namelijk veel gebruik maken van resultaten en constructies uit de maattheorie. Ook zullen we ingewikkelde uitdrukkin-gen voor de kans teuitdrukkin-genkomen, waardoor handigheid ermee vereist is. De UvA-vakken Stochastiek 1 & 2 en de VU-vakken Kansrekening 1 & 2, Measure Theory dekken de vereiste voorkennis. Indien de voorkennis te kort schiet, is het aan te raden eerst de appendices over kansrekening en maattheorie door te nemen.
Deze scriptie is geschreven door mij, Vincent Hsu, ter verkrijging van de graad Bache-lor of Science in de wiskunde ´en natuurkunde aan deUvA. Dit geschiedde onder toezicht van prof. dr. Ronald Meester, die verbonden is aan de VU. Ik wil Ronald Meester be-danken voor de tijd en moeite die hij in mij en dit project heeft gestoken. Tevens wil ik de VU bedanken voor het beschikbaar stellen van hun capaciteit aan een UvA-student. Ik zie dit als een krachtige, eerste opstap naar een vruchtbare samenwerking tussen de b`etafaculteiten van de UvA en de VU.
2. Wetten van de grote aantallen
Stel dat we een kansexperiment doen: we gaan ‘heel vaak’ munten gooien en bekijken wat het limietgedrag is, oftewel hoe vaak hebben we kop en hoe vaak munt als we de omvang van het experiment steeds groter maken (willekeurig groot). Beschouw daarnaast een tweede kansexperiment: trek uit het eenheidsinterval een getal. Het opmerkelijke is dat deze twee experimenten in zekere zin equivalent zijn, d.w.z., beide experimenten kennen overeenkomende kanstheoretische eigenschappen. Hoe dit precies zit, zal nog worden uitgelegd. In dit hoofdstuk zal dus het verband tussen deze twee kansexperimenten centraal staan. Verder leiden we in deze context twee wetten van de grote aantallen af. Het opmerkelijke hieraan is dat hiervoor uitsluitend lichte gereedschappen (lees: calculus) gebruikt gaat worden.
2.1. Het eenheidsinterval
Het speelveld van dit hoofdstuk is het eenheidsinterval Ω ∶= (0, 1]. Merk op dat het getal 0 wordt weggelaten. De reden hiervoor zal bekend worden in Opmerking 2.6. We zullen trouwens alleen maar intervallen bekijken die links open en rechts gesloten zijn. Elementen van Ω worden altijd aangeduid met ω tenzij anders wordt aangegeven. Op Ω defini¨eren we een kansmaat waarvoor we een aantal eigenschappen gaan afleiden, die wellicht bekend zijn van een eerste college kansrekening.
Definitie 2.1. Zij I = (a, b] een interval. Dan wordt de lengte ` van het interval gedefinieerd door
`(I) = b − a. (2.1) ◻ Opmerking 2.2. De lengte ` van Definitie 2.1 komt in feite overeen met de Lebesguemaat. Dit is niet zo heel verwonderljk, aangezien de kansmaat P , die we zo gaan defini¨eren niks anders is dan de Lebesguemaat op (0, 1].
Definitie 2.3. Zij {Ii = (ai, bi] ∶ ai < bi} een collectie van disjuncte intervallen. Bekijk
verzamelingen van de vorm:
A= n ⋃ i=1 Ii = n ⋃ i=1 (ai, bi] ⊆ Ω. (2.2)
Dan wordt de kansmaat P op A gedefinieerd door de kans P(A) = n ∑ i=1 `(Ii) = n ∑ i=1 bi− ai. (2.3)
Hoewel de kansmaat P gedefinieerd kan worden voor een veel grotere collectie van deelverzamelingen van Ω beperken we ons voorlopig tot die van de vorm (2.2). Ondanks deze beperking kent P allerlei eigenschappen die we gewend zijn van de algemenere kansmaat. Zo volgt uit (2.3) al dat 0 ≤ P (A) ≤ 1. De volgende propositie zal je ook bekend voorkomen.
Propositie 2.4. Laat A en B verzamelingen zijn zoals in (2.2), dus A en B zijn beide eindige, disjuncte verenigingen van intervallen uit Ω. Dan is A∪B ook zo een verzameling en als A∩ B = ∅, dan geldt er bovendien:
P(A ∪ B) = P (A) + P (B). (2.4) Bewijs. De eerste bewering is triviaal. Noteer de indicatorfuncties van A en B met resp. 1A resp. 1B. Dan volgt uit de additiviteit van de Riemann-integraal en de disjunctie
van A en B dat P(A) + P (B) = ∫ 1 0 1A(ω)dω + ∫ 1 0 1B(ω)dω = ∫ 1 0 1A∪B(ω)dω = P (A ∪ B). (2.5) ◻ We gaan nu kijken naar het experiment waarbij oneindig vaak munten worden gewor-pen en koppelen dit aan het willekeurig trekken van een getal uit Ω. Om dit in te zien is het handig om over te schakelen op de binaire representatie van getallen. De cijfers 1 en 0 in die representatie/expansie zullen dan gaan corresponderen met het kop en munt. Definitie 2.5. Bekijk ω∈ Ω in zijn binaire (dyadische) representatie. Schrijf dn(ω) voor
het n-de cijfer in deze representatie van ω∈ Ω, dus ω= ∞ ∑ n=1 dn(ω) 2n = 0, d1(ω)d2(ω)d3(ω) . . . , (2.6)
waarbij de tweede gelijkheid de overgang van het decimale naar het binaire getallenstelsel
voorstelt. ◻
Opmerking 2.6. Sommige getallen kennen twee binaire representaties, bijv. 12 = 0.1000 . . . en 12 = 0.0111 . . . , dus we zullen dan een keuze moeten maken: we kiezen dan voor de oneindige expansie en schrijven dus 1
2 = 0.0111 . . . . Merk op dat Ω het getal 0 niet
be-vat, dus alle getallen uit Ω kennen een oneindige, binaire expansie. Dit is ook de reden
waarom we 0 weglaten uit Ω. ◻
De dn(ω) uit Definitie 2.5 kan beschouwd worden als functie van ω ∈ Ω (ook als functie
van n, maar dat terzijde). De dn(ω) zijn blokfuncties met afwisselend de waarden 0 en
1. Zie hieronder bijvoorbeeld de grafieken van d1 en d2.
Algemener: dn geeft een partitie van het eenheidsinterval in 2nsubintervallen van gelijke
lengte waarop afwisselend de waarden 0 en 1 worden aangenomen. De subintervallen zijn links open en rechts gesloten. Dit zijn de dyadische intervallen van rang n. Uit de bovenstaande afbeeldingen zien we dus dat de dyadische intervallen van rang 1 (0, 0.5] en(0.5, 1] zijn en die van rang 2 zijn (0, 0.25], (0.25, 0.5], (0.5, 0.75] en (0.75, 1]. Voor algemene n zijn de dyadische intervallen van rang n van de vorm
( i 2n,
i+ 1
2n ] met i∈ {0, . . . , 2
n− 1}. (2.7)
Merk op dat dn(ω) = 0 op de intervallen met even i en dn(ω) = 1 op de intervallen met
i oneven. We weten nu hoe dn eruit ziet op een dyadisch interval van rang n, maar hoe
ziet deze functie eruit op een dyadisch interval van rang n≤ m?
Lemma 2.7. Als n ≤ m, dan is dn constant (afwisselend 0 en 1) op alle dyadische
intervallen van rang m.
Bewijs. Omdat dn afwisselend de waarden 0 en 1 aanneemt op de dyadische intervallen
van rang n , is dn constant erop. Neem een m≥ n en een dyadisch interval van rang m.
Deze is per constructie bevat in een dyadisch interval van rang n, dus dn is ook constant
op dit dyadische interval van rang m. ◻ In het volgende voorbeeld zien we m.b.v. de functies dnin dat het werpen van munten
(kanstheoretisch) niet verschilt van het trekken van een getal uit Ω.
Voorbeeld 2.8. Stel dat van het getal ω de eerste n cijfers (in de binaire representatie) vaststaan, dus stel dat voor i∈ {1, . . . , n} geldt di(ω) = ui waarbij ui ∈ {0, 1}. Het doel
van dit voorbeeld is de kans op dit bovengenoemde te bepalen. Allereerst weten we dat
n ∑ i=1 ui 2i < ω ≤ n ∑ i=1 ui 2i + ∞ ∑ i=n+1 1 2i.
De eerste ongelijkheid wordt verkregen door voor i > n te kiezen di(ω) = 0. De
onge-lijkheid is strict omdat het linkerlid een eindige binaire representatie kent. De tweede ongelijkheid wordt verkregen door voor i> n te kiezen di(ω) = 1. We kunnen de
onge-lijkheid m.b.v. de geometrische reeks ook opschrijven als {ω ∶ di(ω) = ui, i= 1, . . . , n} = ( n ∑ i=1 ui 2i, n ∑ i=1 ui 2i + 1 2n] . (2.8)
Met vergelijkingen (2.3) en (2.8) zien we in dat
P[ ω ∶ di(ω) = ui, i= 1, . . . , n] =
1
2n. (2.9)
We kunnen (2.9) alleen gebruiken als we werken met de eerste n cijfers van de repre-sentatie van ω. In een kansexperiment met n= 10 zouden we bijvoorbeeld ook kunnen kijken naar alleen het derde en zevende cijfer. Intu¨ıtief is duidelijk dat, met een kans 14, er in beide gevallen een 1 staat. Dit kunnen we ook met (2.9) afleiden.
Kies verschillende i1, . . . , ik ∈ {1, . . . , n}. Geef de overige, (niet-gekozen) natuurlijke
getallen tussen 1 en n ook een naam: j1, . . . , jn−k. Dan willen we de kans
P[ ω ∶ dim(ω) = uim, m= 1, . . . , k]
bepalen. Merk op dat op j1, . . . , jn−k geen eis wordt gelegd in de kans, dus, na overstap
op een bondigere notatie, kunnen we afleiden dat P[ dim= uim, m= 1, . . . , k] = P[ dim= uim, m= 1, . . . , k, djl ∈ {0, 1}, l = 1, . . . n − k] = ∑ ujl∈ {0, 1} l = 1, . . . n − k P[ dim= uim, m= 1, . . . , k, djl = ujl, l= 1, . . . n − k] = ∑ ujl∈ {0, 1} l = 1, . . . n − k 1 2n = 2 n−k⋅ 1 2n = 1 2k. (2.10)
Als we nu terugkeren naar het voorbeeld van net met n= 10, dan zien we dat k = 2 met i1 = 3 en ik = 7. De kans dat het derde en zevende cijer 1 zijn, is volgens (2.10)
1
22 = 14 hetgeen overeenkomt met dat wat we verwachten.
We zien dat (2.10) precies de kans is, die je zou verwachten als je (zuivere) munten onafhankelijk van elkaar werpt (waarbij 1 kop voorstelt en 0 munt). Voor elke ω ∈ Ω hebben we een oneindige representatie gekozen, dus door n willekeurig groot te ma-ken kunnen we ω = d1(ω)d2(ω) ⋅ ⋅ ⋅ ∈ Ω zien als een uitslag van een muntenwerpproces
(d1(ω), d2(ω), . . . ), waarvan de omvang willekeurig groot gemaakt kan worden. ◻
2.2. Zwakke wet van de grote aantallen
We gaan door met het kansexperiment(d1(ω), d2(ω), . . . ). We vragen ons nu af hoe vaak
kop en hoe vaak munt voorkomt. Om preciezer te zijn: wat is de relatieve frequentie (verhouding tussen gunstige en alle uitkomsten) van ’kop’ en ’munt’. We verwachten dat deze voor allebei naar 12 convergeert als we de omvang van het experiment willekeurig groot maken. De zwakke wet van de grote aantallen bevestigd dat de kans hierop naar 1 gaat en het bewijzen van deze wet staat centraal in deze sectie.
Stelling 2.9. Zwakke wet van de grote aantallen. Voor alle > 0 geldt lim n→∞P[ ω ∶ ∣ 1 n n ∑ i=1 di(ω) − 1 2∣ ≥ ] = 0. (2.11) ◻ Om de situatie even te problematiseren: hebben we de kans in (2.11) ¨uberhaupt gedefinieerd, oftewel is de verzameling (noem hem A) tussen de blokhaken van de vorm (2.2)? Dit is zo, want alle di zijn constant op de dyadische intervallen van rang n (per
constructie), dus de som van de di ook. Als er geldt ω ∈ A, dan zit het hele dyadische
interval, waar ω van komt, ook in A, dus A is de disjuncte vereniging van deze intervallen. We zullen eerst (2.11) omschrijven naar een andere vorm, die makkelijker is om te bewijzen. Daarvoor moeten we twee nieuwe klassen van functies defini¨eren.
Definitie 2.10. De Rademacher-functies rn worden gedefinieerd door
rn(ω) = 2dn(ω) − 1 = { +
1 als dn(ω) = 1
−1 als dn(ω) = 0
(2.12) en de parti¨ele sommen sn door
sn(ω) = n ∑ i=1 ri(ω). (2.13) ◻ Gebruik Lemma 2.7 en merk op dat rn(ω) = −1 als dn(ω) = 0. Door te kijken naar
de partitie van Ω in dyadische intervallen van rang n zie je direct dat∫01rn(ω)dω = 0 en
dus ook ∫01sn(ω)dω = 0. Ook geldt er op dezelfde manier dat ∫ 1 0 ri(ω)rj(ω)dω = 0 als i≠ j. Met r2 i(ω) krijgen we ∫ 1 0 s2n(ω) dω = n. (2.14) Met deze functies kunnen we de zwakke wet van de grote aantallen herformuleren. In deze vorm zullen we de stelling ook bewijzen.
Stelling 2.11. Zwakke wet van de grote aantallen. Voor alle > 0 geldt lim
n→∞P[ ω ∶ ∣
1
nsn(ω)∣ ≥ ] = 0. (2.15) Bewijs. Laat allereerst f een simpele functie zijn die de waarde ci aanneemt op(xi−1, xi]
waarbij 0= x0< ⋅ ⋅ ⋅ < xk= 1. De bewering is dan dat
P[ ω ∶ f(ω) ≥ α] ≤ 1 α ∫
1 0
f(ω) dω. (2.16) voor α> 0. Dit is niet moeilijk om aan te tonen. Merk op dat { ω ∶ f(ω) ≥ α} gelijk is aan een eindige vereniging van intervallen(xi−1, xi], want f is simpel (en neemt dus een
eindig aantal waarden aan). De kans in het linkerlid bestaat dus volgens Definitie 2.3. Schrijf∑′i voor de som over alle i waarbij ci≥ α. Herinner je verder dat simpele functies
alleen niet-negatieve waarden aannemen, dan ∫ 1 0 f(ω) dω = k ∑ i=1 ci(xi− xi−1) ≥ ∑ i ′c i(xi− xi−1) ≥ ∑ i ′α(x i− xi−1). (2.17)
Deel in vergelijking (2.17) allebei de kanten door α en gebruik (2.3) om (2.16) te krijgen. Vul nu in: α= n22 en f(ω) = s2 n(ω). Met s2n(ω) ≥ n22⇔ ∣ 1 nsn(ω) ∣ ≥ wordt verkre-gen: P[ ω ∶ ∣1 n sn(ω)∣ ≥ ] ≤ 1 22 ∫ 1 0 s2n(ω) dω = 1 n2. (2.18)
De gelijkheid komt van (2.14). Neem ten slotte de limiet n→ ∞ om (2.15) te krijgen. ◻
2.3. Sterke wet van de grote aantallen
Naast de zwakke wet bestaat er nog een sterke wet van de grote aantallen. In de context van het kansexperiment(d1(ω), d2(ω), . . . ) zegt dit dat de kans op
N = { ω ∶ lim n→∞ 1 n n ∑ i=1 di(ω) = 1 2} = { ω ∶ limn→∞ 1 nsn(ω) = 0} (2.19) gelijk is aan 1. Een ω∈ N heet een normaal getal en in het licht hiervan heet de sterke wet van de grote aantallen ook wel de normalegetallenstelling van Borel.
We spraken net over de kans P(N), maar is deze kans wel gedefinieerd? De gebeurtenis N voldoet n.l. niet aan Definitie 2.3. We voeren om die reden een nieuw begrip in en breiden aan de hand daarvan de definitie van P uit, d.w.z., we breiden het aantal verzamelingen A, waarvoor P(A) bestaat, uit.
Definitie 2.12. Een deelverzameling A ⊆ Ω heet een nulverzameling als er voor alle > 0 aftelbaar veel intervallen I1, I2, . . . bestaan met
A⊆ ⋃
k
Ik en ∑ k
l(Ik) < . (2.20)
We zeggen ook wel dat A verwaarloosbaar is. Voor nulverzamelingen A spreken we af
P(A) = 0. ◻
We hebben nog een resultaat nodig om de sterke wet van de grote aantallen te bewij-zen.
Lemma 2.13. Er geldt
∫01s4n(ω) dω ≤ 3n2. (2.21) Bewijs. Eerst schrijven we
s4n(ω) = ∑ rα(ω)rβ(ω)rγ(ω)rδ(ω) (2.22)
waarbij de som loopt over alle mogelijke combinaties van waarden (1, 2, . . . , n) voor α, β, γ, δ. We krijgen de volgende soort termen (met i, j, k, l alle verschillend):
⎧⎪⎪⎪ ⎪⎪⎪⎪⎪ ⎪⎪⎪⎪⎪ ⎪⎪⎪⎪ ⎨⎪⎪ ⎪⎪⎪⎪⎪ ⎪⎪⎪⎪⎪ ⎪⎪⎪⎪⎪ ⎩ r4 i(ω) = 1, r2 i(ω)r 2 j(ω) = 1, r2 i(ω)rj(ω)rk(ω) = rj(ω)rk(ω), r3 i(ω)rj(ω) = ri(ω)rj(ω), ri(ω)rj(ω)rk(ω)rl(ω). (2.23)
De eerste twee geven 1 omdat r2
i(ω) = 1 zoals we eerder hebben gezien. Ook in de
∫01rj(ω)rj(ω) dω = 0 als i ≠ j. Ook dit hebben we eerder gezien. Met een soortgelijk
argument kan aangetoond worden dat de over ri(ω)rj(ω)rk(ω)rl(ω) ook 0 is. Kijk
hiervoor naar dyadische intervallen van rang max{i, j, k, l}. Het is duidelijk dat s4
nn termen bevat van de vorm r4i. De bewering is dat er 3n(n−1)
termen van de vorm r2
i(ω)r
2
j(ω) zijn, want er zijn n mogelijkheden α. Verder is ´of β ´of
γ ´of δ gelijk aan α. Dit geeft drie mogelijkheden. Voor de andere twee zijn er dan nog n− 1 mogelijkheden over. Hiermee krijgen we
∫
1 0
s4n(ω) dω = n + 3n(n − 1) ≤ 3n2. (2.24) ◻ We kunnen nu de normalegetallenstelling van Borel bewijzen. Merk op dat wanneer een verzameling A verwaarloosbaar is, er moet gelden P(A) ≤ ∑kP(Ik) = ∑kl(Ik) <
voor alle > 0. ‘Verwaarloosbaar’ betekent dus zoiets als ‘praktisch onmogelijk’.
Stelling 2.14. Normalegetallenstelling van Borel (Sterke wet van de grote aantallen). Bijna alle getallen zijn normaal, oftewel Nc is verwaarloosbaar.
Bewijs. We moeten dus een overdekking I1, I2, . . . van Nc vinden die willekeurig klein
gemaakt kan worden. Neem ongelijkheid (2.16) en vul in f(ω) = s4
n(ω) en α = n44. In
combinatie met Lemma 2.13 geeft dit P[ ω ∶ ∣1
nsn(ω)∣ ≥ ] ≤ 3
n24. (2.25)
Definieer n= n−1/8 en An= { ω ∶ ∣n−1sn(ω)∣ ≥ n}. Dan geldt er P (An) ≤ 3−4n n−2= 3n−3/2
volgens (2.25), dus∑nP(An) < ∞1.
De bewering is nu dat Nc⊆ ∪∞
n=mAn voor alle m. Dit is equivalent met ∩∞n=mAcn⊆ N.
Als het linkerlid leeg is, is dit triviaal. Neem derhalve aan dat hij niet leeg is en pak een ω ∈ ∩∞n=mAc
n. Dan ∣n−1sn(ω)∣ < n voor n≥ m. Omdat n → 0 weten we met (2.19) dat
ω∈ N.
Uit de collectie van Angaan we de gezochte overdekking van Ncconstrueren. Elke An
is een eindige disjuncte vereniging van intervallen Ink. Kijk daarvoor naar de definitie
ervan en het feit dat sn simpel is. Om die reden is ∪∞n=mAn een aftelbare vereniging van
intervallen Ink. Omdat∑nP(An) < ∞ kiezen we m groot genoeg zodat ∑∞n=mP(An) < .
Er geldt Nc ⊆ ∪∞
n=mAn = ∪∞n=m∪kInk en ∑n∞=m∑kl(Ink) = ∑∞n=mP(An) < . De collectie
{Ink ∣ n ≥ m, k ∈ N} is dus de gezochte overdekking. ◻
We hebben dus de twee wetten van de grote aantallen bewezen voor een specifiek kansexperiment, n.l. voor dat van het trekken van ω ∈ Ω. De algemenere formulering van de wetten van de grote aantallen luidt:
lim
n→∞P(∣ ¯Xn− µ∣ > ) = 0 (zwak), P( limn→∞
¯
Xn= µ) = 1 (sterk).
Hierbij is ¯Xn het gemiddelde van een onafhankelijk, identiek verdeelde steekproef met
verwachting µ. De volgende logische vraag rijst nu: wat is het verschil tussen de zwakke
1Vanwege deze ongelijkheid kozen we
n = n−1/8. Elke andere niet-negatieve rij n die naar nul
en sterke wet van de grote aantallen en hoe staan deze twee met elkaar in verband? In eerste opzicht lijkt de verwisseling van de kans P en de limietoperatie het enige belangrijke verschil. Wellicht is het ook intu¨ıtief duidelijk (door de naamgeving) dat de zwakke wet volgt uit de sterke wet, maar er is meer aan de hand. Het volgende voorbeeld zal dit proberen te verduidelijken.
Voorbeeld 2.15. Sterke wet versus zwakke wet. Beschouw een kansexperiment waar-bij zuivere dobbelstenen worden geworpen en laat X1, . . . Xn de onafhankelijk en
iden-tiek verdeelde uitkomsten zijn van de n worpen zijn. Voor alle i geldt dus Xi(ωi) ∈
{1, 2, 3, 4, 5, 6} voor alle ωi∈ Ω. De verwachting van Xi (en dus ook van ¯Xn) is
µ= 1 ×1 6+ 2 × 1 6+ 3 × 1 6+ 4 × 1 6+ 5 × 1 6+ 6 × 1 6 = 3,5.
Laat nu n steeds groter worden. De sterke wet van de grote aantallen zegt nu dat het zeker is (met kans 1) dat ¯Xn gelijk is aan µ in de limiet n → ∞. Als we dus een
steekproef van steeds grotere omvang nemen, dan zal ¯Xn dus altijd convergeren naar
µ. Dat is intu¨ıtief duidelijk. Een logisch gevolg ervan zou zijn, dat voor grote n het steekproefgemiddelde niet ver meer ligt van µ (zeg hoogstens ), oftewel de kans dat ¯Xn
meer dan van µ afligt, zou zeer klein moeten worden (naar 0 gaan). Dit is precies wat de zwakke wet van de grote aantallen bevestigt.
De sterke wet doet dus een uitspraak over de limietsituatie {limn→∞X¯n= µ}, n.l. dat
deze met kans 1 optreedt. Oftewel, in de oneindige limiet geeft ¯Xn altijd precies µ. De
zwakke wet zegt iets over de manier waarop deze situatie tot stand komt: n.l. voor grote n moet de kans op {∣ ¯Xn− µ∣ > } naar 0 gaan, d.w.z., de kans dat ¯Xn ver van µ afligt
wordt steeds kleiner ( ¯Xn komt steeds dichter bij µ te liggen). Het is in het licht hiervan
duidelijk dat de sterke wet de zwakke tot gevolg heeft. ◻ In het vorige voorbeeld zagen we dat de sterke wet de zwakke impliceerde: convergentie van ¯Xnnaar µ impliceerde een afwijking ∣ ¯Xn− µ∣ die willekeurig klein werd (kleiner dan
elke > 0). Andersom hoeft een kleine afwijking geen convergentie te impliceren, d.w.z., er bestaan voorbeelden waarin de zwakke wet van de grote aantallen wel van kracht is, maar de sterke niet. Zie daarvoor o.a. Voorbeeld 3.24.
3. Aftelbare kansrekening
In dit hoofdstuk gaan we ons bezighouden met een aantal onderwerpen binnen de kans-rekening waarbij slechts aftelbaar veel gebeurtenissen betrokken zijn. Oftewel, beschouw rijen {An}n∈N van onafhankelijke gebeurtenissen. Het blijkt dat we hiermee
gebeurte-nissen kunnen construeren die met kans 0 of 1 optreden. Eerst moet er voorbereidend werk verricht worden. Dit werk is sterk van verzamelingtheoretische aard.
Verder gaan we door met de analyse van dyadische intervallen die we in het vorige hoofdstuk zijn begonnen. De in dit hoofdstuk ontwikkelde theorie kan erop toegepast worden, zo zal blijken. Op die manier houdt dit hoofdstuk verband met het vorige.
3.1. Limietverzamelingen en π- en λ-systemen
Definitie 3.1. Zij{An}n∈N een rij van verzamelingen. Dan defini¨eren we
lim sup n An= ∞ ⋂ n=1 ∞ ⋃ k=n Ak en lim inf n An= ∞ ⋃ n=1 ∞ ⋂ k=n Ak. (3.1)
Als beide uitdrukkingen aan elkaar gelijk zijn, schrijven we lim
n An∶= lim supn An= lim infn An. (3.2)
◻ De twee hierboven gedefinieerde verzamelingen kennen een eenvoudige interpretatie. Lemma 3.2. Beschouw lim supnAn en lim infnAn.
(1) Als ω∈ lim supnAn⇔ ω ∈ An voor oneindig veel n.
(2) Als ω∈ lim infnAn⇔ ω ∉ An voor eindig veel n.
(3) Er geldt lim infnAn⊆ lim supnAn.
Bewijs. (1) Neem ω∈ lim supnAn. Dan geldt voor alle n dat ω∈ ∪∞k=nAk, dus voor alle n
is er een k≥ n met ω ∈ Ak, oftewel ω∈ An voor oneindig veel n. Omgekeerde implicatie
is triviaal. (2) Neem ω∈ lim infnAn. Dan is er een n met ω ∈ ∩∞k=nAk. Dan ω∈ Ak voor
k≥ n en het is daarbij niet uitgesloten dat ω ∉ Akvoor k≤ n. Van de laatste categorie zijn
er eindig veel k dus ω∉ An voor eindig veel n. Voor het omgekeerde kan de redenering
gewoon omgedraaid worden. (3) Er zijn oneindig veel An en stel ω∉ An voor eindig veel
Lemma 3.3. Bekijk {An}n∈N, een rij van verzamelingen. Definieer Bn = ∩∞k=nAk en
Cn= ∪∞k=nAk. Dan Bn↑ lim infnAn en Cn↓ lim supnAn.
Bewijs. Neem ω ∈ Bn, dan ω ∈ Ak voor k ≥ n. Voor ten hoogste eindig veel Ak geldt
dat niet, n.l. alleen voor k ∈ {1, . . . , n − 1} is niet uitgesloten dat ω ∉ Ak. Uit Lemma
3.2(2) volgt dan dat ω ∈ lim infnAn dus voor alle n hebben we Bn ⊆ lim infnAn. In
het bijzonder: limnBn ⊆ lim infnAn. Neem nu ω ∈ lim infnAn. Dan, volgens datzelfde
lemma, is er een N zodanig dat ω∈ Ak voor k> N, dus er geldt ook ω ∈ Bk voor k> N,
oftewel ω ∈ limnBn waarmee lim infnAn ⊆ limnBn dus lim infnAn = limnBn. Omdat
Bn⊆ Bn+1 weten we dat Bn↑ lim infnAn.
Nu kijken we naar Cn. Neem ω ∈ lim supnAn, dan (en slechts dan) volgt (wederom
m.b.v. Lemma 3.2(2)) dat voor alle n er een N > n bestaat met ω ∈ AN. Om die reden:
ω ∈ Cn voor alle n, dus ook ω ∈ limnCn, dus lim supnAn ⊆ limnCn. Omdat alle hierbij
gebruikte stappen equivalenties zijn, kan de redenering omgedraaid worden, waarmee de omgekeerde inclusie bewezen is, dus lim supnAn = limnCn. Omdat Cn ⊇ Cn+1, geldt er
Cn↓ lim supnAn. ◻
Definitie 3.4. Een verzameling A waarvoor P(A) bestaat heet meetbaar. ◻ Opmerking 3.5. Tot nu toe mogen we alleen verzamelingen van de vorm (2.2) en nulver-zamelingen meetbaar noemen, aangezien we alleen aan deze twee types vernulver-zamelingen een kans hebben toegekend. De sigma-algebra F bevat in deze context dus alleen ver-zamelingen van die twee vormen of aftelbare combinaties ervan. ◻ Tot dusverre waren alle An gewone verzamelingen. Laat vanaf nu An een
meet-bare verzameling zijn omdat we naar kansen willen kijken. We bestuderen de kansen P(lim supnAn) en P (lim infnAn) en vergelijken deze met P (An). We zullen ontdekken
dat de kansmaat P ‘continu’ is.
Alle probabilistische kwesties spelen zich af op een kansruimte (Ω, F, P )1. Vanaf nu
zullen we hier ook expliciet gebruik van maken.
Lemma 3.6. Beschouw een rij meetbare verzamelingen{An}n∈N inF met kansmaat P .
Laat verder A∈ F.
(1) Als An↑ A, dan P (An) ↑ P (A).
(2) Als An↓ A, dan P (An) ↓ P (A).
Bewijs. (1) Omdat Ak ⊆ Ak+1 volgt uit de monotoniciteit dat {P (An)}n∈N een stijgende
rij is. Definieer een nieuwe rij van meetbare verzamelingen {Bn}n∈N d.m.v. B1= A1, en
Bk = Ak/Ak−1. Het is duidelijk dat we te maken hebben met meetbare verzamelingen.
Verder zijn alle Bk disjunct en geldt er A= ∪∞k=1Bk. We tonen nu aan dat deze rij naar
P(A) convergeert: P(A) = ∞ ∑ k=1 P(Bk) = lim n n ∑ k=1 P(Bk) = lim n P(An). (3.3)
(2) Als An↓ A, dan Acn↑ Ac dus P(Anc) ↑ P (Ac), oftwel P (An) = 1−P (Acn) ↓ 1−P (Ac) =
P(A). ◻
We mogen nu dus limieten en kansen verwisselen zolang er sprake is van convergerende rijen van meetbare verzamelingen die monotoon zijn. In de volgende stelling wordt dit resultaat gegeneraliseerd waarbij de monotonie niet langer meer verlangd wordt.
Stelling 3.7. Voor elke rij meetbare verzamelingen {An}n∈N met meetbare limiet A
geldt P(An) → P (A).
Bewijs. Met het oog op (3.2) volstaat het om aan te tonen dat P(lim inf
n An) ≤ limn P(An) ≤ P (lim supn An) (3.4)
Neem Bn = ∩∞k=nAk en Cn = ∪∞k=nAk. Volgens Lemma 3.3 kunnen we gebruiken dat
Bn↑ lim infnAn en Cn↓ lim supnAn. Uit de monotoniciteit van P volgt
P(Bn) ≤ P (An) ≤ P (Cn). (3.5)
Neem nu de limiet n→ ∞ en gebruik Lemma 3.6 om limiet en kans te verwisselen in de buitenste leden van de ongelijkheid. Hiermee krijgen we (3.4). ◻ Voorbeeld 3.8. In dit voorbeeld beschouwen we weer de dyadische intervallen. We defini¨eren allereerst de zogeheten lengtefunctie ln als volgt:
ln(ω) = k (3.6)
als dn(ω) = ⋅ ⋅ ⋅ = dn+k−1(ω) = 0 en dn+k(ω) = 1. Gegeven n, geeft elke ln(ω) dus aan
hoeveel nullen elkaar direct opvolgen startende vanaf het n’de cijfer in de binaire repre-sentatie van ω. Neem ter illustratie ω = 0,01000011101. Dan l3(ω) = 4, l7(ω) = 0 en
l10(ω) = 1.
We zullen de gebeurtenis {ω ∶ ln(ω) = k} iets nauwkeuriger bestuderen. Stel dat
d1(ω), . . . , dn−1(ω) bekend zijn. Dat betekent dat we ons beperken tot een dyadisch
interval I van rang n− 1. De uitspraak ‘ln(ω) = k’ impliceert de k + 1 uitspraken
‘dn(ω) = 0, . . . , dn+k−1(ω) = 0, dn+k(ω) = 1’. Alle ω ∈ I, die aan deze k + 1 eisen voldoen,
zijn samen (als verzameling) van lengte 2−(k+1)⋅ l(I) = 2−(k+1)⋅ 2−(n−1)= 2−n−k. Omdat er in totaal 2n−1 keuzes bestaan voor d
1(ω), . . . , dn−1(ω), zien we dat P[ω ∶ ln(ω) = k] = ∑ u1,...,un−1∈{0,1} P[ω ∶ ln(ω) = k, d1(ω) = u1, . . . , dn−1(ω) = un−1] = ∑ u1,...,un−1∈{0,1} 2−n−k = 2n−1⋅ 2−n−k = 2−k−1. Om die reden; P[ω ∶ ln(ω) ≥ r] = ∞ ∑ k=r P[ω ∶ ln(ω) = k] = ∞ ∑ k=r 2−k−1 = 2−r. (3.7) Definieer nu An ∶= {ω ∶ ln(ω) ≥ r}. Dan bestaat lim supnAn uit alle elementen ω
waarvoor ln(ω) ≥ r voor oneindig veel n geldt. Met ongelijkheid (3.4) zien we dat
P(lim sup n An) ≥ lim n P(An) = limn P[ω ∶ ln(ω) ≥ r] = limn 2 −r = 2−r. (3.8) ◻
Op dit punt hebben we bijna voldoende verzamelingtheoretische gereedschappen ont-wikkeld. Er blijken nog twee wiskundige objecten te zijn, die voor het vervolg van belang zijn. Deze twee worden derhalve nu gedefinieerd.
Definitie 3.9. Een π-systeem op een ruimte Ω is een collectieA van deelverzamelingen van Ω met de volgende eigenschappen:
(1) A ≠ ∅,
(2) A, B∈ A ⇒ A ∩ B ∈ A.
Een π-systeem is dus een niet-lege collectie die gesloten is onder eindige doorsneden. ◻ Definitie 3.10. Een λ-systeem (ook wel een Dynkinsysteem genoemd) op een ruimte Ω is een collectie A van deelverzamelingen van Ω met de volgende eigenschappen:
(1) Ω∈ A,
(2) A∈ A ⇒ Ac∈ A,
(3) {An}n∈N⊆ A met Ai∩ Aj = ∅ voor i ≠ j, dan ∪∞n=1An∈ A.
Een λ-systeem is dus een niet-lege collectie die gesloten is onder het nemen van comple-menten en aftelbare, disjuncte verenigingen. ◻ Definitie 3.11. Laat A1, A2,⋅ ⋅ ⋅ ⊆ Ω. Dan schrijven we σ(A1, A2, . . .) voor de kleinste
sigma-algebra die A1, A2, . . . bevat. We noemen σ(A1, A2, . . .) ook we de sigma-algebra
gegenereerd door A1, A2, . . . . ◻
Het belangrijkste resultaat dat we van π- en λ-systemen nodig hebben is de volgende stelling. Dit resultaat gaan we niet bewijzen, aangezien de constructie die leidt tot deze stelling zeer lang en technisch is en verder niet de rode draad van deze sectie dient. Stelling 3.12. πλ-stelling van Dynkin. Stel,Aπ is een π-systeem enAλ een λ-systeem.
Neem aan datAπ ⊆ Aλ. Dan σ(Aπ) ⊆ Aλ. ◻
3.2. Onafhankelijke gebeurtenissen
In de inleiding van dit hoofdstuk is verteld dat we gaan kijken naar gebeurtenissen die zijn geconstrueerd uit hoogstens aftelbaar veel onafhankelijke gebeurtenissen. Dat gaan we nu ook doen, maar de eerste vraag die gesteld moet worden, is wat onafhankelijk precies is. Uit een eerste college kansrekening is bekend2dat A
1, A2, . . . , Anonafhankelijk
zijn als
P(A1A2. . . An) = P (A1)P (A2)⋯P (An), (3.9)
maar deze definitie is alleen van toepassing op een eindig aantal gebeurtenissen. Hoe zit het dan, als we werken met oneindige collecties? De volgende definitie tracht alles te verhelderen.
Definitie 3.13. Onafhankelijkheid van collecties.
(1) Zij A een collectie van gebeurtenissen. De collectie A heet onafhankelijk als voor alle eindige deelverzamelingen {A1, A2, . . . , An} ∈ A geldt
P(A1A2. . . An) = P (A1)P (A2)⋯P (An). (3.10)
Met andere woorden, A heet onafhankelijk als elke eindige deelcollectie ervan onaf-hankelijk is.
(2) Stel nu dat A1,A2, . . . ,An collecties zijn (ook wel klassen genoemd). Dan zijn
deze klassen samen onafhankelijk van elkaar als (3.10) geldt voor A1 ∈ A1, A2 ∈
A2, . . . , An∈ An. Let op: alle Ai komen nu niet uit een dezelfde collectie!
(3) Laat Θ een parameterruimte zijn. Beschouw de collecties Aθ met θ ∈ Θ. Dan zijn
deze collecties onafhankelijk van elkaar als voor elke keuze van Aθ∈ Aθ de collectie
{Aθ ∶ θ ∈ Θ} onafhankelijk is. ◻
Opmerking 3.14. In Definitie 3.13 gaat (1) over onafhankelijkheid van gebeurtenissen binnen ´e´en collectie, terwijl (2) definieert wat onafhankelijkheid tussen (twee of meer) collecties inhoudt. Dit wordt in (3) gegeneraliseerd naar het oneindige geval. ◻ Opmerking 3.15. In Definitie 3.13 bestaat (3) dankzij (1), want de onafhankelijkheid van{Aθ ∶ θ ∈ Θ} is in (1) gedefinieerd. ◻
Voorbeeld 3.16. Beschouw de gebeurtenissen
Buv∶= {ω ∶ du(ω) = dv(ω)}. (3.11)
Dit zijn de gebeurtenissen dat de u’de en v’de (munten)worp hetzelfde zijn. De an-dere interpretatie is natuurlijk dat Buv de verzameling van getallen ω ∈ (0, 1] is
waar-voor het u’de en n’de cijfer in de binaire expansie hetzelfde zijn. De bewering is dat P(Buv) = 12. Dit is zo omdat er in totaal vier mogelijkheden zijn, n.l. (du(ω), dv(ω)) ∈
{(0, 0), (0, 1), (1, 0), (1, 1)}. Van deze vier zijn er twee gunstige n.l. (0, 0) en (1, 1). Volgens (2.10) is de kans op elk van deze twee 14, dus
P[Buv] = P [(0, 0), (1, 1)] = P [(0, 0)] + P [(1, 1)] =
1 2.
Bekijk nu de gebeurtenissen B12, B13 en B23. We laten eerst zien dat deze
gebeurte-nissen paarsgewijs onafhankelijk zijn. Beschouw daarom (in iets algemenere zin) Buv en
Bvw. We bepalen eerst de gunstige combinaties van du(ω), dv(ω), dw(ω) voor de
gebeur-tenis {Buv∩ Bvw} en achterhalen vervolgens de kans P (Buv∩ Bvw) op een soortgelijke
manier als net. Alle mogelijkheden zijn:
(0, 0, 0) (0, 0, 1) (0, 1, 0) (1, 0, 0) (0, 1, 1) (1, 0, 1) (1, 1, 0) (1, 1, 1)
met als gunstige mogelijkheden(0, 0, 0) en (1, 1, 1). Volgens (2.10) is de kans op elk van deze twee 18, dus
P[Buv∩ Bvw] = P [(0, 0, 0), (1, 1, 1)] = P [(0, 0, 0)] + P [(1, 1, 1)] =
1
dus er is sprake van paarsgewijze onafhankelijkheid.
Hoewel B12, B13 en B23 paarsgewijs onafhankelijk zijn, zijn ze niet simultaan
onaf-hankelijk. Omdat voor ω ∈ B12∩ B13 geldt dat d1(ω) = d2(ω) = d3(ω), weten we dat
B12∩ B13⊆ B23, dus P(B12∩ B13∩ B23) = P (B12∩ B13) = 1 4 ≠ 1 8 = P (B12)P (B13)P (B23).
Hieruit concluderen we dat B12, B13, B23 niet (simultaan) onafhankelijk zijn. ◻
De volgende stelling koppelt onafhankelijkheid van π-systemen aan die van sigma-algebra’s.
Stelling 3.17. Beschouw de kansruimte (Ω, F, P ). Laat A1,A2, . . . ,An onafhankelijke
π-systemen zijn. Dan zijn de sigma-algebra’s σ(A1), σ(A2), . . . , σ(An) ook onafhankelijk.
Bewijs. Definieer Bi = Ai∪ {Ω}. Dit is niet noodzakelijk een uitbreiding want Ω kan al
in Ai zitten. Dan is Bi uiteraard nog steeds een π-systeem en ze zijn ook nog steeds
onafhankelijk, want bekijk gelijkheid (3.10). Als Ai= Ω ∈ Bi voor een zekere i, dan kan
Ai in de doorsnijding links weggelaten worden omdat Ω de ‘hele’ verzameling is en rechts
ook want P(Ω) = 1. De gelijkheid reduceert dus tot een uitdrukking met alleen maar elementen van Ai, welke per aanname klopt.
Kies willekeurig B2, B3, . . . , Bn uit resp. B2,B3, . . . ,Bn. DefinieerL als de collectie van
B1∈ F zodanig dat
P(B1∩ B2∩ ⋅ ⋅ ⋅ ∩ Bn) = P (B1)P (B2)⋯P (Bn). (3.12)
De bewering is datL een λ-systeem is. Allereerst Ω ∈ L. Stel B1∈ L, schrijf B1 = Ω/B1c
en vul dit in in (3.12). Dit geeft
P(ΩB2B3. . . Bn/B1cB2B3. . . Bn) = (1 − P (B1c)) ⋅ P (B2)⋯P (Bn).
Het linkerlid kan je verder uitschrijven tot P(Ω)P (B2)⋯P (Bn) − P (B1cB2⋯Bn).
Verge-lijk nu met het rechterlid, merk op dat P(Ω) = 1. Er volgt dat P(Bc
1B2. . . Bn) = P (B1c) ⋅ P (B2)⋯P (Bn).
We zien in dat Bc
1 ∈ L dus L is gesloten onder complementen. Stel nu dat B11, . . . , Bk1 ∈ L
(onderling disjunct). Vul deze k verzamelingen in op de plek van B1 in gelijkheid (3.12).
Tel vervolgens deze k gelijkheden bij elkaar op. Uit de aftelbare additiviteit van de (kans)maat volgt dan
P ( k ⋃ i=1 B1i B2. . . Bn) = P ( k ⋃ i=1 B1k) ⋅ P (B2)⋯P (Bn) dus∪k
i=1Bk1 ∈ L. De collectie L is dus ook gesloten onder aftelbare verenigingen en voldoet
aan alle eisen van een λ-systeem.
Uit de onafhankelijkheid vanB1,B2, . . . ,Bnvolgt dat B1⊆ L. Omdat B1 een π-systeem
is, concluderen we m.b.v. Stelling 3.12 dat σ(B1) ⊆ L. Omdat σ(A1) = σ(B1) (ze
verschil-len slechts een element Ω en dit is een effectloze generator voor een sigma-algebra) weten we dat σ(A1), B2, . . . , Bnonafhankelijk zijn. VanwegeAi⊆ Bi zijn σ(A1), A2, . . . , Anook
onafhankelijk. We kunnen deze procedure opnieuw doorlopen voorA2, . . . ,An i.p.v. A1
Deze stelling kent een direct gevolg, n.l. de generalisatie naar het geval met oneindig veel π-systemen.
Gevolg 3.18. Laat Θ een parameterruimte zijn. Beschouw de collectie van onafhanke-lijke π-systemen{Aθ ∶ θ ∈ Θ}. Dan zijn alle σ(Aθ) onafhankelijk van elkaar.
Bewijs. Omdat alle Aθ onafhankelijk zijn, geldt dat Aθ1, . . . , Aθn uit resp. Aθ1, . . . ,Aθn
onafhankelijk zijn voor elke keuze van n en θ1, . . . , θn volgens (1) en (3) van Definitie
3.13. Volgens (2) van dezelfde definitie is dit equivalent met het feit datAθ1, . . . ,Aθn
on-afhankelijk zijn. Dan zijn σ(Aθ1), . . . , σ(Aθn) onafhankelijk dankzij Stelling 3.17. M.b.v.
dezelfde stappen zien we dat alle σ(Aθ) nu onafhankelijk zijn. ◻
Gevolg 3.19. Beschouw de lijst
A11 A12 . . .
A21 A22 . . .
⋮ ⋮
(3.13) van onafhankelijke gebeurtenissen Aij. De rijen (vaste j) in deze lijst zijn eindig of
oneindig en er zijn mogelijk (maar niet noodzakelijk) oneindig veel rijen. Als Fi de
sigma-algebra gegenereerd door de i’de rij is, dan zijn F1,F2, . . . onafhankelijk.
Bewijs. Laat Ai de collectie van alle eindige doorsneden van elementen van de i’de rij
zijn. Dan is Ai per constructie een π-systeem en verder σ(Ai) = σ(Ai1, Ai2, . . .) = Fi,
aangezienAi t.o.v.{Ai1, Ai2, . . .} slechts een aantal eindige doorsnedes meer bevat, maar
deze hebben als generator van een sigma-algebra geen effect.
Als we nu aantonen dat alleAi onafhankelijk zijn, dan volgt het gevraagde uit Gevolg
3.18. Neem daarom voor alle i een Ai ∈ Ai. Volgens Definitie 3.13(3) moet {Ai}i een
onafhankelijke collectie zijn. Volgens Defintie 3.13(1) moeten Ai1, . . . , Ain dan
onafhan-kelijk zijn voor willekeurige i1, . . . , in (en n∈ N).
Omdat Ai1, . . . , Ain elementen zijn van resp. Ai1, . . . , Ain kunnen we schrijven voor
alle k∈ {1, . . . , n}:
Aik = ⋂
j∈Jk
Aikj
met Jk een eindige verzameling van indices. Nu volgt uit de onafhankelijkheid van alle
Aij dat P( n ⋂ k=1 Aik) = P ( n ⋂ k=1j⋂∈Jk Aikj) = n ∏ k=1 ∏ j∈Jk Aikj = n ∏ k=1 P ( ⋂ j∈Jk Aik,j) = n ∏ k=1 P(Aik).
Hierbij hebben we in de tweede en derde stap gebruikt dat we te maken hebben met eindig veel Aij. Stappen twee en drie lijken in een keer gemaakt te kunnen worden, maar
door deze tussenstap maken we expliciet gebruik van het feit dat de Aij onafhankelijk
zijn en niet dat de doorsnedes ervan dat zijn. Al met al concluderen we dat Ai1, . . . , Ain
onafhankelijk zijn. ◻
Voorbeeld 3.20. We laten zien dat in Stelling 3.17 de eis datAi een π-systeem moet
zijn voor alle i, essentieel is. We borduren daarvoor voort op Voorbeeld 3.16. De gebeur-tenissen B12, B13 en B23 zijn paarsgewijs onafhankelijk. Definieer A1 = {B12, B13} en
A2 = {B23}. Dan zijn A1,A2 onafhankelijke collecties. De sigma-algebra’s σ(A1), σ(A2)
zijn echter niet onafhankelijk, want B23 = (B12△ B13)c ∈ A1. De gelijkheid van
ver-zamelingen kunnen we als volgt inzien. B12△ B13 bevat precies alle ω waarvoor ´of
d1(ω) = d2(ω) ´of d1(ω) = d3(ω) (en dus niet allebei). Dit zijn dus precies alle ω waarvoor
d2(ω) ≠ d3(ω), vandaar dat B23 het complement is van B12△ B13. Dit resultaat is niet
in tegenspraak met Stelling 3.17 aangezienA1 geen π-systeem is, immers B12∩ B13∉ A1
terwijl B12, B13∈ A1. ◻
3.3. Nul-´
e´
enwetten
In de vorige sectie hebben we gekeken naar onafhankelijkheid in een context met mogelijk oneindig veel gebeurtenissen en hebben een paar interessante resultaten afgeleid. We zullen deze secties om een drietal resultaten af te leiden uit de klasse van zogenaamde nul-´e´enwetten. Nul-´e´enwetten zijn resultaten die zeggen dat bepaalde gebeurtenissen ´of met kans 0 ´of met kans 1 optreden. Tussenliggende waarden zijn hierbij uitgesloten. Stelling 3.21. Eerste lemma van Borel-Cantelli. Zij {An}n∈N een rij gebeurtenissen.
Als∑nP(An) convergeert, dan P (lim supnAn) = 0.
Bewijs. Uit (3.1) zien we dat lim supnAn⊆ ∪∞k=mAk , dus
P (lim sup n An) ≤ P ( ∞ ⋃ k=m Ak) ≤ ∞ ∑ k=m P(Ak) Ð→ 0,
omdat∑∞k=mP(Ak) de staart is van ∑nAn en deze laatste convergeert. ◻
Voorbeeld 3.22. We kijken weer naar de lengtefunctie ln en neem een rij{rn}n∈N. Stel
dat ∑∞n=11/2rn convergeert, dan is allereerst de bewering dat
P[ω ∶ ln(ω) ≥ rno.v.] = 0 (3.14)
waarbij o.v. staat voor ‘oneindig vaak’, oftewel voor oneindig veel n. Dit is gewoon de limit superior (limsup) volgens Lemma 3.2(1). Om (3.14) aan te tonen, merken we allereerst op dat ln(ω) ∈ N. Als sn= ⌈rn⌉, dan zien we met (3.7) dat
P[ω ∶ ln(ω) ≥ rn] = P [ω ∶ ln(ω) ≥ sn] = 2−sn≤ 2−rn. (3.15) Kies An= {ω ∶ ln(ω) ≥ rn}. Dan ∑ n P(An) ≤ ∑ n 2−rn < ∞.
Uit Stelling 3.21 volgt dan dat wat we zochten.
Specificeer rn= (1 + ) 2log(n). Dan volgt (o.a. met de integraaltest) dat ∑n1/2rn =
∑n1/n1+< ∞, dus
P[ω ∶ ln(ω) ≥ (1 + )2log(n) o.v.].
Merk op dat we in Stelling 3.21 onafhankelijkheid niet nodig hadden. Dit maakt het resultaat erg bruikbaar. Er bestaat voor deze stelling ook een parti¨ele omkering, n.l. voor het geval dat de collectie {An}n∈N wel onafhankelijk is.
Stelling 3.23. Tweede lemma van Borel-Cantelli. Zij {An}n∈N een rij onafhankelijke
gebeurtenissen. Als∑nP(An) divergeert, dan P (lim supnAn) = 1.
Bewijs. Omdat (lim supnAn)c = ∪n∞=1 ∩∞k=n Ack, is het voldoende om te bewijzen dat
P(∪∞n=1∩∞k=nAc
k) = 0, oftewel dat P (∩∞k=nAck) = 0. Uit de analyse is bekend dat 1 − x ≤ ex.
Hiermee volgt P( n+j ⋂ k=n Ack) = n+j ∏ k=n (1 − P (Ak)) ≤ n+j ∏ k=n exp(−P (Ak)) = exp [− n+j ∑ k=n P(Ak)] .
Omdat∑kP(Ak) divergeert, convergeert het rechterlid naar 0 als j → ∞, dus
P (⋂∞ k=n Ack) = P (lim j→∞ n+j ⋂ k=n Ack) = lim j→∞P( n+j ⋂ k=n Ack) = 0
waarbij voor het tweede=-teken Stelling 3.7 gebruikt is. ◻ Met het tweede lemma van Borel-Cantelli kunnen we aantonen dat de zwakke wet van de grote aantallen kan gelden ook wanneer de sterke wet niet van toepassing is. Hierover gaat het volgende voorbeeld.
Voorbeeld 3.24. Wel zwakke wet maar geen sterke wet. Beschouw een rij van onaf-hankelijke stochasten die de waarden 0 of 1 aannemen: {Xn}n∈N. De kansverdeling van
Xn leggen we vast aan de hand van
P[Xn= 0] =
n− 1
n en P[Xn= 1] = 1 n.
We hebben te maken met een afwijking die willekeurig klein gemaakt kan worden: P[Xn≠ 0] = P [Xn= 1] =
1
n Ð→ 0.
Echter, er is met kans 1 geen sprake van convergentie. Definieer voor alle n de gebeurtenis An = {Xn = 1}.
Dan∑n(An) = ∑n1n= ∞, dus volgens Lemma 3.2 en Stelling 3.23 geldt
P[Xn= 1 voor oneindig veel n] = P [lim sup n
An] = 1.
Voor het complement geldt dan
P[XnÐ→ 0] = P [Xn= 0 vanaf een zekere n] = 0.
Gevolg 3.25. Zij{An}n∈N een onafhankelijke rij van meetbare gebeurtenissen. Dan
∑
n
P(An) convergeert ⇔ P (lim sup n
An) = 0, (3.16)
∑
n
P(An) divergeert ⇔ P (lim sup n
An) = 1. (3.17)
Bewijs. Eerst bewijzen we (3.16). De implicatie naar rechts is Stelling 3.21. Voor de implicatie naar links, neem aan dat P(lim supnAn) = 0 en stel dat ∑nP(An) niet
convergeert. Met dit laatste gegeven volgt uit Stelling 3.23 dat P(lim supnAn) = 1 ≠ 0.
Tegenspraak! Hiermee is (3.16) bewezen. Het bewijs van (3.17) gaat analoog. ◻ Als laatst kijken we naar zogeheten staartgebeurtenissen. Voor dit soort gebeurtenis-sen bestaat een nul-´e´enwet die toegeschreven wordt aan de Russische wiskundige Andrej Kolmogorov.
Definitie 3.26. Beschouw een rij {An}n∈N van gebeurtenissen. Dan is F, gedefinieerd
door
F = ⋂∞
n=1
σ(An, An+1, . . .), (3.18)
de staartsigma-algebra van{An}n∈N. Elementen van F heten staartgebeurtenissen. ◻
Stelling 3.27. Nul-´e´enwet van Kolmogorov. LaatAn een rij van onafhankelijke
gebeur-tenissen zijn met staartsigma-algebraF. Voor alle A ∈ F geldt P (A) = 0 of P (A) = 1. Bewijs. Beschouw de lijst
A1 A2 ⋮ An−1 An An+1 . . . .
Volgens Gevolg 3.19 zijn σ(A1), . . . , σ(An−1), σ(An, An+1, . . .) onafhankelijk. Neem nu
een A∈ F. Dan, in het bijzonder, A ∈ σ(An, An+1, . . .), dus A, A1, . . . , An−1 zijn
onafhan-kelijk. Hiermee zijn A, A1, A2, . . . onafhankelijk (zie definitie van onafhankelijkheid). We
passen Gevolg 3.19 nogmaals toe om te zien dat σ(A) en σ(A1, A2, . . .) onafhankelijk
zijn. Er geldt uiteraard A∈ σ(A) maar omdat A ∈ F hebben we ook A ∈ σ(A1, A2, . . .),
dus we hebben aangetoond dat A onafhankelijk is van zichzelf. Hiermee leiden we af dat P(A) = P (A ∩ A) = P (A)P (A) = P (A)2.
Dit is een kwadratische vergelijking in P(A) en heeft dus als oplossing P (A) = 0 of
4. Goksystemen
Gokspellen in het casino hebben niet alleen een zeer aantrekkende werking op menig gok-verslaafde, maar ook op vele kansrekenaars. Veel van dit soort spellen kunnen op een elegante, wiskundige manier beschreven worden waaruit opmerkelijke resultaten kun-nen worden afgeleid. Allereerst beschrijven we een zeer bekend gokspel, het spel achter ru¨ınering der spelers. Vervolgens bespreken we de effectiviteit van een aantal gokstrate-gie¨en en bestuderen een voorbeeld aan de hand van de zwakke wet van de grote aantallen die we kennen uit het eerste hoofdstuk.
4.1. Ru¨ınering der spelers I
Wiskundig gezien is het spel achter ru¨ınering der spelers (ook vaak aangeduid met de Engelse naam gambler’s ruin) het meest eenvoudige gokspel dat er bestaat en derhalve een logisch startpunt voor dit hoofdstuk. Intu¨ıtief kan het als volgt beschreven worden: stel we beginnen met een geldbedrag a (neem ter eenvoud aan dat alle geldbedragen natuurlijke getallen zijn). We werpen een munt met kans p op kop en kans q= 1 − p op munt en spreken af dat ons geldbedrag stijgt met 1 als er sprake is van kop en daalt met 1 als er sprake is van munt. De eerste vraag die we stellen is: “Hoe groot is de kans dat we uiteindelijk geru¨ıneerd raken?”, oftewel hoe waarschijnlijk is het dat we een restbedrag van 0 overhouden?
Om de vraag te kunnen beantwoorden, moet de situatie eerst wiskundig gepreciseerd worden. We beschouwen dus een proces van het werpen van munten en bekijken de rij van onafhankelijke stochasten X1, X2, X3, . . . met (voor alle n∈ N)
Xn= {
1 (n’de worp kop)
-1 (n’de worp munt) . (4.1) Omdat we ervan uitgaan dat ‘kop’ met kans p en ‘munt’ met kans q = 1 − p optreedt, geldt voor alle Xn:
P(Xn= 1) = p, P(Xn= −1) = q. (4.2)
Laat verder Rn≥ 0 het totale geldbedrag op tijdstip n zijn (d.w.z. na n worpen). Dit
kunnen we dus schrijven als Rn= {
a (n = 0)
a+ X1+ ⋅ ⋅ ⋅ + Xn (n ≥ 1)
. (4.3)
volgende visualisering: 0 p p p Ð→ Ð→ Ð→ Ð→ 1 ⤿ 0 1 2 3 . . . ←Ð ←Ð ←Ð ←Ð q q q q . (4.4)
Merk op dat de overgangskans van 0 naar 1 gelijk is aan 0, want als een speler eenmaal blut is, betekent dat dat hij geen geld kan inzetten en dus kan hij ook niks winnen net als in een echt casino. We zullen er ook van uitgaan dat het casino oneindig veel geld in kas heeft, oftewel dat (4.4) oneindig groot is.
Definieer voor i∈ N:
hi = P [Xn= 0 voor een zekere n ∣ X1= i ] ,
dus hi is de kans om, startend in i , in 0 te belanden. We kunnen hiermee het volgende
stelsel van differentievergelijkingen opstellen: h0 = 1,
hi = phi+1+ qhi−1 (i ≥ 1).
Intu¨ıtief kan je je dit stelsel als volgt voorstellen: startende in 0 , is de speler al in 0 , dus met kans 1 wordt 0 bereikt. Start de speler in i met i ≠ 0, dan gaat de speler met kans p naar i+1 en met kans q naar i-1 . De kans om vanuit i in 0 te komen hangt dus af van de kans om vanuit i-1 en i+1 in 0 te komen en wel via de recursie hi = phi+1+ qhi−1.
Opmerking 4.1. Deze sectie maakt gebruik van de theorie van differentievergelijkingen. We zullen echter niet ingaan op deze theorie, maar geven gelijk de oplossing van deze vergelijkingen op het moment dat deze nodig zijn en controleren dat deze oplossingen ook werkelijk voldoen aan de vergelijking. ◻
In het geval p≠ q is de oplossing van dit stelsel van de volgende vorm: hi = A + B (
q p)
i
(i ≥ 0). (4.5)
Deze voldoet allereerst aan de tweede vergelijking. Er geldt immers, vanwege p+ q = 1, phi+1+ qhi−1= p (A + B ( q p) i+1 ) + q (A + B (q p) i−1 ) = (p + q)A + B (qi+1 pi + qi pi−1) = A + B (qi+1+ pqi pi ) = A + B (qi(p + q) pi ) = A + B (q p) i = hi.
In alle (succesvolle) casino’s is er nooit sprake van p> q, dus we nemen aan dat p < q. Omdat kansen tussen 0 en 1 liggen, moeten we B= 0 concluderen (anders blaast (q/p)i
op), dus hi = A voor alle i ≥ 0. We weten al dat h0 = 1, dus nu ook dat hi= 1. Beschouw
nu het geval p= q. De algemene oplossing in dit geval is
hi= A + Bi (i ≥ 0). (4.6)
Ook in dit geval voldoet hij aan de tweede vergelijking:
phi+1+ qhi−1= p(A + B(i + 1)) + q(A + B(i − 1))
= (p + q)A + (p + q)Bi + pB − qB = A + Bi = hi.
We hebben hier net als in het eerst geval gebruikt dat p+ q = 1, maar in tegenstelling daartoe hebben we hier ook gebruikt dat p= q. Om dezelfde redenen als in het geval p< q concluderen we dat hi= 1 voor alle i.
De moraal van het verhaal: in succesvolle casino’s waar p≤ q geldt, staat bij dit spel vast dat spelers geru¨ıneerd raken indien ze zo lang door blijven spelen als mogelijk. Dit geldt zelfs in het eerlijke geval p = q. Dit laatste gegeven is bekend onder de noemer ru¨ınering der spelers.
4.2. Ru¨ınering der spelers II
Een variant op ‘ru¨ınering der spelers’ kan als volgt bedacht worden: stel nu dat de speler op de hoogte is van de kennis van de vorige sectie en dat hij besluit te stoppen als hij een zeker bedrag heeft bereikt. We kunnen ons dan afvragen hoe waarschijnlijk is dat hij zijn doel haalt of juist niet.
Stel dat we beginnen met een variabel startbedrag a en een streefbedrag c hebben. Ga uit van 0 ≤ a ≤ c. We onderzoeken eerst de grootte van sc(a), de kans dat het
streefbedrag gehaald wordt in die situatie.
Laat de rij van stochasten X1, X2, X3, . . . als voorheen, dus vastgelegd door (4.2) en
bekijk voor dit geval weer de willekeurige wandeling Rn die gedefinieerd is in (4.3). Door
het afspreken van het streefbedrag c krijgen we ditmaal een ander plaatje dan in (4.4), n.l. een met een eindig aantal toestanden:
0 p p p p p Ð→ Ð→ Ð→ Ð→ Ð→ Ð→ 1 ⤿ 0 1 2 3 . . . c-1 c ⟲ 1 ←Ð ←Ð ←Ð ←Ð ←Ð ←Ð q q q q q 0 . (4.7)
Merk op dat de overgangskansen P(0 → 1) en P (c → c − 1) gelijk zijn aan 0, want eenmaal in 0 of in c eindigt het proces. Als we beginnen met a = 0, dan krijgen we onmogelijk een bedrag c op den duur en als we beginnen met a= c, dan is het zeker dat we het streefbedrag halen (we hebben het immers al bereikt). Om die redenen nemen we als randvoorwaarden sc(0) = 0 en sc(c) = 1. We stellen het volgende stelsel van
differentievergelijkingen op:
sc(i) = 0 (i = 0),
sc(i) = psc(i + 1) + qsc(i − 1) (1 ≤ i ≤ c − 1),
sc(i) = 1 (i = c).
(4.8) Laat ρ = q/p. We hebben weer twee gevallen voor de oplossing; ρ ≠ 1 (dus p ≠ q) en ρ= 1 (dus p = q). De algemene oplossing is dan
sc(i) = {
A+ Bρi (ρ ≠ 1),
A+ Bi (ρ = 1).
De algemene oplossing is van dezelfde vorm als in de vorige sectie, maar door afwijkende randvoorwaarden wordt de uiteindelijke oplossing anders. We hebben ditmaal te maken met de randvoorwaarden sc(0) = 0 en sc(c) = 1. Hiermee kunnen A en B bepaald worden
in beide gevallen. Dit resulteert in: sc(i) = { ρi−1 ρc−1 (ρ ≠ 1), i c (ρ = 1), i∈ {0, . . . , c}. (4.9) Op dezelfde manier kunnen we achterhalen dat de kans op ru¨ınering rc in die situatie
(streefbedrag c) gelijk is aan rc(i) = { ρ−(c−i)−1 ρ−c−1 (ρ ≠ 1), c−i c (ρ = 1), i∈ {0, . . . , c}. (4.10) In allebei de situaties geldt sc(i) + rc(i) = 1. In woorden betekent dit, ongeacht het
streefbedrag c en het beginbedrag i, dat het spel niet oneindig lang door blijft gaan. Voor een zekere n zal dus gelden Xn∈ {0, c}.
4.3. Selectiesystemen
We gaan terug naar de situatie van (4.4) en laten het streefbedrag c van de vorige sectie even buiten beschouwing. In de constructies van deze sectie is het niet verplicht om elke ronde iets in te zetten, dus als er in de n’de ronde niet wordt ingezet, dan heeft de stochast Xn geen invloed op het geldbedrag van de gokker. Om de opbrengst te
maximaliseren, is het duidelijk dat de gokker niks in moet zetten gedurende de ronden dat Xn = −1. De grote vraag is echter, hoe van tevoren te beslissen al dan niet in
te zetten. Op basis van de voorgaande resultaten (X1, . . . , Xn−1) zal namelijk besloten
moeten worden of er moet worden ingezet of niet in de n’de ronde. Dit selectieprobleem geeft aanleiding tot het formuleren van selectiestrategie¨en. De grote verrassing zal echter zijn dat dit soort strategie¨en geen verschil maken en derhalve nutteloos zijn.
Eerst modelleren we op wiskundige wijze de keuze om wel of niet in te zetten. Herinner je daarvoor de definitie van het totale geldbedrag (na n ronden) Rn van (4.3).
Definitie 4.2. Zij n ∈ N. De inzetfunctie (voor de n’de ronde) is een stochast Bn die
waarden 0 of 1 kan aannemen met de eigenschap dat voor de opbrengstfunctie R′ngeldt: R′n= { R′n−1+ Xn (Bn= 1),
R′n−1 (Bn= 0).
Ook moet er gelden dat
Bn= bn(X1, . . . , Xn−1) (4.12)
voor een zekere functie bn ∶ Rn−1 → R en willekeurige n > 1. We nemen verder aan dat
B1 constant is. ◻
De inzetfunctie Bn geeft aan of er in de n’de ronde ingezet wordt of niet: Bn = 1
betekent inzetten en Bn= 0 betekent niet inzetten. Dat vertaalt zich in (4.11) in het feit
dat de n’de uitkomst alleen invloed heeft op het totale geldbedrag als Bn = 1. Omdat
het al dan niet inzetten in de n’de ronde al besloten moet zijn voordat Xn bekend is en
we op basis van de reeds bekende resultaten willen beslissen, is het intu¨ıtief duidelijk dat Bn van X1, . . . , Xn−1 mag afhangen maar niet van Xn. Dit feit komt terug in (4.12). We
kunnen de definitie ook iets uitbreiden. Het is n.l. goed mogelijk dat Bn afhangt van
een extra parameter of stochast die niet afhangt van Xn, Xn+1, . . . , dus van de volgende
vorm is:
Bn= bn(X1, . . . , Xn−1, f) (4.13)
voor een zekere functie bn ∶ Rn → R en f ∶ Rm → R waarbij m, n ∈ N. Zie hiervoor
Voorbeeld 4.4.
Voorbeeld 4.3. Enkele veelvoorkomende inzetfuncties: (1) Elke ronde inzetten:
Bn= 1.
(2) Inzetten als de voorgaande k keer de uitslag gunstig was: Bn=
n−1
∏
i=n−k
1{Xi=1} (1 ≤ k ≤ n).
(3) Inzetten als er in de voorgaande rondes minstens zoveel gunstige als ongunstige resultaten waren:
Bn= 1{∑n−1
i=1 Xi> n−1−∑n−1i=1 Xi}.
◻ Voorbeeld 4.4. Bekijk de inzetfunctie Bn gedefinieerd door
Bn= dn, (4.14)
waarbij dn gedefinieerd is in Definitie 2.5. Het al dan niet inzetten bepalen we dus
volledig aan de hand van het opwerpen van een munt. Stel dat ∑∞n=1Bn= ∞, d.w.z. dat
de speler oneindig lang door blijft gaan.
Bekijk Ak ∶= 1k∑kn=1Bn. De stochast Ak is het aandeel van de rondes met inzet t.o.v.
het totale aantal rondes, als dit totale aantal gelijk is aan k. Omdat we aangenomen hebben, dat het spel niet stopt, vragen we ons af waar Ak naartoe convergeert in de
Met de sterke wet van de grote aantallen kunnen we deze vraag beantwoorden. Bekijk het volgende: P[ lim k→∞Ak= 1 2] = P [ limk→∞ 1 k k ∑ n=1 Bn= 1 2] = P [ limk→∞ 1 k k ∑ n=1 dn= 1 2] = P [N] met N gedefinieerd zoals in (2.19). Uit Stelling 2.14 volgt nu
P[ lim
k→∞Ak=
1 2] = 1.
In woorden: met kans 1 zal het verschil tussen het aantal rondes met en zonder inzet steeds kleiner worden, naarmate het totale aantal gespeelde rondes groeit. In de limiet k→ ∞ zijn deze twee aantallen gelijk. ◻ Voorbeeld 4.5. Kies Bn = (Xn+ 1)/2, dan geldt er Bn = 1 als Xn = +1 en Bn = 0 als
Xn = −1. Hoewel de functie Bn hier optimale resultaten geeft, is zij geen inzetfunctie
door (4.12). Immers, Bn hangt in dit voorbeeld af van Xn. ◻
Definitie 4.6. Definieer de volgende sigma-algebra’s: { Fn= σ(X1, . . . , Xn) (n ≥ 1),
F0 = {∅, Ω}.
(4.15) ◻ Omdat B1 een constante functie is, zien we direct in dat hij F0-meetbaar is. Dit geldt
ook algemener: Bn is Fn−1-meetbaar voor alle n ≥ 1. Om dit algemenere geval aan te
tonen, maken we een uitstapje naar de theorie van simpele stochasten.
Definitie 4.7. Bekijk X ∶ Ω → R. Noteer σ(X) voor de kleinste sigma-algebra die X meetbaar maakt. We noemen σ(X) ook wel de sigma-algebra gegenereerd door X. ◻ Opmerking 4.8. De sigma-algebra σ(X) bevat verzamelingen van de volgende vorm:
X−1(B) (4.16)
voor B een Borel-meetbare verzameling. Ook bevat σ(X) aftelbare, verzamelingtheore-tische combinaties van verzamelingen van de vorm (4.16). ◻ Definitie 4.9. Beschouw een kansruimte (Ω, F, P ) en een stochast X ∶ Ω → R. Dan heet X simpel als hij eindig veel waarden aanneemt en als er geldt
{X = x} ∈ F (4.17)
voor alle x∈ R. ◻
Opmerking 4.10. Simpele stochasten X zijn precies van de vorm X=
n
∑
i=1
xiIAi (4.18)
met x1, . . . , xn alle waarden die X kan aannemen, A1, . . . , An een partitie van Ω in
Lemma 4.11. Laat X1, . . . , Xn simpele stochasten gedefinieerd op Ω zijn. Dan bestaat
σ(X1, . . . , Xn) uit verzamelingen van de volgende vorm:
{(X1, . . . , Xn) ∈ H} (4.19)
met H⊆ Rn. We kunnen voor H ten slotte een eindige verzameling kiezen.
Bewijs. LaatA de collectie van verzamelingen van de vorm (4.19) zijn. Er moet aange-toond worden datA = σ(X1, . . . , Xn).
Voor x1, . . . , xn∈ R kunnen we schrijven:
{(X1, . . . , Xn) = (x1, . . . , xn)} = ∩ni=1{Xi = xi} (4.20)
en deze verzameling zit in σ(X1, . . . , Xn) wegens Opmerking 4.8. Omdat iedere Xisimpel
is, neemt (X1, . . . , Xn) ook een eindig aantal mogelijke waarden aan. We concluderen
hieruit dat (4.19) bestaat uit een eindige vereniging van elementen van de vorm (4.20), dus {(X1, . . . , Xn) ∈ H} ∈ σ(X1, . . . , Xn). Hiermee hebben we A ⊆ σ(X1, . . . , Xn).
Andersom is eerst de bewering dat A een sigma-algebra is. Immers, (1) Ω= {(X1, . . . , Xn) ∈ Rn} ∈ A,
(2) {(X1, . . . , Xn) ∈ H}c= {(X1, . . . , Xn) ∈ Hc} ∈ A,
(3) ∪n
i=1{(X1, . . . , Xn) ∈ Hi} = {(X1, . . . , Xn) ∈ ∪ni=1Hi} ∈ A.
Verder is elke Xi A-meetbaar, want {Xi = x} kan geschreven worden in de vorm (4.19)
door H= {(x1, . . . , xn) ∈ Rn ∶ xi= x} te kiezen. Omdat σ(X1, . . . , Xn) de kleinste
sigma-algebra is die X1, . . . , Xnmeetbaar maakt hebben we de andere inclusie: σ(X1, . . . , Xn) ⊆
A.
Tot dusverre hebben we niet gesproken over het al dan niet eindig zijn van H. We defini¨eren een nieuwe H′ ⊊ Rn door H te doorsnijden met het beeld van (X
1, . . . , Xn).
Omdat deze laatste eindig is, is H′ dat ook. Echter, aan (4.19) verandert niks, want {(X1, . . . , Xn) ∈ H′} = {(X1, . . . , Xn) ∈ H}, dus we kunnen H gewoon eindig kiezen. ◻
Stelling 4.12. Een simpele stochast Y is meetbaar t.o.v. σ(X1, . . . , Xn) dan en slechts
dan als
Y = f(X1, . . . , Xn) (4.21)
voor een meetbare functie f∶ Rn→ R.
Bewijs. Neem allereerst aan dat Y van de vorm (4.21) is. Bekijk de gebeurtenis {Y = y} = f−1(y) = {(X
1, . . . , Xn) ∈ H}
met H = {(x1, . . . , xn) ∶ f(x1, . . . , xn) = y} ⊂ Rn. Dan {Y = y} ∈ σ(X1, . . . , Xn) volgens
Lemma 4.11, dus Y is meetbaar t.o.v. σ(X1, . . . , Xn).
Neem nu aan dat Y meetbaar is t.o.v. σ(X1, . . . , Xn), en noteer met y1, . . . , yr de
verschillende waarden die Y kan aannemen. Er bestaan deelverzamelingen H1, . . . , Hr
van Rn met
Het bestaan van Hivolgt uit de meetbaarheid van Y en Lemma 4.11. Leg nu de gezochte
functie f ∶ Rn→ R vast aan de hand van f(X
1, . . . , Xn) = ∑ri=1yiIHi(X1, . . . , Xn). Hoewel
Lemma 4.11 niet garandeert dat alle Hidisjunct zijn, is dat wel het geval hier. We passen,
om dit te laten zien, onze notatie iets aan: we vermelden expliciet ω∈ Ω. Stel namelijk dat er een ω bestaat met (X1(ω), . . . , Xn(ω)) ∈ Hi∩ Hj (i ≠ j). Dan volgt uit (4.22),
dat Y(ω) = yi ´en dat Y(ω) = yj. Echter, omdat i ≠ j, hebben we ook yi ≠ yj, dus dit
geeft tegenspraak, dus alle Hi zijn disjunct. Neem nu een willekeurige ω∈ Ω. Voor een
i∈ {1, . . . , r} geldt dan Y(ω) = yi ⇔ (X1(ω), . . . , Xn(ω)) ∈ Hi ∧ (X1(ω), . . . , Xn(ω)) ∉ Hj (j ≠ i) ⇔ f(X1(ω), . . . , Xn(ω)) = r ∑ i=1 yiIHi(X1(ω), . . . , Xn(ω)) = yi, dus Y = f(X1, . . . , Xn). ◻
We besluiten het uitstapje naar de theorie van simpele stochasten met het volgende, voor ons belangrijke, gevolg:
Gevolg 4.13. De inzetfunctie Bn is meetbaar t.o.v. Fn−1.
Bewijs. Voor n= 1 is dit reeds aangetoond. Neem nu aan dat n > 1. Omdat Bn(ω) ∈
{0, 1} voor alle ω ∈ Ω, is Bn simpel. Per aanname is Bn van de vorm bn(X1, . . . , Xn−1)
(zie (4.12)) en volgens (4.15) is Fn−1= σ(X1, . . . , Xn−1). Kies in Stelling 4.12 f = bn en
het gevraagde volgt direct. ◻
Definitie 4.14. De inzettijd (voor de n’de inzet) is een stochast Nn met het volgende
voorschrift: Nn= inf {k ∶ k ∑ i=1 Bi= n} . (4.23) ◻ Een speler heeft voor de n’de keer ingezet v´o´or tijdstip k+ 1 als hij tot en met tijdstip k minimaal n keer heeft ingezet, dus als∑ki=1Bi≥ n, dus
{Nn≤ k} = { k
∑
i=1
Bi≥ n} ∈ σ(B1, . . . , Bk).
We weten dat Bi meetbaar is t.o.v. de sigma-algebra Fi−1 = σ(X1, . . . , Xi−1).
Om-dat σ(Bi) de kleinste sigma-algebra is die Bi meetbaar maakt, weten we dat σ(Bi) ⊆
σ(X1, . . . , Xi−1), dus {N ≤ k} ∈ σ(B1, . . . , Bk) ⊆ σ(X1, . . . , Xk−1) = Fk−1. We weten dus
ook dat
{Nn= k} = {Nn≤ k} ∩ {Nn≤ k − 1}c∈ Fk−1. (4.24)
De meetbaarheid van {Nn= k} zullen we later nog nodig hebben.
We willen nu alleen het geval beschouwen dat het spel oneindig lang door blijft gaan. Om Nndan goed gedefinieerd te hebben, d.w.z. Nn< ∞ voor alle n, doen we de aanname
dat
Definitie 4.15. Beschouw een rij{Bn}n∈N van stochasten die de waarden 0 of 1
aanne-men. Als voor alle n, Bn voldoet aan (4.12) en (4.25), dan heet{Bn}n∈N een
selectiesys-teem. ◻
We willen nu inzien of het hanteren van een selectiestrategie effect heeft. Daarvoor hoeven we alleen te kijken naar de spelrondes waarin ingezet wordt, omdat alleen die rondes van invloed zijn op de opbrengst, dus bekijk de rij stochasten{Yn}n∈N met Yn=
XNn voor alle n. Hiervoor kan de volgende stelling geformuleerd worden:
Stelling 4.16. Voor elk selectiesysteem zijn de stochasten {Yn}n∈N onafhankelijk en er
geldt bovendien P(Yn= +1) = p en P (Yn= −1) = q.
Bewijs. We bewijzen eerst de tweede bewering. Herschrijf p en q tot resp. p(+1) en p(−1). Dan geldt er P [Xk= x] = p(x) voor x ± 1. Er geldt
P[Yn= x] = P [XNn= x] =∑∞ k=1 P[Nn= k, Xk= x] =∑∞ k=1 P[Nn= k]p(x) = p(x).
Merk op dat de in (4.24) aangetoonde meetbaarheid van{Nn= k} is gebruikt, aangezien
we anders niet eens mogen spreken van P[Nn= k]. Door voor x zijn mogelijke waarden
in te vullen, volgt de tweede bewering.
Nu rest nog de onafhankelijkheid van {Yn}n∈N (de eerste bewering). Kies n∈ N
wille-keurig en neem eveneens willewille-keurig x1, . . . , xn∈ {+1, −1}. Dan
P[Yi= xi, i≤ n] = P [XNi = xi, i≤ n] = ∑ 0 < k1< ⋅ ⋅ ⋅ <kn
k1, . . . , kn∈N
P[Ni= ki, Xki = xi, i≤ n].
Bekijk nu de gebeurtenis A= {Ni = ki, i≤ n} ∩ {Xki = xi, i< n}. Met (4.15) en (4.24)
zien we dat deze verzamelingFkn−1-meetbaar is. Merk op dat op A geen eis legt op Xkn.
M.b.v. deze vrijheidsgraad kunnen we schrijven: P[Yi = xi, i≤ n] = ∑
0 < k1< ⋅ ⋅ ⋅ <kn
k1, . . . , kn∈N
P[{Ni = ki, i≤ n} ∩ {Xki = xi, i< n}]p(xn).
We sommeren nu over alle mogelijke waarden van kn dus over kn−1+ 1, kn−1+ 2, . . . ,
waaruit volgt dat (let op de extra stricte ongelijkheid) P[Yi = xi, i≤ n] = ∑ 0 < k1< ⋅ ⋅ ⋅ <kn−1 k1, . . . , kn−1∈N P[{Ni = ki, i< n} ∩ {Xki = xi, i< n}]p(xn) = ∑ 0 < k1< ⋅ ⋅ ⋅ <kn−1 k1, . . . , kn−1∈N P[Ni = ki, Xki = xi, i< n]p(xn) = P [XNi= xi, i< n]p(xn) = P [Yi = xi, i< n]p(xn).
Nu volgt met inductie dat P[Yi= xi, i≤ n] = ∏ i≤n p(xi) = ∏ i≤n P[Yi= xi],
dus alle Yi zijn onafhankelijk. ◻
Stelling 4.16 laat zien dat het hanteren van een selectieprocedure nutteloos is. Immers, de rij {Yn}n∈N kent precies dezelfde kansverdeling als {Xn}n∈N waaruit hij gemaakt is.
4.4. Gokbeleid
In de vorige sectie hadden we te maken met een inzetfunctie Bn die alleen waarden
kon aannemen in {0, 1}. De waarde van Bn correspondeerde met het inzetbedrag. We
breiden het spel uit door hogere inzetbedragen toe te laten.
Definitie 4.17. Het inzetbedrag (voor de n’de ronde) is een stochast Wn∶ Ω → N en is
van de vorm
Wn= fn(X1, . . . , Xn−1) ≥ 0 (4.26)
voor een zekere functie fn∶ Rn−1→ R. De rij {Wn}n∈N heet dan een inzetsysteem. ◻
Het is intu¨ıtief duidelijk waarom we (4.26) eisen: immers, ten tijde van het in-zetten heb heeft de speler alleen de beschikking over de voorgaande resultaten, n.l. X1, . . . , Xn−1, dus op basis daarvan zal een beslissing gemaakt moeten worden. Verder
is een inzetbedrag nooit negatief.
De uitkomst Wn = 0 komt overeen met het niet inzetten gedurende de n’de ronde.
We zien hiermee dat Wn de rol van de inzetfunctie Bn overneemt. Dit is ook terug te
zien in de overeenkomsten tussen (4.12) en (4.26). Het inzetsysteem is dus in feite een generalisatie van het selectiesysteem.
Het vergaarde fortuin (de totale opbrengst) Fn1 kan dan recursief geschreven worden
als
Fn= Fn−1+ WnXn. (4.27)
Door het beginbedrag met F0 aan te geven, geldt (4.27) ook in het geval n= 1. Herinner
je dat Xn ∈ {−1, +1}, dus Xn bepaalt of er een winst of verlies ter hoogte Wn gemaakt
wordt.
Een speler die begint met een hoog beginbedrag kan geneigd zijn aanvankelijk hoger in te zetten dan een speler die met een lager bedrag aan tafel schuift. Het beginbedrag kan dus van invloed zijn op Wn. In ieder geval, we breiden (4.26) uit naar:
Wn= gn(F0, X1, . . . , Xn−1) (4.28)
voor een zekere functie gn∶ Rn→ R.
Als we F0 fixeren (dit kan omdat F0 geen stochast is), dan is Wn een simpele stochast
en volgens Stelling 4.12 is hij meetbaar t.o.v. Fn−1 = σ(X1, . . . , Xn−1). Omdat Fn−1
1 De opbrengst, die we voorheen noteerden met R
n, zullen we voortaan noteren met Fn (van
for-tuin) conform de notatie van het boek Probability and Measure - Anniversary Edition van Patrick Billingsley.
