/k 12
1/34
Kansrekening en stochastische processen
2DE18Docent : Jacques Resing
E-mail: resing@win.tue.nl
/k 12
2/34 Een stochastisch proces (stochastic proces) X(t) bestaat uit een experiment met een kansmaat P[·] en een functie die een tijdfunctie x(t, s) toevoegt aan elke uitkomst s in de uitkomstenruimte van het experiment.
Een uitkomst functie (sample function) x(t, s) is de tijdfunctie die wordt geassocieerd aan een uitkomst s van het experiment.
Het ensemble van een stochastisch proces is de verzameling van alle moge- lijke tijdfuncties die kunnen resulteren uit een experiment.
/k 12
3/34
Discrete of continue waarden
X(t) is een discrete-waarde (discrete-value) stochastisch proces als alle mo- gelijke waarden van X(t) voor alle mogelijke waarden t, een aftelbare verza- meling SX vormt.
Indien dit niet het geval is wordt dit eencontinue-waarde(continuous-value) stochastisch proces genoemd.
/k 12
4/34
Discrete of continue tijd
X(t) is een discrete-tijd (discrete-time) stochastisch proces als X(t) alleen gedefinieerd is voor een verzameling tijdstippen tn = nT met T een con- stante en n een geheel getal.
Indien dit niet het geval is wordt dit een continue-tijd (continuous-time) stochastisch proces genoemd.
/k 12
5/34 Als we X(t1) bekijken voor vaste t1 dan is dat een stochast. We kunnen dan bijvoorbeeld de kansverdeling bepalen.
We kunnen ook X(t1) en X (t2) bekijken voor vaste t1 en t2 en dan zijn dit twee stochasten waarvan we de gezamenlijke kansverdeling kunnen bepa- len.
/k 12
6/34
Voorbeeld
Zij
X(t) = R |cos(2π f t)|
een signaal met een stochastische amplitude R met een exponentiële kans- dichtheid:
fR(r) = ( 1
10e−r/10 r ≥ 0
0 anders
Wat is de kansdichtheid fX(t)(x) ?
/k 12
7/34 Een onafhankelijke, identiek verdeelde stochastische rij is een stochastisch proces waarbij
. . . , X−2, X−1, X0, X1, X2, . . .
onafhankelijke, identiek verdeelde stochastische variabelen zijn.
Een Bernoulli( p) proces Xn is een onafhankelijke, identiek verdeelde sto- chastische rij waarbij elke Xn een Bernoulli( p) stochastische variabele is.
/k 12
8/34 Zij Xn een onafhankelijke, identiek verdeelde stochastische rij. Voor een discrete-waarde proces heeft de bemonsteringsvector
X =
Xn1
...
Xnk
een gezamenlijke kansverdelingsfunctie:
PX(x) = PX(x1)PX(x2) · · · PX(xk) =
k
Y
i =1
PX(xi)
/k 12
9/34 Zij Xn een onafhankelijke, identiek verdeelde stochastische rij. Voor een continue-waarde proces heeft de bemonsteringsvector
X =
Xn1
...
Xnk
een gezamenlijke kansdichtheid:
fX(x) = fX(x1) fX(x2) · · · fX(xk) =
k
Y
i =1
fX(xi)
/k 12
10/34 Een stochastisch proces N(t) is een telproces(counting proces) als voor elke uitkomst functie n(t, s) = 0 voor t < 0 en n(t, s) geheeltallig is en niet- dalend in de tijd.
/k 12
11/34
Poisson proces
Een telproces N(t) is een Poisson proces met snelheid λ als:
• N(0) = 0.
• Het aantal aankomsten in een interval (t0, t1], N(t1) − N(t0) is een Pois- son stochast met verwachting λ(t1 −t0).
• Voor elk paar niet overlappende intervallen (t0, t1] en (t00, t10], zijn het aantal aankomsten in de twee intervallen, N(t1)− N(t0) en N(t10)− N(t00) respectievelijk, onafhankelijke stochastische variabelen.
/k 12
12/34
Poisson( α) stochastische variabele
X is eenPoisson(α)stochastische variabele als de waarschijnlijkheidsfunctie de volgende vorm heeft:
PX(x) =
(αxe−α
x ! als x = 0, 1, 2, . . .
0 anders
met de parameter α zodanig dat α > 0.
/k 12
13/34 Voor een Poisson proces N(t) met snelheid λ, is de gezamenlijke kansver- delingsfunctie van
N =
N(t1) ...
N(tk)
gelijk aan
PN(n) =
αn11 e−α1 n1!
α2n2−n1e−α2
(n2−n1)! · · ·α
nk−nk−1 k e−αk
(nk−nk−1)! als 0 ≤ n1 ≤ · · · ≤ nk,
0 anders
met α1 = λt1 en voor i = 2, . . . , k hebben we αi = λ(ti −ti −1).
/k 12
14/34 Voor een Poisson proces met snelheid λ is de tussenaankomsttijd een onaf- hankelijke, identiek verdeelde rij met een exponentiële kansdichtheid:
fX(x) = (λe−λx x ≥ 0
0 anders
/k 12
15/34 Een telproces met onafhankelijke exponentieel(λ) verdeelde tussenaan- komsttijd, is een Poisson proces met snelheid λ.
/k 12
16/34 Zij N1(t) en N2(t) twee onafhankelijke Poisson processen met snelheid λ1
en λ2. Dan is het telproces N1(t) + N2(t) een Poisson proces met snelheid λ1 +λ2.
/k 12
17/34
Voorbeeld
Er komen auto’s, bussen en vrachtwagens aan bij een tolpoort met aan- komsten verdeeld volgens onafhankelijke Poisson processen met snelheden λc = 1.2 auto’s/minuut, λb = 0.7 bussen/minuut en λv = 0.9 vrachtwa- gens/minuut.
In een 10 minuten interval wat is de kansverdeling van het aantal voertuigen (auto’s, bussen en vrachtwagens) dat zal aankomen bij de tol.
/k 12
18/34
Voorbeeld
Zij N(t) een Poisson proces met snelheid λ. Zij N0(t) het proces waarbij we alleen de even aankomsten tellen, d.w.z. aankomsten 2,4,6 van het proces
N(t).
Is N0(t) een Poisson proces?
/k 12
19/34 De telprocessen N1(t) en N2(t) afgeleid uit de Bernouilli decompositie van het Poissonproces van het Poisson proces N(t) zijn onafhankelijke Poisson processen met snelheden λp en λ(1 − p).
De Bernouilli decompositie komt door elke aankomst met een kans p een aankomst voor N1(t) te maken en met een kans 1 − p een aankomst voor
N2(t).
/k 12
20/34
Voorbeeld
Een website telt het aantal hits die Poisson verdeeld zijn met een snelheid van 10 hits per seconde. Elke hit is met kans 0.7 een intern verzoek en komt met kans 0.3 van buiten.
Over een 10 minuten interval wat is de gemeenschappelijke kansverdeling van het aantal interne hits I en het aantal externe hits X .
/k 12
21/34 Zij N(t) = N1(t)+ N2(t) de som van twee onafhankelijke Poisson processen met snelheden λ1 en λ2. Gegeven dat N(t) een aankomst heeft, is de kans dat de aankomst van N1(t) afkomstig is, gelijk aan
λ1
λ1 +λ2.
/k 12
22/34
Brownse beweging
Een stochastisch proces W(t) wordt een Brownse beweging (Brownian mo- tion) genoemd als het de eigenschap heeft dat W(0) = 0 en W(t +τ)− W(t) Gaussisch (0,√
ατ) is en onafhankelijk van W(t0) voor alle t0 ≤ t.
/k 12
23/34 Voor een Brownse beweging W(t), is de gezamenlijke kansdichtheid van
W =
W(t1) ...
W(tk)
gelijk aan
fW(w) =
k
Y
n=1
1
p2πα(tn −tn−1)e−(wn−wn−1)2/[2α(tn−tn−1)]
/k 12
24/34
Verwachting
De verwachting (expectation) van een stochastisch proces X(t) is een deter- ministische functie:
µX(t) = E[X (t)]
/k 12
25/34
Autocovariantie
De autocovariantie (autocovariance) van een stochastisch proces X(t) is:
CX(t, τ) = Cov[X (t), X (t + τ)].
De autocovariantie van een stochastisch rij Xn is:
CX[m, k] = Cov[Xm, Xm+k].
/k 12
26/34
Autocorrelatie
De autocorrelatie (autocorrelation) van een stochastisch proces X(t) is:
RX(t, τ) = E[X (t)X (t + τ)].
De autocorrelatie van een stochastisch rij Xn is:
RX[m, k] = E[XmXm+k].
/k 12
27/34
Voorbeeld
Bepaal de autocovariantie CX(t, τ) en de autocorrelatie RX(t, τ) van de Brownse beweging W(t).
/k 12
28/34
Voorbeeld
De ingang van een digitaal filter is een onderling onafhankelijk, identiek verdeeld stochastische rij
. . . , X−1, X0, X1, . . .
met E[Xi] = 0 en Var[Xi] = 1. De uitgang is een stochastische rij . . . , Y−1, Y0, Y1, . . . gerelateerd aan de ingang volgens de formule:
Yn = Xn + Xn−1
Bepaal de verwachting E[Yn]en de autocovariantie CX[m, k].
/k 12
29/34 De autocovariantie en de autocorrelatie van een stochastisch proces X(t) voldoen aan de volgende formule:
CX(t, τ) = RX(t, τ) − µX(t)µX(t + τ)
De autocovariantie en de autocorrelatie van een stochastische rij Xn voldoen aan de volgende formule:
CX[m, k] = RX[m, k] − µX(m)µX(m + k)
/k 12
30/34
Stationaire processen
Een stochastisch proces X(t) is stationair (stationary) dan en slechts dan als voor elke verzameling tijdstippen t1, . . . , tm en elke tijdsverschil τ we hebben:
fX(t1),...,X (tm)(x1, . . . , xm) = fX(t1+τ),...,X (tm+τ)(x1, . . . , xm)
Een stochastisch rij Xn is stationair dan en slechts dan als voor elke verza- meling geheeltallige tijdstippen t1, . . . , tm en elke tijdsverschil k we hebben:
fXt1,...,Xtm(x1, . . . , xm) = fXt1+k,...,Xtm +k(x1, . . . , xm)
/k 12
31/34 Voor een stationair proces X(t) hebben de verwachting, de autocorrelatie en de autocovariantie de volgende eigenschappen voor elke t:
• µX(t) = µX.
• RX(t, τ) = RX(0, τ) = RX(τ).
• CX(t, τ) = RX(τ)2 −µ2X = CX(τ).
/k 12
32/34 Voor een stationaire stochastische rij Xn, hebben de verwachting, de auto- correlatie en de autocovariantie de volgende eigenschappen voor elke n:
• E [Xn] = µX.
• RX[n, k] = RX[0, k] = RX(k).
• CX[n, k] = RX[k]2 −µ2X = CX[k].
/k 12
33/34
Voorbeeld
Ga na of de Brownse beweging met parameter α stationair is.
/k 12
34/34
Voorbeeld
Voor de ontvanger van een AM radio, is het ontvangen signaal een sinu- soidale drager met frequentie fc met een stochastische fase 2 die uniform verdeeld is op (0, 2π). Het ontvangen signaal is:
X(t) = A cos(2π fct +2)
Wat is de verwachting en de autocorrelatie van het stochastische proces X(t).
