F Faaccuulltteeiitt IInnggeenniieeuurrsswweetteennsscchhaappppeenn V Vaakkggrrooeepp EELLEECC M MooddeelleexxaammeennvvrraaggeennIInnffoorrmmaattiieetthheeoorriiee((ffaacc..WWEE))
1) Beschouw een kanaal waarbij de bron discreet is met 2 symbolen en de ontvanger eveneens als een discrete bron met alfabetlengte 2 mag beschouwd worden. Er treden transmissiefouten op in het kanaal, maar er is geen symmetrie.
Het volgende schema modeleert het probleem:
De snelheid waarbij de bron symboleren produceert (parameter r) is gelijk aan 2 Mbit/s. De codering geschiedt aan de hand van een NRZ spanningscodering. De kans dat de ontvanger een ‘0’ decodeert is gelijk aan
16 6
Bepaal:
1. Bronentropie
2. Entropie van de ontvanger 3. Bandbreedte
4. Transinformatie 5. Gemiddelde fout
Hint: log262.6, log2103.3 1 x 2 x y2 1 y 4 3 2 1 2 1 4 1
2) Een discrete bron heeft alfabetlengte 6. De kans op voorkomen van de symbolen is: P(a) = 2 1 P(b) = 16 1 P(c) = 4 1 P(d) = P(b) P(e) = 8 1 Bepaal:
1. De entropie van de bron
2. Een code volgens de methode van Shannon-Fano 3. Een Huffman code
4. Vergelijk het redement voor beide codes.
5. Wat zou voor een bron met een zelfde alfbetlengte als in dit voorbeeld de maximale entropie zijn?
