InfElmTetel38

Ez az oldal a korábbi SCH wikiről lett áthozva.

Ha úgy érzed, hogy bármilyen formázási vagy tartalmi probléma van vele, akkor, kérlek, javíts rajta egy rövid szerkesztéssel!

Ha nem tudod, hogyan indulj el, olvasd el a migrálási útmutatót.

vissza InfelmTetelek-hez <style> li {margin-top: 4px; margin-bottom: 4px;} </style>

BSC csatorna kapacítása

A tételhez érdemes lehet leírni pár kapcsolódó definíciót a Csatornakapacitás tételből.

BSC csatorna

A bináris szimmetrikus csatorna (BSC) olyan csatorna a hol a csatorna bemenete és kimenete is két értéket (1,0) vehet fel. A hibázás valószínűsége $p$.

Kapacitás

TODO: a bináris entrópiafüggvény már szerepel egy másik tételnél, be kéne linkelni

https://wiki.sch.bme.hu/bin/view/Infoalap/InfElmTetel34

Ha $p$ a hibázás valószínűsége, és h a bináris entrópiafüggvény, akkor:

A BSC csatorna kapacitása $C=1-h(p)$.

Kapacitás levezetése

Legyen U és V a bemenetet illetve a kimenetet megadó valószínűségi változó. Legyen $P(U=0)=\alpha$ és $P(U=1)=1-\alpha$.

A csatornakapacitás definíciójából: $C=\max\{I(X;Y)\}=\max\{H(V)-H(V|U)\}$

kb: V annyi információt ad U-hoz képest, amennyi a p hibázás entrópiája. $H(V|U)=h(p)$

Mivel V csak két értéket vehet fel, ezért az egyik valószínűségét a bináris entrópiafüggvénybe helyettesítve kaphatjuk az entrópiáját. Helyettesítsük be $P(V=0)$ értékét:
$H(V)=h(\alpha *(1-p)+(1-\alpha )*p)$

Tudjuk, hogy a $h(x)$ bináris entrópiafüggvény $x={\frac {1}{2}}$ -re maximális. Ez $\alpha ={\frac {1}{2}}$ esetén áll fenn. Ezt $H(V)$-be helyettesítve 1-et kapunk, hiszen $h({\frac {1}{2}})=1$.

Ezeket behelyettesítve a csatornakapacitás képletébe: $C=\max\{H(V)-H(V|U)\}=1-h(p)$

Behelyettesítéssel ellenőrizhető, hogy a soha nem hibázó (p=0) BSC csatorna kapacitása 1, az esetek felében hibázó (p=1/2) csatorna kapacitása pedig 0, az ilyen csatornát nem lehet adattovábbításra használni, hiszen a kimenetből nem lehet következtetni a bemenetre. (A kölcsönös információjuk nulla.)

-- Sales - 2006.06.27.