InfElmTetel16

Ez az oldal a korábbi SCH wikiről lett áthozva.

Ha úgy érzed, hogy bármilyen formázási vagy tartalmi probléma van vele, akkor, kérlek, javíts rajta egy rövid szerkesztéssel!

Ha nem tudod, hogyan indulj el, olvasd el a migrálási útmutatót.

vissza InfelmTetelek-hez <style> li {margin-top: 4px; margin-bottom: 4px;} </style>

Információstabilitás

Az $\mathbb {X}$ stacionárius forrás információstabilis, ha minden $\delta >0$-ra

$\lim _{k\rightarrow \infty }{P\left\{\left|-{\frac {1}{k}}\log {p(X_{1},\ldots ,X_{k})}-H(\mathbb {X} )\right|>\delta \right\}}=0$

ami azt jelenti, hogy az $Y_{k}=-{\frac {1}{k}}\log {p(X_{1},\ldots ,X_{k})}$ valószínűségi változók sorozata sztochasztikusan tart $H(\mathbb {X} )$-hez ha $k\rightarrow \infty$.

A stacionárius és ergodikus források információstabilisek.

Ha az $\mathbb {X}$ stacionárius forrás információstabilis, akkor $\lim _{k\rightarrow \infty }{{\frac {1}{k}}\log {N(k,\epsilon )}}=H(\mathbb {X} )$ minden $0<\epsilon <1$-re.

Ha az $\mathbb {X}$ stacionárius forrás információstabilis is $k$ hosszú blokkjait $\epsilon$ hibával kódoljuk állandó $m_{k}$ hosszú kódszavakkal, akkor $\liminf _{k\rightarrow \infty }{\frac {m_{k}}{k}}\geq {\frac {H(\mathbb {X} )}{\log {s}}}$ valamint elég nagy $k$ esetén tetszőleges $\epsilon$-ra és $\delta >0$-ra létezik $f:\chi ^{k}\rightarrow \gamma ^{m_{k}}$ kód, hogy a betűnként átlagos kódszóhossz $L={\frac {m_{k}}{k}}<{\frac {H(\mathbb {X} )}{\log {s}}}+\delta$

A jelsebesség $R={\frac {m}{k}}\log {s}$. Az $R$ jelsebességű $k$ hosszú blokkokat kódoló kódok közül az a legjobb, amelyik $\chi ^{x}$ első $N=2^{kR}$ legnagyobb valószínűségű elemét kódolja egyértelműen. Ilyen kód hibavalószínűsége: $P_{e}(k,R)=\sum _{i\geq 2^{kR}}{p({\underline {x}}_{i})}$

Ha az $\mathbb {X}$ stacionárius forrás információstabilis, akkor legfeljebb $R$ jelsebességű $k$ hosszú blokkokat állandó szóhosszon kódoló legkisebb hibával dekódolható kód hibavalószínűségére igaz, hogy: $\lim _{k\rightarrow \infty }{P_{e}(k,R)}=0$ ha $R>H(\mathbb {X} )$ és $\lim _{k\rightarrow \infty }{P_{e}(k,R)}=1$ ha $R<H(\mathbb {X} )$.

\author{Vigovszky Dániel \\ \small{Bálint Márton} \\}

-- Sales - 2006.06.25.