Unknown user: Új oldal, tartalma: „{{GlobalTemplate|Infoalap|InfElmTetel3}} ==Definiciója:== $I(X;Y)=H(X)+H(Y)-H(X,Y)= H(X)-H(X|Y)$ ==Tulajdonságai== ==a== $I(X;Y)= \sum_{x,y} p(x…”$

2012-10-21T19:59:48Z

Új oldal, tartalma: „{{GlobalTemplate|Infoalap|InfElmTetel3}} ==Definiciója:== <math>I(X;Y)=H(X)+H(Y)-H(X,Y)= H(X)-H(X|Y)</math> ==Tulajdonságai== ==a== <math> I(X;Y)= \sum_{x,y} p(x…”

Új lap

{{GlobalTemplate|Infoalap|InfElmTetel3}}

==Definiciója:==
<math>I(X;Y)=H(X)+H(Y)-H(X,Y)= H(X)-H(X|Y)</math>

==Tulajdonságai==

==a==
<math> I(X;Y)= \sum_{x,y} p(x,y)\log \frac{p(x,y)}{p(x)*p(y)} = \sum_{x,y} p(x,y)\log \frac{p(x|y)}{p(x)} = \sum_{x,y} p(x,y)\log \frac{p(y|x)}{p(y)} </math>

===Bizonyítás===
<math> -H(X) = \sum_x p(x)\log p(x) = ( \sum_y p(y|x) ) * \sum_x p(x)\log p(x) = </math> (mivel <math> \sum_y p(y|x) = 1 </math>)

<math> = \sum_y p(y|x) * \sum_x p(x)\log p(x) = \sum_y \sum_x p(y|x) * p(x)\log p(x) = </math>

<math> = \sum_{y,x} p(x,y)\log p(x) </math> 

Ugyanígy <math> -H(Y) = \sum_{y,x} p(x,y)\log p(y) </math> 
<math> -H(X,Y) = \sum_{x,y} p(x,y)*\log p(x,y) </math> 
<math>I(X;Y)=H(X)+H(Y)-H(X,Y)= \sum_{x,y} p(x,y)*\log p(x,y) - \sum_{y,x} p(x,y)logp(x) - \sum_{y,x} p(x,y)\log p(y) = </math> 
<math> = \sum_{x,y} p(x,y)*\log \frac {p(x,y)}{p(x)*p(y)} </math> 

==b==
<math>I(X;Y) >= 0</math>

===Bizonyítás===
Mivel <math> H(X,Y) \leq H(X) + H(Y) </math>, ezért <math> I(X;Y) = H(X) + H(Y) - H(X,Y) \geq 0 </math>

==c==
<math>I(X;Y) \leq H(X)</math>
<math>I(X;Y) \leq H(Y)</math>

===Bizonyítás===
<math>I(X;Y)=H(X)+H(Y)-H(X,Y) \leq H(X) </math> mivel <math> H(Y) \leq H(X,Y) </math>

==d==
<math>I(X;Y) \geq I(g(X) ; f(Y))</math>

===Bizonyítás===
<math>I(X;Y)=H(X)-H(X|Y) \geq H(X)-H(X|f(Y))=</math>

<math>I(X;f(Y)) = H(f(Y))-H(f(Y)|X) \geq H(f(Y))- H(f(Y)|g(X)) = I(g(X);f(Y))</math>

[[Category:Infoalap]]

Kölcsönös Információ és tulajdonságai - Laptörténet

Unknown user: Új oldal, tartalma: „{{GlobalTemplate|Infoalap|InfElmTetel3}} ==Definiciója:== I(X;Y)=H(X)+H(Y)-H(X,Y)= H(X)-H(X|Y) ==Tulajdonságai== ==a== I(X;Y)= \sum_{x,y} p(x…”

Unknown user: Új oldal, tartalma: „{{GlobalTemplate|Infoalap|InfElmTetel3}} ==Definiciója:== $I(X;Y)=H(X)+H(Y)-H(X,Y)= H(X)-H(X|Y)$ ==Tulajdonságai== ==a== $I(X;Y)= \sum_{x,y} p(x…”$