zurück zum Überblick

http://www.oelinger.de Home Maria Oelinger   sitemap

Entropie und Wahrscheinlichkeit

Bedingte Entropie

H (X | Y = y_j) = _i=1,…,s p (x_i | y_j) • log 1/p (x_i | y_j)    (siehe auch Rückschlussentropie)

Für zeilensymmetrischen Kanal:

H (Y | X) = _j=1,…,t p (y_j | x_i) • p (y_j)     ist unabhängig von der Eingangsverteilung

Ausgabewahrscheinlichkeit

q_j = p (y_j) = _i=1,…,s p_i • p (y_j | x_i)

p (y_j) ist die Wahrscheinlichkeit, dass y_j empfangen wird (bzw. überhaupt vorkommt).

Empfangsentropie

H (Y) = _j=1,…,t p (y_j) • log 1/p (y_j)     für Zufallsvariable Y auf {y₁, …, y_t}

Feel free to send me email: maria@oelinger.de