Prüfungsvorbereitung aus dem Jahr 2011 im Fachbereich Informatik - Theoretische Informatik, Wilhelm Büchner Hochschule Private Fernhochschule Darmstadt, Sprache: Deutsch, Abstract: Formelsammlung Informationstheorie. Aus dem Inhalt: Informationstheorie, Informationsbegriff, Wahrscheinlichkeiten, Informationsquellen, Informationsübertragung, Codierung von Informationen, (...).

1Informationsbegriff1.1Definition1.2Informationsbegriff nach Shannon2Wahrscheinlichkeiten2.1Unabhängige Wahrscheinlichkeit2.2Bedingte Wahrscheinlichkeit3Informationsquellen3.1Definition3.2Quellen ohne Gedächtnis3.3Quellen mit Gedächtnis (Markow-Quellen)3.4Verbundquellen3.5Verbundquellen mit abhängigen Ereignissen3.6Beispiel4Informationsübertragung4.1Grundmodell5Informationsmaße5.1Summe aller Wahrscheinlichkeiten5.2Informationsgehalt5.3Entscheidungsgehalt5.4Mittlerer Informationsgehalt und Entropie5.5Entropie einer Verbundquelle5.6Entropie einer Verbundquelle mit abhängigen Ereignissen5.7Entropieredundanz5.8Symmetrisch gestörter Binärkanal5.9Beispiel Entropien6Codierung von Informationen6.1Definition6.2Informationsfluss6.3Kanalkapazität6.4Signalkodierung