Ereignis
Eine mathematische Theorie der Kommunikation
Claude Shannon veröffentlichte 1948 A Mathematical Theory of Communication in zwei Teilen. Er untersuchte darin unter anderem die Übertragung von Nachrichten über Kommunikationskanäle. Für ein Modell gestörter Kanäle beschrieb er, wie geeignete Kodierung die Fehlerhäufigkeit unter bestimmten Bedingungen sehr klein machen kann. Eine spätere Anwendung von Fehlerkorrektur waren Voyager-Daten 1986. Original und Einordnung Quelle
Shannon grenzt seine technische Fragestellung ein: Für die Übertragung betrachtet er, welche Nachricht aus einer Menge möglicher Nachrichten ausgewählt wurde; ihre Bedeutung ist für dieses Modell nicht der Maßstab. Bei gestörten Kanälen hängt seine Aussage über beliebig kleine Fehlerhäufigkeit unter anderem davon ab, dass die Informationsrate die Kanalkapazität nicht überschreitet. Das ist eine mathematische Aussage unter Modellannahmen, keine Garantie für jede reale Verbindung. Originaltext und Grenzen
Ein Beispiel zeigt die Idee verlustfreier Kodierung: Sind vier Zeichen unterschiedlich häufig, können häufige Zeichen kürzere Bitfolgen erhalten. Für seine konkrete Wahrscheinlichkeitsverteilung kommt Shannon auf durchschnittlich 1,75 Bit pro Zeichen statt zwei bei gleich langen Codes. In der Einleitung schreibt er den Wortvorschlag „bit“ J. W. Tukey zu. Originaltext
Belege
Bedeutung, Kanalgrenze und Modellannahmen: Einleitung und Theorem 11.
Quellenhinweis: Nachdruck, Titel und Einleitung; ursprüngliche Ausgabe Juli und Oktober 1948.
Offen
Weitere konkrete Verbindungen zu späteren Kodierungsverfahren gesondert anhand ihrer Entwicklungsgeschichte prüfen.