Kanalkapazität

Die Kanalkapazität ist Teil der informationstheoretischen Beschreibung des Kanals. Sie gibt an, wie hoch die maximale Bitrate ist, die über einen Kanal fehlerfrei übertragen werden kann.

Claude Shannon zeigte am Modell der Zufallscodes, dass die Kanalkapazität durch Codierung erreicht werden kann.

Inhaltsverzeichnis

1 Definition

Definition

Die Kanalkapazität $C$ für einen diskreten gedächtnisfreien Kanal ist das Supremum aller fehlerfrei erreichbaren Raten. Sie lässt sich auch als Maximum der Transinformation angeben, kurz $C = m a x p (X) I (X; Y)$ .

Einheit

$\left[ \frac{bit}{s} \right]$ oder bps

Beispiele

Die Kanalkapazität des binären symmetrischen Kanales (Binary Symmetric Channel, BSC) ist:
$C = 1 - h (p),$
wobei $h (p)$ die binäre Entropiefunktion darstellt.

Die Kanalkapazität des binären Auslöschungskanales (Binary Erasure Channel, BEC) ist:
$C = 1 - δ,$
mit der Auslöschungswahrscheinlichkeit $δ$ .

Die Kanalkapazität des bandbegrenzten Gaußkanales (Additive White Gaussian Noise, AWGN) ist:
$C = W \log \left( 1 + \frac{S}{N_0 W} \right).$
Dabei steht $W$ für die Kanalbandbreite, $S$ für die Sendeleistung und $N 0$ für die Rauschleistungsdichte. Durch erhöhen der Bandbreite $W$ auf unendlich bei gleichzeitiger Fixierung der Sendeleistung $S$ ergibt sich als höchstmögliche Rate $R$ die ultimative Shannon-Grenze
$R < C_\infty = \frac{E_b}{N_0} = \ln 2 = 0.69 = -1.6dB,$
wobei $E_b = \frac{S}{R}$ die pro Informationsbit normalisierte Sendeenergie darstellt.

Gaußkanal

In der Arbeit "Communication in the presence of noise" betrachtete C. E. Shannon den Frequenzkanal nach dem WKS-Abtasttheorem, welcher in einer Zeitspanne T eine Anzahl D=2WT an orthonormalen Trägern enthält, d.s. Vektoren im kontinuierlichen Signalraum des Kanals mit Bandbreite 2W, z.B. $g_n(t)=\frac{\sin(2Wt-n\pi)}{2Wt-n\pi}$ . Es sei bekannt, dass jeder Träger eine reelle Zahl mit einem normalverteilten Fehler der Varianz $\sigma=\sqrt{N}$ übertragen kann. Ein diskretes Signal ist nun ein Tupel $x_1,\dots,x_D$ , welches als kontinuierliches Signal $f(t)=x_1g_1(t)+\dots+x_Dg_D(t)$ gesendet wird und als gestörtes Signal $\tilde f(t)=(x_1+\varepsilon_1)g_1(t)+\dots+(x_D+\varepsilon_D)g_D(t)$ empfangen werde.

Sei das Signal auf eine durchschnittliche Leistung $P$ beschränkt, d.h. $|x_1|^2+\dots+|x_D|^2=DP$ . Anders gesagt, das diskrete Ausgangssignal f liege auf einer D-dimensionalen Sphäre mit Radius $R_0:=\sqrt{DP}$ . Es sei eine Konfiguration von M zufällig ausgewählten diskreten Signale dieser Charakteristik fixiert, welche M verschiedenen digitalen Botschaften entsprechen soll, d.h. es werden $log 2 (M)$ Bit kodiert.

Die Quadratsumme der D voneinander unabhängigen Fehler liegt nach dem Gesetz der großen Zahlen dicht bei ihrem Erwartungswert DN, so dass das empfangene diskrete Signal mit sehr hoher Wahrscheinlichkeit innerhalb einer Kugel vom Radius $r:=\sqrt{DN}$ mit dem gesendeten Signal als Mittelpunkt liegt, und mit hoher Wahrscheinlichkeit nahe der Sphäre mit Radius $R_1:=\sqrt{D(P+N)}$ um das Nullsignal liegt. Von den kleinen Kugeln passen maximal $M=\frac{R_1^D\,vol(K_D)}{r^D\,vol(K_D)}=\left(\frac{P+N}{N}\right)^{\frac{D}2}$ Stück in die große, d.h. für die maximale Bitrate gilt

$\frac{\log_2(M)}T \le W \log_2\left(1+\frac{P}N\right)$ .

Andererseits überstreicht die Fehlerkugel mit Radius $r=\sqrt{DN}$ mit Mittelpunkt auf der Sphäre der empfangenen Signale mit Radius $R_1:=\sqrt{D(P+N)}$ einen Bereich in der Kugel mit Radius $R_0=\sqrt{DP}$ der gesendeten Signale, welcher seinerseits innerhalb einer Kugel mit Radius $h=\sqrt{\frac{DNP}{N+P}}$ liegt. Die Wahrscheinlichkeit für eines der Signale aus der Konfiguration, außerhalb dieses Bereichs zu liegen, ist also größer als $1-\frac{h^D\,vol(K_D)}{R_0^D\,vol(K_D)}=1-\left(\frac{N}{P+N}\right)^{\frac{D}2}$ . Dass alle M-1 von dem gesendeten Signal verschiedenen Signale der Konfiguration außerhalb dieses Bereichs liegen, hat also eine Wahrscheinlichkeit, die größer ist als

$\left(1-\left(\frac{N}{P+N}\right)^{\frac{D}2}\right)^{M-1}\ge 1-M\left(\frac{N}{P+N}\right)^{\frac{D}2}$ .

Soll eine Fehlerwahrscheinlichkeit e unterschritten werden, d.h. obiger Ausdruck größer als 1-e sein, so erhält man nach Umstellen für die Bitrate

$\frac{\log_2(M)}{T}\le W\log_2\left(1+\frac{P}N\right)+\frac{\log_2(e)}{T}$ .

$log 2 (e)$ im zweiten Summanden ist negativ und im Betrage sehr groß, der Beitrag des zweiten Summanden kann aber beliebig klein gestaltet werden, wenn der Zeitraum T und damit auch die Mächtigkeit M der Konfiguration groß genug sind. Damit kann, mit wachsender Länge der Signale in der Konfiguration, die Bitrate beliebig nahe an die ideale Bitrate herangeführt werden. Jedoch stellen Verwaltung der Konfiguration und das Suchen des am besten dem empfangenden ähnelnden Signals einer direkten praktischen Anwendung schnell wachsende Anforderungen entgegen.

Kanalkapazität

Definition

Einheit

Beispiele

Gaußkanal

Siehe auch

See also: Kanalkapazität, BSC, Bandbreite, Bitrate, Claude Shannon, Kanal (Informationstheorie), Kanalcodierung, Kurzspeicherkapazität, Nyquist-Shannon-Abtasttheorem, Orthonormalsystem