Klausur im Lehrgebiet

Grundlagen der Statistischen

Nachrichtentheorie
- Prof. Dr.-Ing. Thomas Sikora -

Name: . . . . . . . . . . . . . . . . . . . . . . . . . . . . Vorname: . . . . . . . . . . . . . . . . . . . . . . . . .

Matr.Nr: . . . . . . . . . . . . . . . . . . . . . . . . . . .

Ich bin mit der Veröffentlichung des Klausurergebnisses

unter meiner Matrikelnummer einverstanden:  Ja

Aufgabe P
1 2 3 4

Max. Punktezahl 10 10 10 10 40

Erreichte Punktezahl

Hinweise:
1. Schreiben Sie die Lösungen jeweils direkt auf den freien Platz unterhalb der Aufgabenstellung.

2. Die Rückseiten können bei bedarf zusätzlich beschrieben werden. Nummerierungen in diesem
Fall nicht vergessen.

3. Sollte auch der Platz auf der Rückseite nicht ausreichen, bitte kein eigenes Papier verwenden.
Die Klausuraufsicht teilt auf Anfrage zusätzlich leere Blätter aus.

4. Nichtprogrammierbare Taschenrechner sind als Hilfsmittel erlaubt!

5. Es ist ein einseitig beschriebenes DIN A4-Blatt zur Lösung dieser Klausur zugelassen!

6. Bearbeitungszeit: 90 min.

7. Bitte keinen Bleistift und keinen Rotstift verwenden!

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 1

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

Inhaltsverzeichnis

Inhaltsverzeichnis

1 Wahrscheinlichkeit und Zufallsvariablen 3

2 Verteilungsfunktion 6

3 Lineare Systeme 8

4 Wiener-Kolmogoroff-Filterung 11

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 2

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

1 Wahrscheinlichkeit und Zufallsvariablen

1 Wahrscheinlichkeit und Zufallsvariablen 10 Punkte

1.1 Erläutere anhand der Kolmogoroff-Axiome welche der folgenden Aussagen 4P

stimmen bzw. nicht stimmen.

a) P(B ∪ C) = −0, 1 1P
Falsch, denn P(B ∪ C) :> 0
Die Wahrscheinlichkeit ist nichtnegativ.

b) P(Ω ∪ C) = 0, 1 1P
Falsch, denn P(Ω ∪ C) = P(Ω) := 1
Das sichere Ergebnis hat die Wahrscheinlichkeit Eins.

c) P(E ∪ E) = P(E) + P(E) 1P

Falsch, denn P(A ∪ B) := P(A) + P(B), wenn A ∩ B = ∅ mit A = E und B = E müsste gelten,
dass E ∩ E = ∅, was natürlich nicht stimmt.
Die Wahrscheinlichkeit ist in diesem Fall nicht additiv.

d) P(Ω̄) = 0 1P
Richtig, denn P(Ω̄) = 1 − P(Ω) = 0 Das sichere Ergebnis hat die Wahrscheinlichkeit Eins.

1.2 Ein Kasten enthält drei weiße und zwei rote Bälle. Zwei Bälle werden gezogen, 4P
der erste Ball wird nicht zurückgelegt.

a) Wie groß ist die Wahrscheinlichkeit, zwei weiße Bälle zu ziehen? 1P

P(ω1 ) = 3
5, P(ω2 |ω1 ) = 2
4, P(ω1 ∩ ω2 ) = 3
5 · 2
4 = 3
10 mit
P(ω1 ): Wahrschenlichkeit, dass der erste Ball weiß ist
P(ω2 ): Wahrschenlichkeit, dass der zweite Ball weiß ist

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 3

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

1 Wahrscheinlichkeit und Zufallsvariablen

b) Wie groß ist die Wahrscheinlichkeit, wenn man den ersten Ball zurücklegen 1P
würde?
Für die Wahrscheinlichkeit P(ω1 ∩ ω2 ) ergibt sich mit
P(ω1 ) = 35 , P(ω2 |ω1 ) = 53 , P(ω1 ∩ ω2 ) = 3
5 · 3
5 = 9
25

c) Was ist wahrscheinlicher: nach zweimaligen Ziehen ohne zurücklegen eine 2P

rote und eine weiße Kugel zu erhalten oder zwei rote Kugeln?
P(rot und weiß) = P(r, ω) = P(r1 ) · P(ω2 ) + P(ω1 ) · P(r2 ) = 52 · 34 + 35 · 2
4 = 3
5
2 1 1
P(rot und rot) = P(r, r) = P(r1 ) · P(r2 ) = 5 · 4 = 10

1.3 Gegeben sei ein binärer symmetrischer Kanal wie unten abgebildet. Sende- 2P
symbole seien X0 und X1 , mit Auftretenswahrscheinlichkeiten P(X0 ) = 0, 7
und P(X1 ) = 0, 3

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 4

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

1 Wahrscheinlichkeit und Zufallsvariablen

a) Geben Sie die Wahrscheinlichkeit an, dass das Symbol Y0 empfangen wird. 1P
P(Y0 ) = P(X0 )P(Y0 |X0 ) + P(X1 )P(Y0 |X1 ) = 0, 7 · 0, 6 + 0, 3 · 0, 4 = 0.54
b) Geben Sie die Wahrscheinlichkeit an, dass ein Sendesymbol richtig ankommt. 1P
P(richtigempfangen) = P(Y0 |X0 ) = P(Y1 |X1 ) = 0.6, was aus dem Diagramm ersichtlich ist.

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 5

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

2 Verteilungsfunktion

2 Verteilungsfunktion 10 Punkte

2.1 Gegegben sei folgende Verteilungsfunktion eines Würfels: 6P

a) Wie groß ist die Wahrscheinlichkeit, dass es sich um einen fairen Würfel han- 1P
delt? Begründe.
Die Wahrscheinlichkeit ist 0, denn bei einem fairen Würfel ist die Verteilungsdichtefunktion
gleichverteilt, was in gleich hohen Treppenanstiegen in der Verteilungsfunktion erkennbar wä-
re. Da die Stufen in der obigen Verteilung unterschiedlich hoch sind, handelt es sich hier sicher
um einen unfairen Würfel.
b) Welcher Wert wird im Mittel am häufigsten gewürfelt? 1P
Die 2, da sie die höchste Wahrscheinlichkeit hat.
c) Berechnen Sie den Mittelwert und das 2. zentrale Moment. 4P

X
6
E(X) = xn P(X = xn )
n=1

⇒ E(X) = 1 · 0, 1 + 2 · 0, 3 + 3 · 0, 1 + 4 · 0, 2 + 5 · 0, 1 + 6 · 0, 2 = 3, 5

D2 (x) = E([X − E(X)]2 )

X
6
2
E([X − E(X)] ) = (xn − E(X))2 P(X = xn )
n=1
= (−2, 5)2 · 0, 1 + (−1, 5)2 · 0, 3 + (−0, 5)2 · 0, 1
+(0, 05)2 · 0, 2 + (1, 5)2 · 0, 1 + (2, 5)2 · 0, 2
= 2, 85

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 6

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

2 Verteilungsfunktion

2.2 Eine Zufallsvariable X habe die VDF pX (x) = e−b|x| . 4P

a) Skizziere die VDF und gib die Verteilungsfunktion an! 2P

Verteilungsfunktion :
x < 0 → pX (x) = ebx
Zx
1 1
F(x) = ebx dx = ebx |x−∞ = ebx
b b
−∞

x > 0 → pX (x) = e−bx

Zx Z0 Z
∞
bx
F(x) = pX dx = e dx + e−bx dx
−∞ −∞ 0
1 1 1 1 1
= + (− ) e−bx |x0 = − e−bx +
b b b b b
2 1 2−e −bx
= − e−bx =
b b b

px (x)

b) Wie groß muss b sein und wie groß ist die Wahrscheinlichkeit, dass X im 2P
Bereich zwischen 1 und 2 liegt?
Das Integral muss Eins sein:
Z
+∞ Z0 Z
∞
bx
pX (x) dx ≡ 1 = e dx + e−bx dx
−∞ −∞ 0
2
= ≡1 → b=2
b

Z2
P(1 6 X 6 2) = e−2x dx
1
= 0, 058

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 7

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

3 Lineare Systeme

3 Lineare Systeme 10 Punkte

3.1 Gegeben sei ein lineares System mit der Impulsantwort h(n). 6P

a) Zeigen Sie, dass sich die Kreuzkorrelierte zwischen Eingang und Ausgang zu 4P
RXY (k) = RXX (k) ∗ h(k) ergibt. Wie kann man damit die Impulsantwort des
linearen Systems messen?

RXY (k) = E[X(n)Y(n + k)]

X
= E[X(n) h(j)X(n − j + k)]
j
X
= h(j) E[X(n)X(n − j + k)]
j
X
= h(j) RXX (k − j)
j
= h(k) ∗ RXX (k)

Ist das Eingangssignal weißes Rauschen

RWW (k) = σ2W · δ(k),

so wird

RWY (k) = h(k) ∗ (σ2W · δ(k))

= σ2W · h(k)
RWY (k)
h(k) =
σ2W

b) Wie verändert sich das Leistungsdichtespektrum des Eingangssignals durch 1P

die Übertragung?

SYY (Ω) = SXX (Ω) · |H(Ω)|2

c) Sei weißes Rauschen das Eingangssignal. Wie sieht das Leistungsdichtespek- 1P

trum des Ausgangssignals aus, wenn das lineare Filter ein idealer Tiefpass mit
der Grenzfrequenz ωG ist?

SYY (Ω) = σ2x · | uωG (Ω)|2

= σ2x · uωG (Ω)2

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 8

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

3 Lineare Systeme

3.2 Gegeben sei ein rauschgestörtes Signal Y(n) = X(n) + N(n), wobei das Nach- 4P
richtensignal X(n) und das Rauschsignal N(n) ein Leistungsdichtespektrum
SXX (Ω) = σ2X bzw. SNN (Ω) = σ2N = α σ2X besitzen. Das Rauschsignal ist
nicht mit dem Nachrichtensignal korreliert.

a) Berechnen Sie die Übertragungsfunktion und die Impulsantwort des optima- 2P

len nicht-kausalen WK-Filters mit Indexmenge von {−∞; +∞}!
Die Übertragungsfunktion des optimalen WK-Filters ergibt sich zu

SXX σ2 1
Hopt = = 2 X =
SXX + SNN σX (1 + α) 1+α

Z
+π Z
+π
1 jΩk 1
h(k) = H(jΩ) e dΩ = (1 + α)−1 ejΩk dΩ
2π 2π
−π −π
Z
+π
1 1 1 1
= · ejΩk dΩ = · · 2π · δ(k)
1 + α 2π 1 + α 2π
−π
1
= · δ(k)
1+α

Das Filter ist offensichtlich ein einfaches Skalierglied, das bei vorhandenem Rauschen das ge-
störte Signal mit einem Wert < 1 multipliziert.
b) Berechnen Sie das SNR ohne Filterung bzw. bei optimaler 2P
R
+π
SXX (Ω)·SXX (Ω)
Filterung!(min{σ2R } = σ2X − 1
2π SXX (Ω)+SNN (Ω) dΩ)
−π
Für das SNR gilt:

R
+π R
+π
SXX (Ω)dΩ SXX (Ω)dΩ
σ2 −π −π 1
SNRohne = 2X = +π = =
σN R R
+π α
SNN (Ω)dΩ α SXX (Ω)dΩ
−π −π

σ2X σ2X
SNRFilter = =
min{σ2R } 1
R
+π
SXX (Ω)·SXX (Ω)
σ2X − 2π SXX (Ω)+SNN (Ω) dΩ
−π
σ2X σ2X 1
= = =
1
R
+π
σ2X ·σ2X σ2X −
σ2X 1− 1
σ2X − 2π 2
σX (1+α)
dΩ (1+α) 1+α
−π
1 1+α
= 1+α−1
=
1+α
α

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 9

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

3 Lineare Systeme

σ2X α+1
SNRKF = = = SNRFilter
α·σ2X α
α+1

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 10

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

4 Wiener-Kolmogoroff-Filterung

4 Wiener-Kolmogoroff-Filterung 10 Punkte

4.1 Nennen Sie die drei Einsatzbereiche des WK-Filters und beschreiben Sie die 3P
zugehörigen Kanaleigenschaften.
reine Rauschbefreiung (nur additives Rauschen auf dem Kanal)
reine Entzerrung (nur Verzerrung des Signals, kein Rauscheinfluss)
lineare Prädiktion (kein Rauscheinfluss, der Kanal wirkt als Verzögerungsglied)

4.2 Wiener-Hopf-Gleichung. Gegeben ist eine stationäre mittelwertfreie Nachrich- 7P

tenquelle X(n).

a) Geben Sie die Wiener-Hopf-Gleichung für die lineare Prädiktion in Matrix- 1P

schreibweise an.

rxx = hopt Rxx

b) Leiten Sie die Leistung des Schätzfehlers d(n) = x(n) − z(n) bei optimaler 3P
Prädiktion der Ordnung N her und drücken Sie diese als Funktion der Au-
tokorrelationsmatrix (Matrixschreibweise!) aus. Hinweis: Denken Sie an das
Orthogonalitätsprinzip!

σ2d = E[{X(n) − Zopt (n)}2 ]

= E[X(n){X(n) − Zopt (n)}] |Orthogonalitätsprinzip
X
N
= σ2x − hk,opt Rxx (k)
k=1
= σ2x − hTopt rxx = σ2x − rTxx R−1
xx rxx

c) Ein diskretes Signal habe folgende Autokorrelationsfolge: rxx [n] = 3P

{1.1, 0.3, 0.8, 0.04, ...}. Berechnen Sie die Filterkoeffizienten des optima-
len Prädiktionsfilters zweiter Ordnung nach dem Wiener-Hopf-Ansatz!
 −1  
a b  1  d −b
Hinweis:  = ad−bc  
c d −c a

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 11

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013

4 Wiener-Kolmogoroff-Filterung

 −1  
rxx [0] rxx [1] rxx [1]
hopt =   · 
rxx [1] rxx [0] rxx [2]
 −1      
1.1 0.3 0.3 100  1.1 −0.3 0.3
=  · = · · 
112

0.3 1.1 0.8 −0.3 1.1 0.8
⇒ hopt = {0.0804, 0.7054}

Technische Universität Berlin Klausur im Lehrgebiet

Fachgebiet Nachrichtenübertragung Grundlagen der Statistischen Blatt: 12

Nachrichtentheorie

Prof. Dr.-Ing. T. Sikora am 31.07.2013