Sie sind auf Seite 1von 50

1

Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 1
Prof. Dr.-Ing. Andreas Czylwik
Grundlagen der
Nachrichtentechnik 2
Communications 2
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 2
Nachrichtentechnik 2
Organisatorisches
Vorlesung 2 SWS
bung 2 SWS Betreuer: Dipl.-Ing. Thorsten Kempka
Folienkopien sind verfgbar
Prfung: schriftlich
Neue Forschungsthemen im Fachgebiet
Nachrichtentechnische Systeme
Studien- und Diplomarbeiten
2
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 3
Nachrichtentechnik 2
Literatur
Literatur zur Vorlesung:
z A. Papoulis: Probability, random variables, and stochastic
processes, McGraw-Hill
z E. Hnsler: Statistische Signale, Springer-Verlag
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 4
Nachrichtentechnik 2
Inhalt
1 Einfhrung
2 Wahrscheinlichkeit
3 Zufallsvariablen
4 Funktionen einer Zufallsvariablen
5 Zwei Zufallsvariablen, Folgen von Zufallsvariablen
6 Zufallsprozesse
7 Transformation von Zufallsprozessen durch Systeme
8 Schtz- und Detektionstheorie
3
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 5
Nachrichtentechnik 2
1 Einfhrung
Deterministische statistische Anstze
Anwendung statistischer Anstze
z Modellierung von Rauschen
z Modellierung von Nachrichtensignalen
z Optimierung von Sende- und Empfangsverfahren
z Detektions- und Entscheidungsverfahren
z Schtzung gestrter Parameter
z Beobachtung von Brsenkursen
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 6
Nachrichtentechnik 2
1 Einfhrung
Beispiele zuflliger Gren
z thermisches Rauschen
z Schrotrauschen
z Rauschen von Verstrkern
z Audio- und Videosignale
z Datensignale
z Funkkanal
z Eintreffen von Anrufen in einer Vermittlungsstelle
z Einfahrt von Fahrzeugen auf eine Autobahn
4
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 7
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Ereignisse knnen als Mengen aufgefasst werden.
Rechenregeln der Mengenlehre
z Vereinigung: A B
Assoziativgesetz: (A B) C = A (B C) = A B C
Kommutativgesetz: A B = B A
leere Menge, Teilmenge: A = A , A B = A wenn B A
z Schnitt: A B
Assoziativgesetz: (A B) C = A (B C) = A B C
Kommutativgesetz: A B = B A
disjunkte Mengen A, B : A B =
leere Menge, Teilmenge: A = , A B = B wenn B A
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 8
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Distributivgesetz: A (B C) = (A B) (A C)
z Gleichheit: A = B, wenn A B und B A
z Komplement:
z de Morgansches Gesetz:
B A B A
B A A B
A A H A A A A H H
= =

= = = = = , , , ,
B A B A
B A B A
=
=
5
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 9
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Grundbegriffe
Definition 2.1: Wahrscheinlichkeitsraum
Wahrscheinlichkeitsraum = (H, A, P)
H = Ergebnismenge = Menge aller Elementarereignisse
A = Ereignisfeld = Menge von Ereignissen (Teilmengen von H)
P = Wahrscheinlichkeitsma
Definition 2.2: Ergebnismenge H = {
1
,
2
,
3
, ...}
Ergebnismenge H = Menge aller mglichen Ergebnisse eines
Zufallsexperiments
Nach einem Zufallsexperiment gibt es genau ein Ergebnis =
Elementarereignis
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 10
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Ergebnisse (Elementarereignisse) sind disjunkt; d.h. sie knnen
nicht gleichzeitig auftreten.
z Formelzeichen in der Literatur: hufig statt H und statt
z Beispiel 2.1: Wrfeln
Elementarereignisse
i
sind die Seiten i = 1 ... 6 des Wrfels:
H = {
1
,
2
,
3
,
4
,
5
,
6
}
z Beispiel 2.2: Werfen einer Roulette-Kugel
Elementarereignisse
i
sind die Zahlen i = 0 ... 36:
H = {
0
,
1
, ...,
36
}
6
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 11
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Definition 2.3: Ereignisfeld A
Ereignisfeld = Menge von beliebig ausgewhlten Teilmengen
der Ergebnismenge H mit den Eigenschaften:
z Ein Zufallsexperiment hat genau ein Ergebnis, kann aber mehrere
Ereignisse zur Folge haben.
z Zwei Ereignisse, die kein Elementarereignis gemeinsam haben,
sind disjunkt (unvereinbar).
z Maximal mgliche Anzahl von Ereignissen im Ereignisfeld
bei N Elementarereignissen (Potenzmenge): N
max
= 2
N
. A A
A A
A

U
K
i
A A A
, A A
, H
folgt , , aus
folgt aus
2 1
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 12
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Beispiel 2.1 Fortsetzung: Wrfeln, H = {
1
,
2
,
3
,
4
,
5
,
6
}
mgliche Ereignisfelder:
A
1
= {, {
1
,
3
,
5
}, {
2
,
4
,
6
}, H}
A
2
= {, {
1
}, {
2
}, {
1
,
2
}, {
2
,
3
,
4
,
5
,
6
},
{
1
,
3
,
4
,
5
,
6
} {
3
,
4
,
5
,
6
}, H}
z Beispiel 2.3: A = Potenzmenge (alle mglichen Teilmengen) von
H = {
1
,
2
,
3
}
unmgliches Ereignis:
einelementige Ereignisse: {
1
}, {
2
}, {
3
}
zweielementige Ereignisse: {
1
,
2
}, {
2
,
3
}, {
1
,
3
}
sicheres Ereignis: H = {
1
,
2
,
3
}
Gesamtzahl von Ereignissen:

=
|
.
|

\
|
= =
N
k
N
k
N
N
0
max
2 (2.1)
7
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 13
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Definition 2.4: Wahrscheinlichkeit P, axiomatische Definition nach
Kolmogoroff
Axiome:
1. P(A) 0
2. P(H) = 1
3. P(A B) = P(A) + P(B), wenn A und B disjunkt sind
Die Wahrscheinlichkeit ist eine 1. nichtnegative, 2. normierte
und 3. additive Funktion ber dem Ereignisfeld.
z Eigenschaften:
Wertebereich: 0 P 1
unmgliches Ereignis: P() = 0
(2.3)
(2.2)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 14
Nachrichtentechnik 2
2 Wahrscheinlichkeit
nicht disjunkte Ereignisse A und B:
Definition 2.5: Verbundwahrscheinlichkeit
P(A B) = Verbundwahrscheinlichkeit = Wahrscheinlichkeit,
dass beide Ereignisse A und B gleichzeitig auftreten
A B
H
) ( ) ( ) ( ) (
) ( ) ( ) (
) ( ) ( ) (
) ( ) (
) (
B A P B P A P B A P
B A P B A P B P
B A P A P B A P
B A B A B
B A A B A
+ =

+ =
+ =

=
=
(2.4)
8
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 15
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Klassischer Definitionsversuch der Wahrscheinlichkeit
Ergebnismenge H mit N gleichwahrscheinlichen Ergebnissen
Ereignis A, das N
A
Ergebnisse enthlt:
konzeptionelles Problem: gleichwahrscheinlich ist nicht
definiert
Definition 2.6: Relative Hufigkeit
n-maliges Ausfhren des Zufallsexperiments
Ereignis A tritt n
A
mal auf
(2.5)
Ergebnisse mglichen aller Anzahl
Ergebnisse gnstiger Anzahl
) ( = =
N
N
A P
A
ente llsexperim aller Zufa Anzahl
Ereignisse der Anzahl
) (
~ A
n
n
A P
A
= =
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 16
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Relative Hufigkeit ist Schtzwert fr die Wahrscheinlichkeit
z Definitionsversuch der Wahrscheinlichkeit als Grenzwert der
relativen Hufigkeit:
Beweis fr die Konvergenz ist nicht mglich
Definition 2.7: Bedingte Wahrscheinlichkeit P(A | B)
P(A | B) = bedingte Wahrscheinlichkeit = Wahrscheinlichkeit
des Ereignisses A unter der Bedingung, dass das Ereignis B
aufgetreten ist (P(B) > 0)
(2.6)
ente llsexperim aller Zufa Anzahl
Ereignisse der Anzahl
) (
~
lim ) (
A
n
n
A P A P
A
n
= = =

) (
) (
) | (
B P
B A P
B A P

=
9
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 17
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Eigenschaften der bedingten Wahrscheinlichkeit:
P(A | B) 0
P(H | B) = 1
P(A
1
A
2
| B) = P(A
1
|B) + P(A
2
|B), wenn A
1
und A
2
disjunkt
sind
z ausgewhlte Mengensituationen:
A B =
(2.7)
(2.8)
(2.9)
0
) (
) (
) | ( =

=
B P
B A P
B A P
A
B
H
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 18
Nachrichtentechnik 2
2 Wahrscheinlichkeit
A B A B = A
B A A B = B
) (
) (
) (
) (
) (
) | ( A P
B P
A P
B P
B A P
B A P =

=
1
) (
) (
) (
) (
) | ( = =

=
B P
B P
B P
B A P
B A P
B
A
H
A
B
H
10
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 19
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Beispiel 2.4: Wrfeln, H = {
1
,
2
,
3
,
4
,
5
,
6
}
Ereignisse:
A = Ergebnis ist gerade
B = Ergebnis ist ungerade
C = Ergebnis ist Primzahl
3
2
) (
) (
) | (
3
1
) (
) (
) | (
) ( ) (
3 ) ( ) ( ) (
) (
3
1
6
1
2
1
6
1
6
1
=

= =

=
= =
= = = =
=
B P
C B P
B C P
A P
C A P
A C P
C B P C A P
C P B P A P
P
i

A
B

1

5

2

4

6
C
H
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 20
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Beispiel 2.5: Ziehen von zwei Kugeln aus einer Kiste mit drei
weien Kugeln w
1
, w
2
, w
3
und zwei roten Kugeln r
1
, r
2
gesucht: Wahrscheinlichkeit, dass zuerst eine weie und als
zweites eine rote Kugel gezogen wird (Ereignis A)
Ergebnismenge = Menge aller geordneten Paare:
H = {w
1
w
2
, w
1
w
3
, w
1
r
1
, w
1
r
2
, w
2
w
1
, w
2
w
3
, w
2
r
1
, ...}
die Elementarereignisse sind gleichwahrscheinlich
Abzhlen liefert:
w
1
w
2
w
2
w
1
w
3
w
1
r
1
w
1
r
2
w
1
w
1
w
3
w
2
w
3
w
3
w
2
r
1
w
2
r
2
w
2
w
1
r
1
w
2
r
1
w
3
r
1
r
1
w
3
r
2
w
3
w
1
r
2
w
2
r
2
w
3
r
2
r
1
r
2
r
2
r
1
A
H
10
3
20
6
) ( = = =
N
N
A P
A
11
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 21
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Lsungsansatz mit bedingten Wahrscheinlichkeiten:
z Wahrscheinlichkeit, dass zuerst eine weie Kugel gezogen
wird (Ereignis W
1
):
z Wahrscheinlichkeit, dass die als zweites gezogene Kugel
rot ist (Ereignis R
2
) unter der Bedingung, dass die zuerst
gezogene Kugel wei ist:
z Wahrscheinlichkeit, dass die erste Kugel wei und die
zweite rot ist (Ereignis W
1
R
2
):
5
3
) (
1
= W P
2
1
4
2
) | (
1 2
= = W R P
10
3
5
3
2
1
) ( ) | ( ) (
1 1 2 2 1
= = = W P W R P R W P
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 22
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Bedingte Wahrscheinlichkeiten:
z Bayes-Theorem( fr P(A) > 0 bzw. P(B) > 0)
(2.10)
) ( ) | ( ) ( ) | ( ) (
) (
) (
) | (
) (
) (
) | (
A P A B P B P B A P B A P
A P
B A P
A B P
B P
B A P
B A P
= =

=
(2.11)
(2.12)
) (
) ( ) | (
) | (
bzw.
) (
) ( ) | (
) | (
B P
A P A B P
B A P
A P
B P B A P
A B P

=
(2.13)
(2.14)
12
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 23
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Definition 2.8: Statistische Unabhngigkeit
Zwei Ereignisse A, B heien statistisch unabhngig, wenn gilt:
P(A B) = P(A) P(B).
z Folgerung fr statistisch unabhngige Ereignisse
P(A | B) = P(A), P(B | A) = P(B) (2.16)
(2.15)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 24
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Beispiel 2.6: Zweimaliges Ziehen einer von drei Kugeln (1 2 3)
Die Kugel wird nach dem ersten Ziehen zurckgelegt.
Ereignis A = {erste Zahl = 1}
Ereignis B = {zweite Zahl = 3}
jedes Elementarereignis ist
gleichwahrscheinlich:
P(11) = P(12) = P(13) = ... = 1/9
P(A) = 3 1/9 = 1/3
P(B) = 3 1/9 = 1/3
P(A B) = P(13) = 1/9 = P(A) P(B)
Die Ereignisse A und B sind statistisch unabhngig.
11 12 13
21 22 23
31 32 33
A
B
H
13
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 25
z Beispiel 2.7: Zweimaliges Ziehen einer von drei Kugeln (1 2 3)
Die Kugel wird nach dem ersten Ziehen nicht zurckgelegt.
Ereignis A = {erste Zahl = 1}
Ereignis B = {zweite Zahl = 3}
jedes Elementarereignis ist
gleichwahrscheinlich:
P(12) = P(13) = P(21) = ... = 1/6
P(A) = 2 1/6 = 1/3
P(B) = 2 1/6 = 1/3
P(A B) = P(13) = 1/6 P(A) P(B)
Die Ereignisse A und B sind statistisch abhngig.
Nachrichtentechnik 2
2 Wahrscheinlichkeit
12 13
21 23
31 32
A
B
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 26
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Definition 2.9: Statistische Unabhngigkeit
Drei Ereignisse A, B, C heien statistisch unabhngig, wenn
gilt:
z Alle Paare von Ereignissen sind statistisch unabhngig
P(A B) = P(A) P(B),
P(A C) = P(A) P(C),
P(B C) = P(B) P(C)
z und P(A B C) = P(A) P(B) P(C).
(2.18)
(2.17)
(2.19)
(2.20)
14
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 27
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Definition 2.10: Statistische Unabhngigkeit, Verallgemeinerung
n Ereignisse A
1
, A
2
, ..., A
n
heien statistisch unabhngig,
wenn fr alle Gruppen von k Ereignissen statistische
Unabhngigkeit vorliegt (k < n) und :
P(A
1
A
2
... A
n
) = P(A
1
) P(A
2
) ... P(A
n
).
(2.21)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 28
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Beispiel 2.8: Statistische Unabhngigkeit
gegeben: 3 Ereignisse A, B, C mit P(A) = P(B) = P(C) = p
und 0 < p < 1.
Fr die Schnittmengen gilt:
A B = A C = B C =A B C .
Frage: Gibt es einen Wert p, fr den
die Ereignisse unabhngig voneinander
sind?
Antwort: Nein, da
P(A B) = P(A C) = P(B C) = p
2
= P(A B C ) = p
3
gelten msste.
A
B C
15
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 29
Nachrichtentechnik 2
2 Wahrscheinlichkeit
Satz von der totalen Wahrscheinlichkeit
gegeben: n disjunkte Ereignisse A
1
, A
2
, ..., A
n
d.h. A
i
A
j
= fr i j
ein Ereignis B A
1
A
2
... A
n
= H

=
=
n
i
i i
A P A B P B P
1
) ( ) | ( ) (
(2.22)
A
1
A
2
A
3
A
4 A
5
A
6
A
7
A
8
A
9 A
10
B
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 30
Nachrichtentechnik 2
2 Wahrscheinlichkeit
z Beweis des Satzes von der totalen Wahrscheinlichkeit
mit Def. 2.7:
A
i
sind disjunkt, daher sind auch B A
i
disjunkt, 3. Axiom der
Wahrscheinlichkeit direkt anwendbar:
Distributivgesetz:
qed.
Anschauliche Deutung: P(B) ist Summe aller Wahrscheinlich-
keiten der Schnittmengen von B mit den Ereignissen A
i

= =
= =
n
i
i
n
i
i i
A B P A P A B P B P
1 1
) ( ) ( ) | ( ) (
)] ( ... ) ( ) [( ) (
2 1 n
A B A B A B P B P =
) ( ) (
)] ... ( [ ) (
2 1
B P H B P
A A A B P B P
n
= =
=
16
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 31
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.1: Reelle Zufallsvariable x()
Gegeben sei ein Wahrscheinlichkeitsraum (H, A, P).
Eine Zufallsvariable x() ist eine eindeutige Abbildung der
Ergebnismenge H eines Zufallsexperiments auf die Menge der
reellen Zahlen R.
Eigenschaften der Abbildung:
1. { | x() x} A fr jedes x R
2. P({ | x() = }) = P({ | x() = +}) = 0
x( =
i
) = x
i
heit Realisierung der Zufallsvariablen.
mgliche Abbildungen:
i
x(
i
)

i
x(
i
)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 32
Nachrichtentechnik 2
3 Zufallsvariablen
z Beispiel der Definition einer Zufallsvariablen x()
Zufallsexperiment
x(
1
) x(
2
) x(
3
) x(
4
) x(
5
) x(
6
) x(
7
) xR

2
5

4
17
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 33
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.2: Wahrscheinlichkeitsverteilungsfunktion F
x
(x)
kurz: Wahrscheinlichkeitsverteilung, Verteilung
F
x
(x) = P({ | x() x})
z Eigenschaften: 1. F
x
() = 0,
2. F
x
(+) = 1,
3. F
x
(x) wchst monoton mit x,
4. 0 F
x
(x) 1.
(3.1)
(3.2)
(3.3)
(3.4)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 34
Nachrichtentechnik 2
3 Zufallsvariablen
z Beispiel 3.1: diskrete Zufallsvariable
1 0 1 2 3 4 5
1
0,8
0,6
0,4
0,2
x
F
x
(x)
i 1 2 3 4 5 6 7
x(

i) 0,4 0,2 1,1 2 2,7 3,5 5


P(

i) 0,04 0,1 0,1 0,22 0,32 0,14 0,08


18
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 35
z Wahrscheinlichkeitsverteilungsfunktion fr wertdiskrete
Zufallsvariablen:
mit x(
i
) = x
i
, P(
i
) = p
i
,
N = Anzahl der Elementarereignisse
und der Sprungfunktion s(x):
Nachrichtentechnik 2
3 Zufallsvariablen

= =

= =
= =
N
i
i i
N
i
i i
x i
i
x x p x P x F
P x P x F
i
1 1
) ( |
)) ( s )) ( ( s ) ( ) (
) ( ) ) ( ( ) (

x
x
x
x
x (3.5)


=
sonst 0
0 fr 1
) ( s
x
x
s(x)
1
x
(3.7)
(3.6)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 36
z wertkontinuierliche Zufallsvariablen: Ergebnismenge H hat
unendlich viele Elementarereignisse
i
z Wahrscheinlichkeitsverteilungsfunktion fr wertkontinuierliche
Zufallsvariablen:
z Beispiel 3.2: gleichverteilte wertkontinuierliche Zufallsvariable
Wertebereich: x
1
... x
2
Nachrichtentechnik 2
3 Zufallsvariablen

= =
x
P x P x F
) ( |
d ) ( ) ) ( ( ) (


x
x
x
(3.8)
(3.9)
F
x
(x)
1
x
x
1
x
2

<

<
=
2
2 1
1 2
1
1
fr 1
fr
fr 0
) (
x x
x x x
x x
x x
x x
x F
x
19
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 37
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.2: Wahrscheinlichkeitsdichtefunktion f
x
(x)
kurz: Wahrscheinlichkeitsdichte
z Zusammenhang mit der Wahrscheinlichkeitsverteilung:
z Eigenschaften: 1. f
x
() = f
x
(+) = 0,
2. f
x
(x) 0,
3.
(3.10)
(3.11)
(3.12)
x
x F
x f
d
) ( d
) (
x
x
=


=
x
u u f x F d ) ( ) (
x x
1 d ) ( =


x x f
x
(3.13)
(3.14)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 38
z Wahrscheinlichkeitsdichtefunktion fr wertdiskrete
Zufallsvariablen:
z Zuhilfenahme verallgemeinerter Funktionen notwendig
z Dirac'sche Delta-Funktion (x):
mit
Nachrichtentechnik 2
3 Zufallsvariablen

= =
= = =
N
i
i i
N
i
i i
x x p x x p
x x
x F
x f
1 1
) ( ) ( s
d
d
d
) ( d
) (
x
x
(3.15)

=
=
sonst 0
0 fr
) (
x
x
1 d ) ( =


x x
(3.16)
(3.17)
(x)
1
x
20
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 39
Realisierungsmglichkeiten der -Funktion:
Glockenkurve:
Nachrichtentechnik 2
3 Zufallsvariablen
(3.19)
(3.18)
[ ] ) ( s ) ( s
1
lim
) ( lim ) (
2 2
0
0
x x
x
x
x
x x
x
x R x

=
= R
x
(x)
x
2
x
2
x

x
1
G
x
(x)
x
x
1
x x
2 2
0
0

1
lim
) ( lim ) (
x x
x
x G x
x
x
x
+

=
=


Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 40
z Ausblendeigenschaft
f(x) (xx
0
) = f(x
0
) (xx
0
)
z Zusammenhang zwischen Sprungfunktion und -Funktion:
Nachrichtentechnik 2
3 Zufallsvariablen
(3.22)
(3.20)
f(x
0
)
x
x
0
x
x
x
d
) ( ds
) ( =


=
x
u u x d ) ( ) ( s
(3.23)


= ) ( d ) ( ) (
0 0
x f x x x x f
(3.21)
21
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 41
Nachrichtentechnik 2
3 Zufallsvariablen
z Beispiel 3.1 Fortsetzung: Wahrscheinlichkeitsdichte einer
wertdiskreten Zufallsvariablen:
1 0 1 2 3 4 5
0,3
0,2
0,1
x
f
x
(x)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 42
Nachrichtentechnik 2
3 Zufallsvariablen
z Beispiel 3.2 Fortsetzung: Wahrscheinlichkeitsdichte einer
gleichverteilten wertkontinuierlichen Zufallsvariablen
Wertebereich: x
1
... x
2

=
sonst 0
fr
1
) (
2 1
1 2
x x x
x x
x f
x
f
x
(x)
x
x
1
x
2
1 2
1
x x
(3.24)
22
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 43
Nachrichtentechnik 2
3 Zufallsvariablen
z Wahrscheinlichkeit, dass eine Zufallsvariable in einem
bestimmten Wertebereich liegt:
) ( ) ( d ) ( ) (
1 2 2 1
2
1
x F x F x x f x x P
x
x
x x x
x = =

f
x
(x)
x
x
1
x
2 x
F
x
(x)
x
1
x
2
F
x
(x
2
)
1
F
x
(x
1
)
(3.25)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 44
Nachrichtentechnik 2
3 Zufallsvariablen
z Nherung fr kleine Differenzen: x
1
= x , x
2
= x + x :
z relative Hufigkeit als Schtzwert fr die Wahrscheinlichkeits-
dichte einer Zufallsvariablen x :
Anzahl der Zufallsexperimente: n
Anzahl der Realisierungen, die in das Intervall x ... x + x
fallen: n
x
x x f x x x P + ) ( ) (
x
x
(3.26)
n
n
x x f
x

) (
x
(3.27)
23
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 45
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.3: Erwartungswert E{x()}
statistischer Mittelwert ber eine Schar von Realisierungen
= Scharmittelwert = Ensemblemittelwert (engl. expectation)
z alternative Bezeichnungen: E{x()} = E{x} = E(x()) = x()
z wertdiskrete Zufallsvariablen x :
(3.28)
(3.29)
(3.30)
x x f x d ) ( )} ( { E
x
x


=


= =


= = =
N
i
i i
N
i
i i
p x x x x p x x x f x
1 1
d ) ( d ) ( )} ( { E
x
x

=
=
N
i
i i
x x p x f
1
) ( ) (
x
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 46
Nachrichtentechnik 2
3 Zufallsvariablen
z Beispiel 3.1 Fortsetzung: Erwartungswert einer wertdiskreten
Zufallsvariablen:
z Beispiel 3.2 Fortsetzung: Erwartungswert einer gleichverteilten
wertkontinuierlichen Zufallsvariablen:
(3.31)
308 , 2 08 , 0 5
14 , 0 5 , 3 32 , 0 7 , 2 22 , 0 2 1 , 0 1 , 1 1 , 0 2 , 0 04 , 0 4 , 0
)} ( { E
1
= +
+ + + + + =
=

=
N
i
i i
p x x
2
2 2
1
d
1
d ) ( )} ( { E
2 1
2
1
2
2
1 2 1 2
2
1
x x
x x
x x
x
x x
x x x f x
x
x
+
=
(
(

= =


x
x
24
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 47
Nachrichtentechnik 2
3 Zufallsvariablen
z Linearitt des Erwartungswerts:
E{a x() + b y()} = a E{x()} + b E{y()}
z Die Reihenfolge linearer Operationen (Erwartungswertbildung,
Summation, Integration) ist vertauschbar
z Erwartungswert von Funktionen von Zufallsvariablen:
z Die Reihenfolge nichtlinearer Operationen und der Erwartungs-
wertbildung ist im Allgemeinen nicht vertauschbar:
E{g(x())} g(E{x()})
x x f x g g d ) ( ) ( ))} ( ( { E
x
x


=
(3.32)
(3.33)
(3.34)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 48
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.4: n-tes Moment m
x
(n)
z n = 1 linearer Mittelwert : m
x
(1)
= E{x()}
z n = 2 quadratischer Mittelwert : m
x
(2)
= E{x
2
()}
Definition 3.5: n-tes zentrales Moment
x
(n)
x x f x m
n n n
d ) ( )} ( { E
) (
x x
x


= =
(3.35)
(3.36)
} ) ) ( {( E
) 1 ( ) ( n n
m
x x
x =
(3.37)
(3.38)
25
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 49
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.6: Varianz
x
2

x
heit Standardabweichung
z Die Varianz bzw. die Standardabweichung sind ein Ma fr die
Streuung einer Zufallsvariablen um den Mittelwert
(3.39) } ) ) ( {( E
2 ) 1 ( ) 2 ( 2
x
m = = x
x x
(3.40)
2 ) 1 ( ) 2 (
2 ) 1 ( ) 1 ( 2
2 ) 1 ( ) 1 ( 2
2 ) 1 ( 2
) (
) ( )} ( { E 2 )} ( { E
} ) ( ) ( 2 ) ( { E
} ) ) ( {( E
x x
x x
x x
x x
x x
x x
x
m m
m m
m m
m
=
+ =
+ =
=



Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 50
Nachrichtentechnik 2
3 Zufallsvariablen
z wertdiskrete Zufallsvariablen x :
z Beispiel 3.1 Fortsetzung: Quadratischer Mittelwert einer
wertdiskreten Zufallsvariablen:
0592 , 7 08 , 0 5 14 , 0 5 , 3
32 , 0 7 , 2 22 , 0 2 1 , 0 1 , 1 1 , 0 2 , 0 04 , 0 ) 4 , 0 (
)} ( { E
2 2
2 2 2 2 2
1
2 2 ) 2 (
= + +
+ + + + =
= =

=
N
i
i i x
p x m x
(3.41)
(3.42)


= =


= = =
N
i
i
n
i
N
i
i i
n n n
p x x x x p x x x f x
1 1
d ) ( d ) ( )} ( { E
x
x

=
=
N
i
i i
x x p x f
1
) ( ) (
x
316 , 1 , 732 , 1 308 , 2 059 , 7 ) (
2 2 ) 1 ( ) 2 ( 2
= = = =
x x

x x
m m
26
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 51
Nachrichtentechnik 2
3 Zufallsvariablen
z Beispiel 3.2 Fortsetzung: Quadratischer Mittelwert und Varianz
einer gleichverteilten wertkontinuierlichen Zufallsvariablen:
) (
3
1
3 3
1
d
1
d ) ( )} ( { E
2
2 2 1
2
1
3
1
3
2
1 2
1 2
2 2 2 ) 2 (
2
1
x x x x
x x
x x
x
x x
x x x f x m
x
x
x
+ + =
(
(

= = =


x
x
(3.43)
2
1 2
2
2 1 2
2 2 1
2
1
2 ) 1 ( ) 2 ( 2
) (
12
1
2
) (
3
1
) (
x x
x x
x x x x
m m
x x
=
|
.
|

\
|
+
+ + =
=
x

(3.44)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 52
Nachrichtentechnik 2
3 Zufallsvariablen
z Erzeugende Funktionen
Definition 3.7: Momenterzeugende Funktion
x
(s) = zweiseitige
Laplace-Transformierte der Wahrscheinlichkeitsdichte (negative
Frequenzachse)
Entwicklung der Exponentialfunktion in Potenzreihe:
n-malige Differentiation nach s an der Stelle s = 0 :
(3.45)
(3.46)


+ +
= = x x f s
x s s
d e ) ( } e { E ) (
x
x
x

=
+
+ = + = = =
1
) (
1 0
!
1
!
} { E
1 }
!
) (
{ E } e { E ) (
n
n n
n
n n
n
n
s
n
m s
n
s
n
s
s
x x
x
x x

) (
0
d
) ( d
n
s
n
n
m
s
s
x
x
=
=

(3.47)
27
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 53
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.8: Charakteristische Funktion
x
() = Fourier-
Transformierte der Wahrscheinlichkeitsdichte (negative
Frequenzachse)
Beispiel: diskrete Zufallsvariablen:
(3.48)
(3.49)


+ +
= = x x f
x
d e ) ( } e { E ) (
j j

x
x
x

=
=
N
i
i i
x x p x f
1
) ( ) (
x

=
+


+
=


+
= =
=
N
i
x
i
x
N
i
i i
x
i
p x x x p
x x f
1
j j
1
j
e d e ) (
d e ) ( ) (


x x
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 54
Nachrichtentechnik 2
3 Zufallsvariablen
Eigenschaften der charakteristischen Funktion:
z Die charakteristische Funktion ist reell, wenn die
Wahrscheinlichkeitsdichte symmetrisch ist.
z Abschtzung:
Rcktransformation:



+
= = 1 d ) ( d e ) ( ) (
j
x x f x x f
x
x x x

=

d e ) (
2
1
) (
j x
x f
x x
1 ) 0 ( =
x

(3.52)
(3.51)
(3.50)
28
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 55
Nachrichtentechnik 2
3 Zufallsvariablen
Entwicklung der Exponentialfunktion in eine Potenzreihe:
n-malige Differentiation nach an der Stelle = 0 :
(3.54)
(3.53)

=
+
+ = + =
= =
1
) (
1
0
j
!
) j (
1
!
} { E ) j (
1
}
!
) j (
{ E } e { E ) (
n
n n
n
n n
n
n
n
m
n
n
x
x
x
x
x



) (
0
j
d
) ( d
n n
n
n
m
x
x
=
=


Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 56
Nachrichtentechnik 2
3 Zufallsvariablen
Beispiel 3.3: gleichverteilte mittelwertfreie Zufallsvariable
z Wahrscheinlichkeitsdichte:
z charakteristische Funktion:
(3.55)
(3.56)

=
sonst 0
2 2
fr
1
) (
x
x
x
x x f
x
( )
2
2
2 j
2 /
2 /
2 /
2 /
j j
si
sin
e
j
1 1
d e
1
d e ) ( ) (
x
x
x
x
x
x
x
x
x x
x
x
x
x x f


+
= =
(

= =


x x
29
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 57
Nachrichtentechnik 2
3 Zufallsvariablen
Wahrscheinlichkeitsdichte und charakteristische Funktion
quadratischer Mittelwert mit Hilfe der charakteristischen
Funktion:
0
2
2
) 2 (
d
) ( d
=
=


x
x
m
(3.57)
(3.42)
f
x
(x)
x
x
1

x
()
1
x
2
2
x

2
x
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 58
Nachrichtentechnik 2
3 Zufallsvariablen
Beispiel 3.3 Fortsetzung:
( )
( )
12 2 3
1
2
2
) 2 ( 1 2
2
sin ) 2 ( cos 2
2
si
d
d
d
d
si
d
d
2
si
d
d
2 2 2
0
3
10 3
2
0
3
120 6
2
24 2
2
0
3
2 2
0
2
2
0
2
2
2
2
0
2
2
) 2 (
5 3
5 3 4 2
x x x
x
x
x
x x x
x
x
x x x x x
x
x
x
x
x
x
m
x
x x
x
x x x x
x x

=
|
.
|

\
|
=
|
.
|

\
|

+
=
|
.
|

\
|

|
.
|

\
|
+ + |
.
|

\
|
+
=
|
.
|

\
|

+
=
|
.
|

\
|
=
=
|
.
|

\
|
=
=
=
= =
= =
K
K K

x
(3.58)
30
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 59
Nachrichtentechnik 2
3 Zufallsvariablen
Definition 3.9: Bedingte Wahrscheinlichkeitsverteilung F
x|A
(x | A)
Eigenschaften der bedingten Wahrscheinlichkeitsverteilung:
F
x|A
( | A) = 1
F
x|A
( | A) = 0
P(x
1
< x x
2
| A) = F
x|A
(x
2
| A) F
x|A
(x
1
| A)
Definition 3.10: Bedingte Wahrscheinlichkeitsdichte f
x|A
(x | A)
(3.59)
(3.63)
} {
} ) {(
} | { ) | (
|
A P
A x P
A x P A x F
A

= =
x
x
x
x
A x F
A x f
A
A
d
) | ( d
) | (
|
|
x
x
=
(3.60)
(3.61)
(3.62)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 60
Nachrichtentechnik 2
3 Zufallsvariablen
Eigenschaften der bedingten Wahrscheinlichkeitsdichte:
f
x|A
(x | A) 0
Beispiel 3.4: A = {a < x b}, f
x
(x) sei gegeben
(3.64)
1 d ) | (
|
=


x A x f
A x
(3.65)
(3.66)
(3.67)

>
<

=
<
<
= <
<
fr 1
fr
) ( ) (
) ( ) (
fr 0
} {
)} ( ) {(
) | (
|
b x
b x a
a F b F
a F x F
a x
b a P
b a x P
b a x F
b a
x x
x x
x x
x
x x
x
31
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 61
Nachrichtentechnik 2
3 Zufallsvariablen
z bedingte Wahrscheinlichkeitsdichte:
(3.68)
(3.69)

>
<

=
<
= <
<
<
fr 0
fr
) ( ) (
) (
fr 0
d
) | ( d
) | (
|
|
b x
b x a
a F b F
x f
a x
x
b a x F
b a x f
b a
b a
x x
x
x x
x x
x
x
f
x
(x)
a b x
f
x|a < x b
(x|a < x b)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 62
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Transformation einer Zufallsvariablen ber eine Kennlinie
y = g(x)
z Beispiele fr Kennlinien:
Gleichrichter, Begrenzer, Quadrierer, Logarithmierer
(4.1)
y = g(x)
x() y()
32
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 63
Transformation der Wahrscheinlichkeitsverteilung
z gegeben: F
x
(x), gesucht: F
y
(y)
z Beispiel einer Kennlinie
Eigenschaften von F
y
(y):
F
y
(y) = 1 fr y y
max
F
y
(y) = 0 fr y y
min
F
y
(y
1
) = P(y y
1
) = P(x x
1
) = F
x
(x
1
)
F
y
(y
2
) = P(x x
2a
) + P(x
2b
x x
2c
) = F
x
(x
2a
) + F
x
(x
2c
) F
x
(x
2b
)
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
x
y
1
y
x
2a
x
2b
x
2c
x
1
y
max
y
2
y
min
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 64
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
z Sonderflle einer Kennlinie:
Beispiel 4.1: stckweise konstante Kennlinie

>

< +
=
fr
fr 0
c fr
) (
c x c x
c x c
x c x
x g
c
x
F
x
(x) y = g(x)
c
x
F
y
(y)
y c c
(4.2)
33
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 65
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
z Diskontinuitt:
F
y
(y) = P(y y) = P( x y + c) = F
x
(y + c) fr y 0
F
y
(y) = P(y y) = P( x y c) = F
x
(y c) fr y < 0
Beispiel 4.2: Kennlinie mit Sprngen (harter Entscheider)
) ( ) ( ) ( ) ( lim
0
c F c F F F =

x x y y

1
x
F
x
(x) y = g(x)
1
x
F
y
(y)
y
1
1 1
1
(4.3)
(4.4)
(4.5)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 66
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Sonderfall: streng monoton wachsende Funktion
aus x
2
> x
1
folgt g(x
2
) > g(x
1
)
F
y
(g(x)) = F
x
(x)
z Erzeugung von Zufallsvariablen mit vorgegebener Wahrschein-
lichkeitsverteilung durch Transformation einer gleichverteilten
Zufallsvariablen an einer nichtlinearen (streng monoton
wachsenden) Kennlinie
Ausgangsverteilung: Gleichverteilung in 0 x < 1
(4.6)

<
<
=
1 fr 1
1 0 fr
0 fr 0
) (
x
x x
x
x F
x
(4.7)
34
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 67
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
gewnschte Verteilung: F
y
(y)
F
y
(y) = F
y
(g(x)) = F
x
(x) = x g(x) = F
y
1
(x) fr 0 x 1
Beispiel 4.3:
z Bereich < y < 0:
korrespondierender Wertebereich fr x : 0 < x < 1/2
(4.8)
(4.10)
y
y f

= e
2
1
) (
y


<
=

0 fr e
2
1
1
0 fr e
2
1
) (
y
y
y F
y
y
y
) 2 ln( e
2
1
) ( x g x x g F
g
= = =
y
(4.11)
(4.9)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 68
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
z Bereich 0 < y < :
korrespondierender Wertebereich fr x : 1/2 < x < 1
vollstndige Kennlinie
(4.13)

< <
|
.
|

\
|

<
=
1
2
1
fr
2 2
1
ln
2
1
0 fr ) 2 ( ln
) (
x
x
x x
x g
|
.
|

\
|

= = =

x
g x x g F
g
2 2
1
ln e
2
1
1 ) (
y (4.12)
35
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 69
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
x
F
x
(x)
y = g(x)
1
x
F
y
(y)
y
1
1
1
f
y
(y)
y
2
1
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 70
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Allgemeine Beziehung fr die Wahrscheinlichkeitsverteilung:
Definition des Intervalls I(y): I(y) = {x | g(x) y}
F
y
(y) = P(y y) = P(x I(y))
(4.14)
(4.15)
x
y = g(x)
x
a
x
b
x
c
y
max
y
y
min
I(y)
36
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 71
Transformation der Wahrscheinlichkeitsdichte
z Ableitung der Wahrscheinlichkeitsverteilung:
z direkte Berechnung durch Transformation ber die Kennlinie y = g(x)
gegeben: f
x
(x), gesucht: f
y
(y)
Voraussetzung: f
x
(x) enthlt keine diskreten Anteile (-Funktionen)
eventuell vorhandene diskrete Anteile mssen separat transformiert
werden:
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
y
y F
y f
d
) ( d
) (
y
y
=

= =
= =
N
i
i i
N
i
i i
x g y p y f x x p x f
1 1
)) ( ( ) (

) ( ) (

y x
(4.16)
(4.17)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 72
z Berechnung der Wahrscheinlichkeitsdichte f
y
(y) an der Stelle y = y
0
:
im Allgemeinen mehrere Lsungen der Kennlinie:
y
0
= g(x
0i
)
Wahrscheinlichkeit, dass y
0
y y
0
+ dy :
mit
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
(4.18)
(4.21)
{ }

=
+ = +
n
i
i i i
x x x P y y y P
1
0 0 0 0 0
) d ( ) d ( K x y

=
=
n
i
i i
x x f y y f
1
0 0 0
d ) ( d ) (
x y
) (
d
d
d
d
0
0
0
i
x x i
x g
x
y
x
y
i
= =
=
(4.19)
(4.20)
37
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 73
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
x
x
y
x
0a
x
0b
x
0c
y
0
f
y
(y)
f
x
(x)
y
dy
dx
0a
dx
0b
dx
0c

=

=
n
i
i
i
x g
x f
y f
1
0
0
0
) (
) (
) (
x
y (4.22)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 74
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
z stckweise konstante Kennlinie g(x) diskrete Anteile in f
y
(y)
z Beispiel 4.4: Amplitudenverteilung einer sinusfrmigen Funktion
Wahrscheinlichkeitsdichte des Winkels :
nichtlineare Funktion:
Wahrscheinlichkeitsdichte der Cosinus-Funktion:


=
sonst 0
fr
) (
2
1

f
) cos( ) ( = = g y

=
i
i
g
i
f
y f
) (
) (
) (
d
d

y
(4.24)
(4.25)
(4.23)
38
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 75
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Transformation
an einer
Cosinus-
Kennlinie

()

y = cos()

f
y
(y)
y
1
1
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 76
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Ableitung der Nichtlinearitt:
Ersetzen von durch y :
Wahrscheinlichkeitsdichte der Cosinus-Funktion
(4.27)
(4.28)
(4.26) ) sin(
) ( d

=
d
g
2 2
2 2
1 ) ( cos 1 ) sin(
1 ) ( cos ) ( sin
y = =
= +


1 1 fr
1
1
1
2 ) (
2 2
2
1
< <

= y
y y
y f
y
39
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 77
F
y
(y)
y
1
1 1
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Wahrscheinlichkeitsverteilung der Cosinus-Funktion
(4.30)
(4.29)

< < +

=
1 fr 1
1 1 fr arcsin
1 fr 0
) (

1
2
1
y
y y
y
y F
y
[ ] [ ]
2

1
1

1
1
2
arcsin arcsin d
1
1
d ) ( ) ( + = =

= =



y u u
u
u u f y F
y
y y
y y
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 78
Nachrichtentechnik 2
4 Funktionen einer Zufallsvariablen
Erwartungswert
z Erwartungswert einer Funktion einer Zufallsvariablen
z Erwartungswertbildung und nichtlineare Operation sind im
Allgemeinen nicht vertauschbar
x x f x g g d ) ( ) ( )} ( { E
x
x


=
}) { E ( )} ( { E x x g g
(4.31)
(4.32)
40
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 79
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Gemeinsame Wahrscheinlichkeitsdichte und
Wahrscheinlichkeitsverteilung
z Definition mehrerer Zufallsvariablen ber einer Ergebnismenge
Zufallsexperiment
x(
1
,
3
,
8
) x(
2
) x(
4
,
5
) x(
6
,
7
) xR

4
y(
1
,
2
) y(
3
,
5
,
7
) y(
4
,
6
,
8
) yR

8
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 80
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.1: Gemeinsame Wahrscheinlichkeitsverteilung F
xy
(x,y)
F
xy
(x,y) = P({ | x() x}{ | y() y})
z Eigenschaften: 1. F
xy
(,) = 0,
2. F
xy
(x,) = 0,
3. F
xy
(,y) = 0,
4. F
xy
(x,+) = F
x
(x),
5. F
xy
(+,y) = F
y
(y),
6. F
xy
(+,+) = 1.
(5.1)
(5.2)
(5.3)
(5.4)
(5.5)
(5.6)
41
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 81
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
z Spezielle Ereignisse:
P({x x}{ y y}) = P(x, y D
1
) = F
xy
(x,y)
P({x x}{y
1
y y
2
}) = P(x, y D
2
) = F
xy
(x,y
2
) F
xy
(x,y
1
)
P({x
1
x x
2
}{ y y}) = P(x, y D
3
) = F
xy
(x
2
,y) F
xy
(x
1
,y)
P({x
1
x x
2
}{y
1
y y
2
}) = P(x, y D
4
)
= F
xy
(x
2
,y
2
) F
xy
(x
1
,y
2
) F
xy
(x
2
,y
1
) + F
xy
(x
1
,y
1
)
(5.7)
(5.8)
(5.9)
(5.10)
y
x
1
D
1
y
x
2
y
2
y
1
x
1
x
2
x
y
1
y
2
x
D
2
D
3
D
4
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 82
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.2: Gemeinsame Wahrscheinlichkeitsdichte f
xy
(x,y)
z Wahrscheinlichkeitsverteilung:
z Randdichte Gl.(5.4):
(5.11)
(5.12)
(5.13)
y x
y x F
y x f
d d
) , ( d
) , (
2
xy
xy
=
v u v u f y x F
x
y
d d ) , ( ) , (


=
xy xy
v u v u f x F x F
x
d d ) , ( ) , ( ) (


= =
xy xy x
y y x f
x
x F
x f d ) , (
d
) ( d
) (


= =
xy
x
x
42
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 83
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
z Analog: Randdichte von y :
Definition 5.3: Statistische Unabhngigkeit von Zufallsvariablen:
Zwei Zufallsvariablen x und y sind statistisch unabhngig, wenn
gilt:
f
xy
(x,y) = f
x
(x) f
y
(y)
z Gemeinsame Wahrscheinlichkeitsverteilung statistisch
unabhngiger Zufallsvariablen:
F
xy
(x,y) = F
x
(x) F
y
(y)
(5.14)
(5.15)
(5.16)
x y x f y f d ) , ( ) (


=
xy y
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 84
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Satz 5.1: Wenn x und y statistisch unabhngig sind, dann sind es
auch z = g(x) und w = h(y).
z Beispiel 5.1: Paar von
Zufallsvaribalen x und y,
das in dem Bereich
{x x x}
{y y y}
gleichverteilt ist
f
xy
(x,y)
y
x
x
x
y
y
43
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 85
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Gemeinsame Wahrscheinlichkeitsdichte:
Randdichten:


=

sonst 0
} { } { fr
) , (
4
1
y y y x x x
y x f
y x
xy


= =


= =

sonst 0
fr
d ) , ( ) (
sonst 0
fr
d ) , ( ) (
2
1
2
1
y y y
x y x f y f
x x x
y y x f x f
y
x
xy y
xy x
(5.17)
(5.19)
(5.18)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 86
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Die statistische Unabhngigkeit ist erfllt: f
xy
(x,y) = f
x
(x)
f
y
(y)
f
x
(x)
x
x x
f
y
(y)
y
y y
44
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 87
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
z Beispiel 5.2: Paar von Zufallsvaribalen x und y, das in dem
Bereich {0 x x,} {0 y y} {x/x + y/y 1}
gleichverteilt ist
f
xy
(x,y)
y
x
x
y
x/x + y/y = 1
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 88
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
gemeinsame Wahrscheinlichkeitsdichte:
Randdichten:

+
=
sonst 0
} 1 { } 0 { } 0 { fr
) , (
2
y
y
x
x
y x
y y x x
y x f
xy

|
.
|

\
|

=

= =


|
.
|

\
|

=

= =

|
.
|

\
|


|
.
|

\
|


sonst 0
0 fr 1
2
d
2
d ) , ( ) (
sonst 0
0 fr 1
2
d
2
d ) , ( ) (
1
0
1
0
y y
y
y
y
x
y x
x y x f y f
x x
x
x
x
y
y x
y y x f x f
y
y
x
x
x
y
xy y
xy x
(5.20)
(5.22)
(5.21)
45
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 89
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Die statistische Unabhngigkeit ist nicht erfllt:
f
xy
(x,y) f
x
(x) f
y
(y)
f
x
(x)
x
x
f
y
(y)
y
y
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 90
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.4: Gemeinsames Moment
Definition 5.5: Gemeinsames zentrales Moment
(5.24)
) , ( m k
m
xy


= = y x y x f y x m
m k m k m k
d d ) , ( } { E
) , (
xy xy
y x
(5.23)
) , ( m k
xy


=
=
y x y x f m y m x
m m
m k
m k m k
d d ) , ( ) ( ) (
} ) ( ) {( E
) 1 ( ) 1 (
) 1 ( ) 1 ( ) , (
xy y x
y x xy
y x
46
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 91
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.6: Kovarianz
Definition 5.7: Unkorrelierte Zufallsvariablen
E{x y} = E{x} E{y}
Definition 5.8: Orthogonale Zufallsvariablen
E{x y} = 0
(5.26)
(5.25)
) 1 , 1 (
xy


=
=
y x y x f m y m x
m m
d d ) , ( ) ( ) (
)} ( ) {( E
) 1 ( ) 1 (
) 1 ( ) 1 ( ) 1 , 1 (
xy y x
y x xy
y x
(5.27)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 92
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Satz 5.2: Statistisch unabhngige Zufallsvariablen sind unkorreliert.
z Beweis:
(5.28) } { E } { E d ) ( d ) (
d d ) ( ) (
d d ) , ( } { E
y x
y x
y x
y x
xy
= =
=
=



y y f y x x f x
y x y f x f y x
y x y x f y x
47
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 93
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.9: Der Korrelationskoeffizient
xy
Wertebereich des Korrelationskoeffizienten:
1
xy
1
Beweis:
1 2
xy
+ 1 0 |
xy
| 1
(5.29)
} ) {( E } ) {( E
)} ( ) {( E
2 ) 1 ( 2 ) 1 (
) 1 ( ) 1 ( ) 1 , 1 (
y x
y x
y x
xy
xy
y x
y x
m m
m m


= =

(5.30)
0 E
2
) 1 (
) 1 (

|
|
.
|

\
|

y
y
x
x
y
x

m
m
(5.31)
(5.32)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 94
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Sonderfall: x und y sind unkorreliert
Sonderfall: x und y sind linear abhngig: y = a x
m
y
(1)
= E{y} = E{a x} = a m
x
(1)

y
2
= E{(y m
y
(1)
)
2
} = E{(ax am
x
(1)
)
2
} = a
2

x
2
(5.33)
(5.34)
(5.35)
(5.36)
0
} { E )} ( ) {( E
) 1 ( ) 1 ( ) 1 ( ) 1 (
=

=

=
y x
y x
y x
y x
xy
y x y x

m m m m
) 1 ( ) sgn(
| |
| |
| |
)} ( ) {( E
)} ( ) {( E
2
2
) 1 ( ) 1 (
) 1 ( ) 1 (
= = =


=

=
a
a
a
a
a
a
m a a m
m m
x
x
x x
x x
y x
y x
xy
x x
y x

48
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 95
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.10: Komplexe Zufallsvariable z als Funktion zweier
reeller Zufallsvariablen x und y
z = x + j y
z linearer Mittelwert:
m
z
(1)
= E{z} = E{x} + j E{y} = m
x
(1)
+ j m
y
(1)
z quadratischer Mittelwert:
m
z
(2)
= E{|z|
2
} = E{zz
*
} = E{x
2
+ y
2
} = m
x
(2)
+ m
y
(2)
z Varianz:

z
2
= E{|z m
z
(1)
|
2
} = E{(x m
x
(1)
)
2
+ (y m
y
(1)
)
2
} =
x
2
+
y
2
(5.37)
(5.38)
(5.39)
(5.40)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 96
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Funktionen zweier Zufallsvariablen
z Wahrscheinlichkeitsverteilung
gegeben seien zwei Zufallsvariablen x und y mit der
gemeinsamen Wahrscheinlichkeitsdichte f
xy
(x,y) und eine
Funktion g mit z = g(x, y)
gesucht ist die Wahrscheinlich-
keitsdichte f
z
(z)
Definition eines Gebietes
D
z
, in dem g(x,y) < z ist.
Ereignis, dass z z :
{z z} = {g(x,y) z} = {x,y D
z
}
x
y
D
z
z = g(x,y)
D
z
z+dz = g(x,y) D
z
49
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 97
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Wahrscheinlichkeitsverteilung F
z
(z) :
z Wahrscheinlichkeitsdichte
Definition eines Gebietes D
z
, in dem z < g(x,y) < z + dz ist.
Ereignis, dass z < z z + dz :
{z < z z + dz} = {x,y D
z
}
Wahrscheinlichkeitsdichte f
z
(z) :

= = =
z
D
z
y x y x f D P z P z F d d ) , ( } , { } { ) (
xy z
y x z

= + < =
z
D
y x y x f z z z P z z f d d ) , ( } d { d ) (
xy z
z
(5.41)
(5.42)
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 98
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
z Summe zweier Zufallsvariablen: z = x + y
Wahrscheinlichkeits-
verteilung:
Wahrscheinlichkeitsdichte:


=
y z
y x y x f z F d d ) , ( ) (
xy z
(5.43)
(5.44)


=
=
y y y z f
z
z F
z f
d ) , (
d
) ( d
) (
xy
z
z x
y
D
z
z = x + y
z + dz = x + y
D
z
dy
x + dz
y
x
50
Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 99
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Direkte Berechnung der Wahrscheinlichkeitsdichte:
Sonderfall: statistisch unabhngige Zufallsvariablen:
f
xy
(x,y) = f
x
(x) f
y
(y)


=
=
=
=
+ =
=
=
= =
y
y
y
y
z y z x
y z x D
y z y y z f
y x y x f y x y x f z z f
z
d d ) , (
d d ) , ( d d ) , ( d ) (
d
xy
xy xy z
(5.45)
(5.46)
) ( ) ( d ) ( ) ( d ) ( ) ( ) ( z f z f x x z f x f y y f y z f z f
y x y x y x z
= = =



Fachgebiet
Nachrichtentechnische Systeme
N T S
UNIVERSITT
D U I S B U R G
E S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2
WS 2003/2004
S. 100
Nachrichtentechnik 2
5 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Beispiel: Summe zweier gleichverteilter statistisch
unabhngiger Zufallsvariablen z = x + y
f
x
(x)
x
2 4 6 8
f
y
(y)
y
2 4 6 8
f
z
(z)
z
2 4 6 8
0,5
0,25
0,25