Formen des starken & schwachen Gesetzes der großen Zahlen

Robert Baumgarth1
1
Fakultät für Mathematik und Informatik, Augustusplatz 10, 04109 Leipzig, Germany

13. Juli 2022

1 Motivation
Werfen wir eine faire Kopf-Zahl-Münze, so erwarten wir, dass Kopf und Zahl gleichwahrscheinlich
sind. Betrachten wir insbesondere das arithmetische Mittel genügend vieler solcher Versuche, so
erwarten wir im Mittel immer noch, dass Kopf und Zahl gleichwahrscheinlich auftreten. Für ein
solches Bernoulli-Experiment (im 𝑖ten Schritt) 𝑋𝑖 ∼ 𝖡(𝑝), mit Erfolgswahrscheinlichkeit 𝑝, kennen
wir den Erwartungswert 𝔼𝑋𝑖 , der gerade gegeben ist als 𝔼𝑋𝑖 = 𝑝, und haben uns schon näher
mit dem asymptotischen Verhalten beschäftigt (cf. Korollar 2.3). Allgemeiner können wir die Frage
1
stellen, ob das arithmetische Mittel 𝑋 𝑛 ∶= 𝑆
𝑛 𝑛
der Summe 𝑆𝑛 ∶= 𝑋1 + ⋯ + 𝑋𝑛 , abzählbar vieler
ZVen (𝑋𝑖 )𝑖∈ℕ , für 𝑛 ∈ ℕ einen Grenzwert 𝜇 annimmt, und ob und unter welchen Bedingungen dieser
ebenfalls mit dem Erwartungswert 𝔼𝑋𝑖 übereinstimmt, formal:
𝑆𝑛 𝑛→∞
𝑋𝑛 =
−−−−→ 𝜇. (1.1)
𝑛
Die Gesetze der großen Zahlen beschreiben das asymptotische Verhalten statistischer Beobachtun-
gen, i.e. das Ausführen desselben Experiments viele Male. Dabei nähert sich der Stichprobenmittel-
wert oder das arithmetische Mittel immer mehr dem eigentlichen Mittelwert an. Das starke Gesetz
der großen Zahlen (SLLN) (cf. Theorems 3.3, 3.5 und 4.1) beschreibt die Konvergenz des Grenzwertes
(1.1) ℙ-fast sicher, i.e. mit Wahrscheinlichkeit 1; hingegen das schwache Gesetz der großen Zahlen
(WLLN) (cf. Korollar 2.3 und Theorem 2.1) die ℙ-stochastische Konvergenz. Da fast sichere die Kon-
vergenz in Wahrscheinlichkeit impliziert, folgt aus jedem SLLN sofort ein WLLN.
Sind beispielsweise die (𝑋𝑖 )𝑖∈ℕ unabhängige ZVen mit demselben Erwartungswert 𝜇 = 𝔼𝑋𝑖 und
endlicher Varianz, wird der Grenzwert in (1.1) in Wahrscheinlichkeit angenommen, i.e.

∀𝜀 > 0 ∶ ℙ (|𝑋 − 𝜇 | > 𝜀) = 0.

Denn offensichtlich gilt nach der Chebyshev-Markov-Ungleichung (cf. § 2)

𝐶(𝜀) 𝑛→∞
ℙ (|𝑋 − 𝜇 | > 𝜀) ⩽ −−−−→ 0.
𝑛
Wären die ℙ (|𝑋 − 𝜇 | > 𝜀) summierbar1 , dann könnten wir nach dem Lemma von Borel-Cantelli
die fast sichere Konvergenz schließen; leider ergibt sich nur die Schranke ℙ (|𝑋 − 𝜇 | > 𝜀) ⩽ 𝐶/𝑛,
1
Eine Folge von Elementen (𝑥𝑛 )𝑛∈ℕ auf einem normierten linearen Raum 𝑋 heißt summierbar, wenn ∑𝑁 𝑖=1 𝑥𝑖 gegen
ein Element 𝑥 ∈ 𝑋 konvergiert für 𝑁 → ∞. Uns interessiert hier, dass für alle Ereignisse (𝐴𝑛 )𝑛∈ℕ ⊂ 𝓕 auf einem Wahr-
scheinlichkeitsraum (Ω, 𝓕, ℙ), also die ℙ(𝐴𝑛 ) summierbar sind, i.e. ∑𝑛 ℙ(𝐴𝑛 ) < ∞.
1
 – 2

die gegen Null konvergiert, aber nicht summierbar ist. Es stellt sich jedoch heraus, dass sie längs
einer Teilfolge 𝑛2 summierbar ist: ein Ansatz zum Beweis eines SLLN besteht darin, zu zeigen, dass
2 2
|𝑆𝑘 − 𝑆𝑛2 | nicht zu groß wird für jedes 𝑛 ⩽ 𝑘 < (𝑛 + 1) .
△! Das WLLN sagt, dass für 𝑛 groß genug, das Mittel 𝑋 𝑛 nahe dem Mittelwert 𝜇 = 𝔼𝑋𝑖 liegt.
Insbesondere kann das Ereignis {|𝑋 𝑛 − 𝜇 | > 𝜀} unendlich oft auftreten, i.e. nicht notwendigerweise

|𝑋 𝑛 − 𝜇 | ≠ 0 für alle 𝑛. Das SLLN besagt hingegen, dass ebendies fast sicher nicht geschieht.

2 WLLN - Bernoulli 1713, Chebyshev 1867, Khintchin 1929

Der erste Grenzwertsatz gilt «schwach»2 für Summen unabhängiger bzw. unkorrelierter ZVen: das
schwache Gesetz der großen Zahlen - WLLN (weak law of large numbers) - ist im Grunde nur eine
Anwendung der Chebyshev-Markov-Ungleichung und geht auf Chebyshev zurück:

Für eine ZV 𝑋 ∶ Ω → ℝ, 𝑋 ∈ 𝖫1 (ℙ) bzw. 𝑋 ∈ 𝖫2 (ℙ), gilt

1
ℙ (|𝑋| > 𝜀) ⩽ 𝔼 |𝑋| ,
𝜀
1 1
ℙ (|𝑋 − 𝔼𝑋| > 𝜀) ⩽ 2 𝔼 |𝑋 − 𝔼𝑋|2 = 2 𝕍 𝑋.
𝜀 𝜀
Allgemeiner gilt für jedes 𝑔 ∶ [0, ∞) → [0, ∞) streng monoton wachsend und 𝜀 > 0, dass
𝔼𝑔(|𝑋|)
ℙ (|𝑋| > 𝜀) ⩽ ,
𝑔(𝜀)
denn offensichtlich ist

𝔼𝑔(|𝑋|) ⩾ 𝔼 (𝑔(|𝑋|)𝟙{|𝑋|>𝜀} ) ⩾ 𝑔(𝜀)𝔼𝟙{|𝑋|>𝜀} ⩾ 𝑔(𝜀)ℙ(|𝑋| > 𝜀),

da 𝑔(𝜀) > 0 für 𝜀 > 0.

Theorem 2.1 (Chebyshev; WLLN). Es seien 𝑋𝑖 ∶ Ω → ℝ (𝑖 ∈ ℕ) abzählbar viele, paarweise unkorrelierte

ZV in 𝖫2 (ℙ), i.e. 𝔼𝑋𝑖2 < ∞. Wenn
𝑛
1
lim 𝕍 𝑋𝑖 = 0,
𝑛→∞ 𝑛2 ∑
𝑖=1

dann
𝑛
1
∀𝜀 > 0 ∶ lim ℙ ∑(𝑋𝑖 − 𝔼𝑋𝑖 ) > 𝜀 = 0, (2.1)
𝑛→∞ (| 𝑛 𝑖=1 | )
i.e. (𝑋𝑖 )𝑛∈ℕ genügt dem schwachen Gesetz der großen Zahlen (WLLN).

Beweis. Da die (𝑋𝑖 )𝑖∈ℕ unkorreliert sind, gilt nach dem Satz von Bienaymé, 𝕍 (∑𝑖 𝑋𝑖 ) = ∑𝑖 𝕍 𝑋𝑖 .
Aufgrund der Chebyshev-Markov-Ungleichung somit
2 2
⎛ 𝑛 ⎞ 1
𝑛
2
ℙ ⎜ ∑(𝑋𝑖 − 𝔼𝑋𝑖 ) > (𝑛𝜀) ⎟ ⩽ 𝔼 (𝑋𝑖 − 𝔼𝑋𝑖 )
⎜| 𝑖=1 | ⎟ (𝑛𝜀)2 |∑
𝑖=1 |
⎝ ⎠
𝑛 𝑛
def 1 Bienaymé 1 𝑛→∞
= 𝕍 ∑ 𝑋 𝑖 = ∑ 𝕍 𝑋 𝑖 −
−−−→ 0. ■
𝕍 (𝑛𝜀)2 ( 𝑖=1 ) (𝑛𝜀)2 𝑖=1
2
Im Sinne, dass Konvergenz in Wahrscheinlichkeit aus fast sicherer Konvergenz folgt.
 – 3

Bemerkung 2.2. Der Beweis von Theorem 2.1 benötigt nur die Unkorreliertheit der ZVen (𝑋𝑖 )𝑖∈ℕ
(→ Bienaymé) und benötigt keine (paarweise) Unabhängigkeit der ZVen (𝑋𝑖 )𝑖∈ℕ .

Korollar 2.3 (Bernoullis WLLN). Es seien 𝑋𝑖 ∶ Ω → ℝ (𝑖 ∈ ℕ) iid ZVen und 𝑋1 ∼ 𝖡(𝑝). Dann gilt

𝑋1 + ⋯ + 𝑋 𝑛
∀𝜀 > 0 ∶ lim ℙ − 𝑝 > 𝜀 = 0.
𝑛→∞ (| 𝑛 | )

Beweis. Wegen |𝑋𝑖 | ⩽ 1 ist 𝑋𝑖 ∈ 𝖫2 (ℙ). Nach Theorem 2.1 folgt unmittelbar

𝑛
1 iid 1 1 𝑛→∞
∑ 𝕍 𝑋 𝑖 = 𝑛𝕍 𝑋1 = 𝕍 𝑋 1 −
−−−→ 0. ■
𝑛2 𝑖=1 𝑛2 𝑛

Bemerkung 2.4. (a) Zur Interpretation der Aussage von Korollar 2.3: Sei 𝑋𝑖 das Ergebnis des 𝑖ten
Münzwurfs einer 𝑝-𝑞 -Münze.

▷ 𝑆𝑛 (𝜔)/𝑛 ist die beobachtete relative Häufigkeit der Erfolge.

▷ 𝑝 ist die theoretisch erwartete Häufigkeit der Erfolge.
𝑆 𝑆
▷ ℙ (| 𝑛𝑛 − 𝑝| ⩽ 𝜀) = 1 − ℙ (| 𝑛𝑛 − 𝑝| > 𝜀) ist die Wahrscheinlichkeit dafür, dass die beobach-
teten und die theoretischen Werte höchstens um den Fehler 𝜀 abweichen.

Das WLLN wird somit häufig zur Approximation von Wahrscheinlichkeiten durch relative Häu-
figkeiten genutzt.

(b) Achtung!

▷ Korollar 2.3 sagt nicht, dass 𝑆𝑛 (𝜔)/𝑛 → 𝑝 für eine feste Wurffolge 𝜔 gilt.
▷ Korollar 2.3 sagt auch nicht, dass nach (bspw.) 1000 aufeinanderfolgenden «0» das Auftreten
einer «1» wahrscheinlicher ist.

Eine Version des WLLN geht auch Khintchin (1929) zurück: Mit Hilfe eines Stutzungstricks
(cf. → Etemadis Beweis des SLLN) konnte er die optimale Version des WLLN beweisen. Dieselbe
Technik kann zum Beweis des starken Gesetzes der großen Zahlen verwendet werden.

Theorem 2.5 (Khintchin; WLLN). Es seien 𝑋𝑖 ∶ Ω → ℝ (𝑖 ∈ ℕ) abzählbar viele, paarweise unabhängige

und identisch verteilte ZV in 𝖫1 (ℙ), i.e. 𝔼 |𝑋𝑖 | < ∞. Dann genügt die Folge (𝑋𝑖 )𝑖∈ℕ dem WLLN (2.1).

Die folgende Version des WLLN folgt natürlich umgehend aus dem SLLN, Theorem 4.1, kann aber
auch direkt bewiesen werden.

Theorem 2.6 (𝖫2 /ℙ-Version des WLLN). Es seien 𝑋𝑖 ∶ Ω → ℝ (𝑖 ∈ ℕ) abzählbar viele, paarweise un-
abhängige ZV in 𝖫1 (ℙ), i.e. 𝔼 |𝑋𝑖 | < ∞ mit endlicher Varianz 𝜎 2 ∶= 𝕍 𝑋1 < ∞. Sei 𝑆𝑛 ∶= ∑𝑛𝑖=1 𝑋𝑖 . Dann
gilt

𝑆𝑛 𝑛→∞
−−−−→ 𝔼𝑋1 =∶ 𝜇 ℙ-stochastisch und in 𝖫2 .
𝑛
 – 4

Beweis. Die Konvergenz in Wahrscheinlichkeit zeigt man analog zu dem Beweis von Theorem 2.1 mit
der Chebyshev-Markov-Ungleichung. Da 𝖫2 -Konvergenz jedoch Konvergenz in Wahrscheinlichkeit
impliziert, genügt es die Konvergenz in 𝖫2 zu beweisen. Da die ZVen identisch verteilt sind, gilt
insbesondere 𝔼𝑋𝑖 = 𝔼𝑋1 und 𝑛𝔼𝑋𝑖 = 𝔼𝑆𝑛 . Damit
2
𝑆𝑛 1 2
𝔼 − 𝔼𝑋1 = 2 𝔼 (𝑆𝑛 − 𝑛𝔼𝑋1 )
(𝑛 ) 𝑛
= 𝜎2
1 2 1 1 𝑛→∞
= 2 𝔼 (𝑆𝑛 − 𝔼𝑆𝑛 ) = 2 𝕍 𝑆𝑛 = 𝕍⎴
𝑋1 −−−−→ 0,
𝑛 𝑛 𝑛
gilt nach dem Satz von Bienaymé, 𝕍 (∑𝑖 𝑋𝑖 ) = ∑𝑖 𝕍 𝑋𝑖 = 𝑛𝕍 𝑋1 , da die (𝑋𝑖 )𝑖∈ℕ unabhängig. ■

3 SLLN
Lemma 3.1 (Borel-Cantelli-Lemma). Es sei (𝐴𝑛 )𝑛∈ℕ ⊂ 𝓐.

(a) Es gilt

∑ ℙ(𝐴𝑛 ) < ∞ ⟹ ℙ(lim sup 𝐴𝑛 ) = ℙ(𝐴𝑛 für unendlich viele 𝑛) = 0.

𝑛∈ℕ 𝑛

(b) Wenn die 𝐴𝑛 paarweise unabhängig sind, dann gilt

∑ ℙ(𝐴𝑛 ) = ∞ ⟹ ℙ(lim sup 𝐴𝑛 ) = ℙ(𝐴𝑛 für unendlich viele 𝑛) = 1.

𝑛∈ℕ 𝑛

Aus dem Lemma von Borel-Cantelli 3.1 folgt eine einfache Version des starken Gesetzes der großen
Zahlen (SLLN).

Theorem 3.2 (𝖫4 -SLLN). Es seien (𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫4 (ℙ) iid ZVen mit 𝔼𝑋1 = 𝜇 und sei 𝑆𝑛 ∶= 𝑋1 + ⋯ + 𝑋𝑛 .
Dann gilt
𝑆𝑛 f.s.
−−−→ 𝔼𝑋1 = 𝜇.
𝑛 𝑛↑∞

Beweis. Da (𝑋𝑖 )𝑖∈ℕ iid und in 𝖫4 (ℙ) sind, gilt

𝜇 = 𝔼𝑋𝑖 , (𝑋𝑖 − 𝜇)𝑖∈ℕ ⊂ 𝖫4 (ℙ) iid, und 𝔼(𝑋𝑖 − 𝜇) = 0.

Ohne Einschränkung können wir 𝜇 = 0 annehmen (sonst setze 𝑋̃ 𝑖 ∶= 𝑋𝑖 − 𝔼𝑋𝑖 ). Durch Ausmultipli-
zieren
𝑛 4

𝔼𝑆𝑛4 = 𝔼 ∑ 𝑋𝑖 = 𝔼 ∑ 𝑋𝑖 𝑋𝑘 𝑋𝑙 𝑋𝑚 = ∑ 𝔼 (𝑋𝑖 𝑋𝑘 𝑋𝑙 𝑋𝑚 ) .
( 𝑖=1 ) (𝑖,𝑘,𝑙,𝑚 ) 𝑖,𝑘,𝑙,𝑚

Da die 𝑋𝑖 unabhängig sind, folgt

⎧𝔼𝑋𝑖4 𝑖 = 𝑘 = 𝑙 = 𝑚, (𝑎)
⎪
⎪ 2 2
𝔼 (𝑋𝑖 𝑋𝑘 𝑋𝑙 𝑋𝑚 ) = ⎨𝔼𝑋𝑖 𝔼𝑋𝑙 𝑖 = 𝑘 ≠ 𝑙 = 𝑚, (𝑏)
⎪𝔼𝑋𝑖 𝔼 (𝑋𝑘 𝑋𝑙 𝑋𝑚 ) sonst. (𝑐)
⎪⎵
⎩ =0
 – 5

Offensichtlich tritt der Fall (a) 𝑛-mal und der Fall (b) (42)𝑛(𝑛 − 1)-mal auf, i.e. für 𝑛 ∈ ℕ

2
𝔼𝑆𝑛4 ⩽ 𝑛𝔼𝑋14 + 6𝑛(𝑛 − 1) (𝔼𝑋12 ) ⩽ 𝜅 𝑛2 .

Mit der Markov-Ungleichung folgt für beliebige 𝜀 > 0, dass

𝔼𝑆𝑛4 𝜅 𝜅 1
ℙ (|𝑆𝑛 | > 𝑛𝜀) ⩽ ⩽ ⟹ ∑ ℙ (|𝑆𝑛 | > 𝑛𝜀) ⩽ ∑ 2 < ∞.
𝑛4 𝜀4 𝑛2 𝜀4 𝑛∈ℕ
4
𝜀 𝑛∈ℕ 𝑛

Mit Hilfe des Borel-Cantelli-Lemma, Lemma 3.1 (a), folgt nun ℙ (|𝑆𝑛 | > 𝑛𝜀 für unendlich viele 𝑛) = 0,
und daher ist

|𝑆𝑛 |
Ω𝜀 ∶= lim sup ⩽𝜀
{ 𝑛→∞ 𝑛 }

für jedes feste 𝜀 > 0 eine Menge mit vollem Maß. Es gilt

|𝑆 𝑛 | |𝑆 𝑛 | ⩾ 0 |𝑆 𝑛 |
lim =0 = lim sup =0 = Ω𝜀 = Ω =∶ Ω0 ,
{𝑛→∞ 𝑛 } { 𝑛→∞ 𝑛 } ⋂ ⋂ 1/𝑚
𝜀>0 𝑚∈ℕ

und weil Ω0 der Schnitt abzählbar vieler Mengen mit Maß 1, gilt ℙ(Ω0 ) = 1, und die Behauptung
folgt. ■

Theorem 3.3 (𝖫1 -SLLN; Kolmogorov 1933, Etemadi 1981). Es seien (𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫1 (ℙ) paarweise unabhän-
gige, identisch verteilte, reelle ZVen. Dann gilt

𝑋1 + ⋯ + 𝑋𝑛
lim = 𝔼𝑋1 fast sicher.
𝑛→∞ 𝑛
i. e. mit 𝔼𝑋1 =∶ 𝜇 und sei 𝑆𝑛 ∶= 𝑋1 + ⋯ + 𝑋𝑛 gilt

𝑆𝑛 f.s.
−−−→ 𝔼𝑋1 = 𝜇,
𝑛 𝑛↑∞

Dass die Integrabilitätsbedingung 𝑋𝑛 ∈ 𝖫1 (ℙ) in Theorem 3.3 optimal ist, werden wir im nächsten
Theorem 3.5 zeigen. Dafür benötigen wir das folgende

Lemma 3.4. Es seien (𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫1 (ℙ) paarweise unabhängige, identisch verteilte, reelle ZVen, so dass
𝔼 |𝑋𝑖 | = ∞. Dann gilt, für 𝑆𝑛 = 𝑋1 + ⋯ + 𝑋𝑛 , dass

ℙ lim 𝑆𝑛 /𝑛 existiert und ist endlich = 0.

( 𝑛 )

Mit anderen Worten: Existiert der Limes

𝑋1 + ⋯ + 𝑋𝑛
𝐿 ∶= lim (3.1)
𝑛→∞ 𝑛

und ist endlich, dann gilt 𝔼 |𝑋𝑖 | < ∞.

 – 6

Beweis. Wir definieren die Mengen

𝐶 ∶= 𝐿 ∶= lim 𝑆𝑛 /𝑛 existiert und ist endlich ,

{ 𝑛 }
Ω0 ∶= {|𝑋𝑖 | ⩾ 𝑛 für unendlich viele 𝑛} .

Für 𝜔 ∈ 𝐶 gilt

𝑋𝑛+1 (𝜔) 𝑆𝑛+1 (𝜔) 𝑆𝑛 (𝜔) 𝑆𝑛+1 (𝜔) 𝑛 𝑆𝑛 (𝜔)

= − = − .
𝑛+1 𝑛+1 𝑛 + 1 ⎵⎵
𝑛+1 𝑛+1⎵
⎵ 𝑛
→𝐿 → 1 → 𝐿

Das zeigt, dass für alle 𝜔 ∈ 𝐶 gilt lim𝑛 𝑋𝑛 (𝜔)/𝑛 = 0, also ist 𝐶 ∩ Ω0 = ∅ und

ℙ(𝐶) = ℙ(𝐶 ∩ Ω0 ) + ℙ(𝐶 ⧵ Ω0 ) ⩽ ℙ(Ω𝑐0 ) = 0. ■

Theorem 3.5. Es seien (𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫1 (ℙ) paarweise unabhängige, identisch verteilte, reelle ZVen, für die
der Grenzwert (3.1) f.s. existiert und endlich ist. Dann ist 𝑋1 ∈ 𝖫1 (ℙ) und 𝐿 = 𝔼𝑋1 fast sicher.

Beweis. Offensichtlich ist

𝑋1 (𝜔) + ⋯ + 𝑋𝑛 (𝜔)
𝐿(𝜔) ∶= lim
𝑛→∞ 𝑛

eine ZV. Nach Lemma 3.4 gilt dann 𝔼 |𝑋1 | < ∞. Nach dem SLLN, Theorem 3.3, gilt somit

def 𝑋1 + ⋯ + 𝑋𝑛 SLLN
𝐿 = lim = 𝔼𝑋1 f.s.
𝑛→∞ 𝑛
Insbesondere ist 𝐿 f.s. eine Konstante. ■

Zusammenfassend (aus Gleichung (2.1) und Theorem 3.5) haben wir somit die wahrscheinlich meist
genutzte Version des SLLN für iid ZVen gezeigt:

Theorem 3.6. Seien (𝑋𝑖 )𝑖∈ℕ iid ZVen und 𝑆𝑛 ∶= ∑𝑖⩽𝑛 𝑋𝑖 . Dann gibt es ein 𝜇 ∈ ℝ, so dass

𝑆𝑛 f.s.
−−−−→ 𝜇
𝑛 𝑛→∞

genau dann, wenn 𝔼 |𝑋1 | < ∞, wobei 𝜇 = 𝔼𝑋1 .

Daraus folgen unmittelbar zwei wichtige Konsequenzen, die in der Statistik ständig genutzt werden.

Korollar 3.7. Es sei 𝑋 𝑛 ∶= 𝑆𝑛 /𝑛, 𝜇 ∶= 𝔼𝑋1 und 𝜎 2 ∶= 𝕍 𝑋1 . Dann gilt

f.s.
(𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫1 (ℙ) ⟹ 𝑋 𝑛 −−→ 𝜇
𝑛 2 f.s.
2 1 2
(𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫 (ℙ) ⟹ ∑ 𝑋 − 𝑋 ) −−→ 𝜎
𝑛 𝑖=1 ( 𝑛 𝑛
 – 7

4 Kolmogorovs klassisches 𝖫2 -SLLN

Kolmogorov hat das SLLN 1930/1933 für unabhängige und identisch verteilte ZVen in 𝖫1 (ℙ) gezeigt. Die
Beweisidee zeigt dabei insbesondere eine 𝖫2 (ℙ)-Version des SLLN, bei der die ZVen nicht identisch
verteilt sein müssen:

Theorem 4.1. Es seien (𝑌𝑖 )𝑖∈ℕ ⊂ 𝖫2 (ℙ) unabhängige, reelle ZVen. Dann
𝑛
𝕍 𝑌𝑖 1
∑ <∞ ⟹ lim (𝑌𝑖 − 𝔼𝑌𝑖 ) = 0 f.s.
𝑖2 𝑛→∞ 𝑛 ∑
𝑖∈ℕ 𝑖=1

Zum Beweis benötigen wir kleinere Zwischenresultate, die für sich genommen von Interesse sind.

Lemma 4.2 (Lévy). Es seien 𝑋1 , … , 𝑋𝑛 unabhängige ZVen. Dann gilt

𝑆𝑛 konvergiert f.s. ⟺ 𝑆𝑛 konvergiert in Wahrscheinlichkeit.

Beweis. ⟸ Klar, da f.s. Konvergenz die Konvergenz in Wahrscheinlichkeit impliziert.

⟹ Hier benötigen wir die Unabhängigkeit und → Etemadis Maximalungleichung. ■

Korollar 4.3 (Kolmogorov). Es seien (𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫2 (ℙ) unabhängige, relle ZVen. Dann gilt

∑ 𝕍 𝑋𝑖 < ∞ ⟹ ∑(𝑋𝑖 − 𝔼𝑋𝑖 ) konvergiert f.s.

𝑖∈ℕ 𝑖∈ℕ

Beweis. Für 𝑐𝑖 = const. ist die Folge (𝑋𝑖 − 𝑐𝑖 )𝑖∈ℕ ebenfalls unabhängig; und es gilt 𝕍 𝑋𝑖 = 𝕍 (𝑋𝑖 − 𝑐𝑖 ).
Ohne Einschränkung können wir 𝔼𝑋𝑖 = 0 annehmen. Für 𝑚 < 𝑛 gilt
𝑛
Bienaymé 𝑛,𝑚→∞
𝔼(𝑆𝑛 − 𝑆𝑚 )2 = 𝕍 (𝑆𝑛 − 𝑆𝑚 ) = ∑ 𝕍 𝑋𝑖 −−−−−→ 0.
𝑖=𝑚+1

𝖫2 (ℙ)
Da 𝖫2 (ℙ) vollständig ist, existiert der Grenzwert 𝑆𝑛 −−−−→ 𝑆 , also auch in Wahrscheinlichkeit. Mit
Lemma 4.2 somit auch fast sicher. ■

Schließlich zitieren wir ein wohl bekanntes

Lemma 4.4 (Kroneckers Lemma). Es sei (𝑎𝑖 )𝑖∈ℕ0 ⊂ (0, ∞) eine monoton wachsende Folge mit 𝑎𝑖 ↑ ∞
und (𝑥𝑖 )𝑖∈ℕ ⊂ ℝ eine beliebige Folge. Dann gilt für die Partialsummen 𝑠𝑛 ∶= 𝑥1 + 𝑥2 + ⋯ + 𝑥𝑛 (𝑛 ∈ ℕ),
𝑥𝑖 𝑠
∑𝑎 ⟹ lim 𝑛 = 0.
𝑛→∞ 𝑎𝑛
𝑖∈ℕ 𝑖

Nun können wir Theorem 4.1 beweisen.

Beweis von Theorem 4.1. Wir wenden Korollar 4.3 auf die Folge 𝑋𝑖 ∶= 𝑌𝑖 /𝑖 an, dann erhalten wir
wegen 𝕍 𝑌𝑖 = 𝕍 (𝑌𝑖 − 𝔼𝑌
⎵𝑖 ), dass
const

𝑌𝑖 − 𝔼𝑌𝑖
∑ f.s. konvergiert.
𝑖∈ℕ 𝑖
 – 8

Mit Lemma 4.4 (setze 𝑎𝑖 = 1) folgt somit

𝑛
1
lim (𝑌𝑖 − 𝔼𝑌𝑖 ) = 0 f.s. ■
𝑛→∞ 𝑛 ∑
𝑖=1

Kolmogorovs Beweis des SLLN für iid ZVen (𝑋𝑖 )𝑖∈ℕ ⊂ 𝖫1 (ℙ) folgt nun mit der bekannten Stutzungs-
technik aus Etemadis Beweis.