Suffiziente σ-Algebra

Eine suffiziente σ-Algebra ist ein spezielles Mengensystem in der mathematischen Statistik, das verwendet wird, um die Kompression von Daten ohne Informationsverlust mittels suffizienter Statistiken zu formalisieren.

Definition

Gegeben sei ein statistisches Modell $(\Omega ,{\mathcal {A}},{\mathcal {P}})$ sowie eine Teil-σ-Algebra ${\mathcal {S}}\subset {\mathcal {A}}$ . Sei $\operatorname {E} _{P}(\cdot |{\mathcal {S}})$ der bedingte Erwartungswert gegeben ${\mathcal {S}}$ unter Verwendung des Wahrscheinlichkeitsmaßes $P$ . Die σ-Algebra ${\mathcal {S}}$ heißt dann suffizient für ${\mathcal {P}}$ , wenn für jedes $A\in {\mathcal {A}}$ eine ${\mathcal {S}}$ -messbare Funktion $f_{A}$ existiert, so dass

f_{A}=\operatorname {E} _{P}(\mathbf {1} _{A}|{\mathcal {S}}){\text{ für alle }}P\in {\mathcal {P}}

.

Bemerkungen

Ein Defizit des Suffizienzbegriffes ist, dass wenn ${\mathcal {S}}_{1},{\mathcal {S}}_{2}$ σ-Algebren sind mit ${\mathcal {S}}_{1}\subset {\mathcal {S}}_{2}$ und ${\mathcal {S}}_{1}$ suffizient ist (bezüglich einer vorgegebenen Verteilungsklasse), dann folgt im Allgemeinen nicht, dass auch ${\mathcal {S}}_{2}$ suffizient ist. Das würde man aber intuitiv erwarten, denn wenn schon die kleinere σ-Algebra ausreichend ist, um eine verlustfreie Datenkompression zu ermöglichen, dann sollte dies ebenso für die größere gelten, da sie ja die kleinere enthält, in der alle Informationen von Belang schon vorhanden sind. Zu beachten ist hier, dass die Datenkompression hier dem Weglassen der Mengen aus der größeren σ-Algebra entspricht.

Formell lässt sich dieses Defizit wie folgt einsehen: ist ${\mathcal {S}}_{1}$ suffizient, so gilt laut Definition des bedingten Erwartungswertes

\int _{S}f_{A}\,\mathrm {d} P=P(A\cap S)

für alle $S\in {\mathcal {S}}_{1}$ , aber eben nicht notwendigerweise für alle $S\in {\mathcal {S}}_{2}$ .

Erläuterung

Klar wird die Bedeutung des Begriffes, wenn man die Wahrscheinlichkeitsmaße aus ${\mathcal {P}}$ auf ${\mathcal {S}}$ einschränkt. Dann gilt

P(A)=\int P(A|{\mathcal {S}})\mathrm {d} P|_{\mathcal {S}}=\int f_{A}\mathrm {d} P|_{\mathcal {S}}

.

Da aber $f_{A}$ nicht von $P\in {\mathcal {P}}$ abhängt, können sich die Wahrscheinlichkeitsmaße nur dann unterscheiden, wenn schon deren Einschränkungen auf ${\mathcal {S}}$ verschieden sind. Damit sind alle möglichen Informationen, welche die Wahrscheinlichkeitsmaße aus ${\mathcal {P}}$ liefern können, bereits in ${\mathcal {S}}$ enthalten.

Stabilität bezüglich Operationen

Ist ${\mathcal {S}}^{*}\subset {\mathcal {S}}\subset {\mathcal {A}}$ und ist ${\mathcal {S}}$ suffizient für ${\mathcal {P}}$ , so ist ${\mathcal {S}}^{*}$ genau dann suffizient für $(\Omega ,{\mathcal {A}},{\mathcal {P}})$ , wenn ${\mathcal {S}}^{*}$ suffizient ist für $(\Omega ,{\mathcal {S}},{\mathcal {P}}|_{\mathcal {S}})$ .
Sei ${\mathcal {N}}_{\mathcal {P}}$ die Mengen aller ${\mathcal {P}}$ -Nullmengen. Sind ${\mathcal {S}}_{1}$ und ${\mathcal {S}}_{2}$ suffizient und ist ${\mathcal {N}}_{\mathcal {P}}\subset {\mathcal {S}}_{1}$ , so ist auch ${\mathcal {S}}_{1}\cap {\mathcal {S}}_{2}$ suffizient.
Ist ${\mathcal {S}}$ suffizient und ist ${\mathcal {E}}$ eine abzählbar erzeugte σ-Algebra, so ist auch $\sigma ({\mathcal {S}},{\mathcal {E}})$ suffizient. Daraus folgt direkt, dass abzählbar erzeugte Ober-σ-Algebren von suffizienten σ-Algebren wieder suffizient sind.

Suffizienz und dominierte Verteilungsklassen

Mittels des Satzes von Halmos-Savage lassen sich für dominierte Verteilungsklassen ${\mathcal {P}}$ einige stärkere Aussagen zeigen:

Sei ${\mathcal {S}}$ suffizient und ${\mathcal {S}}\subset {\mathcal {A}}$ . Dann ist jede σ-Algebra ${\mathcal {S}}^{*}$ mit

{\mathcal {S}}\subset {\mathcal {S}}^{*}\subset {\mathcal {A}}

ebenfalls suffizient.

${\mathcal {S}}$ ist genau dann suffizient bezüglich ${\mathcal {P}}$ , wenn ${\mathcal {S}}$ suffizient bezüglich ${\mathcal {P}}^{*}:=\{P_{i},P_{j}\}$ ist für alle $P_{i},P_{j}\in {\mathcal {P}}$ .
Sind für $i=1,2$ die Verteilungsklassen ${\mathcal {P}}_{i}$ auf $(\Omega _{i},{\mathcal {A}}_{i})$ dominiert und ist ${\mathcal {S}}_{i}\subset {\mathcal {A}}_{i}$ suffizient, so ist auch ${\mathcal {S}}_{1}\otimes {\mathcal {S}}_{2}$ suffizient bezüglich ${\mathcal {P}}_{1}\otimes {\mathcal {P}}_{2}$ .