Empirische Varianz

Die empirische Varianz, auch Stichprobenvarianz oder einfach nur kurz Varianz genannt, ist in der deskriptiven Statistik eine Kennzahl einer Stichprobe. Sie gehört zu den Streuungsmaßen und beschreibt die mittlere quadratische Abweichung der einzelnen Messwerte vom arithmetischen Mittel.

Die Begriffe „Varianz“, „Stichprobenvarianz“ und „empirische Varianz“ werden in der Literatur nicht einheitlich verwendet. Im Allgemeinen muss unterschieden werden zwischen der

Varianz (im Sinne der Wahrscheinlichkeitstheorie) als Kennzahl einer Wahrscheinlichkeitsverteilung oder der Verteilung einer Zufallsvariable
Stichprobenvarianz (im Sinne der induktiven Statistik) als Schätzfunktion für die Varianz (im Sinne der Wahrscheinlichkeitstheorie)
der hier besprochenen empirischen Varianz als Kennzahl einer konkreten Stichprobe, also mehrerer Zahlen.

Eine genaue Abgrenzung und Zusammenhänge finden sich im Abschnitt Beziehung der Varianzbegriffe.

Definition

Da die Varianz einer endlichen Population der Größe

$\sigma ^{2}={\frac {1}{N}}\sum \limits _{i=1}^{N}(x_{i}-\mu )^{2}$ ^[1] mit dem Populationsmittelwert $\mu ={\frac {1}{N}}\sum _{i=1}^{N}x_{i}$

in vielen praktischen Situationen oft unbekannt ist und aber dennoch irgendwie berechnet werden muss, wird oft die empirische Varianz herangezogen. Dies ist vor allem notwendig, wenn es in extrem großen Populationen nicht möglich ist, jedes einzelne Subjekt in der Population zu zählen.

Gegeben sei eine Stichprobe mit Elementen $x_{1},x_{2},\dots ,x_{n}$ und sei

$x=(x_{1},x_{2},\dots ,x_{n})$ .

Es bezeichne

${\overline {x}}={\frac {1}{n}}\sum _{i=1}^{n}{x_{i}}$

das arithmetische Mittel der Stichprobe. Die empirische Varianz wird auf zweierlei Arten definiert.

Entweder wird die empirische Varianz der Stichprobe definiert als

$v(x)={\frac {1}{n}}\sum \limits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}$ ,

oder sie wird als leicht modifizierte Form definiert als

$v^{*}(x)={\frac {1}{n-1}}\sum \limits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}$ .

Intuitiv lässt sich die Mittelung durch (n-1) statt durch bei der modifizierten Form der empirischen Varianz wie folgt erklären: Aufgrund der Schwerpunkteigenschaft des arithmetischen Mittels $\sum \nolimits _{i=1}^{n}\left(x_{i}-{\bar {x}}\right)=0$ ist die letzte Abweichung $\left(x_{n}-{\overline {x}}\right)$ bereits durch die ersten (n-1) bestimmt. Folglich variieren nur (n-1) Abweichungen frei und man mittelt deshalb, indem man durch die Anzahl der sogenannten Freiheitsgrade (n-1) dividiert.

Wird nur von der empirischen Varianz gesprochen, so muss darauf geachtet werden, welche Konvention beziehungsweise Definition im entsprechenden Kontext gilt. Weder die Benennung der Definitionen noch die entsprechende Notation ist in der Literatur einheitlich. So finden sich für auch die Notationen $V(x)_{\text{emp}},S_{\text{emp}}^{2}$ oder $s^{2}$ , hingegen wird $v^{*}$ auch mit $\operatorname {Var} (x)_{\text{theor}},\;s_{n-1}^{2}$ oder $s^{2}$ bezeichnet. Manche Autoren bezeichnen als mittlere quadratische Abweichung vom arithmetischen Mittel und $v^{*}$ als theoretische Varianz oder induktive Varianz im Gegensatz zu als empirische Varianz.

In diesem Artikel werden der Klarheit halber und um Irrtümern vorzubeugen die oben eingeführten Notationen und $v^{*}$ verwendet. Diese Notation ist in der Literatur nicht verbreitet.

Empirische Varianz für Häufigkeitsdaten

Für Häufigkeitsdaten $a_{1},\ldots ,a_{k}$ und relativen Häufigkeiten $f_{1},\ldots ,f_{k}$ wird die empirische Varianz wie folgt berechnet

$v(x)=\sum \limits _{j=1}^{k}\left(a_{j}-{\overline {x}}\right)^{2}f_{j}$ .

Beispiel

Gegeben sei die Stichprobe

$x_{1}=10;\quad x_{2}=9;\quad x_{3}=13;\quad x_{4}=15;\quad x_{5}=16$ ,

es ist also $n=5$ . Für den empirischen Mittelwert ergibt sich

${\overline {x}}={\frac {1}{5}}(10+9+13+15+16)={\frac {63}{5}}=12{,}6$ .

Bei stückweiser Berechnung ergibt sich dann

${\begin{aligned}\sum \limits _{i=1}^{5}\left(x_{i}-{\overline {x}}\right)^{2}&=(10-12{,}6)^{2}+(9-12{,}6)^{2}+(13-12{,}6)^{2}+(15-12{,}6)^{2}+(16-12{,}6)^{2}\\\;&=(-2{,}6)^{2}+(-3{,}6)^{2}+0{,}4^{2}+2{,}4^{2}+3{,}4^{2}=37{,}2\end{aligned}}$ .

Über die erste Definition erhält man

$v(x)={\frac {1}{5}}\sum _{i=1}^{5}(x_{i}-{\overline {x}})^{2}={\frac {37{,}2}{5}}=7{,}44$

wohingegen die zweite Definition

$v^{*}(x)={\frac {1}{5-1}}\sum _{i=1}^{5}(x_{i}-{\overline {x}})^{2}={\frac {37{,}2}{4}}=9{,}3$ ,

liefert.

Alternative Darstellungen

Direkt aus der Definition folgen die Darstellungen

$v={\frac {n-1}{n}}v^{*}$

beziehungsweise

$v^{*}={\frac {n}{n-1}}v$ .

Eine weitere Darstellung erhält man aus dem Verschiebungssatz, nach dem

$\sum _{i=1}^{n}\left(x_{i}-{\bar {x}}\right)^{2}=\left(\sum _{i=1}^{n}x_{i}^{2}\right)-n({\overline {x}})^{2}$

gilt. Durch Multiplikation mit ${\tfrac {1}{n}}$ erhält man daraus

$v(x)={\frac {1}{n}}\left(\sum _{i=1}^{n}x_{i}^{2}\right)-({\overline {x}})^{2}$ ,

woraus

$v^{*}(x)={\frac {1}{n-1}}\left(\sum _{i=1}^{n}x_{i}^{2}\right)-{\frac {n}{n-1}}({\overline {x}})^{2}$

folgt.

Eine weitere Darstellung, die ohne die Verwendung des arithmetischen Mittels auskommt, ist

$v^{*}(x)={\frac {1}{2}}\cdot {\frac {1}{n(n-1)}}\sum _{\mathrm {alle~} i\neq j}\left(x_{i}-x_{j}\right)^{2}={\frac {1}{n(n-1)}}\sum _{i=1}^{n}\sum _{j=i+1}^{n}\left(x_{i}-x_{j}\right)^{2}$ .

Verhalten bei Transformationen

Die Varianz verändert sich nicht bei Verschiebung der Daten um einen fixen Wert. Ist genauer $x=(x_{1},x_{2},\dots ,x_{n})$ und $y=(x_{1}+c,x_{2}+c,\dots ,x_{n}+c)$ , so ist

$v(x)=v(y)$ sowie $v^{*}(x)=v^{*}(y)$ .

Denn es ist ${\overline {y}}={\overline {x}}+c$ und somit

$(y_{i}-{\overline {y}})^{2}=(x_{i}+c-({\overline {x}}+c))^{2}=(x_{i}-{\overline {x}})^{2}$ ,

woraus die Behauptung folgt. Werden die Daten nicht nur um verschoben, sondern auch um einen Faktor a>0 reskaliert, so gilt

$v(y)=a^{2}\cdot v(x)$ sowie $v^{*}(y)=a^{2}\cdot v^{*}(x)$ .

Hierbei ist $y=(ax_{1}+c,ax_{2}+c,\dots ,ax_{n}+c)$ . Dies folgt wie oben durch direktes Nachrechnen.

Herkunft der verschiedenen Definitionen

Die Definition von entspricht der Definition der empirischen Varianz als die mittlere quadratische Abweichung vom arithmetischen Mittel. Diese basiert auf der Idee, ein Streuungsmaß um das arithmetische Mittel zu definieren. Ein erster Ansatz ist, die Differenz der Messwerte vom arithmetischen Mittel aufzusummieren. Dies führt zu

$k(x)=\sum _{i=1}^{n}(x_{i}-{\overline {x}})$

Dies ergibt allerdings stets 0 (Schwerpunkteigenschaft), ist also nicht geeignet zur Quantifizierung der Varianz. Um einen Wert für die Varianz größer oder gleich 0 zu erhalten, kann man die Differenzen entweder in Betrag setzen, also

$|k|(x)=\sum _{i=1}^{n}|x_{i}-{\overline {x}}|$

betrachten, oder aber quadrieren, also

$k^{2}(x)=\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$

bilden. Dies bietet den Vorteil, dass größere Abweichungen vom arithmetischen Mittel stärker gewichtet werden. Um das Streuungsmaß noch unabhängig von der Anzahl der Messwerte in der Stichprobe zu machen, wird noch durch diese Anzahl dividiert. Außerdem bietet das Quadrieren den Vorteil, dass sich identische positive und negative Elemente der Summe nicht gegenseitig aufheben können und somit bei der Berechnung berücksichtigt werden. Ergebnis dieses pragmatisch hergeleiteten Streuungsmaßes ist die mittlere quadratische Abweichung vom arithmetischen Mittel oder die oben definierte Varianz .

Die Definition von $v^{*}$ hat ihre Wurzeln in der Schätztheorie. Dort wird

$V^{*}(X)={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$

als erwartungstreue Schätzfunktion für die unbekannte Varianz einer Wahrscheinlichkeitsverteilung verwendet.

Geht man nun von den Zufallsvariablen $X_{i}$ zu den Realisierungen $X_{i}(\omega )=x_{i}$ über, so erhält man aus der abstrakten Schätzfunktion $V^{*}$ den Schätzwert $v^{*}$ . Das Verhältnis von $V^{*}$ zu $v^{*}$ entspricht somit dem Verhältnis einer Funktion zu ihrem Funktionswert $f(x_{0})$ an einer Stelle $x_{0}$ .

Somit kann als ein praktisch motiviertes Streuungsmaß in der deskriptiven Statistik angesehen werden, wohingegen $v^{*}$ eine Schätzung für eine unbekannte Varianz in der induktiven Statistik ist. Diese unterschiedlichen Ursprünge rechtfertigen die oben angeführte Sprechweise für als empirische Varianz und für $v^{*}$ als induktive Varianz oder theoretische Varianz.

Zu bemerken ist, dass sich auch als Schätzwert einer Schätzfunktion interpretieren lässt. So erhält man bei Anwendung der Momentenmethode als Schätzfunktion für die Varianz

$V(X)={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$ .

Ihre Realisierung entspricht . Jedoch wird meist nicht verwendet, da sie gängige Qualitätskriterien nicht erfüllt.

Beziehung der Varianzbegriffe

Wie in der Einleitung bereits erwähnt, existieren verschiedene Varianzbegriffe, die teils denselben Namen tragen. Ihre Beziehung zueinander wird klar, wenn man ihre Rolle in der Modellierung der induktiven Statistik betrachtet:

Die Varianz (im Sinne der Wahrscheinlichkeitstheorie) ist ein Dispersionsmaß einer abstrakten Wahrscheinlichkeitsverteilung oder der Verteilung einer Zufallsvariable in der Stochastik.
Die Stichprobenvarianz (im Sinne der induktiven Statistik) ist eine Schätzfunktion zum Schätzen der Varianz (im Sinne der Wahrscheinlichkeitstheorie) einer unbekannten Wahrscheinlichkeitsverteilung. Sie ist somit keine Kennzahl, sondern eine Schätzmethode, um möglichst gut die Varianz einer unbekannten Wahrscheinlichkeitsverteilung zu erraten.
Die hier besprochene empirische Varianz ist neben ihrer Rolle in der deskriptiven Statistik eine konkrete Schätzung für die zugrundeliegende Varianz nach der Schätzmethode, welche durch die Stichprobenvarianz (im Sinne der induktiven Statistik) gegeben ist.

Zentral ist der Unterschied zwischen der Schätzmethode (Stichprobenvarianz im Sinne der induktiven Statistik) und ihrer konkreten Schätzung (empirische Varianz). Sie entspricht dem Unterschied zwischen einer Funktion und ihrem Funktionswert.

Abgeleitete Begriffe

Empirische Standardabweichung

→ Hauptartikel: Empirische Standardabweichung

Als empirische Standardabweichung wird die Wurzel aus der empirischen Varianz bezeichnet, also

$s={\sqrt {{\frac {1}{n}}\sum \limits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}}}$

oder

$s^{*}={\sqrt {{\frac {1}{n-1}}\sum \limits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}}}$ .

Im Gegensatz zur empirischen Varianz besitzt die empirische Standardabweichung dieselben Einheiten wie das arithmetische Mittel oder die Stichprobe selbst. Wie auch bei der empirischen Varianz ist die Benennung und Bezeichnung bei der empirischen Standardabweichung nicht einheitlich.

Empirischer Variationskoeffizient

Der empirische Variationskoeffizient ist ein dimensionsloses Streuungsmaß und ist definiert als die empirische Standardabweichung geteilt durch das arithmetische Mittel, also

$vk={\frac {s}{\overline {x}}}\quad$ bzw. $\quad vk={\frac {s^{*}}{\overline {x}}}$

Anmerkung

↑ Die Populationsvarianz kann auch einfacher durch den Verschiebungssatz wie folgt angegeben werden: $\sigma ^{2}=\left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}^{2}\right)-\mu ^{2}$

Basierend auf einem Artikel in:

Wikipedia.de