Varianz (Stochastik)

mini|hochkant=1.6|Dichtefunktionen zweier normalverteilter Zufallsvariablen (rot) und (grün) mit gleichem Erwartungswert , aber unterschiedlichen Varianzen. Die waagerechte Achse zeigt den Wert, die senkrechte die zugehörige Dichte. Da die rote Dichtefunktion schmaler um den Erwartungswert verläuft als die grüne Dichtefunktion, hat eine kleinere Varianz als (). Die Quadratwurzel der Varianz, die Standardabweichung, kann bei der Normalverteilung an den Wendepunkten der Dichtefunktion abgelesen werden, da diese für eine Normalverteilung mit den Parametern und an den Stellen und liegen.

Die Varianz ( „Verschiedenheit“ bzw. „(ver)ändern, verschieden sein“) ist ein Maß für die Streuung einer Wahrscheinlichkeitsverteilung um ihren Schwerpunkt. Mathematisch wird sie definiert als die mittlere quadratische Abweichung einer reellen Zufallsvariablen von ihrem Erwartungswert. Sie ist das zentrale Moment zweiter Ordnung einer Zufallsvariablen.

Die Varianz kann mit einem Varianzschätzer, z. B. der Stichprobenvarianz, bestimmt werden. Die Quadratwurzel der Varianz heißt Standardabweichung und ist das wichtigste Streuungsmaß in der Stochastik.

Die Bezeichnung Varianz wurde vor allem von dem britischen Statistiker Ronald Fisher (1890–1962) geprägt. Weitere Wörter für die Varianz sind das veraltete Dispersion ( „Zerstreuung“ bzw. „verteilen, ausbreiten, zerstreuen“), das Streuungsquadrat oder die Streuung.

Zu den Eigenschaften der Varianz gehört, dass sie niemals negativ ist und sich bei Verschiebung der Verteilung nicht ändert. Die Varianz einer Summe unkorrelierter Zufallsvariablen ist gleich der Summe ihrer Varianzen. Ein Nachteil der Varianz für praktische Anwendungen ist, dass sie im Unterschied zur Standardabweichung eine andere Einheit als die Zufallsvariable besitzt. Da sie über ein Integral definiert wird, existiert sie nicht für alle Verteilungen, d. h., sie kann auch unendlich sein.

Eine Verallgemeinerung der Varianz ist die Kovarianz. Im Unterschied zur Varianz, die die Variabilität der betrachteten Zufallsvariablen misst, ist die Kovarianz ein Maß für die gemeinsame Variabilität von zwei Zufallsvariablen. Aus dieser Definition der Kovarianz folgt, dass die Kovarianz einer Zufallsvariablen mit sich selbst gleich der Varianz dieser Zufallsvariablen ist. Im Falle eines reellen Zufallsvektors kann die Varianz zur Varianz-Kovarianzmatrix verallgemeinert werden.

Definition Die Varianz wird zuerst mathematisch definiert, eine Erklärung der Definition folgt danach. Die Varianz einer Stichprobe ist ein Spezialfall der mathematischen Definition und wird im Abschnitt Empirische Varianz / Stichprobenvarianz behandelt.

Mathematische Definition Sei ein Wahrscheinlichkeitsraum und eine Zufallsvariable auf diesem Raum. Die Varianz ist definiert als die zu erwartende quadratische Abweichung dieser Zufallsvariablen von ihrem Erwartungswert , sofern dieser existiert:Patrick Billingsley: Probability and Measure. 3. Auflage. Wiley, 1995, S. 274 ff.

Erklärung der Definition Die Definition sagt Folgendes: Gegeben ist eine Zufallsvariable mit Erwartungswert .

Der Wahrscheinlichkeitsraum Zu einer Zufallsvariable gehört immer auch ein Wahrscheinlichkeitsraum, denn eine Zufallsvariable ist aus mathematischer Sicht eine Funktion von diesem Raum, zum Beispiel definiert man eine reelle Zufallsvariable als . Für ein oberflächliches Verständnis des Begriffes der Varianz kann der Begriff aber auch übersprungen werden.

Die erste Gleichung Die erste Gleichung

sagt, dass die Varianz von dasselbe wie der Erwartungswert der Zufallsvariable ist. Diese neue Zufallsvariable ist die quadratische Abweichung von zu und man spricht von der mittleren quadratischen Abweichung, weil man den Erwartungswert der quadratischen Abweichung nimmt.

Nach den Rechenregeln des Erwartungswertes lässt sich die rechte Seite leicht umformen .

Die zweite Gleichung Die zweite Gleichung

sagt, dass sich die Varianz direkt als Integral berechnen lässt. Dieses Integral ist hier in der allgemeinen Form, wo man über den Ergebnisraum bezüglich dem Wahrscheinlichkeitsmaß integriert, um alle Fälle miteinzuschließen. Hier gibt es noch die wichtigen Fälle:

Absolutstetiger Fall: Hat man eine Zufallsvariable mit einer Dichte von einer Menge , so lässt sich das Integral umformen

Diskreter Fall: Hat man eine Zufallsvariable mit einer Wahrscheinlichkeitsfunktion von einer Menge , so lässt sich das Integral umformen

Diese Gleichungen zeigen, dass die Varianz eine Kennzahl der Wahrscheinlichkeitsverteilung von ist.

Empirische Varianz / Stichprobenvarianz

Ein Spezialfall der Varianz einer diskreten Zufallsvariable ist die (unkorrigierte) empirische Varianz . Sie ist die Varianz einer Stichprobe

von Werten bei der jeder Wert mit der gleichen Wahrscheinlichkeit auftritt. Sie ist die Varianz der empirischen Verteilung. Man erhält den Spezialfall aus der mathematischen Definition wenn man als Wahrscheinlichkeitsfunktion für und als Erwartungswert den empirischen Mittelwert mit wählt.

Die unkorrigierte empirische Varianz ist dann

Die Bessel-Korrektur

liefert die korrigierte empirische Varianz

Beispiel:

Sei , dann ist und der empirische Mittelwert , was die unkorrigierte empirische Varianz und die korrigierte empirische Varianz gibt.

Interpretation als Funktional Die Varianz ist ein Funktional auf dem Raum der Zufallsvariablen mit endlichem Erwartungswert. Sie kann aber auch als nichtlineares Funktional auf dem Raum aller Wahrscheinlichkeitsverteilungen , die einen endlichen Erwartungswert besitzen, verstanden werden:

Für Wahrscheinlichkeitsverteilungen, deren Erwartungswert nicht endlich ist, ist die Varianz nicht definiert.

Notation Da die Varianz ein Funktional ist, wird sie wie der Erwartungswert (besonders in anglophoner Literatur) oft auch mit eckigen Klammern geschrieben. Sie wird mitunter als Die Verwendung des Varianzoperators hebt die Berechnungsoperationen hervor. Mit ihm lässt sich die Gültigkeit bestimmter Rechenoperationen besser ausdrücken. oder notiert. Besteht keine Verwechslungsgefahr, wird sie einfach als notiert. Da die Varianz vor allem in älterer Literatur auch als Dispersion beziehungsweise Streuung bezeichnet wurde,Otfried Beyer, Horst Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik. 1976, S. 53.Brockhaus: Brockhaus, Naturwissenschaften und Technik – Sonderausgabe. 1989, S. 188. begegnet man häufig der Notation .Lothar Papula: Mathematik für Ingenieure und Naturwissenschaftler. Band 3: Vektoranalysis, Wahrscheinlichkeitsrechnung, Mathematische Statistik, Fehler- und Ausgleichsrechnung. 1994, S. 338.

Die Notation als rührt daher, dass bei der in der Stochastik besonders wichtigen Normalverteilung der Parameter mit der Varianz übereinstimmt (siehe auch Abschnitt Varianzen spezieller Verteilungen). Des Weiteren wird in der Statistik und insbesondere in der Regressionsanalyse das Symbol verwendet, um die wahre unbekannte Varianz der Störgrößen zu kennzeichnen.

Einführung in die Problemstellung Als Ausgangspunkt für die Konstruktion der Varianz betrachtet man eine beliebige Größe, die vom Zufall abhängig ist und somit unterschiedliche Werte annehmen kann. Diese Größe, die im Folgenden mit bezeichnet wird, folgt einer bestimmten Verteilung. Der Erwartungswert dieser Größe wird mit

abgekürztBei einer symmetrischen Verteilung mit dem Symmetriezentrum gilt – falls der Erwartungswert existiert – . Ein Beispiel einer bezüglich symmetrischen Verteilung, für die der Erwartungswert nicht existiert, ist die Standard-Cauchy-Verteilung. und gibt an, welchen Wert die Zufallsvariable im Mittel annimmt. Er kann als Schwerpunkt der Verteilung interpretiert werden (siehe auch Abschnitt Interpretation) und gibt ihre Lage wieder. Zur hinreichenden Charakterisierung einer Verteilung bedarf es jedoch noch einer Größe, die als Kennzahl Auskunft über die Stärke der Streuung einer Verteilung um ihren Schwerpunkt gibt.Norbert Henze: Stochastik für Einsteiger. Eine Einführung in die faszinierende Welt des Zufalls. 2016, S. 160. Diese Größe sollte stets größer oder gleich Null sein, da sich negative Streuung nicht sinnvoll interpretieren lässt. Ein erster naheliegender Ansatz wäre, die mittlere absolute Abweichung der Zufallsvariablen von ihrem Erwartungswert heranzuziehen:Ludwig von Auer: Ökonometrie. Eine Einführung. Springer, ISBN 978-3-642-40209-8, 6. durchges. u. aktualisierte Aufl. 2013, S. 28.

Da die in der Definition der mittleren absoluten Abweichung verwendete Betragsfunktion nicht überall differenzierbar ist und ansonsten in der Statistik für gewöhnlich Quadratsummen benutzt werden,Volker Heun: Grundlegende Algorithmen. Einführung in den Entwurf und die Analyse effizienter Algorithmen. 2. Auflage. 2003, S. 108.Gerhard Hübner: Stochastik. Eine anwendungsorientierte Einführung für Informatiker, Ingenieure und Mathematiker. 3. Auflage. 2002, S. 103. ist es sinnvoll, statt mit der mittleren absoluten Abweichung mit der mittleren quadratischen Abweichung, also der Varianz, zu operieren.Weitere Vorteile des Quadrierens sind zum einen, dass kleine Abweichungen weniger stark gewichtet werden als große Abweichungen, und zum anderen, dass die erste Ableitung eine lineare Funktion ist, was bei Optimierungsüberlegungen von Vorteil ist.

Berechnung der Varianz Varianz bei diskreten Zufallsvariablen Eine Zufallsvariable mit einem endlichen oder abzählbar unendlichen Wertebereich Mit der Bezeichnung „Träger“ und dem Zeichen bezeichnet man die Menge aller möglichen Ausprägungen beziehungsweise Realisierungen einer Zufallsvariablen. wird diskret genannt. Ihre Varianz berechnet sich dann als gewichtete Summe der Abweichungsquadrate (vom Erwartungswert):Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/Heidelberg 2016, ISBN 978-3-662-50371-3, S. 231.

Hierbei ist die Wahrscheinlichkeit, dass den Wert annimmt. Es wird in obiger Summe also jede mögliche Ausprägung mit der Wahrscheinlichkeit ihres Auftretens gewichtet.Von Auer: Ökonometrie. Eine Einführung. 6. Auflage. Springer, 2013, ISBN 978-3-642-40209-8, S. 29. Die Varianz ist bei diskreten Zufallsvariablen also eine gewichtete Summe mit den Gewichten . Der Erwartungswert einer diskreten Zufallsvariablen stellt ebenfalls eine gewichtete Summe dar, die durch

gegeben ist. Die Summen erstrecken sich jeweils über alle Werte, die diese Zufallsvariable annehmen kann. Im Falle eines abzählbar unendlichen Wertebereichs ergibt sich eine unendliche Summe. In Worten berechnet sich die Varianz, im diskreten Fall, als Summe der Produkte der Wahrscheinlichkeiten der Realisierungen der Zufallsvariablen mit der jeweiligen quadrierten Abweichung.

Varianz bei stetigen Zufallsvariablen Eine Zufallsvariable wird als stetig bezeichnet, wenn ihr Wertebereich eine überabzählbare Menge ist. Falls die Zufallsvariable absolut stetig ist, dann existiert als Konsequenz des Satzes von Radon-Nikodým eine Wahrscheinlichkeitsdichtefunktion (kurz: Dichte) . Im Fall einer reellwertigen Zufallsvariablen lässt sich die Verteilungsfunktion , , wie folgt als Integral darstellen:

Für die Varianz einer reellwertigen Zufallsvariablen mit Dichte gilt nun

,

wobei ihr Erwartungswert gegeben ist durch .Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/Heidelberg 2016, ISBN 978-3-662-50371-3, S. 283.

Die Varianz berechnet sich bei Existenz einer Dichte als das Integral über das Produkt der quadrierten Abweichung und der Dichtefunktion der Verteilung. Es wird also über den Raum aller möglichen Ausprägungen (möglicher Wert eines statistischen Merkmals) integriert.

Rechenregeln und Eigenschaften Grundlegende Aussagen Die Varianz ist nicht-negativ, das heißt . Die Varianz kann aber auch den Wert annehmen, wie es bei der Lévy-Verteilung der Fall ist.