Korrelationskoeffizient nach Bravais-Pearson

Der Korrelationskoeffizient nach Bravais-Pearson, auch Produkt-Moment-Korrelation,Der Name Produkt-Moment-Korrelation für den Korrelationskoeffizienten für Zufallsvariablen rührt daher, dass die auf das Produkt der Varianzen – die im Sinne der Stochastik Momente darstellen – von und bezogene Kovarianz ist. ist ein Maß für den Grad des linearen Zusammenhangs zwischen zwei mindestens intervallskalierten Merkmalen, das nicht von den Maßeinheiten der Messung abhängt und somit dimensionslos ist. Er kann Werte zwischen und annehmen. Bei einem Wert von (bzw. ) besteht ein vollständig positiver (bzw. negativer) linearer Zusammenhang zwischen den betrachteten Merkmalen. Wenn der Korrelationskoeffizient den Wert 0 aufweist, hängen die beiden Merkmale überhaupt nicht linear voneinander ab. Allerdings können diese ungeachtet dessen in nichtlinearer Weise voneinander abhängen. Damit ist der Korrelationskoeffizient kein geeignetes Maß für die (reine) stochastische Abhängigkeit von Merkmalen. Das Quadrat des Korrelationskoeffizienten stellt das Bestimmtheitsmaß dar. Der Korrelationskoeffizient wurde erstmals vom britischen Naturforscher Sir Francis Galton (1822–1911) in den 1870er Jahren verwendet. Karl Pearson lieferte schließlich eine formal-mathematische Begründung für den Korrelationskoeffizienten.Franka Miriam Brückler: Geschichte der Mathematik kompakt. Das Wichtigste aus Analysis, Wahrscheinlichkeitstheorie, angewandter Mathematik, Topologie und Mengenlehre. Springer-Verlag, 2017, ISBN 978-3-662-55573-6, S. 116. Da er von Auguste Bravais und Pearson populär gemacht wurde, wird der Korrelationskoeffizient auch Pearson-Korrelation oder Bravais-Pearson-Korrelation genannt.

Je nachdem, ob der lineare Zusammenhang zwischen zeitgleichen Messwerten zweier verschiedener Merkmale oder derjenige zwischen zeitlich verschiedenen Messwerten eines einzigen Merkmals betrachtet wird, spricht man entweder von der Kreuzkorrelation oder von der Kreuzautokorrelation (siehe auch Zeitreihenanalyse).

Korrelationskoeffizienten wurden mehrfach – so schon von Ferdinand Tönnies – entwickelt, heute wird allgemein jener von Pearson verwendet.

Definitionen Korrelationskoeffizient für Zufallsvariablen Konstruktion Als Ausgangspunkt für die Konstruktion des Korrelationskoeffizienten für zwei Zufallsvariablen und betrachtet man die beiden standardisierten (auf die Standardabweichung bezogenen) Zufallsvariablen und . Die Kovarianz dieser standardisierten Zufallsvariablen ergibt sich aus dem Satz für lineare Transformationen von Kovarianzen zu .

Der Korrelationskoeffizient lässt sich als die Kovarianz der standardisierten Zufallsvariablen und auffassen.L. Fahrmeir, R. Künstler u. a.: Statistik. Der Weg zur Datenanalyse. 8. Auflage. Springer 2016, S. 326.

Definition Für zwei quadratisch integrierbare Zufallsvariablen und mit jeweils positiver Standardabweichung bzw. und Kovarianz ist der Korrelationskoeffizient (Pearsonscher Maßkorrelationskoeffizient) definiert durch: .

Dieser Korrelationskoeffizient wird auch Korrelationskoeffizient der Grundgesamtheit genannt. Durch die Definitionen der stochastischen Varianz und Kovarianz lässt sich der Korrelationskoeffizient für Zufallsvariablen auch wie folgt darstellen:Bayer, Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik, S. 86.

wobei den Erwartungswert darstellt.

Ferner heißen unkorreliert, falls gilt. Für positive und ist das genau dann der Fall, wenn ist. Sind unabhängig, so sind sie auch unkorreliert, die Umkehrung gilt im Allgemeinen nicht.

Schätzung Im Rahmen der induktiven Statistik ist man an einer erwartungstreuen Schätzung des Korrelationskoeffizienten der Grundgesamtheit interessiert. Daher werden in die Formel des Korrelationskoeffizienten der Grundgesamtheit erwartungstreue Schätzer der Varianzen und der Kovarianz eingesetzt. Dies führt zum Stichprobenkorrelationskoeffizienten:

Empirischer Korrelationskoeffizient Sei eine zweidimensionale Stichprobe zweier kardinalskalierter Merkmale mit den empirischen Mitteln und der Teilstichproben und . Weiterhin gelte für die empirischen Varianzen und der Teilstichproben . Dann ist der empirische Korrelationskoeffizient – analog zum Korrelationskoeffizienten für Zufallsvariablen, nur dass man statt der theoretischen Momente nun die empirische Kovarianz und die empirischen Varianzen verwendet – definiert durch:Torsten Becker u. a.: Stochastische Risikomodellierung und statistische Methoden. Springer Spektrum, 2016. S. 79.

mini|Verschiedene Werte des Korrelationskoeffizienten Hierbei ist die Summe der Abweichungsquadrate und die Summe der Abweichungsprodukte.

Mithilfe der empirischen Kovarianz und den empirischen Standardabweichungen und

der Teilstichproben und ergibt sich die folgende Darstellung:

Sind diese Messreihenwerte z-transformiert, das heißt, , wobei die erwartungstreue Schätzung der Varianz bezeichnet, gilt auch:

Da man in der deskriptiven Statistik nur den Zusammenhang zwischen zwei Variablen als normierte mittlere gemeinsame Streuung in der Stichprobe beschreiben will, wird die Korrelation auch berechnet als .

Da sich die Faktoren bzw. aus den Formeln herauskürzen, ergibt sich in beiden Fällen der gleiche Wert des Koeffizienten.

Eine „Vereinfachung“ der obigen Formel zur leichteren Berechnung einer Korrelation lautet wie folgt:

Diese Transformation der Formel ist aber numerisch instabil und sollte daher nicht mit Gleitkommazahlen verwendet werden, wenn die Mittelwerte nicht nahe null sind.

Beispiel mini|Streudiagramm mit Mittelwerten und dem Wert des Korrelationskoeffizienten

Für die elf Beobachtungspaare sind die Werte in der unten stehenden Tabelle in der zweiten und dritten Spalte gegeben. Die Mittelwerte ergeben sich zu und und damit können die vierte und fünfte Spalte der Tabelle berechnet werden. Die sechste Spalte enthält das Produkt der vierten mit der fünften Spalte und damit ergibt sich . Die beiden letzten Spalten enthalten jeweils die Quadrate der vierten und fünften Spalte und es ergibt sich und .

Damit ergibt sich für die Korrelation .

1 10,00 8,04 1,00 0,54 0,54 1,00 0,29 2 8,00 6,95 −1,00 −0,55 0,55 1,00 0,30 3 13,00 7,58 4,00 0,08 0,32 16,00 0,01 4 9,00 8,81 0,00 1,31 0,00 0,00 1,71 5 11,00 8,33 2,00 0,83 1,66 4,00 0,69 6 14,00 9,96 5,00 2,46 12,30 25,00 6,05 7 6,00 7,24 −3,00 −0,26 0,78 9,00 0,07 8 4,00 4,26 −5,00 −3,24 16,20 25,00 10,50 9 12,00 10,84 3,00 3,34 10,02 9,00 11,15 10 7,00 4,82 −2,00 −2,68 5,36 4,00 7,19 11 5,00 5,68 −4,00 −1,82 7,28 16,00 3,32 99,00 82,51 55,01 110,00 41,27 Alle Werte in der Tabelle sind auf zwei Stellen nach dem Komma gerundet!

Eigenschaften Mit der Definition des Korrelationskoeffizienten gilt unmittelbar bzw.

Dabei sind und reelle Zahlen (mit wegen der definitorisch vorausgesetzten Positivität der Varianz von ) und ist die Signumfunktion.Für alle und gilt:

Aus der Cauchy-Schwarzschen Ungleichung folgt .

Man erkennt: fast sicher genau dann, wenn

Das lässt sich zum Beispiel durch Lösen der Gleichung einsehen. In dem Fall ist und .

Sind die Zufallsgrößen und stochastisch voneinander unabhängig, dann gilt:

Der Umkehrschluss ist allerdings nicht zulässig, denn es können Abhängigkeitsstrukturen vorliegen, die der Korrelationskoeffizient nicht erfasst. Für die multivariate Normalverteilung gilt jedoch: Die Zufallsvariablen und sind genau dann stochastisch unabhängig, wenn sie unkorreliert sind. Wichtig ist hierbei die Voraussetzung, dass und gemeinsam normalverteilt sind. Es reicht nicht aus, dass sowohl als auch normalverteilt sind.

Voraussetzungen für die Pearson-Korrelation Der Korrelationskoeffizient nach Pearson erlaubt Aussagen über statistische Zusammenhänge unter folgenden Bedingungen:

Skalierung Der Pearsonsche Korrelationskoeffizient liefert korrekte Ergebnisse bei intervallskalierten und bei dichotomen Daten. Für niedrigere Skalierungen existieren andere Korrelationskonzepte (z. B. Rangkorrelationskoeffizienten).

Normalverteilung Für die Durchführung von standardisierten Signifikanztests über den Korrelationskoeffizienten in der Grundgesamtheit müssen beide Variablen annähernd normalverteilt sein. Bei zu starken Abweichungen von der Normalverteilung muss auf den Rangkorrelationskoeffizienten zurückgegriffen werden. (Alternativ kann man auch, falls die Verteilung bekannt ist, angepasste (nichtstandardisierte) Signifikanztests verwenden.)

Linearitätsbedingung Zwischen den Variablen und wird ein linearer Zusammenhang vorausgesetzt. Diese Bedingung wird in der Praxis häufig ignoriert; daraus erklären sich mitunter enttäuschend niedrige Korrelationen, obwohl der Zusammenhang zwischen und bisweilen trotzdem hoch ist. Ein einfaches Beispiel für einen hohen Zusammenhang trotz eines niedrigen Korrelationskoeffizienten ist die Fibonacci-Folge. Alle Zahlen der Fibonacci-Folge sind durch ihre Position in der Reihe durch eine mathematische Formel exakt determiniert (siehe die Formel von Binet). Der Zusammenhang zwischen der Positionsnummer einer Fibonacci-Zahl und der Größe der Zahl ist vollkommen determiniert. Dennoch beträgt der Korrelationskoeffizient zwischen den Ordnungsnummern der ersten 360 Fibonacci-Zahlen und den betreffenden Zahlen nur 0,20; das bedeutet, dass in erster Näherung nicht viel mehr als der Varianz durch den Korrelationskoeffizienten erklärt werden und 96 % der Varianz „unerklärt“ bleiben. Der Grund ist die Vernachlässigung der Linearitätsbedingung, denn die Fibonacci-Zahlen wachsen progressiv an: In solchen Fällen ist der Korrelationskoeffizient nicht korrekt interpretierbar.

Es wurden viele Alternativen entwickelt, die ohne die Annahme der Linearität auskommen (siehe und die dort zitierten Referenzen für einen Überblick). Sie alle teilen die wichtige Eigenschaft, dass ein Wert von null Unabhängigkeit impliziert. Dies veranlasste einige Autoren, deren routinemäßige Verwendung zu empfehlen, insbesondere der Distanzkorrelation. Eine weitere prominente Alternative ist die Transinformation. Ein wichtiger Nachteil der Alternativen ist, dass sie, wenn sie verwendet werden, um zu testen, ob zwei Variablen miteinander assoziiert sind, im Vergleich zur Pearson-Korrelation tendenziell eine geringere Teststärke haben, wenn die Daten einer multivariaten Normalverteilung folgen. Dies ist eine Implikation des "No free lunch" Theorems. Um alle Arten von Beziehungen zu erkennen, müssen diese Maße an anderen Beziehungen an Teststärke einbüßen, insbesondere im wichtigen Sonderfall einer linearen Beziehung mit gaußschen Marginalverteilungen, für die die Pearson-Korrelation optimal ist. Ein weiteres Problem betrifft die Interpretation. Während die Pearson-Korrelation für alle Werte interpretierbar ist, können die alternativen Maße in der Regel nur an den Extremen sinnvoll interpretiert werden.

Signifikanzbedingung Ein Korrelationskoeffizient > 0 bei positiver Korrelation bzw. < 0 bei negativer Korrelation zwischen und berechtigt nicht a priori zur Aussage, es bestehe ein statistischer Zusammenhang zwischen und . Eine solche Aussage ist nur gültig, wenn der ermittelte Korrelationskoeffizient signifikant ist. Der Begriff „signifikant“ bedeutet hier „signifikant von Null verschieden“. Je höher die Anzahl der Wertepaare und das Signifikanzniveau sind, desto niedriger darf der Absolutbetrag eines Korrelationskoeffizienten sein, um zur Aussage zu berechtigen, zwischen und gebe es einen linearen Zusammenhang. Ein t-Test zeigt, ob die Abweichung des ermittelten Korrelationskoeffizienten von Null auch signifikant ist.

Bildliche Darstellung und Interpretation