Ein statistischer Test dient in der Testtheorie, einem Teilgebiet der mathematischen Statistik, dazu, anhand vorliegender Beobachtungen eine begründete Entscheidung über die Gültigkeit oder Ungültigkeit einer Hypothese zu treffen. Aus diesem Grund spricht man auch von einem Hypothesentest. Formal ist ein Test also eine mathematische Funktion, die einem Beobachtungsergebnis eine Entscheidung zuordnet. Da die vorhandenen Daten Realisierungen von Zufallsvariablen sind, lässt sich in den meisten Fällen nicht mit Sicherheit sagen, ob eine Hypothese wahr ist oder nicht. Man versucht daher, die Wahrscheinlichkeiten für Fehlentscheidungen zu kontrollieren. Meistens wird ein Hypothesentest in der Form eines Signifikanztests durchgeführt, der ein Test zu einem vorgegebenen Signifikanzniveau ist.
Interpretation eines statistischen Tests Ein statistisches Testverfahren lässt sich im Prinzip mit einem Gerichtsverfahren vergleichen. Das Verfahren hat (meistens) den Zweck, festzustellen, ob es ausreichend Beweise gibt, den Angeklagten zu verurteilen. Es wird dabei immer von der Unschuld eines Verdächtigen ausgegangen, und solange große Zweifel an den Belegen für ein tatsächliches Vergehen bestehen, wird ein Angeklagter freigesprochen. Nur wenn die Indizien für die Schuld eines Angeklagten deutlich überwiegen, kommt es zu einer Verurteilung.
Es gibt demnach zu Beginn des Verfahrens die beiden Hypothesen „der Verdächtige ist unschuldig“ und „der Verdächtige ist schuldig“. Erstere nennt man Nullhypothese, von ihr wird vorläufig ausgegangen. Die zweite nennt man Gegenhypothese (oder Alternativhypothese). Sie ist diejenige, die zu „beweisen“ versucht wird.
Um einen Unschuldigen nicht zu leicht zu verurteilen, wird die Hypothese der Unschuld erst dann verworfen, wenn ein Irrtum sehr unwahrscheinlich ist. Man spricht auch davon, die Wahrscheinlichkeit für einen Fehler 1. Art (also das Verurteilen eines Unschuldigen) zu kontrollieren. Naturgemäß wird durch dieses unsymmetrische Vorgehen die Wahrscheinlichkeit für einen Fehler 2. Art (also das Freisprechen eines Schuldigen) „groß“. Aufgrund der stochastischen Struktur des Testproblems lassen sich wie in einem Gerichtsverfahren Fehlentscheidungen grundsätzlich nicht vermeiden. Man versucht in der Statistik allerdings optimale Tests zu konstruieren, die die Fehlerwahrscheinlichkeiten minimieren.
Beispiel Test auf hellseherische Fähigkeiten Es soll versucht werden, einen Test auf hellseherische Fähigkeiten zu entwickeln.
Einer Testperson wird 25-mal die Rückseite einer rein zufällig gewählten Spielkarte gezeigt und sie wird jeweils danach gefragt, zu welcher der vier Farben (Kreuz, Pik, Herz, Karo) die Karte gehört. Die Anzahl der Treffer nennen wir .
Da die hellseherischen Fähigkeiten der Person getestet werden sollen, gehen wir vorläufig von der Nullhypothese aus, die Testperson sei nicht hellsehend. Die Alternativhypothese lautet entsprechend: Die Testperson ist hellseherisch begabt.
Was bedeutet das für unseren Test? Wenn die Nullhypothese richtig ist, wird die Testperson nur versuchen können, die jeweilige Farbe zu erraten. Für jede Karte gibt es bei vier Farben eine Wahrscheinlichkeit von , die richtige Farbe zu erraten. Wenn die Alternativhypothese richtig ist, hat die Person für jede Karte eine größere Wahrscheinlichkeit als 1/4. Wir nennen die Wahrscheinlichkeit einer richtigen Vorhersage .
Die Hypothesen lauten dann:Wir betrachten für den Parameterbereich [1/4,1], um zu erreichen, dass Nullhypothese und Alternativhypothese den gesamten Parameterbereich überdecken. Bei absichtlichem Nennen einer falschen Farbe könnte man zwar auch auf Hellseh-Fähigkeiten schließen, aber wir nehmen an, dass die Testperson eine möglichst hohe Trefferzahl erzielen will.
und .
Wenn die Testperson alle 25 Karten richtig benennt, werden wir sie als Hellseher betrachten und die Alternativhypothese annehmen. Und mit 24 oder 23 Treffern auch. Andererseits gibt es bei nur 5 oder 6 Treffern keinen Grund dazu. Aber was wäre mit 12 Treffern? Was wäre mit 17 Treffern? Wo liegt die kritische Anzahl an Treffern , von der an wir nicht mehr glauben können, es seien reine Zufallstreffer?
Das kommt darauf an, wie kritisch man genau sein will, also wie oft man eine Fehlentscheidung erster Art zulässt. Mit ist die Wahrscheinlichkeit einer solchen Fehlentscheidung, also die Wahrscheinlichkeit, dass eine nicht hellseherische Testperson nur rein zufällig 25-mal richtig geraten hat, extrem klein:
,
Hier stellt A den Ablehnbereich dar. Wir nehmen an, wenn für die Teststatistik des Tests gilt, dass und lehnen ab, wenn .
Weniger kritisch, mit , erhalten wir mit der Binomialverteilung, , eine wesentlich größere Wahrscheinlichkeit:
Vor dem Test wird eine Wahrscheinlichkeit für den Fehler erster Art festgesetzt, das Signifikanzniveau . Typisch sind Werte zwischen 1 % und 5 %. Abhängig davon lässt sich (hier für den Fall ) dann so bestimmen, dass
gilt. Unter allen Zahlen , die diese Eigenschaft erfüllen, wird man zuletzt als die kleinste Zahl wählen, die diese Eigenschaft erfüllt, um die Wahrscheinlichkeit für den Fehler zweiter Art klein zu halten. In diesem konkreten Beispiel folgt: . Ein Test dieser Art heißt Binomialtest, da die Anzahl der Treffer unter der Nullhypothese binomialverteilt ist.
Mögliche Fehlentscheidungen Auch wenn es wünschenswert ist, dass der Test aufgrund der vorliegenden Daten „richtig“ entscheidet, besteht die Möglichkeit von Fehlentscheidungen. Im mathematischen Modell bedeutet dies, dass man bei richtiger Nullhypothese und Entscheidung für die Alternative einen Fehler 1. Art (α-Fehler) begangen hat. Falls man die Nullhypothese bestätigt sieht, obwohl sie nicht stimmt, begeht man einen Fehler 2. Art (β-Fehler).
In der statistischen Praxis macht man aus diesem vordergründig symmetrischen Problem ein asymmetrisches: Man legt also ein Signifikanzniveau α fest, das eine obere Schranke für die Wahrscheinlichkeit eines Fehlers erster Art liefert. Tests mit dieser Eigenschaft heißen Test zum Niveau . Im Anschluss daran versucht man, einen optimalen Test zum vorgegebenen Niveau dadurch zu erhalten, dass man unter allen Tests zum Niveau α einen sucht, der die geringste Wahrscheinlichkeit für einen Fehler 2. Art aufweist.
Die formale Vorgehensweise Generell geht man bei der Anwendung eines Tests in folgenden Schritten vor: Formulierung einer Nullhypothese und ihrer Alternativhypothese Wahl des geeigneten Tests (Testgröße oder Teststatistik ) Bestimmung des kritischen Bereiches zum Signifikanzniveau , das vor Realisierung der Stichprobe feststehen muss. Der kritische Bereich wird aus den unter der Nullhypothese nur mit geringer Wahrscheinlichkeit auftretenden Werten der Teststatistik gebildet. Berechnung des Werts der Beobachtung der Testgröße aus der Stichprobe (je nach Testverfahren etwa den -Wert oder oder oder …). Treffen der Testentscheidung: Liegt nicht in , so wird beibehalten. Liegt in , so lehnt man zugunsten von ab.
Formale Definition eines statistischen Tests
Sei eine Zufallsvariable, die von einem parametrisierten Wahrscheinlichkeitsraum in einen Messraum abbildet. Sei zusätzlich die parametrisierte Verteilungsannahme, also eine Familie von Wahrscheinlichkeitsmaßen auf , wobei eine Bijektion ist. Dabei ist die Verteilung von . Hierbei sei der Parameterraum, der in der Praxis meist eine Teilmenge des mit ist. Zwei disjunkteGeorge G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T. C. Lee. Introduction to the Theory and Practice of Econometrics. 2. Auflage. John Wiley & Sons, New York / Chichester / Brisbane / Toronto / Singapore 1988, ISBN 0-471-62414-4, S. 93 Teilmengen und von definieren das Testproblem:
, wobei die Nullhypothese und die Gegenhypothese (oder auch Alternativhypothese) bezeichnet. Dabei bilden häufig, aber nicht notwendig, die beiden Mengen und eine Zerlegung von .
Nichtrandomisierte Tests Entscheidungsregel, Fehler 1. und 2. Art Eine messbare Funktion heißt (nichtrandomisierter)Test. Die Funktion heißt auch Testfunktion und hat folgende inhaltliche Interpretation als Entscheidungsregel: wird abgelehnt (oder verworfen) wird nicht abgelehnt (oder beibehalten) Das Testergebnis ' wird abgelehnt' wird auch verbal umschrieben als ' ist mit der Beobachtung nicht verträglich', ' ist signifikant' oder ' wird durch die Beobachtung statistisch nachgewiesen'.
Es sind zwei Arten von Fehlentscheidungen möglich: Der Fehler 1. Art wird begangen, wenn fälschlich abgelehnt wird, der Fehler 2. Art wird begangen, wenn nicht abgelehnt wird, obwohl falsch ist.
Ablehnbereich (Ablehnbereich und Annahmebereich) Die Menge derjenigen Beobachtungsergebnisse , die zu einer Ablehnung von führen, heißt kritischer Bereich (auch Ablehnungsbereich oder Ablehnbereich) des Tests. Es gilt die Äquivalenz für die Aussagen und die Gleichheit der Ereignisse. Die Komplementmenge heißt Nichtablehnungsbereich oder Annahmebereich.
Gütefunktion, Fehlerwahrscheinlichkeiten 1. und 2. Art Die Funktion mit
ordnet jedem Parameterwert die Wahrscheinlichkeit zu, mit der abgelehnt wird, und heißt Gütefunktion des Tests.
Die Gütefunktion eines Tests enthält alle Informationen darüber, mit welchen Wahrscheinlichkeiten bei der Testentscheidung die Fehler 1. oder 2. Art begangen werden. Die Wahrscheinlichkeiten für sind die Fehlerwahrscheinlichkeiten 1. Art, also die Wahrscheinlichkeiten, dass bei der Testenscheidung ein Fehler 1. Art begangen wird. Die Wahrscheinlichkeiten für sind die Fehlerwahrscheinlichkeiten 2. Art, also die Wahrscheinlichkeiten, dass bei der Testenscheidung ein Fehler 2. Art begangen wird.
Signifikanzniveau, Niveau-α-Bedingung, Niveau-α-Test Sei nun ein Signifikanz-Niveau vorgegeben, das auch zugelassene oder erlaubte Irrtumswahrscheinlichkeit heißt. Dann heißt ein Test ein Signifikanz-Test zum Niveau für das Testproblem gegen (auch Niveau--Test), wenn
gilt. Diese Bedingung heißt Niveau--Bedingung und kann auch in der Form
geschrieben werden. Durch die Niveau--Bedingung werden die Fehlerwahrscheinlichkeiten 1. Art durch nach oben beschränkt.
Umfang eines Tests Die linke Seite der Ungleichung in der Niveau--Bedingung heißt Umfang des Tests oder tatsächliches Niveau des Testes.
Umfang-α-Test Ein Niveau--Test heißt Test mit Umfang (oder kurz Umfang--Test), wenn
gilt. Man sagt dann auch: der Test schöpft das vorgegebene Signifikanzniveau aus. Wenn der Umfang des Tests kleiner als das vorgegebene Signifikanzniveau ist, heißt der Test konservativ.
In der Regel sucht man einen Test , der bei eingehaltener Niveau--Bedingung die Fehlerwahrscheinlichkeiten 2. Art
minimiert.
Unverfälschtheit Als Minimalanforderung an einen Test gilt die Unverfälschheit des Tests, die besagt, dass die Ablehnwahrscheinlichkeiten , wenn falsch ist ('unter '), mindestens so groß sein müssen, wie diejenigen, wenn richtig ist ('unter '), formal .
Teststatistik Meistens ist eine -dimensionale Zufallsvariable mit Werten in , wobei den Stichprobenumfang bezeichnet. Die formale Definition und die praktische Durchführung eines Tests basiert häufig auf einer eindimensionalen reellwertigen Teststatistik (oder Prüfgröße) für die ein Ablehnbereich als Teilmenge von angegeben wird.
Randomisierte Tests Die Definition eines randomisierten Tests verläuft ähnlich wie beim nichtrandomisierten Test. Jedoch ist ein randomisierter Test eine messbare Funktion ,
der folgende Interpretation als Entscheidungsregel zugrunde liegt: die Nullhypothese wird abgelehnt, falls ; wird nicht abgelehnt, falls ; wird mit der Wahrscheinlichkeit abgelehnt, falls . Der Stichprobenraum wird durch eine randomisierten Test in drei disjunkte Teilbereiche zerlegt, den strikten Ablehnungsbereich
den strikten Annahmebereich
und den Randomisierungsbereich
Wenn eine Beobachtung im Randomisierungsbereich liegt, wird mit der Wahrscheinlichkeit abgelehnt und mit der Wahrscheinlichkeit nicht abgelehnt, wozu ein weiteres Zufallsexperiment erforderlich ist.