Statistik VL Klausurvorbereitung

Ausreißer sind Werte die sich stark von restlichen Werten unterscheiden und somit zu Verzerrungen führen können.

Identifikation von Ausreißern auf der UV: Mahalanobis-Distanz, Zentrierte Hebelwerte 

Identifikation von Ausreißern auf der AV: Verteilung der Resiudn betrachten, Absolute werte >3 sollten inspiziert werden, Bonferroni-Korrektur

Einflussreiche Datenpunkte sind Wertekombinationen einer Person, deren Entfernung aus dem Datensatz die Regressionsparameter stark verändert.

Identifikation: Änderung der Regressionskoeffizienten (DfBETA, DfBETAS), Anderung der vorhergesagten Werte (DfIT, DfITS), Cooks Distanz

Multikollinearität = Hohe multiple Korrelation einer UV mit anderen UV‘s

Prüfung: Toleranzfaktor (TOL <.10 problematisch), Varianzinflations-Faktor (VIF >10 problematisch) 

Lösung: Zentrierung, Eliminierung von UVs, Aggregation, Faktorenanalytische Reduktion

= iteratives (schrittweises) Verfahren zur Schätzung der Parameter

1. Auswahl der Parameter für plausible Startwerte, Berechnung der Wahrscheinlichkeit, bei Geltung dieser Werte die beobachteten Daten zu erhalten ("Likelihood-Funktion")
2. Parameter schrittweise verändern, dass Likelihood-Funktion immer größer wird 
3. Das Verfahren "konvergiert" (stimmt überein), wenn die Verbesserung einen kritischen Wert unterschreitet (d.h. die Parameter gefunden wurden, bei deren Geltung die Wahrscheinlichkeit der beobachteten Daten maximal ist) 

2 Ansätze:

1. Full-Maximum-Likelihood-FUnktion (FML, simultane Schätzung des festen und zufälligen Teils) &
2. Restricted-Maximum-Funktion (RML, zuerst Schätzung des zufälligen Teils, dann des festen Teils) 

– Es gibt nicht nur eine Residualvarianz, sondern Residualvarianzen auf Ebene 1 und 2: Dadurch entstehen verschiedene Möglichkeiten, die Varianzreduktion (die durch die Hinzunahme der UV erreicht wird) zu definieren

– Die geschätzte Residualvarianz auf Ebene 2 (d.h. der Achsenabschnitte) kann (verursacht durch Stichprobenfehler) bei Hinzunahme einer UV größer werden (was zu einer scheinbar negativen inkrementellen Varianzaufklärung führen würde)

Alternativen

• Bestimmung von "Pseudo-R2" Werten (geben an, wie groß die relative Reduktion bestimmter Varianzen durch HInzunahme von UVs ist)
• Bestimmung des marginalen & konditionalen R2 (zur Quantifizierung der Güte des Gesamtmodells) 

• Würde man eine lineare Funktion verwenden, ergäben sich bei einer metrischen UV mit unbeschränktem Wertebereich theoretisch unmögliche Werte (d.h. bedingte Wahrscheinlichkeiten < 0 oder > 1)
• Die Residuen von dichotomen Variablen können nicht normalverteilt sein (da es nur zwei Ausprägungen gibt)
• Die bedingten Varianzen der Residuen hängen bei dichotomen AVs von der Ausprägung der UV ab (d.h. die Annahme der Homoskedastizität ist verletzt)

Die Parameter (d.h. die Regressionskoeffizenten) sowie ihre Standardfehler werden mit der Maximum- Likelihood-Methode geschätzt

Einzelne Parameter können mit dem z-Test, Wald-Test oder Likelihood-Ratio-Test auf Signifikanz geprüft werden

Mehrere oder alle Parameter können mit dem multivariaten Wald-Test oder dem Likelihood-Ratio- Test auf Signifikanz geprüft werden

Aus der vorliegenden Stichprobe („sample“) werden erneut Stichproben gezogen.

Ziel ist es, die Verteilung der Prüfgröße oder der Stichprobenkennwerte empirisch zu bestimmen.

Zwei Ansätze werden unterschieden:

– Bootstrapping
– Rerandomisierung

Bei gleich vielen Fällen in den Teilpopulationen ist der t-Test robust gegenüber Verletzung dieser Annahme.

-> Häufigkeitsverteilung für eine Variable: table(dat$Variable)

Die Stichprobenkennwerteverteilung der Mittelwerte nähert sich mit zunehmender Stichprobengröße der Normalverteilung an, unabhängig davon, wie das Merkmal in der Population verteilt ist.