Multivariate Statistik und Datenanalyse: HLM

L1UVs klären Varianz in den einzelnen Messwerten auf (z.B. Unterschiede zwischen Messzeitpunkten)

L2UVs klären Varianz in den Kategorien/L2-Einheiten auf (z.B. Unterschiede zwischen Personen)

→ Variieren per Definition nur zwischen L2-Einheiten, einzelne Messungen haben hier innerhalb jeder L2-Einheit die selben Werte

Normale L2UVs klären Varianz in den personenspezifischen Intercepts auf (hier: Unterschiede im Ausmaß der positiven Affekte zwischen den Personen)

L2UVs mit CLI klären darüber hinaus noch Varianz in den personenspezifischen Steigungen/Slopes auf (hier: erklären Unterschiede im Einfluss von der Ungewöhnlichkeit eines Tages auf die positiven Affekte zwischen den Personen)

Ob eine L2UV nur Varianz in den Intercepts aufklärt oder auch einen CLI „mitbringt“ legen wir per Modellspezifikation ( + oder * ) fest

RSM mit L2UV

Zentrierung

Schwarz: Die personenspezifischen Geraden (für jede einzelne Person)

Blau: Die Schätzung für eine Person mit durchschnittlichem Neurotizismus (mitte), sowie für Personen mit über-/ unterdurchschnittlichem Neurotizismus

Die geschätzten Geraden variieren nur in ihrem Intercept, nicht in ihrer Steigung, da die L2UV in diesem Modell nur Unterschiede in den Intercepts erklärt

Hinweis L2UV:
Hohe Werte = Neurotizismus hoch  |  Niedrige Werte = Neurotizismus niedri

CLI-Modell

Auch die vorhergesagten Steigungen können jetzt in Abhängigkeit von der Ausprägung des Neurotizismus einer Person variieren.

1.

→ Residualvarianz auf mehreren Levels

→ Verschiedene Definitionsmöglichkeiten der Varianzaufklärung/-reduktion

2. Pseudo-R² (siehe Abbildung)

- Steigung

- geschätzte Varianz der level 2 Regressionsgewichte (random effect)

- geschätzte Korrelation zwischen gruppenspezifischen Achsenabschnitt und dem gruppenspezifischen Regressionsgewicht

Geschätzte Korrelation zwischen gruppenspezifischen Achsenabschnitt und dem gruppenspezifischen Regressionsgewicht. 

Je größer der gruppenspezifische Intercept, desto negativer (weniger positiv)// positiver (weniger negativ) ist die gruppenspezifische Steigung. 

1.)

Inner: UVs haben auf Eben 1 einen Effekt auf die AV

z.B. Die Schulunlust eines Schülers hängt davon ab wie leistungsstark er selber im Vergleich zu seiner eigenen Klasse ist.

Zwischen: UVs können auf Ebene 2 einen Effekt auf die AV haben.

z.B. Die Schulunlust eines Schülers in einer bestimmten Klasse hängt davon ab wie leistungsstark die Klasse im Vergleich zu den anderen Klassen ist.

2.) Kontexteffekt: Wenn der Innergruppeneffekt hinsichtlich seiner Richtung oder Stärke vom Zwischengruppeneffekt abweicht.

- Risiko falscher Schlüsse bei der Interpretation von Zusammenhangs- und Beeinflussungsstrukturen

- Risiko falscher Schlüsse bei der inferenzstatistischen Absicherung von Regressionsgewichten

Einen ökologischen Fehlschluss („ecological fallacy“) begeht man, wenn man einen Zusammenhang oder Effekt, der auf der Ebene von Level-2-Einheiten gefunden wurde, fälschlicherweise auf der Ebene von Level-1-Einheiten interpretiert.

Beispiel: Wenn man also fälschlicherweise vom negativen Zusammenhang zwischen Arbeitsbündnis und Symptomausprägung auf der Ebene von Therapeuten auf einen negativen Zusammenhang auf der Ebene von Patienten schließen würde. 

Anhand der Intraklassen-Korrelation („intraclass correlation“, ICC) kann der Anteil der Varianz zwischen Level-2-Einheiten an der Gesamtvarianz einer Variable bestimmt werden.

Die ICC variiert zwischen 0 und 1 und drückt aus, wie ähnlich sich zwei Werte sind, die aus der gleichen Level-2-Einheit stammen

1. Man kann die Variable, die für systematische Unterschiede in der AV zwischen den Level-2-Einheiten sorgt (z.B. therapeutische Kompetenz), mit in die Regressionsgleichung aufnehmen

Aber: Meistens gibt es nicht nur eine Ursache bzw. die relevanten Variablen sind nicht einfach messbar

2. Man kann die Zugehörigkeit zu einer Level-2-Einheit mittels Codiervariablen in der Regressionsgleichung berücksichtigen

Aber: Bei n Level-2-Einheiten werden n-1 Codiervariablen benötigt

3. Idealerweise werden hierarchische lineare Modelle bzw.„Mehrebenenmodelle“ verwendet

1. Voraussetzungen:

Die Residuen auf Ebene 1 sind unabhängig und identisch normalverteilt (mit einem Erwartungswert von 0 und einer Varianz, die dem Modellparameter folgt)

Die Residuen auf Ebene 2 sind unabhängig und identisch multivariat normalverteilt (mit Erwartungswerten gleich 0 und einer Varianz- Kovarianz-Matrix, die dem Modell folgt)

Regressionsdiagnostik

Ob die Voraussetzungen verletzt sind und/oder einflussreiche Datenpunkte vorliegen, kann mit Methoden der Regressionsdiagnostik überprüft werden (z.B. implementiert im R-Paket HLMdiag)

2. Verletzung der Voraussetzungen: 

- Die Schätzung der festen Parameter ist relativ robust gegenüber einer Verletzung der Voraussetzungen (z.B. bezüglich Normalverteilung)

- Die Schätzung der zufälligen Parameter, insbesondere auf Ebene 2, kann dagegen bei Verletzung der Voraussetzungen zu verzerrten Ergebnissen führen

→ eine gute Absicherung gegen inferenzstatistische Fehlschlüsse ist eine große Anzahl von Level-2 Einheiten (z.B. > 100)

In multiplen Regressionsanalysen kann die Nützlichkeit einer UV anhand der inkrementellen Varianzaufklärung ΔR2 bezüglich der AV quantifiziert werden

Dies ist bei Mehrebenenanalysen aus zwei Gründen nicht so einfach möglich

– Es gibt nicht nur eine Residualvarianz, sondern Residualvarianzen auf Ebene 1 und 2: Dadurch entstehen verschiedene Möglichkeiten, die Varianzreduktion (die durch die Hinzunahme der UV erreicht wird) zu definieren

– Die geschätzte Residualvarianz auf Ebene 2 (d.h. der Achsenabschnitte) kann (verursacht durch Stichprobenfehler) bei Hinzunahme einer UV größer werden (was zu einer scheinbar negativen inkrementellen Varianzaufklärung führen würde)

→ Trotz dieser Schwierigkeiten können sog. „Pseudo-R2“Werte bestimmt werden, die angeben, wie groß die relative Reduktion bestimmter Varianzen durch Hinzunahme von UVs ist 

→ Eine weitere Möglichkeit ist die Bestimmung des marginalen und konditionalen R2 zur Quantifizierung der Güte des Gesamtmodells (Nakagawa & Schielzeth, 2013)

– Das marginale R2 entspricht dem durch den festen Teil des Modells erklärten Anteil der Gesamtvarianz

– Das konditionale R2 entspricht dem durch den festen und zufälligen Teil erklärten Anteil der Gesamtvarianz

– Die beiden Koeffizienten lassen sich anhand der Funktion r.squaredGLMM aus dem R-Paket MuMIn bestimmen

Die ML-Methode ist ein iteratives (schrittweises) Verfahren zur Schätzung der Parameter:

1. Im ersten Schritt werden für die Parameter plausible Startwerte ausgewählt und es wird berechnet, wie wahrscheinlich es ist, bei Geltung dieser Werte diebeobachteten Daten zu erhalten („Likelihood-Funktion“)

2. Im Folgenden werden die Parameter schrittweise so verändert, dass die Likelihood-Funktion immer größer wird

3. Das Verfahren „konvergiert“, wenn die Verbesserung der Likelihood-Funktion einen kritischen Wert unterschreitet (d.h. die Parameter gefunden wurden, bei deren Geltung die Wahrscheinlichkeit der beobachteten Daten maximal ist)

Full-Maximum-Likelihood-Funktion (FML): hier wird der feste und der zufällige Teil des Modells simultan geschätzt

→ Beide ML-Funktionen führen bei hinreichend großen Stichproben zu ähnlichen Ergebnissen, können sich aber in den Schätzungen der zufälligen Komponenten unterscheiden

Restricted-Maximum-Likelihood-Funktion (RML): hier wird zuerst der zufällige Teil und dann der feste Teil des Modells geschätzt

→ Die RML-Funktion führt zu weniger verzerrten Schätzungen, bietet aber keine Möglichkeit Modelle inferenzstatistisch zu vergleichen, die sich hinsichtlich fester Effekte unterscheiden

In lme4 ist die RML-Methode standardmäßig voreingestellt; wenn man die FML-Methoden verwenden möchte, muss man das Argument REML = FALSE setzen (wie im Beispiel)

z.B. Lässt sich die Variation in den personenspezifischen Regressionsgewichten, d.h. im Effekt der positiven Ereignisse eines Tages (X) auf die internalisierenden Symptome (Y), anhand der Ausprägung der emotionalen Labilität (Z) erklären?

→ emotionale Labilität: Level-2-Variable

→ positive Ereignisse eines Tages: Level-1-Variable

1. Zentrierung am Gesamtmittelwert („grand mean centering“)
2. Zentrierung am personenspezifischen Mittelwert(„group/person mean centering“)

→ Empfehlenswert ist in den meisten Fällen die Zentrierung am Gesamtmittelwert

Parameter können inferenzstatistisch getestet werden, indem das vorliegende Modell mit einem restriktiveren Modell ohne den betreffenden Parameter verglichen wird

- Der hierzu verwendete „Devianztest“ entspricht exakt dem Likelihood-Ratio-Test*

- Es wird geprüft, ob die Hinzunahme des Parameters die Devianz signifikant verringert (d.h. die Likelihood-Funktion signifikant vergrößert)

Alternativ können die beiden Modelle auch deskriptiv anhand informationstheoretischer Maße* (z.B. AIC oder BIC) verglichen. werden

Dies ist bei Mehrebenenanalysen aus zwei Gründen nicht so einfach möglich:

– Es gibt nicht nur eine Residualvarianz, sondern Residualvarianzen auf Ebene 1 und 2: Dadurch entstehen verschiedene Möglichkeiten, die Varianzreduktion (die durch die Hinzunahme der UV erreicht wird) zu definieren

– Die geschätzte Residualvarianz auf Ebene 2 (d.h. der Achsenabschnitte) kann (verursacht durch Stichprobenfehler) bei Hinzunahme einer UV größer werden (was zu einer scheinbar negativen inkrementellen Varianzaufklärung führen würde)

Innerhalb der Level-2-Einheiten (z.B. Klassen) kann sich der Zusammenhang zwischen zwei Variablen ganz anders (z.B. mit anderem Vorzeichen) darstellen als über alle Level-2- Einheiten hinweg (d.h. ohne Berücksichtigung der Schachtelung)

- Das Random-Intercept-Modell beinhaltet UVs auf Ebene 1

- Das Modell erlaubt auf Ebene 2 Variation in den Achsenabschnitten (d.h. im Beispiel: Unterschiede im Ausmaß der internalisierenden Symptome zwischen Personen), aber nicht in den Regressionsgewichten

Random-Slope-Modell

Im Unterschied zum Random-Intercept-Modell erlaubt das Random-Slope-Modell zusätzlich

– Variation in den Regressionsgewichten
– Kovariation zwischen den Achsenabschnitten und den Regressionsgewichten

Random-Intercept-Modell

- Theoriegeleitet (man weiß, wie man die Daten erhoben hat)

- ICC (intraclass correlation) berechnen

- Kein klarer Cut-Off-Wert (ca. 5 %)

- einfache lineare Modelle nur bei ICC = 0 und sehr großen Stichproben (ab N=1000)

→ auf theoretischer Basis bei entsprechender Datenerhebung eigentlich immer HLM