Multivariate Verfahren

metrisch, normalverteilt, unabhängig, gleiche Fehlervarianzen (Varianzhomogenität) und Spalten der Datenmatrix sind linear unabhängig

Wenn sich X'X invertieren lässt

Wenn X und Y vor den Berechnungen z-standardisiert werden

Wenn Prädiktoren stark mit Linearkombinationen der anderen Prädiktoren oder mit anderen Prädiktoren korrelieren

Schätzung der Regressionskoeffizienten numerisch instabil

Interpretation schwer

Regressionsgewichte fälschlicherweise signifikant

Es wird suggeriert, dass X2 einen Einfluss auf Y hat, obwohl X2 und Y nicht korrelieren, sondern X1 und X2 korrelieren (Bergsteiger)

Es wird suggeriert, dass X1 keinen Einfluss auf Y hat, obwohl sie korrelieren!

Nichtlineare Prädiktorterme sind erlaubt! Machen aber nur bei metrischen Prädiktoren Sinn.

Regressionskoeffizienten dürfen hier nicht mittransformiert werden!

Für den Vergleich von Gruppenmittelwerten mit dem Mittelwert einer Referenzgruppe

Für den Vergleich von Gruppenmittelwerten mit dem Mittelwert der Mittelwerte aller Gruppen

Für eine direkte Interpretation der Gruppenmittelwerte

Beachte: KEIN INTERCEPT

Sind in Modellgleichung ALLE möglichen Interaktionsterme aufgenommen, sind diese vorgesagten Werte genau die Mittelwerte der jeweiligen Gruppen

Wenn nur ein Teil der Interaktionsterme aufgenommen ist, entsprechen die vorhergesagten Werte nicht mehr den Mittelwerten in den jeweiligen Gruppen

Varianz bekannt: Konfidenzintervall z-standardisiert und normalverteilt!

Wenn Varianz unbekannt ist: t-verteilt!

Ist unser Modell richtig und würden wir das Konfidenzintervall für viele verschiedene Stichproben berechnen, dann würde es für 95 % der Stichproben den wahren Wert überdecken.

t-Test

Enthält nur den Intercept, keine Prädiktoren, somit klären Prädiktoren keine Varianz auf und ß^0 ist der Mittelwert von Y

So viele zu schätzende Modellparameter, wie es Beobachtungen gibt. Prädiktoren klären gesamte Varianz auf (e = 0), aber nicht gut, da nicht auf Population übertragbar

Normales Modell

Genestet in das unrestringierte Modell, also ein Untermodell. Enthält keine anderen Prädiktoren / ß, als das unrestringierte Modell

Je kleiner Fehlerterme e sind (Kleine Fehlerquadratsumme SSE) und je weniger Modellparameter

Gibt das Verhältnis der durch das Modell erklärten Variation der AV (SSM) zur Gesamtvariation der AV (SST) an

Wenn Stichprobe klein und gleichzeitig viele Prädiktoren vorliegen -> adjustiertes R²

Differenz zwischen R² und adjustiertes R² wird groß

F-Test!

AIC und BIC

Modell wird erstellt durch vorher bestimmte Menge von Prädiktoren und bestehten Theorien und a priori formulierten Hypothesen.

Modell wird angepasst und prüft, ob das mit Theorien und Hypothesen übereinstimmt

Modell nicht vorher spezifiziert.

Gefahr: Zu lange suchen, bis Modell passt, Zufällige Effekte beeinflussen Modellwahl

Starte mit Nullmodell, nehme so lange Prädiktoren auf, bis Modell maximal verbessert ist

Starte mit vollem Modell, entferne Schritt für Schritt Prädiktoren bis Modell maximal verbessert ist

Kombination von Backwart und Forward, es können Prädiktoren in jedem Schritt aufgenommen oder entfernt werden

Wenn AV nicht mehr normalverteilt ist, bei Binären Daten oder Zähldaten

Erwartungswerte müssen nicht mehr linear in Prädiktoren sein

Zufällige Komponente: AV mit Verteilung aus Exponentialfamilie

Systematische Komponente (ß0 + ß1X1 + ...)

Linkfunktion g, welche Zusammenhang zwischen Erwartungswert der AV mit systematische Komponente modelliert

ML-Schätzung, t- oder z-Wert

Devianz

Abweichungen der Log-Likelihood-Funktionen. Je kleiner desto besser. Im ALM entspricht das SSE