Temme


Lucas Ferl
Diese Lernkarten behandeln fortgeschrittene statistische Methoden zur Modellbewertung und -vergleich, insbesondere im Kontext der logistischen Regression. Sie decken Themen wie Informationskriterien (AIC, BIC), Gütekriterien, Wahrscheinlichkeitsmodelle und Tests für Normalverteilung ab. Die Karteikarten sind ideal für Studierende und Forscher, die komplexe statistische Analysen durchführen und Modelle optimieren möchten.
Cartes-fiches
70
Utilisateurs
2
Langue
Allemand
Catégorie
Mathématiques
Niveau
Université
Créé / Mis à jour
06.09.2023 / 20.02.2025

Cartes-fiches

MDS: Ankerpunktmethode

Jedes Objekt dient genau einmal als Vergleichsobjekt (Ankerpunkt) für alle restlichen Objekte
• Personen sollen die restlichen Objekte jeweils gemäß ihrer Ähnlichkeit zum Ankerpunkt in eine Rangfolge bringen

• Bsp.: Datenerhebung mit dem Ankerpunkt („Becel“)

• Allgemein: Bei n Objekten resultieren n (n-1) Vergleiche


• Nach Abschluss aller Ähnlichkeitsvergleiche resultiert eine quadratische Datenmatrix, die in der Regel asymmetrisch ist (→ siehe Beispiel zu
Streichfetten)


• Asymmetrie: Vergleich der Marke A mit Ankerpunkt B kann zu einem anderen Rang führen als der Vergleich von Marke B mit Ankerpunkt A

MDS: 4 Startkonfigurationen

Je nach Startkonfiguration ändert sich die Darstellung der MDS, immer eine von vielen Lösungen

  1. Simplex-Verfahren: Anordnung der Objekte in einem Raum mit maximaler Dimensionalität derart, dass sie alle den gleichen Abstand zueinander haben; nach einem Iterationsschritt wird der Raum auf die Anzahl der angegebenen Dimensionen (i.d.R. 2 oder 3) reduziert (nicht zu empfehlen)
  2. Torgerson-Lösung: Anordnung der Objekte gemäß der Lösung einer metrischen MDS (die Ausgangsdaten werden dabei als verhältnisskaliert angesehen)
  3. Zufallskonfiguration(en):
    − Einzelne zufällige Startkonfiguration (nicht zu empfehlen)
    − Mehrere zufällige Startkonfigurationen (z. B. 1.000; Auswahl der Konfiguration mit dem kleinsten Stress-Wert/Auswahl einer der Konfigurationen mit kleinsten Stresswerten)
  4. Vorgegebene Ausgangslösung des Anwenders (z. B. MDS-Konfiguration aus einer vorangegangenen Studie)

MDS: Ratingverfahren

Personen sollen für jedes Objektpaar auf einer Ratingskala (z. B. 7er oder 9er Skala) den Grad der empfundenen Ähnlichkeit zweier Objekte angeben
• Bsp.: Die Marken „Becel“ und „Du darfst“ sind

1 (vollkommen ähnlich) - - - - - - - 7 (vollkommen unähnlich)


• Allgemein: Bei n Objekten resultieren n (n-1) / 2 Vergleiche
• Vorteil: Insb. geeignet bei einer großen Anzahl von Objekten bzw. geringer Belastbarkeit der Personen
• Nachteil: Auftreten gleicher Ähnlichkeitswerte („ties“) in Abhängigkeit von der Anzahl der Objekte und der Abstufung der Skala

MDS: Stress-Maße

STRESS-Bedeutung:
- Selektion der besten Lösung (in Abhängigkeit von der Anzahl der Dimensionen)
- Vergleich der für jede Dimensionalität jeweils optimalen Lösung
- S nimmt mit zunehmender Dimensionszahl monoton ab

-Stress 1 / Kruskals Stress oder Stress2

Indikatorreliabilität

Faktorladung²*Standardisierter Fehlerterm des Konstruktes/ Faktorladung²+Fehlerterm Variable

SEM: Durchschnittlich erfasste Varianz

Fornell-Larcker-Kriterium und Interpretation

Idee Mehrfaktorielle VA

  • Zweifaktorielle Varianzanalyse, bei der zwei Faktoren (mit jeweils mindestens zwei Faktorstufen) als erklärende Variablen fungieren. Von besonderem Interesse ist dabei, ob sich die beiden Faktoren in ihrer Wirkung verstärken/abschwächen oder aber unabhängig voneinander wirken.
  • Untersuchungsanordnung wird als faktorielles Design bezeichnet. Bsp.: Faktor A besitzt 3 Stufen und Faktor B besitzt 2 Stufen → 3x2-Design (z. B. Wirkung zweier Marketinginstrumente, etwa Werbung (1=ohne Werbung, 2=Werbung in Lokalzeitung, 3=Prospektverteilung) und Preis  (1=Normalpreis, 2 = Sonderangebotspreis)

Zentrale Fragestellung Haupteffekte und Wechselwirkungseffekt

F-Tests Mehrfaktorielle VA (nicht in Formelsammlung!)

Haupteffekte Arten und interpretierbarkeit

Keine Interaktion: Linien verlaufen parallel

Ordinale: Haupteffekte interpretierbar

Hybrid: Haupteffekt für Faktor mit gleichen Rangplätzen der Mittelwerte Interpretierbar

Diordinal: Bestimmung von (Haupt-)Effekten nicht möglich. Effekte stark Abhängig von Ausprägung des anderen Faktors

 

Mehrfaktorielle VA: Quadratsumme Haupteffekte

Bonferroni-Test

Es gibt dreierlei Tests zur Beurteilung der Kontraste: 

1. p-Wert 0.05 mit unkorrigierten p-Werten vergleichen --> p-Werte der Mittelwertvergleiche müssen kleiner sein.

2. Bonferroni-Korrektur: Irrtumswahrscheinlichkeit durch Anzahl der Mittelwertvergleiche also z.B 0.05/6=0.083 als neuer p-Wert

--> p-Werte der Mittelwertvergleiche müssen kleiner als neuer p-Wert von 0.083 sein

3. Bonferroni-Holm-Methode: p-Werte der größe nach sortieren. p-Wert/ Anzahl Vergleiche -1 --> 0.05/6, 0.05/5, 0.05/4...

--> p-Werte der Mittelwertvergleiche müssen kleiner als neue inidivuelle p-Werten sein

A-Prioi vs Post Hoc Poweranalyse

A-Priori-Poweranalyse: Ermittlung der Stichprobengröße - Fragestellung: Wie groß muss die Stichprobe sein, damit ein bestimmter
Effekt mit einer gewissen Wahrscheinlichkeit gefunden wird?

Post-hoc-Powernalyse: Wie groß war die Wahrscheinlichkeit, dass ein Effekt einer bestimmten Größe in einer Stichprobe signifikant wird, wenn in der Grundgesamtheit ein solcher Effekt tatsächlich vorliegt?

--> Ermittlung über die Teststärke (Power)

Testlogiken

-Chi²

-Levene Test

-Shapiro-Wilk-Test

-F emp / F krit

Chi² (X²)

H0:Leeres Modell und empirisches Modell unterscheiden sich nicht

H1:Leeres Modell und empirisches Modell unterscheiden sich

--> P-Wert muss kleiner sein als 0,05 damit Nullhypothese abgelehnt werden kann/ Xi²emp muss kleiner sein als X²krit

 

Levene-Test (Varianzhomogenität)


•H0: In den Gruppen liegen die gleichen Fehlervarianzen vor (DH, wir wollen, dass der P-Wert ÜBER 0,05 liegt/Femp kleiner ist als Fkrit -> H0 beibehalten, nicht verwerfen)

•H1: Varianzheterogenität (wenn p-Wert UNTER 0,05 liegt)


•Wenn H0 abgelehnt wird: Brown-Forsythe-Test und Welch-Test verwenden

Shapiro-Wilk-Test (Normalverteilung in Gruppen)

•p-Wert Shapiro Wilk Test muss > 0.05 sein --> Nullhypothese Normalverteilung kann nicht abgelehnt werden

•P-Wert test < 0.05 H0 wird abgelehnt --> Daten nicht normalverteilt

 

F-Test

•P-Wert unter 0.05= signifikanter Gruppenunterschied bzw. Femp>Fkrit zur ermittlung Signifikanter Gruppenunterschiede

F-Test und Output

Berechnung Eukl. Distanz in Tabelle (Klausurbeispiel)

Shapiro-Wilk-Test

p-wert test muss > 0.05 sein

Fragestellung Log Reg

Welche Einflussgrößen bestimmen die Auftretenswahrscheinlichkeit für die einzelnen Kategorien einer abhängigen nominalen Variable (z.B. 0/1-Variable für Nichtkauf/Kauf einer Marke oder Nichtteilnahme/Teilnahme an einer Bundestagswahl)

Log Reg: Probleme bei Unteruschung von Auftretenswahrscheinlichkeit

 

-Unplausible Schätzwerte: Bei bestimmten Werten für x (z. B. Berufsprestige = 20) ergeben sich ŷ-Werte, die außerhalb des definierten Wertebereichs für Wahrscheinlichkeiten (0 bis 1) liegen.
− Verletzung der Normalverteilungsannahme der Residuen
− Verletzung der Homoskedastizitätsbedingung
− Funktionale Form unplausibel: Wahrscheinlichkeit dürfte sich den Extremwerten 0 und 1 jeweils nur allmählich annähern.

Trick Log Reg

Ziel der Transformation: Neue abhängige Variable soll einen Wertebereich zwischen und aufweisen und einen funktionalen Verlauf implizieren, der für die Modellierung von Wahrscheinlichkeiten plausibel erscheint.

Log Reg: Beispiel Regressionsgleichung und Output

Log Reg: Warum einsatz eulersche Zahl

Problem: Logistische Regressionskoeffizienten sind mit Ausnahme des Vorzeichens (z. B. β1 > 0 → x1 wirkt positiv auf die Auftretenswahrscheinlichkeit für y = 1) nicht zu interpretieren, da die Logits nichtlinear mit den Wahrscheinlichkeiten verknüpft sind.

Lösung: e hoch Koeffizienten -->  Formal korrekte Interpretation: Die Chancen bzw. Odds für einen Kauf der
Gourmet-Butter sind bei Männern dreimal so hoch, wie bei Frauen

Log Reg: Problem und Lösung bei Hinzunahme einer weiteren unabh. Var (geschachtelte Modelle)

Problem

➢ Die Regressionskoeffizienten zweier ineinander geschachtelter Modelle beziehen sich auf unterschiedlich skalierte abhängige
Variablen und können nicht mehr sinnvoll miteinander verglichen werden
➢ Es bleibt unklar, ob Veränderungen der Koeffizienten in erster Linie aufgrund von Veränderungen der Varianz der abhängigen
Variablen oder aufgrund von Interkorrelationen zwischen den erklärenden Variablen resultieren

 

Optionen für den Vergleich von Regressionskoeffizienten geschachtelter Modelle:
− Voll- bzw. y*-standardisierte Koeffizienten (Hinweis: JASP verwendet stattdessen die Standardisierung nach Agresti: )
− Durchschnittliche marginale Effekte

Average Marginal Effekt (AME) und Marginal effect at the mean (MEM)

Geeignet, um Regressionskoeffizienten geschachtelter Modelle (Effekt für ein durchschnittliches Individuum) zu interpretieren:

AME: Mittelwert der für alle N Beobachtungen berechneten marginalen Effekte

MEM: Mittelwerte für alle unabhängigen Variablen werden berechnet und dann in die Formel zur Berechnung der Wahrscheinlichkeiten eingesetzt

AME vorzuziehen:

-Intuitiv zu interpretieren: Steigt xk um eine Einheit, so erhöht sich die Wahrscheinlichkeit für P(y = 1 | xk) durchschnittlich um AME Einheiten

-Robust gegenüber Einführung unkorrelierter erklärender Variablen

-geeignet, um schrittweise aufgebaute Modelle und ihre Koeffizienten miteinander zu vergleichen

Arten zur Beurteilung der Modellgüte bei Log Reg

1. Gütekriterien auf Basis der Likelihood-Funktion (Devianz, LR-Test)
2. Pseudo-R-Quadrat-Indizes
3. Informationskriterien
4. Beurteilung der Klassifikationsergebnisse

Log Reg: Devianz zur Beurteilung der Modellgüte

Log Reg: Modellgüte LR-Statistik

Allgemein: Prüft, ob ein Modell mit mehr freien Parametern statistisch signifikant besser abschneidet als ein Modell mit weniger freien Parametern (Voraussetzung: Modelle sind ineinander geschachtelt („nested models“), z.B. Modell mit Einkommen und
Geschlecht vs. Modell mit Geschlecht)

McFaddens R²

Wertebereich: 0,2 bis 0,4= gute Modellanpassung

Untersucht: Prozentuale Verbesserung des Log-Likelihood-Wertes für das spezifizierte Modell im Vergleich zum Nullmodell (0 = keine Verbesserung, 1 = maximal mögliche Verbesserung, falls perfekter Fit)

Abwandlungen mit Cox/Snell-R² und Nagelkerkes R², die jedoch gleicher Logik folgen, nur Wertebreiche anders setzt

Problem: Nehmen prinzipiell größere Werte an, wenn zusätzliche erklärende Variablen in das Modell aufgenommen werden → Konflikt zur Zielsetzung eines möglichst gut an die
Daten angepassten, aber gleichzeitig auch möglichst sparsam spezifizierten Modells (d.h. eines Modells, mit möglichst wenigen erklärenden Variablen)

--> INFORMATIONSKRITERIEN (AIC/BIC)

Informationskriterien AIC und BIC

-Informationskriterien „verrechnen“ bessere Modellanpassung aufgrund einer größeren Anzahl an Variablen mit der Anzahl hierfür notwendiger Variablen → kleinere Werte deuten auf einen besseren Fit hin
− Weiterer Vorteil: Im Vergleich zum Likelihood-Ratio-Test können auch nicht ineinander geschachtelte Modelle miteinander verglichen werden

Étudier