Quanti Methoden
Basis Wissen Statistik - Quantitative Methoden
Basis Wissen Statistik - Quantitative Methoden
-
- 1 / 103
-
Lernkarten
Testverfahren: T-Test (unabhängig) - Logik
- Prüfung von H0: Gibt keinen Unterschied zwischen Gruppen der UV in Ausprägung der AV
- Wie wahrscheinlich ists, das Unterschied nur zufällig bei eigentlicher Gleichverteilung auftritt?
z.B. H1: Männer und Frauen unterscheiden sich in der Nutzungshäufigkeit von Tageszeitungen
H0: Männer und Frauen unterscheiden sich nicht in Nutzungshäufigkeit von T.Zeitungen
Kontingenztafeln / Tabelle
= Tabellen, die die absoluten oder relativen Häufigkeiten von Kombinationen
bestimmter Merkmalsausprägungen enthalten.
• Kontingenz hat dabei die Bedeutung des gemeinsamen Auftretens von zwei Merkmalen.
• Diese Häufigkeiten werden ergänzt durch deren Randsummen, die die sogenannten
Randhäufigkeiten bilden
Unabhängigkeitstest u. Vorgehen (muss du nicht komplett wissen)
Man betrachtet 2 statistische Merkmale x und y, die beliebig skaliert sein können. Man
interessiert sich dafür, ob die Merkmale stochastisch unabhängig sind.
Es wird die Nullhypothese
H0: Das Merkmal x ist vom Merkmal y stochastisch unabhängig.
Vorgehen:
• Die Beobachtungen von x liegen in m Kategorien j (j = 1, …, m) vor, die des Merkmals
y in r vielen Kategorien k (k = 1, …, r) vor.
• Treten bei einem Merkmal sehr viele Ausprägungen auf, fasst man sie zweckmäßigerweise zu Klassen j zusammen und fasst die Klassenzugehörigkeit als j-te Kategorie auf.
• Man betrachte zwei diskrete Zufallsvariablen X und Y, deren gemeinsame Wahrscheinlichkeiten in einer Wahrscheinlichkeitstabelle dargestellt werden können.
• Man zählt nun, wie oft die j-te Ausprägung von X zusammen mit der k-ten Ausprägung von Y
auftritt. Die beobachteten gemeinsamen absoluten Häufigkeiten njk können in einer
zweidimensionalen Häufigkeitstabelle mit m Zeilen und r Spalten eingetragen werden.
Die Zeilen- bzw. Spaltensummen ergeben die absoluten Randhäufigkeiten n.j bzw. n.k als
Entsprechend sind die gemeinsamen relative Häufigkeiten pjk = njk/n und die relativen
Randhäufigkeiten pj. = nj./n und p.k = n.k/n
Wahrscheinlichkeitstheoretisch gilt: Sind zwei Ereignisse A und B stochastisch unabhängig, ist die Wahrscheinlichkeit für ihr gemeinsames Auftreten gleich dem Produkt der Einzelwahrscheinlichkeiten: P(A ∩B ) = P(A)·P(B )
Man überlegt sich nun, dass analog zu oben bei stochastischer Unabhängigkeit von x und y auch gelten pjk ≈ pj. * p.k
pjk = relative Häufigkeiten, pj. = Randhäufigkeiten Y / Zeilen; p.k = Ranfhäfigkeiten X / Spalten
mit n multipliziert entsprechend: njk− (nj. * n.k)/ n≈ 0 Sind diese Differenzen für sämtliche j, k klein, kann man vermuten, dass x und y tatsächlich stochastisch unabhängig sind.
Chi² - Prüfgröße für Unabhängigkeitstest
Setzt man für die erwartete Häufigkeit bei Vorliegen von Unabhängigkeit:
Erwartete Werte= n*jk = (nj. * n.k) / n = n0rs = (nr. * n.s) / n = Summe der Zeile * Summer der Spalte / N
Residuen = (n*jk - njk) = ( nrs - nors) - (Tatsächlicher Wert - erwarteter Wert)
Alles wichtig Prüfgröße für Unabhängigkeitstest - X²
χ² = Summe aller (quardierter Residuen / erwarteter Wert=n0rs)
Vierfeldertest
Vorgehensweise - Generell bei Tests
1.Erstellen/ Ablesen einer Nullhypothese H0 und ihrer Alternativhypothese H1
2.Bestimmung des kritischen Bereiches zu SIgnifikanzniveau α,
3.Berechnung der Testgröße oder Teststatistik T aus der Stichprobe
4.Treffen der Testentscheidung
2. Bestimmung des kritischen Bereiches:
Ablesen aus Tabelle: Freiheitsgrade bei Chi² : df = (r-1) * (c-1) r = Anzahl Reihen, C = Anzahl Spalten
Für 2x2 Tabelle u. p=0,95 - C-Wert für X² = 3,48.
3. Berechnung der Testgröße: siehe Bild - tobs
4.) Treffen der Testentscheidung
a) .Liegt tobs nicht in K (kritischen Bereich), so wird H0 beibehalten.
1.2.Liegt tobs in K, so lehnt man H0 zugunsten von H1 ab.
- Kritischer Bereich K ( recht von C-Wert also muss t > C sein
Anova / Varianzanalyse
• Normalverteilung der Grundgesamtheit
Annahme: wenn unsere Stichprobe & auch die GG annähernd normalverteilt sind
• Varianzhomogenität
Varianzen in den einzelnen Gruppen sollten gleich sein. (überprüfen mit Levene‘s Test)
• ANOVA ist relativ robust gegenüber diesen Annahmen
Bei leichter Abweichung von Normalverteilung & Varianzhomogenität ist AVOVA trotzdem durchführbar. Wenn mehrere Annahmen grob verletzt sind → nicht parametrisches Verfahren verwenden
- Vergleich von Mittelwerten von mehr als 2 Gruppen (UV= nominal, AV = Metrisch)
• yij, 1≤i≤k, 1≤j≤ni
• Hierbei ist yij der j-te Beobachtungswert in der i-ten Gruppe.
• Insgesamt gibt es ni Beobachtungswerte in der i-ten Gruppe, und k verschiedene Gruppen.
• n = n1 + . . . + nk = Gesamtzahl der Beobachtungswerte.
k = Anzahl der Gruppen, i = Nummer der Gruppe, j = Beobachete
H0: zwischen den Erwartungswerten der Gruppen kein Unterschied besteht. (Mittelwerte sind gleich)
H1: zwischen mindestens zwei Erwartungswerten (Mittelwerte) der Gruppen ein Unterschied besteht.
yji = Einzelwert
y(quer)j = Mittelwert der Gruppen
y(quer) = Mittelwert
einfaktorielle Anova
• Bei einer einfaktoriellen Varianzanalyse untersucht man den Einfluss einer unabhängigen Variable (Faktor) mit k verschiedenen Gruppen auf die Ausprägungen einer Zufallsvariablen.
• Dazu werden die Mittelwerte der Ausprägungen für die Gruppen miteinander verglichen, und zwar vergleicht man die Varianz zwischen den Gruppen mit der Varianz innerhalb der Gruppen.
• Weil die totale Varianz sich zusammensetzt aus den zwei genannten Komponenten, spricht man von Varianzanalyse. Die einfaktorielle ANOVA ist die Verallgemeinerung des t-Tests im Falle mehr als zwei Gruppen. Für k=2 ist sie äquivalent mit dem t-Test.
Varianzzerlegung
SS T = Gesamt, Jeder Messwert - Gesamtmittel²
SSB = Erklärte Varianz, Jeder Gruppen Mittelwert - Gesamtmittel ²
SSW = nicht Erklärte, Jeder Einzelen Messwert aus der Gruppen - Gruppenmittelwert u. dann addieren
Gesamtvarianz = Streung alle Werte um den Gesamtmittelwert
Erklärte Varianz = Streunng der Gruppenmittelwerte um den Gesamtmittelwert, kann durch UV erklärt werden
nicht erklärte Varianz = die Streuung der Werte innerhalb der Gruppe um den Gruppenmittelwert, kann nicht durch die UV erklärt werden, geht auf andere Faktoren zurück
y(quer) = Summe alle Einzelwerte alle Gruppen / Anzahl aller Beobachtungen
y (quer)i = 1/ni * summe aller Werte
Teststatistik - Varianzanalyse
Ist die mittlere Streuung Zwischen den Stichproben groß im Verhältnis zur mittleren Streuung innerhalb der Stichproben, so wird die Nullhypothese identischer Erwartungeswerte abgelehnt.
Unter der Nullhypothese ist die Teststatistik F-verteilt mit k - 1 und n - 1 Freitheitsgraden. (k = Anzahl der Gruppen)
Dafür ist die Anova Tabelle nötig.
MSS = mittlere Quadratsumme -eig wie erklärte u. nicht erklärte Varianz
aber erklärte Varianz * 1 / k-1 mit k= Anzahl der Gruppen (z.b. 3 ) = 1 /3-1 = 1/2
nicht erklärte Varianz * 1/ n-k mit n = gesamt Anzahl u. k = Gruppen Anzahl z.b. n = 31 u. n = 3
1 /31-3 = 1/28
- der Wert der Teststatistik wird dann mit dem F-Wert, der aus der Tabelle der F-Verteilung abgelesen werden kann, dafür df1/ fz - Zähler freiheitsgrad = k-1 mit k = Gruppen anzahle
df2/fn = Nennerfreiheitsgrad = n-k mit n = Fallanzahl, K = Gruppenanzahl,
alpha wie immer 0,05 deswegen 1-0,05 = 0,95
- wenn F- Wert > T-Wert (Teststatistik) H0 beibehalten
- rechte von F-WErt = Kritischer bereich wenn T > F - H0 ablehen
Korrelation
- besteht ein Linearer zusammenhang ja / nein?
- anhand einer Punktewolke erkennbar
Kovarianz
Definition: Sind X und Y zwei Zufallsvariablen, die quadratisch integrierbar sind, d. h. die Erwartungswerte E E(X²) und E (Y²) existieren, dann heißt:
Cov(X,Y ) := E((X − E(X))(Y − E(Y ))) die Kovarianz von X und Y.
Korrelationskoeffizient
• Der Korrelationskoeffizient ist ein dimensionsloses Maß für den Grad des linearen Zusammenhangs zwischen zwei mindestens intervallskalierten Merkmalen.
• Er kann Werte zwischen −1 und 1 annehmen.
• Bei einem Wert von +1 (bzw. −1) besteht ein vollständig positiver (bzw. negativer) linearer Zusammenhang zwischen den betrachteten Merkmalen.
• Wenn der Korrelationskoeffizient den Wert 0 aufweist, hängen die beiden Merkmale überhaupt nicht linear voneinander ab
r nach Pearson:
Für metrisch skalierte Merkmale stellt der Korrelationskoeffizient rxy oder kurz r nach Pearson ein Maß für die lineare Abhängigkeit 2 Variablen dar.
Für zwei quadratisch integrierbare Zufallsvariablen X und Y mit jeweils positiver Varianz ist der
Korrelationskoeffizient durch definiert:
r = \(x = {{cov(X,Y)} \over \sqrt{ Var(X) * Var(Y)} }\) Var(X)/ (Y) = Varianz Gruppe X/Y ( jeder Wert - Mittelwert )² (nicht * 1/n)
mit con( X,Y) = [(Xi - x(quer)]* [yi - y(quer)] = bei jedem i z.b. i=1 erste Spalte und dann alle diese Werte Addieren und i - ist bei x und y gleich!!!
[(Xi - x(quer)] = x* und [yi - y(quer)] = y*
n = 9 dann:
con(X,Y) = [(X1 - x(quer)]* [y1 - y(quer)] + [(X2 - x(quer)]* [y2 - y(quer)] +... + [(x9 - x(quer)]* [y9 - y(quer)]
Rangkorrelationskoeffizient nach Spearman ( Rho)
• Für Variablen, die stark von der Normalverteilung abweichen, und auch ordinalskalierte Variablen,
eignet sich der Rangkorrelationskoeffizient nach Spearman.
• Hier werden die einzelnen Beobachtungen von x bzw. y der Größe nach geordnet.
• Jedem Wert wird seine Rangzahl zugewiesen.
Aus diesen Rängen wird der Korrelationskoeffizent nachPearson errechnet. Man erhält so den Korrelationskoeffizenten nach Spearman-Pearson ( rsp)
also: rg = Rang - der selbst errechnet wird - dann in Pearson einsetzen
- statistisch schwierig, weil ordinal wie metrisch behandelt wird, bzw. künstlich eine Intervallskalierung erstellt wird
Schritte für Spearmans rs
1. Anordnung festlegen:
- Stoffmenge x : zu gering < optimal < zu gross
- Note y : sehr gut < gut < befriedigend < ausreichend < mangelhaft < ungenügend
2. Rang berechnen:
- Probanden haben selbe ausprägung gewählt (gut), 3 Leute= Häufigkeit, eig Nummer 2,3,4 (da einmal Sehr gut angegeben wurde) - berechnng des Rangs: alle Nummer addieren / Häufigkeit = Rang hier: 2+3+4/ 3 = 3 (siehe Bild)
3. rsp berechnen:
- hierbei kombi der Probande, angaben zur Stoffmenge u. Noten mit Rang
- errechnen Mittelwert beider Gruppen
- x* = xi-X(quer) errechnen (auch für y)
- für Con(X,Y) = Summe [xi-x(quer)]* [yi-y(quer)]
- Var(X)/(Y)= Summe jedes [xi-x(quer)]²
Regression
Idee: Gerade in die Punktewolke legen, die Zu allen Messwerten, den kleinsten möglichen Abstand hat um den "wahren" Wert zu finden, er unbekannt ist
- ist ein statistisches Analyseverfahren. Ziel ist es, Beziehungen zwischen einer abhängigen und einer oder mehreren unabhängigen Variablen festzustellen.
- Allgemein wird eine metrische Variable Y betrachtet, die von einer zweiten Variablen x abhängt
• Im Falle der wahrscheinlichkeitstheoretisch basierten Regression sind die beobachteten Variablen mit
einem zufälligen Fehler ε behaftet.
• Dies wird durch Y = f(x) + ε modelliert.
• Die „wahren“ Zusammenhänge zwischen Y und f(x) sind demnach nicht bekannt und müssen geschätzt
oder prognostiziert werden
Ansatz Regression
• Man betrachtet 2 Variablen Y und x, die vermutlich ungefähr in einem linearen Zusammenhang stehen
mit Y≈α+βx
• Der funktionale Zusammenhang Y = f(x) zwischen x und Y kann nicht exakt festgestellt werden, da α + βx von einer Störgröße ε überlagert wird.
• Diese Störgröße ε ist als Zufallsvariable (der GG) konzipiert, die nichterfassbare Einflüsse (menschliches Verhalten oder Messungenauigkeiten oder ähnliches) darstellt
• Es ergibt sich also das Modell Y=α+βX+ε oder komponentenweise yi=α+βxi+εi
• Da α und β nicht bekannt sind, kann y nicht in die Komponenten α + βx und ε zerlegt werden. Eine
mathematische Schätzung für die Parameter α und β durch a und b gefunden werden, damit ergibt sich yi=a+bxi+ei mit dem Residuum ei der Stichprobe.
• Das Residuum gibt die Differenz zwischen der Regressionsgerade a + bxi und den Messwerten yi an.
Minimum-Quadrat-Methode
Man minimiert die summierten Quadrate der Residuen,
RSS = SSRes =\(\displaystyle\sum_{i=1}^{n} = e_i^2 = \displaystyle\sum_{i=1}^{n} (y_i - (a+bx_i))^2\to min \) bezüglich a und b.
Durch partielles Differenzieren und Nullsetzen der Ableitungen erster Ordnung erhält man ein System
von Normalgleichungen.
Regressionskoeffizienten
Die gesuchten Regressionskoeffizienten sind die Lösungen:
b = SSxy / SSxx (siehe bild)
- also SSxy = Summe aller (xi − x )*(yi − y), SSxx = Summe (xi − x )² (die beiden 1/n kürzen sich raus)
a = y(quer) − bx(quer) = Mittelwert Y - b* Mittelwert X
mit als arithmetischem Mittel der x-Werte und als arithmetischem Mittel der y-Werte. SSxy stellt die
empirische Kovarianz zwischen den xi und yi dar. SSxx bezeichnet die empirische Varianz der xi.
Bestimmtheitsmaß R²
• R² (auch Determinationskoeffizient) ist Anteil der Variation der durch die lineare Regression erklärt wird
• 0 (oder 0 %): kein linearer Zusammenhang
• 1 (oder 100%): perfekter linearer Zusammenhang
- der Zusammenhang von R² und r - r ist die Wurzel von R²
kleines r - r² - wird aus statistsichen Sachen gelöst, Korrellationskoeffizient, R² = hat ne verbindung zu kein r,
r² = 1- (variation der Residuen / Variation von Y) = 1- [Summe (Yi −Yˆi) ² / (Yi −Y(quer))²]
Variation Residuen = Summe der Y-Wert minus y Schätzer ins quadrat,
y schätzer = x-Wert in Geradengleichung von r (yi = b*x + a) einzusetzen u. so für jeden x wert einen y schätz wert zu erhalten
- jeder dieser schätzwerte wird vom passenden y Wert (in der Zeile) abgezogen und dann quadriert
Antwortsatz:
x% dervVariation der Beobachtungswerte wird durch das lineare Modell erklärt. Nur 100-x% der Variation bleiben unerklärt und haben unter Umständen andere Einflussfaktoren.
Die Grenzen von R²
60 % der Variation der Beobachtungswerte wird durch das lineare Modell erklärt. Nur 40% der Variation
bleiben unerklärt und haben unter Umständen andere Einflussfaktoren.
- R² zeigt zwar Qualität der linearen Approximation aber nicht, ob das Modell richtig spezifiziert wurde.
- sagt nichts darüber aus, ob die UV wirklich der Grund für die Änderungen in sind.
- Es nichts über die statistische Signifikanz des ermittelten Zusammenhangs aus.
- macht keine Aussage, ob Transformation der Daten die Erklärungskraft der Regression verbessert.
• hohes R² erlaubt eine gute Vorhersage.
• hohes R² gibt an, dass geschätzte Regressionslinie eine gute Approximation an die Daten darstellt
• R² nahe bei Null zeigt an, dass es keinen linearen Zusammenhang zwischen der AV & UVs gibt