Quanti Methoden

Basis Wissen Statistik - Quantitative Methoden

Basis Wissen Statistik - Quantitative Methoden


Paula Klein
Diese Lernkarten behandeln quantitative Methoden auf Universitätsniveau und konzentrieren sich auf statistische Konzepte wie Regression, Korrelation und Wahrscheinlichkeitsverteilungen. Sie decken Themen wie das Bestimmtheitsmaß R², Regressionskoeffizienten, die Minimum-Quadrat-Methode und nicht-parametrische Tests ab. Die Karteikarten sind besonders nützlich für Studierende der Mathematik oder verwandter Fachgebiete, die ein tiefes Verständnis dieser Methoden benötigen, um Datenanalysen durchzuführen und statistische Zusammenhänge zu interpretieren.
Flashcards
103
Students
5
Language
German
Category
Maths
Level
University
Created / Updated
29.06.2016 / 03.09.2020

Flashcards

Testverfahren: T-Test (unabhängig) - Logik

- Prüfung von H0: Gibt keinen Unterschied zwischen Gruppen der UV in Ausprägung der AV
- Wie wahrscheinlich ists, das Unterschied nur zufällig bei eigentlicher Gleichverteilung auftritt?

z.B. H1: Männer und Frauen unterscheiden sich in der Nutzungshäufigkeit von Tageszeitungen
H0: Männer und Frauen unterscheiden sich nicht in Nutzungshäufigkeit von T.Zeitungen

Kontingenztafeln / Tabelle

= Tabellen, die die absoluten oder relativen Häufigkeiten von Kombinationen
bestimmter Merkmalsausprägungen enthalten.

• Kontingenz hat dabei die Bedeutung des gemeinsamen Auftretens von zwei Merkmalen.

• Diese Häufigkeiten werden ergänzt durch deren Randsummen, die die sogenannten
Randhäufigkeiten bilden

Unabhängigkeitstest u. Vorgehen (muss du nicht komplett wissen) 

Man betrachtet 2 statistische Merkmale x und y, die beliebig skaliert sein können. Man
interessiert sich dafür, ob die Merkmale stochastisch unabhängig sind.

Es wird die Nullhypothese
H0: Das Merkmal x ist vom Merkmal y stochastisch unabhängig.

Vorgehen: 

• Die Beobachtungen von x liegen in m Kategorien j (j = 1, …, m) vor, die des Merkmals
y in r vielen Kategorien k (k = 1, …, r) vor.

• Treten bei einem Merkmal sehr viele Ausprägungen auf, fasst man sie zweckmäßigerweise zu Klassen j zusammen und fasst die Klassenzugehörigkeit als j-te Kategorie auf.

• Man betrachte zwei diskrete Zufallsvariablen X und Y, deren gemeinsame Wahrscheinlichkeiten in einer Wahrscheinlichkeitstabelle dargestellt werden können.


• Man zählt nun, wie oft die j-te Ausprägung von X zusammen mit der k-ten Ausprägung von Y
auftritt. Die beobachteten gemeinsamen absoluten Häufigkeiten njk können in einer
zweidimensionalen Häufigkeitstabelle mit m Zeilen und r Spalten eingetragen werden.

Die Zeilen- bzw. Spaltensummen ergeben die absoluten Randhäufigkeiten n.j bzw. n.k als 


Entsprechend sind die gemeinsamen relative Häufigkeiten pjk = njk/n und die relativen
Randhäufigkeiten pj. = nj./n und p.k = n.k/n

Wahrscheinlichkeitstheoretisch gilt: Sind zwei Ereignisse A und B stochastisch unabhängig, ist die Wahrscheinlichkeit für ihr gemeinsames Auftreten gleich dem Produkt der Einzelwahrscheinlichkeiten: P(A ∩B ) = P(A)·P(B )

Man überlegt sich nun, dass analog zu oben bei stochastischer Unabhängigkeit von x und y auch gelten pjk ≈ pj. * p.k 

pjk = relative Häufigkeiten, pj. = Randhäufigkeiten Y / Zeilen; p.k = Ranfhäfigkeiten X / Spalten

mit n multipliziert entsprechend: njk− (nj. * n.k)/ n≈ 0  Sind diese Differenzen für sämtliche j, k klein, kann man vermuten, dass x und y tatsächlich stochastisch unabhängig sind.

 

Chi² - Prüfgröße für Unabhängigkeitstest

Setzt man für die erwartete Häufigkeit bei Vorliegen von Unabhängigkeit:  

Erwartete Werte= n*jk = (nj. * n.k) / n  = n0rs =  (nr. * n.s) / n = Summe der Zeile * Summer der Spalte / N 

Residuen = (n*jk - njk) = ( nrs - nors) - (Tatsächlicher Wert - erwarteter Wert)

Alles wichtig Prüfgröße für Unabhängigkeitstest - X² 

χ² = Summe aller (quardierter Residuen / erwarteter Wert=n0rs) 

 

Chi-Quadrat-Verteilung

Die Chi-Quadrat-Verteilung mit n Freiheitsgraden beschreibt die Verteilung der Summe n stochastisch unabhängiger quadrierter standardnormalverteilter Zufallsvariablen

- wird aus Tabelle Abgelesen!

Vierfeldertest

Vorgehensweise - Generell bei Tests 
1.Erstellen/ Ablesen einer Nullhypothese H0 und ihrer Alternativhypothese H1
2.Bestimmung des kritischen Bereiches zu SIgnifikanzniveau α,
3.Berechnung der Testgröße oder Teststatistik T aus der Stichprobe
4.Treffen der Testentscheidung

2. Bestimmung des kritischen Bereiches:

Ablesen aus Tabelle:  Freiheitsgrade bei Chi² : df = (r-1) * (c-1) r = Anzahl Reihen, C = Anzahl Spalten

Für 2x2 Tabelle u. p=0,95 - C-Wert für X² = 3,48. 

3. Berechnung der Testgröße: siehe Bild - tobs

4.) Treffen der Testentscheidung
a) .Liegt tobs nicht in K (kritischen Bereich), so wird H0 beibehalten.
1.2.Liegt tobs in K, so lehnt man H0 zugunsten von H1 ab.

- Kritischer Bereich K ( recht von C-Wert also muss t > C sein 

 

Anova / Varianzanalyse

• Normalverteilung der Grundgesamtheit
Annahme: wenn unsere Stichprobe & auch die GG annähernd normalverteilt sind
• Varianzhomogenität
Varianzen in den einzelnen Gruppen sollten gleich sein. (überprüfen mit Levene‘s Test)
• ANOVA ist relativ robust gegenüber diesen Annahmen
Bei leichter Abweichung von Normalverteilung & Varianzhomogenität ist AVOVA trotzdem durchführbar. Wenn mehrere Annahmen grob verletzt sind → nicht parametrisches Verfahren verwenden

- Vergleich von Mittelwerten von mehr als 2 Gruppen (UV= nominal, AV = Metrisch) 

• yij, 1≤i≤k, 1≤j≤ni
• Hierbei ist yij der j-te Beobachtungswert in der i-ten Gruppe.
• Insgesamt gibt es ni Beobachtungswerte in der i-ten Gruppe, und k verschiedene Gruppen.
• n = n1 + . . . + nk = Gesamtzahl der Beobachtungswerte.
k = Anzahl der Gruppen, i = Nummer der Gruppe, j = Beobachete

H0: zwischen den Erwartungswerten der Gruppen kein Unterschied besteht. (Mittelwerte sind gleich)
H1: zwischen mindestens zwei Erwartungswerten (Mittelwerte) der Gruppen ein Unterschied besteht. 

 

yji = Einzelwert 

y(quer)j = Mittelwert der Gruppen

y(quer) = Mittelwert

 

einfaktorielle Anova

• Bei einer einfaktoriellen Varianzanalyse untersucht man den Einfluss einer unabhängigen Variable (Faktor) mit k verschiedenen Gruppen auf die Ausprägungen einer Zufallsvariablen.


• Dazu werden die Mittelwerte der Ausprägungen für die Gruppen miteinander verglichen, und zwar vergleicht man die Varianz zwischen den Gruppen mit der Varianz innerhalb der Gruppen.


• Weil die totale Varianz sich zusammensetzt aus den zwei genannten Komponenten, spricht man von Varianzanalyse. Die einfaktorielle ANOVA ist die Verallgemeinerung des t-Tests im Falle mehr als zwei Gruppen. Für k=2 ist sie äquivalent mit dem t-Test.

Varianzzerlegung

SS T = Gesamt, Jeder Messwert - Gesamtmittel²
SSB = Erklärte Varianz, Jeder Gruppen Mittelwert - Gesamtmittel ² 
SSW = nicht Erklärte, Jeder Einzelen Messwert aus der Gruppen - Gruppenmittelwert u. dann addieren 

Gesamtvarianz = Streung alle Werte um den Gesamtmittelwert

Erklärte Varianz = Streunng der Gruppenmittelwerte um den Gesamtmittelwert, kann durch UV erklärt werden

nicht erklärte Varianz = die Streuung der Werte innerhalb der Gruppe um den Gruppenmittelwert, kann nicht durch die UV erklärt werden, geht auf andere Faktoren zurück

y(quer) = Summe alle Einzelwerte alle Gruppen / Anzahl aller Beobachtungen 

y (quer)i = 1/ni * summe aller Werte 

Teststatistik - Varianzanalyse

Ist die mittlere Streuung Zwischen den Stichproben groß im Verhältnis zur mittleren Streuung innerhalb der Stichproben, so wird die Nullhypothese identischer Erwartungeswerte abgelehnt.
Unter der Nullhypothese ist die Teststatistik F-verteilt mit k - 1 und n - 1 Freitheitsgraden. (k = Anzahl der Gruppen) 

Dafür ist die Anova Tabelle nötig. 

MSS = mittlere Quadratsumme -eig wie erklärte u. nicht erklärte Varianz 

aber erklärte Varianz * 1 / k-1  mit k= Anzahl der Gruppen (z.b. 3 ) = 1 /3-1 = 1/2 

nicht erklärte Varianz * 1/ n-k mit n = gesamt Anzahl u. k = Gruppen Anzahl z.b. n = 31 u. n = 3

1 /31-3 = 1/28 

- der Wert der Teststatistik wird dann mit dem F-Wert, der aus der Tabelle der F-Verteilung abgelesen werden kann, dafür df1/ fz - Zähler freiheitsgrad = k-1 mit k = Gruppen anzahle 
df2/fn = Nennerfreiheitsgrad = n-k  mit n = Fallanzahl, K = Gruppenanzahl, 
alpha wie immer 0,05  deswegen 1-0,05 = 0,95

- wenn F- Wert > T-Wert (Teststatistik) H0 beibehalten 

- rechte von F-WErt = Kritischer bereich wenn T > F - H0 ablehen 

Anova Tabelle 

Korrelation

- besteht ein Linearer zusammenhang ja / nein?

- anhand einer Punktewolke erkennbar

Kovarianz

Definition: Sind X und Y zwei Zufallsvariablen, die quadratisch integrierbar sind, d. h. die Erwartungswerte E E(X²) und E (Y²) existieren, dann heißt:

Cov(X,Y ) := E((X − E(X))(Y − E(Y ))) die Kovarianz von X und Y.

 

Korrelationskoeffizient

• Der Korrelationskoeffizient ist ein dimensionsloses Maß für den Grad des linearen Zusammenhangs zwischen zwei mindestens intervallskalierten Merkmalen.
• Er kann Werte zwischen −1 und 1 annehmen.
• Bei einem Wert von +1 (bzw. −1) besteht ein vollständig positiver (bzw. negativer) linearer Zusammenhang zwischen den betrachteten Merkmalen.
• Wenn der Korrelationskoeffizient den Wert 0 aufweist, hängen die beiden Merkmale überhaupt nicht linear voneinander ab

r nach Pearson: 

Für metrisch skalierte Merkmale stellt der Korrelationskoeffizient rxy oder kurz r nach Pearson ein Maß für die lineare Abhängigkeit  2 Variablen dar. 

Für zwei quadratisch integrierbare Zufallsvariablen X und Y mit jeweils positiver Varianz ist der
Korrelationskoeffizient durch definiert:

r = \(x = {{cov(X,Y)} \over \sqrt{ Var(X) * Var(Y)} }\)  Var(X)/ (Y) = Varianz Gruppe X/Y ( jeder Wert - Mittelwert )² (nicht * 1/n) 

mit con( X,Y) = [(Xi - x(quer)]* [yi - y(quer)] = bei jedem i z.b. i=1 erste Spalte und dann alle diese Werte Addieren und i - ist bei x und y gleich!!! 

[(Xi - x(quer)] = x* und [yi - y(quer)] = y* 

n = 9 dann:

con(X,Y) = [(X1 - x(quer)]* [y1 - y(quer)] + [(X2 - x(quer)]* [y2 - y(quer)] +... + [(x9 - x(quer)]* [y9 - y(quer)]

Probleme der Korrelation

- ist blin gegenüber anderen als Linearen Zusammenhängen 

Rangkorrelationskoeffizient nach Spearman ( Rho) 

• Für Variablen, die stark von der Normalverteilung abweichen, und auch ordinalskalierte Variablen,
eignet sich der Rangkorrelationskoeffizient nach Spearman.
• Hier werden die einzelnen Beobachtungen von x bzw. y der Größe nach geordnet.
• Jedem Wert wird seine Rangzahl zugewiesen.

Aus diesen Rängen wird der Korrelationskoeffizent nachPearson errechnet. Man erhält so den Korrelationskoeffizenten nach Spearman-Pearson ( rsp)

also: rg = Rang - der selbst errechnet wird - dann in Pearson einsetzen

 

- statistisch schwierig, weil ordinal wie metrisch behandelt wird, bzw. künstlich eine Intervallskalierung erstellt wird

Schritte für Spearmans rs

1. Anordnung festlegen:

- Stoffmenge x : zu gering < optimal < zu gross
- Note y : sehr gut < gut < befriedigend < ausreichend < mangelhaft < ungenügend

2. Rang berechnen:

- Probanden haben selbe ausprägung gewählt (gut), 3 Leute= Häufigkeit, eig Nummer 2,3,4 (da einmal Sehr gut angegeben wurde) - berechnng des Rangs: alle Nummer addieren / Häufigkeit = Rang  hier: 2+3+4/ 3 = 3 (siehe Bild) 

3. rsp berechnen: 

- hierbei kombi der Probande, angaben zur Stoffmenge u. Noten mit Rang 

- errechnen Mittelwert beider Gruppen

- x* = xi-X(quer) errechnen (auch für y)

- für Con(X,Y) = Summe [xi-x(quer)]* [yi-y(quer)]

- Var(X)/(Y)= Summe jedes [xi-x(quer)]²

 

Regression

Idee: Gerade in die Punktewolke legen, die Zu allen Messwerten, den kleinsten möglichen Abstand hat um den "wahren" Wert zu finden, er unbekannt ist

- ist ein statistisches Analyseverfahren. Ziel ist es, Beziehungen zwischen einer abhängigen und einer oder mehreren unabhängigen Variablen festzustellen.
- Allgemein wird eine metrische Variable Y betrachtet, die von einer zweiten Variablen x abhängt

• Im Falle der wahrscheinlichkeitstheoretisch basierten Regression sind die beobachteten Variablen mit
einem zufälligen Fehler ε behaftet.
• Dies wird durch Y = f(x) +  ε   modelliert.
• Die „wahren“ Zusammenhänge zwischen Y und f(x) sind demnach nicht bekannt und müssen geschätzt
oder prognostiziert werden

Ansatz Regression

• Man betrachtet 2 Variablen Y und x, die vermutlich ungefähr in einem linearen Zusammenhang stehen 

 mit Y≈α+βx 


• Der funktionale Zusammenhang Y = f(x) zwischen x und Y kann nicht exakt festgestellt werden, da α + βx von einer Störgröße ε überlagert wird.


• Diese Störgröße ε ist als Zufallsvariable (der GG) konzipiert, die nichterfassbare Einflüsse (menschliches Verhalten oder Messungenauigkeiten oder ähnliches) darstellt

• Es ergibt sich also das Modell Y=α+βX+ε oder komponentenweise yi=α+βxi+εi
• Da α und β nicht bekannt sind, kann y nicht in die Komponenten α + βx und ε zerlegt werden. Eine
mathematische Schätzung für die Parameter α und β durch a und b gefunden werden, damit ergibt sich yi=a+bxi+ei mit dem Residuum ei der Stichprobe.


• Das Residuum gibt die Differenz zwischen der Regressionsgerade a + bxi und den Messwerten yi an.

Minimum-Quadrat-Methode

Man minimiert die summierten Quadrate der Residuen,

RSS = SSRes =\(\displaystyle\sum_{i=1}^{n} = e_i^2 = \displaystyle\sum_{i=1}^{n} (y_i - (a+bx_i))^2\to min \) bezüglich a und b.

Durch partielles Differenzieren und Nullsetzen der Ableitungen erster Ordnung erhält man ein System
von Normalgleichungen.

Regressionskoeffizienten

Die gesuchten Regressionskoeffizienten sind die Lösungen: 

b = SSxy / SSxx (siehe bild)

- also SSxy = Summe aller (xi − x )*(yi − y), SSxx = Summe (xi − x )² (die beiden 1/n kürzen sich raus) 

a = y(quer) − bx(quer) = Mittelwert Y - b* Mittelwert X

mit als arithmetischem Mittel der x-Werte und als arithmetischem Mittel der y-Werte. SSxy stellt die
empirische Kovarianz zwischen den xi und yi dar. SSxx bezeichnet die empirische Varianz der xi.

Bestimmtheitsmaß R²

• R² (auch Determinationskoeffizient) ist Anteil der Variation der durch die lineare Regression erklärt wird
• 0 (oder 0 %): kein linearer Zusammenhang
• 1 (oder 100%): perfekter linearer Zusammenhang

- der Zusammenhang von R² und r - r ist die Wurzel von R²


kleines r - r² - wird aus statistsichen Sachen gelöst, Korrellationskoeffizient, R² = hat ne verbindung zu kein r, 

r² =  1- (variation der Residuen / Variation von Y) = 1- [Summe (Yi −Yˆi) ² / (Yi −Y(quer))²]

Variation Residuen = Summe der Y-Wert minus y Schätzer ins quadrat, 

y schätzer = x-Wert in Geradengleichung von r (yi = b*x + a) einzusetzen u. so für jeden x wert einen y schätz wert zu erhalten

- jeder dieser schätzwerte wird vom passenden y Wert (in der Zeile) abgezogen und dann quadriert

Antwortsatz: 

 x% dervVariation der Beobachtungswerte wird durch das lineare Modell erklärt. Nur 100-x% der Variation bleiben unerklärt und haben unter Umständen andere Einflussfaktoren.

Die Grenzen von R² 

60 % der Variation der Beobachtungswerte wird durch das lineare Modell erklärt. Nur 40% der Variation
bleiben unerklärt und haben unter Umständen andere Einflussfaktoren.

- R² zeigt zwar Qualität der linearen Approximation aber nicht, ob das Modell richtig spezifiziert wurde.


- sagt nichts darüber aus, ob die UV wirklich der Grund für die Änderungen in sind.


- Es nichts über die statistische Signifikanz des ermittelten Zusammenhangs aus.

- macht keine Aussage, ob Transformation der Daten die Erklärungskraft der Regression verbessert.

• hohes R² erlaubt eine gute Vorhersage.
• hohes R² gibt an, dass geschätzte Regressionslinie eine gute Approximation an die Daten darstellt
• R² nahe bei Null zeigt an, dass es keinen linearen Zusammenhang zwischen der AV & UVs gibt

Study