Wissenschaftliche Datenauswertung und Präsentation W16 ETH Zürich Teil 1
An introductory course to scientific data analysis with Excel and R at ETH Zurich. Includes contributions from other students and from the official lecture script. Kein Anspruch auf Vollständigkeit. Bearbeitung allen offen, Korrekturen willkommen!
An introductory course to scientific data analysis with Excel and R at ETH Zurich. Includes contributions from other students and from the official lecture script. Kein Anspruch auf Vollständigkeit. Bearbeitung allen offen, Korrekturen willkommen!
What is the Kruskal-Wallis test?
Wie beim Vergleich von Mittelwerten gibts beim Varianztest zwei Varianten, den parametrischen F-Test (Abschnitt . ) und den nichtparametrischen Kruskal-Wallis-Test.
1. used to compare two or more independent groups on a DV.with rank-ordered (ordinal) data
2. nonparametric alternative to one-way ANOVA
what is the Chi square test?
c2
1. used to analyze nominal data
2. compares observed frequencies to frequencies that would be expected under the null hypothesi
What is the Mann-Whitney U test?
1. compares two independent groups on a DV measure with rank-ordered (ordinal) data
2. nonparametric equivalent to a t-test
Was bedeutet der F-wert im Regresionsoutput?
Im Unterschied zum Bestimmtheitsmass r2 messen wir hier also den durch die Regression erklärten Anteil QS(y^) der Gesamtvarianz am Anteil der zufälligen Restvarianz QS(e) im Modell.
Wenn also F = ist, dann heisst das, dass die erklärte Varianz genau dem Wert der nicht erklärten Varianz entspricht, also kein berauschendes Forschungsergebnis. Wenn ich jedoch ein deutlich besseres Verhältnis zwischen erklärter und nicht erklärter Varianz erhalte, dann gewinne ich deutlich an Aussagekraft mit meinem Regressionsmodell.
(Werner Eugster)
Welche typen von Grafiken gibt es?
Vektorformat und Pixelformat
Was für eine Auflösung sollte man bei Grafiken für eine Arbeit, die schliesslich gedruckt wird, etwa verwenden?
Pixelauflösung von mindestens 300 Pixel pro Zoll (dots per inch, abgekürzt dpi; ein Inch ist), besser ist 600 dpi
Was wurde bei den Frossard Daten in der Vorlesung mit der one-way ANOVA getestet? Nenne H0 und HA
H0 : Der Ertrag der Kombinationen von Sorte und der Düngerstufe variert zufällig, ohne dass eine oder mehrere Kombinationen eine signifikante Auswirkung auf die Ertragsbildung hätte.
HA: Es gibt Kombinationen von Sorte und Düngerstufen, die sich signifikant auf die Ertragsbildung auswirken.
(Werner Eugster 2016)
Was möchten wir mit dem Varianzanalyseoutput zeigen (am Beispiel der Frossard Daten)?
Erstens gibt es den Effekt des Faktors, den wir untersuchen wollen, hier also die Kombination aus Sorte und Düngerstufe.Zweitens gibt es fast sicher zufällige Variationen innerhalb jeder der sechs Gruppen von Da- tenpunkten, die aus je drei Replikationen bestehen. Zufällig deshalb, weil diese Variabilität nicht kontrollierbar ist (="Fehler")
Ertrag = Effekt des untersuchten Faktors + Fehler
Diese Varianzzerlegung (die eine ANOVA durchführt), erlaubt uns, zu ermitteln, ob alle Er- träge, die auf Plots erhoben wurden, aus ein und derselben Population mit dem gleichen Ertrags-Mittelwert μ stammen.
(Werner Eugster 2016)
Warum muss man bei der one way ANOVA (Bsp VL) in R Variety und Fertilizer als Faktoren definieren?
Es sind diskrete Variablen. Würde man sie ncht als Faktoren definieren, hätte das Programm keine andere Wahl, als sie als stetige Variablen zu behandeln. Wir haben aber genau drei Düngerstufen und zwei Sorten, daher keinen kontinuierlichen Verlauf der Einflüsse.
Was macht man mit einem Normal Q-Q-Plot?
Wie sieht diese Verteilung aus?
http://stats.stackexchange.com/questions/52293/r-qqplot-how-to-see-whether-data-are-normally-distributed
Man kann die Verteilung der Variablen und z.T. auch Rückschlüsse über Eigenschaften wie z.B Schiefe der verteilung erkennen.
http://stats.stackexchange.com/questions/52293/r-qqplot-how-to-see-whether-data-are-normally-distributed
Was bedeuten die rot und gelb gekennzeichneten Werte im one-way-ANOVA output (aus VL, R)
rot: Variabilität zwischen den Sorten&Düngung Gruppen
gelb: Schätzung der internen Variabilität innerhalb der Sorten&Düngung Gruppen
Was bedeutet der F-wert im one-way-ANOVA output?
Wie stark unterscheiden sich Variabilität zwischen den Sorten&Düngung Gruppen von der Schätzung der Variabilität innerhalb der Sorten&Düngung Gruppen.
Hier ist der Wert hoch und der Unterschied daher laut unserem Modell sehr hoch! Dies kann man auch am kleinen P-Wert für diese Statistik erkennen.
Wie lauten die Hypothesen des one-way-ANOVA test mit den Frossard Daten und was kann man aus dem R-Output folgern?
H0 : Der Ertrag der Kombinationen von Sorte und der Düngerstufe variert zufällig, ohne dass eine oder mehrere Kombinationen eine signifikante Auswirkung auf die Ertragsbildung hätte.
HA: Es gibt Kombinationen von Sorte und Düngerstufen, die sich signifikant auf die Ertragsbildung auswirken.
Der sehr kleine P-wert deutet auf einen nicht-zufälligen Unterschied zwischen den beiden Varianzen hin. Wir verwerfen hier die Nullhypothese, falls wir davon ausgehen, dass unsere Modellannahmen stimmen.
Was macht der Tukey-HSD Test?
Mit dem Tukey-Test die Signifikanz der paarweisen Vergleiche bestimmen. Der Tukey HSD Test (HSD steht für Honest Significant Difference) macht genau dies.
-->Jeweils zwei „Behandlungsstufen“ werden miteinander verglichen, und es wird getestet, ob die Differenz signifikant verschieden von Null ist.
(Werner Eugster 2016)
Interpretiere diesen Plot der Frossard Daten
(Werner Eugster 2017)
Abbildung . : Tukey’s Honest Significant Difference Test für den paarweisen Vergleich der Mittelwerte aller Gruppen. Liegt die Nulllinie innerhalb des Unsicherheitsbereichs eines Vergleichs, sind die Erträge nicht si- gnifikant (p 0.05) verschieden. Diese Analyse zeigt uns, dass die Unterschiede zwischen den beiden Sorten ohne Düngung nicht signifikant sind. Und bei beiden Sorten ist der Unterschied von zu kg N ha– yr– nicht signifikant. D.h. hier hat der zusätzliche Dünger nichts bewirkt.
aka.: Ist 0 im 95% Vertrauensintervall => Effekt laut Analyse nicht signifikant.
(Werner Eugster 2017)
was will man man mit der kumulativen F-Verteilung ?
Wahrscheinlichkeit zeigen, dass ein zufälliger F-Wert ≥ einem gegebenen (aus Experiment ermittelten) F-Wert ist.
ODER:
Wahrscheinlichkeit zeigen, dass ein zufälliger F-Wert ≤ einem gegebenen (aus Experiment ermittelten) F-Wert ist.
Was will man mit einem "Tukey HSD Post hoc Test mit Buchstaben" anstellen?
Der paarweise Vergleich der Ergebnisse wird allgemein als Post hoc Test bezeichnet, wobei der Tukey Honest Significant Difference Test eine der Möglichkeiten darstellt, die für unsere Daten geeignet ist.
Im Gegensatz zum Output von TukeyHSD() werden hier die typischen Symbole für die Signi- fikanzniveaus der Unterschiede angezeigt, was bereits einen besseren Überblick ermöglicht.
Abbildung . : Tukey’s Honest Significant Difference Test für den paarweisen Vergleich der Mittelwerte aller Gruppen mit Buchstaben zur Unterscheidung von signifikant unterschiedlichen Gruppen. Boxplots, die den glei- chen Buchstaben erhalten haben, unterscheiden sich nicht signifikant (p 0.05).
(Werner Eugster 2017)
Zweifaktorielle Varianzanalyse (two-way ANOVA). Wieso Experimente mit mehr als einem Faktor?
Experimente, die gleichzeitig den Effekt von mehr als einem Faktor auf eine bestimmte Er- gebnisvariable berücksichtigen, sind häufig weit aufschlussreicher als solche, die jeden Fak- tor separat varieren (das gilt sowohl für Experimente in einer kontrollierten Labor- oder Gewächshausumgebung wie auch für solche im Freiland), da bei solchen Versuchsanordnungen auch gewisse Kombinationen von Faktoren gefunden werden können, die einen synergisti- schen Effekt zeigen. Dazu kommt der Aspekt, dass es meist auch kostengünstiger und zeit- sparender ist, mehrere Faktoren gleichzeitig in einem Experiment mit mehr als einem Faktor zu erforschen, als wenn man jeden Faktor in einem eigenständigen Experiment untersuchen würde.
(Werner Eugster 2016)
Nenne die Komponenten der zweifaktoriellen Varianzanalyse (two-way ANOVA).
Ergebnisvariable = Faktor A + Faktor B + Interaktion + Fehler
Nenne und vergleiche die Komponenten der zweifaktoriellen Varianzanalyse (two-way ANOVA) mit einfaktorieller Varianzanalyse (one-way ANOVA)
Ergebnisvariable = Faktor A + Faktor B + Interaktion + Fehler
Ergebnisvariable = Effekt der Behandlung + Fehler
set as working directory in R:
setwd()
import data from csv in R:
read.csv("name of file.csv")
import data from file in R:
read.table("name of file")
display data in R:
summary()
show structure of data in R:
str()
import data as matrix in R:
as.matrix()
spalten benennen in R:
col.names(...)<-c("..","..","..")
Variblennamen Übersicht in R:
names()
Dimensionen der Tabelle in R:
dim()
Erste paar Zeilen anschauen in R:
head()
Matrix transponieren in R:
t()
plotten in R:
plot(x,y,...), oder plot(x ~ y)
neuer Plot überlagert alten in R:
par(new=TRUE)
Linie einzeichnen in R:
abline()
Datei als .csv exportieren in R:
write.csv("Name der Datei")
Was sind Metadaten?
Metadaten enthalten Informationen über Merkmale anderer Daten. Beispiel: Schriftart, Farbe der Zelle in einer Excel Datei. Oder Grösse des Datensatzes, Autor des Files, etc.
was ist ein Histogramm?
Summe aller Säulen = 100%, bzw. 1.0
Säulen = Klassen konstanter Breite
Höhe ist proportional zur Anzahl Beobachtungen
----> gut für METRISCHE DATEN
4 Skalenniveus plus Beispiel
Nominal: Farbe, Spezies, Ländernamen
Ordinal: Schlecht < Mittel < Gut
Intervallskala: Temp in Celsius, Klausurnoten
Verhältnisskala: Alter, Körpergrösse, Temp in Kelvin
Bennene Elemente des Boxplots und erkläre ihre statistische Aussage
(behold the boxplot!)
- 1. Quartil: 25% der Daten sind kleiner als dieser Wert, 75% grösser
- Median: genau 50% der Daten sind kleiner und 50% der Daten sind Grösser diesem Wert
- 3. Quartil: 25% der Daten sind grösser als dieser Wert, 75% kleiner
- r = Interquartile range = 50% der Daten (aka. die Box)
Boxplots sind gut um eine èbersicht über die Daten zu erhalten und zu vergleichen. Achtung: Sample size spielt eine grosse Rolle beim Vergleichen von zwei Stichproben!
Wie viele Parameter braucht man, um die normalverteilung eindeutig zu beschreiben?
Zwei
Standardabweichung sigma und Mittelwert Nü
-
- 1 / 55
-
Lernkarten
set as working directory in R:
setwd()
import data from csv in R:
read.csv("name of file.csv")
import data from file in R:
read.table("name of file")
display data in R:
summary()
show structure of data in R:
str()
import data as matrix in R:
as.matrix()
spalten benennen in R:
col.names(...)<-c("..","..","..")
Variblennamen Übersicht in R:
names()
Dimensionen der Tabelle in R:
dim()
Erste paar Zeilen anschauen in R:
head()
Matrix transponieren in R:
t()
plotten in R:
plot(x,y,...), oder plot(x ~ y)
neuer Plot überlagert alten in R:
par(new=TRUE)
Linie einzeichnen in R:
abline()
Datei als .csv exportieren in R:
write.csv("Name der Datei")
Was sind Metadaten?
Metadaten enthalten Informationen über Merkmale anderer Daten. Beispiel: Schriftart, Farbe der Zelle in einer Excel Datei. Oder Grösse des Datensatzes, Autor des Files, etc.
was ist ein Histogramm?
Summe aller Säulen = 100%, bzw. 1.0
Säulen = Klassen konstanter Breite
Höhe ist proportional zur Anzahl Beobachtungen
----> gut für METRISCHE DATEN
4 Skalenniveus plus Beispiel
Nominal: Farbe, Spezies, Ländernamen
Ordinal: Schlecht < Mittel < Gut
Intervallskala: Temp in Celsius, Klausurnoten
Verhältnisskala: Alter, Körpergrösse, Temp in Kelvin
Bennene Elemente des Boxplots und erkläre ihre statistische Aussage
(behold the boxplot!)
- 1. Quartil: 25% der Daten sind kleiner als dieser Wert, 75% grösser
- Median: genau 50% der Daten sind kleiner und 50% der Daten sind Grösser diesem Wert
- 3. Quartil: 25% der Daten sind grösser als dieser Wert, 75% kleiner
- r = Interquartile range = 50% der Daten (aka. die Box)
Boxplots sind gut um eine èbersicht über die Daten zu erhalten und zu vergleichen. Achtung: Sample size spielt eine grosse Rolle beim Vergleichen von zwei Stichproben!
Wie viele Parameter braucht man, um die normalverteilung eindeutig zu beschreiben?
Zwei
Standardabweichung sigma und Mittelwert Nü
Was ist R2 einer linearen Regression und was sagt es aus?
\(R{^2} = {\text{Durch das Modell erklärte Varianz} \over \text{Gesamtvarianz}} \) \( R^2\in [0:1] \)
Beurteilung der Güte der Regression, aka: Wie viel der Varianz in den Daten wird durch das Modell erklärt? Je näher der Wert bei 1 ist, desto besser.
Wann muss man einen Nicht-parametrischen test machen?
Wenn man keine Annahmen über die theoretische Verteilung hat, sondern nur die Daten selbst.
merke: man kann bei allen Daten einen nicht-parametrischen Test machen. Hat man jedoch Annahmen zur theoretischen Verteilung und deren Parameter vor, hat ein parametricher Test eine grössere Aussagekraft.
Was macht man mit einem t-Test?
Unterschiede im Mittelwert testen.
H0:µb=µc
HA:µb≠µc
--> gepaarter, oder ungepaarter T-Test je nach Art der Stichproben
Wann wird die Nullhypothese verworfen?
Wenn der P-wert ≤ Signifikanzniveau \(\alpha \)
Was ist ein Fehler 1.Art?
Nullhypothese verwerfen, obwohl sie richtig ist.
Es ist wichtig, zu realisieren, dass ein Fehler . Art nur dann auftreten kann, wenn die Null- hypothese richtig wäre. Wenn hingegen die Alternativhypothese richtig ist, dann ergibt sich absolut kein Risiko, einen Fehler . Art zu begehen. (Werner Eugster)
Was ist der Fehler 2.Art?
Nullhypothese behalten, obwohl sie falsch ist.
was macht man mit einem t-Test?
Dass die Mittelwerte gleich sind, sich die Sampels also nicht signifikant voneinander unterscheiden und aus der gleichen Population stammen.
- Nulhypothese: Mean1 = Mean2
- Alternativhypothese: Mean1 ≠ Mean2.
Kann gepaart, oder ungepaart sein.
Annahmen:Variablen unabhängig voneinaner,(gepaart: paare sind unabhängig voneinander), normalverteilung, gleiche varianz. --> parametrischer test.
Was misst der Wilcoxon Rangsummen Test?
The Wilcoxon rank-sum test is a nonparametric alternative to the twosample t-test which is based solely on the order in which the observations from the two samples fall. We will use the following as a running example.
Wie lautet der R Befehl für den Wilcoxon Test?
wilcox.test()
Was testet man mit dem Shapiro-Wilk test?
Test auf Normalverteilung.
H0: Daten sind normalverteilt
HA: Daten sind nicht normalverteilt
Kann man Hypothesen beweisen?
Nein, man kann sie nur verwerfen oder Hinweise finden, die für die Hypothese sprechen.
Was ist das Anscombe Quartett?
Das Anscombe-Quartett besteht aus vier Mengen von Datenpunkten, die nahezu identische einfache statistische Eigenschaften haben, aber aufgetragen sehr verschieden aussehen. Jede dieser vier Mengen besteht aus elf (x,y)-Punkten. Diese vier Mengen wurden im Jahre 1973 von dem englischen Statistiker Francis Anscombe konstruiert, um die Bedeutung einer graphischen Datenanalyse herauszustellen und die Effekte von Ausreißern zu demonstrieren.[1]
(Wikipedia)
Was ist ein Tukey-Anscombe-Diagramm?
Plotten von residuals vs. fitted residuals. Es ist die Darstellung der Residuen und ihrer Streuung um den Nullpunkt. Man prüft die Güte des Modells und dabei, ob man es mit Problemen wie etwa Autokorrelation, Heteroskedascity etc. zu tun hat. Die Varianz der Punkte sollte entlang der X-Achse relativ gleich bleiben, sonst hat man ein Problem mit dem Modell und den Annahmen.
Was ist der F-ratio?
Varianz des Treatments/Varianz des Errors
Explain the confidence interval?
A confidence interval is a range of values that is likely to contain an unknown population parameter. If you draw a random sample many times, a certain percentage of the confidence intervals will contain the population mean. This percentage is the confidence level (konfidenzniveau)
Most frequently, you’ll use confidence intervals to bound the mean or standard deviation, but you can also obtain them for regression coefficients, proportions, rates of occurrence (Poisson), and for the differences between populations.
Just as there is a common misconception of how to interpret P values, there’s a common misconception of how to interpret confidence intervals. In this case, the confidence level is not the probability that a specific confidence interval contains the population parameter.
The confidence level represents the theoretical ability of the analysis to produce accurate intervals if you are able to assess many intervals and you know the value of the population parameter. For a specific confidence interval from one study, the interval either contains the population value or it does not—there’s no room for probabilities other than 0 or 1. And you can't choose between these two possibilities because you don’t know the value of the population parameter.
You can use either P values or confidence intervals to determine whether your results are statistically significant. If a hypothesis test produces both, these results will agree.
The confidence level is equivalent to 1 – the alpha level. So, if your significance level is 0.05, the corresponding confidence level is 95%.
- If the P value is less than your significance (alpha) level, the hypothesis test is statistically significant.
- If the confidence interval does not contain the null hypothesis value, the results are statistically significant.
- If the P value is less than alpha, the confidence interval will not contain the null hypothesis value.
What is the Kruskal-Wallis test?
Wie beim Vergleich von Mittelwerten gibts beim Varianztest zwei Varianten, den parametrischen F-Test (Abschnitt . ) und den nichtparametrischen Kruskal-Wallis-Test.
1. used to compare two or more independent groups on a DV.with rank-ordered (ordinal) data
2. nonparametric alternative to one-way ANOVA
what is the Chi square test?
c2
1. used to analyze nominal data
2. compares observed frequencies to frequencies that would be expected under the null hypothesi
What is the Mann-Whitney U test?
1. compares two independent groups on a DV measure with rank-ordered (ordinal) data
2. nonparametric equivalent to a t-test
Was bedeutet der F-wert im Regresionsoutput?
Im Unterschied zum Bestimmtheitsmass r2 messen wir hier also den durch die Regression erklärten Anteil QS(y^) der Gesamtvarianz am Anteil der zufälligen Restvarianz QS(e) im Modell.
Wenn also F = ist, dann heisst das, dass die erklärte Varianz genau dem Wert der nicht erklärten Varianz entspricht, also kein berauschendes Forschungsergebnis. Wenn ich jedoch ein deutlich besseres Verhältnis zwischen erklärter und nicht erklärter Varianz erhalte, dann gewinne ich deutlich an Aussagekraft mit meinem Regressionsmodell.
(Werner Eugster)
Welche typen von Grafiken gibt es?
Vektorformat und Pixelformat
