Aus gegebenen Daten werden Modelle Kennzahlen und neue zusammenhänge ermittelt

Rohdaten Vorverarbeitung gefilterte Daten Methoden anwenden Erkenntnisse (Wiederverwendung um Vorverarbeitung und Methoden zu optimieren) [anpassung domain knowledge]

Überwachtes lernen von Entscheidungsbäumen Einteilung des Merkmalraumes mit achsparallelen Geradenstücken Entscheidend ist an welchem Merkmal Baum aufgeteilt wird. (Heuristik ist der Informationsgewinn mittels Schannon berechet). Zusätzlich normieren, um einen ausgeglichenen Baum zu erhalten.

Intelligente Datenanalyse - KIT

Intelligente Datenanalyse (IDA) KIT

0.0 (0)

M. H.

Study

M. H.

About these flashcards

Diese Lernkarten behandeln fortgeschrittene Techniken der Datenanalyse auf Universitätsniveau. Sie decken Methoden wie Support Vector Machines (SVM), neuronale Netze (NN), Hauptkomponentenanalyse und Entscheidungsbäume ab. Die Karteikarten erläutern die Vorbereitung von Daten, die Interpretation von Ergebnissen und die Anwendung verschiedener Algorithmen zur Lösung komplexer Probleme. Sie richtet sich an Studierende und Forscher, die vertiefte Kenntnisse in der Analyse und Interpretation von Daten erwerben möchten.

Flashcards

Students

Language

German

Flashcards

Was ist IDA?

Aus gegebenen Daten werden

Modelle
Kennzahlen und
neue zusammenhänge

ermittelt

Vorgehen bei IDA?

Rohdaten
Vorverarbeitung
gefilterte Daten
Methoden anwenden
Erkenntnisse (Wiederverwendung um Vorverarbeitung und Methoden zu optimieren) [anpassung domain knowledge]

Methoden der Daten-Vorverarbeitung

Markmalsextraktion
Dim. Reduktion
Daten Reduktion
Normierung

SVM (Support Vector Machine)

Lineare trennung von zwei Klassen

Ähnlich wie bei MLP, aber nun soll die Hyperebene den max. Abstand zu beiden klassen haben

Dies ist equivalent zur Minimierung des Normalenvecktors der Hyperendene unter der Nebenbedingung, das dieser die beiden Klassen trennt.

Dann Langrange anwenden

Methoden zur Datenreduktion

Ranking
Hauptkomponentenanalyse
Filtern

Probleme bei der Datenreduktion?

Ranking

man weiß im vorhinein nicht, welche Daten wirklich entscheidend sind

Hauptkomponentenanalyse

(Zeichnung mit gekippter Ellipse)

Problem bei der Hauptkomponentenanalyse?

Achsen werden verdreht
- Interpretation schwierig
- da nicht bekannt ist, was neue Achsen bedeuten.

SOM: Für was sind die da?

Klassifikation

SOM: Probleme?

Je nach Engmaschicgkeit unterschiedliche Ergebnisse möglich

NN: warum kann ein NN zur datenanalyse verwendet werden?

Universeller Approximator

das geht wenn man beliebig viele Neuronen in der Zwischenschicht zuläst

NN: Warum muss es ein universeller Approximator sein?

Ansonsten ist das Ergebniss nicht bestimmbar

Wie funktioniert SVM?

Lineare Zweiteilung von Daten mittels Hyperebene.
Optimierungsproblem wird gelöst mit Lagrange
Lösung mit Gradientenabstiegsverfahren annähern.

Wie funktioniert Lagrange?

lambda

SVM: was machen wenn daten nicht linear trennbar sind?

Date streichen
weiche Trennung
höhere Dim (über Kernel Fkt)
- aber problem der rechenkapazität und speicherbedarf
  - kernelfunktionen

SVM Welche Kernelfunktionen?

z.B polynominale Kernel, bestimmung durch ausprobieren,

meistens ist es aber egal welchen man nimmt

Vorteil von Kernen: man muss weder die Abbildung berechnen noch die Daten im höher dim raum

SVM: warum funktionieren kernelfunktionen

nur skalare bei Lagrange.

Vorgehensweise von Statistik?

Auswahl Wahrscheinlichkeitsmodell
Anpassungstest
Schätzung unbekannter Parameter
Test von Hypothesen

Vorbereitung von Statistik

merkmals extraktion
transformation
dimensions reduktion
daten reduktion

NEFClass

Fuzzy Regeln mittels NN lernen.

Fuzzy Regeln werden auf Neuronen, Parameter der Zugehärigkeitsfunktion (nur Dreiecke erlaubt) auf Gewichte abgebildet.

Idee: Bündeln von Verbindungen gleicher Zugehörigkeitsfkt um später linguistische Variablen anwenden zu können.

Nachteil: Überlappungen der Zugehörigkeitfunktionen können Interpretation erheblich erschweren

Fehler arten?

1. Art: (für H1 entschieden obwohl H0 vorliegt)

2. Art: (für H0 entschieden obwohl H1 vorliegt) Fehler 2. Art mittels kritischen Bereichs unter signifikanzniveau halten.

NN: wie wird gelernt? Was ist dabei wichtig?

Gelernt wird durch Backpropagation: Fehlerfunktion berechnen und mit Gradientenabstiegsverfahren minimieren.

Wichtig: Interpretierbarkeit

Unterschied zu DataMining

DM:

Daten in Datenbank
Ziel: finden neuer Zusammenhänge

Grundvoraussetzung bei Statistischen Methoden

Vorleigende Daten stammen aus echtem Zufallsexperiment

NN: Interpretierbarkeit

Einzelnes Neuron stellt Hyperebene dar.
Das gesammte NN die Schnittmenge der gebildeten Teilräume.
Schwer zu interpretieren; gewünscht wären lokale Eigenschaften und achsparallele Trennung, wie bei RBF (Aktivierungsfunktion Gauß Glockenfunktion -> lokal, aber Kreise).
Ausweg: RecBF (Kernbereich/Einflussbereich)

C4.5

Überwachtes lernen von Entscheidungsbäumen
Einteilung des Merkmalraumes mit achsparallelen Geradenstücken
Entscheidend ist an welchem Merkmal Baum aufgeteilt wird. (Heuristik ist der Informationsgewinn mittels Schannon berechet).
Zusätzlich normieren, um einen ausgeglichenen Baum zu erhalten.