c2b_default

Intelligente Datenanalyse - KIT

Intelligente Datenanalyse (IDA) KIT

Intelligente Datenanalyse (IDA) KIT

27
0.0 (0)
M. H.
Étudier
M. H.
Diese Lernkarten behandeln fortgeschrittene Techniken der Datenanalyse auf Universitätsniveau. Sie decken Methoden wie Support Vector Machines (SVM), neuronale Netze (NN), Hauptkomponentenanalyse und Entscheidungsbäume ab. Die Karteikarten erläutern die Vorbereitung von Daten, die Interpretation von Ergebnissen und die Anwendung verschiedener Algorithmen zur Lösung komplexer Probleme. Sie richtet sich an Studierende und Forscher, die vertiefte Kenntnisse in der Analyse und Interpretation von Daten erwerben möchten.
Cartes-fiches
27
Utilisateurs
2
Langue
Allemand
Catégorie
Informatique
Niveau
Université
Créé / Mis à jour
09.02.2013 / 18.06.2017
  • 1  / 27

Cartes-fiches

Was ist IDA?

Aus gegebenen Daten werden

  • Modelle
  • Kennzahlen und
  • neue zusammenhänge

ermittelt

Vorgehen bei IDA?

  1. Rohdaten
  2. Vorverarbeitung
  3. gefilterte Daten
  4. Methoden anwenden
  5. Erkenntnisse (Wiederverwendung um Vorverarbeitung und Methoden zu optimieren) [anpassung domain knowledge]

Methoden der Daten-Vorverarbeitung

  • Markmalsextraktion
  • Dim. Reduktion
  • Daten Reduktion
  • Normierung

SVM (Support Vector Machine)

Lineare trennung von zwei Klassen

Ähnlich wie bei MLP, aber nun soll die Hyperebene den max. Abstand zu beiden klassen haben

Dies ist equivalent zur Minimierung des Normalenvecktors der Hyperendene unter der Nebenbedingung, das dieser die beiden Klassen trennt.

Dann Langrange anwenden

Methoden zur Datenreduktion

  • Ranking
  • Hauptkomponentenanalyse
  • Filtern

Probleme bei der Datenreduktion?

Ranking

man weiß im vorhinein nicht, welche Daten wirklich entscheidend sind
Hauptkomponentenanalyse

(Zeichnung mit gekippter Ellipse)

Problem bei der Hauptkomponentenanalyse?

  • Achsen werden verdreht
    • Interpretation schwierig
    • da nicht bekannt ist, was neue Achsen bedeuten.

SOM: Für was sind die da?

Klassifikation

SOM: Probleme?

Je nach Engmaschicgkeit unterschiedliche Ergebnisse möglich

NN: warum kann ein NN zur datenanalyse verwendet werden?

Universeller Approximator

  • das geht wenn man beliebig viele Neuronen in der Zwischenschicht zuläst

NN: Warum muss es ein universeller Approximator sein?

Ansonsten ist das Ergebniss nicht bestimmbar

Wie funktioniert SVM?

  • Lineare Zweiteilung von Daten mittels Hyperebene.
  • Optimierungsproblem wird gelöst mit Lagrange
  • Lösung mit Gradientenabstiegsverfahren annähern.

Wie funktioniert Lagrange?

lambda

SVM: was machen wenn daten nicht linear trennbar sind?

  • Date streichen
  • weiche Trennung
  • höhere Dim (über Kernel Fkt)
    • aber problem der rechenkapazität und speicherbedarf
      • kernelfunktionen

SVM Welche Kernelfunktionen?

z.B polynominale Kernel, bestimmung durch ausprobieren,

meistens ist es aber egal welchen man nimmt

Vorteil von Kernen: man muss weder die Abbildung berechnen noch die Daten im höher dim raum

SVM: warum funktionieren kernelfunktionen

nur skalare bei Lagrange.

Vorgehensweise von Statistik?

  1. Auswahl Wahrscheinlichkeitsmodell
  2. Anpassungstest
  3. Schätzung unbekannter Parameter
  4. Test von Hypothesen

Vorbereitung von Statistik

  • merkmals extraktion
  • transformation
  • dimensions reduktion
  • daten reduktion

NEFClass

Fuzzy Regeln mittels NN lernen.

Fuzzy Regeln werden auf Neuronen, Parameter der Zugehärigkeitsfunktion (nur Dreiecke erlaubt) auf Gewichte abgebildet.

Idee: Bündeln von Verbindungen gleicher Zugehörigkeitsfkt um später linguistische Variablen anwenden zu können.

Nachteil: Überlappungen der Zugehörigkeitfunktionen können Interpretation erheblich erschweren

Fehler arten?

1. Art: (für H1 entschieden obwohl H0 vorliegt)

2. Art: (für H0 entschieden obwohl H1 vorliegt) Fehler 2. Art mittels kritischen Bereichs unter signifikanzniveau halten.

NN: wie wird gelernt? Was ist dabei wichtig?

Gelernt wird durch Backpropagation: Fehlerfunktion berechnen und mit Gradientenabstiegsverfahren minimieren.

Wichtig: Interpretierbarkeit

Unterschied zu DataMining

DM:

  • Daten in Datenbank
  • Ziel: finden neuer Zusammenhänge

Grundvoraussetzung bei Statistischen Methoden

Vorleigende Daten stammen aus echtem Zufallsexperiment

NN: Interpretierbarkeit

  • Einzelnes Neuron stellt Hyperebene dar.
  • Das gesammte NN die Schnittmenge der gebildeten Teilräume.
  • Schwer zu interpretieren; gewünscht wären lokale Eigenschaften und achsparallele Trennung, wie bei RBF (Aktivierungsfunktion Gauß Glockenfunktion -> lokal, aber Kreise).
  • Ausweg: RecBF (Kernbereich/Einflussbereich)

C4.5

  • Überwachtes lernen von Entscheidungsbäumen
  • Einteilung des Merkmalraumes mit achsparallelen Geradenstücken
  • Entscheidend ist an welchem Merkmal Baum aufgeteilt wird. (Heuristik ist der Informationsgewinn mittels Schannon berechet).
  • Zusätzlich normieren, um einen ausgeglichenen Baum zu erhalten.

NEFClass: Was muß man vor dem lernen machen?

  • Clustern, etwa mittels Ansatz von Wang Und Mendel
  • dann die k-wichtigsten Regeln auf Neuronen abbilden

Étudier