HSLU DL4G HS20

• Mischung zwischen Supervised und Unsupervised Learning
• Wird meist benutzt, wenn eine kleine Anzahl gelabelter Daten zur Verfügung steht
   

• Keine Daten stehen zur Verfügung
• Der Algorithmus wird durch eine Reward Funktion geleitet
• Das ideale Verhalten wird gesucht, um die Reward Funktion zu maximieren
   

• Schlechtes Design, mangelhafte oder inkonsistente Datenformate
• Programmierfehler oder technische Probleme
• Alter der Daten (bspw. ungültige E-Mail-Adressen)
• Schlechte Dateneingabemasken (fehlende Validierung bei Erfassung der Daten)
• Menschliche Fehler beim Datenexport
• Ungültige oder falsche Informationen
   

• Datenquellen und deren Zuverlässigkeit überprüfen
• Statistische Kennzahlen interpretieren und überprüfen
• Visuelles Überprüfen eines Datenauszugs
• Manuell Datenbereiche überprüfen (bspw. negative Löhne)
• Plausibilität von Zusammenhängen überprüfen
• Redundanz der Daten messen
• Abweichungen in Syntax und Semantik der Daten
• NULL-Werte und doppelte Daten untersuchen
   

1. Daten in Testdaten und Trainingsdaten aufteilen
2. Klassifikator auf den Trainingsdaten trainieren
3. Klassifikator anhand der Testdaten bewerten

Funktioniert nur mit vielen Daten und wenn die Hyperparameter festgelegt sind
 

• ca. 70-80% Trainingsdaten
• ca. 20-30% Testdaten
   

• Daten zufällig mischen
• Daten aufteilen in Training und Test
• Training- und Testdaten müssen disjunkt sein (keine gemeinsamen Elemente)
   

Minimierung einer Kostenfunktion auf den Trainingsdaten durch Anpassen der Modellparameter
 

Nur eine Auswertung auf unbekannten Daten ermöglicht, die Leistung eines Modells festzustellen
 

• Steht für K-Nearest Neighbors
• Ist ein sehr einfacher Machine-Learning-Algorithmus
• Bei k = 1 wird das Label des nächstgelegenen Trainingspunkt verwendet
• Bei k > 1 findet ein Mehrheitsbeschluss der nächsten k Nachbarn statt
   

• Entscheidungen, die vom Menschen getroffen werden
• Zum Beispiel: Angleichung an eine lineare Funktion
   

• Anzahl Nachbarn bei k-NN
• Regularisierung der Parameter
• Kernel einer Support-Vektoren-Maschine
• Baumtiefe und Selection-Policy im Entscheidungsbaum
• Anzahl Layers, Neuronen, Aktivierungsfunktion, Dropout bei Deep Learning
   

1. Daten aufteilen in 60% Training, 20% Validation und 20% Test
2. Über alle interessanten Hyperparameter-Konfigurationen iterieren
3. Modell anhand der ausgewählten Hyperparameter auf den Trainingsdaten trainieren
4. Modell auf dem Validation-Set überprüfen und Leistung messen
5. Modell mit der besten Leistung auswählen und auf den Testdaten Leistug messen

Diese variante benötigt ziemlich viele Daten

• Falls zu wenig Daten vorhanden sind
• Aufteilen in 80% Training und 20% Test
• Training aufteilen in k Folds (bspw. 10)
• Jeder Fold ist einmal das Validation-Set
• Die restlichen Folds werden als Trainingsdaten verwendet
• Schlussendlich den Mittelwert über alle Folds ziehen
   

Gleiche Verteilungen über Test- und Trainings-Set
 

• Wenn Kurven weit auseinander sind, hilft es wenn man mehr Daten nutzt
• Wenn Kurven parallel sind, dann bringt es ziemlich sicher nichts

• Realität war:
  • TP = true-positive
  • FN = false-negative
• Realität falsch:
  • TN = true-negative
  • FP = false-positive

\(TP+TN \over Total\) 

TP= true-positive

TN= true-negative

\({FP + FN \over Total}=1-Accuracy\)

FP= false-positive

FN= false-negative

• Artificial Intelligence (regelbasiert / MCTS)
• Machine Learning (Training auf Daten mit festgelegten Features)
• Deep Learning (Lernen der Features aus den Daten)
   

• Ein Computerprogramm lernt aus der Experience E...
•  ...mit Rücksicht auf eine Klasse von Tasks T und Performance Measures P...
•  ...wenn es Tasks in T durchführt, gemessen an P, seine Experience E verbessert.
   

• Tasks (T)
  • Trumpf auswählen
  • Karte auswählen
  • Werte der Karten
  • Punkte im Spiel

• Performance Measure (P)
  • Anzahl Gewinne / Punkte
  • Vergleich mit Daten
     

• Experience (E)
• Spielen
• Daten lesen
   

Regression & Classification
 

• Input Layer
• Hidden Layer
• Output Layer

• Inputs (x₁, x₂, ...)
• Internen Parameter ()
• Funktion, die den Output basierend auf dem Parameter berechnet
   

Ein (1) Training des gesamten Datensets
 

• Sigmoid für eine binäre Klassifizierung
• relu für Nodes innerhalb eines Netzwerks
• Aktivierungsfunktion sollte nicht linear sein
   

• Ist die Funktion, welche durch das Lernen minimiert werden soll
• Häufig wird eine Likelihood-Funktion verwendet
   

• 1-hot encoded Array für Labels
  Letzter Layer mit softmax Funktion (für Normierung)
   

• Besteht aus mathematischen Knoten
• Knoten haben Inputs und Outputs
• Knoten sind organisiert in Layers
• Knoten berechnen aus Inputs und Parameter einen Output
• Knoten haben lineare Funktion (Gewicht, Bias, Input)
• Auf Funktion wird eine Aktivierungsfunktion angewendet (sigmoid, relu)
   

• Parameter werden während dem Training definiert
• Danach nur noch Layer für Layer durchrechnen
   

• Grundsätzlich eine Fehlerfunktion
• Die Funktion, welche während dem Training minimiert werden soll