ML

    Eine Wahrscheinlichkeit, die sich auf einen Zustand nach einem durchgeführten Verfahren bezieht
    (z. B. nach einem diagnostischen Test oder einem Screening). Der Berechnung liegt das Bayes-Theorem zugrunde.
    Die a-posteriori-Wahrscheinlichkeit hängt ab von der a-priori-Wahrscheinlichkeit sowie der Sensitivität und der Spezifität.

•     Funktionsweise (grob)
•     Nachbau menschlicher Nervenzellen
•     Eine oder mehrere binäre Eingaben
•     Eine binäre Ausgabe
•     Neuron feuert, wenn Anzahl Eingänge anliegen
•     -> Nachbildung logischer Funktionen

• Verwendet mehrere Linear Threshold Units (LTUs)
• Ein Perceptron = lineare Regression
• Input: beliebige numerische Werte
• Anwendung einer Treppenfunktion auf die Summe gewichteter Eingabewerte

•     Heaviside -> Werte (0,1)
•     Signum -> Werte (-1,0,1)

•     Verbindung verstärkt sich, wenn Neuron A Neuron B oft stimuliert

•     Backpropagation Algorithmus

• Netz erzeugt für einen Eingabevektor eine Ausgabe
• Vergleich Ausgabe mit gewünschter Ausgabe -> Berechnung des Fehler
• Ausgabe abhängig von Gewichten (Fehlerfunktion = Funktion der Gewichte)
• Suche nach optimalen Gewichten zur Minimierung des Fehlers des Netzes
• Suche nach dem Minimum der Fehlerfunktion
• -> Gradientenabstieg

• „Gradientenabstieg mit reverse mode
• Klassifikation mit Trainingsdatensatz und aktuellen
• Vergleich Ausgabe mit Trainingslabels (Bestimmung Fehler)
• Fehler wird rückwärts durch Schichten geführt
• Man erkennt, welche Verbindung welchen Fehleranteil verursacht
• Gewichte werden entsprechend aktualisiert

•     Aktivierungsfunktion sind ableitbare Funktionen

•     Gradienten können sehr klein werden (-> kein Trainingsfortschritt mehr)
•     Gradienten können auch sehr groß werden
•     Bei großen Netzen viele freie Parameter (Gefahr des Overfittings)
•     Lange Trainingsdauer, schwer einzuschätzen

•     TP: true positives
•     TN: true negatives
•     FP: false positives
•     FN: false negatives
•     Daraus abgeleitet
  • True positive rate (TP/P) 
  • True negative rate (TN/N) 
  • Precision (TP/AP)

•     Fully-connected (bisher)
•     Convolutional Layers (Faltungsschichten)
•     Pooling Layers (Sammelschichten)

• Unüberwachtes Lernen
• Meist ist die Zahl der Klassen vorgegeben
• Verwendung eines gaußschen Mischmodells (Gaussian Mixture Model, GMM), um die Gesamtheit der Daten zu beschreiben.
• Clustering mit Gaussian Mixture Model
• ein GMM anpassen auf die Gesamtheit der Merkmalsvektoren, Vektoren die zu einer Gaußkomponente gehören, bilden ein Cluster.
• diese Cluster können anschließend auch für die Klassifikation verwendet werden

• Ortinformationen gehen verloren
• sehr stark von der Beleuchtung abhängig

unabhängiges Validieren der Daten nicht mehr möglich

• Euklidische Norm:
• Minkowski Norm:
• mit p=1 Manhattan Distanz, p=2 euklidische Norm, p=unendlich Maximaldistanz

• Datenfehler: fehler in Trainingsdaten (Rauschen, falsche Labels)
• Bias: Fehler durch falsche Annahmen
• Varianz: hohe Auswirkungen bei kleinen Schwankungen (Gefahr des Overfittings)

• Batch Gradient Descent
  • Berechnung der Gradienten aller Trainingsvektoren (langsam)
•     Stochastic Gradient Descent
  • Berechnung der Gradienten mit zufälligem Trainingsvektor
•     Mini-Batch-Gradient-Descent
  • Berechnung der Gradienten mit einem zufällig gezogenem Subset aller Trainingsvektoren

• Ausreichend
• Repräsentative Daten (alle Klassen, alle
• Relevante Eigenschaften müssen ersichtlich sein (gute
• Gute Qualität der Daten (Datensätze vollständig, keine falschen
• Wertebereiche der einzelnen Merkmale passend (evtl. müssen Merkmale skaliert werden)

• Beschreibt die Struktur einer Oberfläche 
• Abhängig von Lichtverhältnissen, Sichtwinkel und Abstand 
• Lokale und globale Anordnung der Pixel wichtig
• Meist nur Betrachtung der Grauwerte, evtl. auch der Farbe

• Basiert auf Co-occurence Matrix der Grauwert eines
• Beschreibt benachbarte Auftreten von Grauwerten in einer bestimmten Nachbarschaft

• Input ist eine Matrix
• Schaue wie oft Grauwert nebeneinander liegt
• Dies wird mit 4 Matrizen gemacht (0,45,90,135 Grad)
• Für 14 Merkmale gibt es Algorithmen, die man auf die Matrizen anwenden muss

• Haben zirkular umliegende Pixel eines Pixels größere Grauwerte
• Jeder umliegende Pixel wird mit dem aktuellen verglichen
• Wenn Pixel größerer Grauwert, dann 1 reinschreiben, sonst 0
• Bitmuster (z.B. edge) einer bestimmten Umgebung kann man nun im Bild markieren

• Bild glätten (lokale Unebenheiten entfernen)
• Grauwertgradienten im Bild berechnen; Faltung des Bildes mit Sobel Filter
• Bestimmung der Gradientenstärke und Richtung der Gradienten (nur 4 Richtungen)
• Unterdrückung von Pixeln, die in der Gradientenrichtung kein Maximum bilden (=Non Maximum Supression)
• -> Kandidaten für Pixel Kanten
• Schwellwertansatz (Schwache Kanten entfernen)

•     Laplacian of Gaussian (LoG) dectector
•     Hessian Laplace Detector
•     Difference of Gaussian

• Methode: Grauwertgradienten im Bild betrachten
• Bestimmung durch Ableiten
• Anwendung des Gauss Filters mit verschiedenen Skalen
• -> größte normalisierte Antwort könnte Interest Point sein

• Bestimmung Hauptgradienten der Region, damit Rotation des Bildausschnittes in Normposition
• Unterteilung der Region in 4x4 Quadranten
• Bestimmung der Gradientenrichtung in jedem Quadranten an 4x4 Stellen
• Berechnung Histogramm der Gradientenrichtungen pro Quadrant in 8 Richtungen 
• Concat der Histogrammeinträge -> Featurevektor hat 4x4x8 = 128 Einträge

• GLOH (Gradient Location and Orientation
  • Verwendet Polarkoordinaten bei der Erstellung der Histogramme
• SURF (Speed Up Robust Features)
  • Statt Gaußfilter warden MIttelwertfilter
  • Berechnung dann mit Integralbildern

•     Vereinfachung des Modells (Vermeidung Overfitting)
•     Reduzierte Datenmenge
•     Reduzierte Trainingszeiten
•     Vermeidung des „Curse of Dimensionality“