Karteikarten: Effektive Deep-Learning-Techniken verstehen — 19 Karten

Datenaugmentation — Ziel?

Vielfalt der Trainingsdaten erhöhen

Dropout — Zweck?

Overfitting verhindern, Robustheit steigern

Batch Normalization — Funktion?

Zwischenausgaben standardisieren, Training stabilisieren

Tiefe Netzwerke — Vorteil?

Komplexe Funktionen modellieren

Transferlernen — Bedeutung?

Vortrainiertes Modell für neue Aufgabe nutzen

Lernratenplan — Zweck?

Lernrate systematisch anpassen

Verschwinden der Gradienten — Problem?

Frühe Schichten lernen kaum noch

Gradientenabstieg — Ziel?

Minimierung der Verlustfunktion

Backpropagation — Funktion?

Gradienten effizient berechnen

Aktivierungsfunktion — Beispiel?

Sigmoid, ReLU

Datenaugmentation — typische Transformationen?

Flippen, Skalieren, Rotieren

Dropout — Dropout-Rate?

Anteil deaktivierter Neuronen

Batch Normalization — Rauschkomponente?

Mini-Batch-Statistiken, regulierende Wirkung

Tiefe Netzwerke — Problem?

Vanishing Gradient

Transferlernen — Vorteil bei wenig Daten?

Schnellere Entwicklung, bessere Leistung

Lernratenplan — Beispiel?

Stufenweise, exponentiell, linear

Aktivierungsfunktion — Problem der Sigmoid?

Kleine Ableitungen, Vanishing Gradient

Verschwinden der Gradienten — Ursache?

Multiplikation kleiner Ableitungen, Kettenregel

Gradientenabstieg — Hyperparameter?

Lernrate bestimmt Schrittgröße