Kursbeschreibung
Erfahren Sie als Python-Entwickler*in in unserem Kurs zu Deep Learning mit Pytorch alle notwendigen Kenntnisse über das Framework Pytorch sowie den grundlegenden Netzwerktyp bei Deep Learning, den Multilayer Perzeptrons und den Conventional Neural Networks, welche vor allem bei Bilddaten Verwendung finden.
Unser/-e Trainer*in demonstriert Ihnen im Laufe des Kurses vollständige Beispiele mit Trainingsschleife, Testläufen, Ausgabe der Losswerte und Visualisierungen.
Zielgruppe
- Python-Entwickler+innen
Voraussetzung für die Schulung
- Versiert im Umgang mit Python und Numpy
- Bewährt durch Arbeit an komplexen Softwareprojekten
- Erfahrung mit Jupyter-Notebooks
- Machine-Learning-Erfahrung NICHT erforderlich
Kursinhalte
Lineare Regression
- Beschreibung der Problemstellung
- Implementierung mit Python und Numpy
- Back-Propagation
- Gradient Descent – Optimierungsverfahren
- Visuelle Aufbereitung mit Matplotlib
- Variante Logistic-Regression zur Klassifizierung
Mathematische Grundlagen
- Vektoren und Linearkombinationen
- Matrizen und lineare Transformationen
- Partielle Ableitungen
- Analysis in höheren Dimensionen
- Kettenregel und andere Regeln
- Geometrische Intuition
- Häufig benutzte Funktionen
Neural Networks
- Pytorch: Historische Entwicklung
- Tensor als Basistyp mit Operationen
- Automatische Gradienten-Berechnung
- Ausführliche Behandlung der Dimensionierung
- DataSet, DataLoader und ImageFolder
- Standard-Datensätze wie MNIST
- nn.Module als Basisbaustein
- Multilayer Perceptron als grundlegender Netzwerktyp
- Nichtlineare Aktivierungsfunktionen: Sigmoid, Softmax, ReLU u.a.
- Loss-Funktionen
- Optimizer: SGD, Adam und Weitere
- Trainingsschleife, Validation-Set
- Underfitting und Overfitting
- Visualisierung mit TensorBoard
Convolutional Neural Networks
- Basistyp zur Bildklassifizierung
- Abgrenzung zu RNN und Transformer
- Vorbereitung der Bilddaten (Transforms)
- Convolution-Layer in Pytorch im Detail
- Training mit GPUs zum Beispiel Google Colab
- ImageNet: Wettbewerb und Bild-Datenbank
- Wichtige Architekturen: AlexNet, VGG, ResNet, ResNeXt
- Varianten von Transfer-Learning
- Auto-Encoders