MET114: Machine und Deep Learning

Kernmodule Elektrotechnik

MET114: Machine und Deep Learning

Kurzporträt MET114: Machine und Deep Learning

Worum geht es? In diesem Modul konzipieren Sie für elektrotechnische Problemstellungen eigene Machine- und Deep-Learning-Lösungen, von klassischen Verfahren über Convolutional- und rekurrente Netze bis zu Transformer- und Attention-Konzepten. Sie implementieren und trainieren diese Modelle in gängigen Frameworks wie PyTorch, experimentieren systematisch mit Architekturen und Hyperparametern und bearbeiten am Ende ein eigenes Projekt mit realistischen Datensätzen.

Wofür braucht man es? Diese Kompetenzen werden gebraucht, um datengetriebene, lernfähige Komponenten in größere elektrotechnische Systeme zu integrieren und ihren Beitrag zu Forschungs- und Entwicklungsaufgaben fundiert zu bewerten. Sie befähigen dazu, Modell- und Designentscheidungen nicht nur zu treffen, sondern in Fachkreisen nachvollziehbar zu begründen und zu verteidigen.

Wieso ist es interessant? Machine und Deep Learning verändern, wie elektrotechnische Systeme Signale interpretieren, Zustände erkennen und Entscheidungen treffen. Wer verstehen möchte, was hinter neuronalen Netzen mathematisch wirklich passiert und wie man sie verantwortungsvoll für reale technische Probleme einsetzt, statt sie als Black Box zu benutzen, bekommt hier einen fundierten und zugleich praxisnahen Zugang.

Modulverantwortung

Prof. Dr. Michael Gref

Lehrperson(en)

Prof. Dr. Michael Gref

Verwendbarkeit

Master Elektrotechnik

Fächergruppe

Ingenieurwissenschaften

Modultyp

Wahlpflicht

Sprache

Deutsch

Angebot

Sommersemester

Dauer

1 Semester

Credits

5 ECTS

Benotung

Deutsche Notenskala 1-5

SWS

2 V | 1 Ü | 1 P | - S

Workload

Präsenzstudium: 45 Std. Selbststudium: 90 Std.

Engl. Titel

Machine and Deep Learning

Empfohlene Voraussetzungen

Data Science in der Elektrotechnik (Bachelor), Mathematik (insb. lineare Algebra & Vektoranalysis), Python

Lernergebnisse / Kompetenzen

WAS

Mit erfolgreichem Abschluss des Moduls können die Studierenden für komplexe Problemstellungen der Elektrotechnik geeignete Machine- und Deep-Learning-Lösungen konzipieren, als datengetriebene, trainierbare Modelle realisieren, Trainingsprozess und Modellverhalten theoretisch fundiert analysieren, durch gezielte Anpassung von Hyperparametern und Modellarchitektur iterativ verbessern und die resultierenden Modelle experimentell hinsichtlich ihrer Leistungsfähigkeit bewerten.

WOMIT

Die Studierenden erreichen dieses Lernergebnis, indem sie

zentrale Verfahren des klassischen Machine Learning hinsichtlich Modellannahmen, Modellkomplexität, Regularisierung und Bias-Varianz-Verhalten mathematisch vertiefen und anwenden,
die mathematischen Grundlagen von Gradientenverfahren und Backpropagation (inkl. Lossfunktionen, Ableitungen, Optimierungs- und Regularisierungstechniken) an ausgewählten Netzwerkbeispielen herleiten, erläutern und für das Training tiefer neuronaler Netze nutzen,
Machine- und Deep-Learning-Modelle in gängigen Frameworks wie PyTorch als datengetriebene Modelle implementieren und trainieren und dabei Datenaufbereitung, Feature-Engineering und vollständige Trainingspipelines praktisch umsetzen,
systematisch mit Hyperparametern und Modellarchitekturen experimentieren, Lernkurven und Bewertungsmetriken auswerten und auf dieser Basis Trainingsprozess und Modellverhalten analysieren sowie gezielt verbessern,
ausgewählte fortgeschrittene Lernparadigmen und Anwendungen im Deep Learning in Form prototypischer Experimente oder Projekte erproben und deren Eignung für elektrotechnische Anwendungsfälle kritisch reflektieren,
in einem Projekt mit realistischen oder realen Datensätzen aus der Elektrotechnik eine eigene Fragestellung formulieren, geeignete Machine- und Deep-Learning-Verfahren auswählen, mehrere Modellansätze implementieren, trainieren und vergleichen, die Leistungsfähigkeit der Modelle experimentell evaluieren sowie Vorgehen und Ergebnisse strukturiert dokumentieren, präsentieren und verteidigen.

WOZU

Die Studierenden nutzen diese Kompetenzen, um datengetriebene, lernfähige Komponenten in komplexe elektrotechnische Gesamtsysteme zu integrieren, deren Beitrag zur Lösung innovativer Forschungs- und Entwicklungsaufgaben kritisch zu bewerten und die dabei getroffenen Modell- und Designentscheidungen in Fachkreisen und wissenschaftlichen Kontexten nachvollziehbar zu begründen und zu verteidigen.

Inhalte

Vertiefung und Theorie klassischer Verfahren des maschinellen Lernens (u. a. lineare Modelle, k-Nearest Neighbours, Entscheidungsbäume, Random Forests, Support Vector Machines)
Theorie und Optimierung tiefer neuronaler Netze: Funktionsweise künstlicher neuronaler Netze, Lossfunktionen, Gradienten- und Backpropagation-Prinzip, Stochastic Gradient Descent und ausgewählte adaptive Optimierungsverfahren (z. B. Adam, RMSprop), grundlegende Lernraten- und Regularisierungsstrategien
Spezialisierte Architekturen: Convolutional Neural Networks, rekurrente Architekturen (z. B. RNNs, LSTMs/GRUs), Encoder-Decoder-Strukturen sowie grundlegende Attention- und Transformer-Konzepte
Fortgeschrittene Lernparadigmen und Anwendungen im Deep Learning: Repräsentations- und selbstüberwachtes Lernen, metrisches und One-/Few-Shot-Learning, ausgewählte generative Deep-Learning-Modelle, Multi-Task-Learning sowie multimodale Modelle und aktuelle Trends in Forschung und Anwendung
Effiziente Modellanpassung, Bereitstellung, Robustheit und Interpretierbarkeit: Transfer Learning, Modellkompression und Quantisierung, Knowledge Distillation, Grundlagen adversarialer Störungen und robuster Trainingsansätze sowie ausgewählte Verfahren der Modellinterpretation

Prüfungsvorleistung

Keine

Prüfungsleistung

Projektarbeit mit Dokumentation, Präsentation und Fachgespräch; Umfang, Bearbeitungszeit und Abgabemodalitäten werden zu Beginn des Moduls bekanntgegeben.

Literatur

Ian Goodfellow; Yoshua Bengio; Aaron Courville: Deep Learning. MIT Press, 2016.
Christopher M. Bishop: Pattern Recognition and Machine Learning. Springer, 2006.
Kevin P. Murphy: Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
Aurélien Géron: Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow. O’Reilly Media, 2019.
Aktuelle wissenschaftliche Publikationen im Bereich Deep Learning.