MIN112: Statistical Learning

Kernmodule

MIN112: Statistical Learning

Kurzporträt MIN112: Statistical Learning
Worum geht es? Statistical Learning behandelt die statistischen Grundlagen moderner Datenanalyse und Machine-Learning-Verfahren. Im Mittelpunkt stehen Modellierung, Schätzung, Modellvergleich, Performanzbewertung, Dimensionsreduktion, Feature Selection und Clustering.
Wofür braucht man es? Die Kompetenzen werden benötigt, um datengetriebene Modelle nicht nur anzuwenden, sondern ihre Aussagekraft, Unsicherheit und Grenzen kritisch zu beurteilen. Sie sind zentral für Data Science, Machine Learning, Evaluation und datenbasierte Entscheidungsunterstützung.
Wieso ist es interessant? Spannend ist das Modul, weil es hinter die Oberfläche trainierter Modelle blickt. Studierende lernen, warum gute Vorhersagen, erklärende Modelle und belastbare statistische Aussagen nicht automatisch dasselbe sind.
Modulverantwortung

Prof. Dr. Christoph Dalitz

Lehrperson(en)

Prof. Dr. Christoph Dalitz

Verwendbarkeit

Master Informatik

Fächergruppe

Informatik

Modultyp
Wahlpflicht
Sprache

Deutsch

Angebot

Sommersemester

Dauer

1 Semester

Credits

5 ECTS

Benotung

Deutsche Notenskala 1-5

SWS

4SL

Workload
Präsenzstudium: 45 Std. Selbststudium: 90 Std.
Engl. Titel

Statistical Learning

Empfohlene Voraussetzungen

Grundbegriffe der Statistik werden als bekannt vorausgesetzt, wie z.B. Wahrscheinlichkeitsdichte, Erwartungswert oder Konfidenzintervall. Ferner werden grundlegende Programmierkenntnisse in einer objektorientierten Sprache angenommen.

Lernergebnisse / Kompetenzen
WAS

Mit erfolgreichem Abschluss des Moduls sind die Studierenden in der Lage, Regressions- und Klassifikationsmodelle zu modellieren, zu schätzen und statistisch fundiert zu bewerten sowie hochdimensionale Daten explorativ zu analysieren. Sie können Modellannahmen erkennen, die Vorhersagegüte systematisch beurteilen, Modelle vergleichen und Verfahren zur Merkmalsauswahl, Dimensionsreduktion und Clusteranalyse anwenden.

WOMIT

Die Studierenden erreichen dieses Lernergebnis, indem sie

  • die Bayessche Fehlerrate in einem Beispiel analytisch berechnen und die optimale Reject-Threshold herleiten
  • eine Likelihood-Funktion berechnen und numerisch maximieren
  • die Eigenschaften modellfreier Dichteschätzer untersuchen
  • verschiedene Methoden zur Variablen- bzw. Modell-Auswahl quantitativ vergleichen
  • Vorhersagemodelle anhand mehrerer Kennzahlen vergleichen, Unterschiede auf statistische Signifikanz testen und Zusammenhänge zwischen Metriken und Normen herleiten
  • verschiedene Visualisierungen hochdimensionaler Daten berechnen und qualitativ vergleichen
  • Clustering-Algorithmen anwenden, die Anzahl verborgener Cluster schätzen und die Übereinstimmung eines Clusterings mit einem Ground-Truth-Clustering bewerten
WOZU

Die Studierenden nutzen diese Kompetenzen, um die in anderen Modulen entwickelten Machine Learning Systeme einzuordnen, systematisch zu untersuchen und statistisch zu bewerten. Ferner nutzen sie sie, um in der betrieblichen oder wissenschaflichen Praxis anfallende Daten explorativ zu untersuchen, Vorhersagen zu machen und deren Genauigkeit abzuschätzen.

Inhalte
  • The two cultures: Explain versus predict
  • Bayessche Entscheidungstheorie
  • Klassifikation: Modellbasierte und modellfreie Schätzung von Wahrscheinlichkeiten
  • Regression: Modellbasierte und modellfreie Methoden und deren Eigenschaften
  • Metrische Räume
  • Methoden zur Performance-Schätzung
  • Feature Selection und Importance
  • Multi-Dimensional-Scaling und Manifold Learning
  • Clustering und dessen Evaluation
Prüfungsvorleistung

Keine angegeben.

Prüfungsleistung

Mündliche Prüfung. Sie wird als Gruppenprüfung durchgeführt.

Literatur
  • G. Shmuell: “To explain or to predict.” Statistical Science 25(3), pp. 289-310 (2010)
  • T. Hastie, R. Tibshirani, J. Friedman: The Elements of Statistical Learning. 2nd ed., Springer (2009)
  • G. James, D. Witten, T. Hastie, R. Tibshirani: An Introduction to Statistical Learning with Applications in R. 2nd ed., Springer (2021)
  • S. Theodoridis, K. Koutroumbas: Pattern Recognition. 4th ed., Academic Press (2008)
  • wissenschaftliche Fachartikel zu den speziellen Themen