Master Thesis MSTR-2026-20

BibliographyRieger, Leon: Meta-Learning für Ensembles mithilfe von Latent Space Repräsentation.
University of Stuttgart, Faculty of Computer Science, Electrical Engineering, and Information Technology, Master Thesis No. 20 (2026).
83 pages, german.
Abstract

Die Selektion leistungsfähiger Klassifikationsmodelle sowie die Konstruktion geeigneter Ensembles von Klassifikatoren sind in der Praxis komplex und ressourcenintensiv. Meta-Learning ermöglicht eine Automatisierung dieser Prozesse durch den Einsatz von Erfahrungen, die aus früheren Lernaufgaben gewonnen wurden. Klassische Meta-Learning-Ansätze basieren auf sogenannten Meta-Features, die stark domänenabhängig sind und nur eingeschränkt generalisieren. In der vorliegenden Arbeit wird ein Meta-Learning-Konzept zur automatisierten Empfehlung einzelner Klassifikatoren und kompletter Klassifikationsensembles für tabellarische Klassifikationsaufgaben vorgestellt. Anstelle klassischer Meta-Features werden latente Datensatzrepräsentationen verwendet, die mittels eines encoderbasierten Verfahrens (Dataset2Vec) erzeugt werden. Auf der Basis dieser Repräsentationen wird eine Wissensbasis aufgebaut, die Datensatzähnlichkeiten mit Leistungsinformationen vergangener Lernaufgaben verknüpft. Für neue Datensätze werden geeignete Einzelmodelle und Ensemblezusammensetzungen über Ähnlichkeiten im latenten Raum abgeleitet. Die Evaluation auf heterogenen tabellarischen Datensätzen zeigt, dass latente Repräsentationen klassische Meta-Features erreichen oder übertreffen können und ein hohes Leistungspotenzial aufweisen. Gleichzeitig wird deutlich, dass latente Repräsentationen anfällig für Ausreißer sind, was die Stabilität der Ähnlichkeitsbestimmung beeinträchtigt. Des Weiteren hat sich gezeigt, dass die Kandidatenauswahl für die Ensemble-Selektion nur bedingt geeignet ist. Insbesondere im latenten Raum werden häufig Modelle mit ähnlicher Fehlerstruktur identifiziert, die nur eingeschränkt zur Bildung diverser und leistungsfähiger Ensembles beitragen. Diese Limitationen verdeutlichen den bestehenden Forschungsbedarf hinsichtlich der robusten Nutzung latenter Repräsentationen für ensemblebasiertes Meta-Learning.

Full text and
other links
Volltext
Department(s)University of Stuttgart, Institute of Parallel and Distributed Systems, Applications of Parallel and Distributed Systems
Superviser(s)Mitschang, Prof. Bernhard; Voggesberger, Julius; Labes, Leonard
Entry dateAugust 13, 2026
   Publ. Institute   Publ. Computer Science