Inductive Transfer with Deep Biases

• Applicant: Dr. Ulrich Rückert
• Subject Area: Image and Language Processing, Computer Graphics and Visualisation, Human Computer Interaction, Ubiquitous and Wearable Computing
• Term: from 2009 to 2012
• Project identifier: Deutsche Forschungsgemeinschaft (DFG) - Project number 139818954

Um Modelle mit hoher Vorhersagegenauigkeit erzeugen zu können, benötigen Methoden des maschinellen Lernens entweder Zugriff auf eine ausreichend große Menge an Trainingsdaten oder einen induktiven Lernbias, der besonders gut zu der vorliegende Datenverteilung passt. Wenn nur ein begrenzter Umfang an Trainingsdaten verfügbar ist, macht es daher Sinn, den induktiven Lernbias eines Lernsystems besser an die gegebene Aufgabenstellung anzupassen. Eine Möglichkeit, um dies zu erreichen, sind Methoden des induktiven Transfers. Die Hauptidee dieser Verfahren ist es, Lernbiase, die in der Vergangenheit erfolgreich bei ähnlichen Aufgaben verwendet wurden, auf die neue Aufgabenstellung zu übertragen. In diesem Projekt möchten wir die Fragestellung angehen, wie man induktiven Transfer effizient implementiern kann, wenn man “tiefe” Lernbiase verwenden möchte, die komplexe, nicht-lineare Zusammenhänge mit strukturierten Trainingsdaten lernen können. Dazu wollen wir theoretisch und praktisch untersuchen, wie tiefe Lernbiase repräsentiert, ermittelt, verglichen, verbunden und übertragen werden können. Dabei wird besonderer Wert auf effiziente Algorithmen gelegt, die nicht anwendungsbezogen sind, sondern unter breiten Bedingungen arbeiten. Die gewonnenen Erkenntnisse sollen an drei Beispielsanwendungen evaluiert werden, nämlich Struktur-Aktivitätsbeziehungen mit molekularen Graph- Daten, Klassifikation von Textdokumenten und maschinelles Übersetzen.

• DFG Programme: Research Grants
• International Connection: USA