Accessible Requires Authentication Published by De Gruyter Oldenbourg August 5, 2015

Kernel-Based Machine Learning with Multiple Sources of Information / Kernbasiertes Maschinelles Lernen mit mehreren Informationsquellen

Marius Kloft

Summary

We present a new methodology for fusing information from multiple data sources - or kernels - in machine learning. Previous approaches promoted sparse combinations of kernels, which, however, may discard important information. We present a flexible approach based on ℓp-norm regularization, allowing for non-sparse solutions. In a theoretical analysis we show lower and upper generalization bounds of order up to O(M/n), overcoming the best previously known upper bounds for the problem, which achieved O(√M/n). The computational experiments indicate that the novel algorithms are up to two orders of magnitude faster than previous approaches. Applications to computational biology and computer vision show accuracies that go beyond the stateof-the-art.

Zusammenfassung

Diese Arbeit gibt zunächst eine grundlegende Einführung in Theorie und Praxis des Maschinellen Lernens mit multiplen Kernen und skizziert den Stand der Forschung. Weiter entwickelt die Arbeit eine neue Methodologie des Lernens mit mehreren Kernen und beweist deren Effizienz und Effektivität. Sie entwickelt Algorithmen zur Optimierung des assoziierten mathematischen Programmes, die im Vergleich zu vorherigen Ansätzen um bis zu zwei Größenordnungen schneller sind. Unsere theoretische Analyse des Generalisierungsfehlers zeigt dabei Konvergenzraten mit Ordnungen von maximal O(M/n), frühere Analysen präzisierend, die bisher nur O(√M/n) erreichten. In Anwendungen auf zentrale Fragestellungen der Bioinformatik und des Maschinellen Sehens werden Vorhersagegenauigkeiten erreicht, die den bisherigen Stand der Forschung signifikant übertreffen, wodurch eine Grundlage zur Erschließung neuer Anwendungsfelder geschaffen wird.

Published Online: 2015-8-5
Published in Print: 2013-4-1

© 2015 Oldenbourg Wissenschaftsverlag GmbH, Rosenheimer Str. 145, 81671 München