Gradient Based Optimization of Support Vector Machines
Tobias Glasmachers · Dokumentenrepositorium der RUB (Ruhr University Bochum) · 2008
In dieser Arbeit werden zwei unabhängige Probleme aus dem Bereich des Lernens mit Support-Vektor-Maschinen (SVM) mit Hilfe gradientenbasierter Optimierungstechniken gelöst. Für das erste Problem, das Training der Maschine, werden effiziente Algorithmen zur Lösung hochdimensionaler quadratischer Programme benötigt. Das zweite Problem, das sogenannte Modellselektionsproblem, erfordert die Konstruktion einer geeigneten Zielfunktion und Methoden zur nicht-konvexen Optimierung. Es werden neue bzw. verbesserte iterative Algorithmen zum Training von Support-Vektor-Maschinen vorgestellt und die Konvergenz der Lösung zur optimalen Lösung bewiesen. Das Modellsekeltionsproblem wird mit Hilfe völlig neuartiger Ansätze bearbeitet. Die Ergebnisse werden durch eine Reihe theoretischer Ergebnisse sowie empirischer Untersuchungen gestützt.