Ein Spamfilter kennzeichnet eine E-Mail als Junk-E-Mail, weil er bereits Tausende von Nachrichten als „Spam“ oder „Kein Spam“ markiert gesehen hat. Das ist überwachtes Lernen im Kleinen: Ein Modell lernt eine Zuordnung von Eingaben zu Ausgaben anhand von Beispielen, bei denen die richtige Antwort bekannt ist. Jedes Trainingspaar trägt eine Bezeichnung, und der Algorithmus passt seine internen Parameter so lange an, bis seine Vorhersagen genau genug mit diesen Bezeichnungen übereinstimmen, um auf neue Daten verallgemeinert werden zu können.

Der Ansatz lässt sich in zwei Hauptgruppen unterteilen. Die Klassifizierung sagt eine Kategorie voraus, beispielsweise ob ein Tumor gutartig oder bösartig ist. Die Regression sagt eine Zahl voraus, etwa die Temperatur von morgen oder einen Hauspreis. Beide basieren auf demselben Kernprozess: eine Vorhersage treffen, den Fehler im Vergleich zur Zielkategorie messen und die Gewichtungen anpassen, um diesen Fehler zu minimieren.

Gängige Algorithmen

• Lineare und logistische Regression für einfache, interpretierbare Basislinien
• Entscheidungsbäume und Random Forests für tabellarische Daten
• Support-Vektor-Maschinen für die randbasierte Klassifizierung
• Neuronale Netze für Bilder, Sprache und Sprache

Die Annotation von Scans kostet Zeit und Geld. Ein Radiologe, der 10.000 Scans annotiert, ist teuer; die Annotation durch mehrere Mitarbeiter ist langsam und ungenau. Diese Kosten sind der Hauptgrund, warum unüberwachte und semi-überwachte Methoden so viel Aufmerksamkeit erregen. Sind jedoch viele saubere Labels vorhanden, bleibt überwachtes Lernen das zuverlässigste Werkzeug.