Manche Modelle lernen, Daten zu generieren. Andere lernen, Entscheidungen zu treffen. Diskriminative Modelle konzentrieren sich auf die Grenze zwischen Klassen und schätzen die Wahrscheinlichkeit einer Klasse anhand der Eingabedaten, anstatt zu modellieren, wie die Daten selbst erzeugt wurden.

Logistische Regression, Support-Vektor-Maschinen und die meisten neuronalen Klassifikatoren sind diskriminativ. Sie erzielen bei Klassifizierungsaufgaben tendenziell bessere Ergebnisse als generative Modelle, da sie ihre Kapazität auf die Entscheidungsgrenze anstatt auf die gesamte Datenverteilung konzentrieren.

Gängige diskriminative Modelle

• Logistische Regression
• Support-Vektor-Maschinen
• Bedingte Zufallsfelder
• Die meisten Deep-Classifier

Der Kompromiss liegt in der Flexibilität. Ein diskriminatives Modell kann weder neue Stichproben generieren noch fehlende Daten so elegant verarbeiten wie ein generatives. Die Wahl zwischen den beiden hängt davon ab, ob es sich um eine Vorhersage oder eine Synthese handelt.