Spam czy nie spam. Złośliwy czy nieszkodliwy. Oszustwo czy legalne. Klasyfikacja przypisuje dane wejściowe do jednej z kilku predefiniowanych kategorii i stanowi podstawę ogromnej części praktycznego uczenia maszynowego.

Modele uczą się granicy decyzyjnej na podstawie przykładów z etykietami. Klasyfikacja binarna oddziela dwie klasy. Klasyfikacja wieloklasowa obejmuje kilka. Klasyfikacja wieloetykietowa umożliwia jednoczesne stosowanie wielu etykiet, co jest przydatne, gdy kategorie nie wykluczają się wzajemnie.

Typowe klasyfikatory

• Regresja logistyczna
• Drzewa decyzyjne i lasy losowe
• Maszyny wektorów nośnych
• Sieci neuronowe
• Naiwny Bayes

Sama dokładność jest słabą miarą, gdy klasy są niezrównoważone. Detektor oszustw, który nic nie sygnalizuje, osiąga 99,9% dokładności w zbiorze danych, w którym oszustwa zdarzają się rzadko, ale jest bezużyteczny. Precyzja, czułość i wynik F1 przedstawiają bardziej uczciwą historię.