Een spamfilter markeert een e-mail als ongewenste e-mail omdat het al duizenden berichten heeft gezien die als 'spam' of 'geen spam' zijn gemarkeerd. Dat is een vereenvoudigde vorm van supervised learning: een model leert een verband tussen input en output aan de hand van voorbeelden waarvan het juiste antwoord bekend is. Elk trainingspaar heeft een label en het algoritme past zijn interne parameters aan totdat de voorspellingen voldoende overeenkomen met die labels om te generaliseren naar nieuwe data.

De aanpak valt uiteen in twee brede categorieën. Classificatie voorspelt een categorie, bijvoorbeeld of een tumor goedaardig of kwaadaardig is. Regressie voorspelt een getal, zoals de temperatuur van morgen of een huizenprijs. Beide methoden berusten op dezelfde kernlus: een voorspelling doen, de fout ten opzichte van het label meten en de gewichten bijstellen om die fout te verminderen.

Veelgebruikte algoritmen

• Lineaire en logistische regressie voor eenvoudige, interpreteerbare basiswaarden
• Beslissingsbomen en willekeurige bossen voor tabelgegevens
• Ondersteunende vectormachines voor op marges gebaseerde classificatie
• Neurale netwerken voor beelden, spraak en taal

Labels kosten geld en tijd. Een radioloog die 10.000 scans annoteert is duur; een groep medewerkers die sentiment labelt is traag en maakt veel ruis. Die kosten zijn de belangrijkste reden waarom onbegeleide en semi-begeleide methoden zoveel aandacht trekken. Wanneer er echter een overvloed aan schone labels beschikbaar is, blijft begeleid leren de meest betrouwbare methode.