Trainingsdata leren een machine learning-model. Het model ziet voorbeelden en leert de relatie tussen input en output. Voor een spamfilter bestaat de trainingsdata uit e-mails die als spam of niet-spam zijn gelabeld. Voor een beeldclassificatiesysteem zijn het foto's met labels voor hun inhoud. Voor een taalmodel zijn het enorme hoeveelheden tekst. Het model past zijn interne parameters aan om het verschil tussen zijn voorspellingen en de correcte labels te minimaliseren. De kwaliteit en kwantiteit van de trainingsdata bepalen hoe goed het model presteert.

Trainingsdata moeten aan verschillende eisen voldoen. Ze moeten representatief zijn voor de data uit de praktijk waarmee het model te maken krijgt. Een model dat alleen is getraind op foto's overdag, presteert bijvoorbeeld slecht op foto's 's nachts. De data moeten nauwkeurig gelabeld zijn. Onjuist gelabelde voorbeelden leren het model verkeerde patronen aan. De dataset moet groot genoeg zijn om de variatie in de data te kunnen vastleggen. Te weinig data leidt tot overfitting, waarbij het model de trainingsvoorbeelden onthoudt in plaats van algemene patronen te leren. De data moet vrij zijn van bias, anders zal het model die bias leren en versterken. Trainingsdata vormen ook een privacykwestie. Modellen die getraind zijn op persoonsgegevens kunnen deze gegevens onthouden en reproduceren. Wettelijke kaders vereisen steeds vaker documentatie van de bronnen en verwerking van trainingsdata. De data is niet zomaar een input. Het is zowel een risico als een troef. De kwaliteit van een model hangt af van de data waarmee het is getraind.

Trainingsgegevensvereisten

• Representatief — weerspiegelt variatie in de werkelijkheid
• Gelabeld — nauwkeurige referentiegegevens
• Groot — voldoende voorbeelden om te generaliseren
• Onbevooroordeeld — geen systematische vertekening
• Gedocumenteerd — herkomst en verwerking bekend

De trainingsdata zijn de leermeester. Het model leert wat de data laat zien. Slechte data leiden tot slechte lessen.