Träningsdata lär ut en maskininlärningsmodell. Modellen ser exempel och lär sig förhållandet mellan indata och utdata. För ett spamfilter är träningsdata e-postmeddelanden märkta som spam eller inte spam. För en bildklassificerare är det foton märkta med sitt innehåll. För en språkmodell är det stora mängder text. Modellen justerar sina interna parametrar för att minimera skillnaden mellan dess förutsägelser och de korrekta etiketterna. Kvaliteten och kvantiteten på träningsdata avgör hur bra modellen presterar.

Träningsdata har flera krav. Den måste vara representativ för de verkliga data som modellen kommer att stöta på. En modell som endast tränas på dagtidsfoton misslyckas på nattfoton. Den måste vara korrekt märkt. Felmärkta exempel lär modellen fel mönster. Den måste vara tillräckligt stor för att fånga variationen i data. För lite data leder till överanpassning, där modellen memorerar träningsexemplen istället för att lära sig allmänna mönster. Den måste vara fri från partiskhet, annars kommer modellen att lära sig och förstärka den partiskheten. Träningsdata är också en integritetsrisk. Modeller som tränas på personuppgifter kan memorera och reproducera dem. Regelverk kräver i allt högre grad dokumentation av träningsdatakällor och bearbetning. Data är inte bara en indata. Det är en skuld och en tillgång. Modellen är bara så bra som de data den lärt sig från.

Krav på utbildningsdata

• Representativ — återspeglar verklig variation
• Märkt — korrekt grundsanning
• Stort — tillräckligt många exempel för att generalisera
• Opartisk — ingen systematisk snedvridning
• Dokumenterad — ursprung och bearbetning känd

Träningsdata är läraren. Modellen lär sig vad datan visar. Dålig data ger dåliga lärdomar.