A betanítási adatok egy gépi tanulási modellt tanítanak. A modell példákat lát, és megtanulja a bemenetek és kimenetek közötti kapcsolatot. Egy spamszűrő esetében a betanítási adatok a spamként vagy nem spamként címkézett e-mailek. Egy képosztályozó esetében a tartalmukkal címkézett fényképek. Egy nyelvi modell esetében hatalmas mennyiségű szöveg. A modell a belső paramétereit úgy módosítja, hogy minimalizálja a predikciók és a helyes címkék közötti különbséget. A betanítási adatok minősége és mennyisége határozza meg a modell teljesítményét.

A betanítási adatoknak számos követelménynek kell megfelelniük. Reprezentatívnak kell lenniük a modell által tapasztalt valós adatokra. Egy csak nappali fotókon betanított modell az éjszakai fotókon is kudarcot vall. Pontosan kell címkézni őket. A rosszul címkézett példák rossz mintákat tanítanak a modellnek. Elég nagynak kell lennie ahhoz, hogy rögzítse az adatok variációját. A túl kevés adat túlillesztéshez vezet, ahol a modell a betanítási példákat memorizálja ahelyett, hogy általános mintákat tanulna meg. Mentesnek kell lennie az elfogultságtól, különben a modell megtanulja és felerősíti ezt az elfogultságot. A betanítási adatok adatvédelmi aggályokat is jelentenek. A személyes adatokon betanított modellek memorizálhatják és reprodukálhatják azokat. A szabályozási keretrendszerek egyre inkább megkövetelik a betanítási adatforrások és -feldolgozás dokumentációját. Az adat nem csak bemenet. Ez kötelezettség és eszköz is. A modell csak annyira jó, mint az adatok, amelyekből tanult.

Betanítási adatokra vonatkozó követelmények

• Reprezentatív – a valós világbeli variációt tükrözi
• Címkézett — pontos, földi igazság
• Nagy – elég példa az általánosításhoz
• Elfogulatlan – nincs szisztematikus torzítás
• Dokumentált – a származás és a feldolgozás ismert

A betanítási adatok a tanárok. A modell azt tanulja, amit az adatok mutatnak. A rossz adatok rossz tanulságokat tanítanak.