A modellek nem a nyers valóságot látják. Jellemzőket látnak, az adatokból kinyert mérhető tulajdonságokat, amelyeket egy tanuló algoritmus betáplál. Egy házból négyzetméterek, hálószobák száma, kor és helyszín lesz. Egy dokumentumból szószámok vagy beágyazások lesznek.

A jellemzőmérnökség egykor uralta az alkalmazott gépi tanulást. A szakemberek kézzel alkottak arányokat, logaritmikus transzformációkat és interakciós kifejezéseket, hogy segítsék a modelleket mintázatok megtalálásában. A mélytanulás azonban megváltoztatta a munkát, lehetővé téve a hálózatok számára, hogy közvetlenül a nyers bemenetből tanuljanak jellemzőket.

Gyakori jellemzőtípusok

• Numerikus értékek, például ár vagy hőmérséklet
• Számokkal kódolt kategorikus címkék
• Számokká vagy vektorokká konvertált szöveg
• Képpontok vagy tanult beágyazások
• Származtatott arányok és kölcsönhatások

A jó jellemzők jelet hordoznak. A redundáns vagy zajos jellemzők lassítják a betanítást és rontják az általánosítást. A jellemzők kiválasztása és kinyerése továbbra is fontos, különösen kis adathalmazok esetén, ahol a mélytanulásnak kevés előnye van.