Modely nevidí surovou realitu. Vidí rysy, měřitelné vlastnosti extrahované z dat a zadané do učícího se algoritmu. Dům se stává rozlohou, počtem ložnic, stářím a umístěním. Dokument se stává počtem slov nebo vložením.

Inženýrství prvků kdysi dominovalo aplikovanému strojovému učení. Odborníci z praxe ručně vytvářeli poměry, logaritmické transformace a interakční členy, aby pomohli modelům najít vzory. Hluboké učení posunulo práci vpřed a umožnilo sítím učit se prvky přímo ze surového vstupu.

Běžné typy funkcí

• Číselné hodnoty, jako je cena nebo teplota
• Kategorické štítky kódované jako čísla
• Text převedený na počty nebo vektory
• Obrazové pixely nebo naučená vkládání
• Odvozené poměry a interakce

Dobré rysy přenášejí signál. Redundantní nebo zašumené rysy zpomalují trénování a škodí zobecnění. Výběr a extrakce rysů zůstávají důležité, zejména na malých datových sadách, kde má hluboké učení jen malou výhodu.