Modele nie widzą surowej rzeczywistości. Widzą cechy, mierzalne właściwości wyodrębnione z danych i wprowadzone do algorytmu uczenia się. Dom staje się powierzchnią kwadratową, liczbą sypialni, wiekiem i lokalizacją. Dokument staje się liczbą słów lub osadzonymi fragmentami.

Inżynieria cech kiedyś dominowała w stosowanym uczeniu maszynowym. Praktycy ręcznie tworzyli proporcje, transformacje logarytmiczne i terminy interakcji, aby pomóc modelom w znajdowaniu wzorców. Głębokie uczenie zmieniło sposób pracy, pozwalając sieciom uczyć się cech bezpośrednio z surowych danych wejściowych.

Typowe typy funkcji

• Wartości liczbowe, takie jak cena lub temperatura
• Etykiety kategoryczne zakodowane jako liczby
• Tekst przekonwertowany na liczby lub wektory
• Piksele obrazu lub nauczone osadzenia
• Pochodne współczynniki i interakcje

Dobre cechy przenoszą sygnał. Nadmiarowe lub zaszumione cechy spowalniają uczenie i utrudniają generalizację. Selekcja i ekstrakcja cech pozostają ważne, szczególnie w przypadku małych zbiorów danych, gdzie głębokie uczenie ma niewielką przewagę.