Τα μοντέλα δεν βλέπουν την ακατέργαστη πραγματικότητα. Βλέπουν χαρακτηριστικά, τις μετρήσιμες ιδιότητες που εξάγονται από δεδομένα και τροφοδοτούνται σε έναν αλγόριθμο μάθησης. Ένα σπίτι γίνεται τετραγωνικά μέτρα, αριθμός υπνοδωματίων, ηλικία και τοποθεσία. Ένα έγγραφο γίνεται αριθμός λέξεων ή ενσωματώσεις.

Η μηχανική χαρακτηριστικών κάποτε κυριαρχούσε στην εφαρμοσμένη μηχανική μάθηση. Οι επαγγελματίες δημιούργησαν χειροποίητα αναλογίες, λογαριθμικούς μετασχηματισμούς και όρους αλληλεπίδρασης για να βοηθήσουν τα μοντέλα να βρουν μοτίβα. Η βαθιά μάθηση άλλαξε την εργασία, επιτρέποντας στα δίκτυα να μαθαίνουν χαρακτηριστικά απευθείας από ακατέργαστη εισροή.

Κοινοί τύποι χαρακτηριστικών

• Αριθμητικές τιμές όπως τιμή ή θερμοκρασία
• Κατηγορικές ετικέτες κωδικοποιημένες ως αριθμοί
• Κείμενο που μετατράπηκε σε αριθμούς ή διανύσματα
• Εικονοστοιχεία εικόνας ή μαθημένες ενσωματώσεις
• Παράγωγες αναλογίες και αλληλεπιδράσεις

Τα καλά χαρακτηριστικά μεταφέρουν σήμα. Τα πλεονάζοντα ή θορυβώδη χαρακτηριστικά επιβραδύνουν την εκπαίδευση και βλάπτουν τη γενίκευση. Η επιλογή και η εξαγωγή χαρακτηριστικών παραμένουν σημαντικές, ειδικά σε μικρά σύνολα δεδομένων όπου η βαθιά μάθηση έχει μικρό πλεονέκτημα.