Các mô hình không nhìn thấy thực tế thô sơ. Chúng chỉ nhìn thấy các đặc điểm, các thuộc tính có thể đo lường được trích xuất từ ​​dữ liệu và được đưa vào thuật toán học máy. Một ngôi nhà trở thành diện tích, số phòng ngủ, tuổi đời và vị trí. Một tài liệu trở thành số lượng từ hoặc các vectơ nhúng.

Kỹ thuật tạo đặc trưng từng thống trị lĩnh vực học máy ứng dụng. Các nhà thực hành tự tay thiết kế tỷ lệ, phép biến đổi logarit và các thuật ngữ tương tác để giúp mô hình tìm ra các mẫu. Học sâu đã thay đổi công việc này, cho phép mạng lưới học các đặc trưng trực tiếp từ dữ liệu đầu vào thô.

Các loại tính năng phổ biến

• Các giá trị số như giá cả hoặc nhiệt độ
• Các nhãn phân loại được mã hóa dưới dạng số.
• Văn bản được chuyển đổi thành số liệu thống kê hoặc vectơ.
• Điểm ảnh hoặc các nhúng được học
• Tỷ lệ và tương tác được suy ra

Các đặc trưng tốt mang lại tín hiệu. Các đặc trưng dư thừa hoặc nhiễu làm chậm quá trình huấn luyện và ảnh hưởng đến khả năng khái quát hóa. Việc lựa chọn và trích xuất đặc trưng vẫn rất quan trọng, đặc biệt là trên các tập dữ liệu nhỏ, nơi học sâu ít có lợi thế.