模型无法直接感知原始现实。它们感知的是特征，即从数据中提取并输入学习算法的可测量属性。例如，一栋房子会被转化为面积、卧室数量、房龄和位置等数据；一份文档会被转化为字数统计或词嵌入。

特征工程曾经主导着应用机器学习领域。从业者们手工设计比率、对数变换和交互项，以帮助模型发现模式。深度学习改变了这一现状，使神经网络能够直接从原始输入中学习特征。

常见特征类型

• 价格或温度等数值
• 分类标签以数字形式编码
• 文本转换为计数或向量
• 图像像素或学习到的嵌入
• 衍生比率和相互作用

好的特征能够传递有效信息。冗余或噪声特征会减慢训练速度并损害模型的泛化能力。特征选择和提取仍然至关重要，尤其是在深度学习优势不明显的小型数据集上。