Модели не видят чистую реальность. Они видят признаки, измеримые свойства, извлеченные из данных и переданные в алгоритм обучения. Дом становится площадью, количеством спален, возрастом и местоположением. Документ становится количеством слов или векторными представлениями.

Ранее в прикладном машинном обучении доминировала разработка признаков. Специалисты вручную создавали соотношения, логарифмические преобразования и члены взаимодействия, чтобы помочь моделям находить закономерности. Глубокое обучение изменило подход, позволив нейронным сетям изучать признаки непосредственно из исходных данных.

Типы общих характеристик

• Числовые значения, такие как цена или температура.
• Категориальные метки, закодированные в виде чисел.
• Текст, преобразованный в числа или векторы.
• Пиксели изображения или обученные эмбеддинги
• Полученные соотношения и взаимодействия

Хорошие признаки передают сигнал. Избыточные или зашумленные признаки замедляют обучение и ухудшают обобщающую способность. Выбор и извлечение признаков остаются важными, особенно на небольших наборах данных, где глубокое обучение имеет мало преимуществ.