Обучающие данные служат основой для модели машинного обучения. Модель анализирует примеры и изучает взаимосвязь между входными и выходными данными. Для спам-фильтра обучающими данными являются электронные письма, помеченные как спам или не спам. Для классификатора изображений это фотографии с указанием их содержимого. Для языковой модели это огромные объемы текста. Модель корректирует свои внутренние параметры, чтобы минимизировать разницу между своими прогнозами и правильными метками. Качество и количество обучающих данных определяют эффективность модели.

К обучающим данным предъявляется несколько требований. Они должны быть репрезентативными для реальных данных, с которыми будет сталкиваться модель. Модель, обученная только на дневных фотографиях, не справится с ночными. Данные должны быть точно размечены. Неправильно размеченные примеры обучают модель неверным закономерностям. Объем данных должен быть достаточным для охвата вариативности данных. Слишком мало данных приводит к переобучению, когда модель запоминает обучающие примеры вместо того, чтобы изучать общие закономерности. Данные должны быть свободны от предвзятости, иначе модель будет изучать и усиливать эту предвзятость. Обучающие данные также представляют собой проблему конфиденциальности. Модели, обученные на персональных данных, могут запоминать и воспроизводить их. Нормативно-правовые рамки все чаще требуют документирования источников и обработки обучающих данных. Данные — это не просто входные данные. Это и пассив, и актив. Модель хороша настолько, насколько хороши данные, на которых она обучалась.

Требования к обучающим данным

• Репрезентативный показатель — отражает реальные различия.
• Обозначено — точные исходные данные
• Большой объем примеров — достаточно для обобщения.
• Непредвзятый — без систематической асимметрии.
• Документально подтверждено — происхождение и обработка известны.

Обучающие данные — это учитель. Модель учится тому, что показывают данные. Плохие данные учат плохим урокам.