Les données d'entraînement permettent d'apprendre à un modèle d'apprentissage automatique. Le modèle observe des exemples et apprend la relation entre les entrées et les sorties. Pour un filtre anti-spam, les données d'entraînement sont des courriels étiquetés comme indésirables ou indésirables. Pour un classificateur d'images, il s'agit de photos légendées. Pour un modèle de traitement du langage, il s'agit de vastes quantités de texte. Le modèle ajuste ses paramètres internes afin de minimiser l'écart entre ses prédictions et les étiquettes correctes. La qualité et la quantité des données d'entraînement déterminent les performances du modèle.

Les données d'entraînement doivent répondre à plusieurs exigences. Elles doivent être représentatives des données réelles auxquelles le modèle sera confronté. Un modèle entraîné uniquement sur des photos prises de jour est inefficace sur des photos prises de nuit. Elles doivent être correctement étiquetées. Des exemples mal étiquetés induisent le modèle en erreur. Elles doivent être suffisamment volumineuses pour couvrir la variabilité des données. Un volume de données insuffisant conduit au surapprentissage : le modèle mémorise alors les exemples d'entraînement au lieu d'apprendre des schémas généraux. Elles doivent être exemptes de biais, sans quoi le modèle apprendra et amplifiera ces biais. Les données d'entraînement soulèvent également des questions de confidentialité. Les modèles entraînés sur des données personnelles peuvent les mémoriser et les reproduire. Les cadres réglementaires exigent de plus en plus la documentation des sources et du traitement des données d'entraînement. Les données ne sont pas qu'une simple entrée ; elles constituent à la fois un atout et une responsabilité. La qualité d'un modèle dépend de la qualité des données sur lesquelles il a été entraîné.

exigences en matière de données de formation

• Représentatif — reflète la variation du monde réel
• Étiqueté — vérité terrain précise
• Grand nombre d'exemples — suffisamment d'exemples pour généraliser
• Impartial — sans biais systématique
• Documenté — provenance et traitement connus

Les données d'entraînement sont le professeur. Le modèle apprend ce que les données révèlent. De mauvaises données donnent de mauvais enseignements.