Data pelatihan mengajarkan model pembelajaran mesin. Model tersebut melihat contoh dan mempelajari hubungan antara input dan output. Untuk filter spam, data pelatihannya adalah email yang diberi label spam atau bukan spam. Untuk pengklasifikasi gambar, data pelatihannya adalah foto yang diberi label sesuai isinya. Untuk model bahasa, data pelatihannya adalah sejumlah besar teks. Model menyesuaikan parameter internalnya untuk meminimalkan perbedaan antara prediksinya dan label yang benar. Kualitas dan kuantitas data pelatihan menentukan seberapa baik kinerja model tersebut.

Data pelatihan memiliki beberapa persyaratan. Data tersebut harus mewakili data dunia nyata yang akan dihadapi model. Model yang hanya dilatih pada foto siang hari akan gagal pada foto malam hari. Data tersebut harus diberi label secara akurat. Contoh yang salah label akan mengajarkan pola yang salah kepada model. Data tersebut harus cukup besar untuk menangkap variasi dalam data. Data yang terlalu sedikit menyebabkan overfitting, di mana model menghafal contoh pelatihan alih-alih mempelajari pola umum. Data tersebut harus bebas dari bias, atau model akan mempelajari dan memperkuat bias tersebut. Data pelatihan juga merupakan masalah privasi. Model yang dilatih pada data pribadi dapat menghafal dan mereproduksinya. Kerangka kerja peraturan semakin membutuhkan dokumentasi sumber dan pemrosesan data pelatihan. Data bukan hanya input. Data merupakan kewajiban dan aset. Kualitas model hanya sebaik data yang dipelajarinya.

Persyaratan data pelatihan

• Representatif — mencerminkan variasi dunia nyata
• Berlabel — kebenaran dasar yang akurat
• Besar — ​​cukup banyak contoh untuk digeneralisasikan
• Tidak memihak — tanpa bias sistematis.
• Terdokumentasi — asal usul dan proses pengolahannya diketahui.

Data pelatihan adalah guru. Model mempelajari apa yang ditunjukkan oleh data. Data yang buruk mengajarkan pelajaran yang buruk.