Her model, kendisine verilen verilerin sıkıştırılmış bir yansımasıdır. Eğitim verileri bu beslenme şeklidir: bir makine öğrenme sisteminin, yararlı bir şey yapması istenmeden önce incelediği örnekler koleksiyonu. Bir yüz tanıma modeli milyonlarca etiketlenmiş portreden öğrenebilir. Bir satranç motoru milyonlarca oyundan öğrenir. Bir tıbbi sınıflandırıcı, radyologlar tarafından etiketlenmiş taramalardan öğrenir.

Hacim yardımcı olur, ancak kompozisyon daha önemlidir. Portreler beyaz ve erkek ağırlıklıysa, model daha koyu tenli ve kadınlarda başarısız olur. Oyun verileri yalnızca amatör oyunculardan geliyorsa, motor bir noktada tıkanır. Araştırmacılar buna dağılım kayması diyor ve bu, laboratuvarda mükemmel görünen bir modelin gerçek dünyada tökezlemesinin en yaygın nedenlerinden biridir.

Pratik kaygılar

• Etiket kalitesi: Gürültülü veya yanlı açıklamalar modeli bozar.
• Onay ve lisanslama: Web'den elde edilen veriler yasal risk taşıyabilir.
• Gizlilik: Kişisel bilgiler genellikle temizlenmeli veya anonimleştirilmelidir.
• Temsil: Nadir grupların bilinçli olarak aşırı örneklenmesi gerekir.

Veri temizleme ve düzenleme, bir makine öğrenimi projesinin zamanının genellikle %60 ila %80'ini tüketir. Göz alıcı kısım mimaridir; belirleyici kısım ise veri setidir.