Ön eğitim, modele genel bilgi kazandırır. İnce ayar ise onu özelleştirir. Bu süreç, daha küçük, göreve özgü bir veri kümesi üzerinde eğitimle devam eder ve modelin hedef alanda iyi performans göstermesi için ağırlıklar ayarlanır.

Tam ince ayar, her parametreyi günceller ki bu da büyük modeller için maliyetlidir. LoRA ve adaptörler gibi parametre açısından verimli yöntemler, yalnızca küçük bir alt kümeyi güncelleyerek, çok daha az hesaplama maliyetiyle karşılaştırılabilir sonuçlar elde eder.

Sık karşılaşılan ince ayar senaryoları

• Bir dil modelini bir alana uyarlamak
• Yeni kategoriler içeren bir görme modeli öğretmek
• Bir modeli insan tercihleriyle uyumlu hale getirmek
• Belirli bir kıyaslama ölçütündeki performansı iyileştirmek

İnce ayar da sorunlara yol açabilir. Bir model yeni verilere aşırı uyum sağlayarak genel yeteneklerini kaybedebilir. Felaket unutma, ön eğitimden elde edilen bilgiyi siler. Dikkatli öğrenme oranları, veri karıştırma ve değerlendirme, riski azaltmaya yardımcı olur.