Pelatihan awal (pretraining) memberikan model pengetahuan umum. Penyempurnaan (fine-tuning) mengkhususkannya. Proses ini melanjutkan pelatihan pada kumpulan data yang lebih kecil dan spesifik untuk tugas tertentu, menyesuaikan bobot sehingga model berkinerja baik pada domain target.

Penyetelan penuh (fine-tuning) memperbarui setiap parameter, yang mahal untuk model besar. Metode yang efisien dalam penggunaan parameter seperti LoRA dan adapter hanya memperbarui sebagian kecil parameter, mencapai hasil yang sebanding dengan sebagian kecil daya komputasi.

Skenario penyempurnaan umum

• Mengadaptasi model bahasa ke suatu domain.
• Mengajarkan model visi dengan kategori baru.
• Menyelaraskan model dengan preferensi manusia
• Meningkatkan kinerja pada tolok ukur tertentu

Penyesuaian detail (fine-tuning) juga dapat menimbulkan masalah. Sebuah model mungkin mengalami overfitting pada data baru, sehingga kehilangan kemampuan umum. "Catastrophic forgetting" (pelupaan katastropik) menghapus pengetahuan dari pelatihan awal. Tingkat pembelajaran yang cermat, pencampuran data, dan evaluasi membantu mengurangi risiko tersebut.