Předběžné trénování poskytuje modelu obecné znalosti. Jemné ladění je specializuje. Proces pokračuje v trénování na menší, pro daný úkol specifické datové sadě a upravuje váhy tak, aby model v cílové doméně dobře fungoval.

Úplné jemné doladění aktualizuje každý parametr, což je u velkých modelů nákladné. Metody efektivní z hlediska parametrů, jako je LoRA a adaptéry, aktualizují pouze malou podmnožinu a dosahují srovnatelných výsledků za zlomek výpočetního výkonu.

Běžné scénáře jemného doladění

• Adaptace jazykového modelu na doménu
• Výuka nových kategorií modelu vidění
• Sladění modelu s lidskými preferencemi
• Zlepšení výkonu v konkrétním benchmarku

Jemné doladění může také způsobit problémy. Model se může příliš přizpůsobit novým datům a ztratit tak obecné schopnosti. Katastrofické zapomínání maže znalosti z předtrénování. Pečlivé tempo učení, míchání dat a vyhodnocování pomáhají zmírnit riziko.