Forudgående træning giver en model generel viden. Finjustering specialiserer den. Processen fortsætter træningen på et mindre, opgavespecifikt datasæt og justerer vægte, så modellen præsterer godt på måldomænet.

Fuld finjustering opdaterer alle parametre, hvilket er dyrt for store modeller. Parametereffektive metoder som LoRA og adaptere opdaterer kun en lille delmængde og opnår sammenlignelige resultater med en brøkdel af beregningstiden.

Almindelige finjusteringsscenarier

• Tilpasning af en sprogmodel til et domæne
• Undervisning i en visionsmodel med nye kategorier
• Tilpasning af en model til menneskelige præferencer
• Forbedring af ydeevnen på et specifikt benchmark

Finjustering kan også forårsage problemer. En model kan overtilpasse sig de nye data og miste generelle funktioner. Katastrofal glemsel sletter viden fra prætræning. Omhyggelige læringshastigheder, datablanding og evaluering hjælper med at mindske risikoen.