Forhåndstrening gir en modell generell kunnskap. Finjustering spesialiserer den. Prosessen fortsetter treningen på et mindre, oppgavespesifikt datasett, og justerer vektene slik at modellen yter bra på måldomenet.

Full finjustering oppdaterer alle parametere, noe som er dyrt for store modeller. Parametereffektive metoder som LoRA og adaptere oppdaterer bare et lite delsett, og oppnår sammenlignbare resultater med en brøkdel av beregningshastigheten.

Vanlige finjusteringsscenarier

• Tilpasse en språkmodell til et domene
• Lære en visjonsmodell nye kategorier
• Å tilpasse en modell til menneskelige preferanser
• Forbedre ytelsen på en spesifikk referanseindeks

Finjustering kan også forårsake problemer. En modell kan overtilpasse seg de nye dataene, og dermed miste generelle funksjoner. Katastrofal glemsel sletter kunnskap fra forhåndstrening. Nøye læringsrater, datablanding og evaluering bidrar til å redusere risikoen.