Förträning ger en modell allmän kunskap. Finjustering specialiserar den. Processen fortsätter träningen på en mindre, uppgiftsspecifik datamängd och justerar vikterna så att modellen presterar bra på måldomänen.

Fullständig finjustering uppdaterar varje parameter, vilket är dyrt för stora modeller. Parametereffektiva metoder som LoRA och adaptrar uppdaterar endast en liten delmängd, vilket ger jämförbara resultat till en bråkdel av beräkningskostnaden.

Vanliga finjusteringsscenarier

• Anpassa en språkmodell till en domän
• Lära ut en visionsmodell för nya kategorier
• Anpassa en modell till mänskliga preferenser
• Förbättra prestandan på ett specifikt riktmärke

Finjustering kan också orsaka problem. En modell kan överanpassa till nya data och förlora allmänna funktioner. Katastrofal glömska raderar kunskap från förträning. Noggranna inlärningshastigheter, datablandning och utvärdering hjälper till att minska risken.