Pre-antrenamentul oferă unui model cunoștințe generale. Reglajul fin le specializează. Procesul continuă antrenamentul pe un set de date mai mic, specific sarcinii, ajustând ponderile astfel încât modelul să funcționeze bine în domeniul țintă.

Reglajul fin complet actualizează fiecare parametru, ceea ce este costisitor pentru modelele mari. Metodele eficiente din punct de vedere al parametrilor, precum LoRA și adaptoarele, actualizează doar un subset mic, obținând rezultate comparabile la o fracțiune din capacitatea de calcul.

Scenarii comune de reglare fină

• Adaptarea unui model lingvistic la un domeniu
• Predarea unor noi categorii unui model de viziune
• Alinierea unui model la preferințele umane
• Îmbunătățirea performanței la un anumit criteriu de referință

Reglajul fin poate cauza, de asemenea, probleme. Un model se poate supraadapta la noile date, pierzând capacități generale. Uitarea catastrofală șterge cunoștințele din pre-antrenament. Ratele de învățare atente, combinarea datelor și evaluarea ajută la atenuarea riscului.