प्रीट्रेनिंग से मॉडल को सामान्य ज्ञान प्राप्त होता है। फाइन-ट्यूनिंग से इसे विशिष्ट बनाया जाता है। यह प्रक्रिया एक छोटे, कार्य-विशिष्ट डेटासेट पर प्रशिक्षण जारी रखती है, और वेट्स को इस तरह समायोजित करती है कि मॉडल लक्षित डोमेन पर अच्छा प्रदर्शन करे।

पूर्ण फाइन-ट्यूनिंग प्रत्येक पैरामीटर को अपडेट करती है, जो बड़े मॉडलों के लिए महंगा होता है। LoRA और एडेप्टर जैसी पैरामीटर-कुशल विधियाँ केवल एक छोटे उपसमूह को अपडेट करती हैं, जिससे कम कंप्यूटिंग लागत में तुलनीय परिणाम प्राप्त होते हैं।

सामान्य फाइन-ट्यूनिंग परिदृश्य

• किसी भाषा मॉडल को किसी डोमेन के अनुकूल बनाना
• एक विज़न मॉडल को नई श्रेणियों में पढ़ाना
• किसी मॉडल को मानवीय प्राथमिकताओं के अनुरूप बनाना
• किसी विशिष्ट बेंचमार्क पर प्रदर्शन में सुधार करना

बारीक समायोजन से भी समस्याएं उत्पन्न हो सकती हैं। मॉडल नए डेटा पर अत्यधिक अनुकूलन कर सकता है, जिससे उसकी सामान्य क्षमताएं कम हो जाती हैं। गंभीर विस्मृति पूर्व-प्रशिक्षण से प्राप्त ज्ञान को मिटा देती है। सावधानीपूर्वक सीखने की दर, डेटा मिश्रण और मूल्यांकन से इस जोखिम को कम करने में मदद मिलती है।