जटिल मॉडल याद रखते हैं। नियमितीकरण जटिलता को कम करता है, जिससे मॉडल सरल समाधानों की ओर बढ़ता है जो बेहतर सामान्यीकरण करते हैं। यह ओवरफिटिंग के खिलाफ सबसे विश्वसनीय उपकरणों में से एक है।

L2 रेगुलराइजेशन भार के वर्ग के अनुपात में दंड जोड़ता है, जिससे भार शून्य की ओर सिकुड़ता है। L1 निरपेक्ष मानों को दंडित करके विरलता को बढ़ावा देता है। ड्रॉपआउट प्रशिक्षण के दौरान न्यूरॉन्स को यादृच्छिक रूप से निष्क्रिय कर देता है, जिससे नेटवर्क मजबूत बनता है। अर्ली स्टॉपिंग प्रशिक्षण को तब रोक देता है जब सत्यापन हानि में सुधार होना बंद हो जाता है।

सामान्य नियमितीकरण विधियाँ

• L1 और L2 भार दंड
• ड्रॉप आउट
• जल्दी रोकना
• डेटा संवर्धन
• बैच सामान्यीकरण

बहुत अधिक नियमितीकरण से अंडरफिटिंग हो जाती है। मॉडल इतना सरल हो जाता है कि वह वास्तविक पैटर्न को पकड़ नहीं पाता। इसकी क्षमता को समायोजित करना एक महत्वपूर्ण कौशल है, और क्रॉस-वैलिडेशन आमतौर पर सही चुनाव में मार्गदर्शन करता है।