تحفظ النماذج المعقدة المعلومات. أما التنظيم فيعاقب التعقيد، دافعًا النموذج نحو حلول أبسط وأكثر قابلية للتعميم. وهو من أكثر الأدوات فعاليةً لمكافحة التجاوز في التدريب.
تُضيف عملية التنظيم L2 عقوبة تتناسب مع مربع الأوزان، مما يُقلّصها تدريجيًا نحو الصفر. تُشجع عملية التنظيم L1 على التباعد من خلال معاقبة القيم المطلقة. يُعطّل التسرب (Dropout) الخلايا العصبية عشوائيًا أثناء التدريب، مما يُجبر الشبكة على أن تكون قوية. يُوقف التوقف المبكر التدريب عندما يتوقف تحسن خسارة التحقق.
أساليب التنظيم الشائعة
- عقوبات الوزن L1 و L2
- أوقع
- التوقف المبكر
- زيادة البيانات
- التطبيع الدفعي
يؤدي الإفراط في استخدام التنظيم إلى نقص التوافق، حيث يصبح النموذج بسيطًا جدًا بحيث لا يستطيع رصد الأنماط الحقيقية. ويُعدّ ضبط قوة التنظيم جزءًا أساسيًا من عملية التصميم، وعادةً ما يُسترشد بالتحقق المتبادل في اختيارها.
Comments (2)
Leave a comment