EN - FR - DE - ES - IT - PT -

LexiconDream

🔙 الانتشار العكسي

خوارزمية تحسب التدرجات لتحديث أوزان الشبكة العصبية.

الانتشار العكسي

يتطلب تدريب الشبكة معرفة كيفية ضبط كل وزن. تقوم خوارزمية الانتشار العكسي بحساب ذلك. فهي تطبق قاعدة السلسلة في حساب التفاضل والتكامل لنشر الخطأ من طبقة الإخراج عكسيًا عبر الشبكة، مع تعيين تدرج لكل وزن على طول الطريق.

تعمل الخوارزمية على مرحلتين. المرحلة الأولى، وهي المرحلة الأمامية، تحسب التنبؤات والخسارة. أما المرحلة الثانية، وهي المرحلة الخلفية، فتحسب التدرجات بالنسبة لكل مُعامل. بعد ذلك، يقوم مُحسِّن، مثل خوارزمية التدرج العشوائي، بتحديث الأوزان في الاتجاه الذي يُقلل الخسارة.

الطلاب الرئيسيون

انتشرت هذه التقنية في ثمانينيات القرن الماضي، وجعلت التعلم العميق عمليًا عند اقترانها بأجهزة أسرع ووظائف تنشيط أفضل. وبدونها، كان تدريب الشبكات متعددة الطبقات سيتطلب بحثًا معقدًا في فضاء الأوزان.

Comments (2)

  1. Grad student
    Vanishing gradients were a real headache before better activations and residual connections.
  2. Deep learning hobbyist
    The algorithm that makes training neural nets practical. Chain rule applied repeatedly is the core idea.

Leave a comment