किसी नेटवर्क को प्रशिक्षित करने के लिए प्रत्येक भार को समायोजित करने का तरीका जानना आवश्यक है। बैकप्रोपैगेशन इसकी गणना करता है। यह कैलकुलस के चेन रूल का उपयोग करके त्रुटि को आउटपुट लेयर से नेटवर्क के माध्यम से पीछे की ओर प्रसारित करता है, और रास्ते में प्रत्येक भार को एक ग्रेडिएंट प्रदान करता है।
यह एल्गोरिदम दो चरणों में काम करता है। पहले चरण में पूर्वानुमान और हानि की गणना की जाती है। दूसरे चरण में प्रत्येक पैरामीटर के सापेक्ष ग्रेडिएंट की गणना की जाती है। इसके बाद, स्टोकेस्टिक ग्रेडिएंट डिसेंट जैसे ऑप्टिमाइज़र द्वारा भार को उस दिशा में अपडेट किया जाता है जिससे हानि कम हो।
मुख्य चरण
- सभी परतों से आगे बढ़ना
- लक्ष्यों के विरुद्ध हानि की गणना करें
- चेन नियम लागू करते हुए बैकवर्ड पास
- ग्रेडिएंट का उपयोग करके वज़न को अपडेट करें
यह तकनीक 1980 के दशक में लोकप्रिय हुई और तेज़ हार्डवेयर और बेहतर एक्टिवेशन फ़ंक्शन के साथ मिलकर डीप लर्निंग को व्यावहारिक बना दिया। इसके बिना, मल्टी-लेयर नेटवर्क को प्रशिक्षित करने के लिए वेट स्पेस पर जटिल खोज की आवश्यकता होती।
Comments (2)
Leave a comment