लेबल महंगे होते हैं। कच्चा डेटा सस्ता होता है। सेमी-सुपरवाइज्ड लर्निंग में लेबल वाले डेटा के एक छोटे सेट को बिना लेबल वाले डेटा के एक बड़े सेट के साथ जोड़ा जाता है, और लेबल रहित डेटा की संरचना का उपयोग करके लेबल के आधार पर प्राप्त होने वाली सामान्यीकरण क्षमता से कहीं अधिक बेहतर सामान्यीकरण क्षमता प्राप्त की जाती है।

विभिन्न दृष्टिकोण अपनाए जाते हैं। स्व-प्रशिक्षण में, मॉडल बिना लेबल वाले उदाहरणों को लेबल करता है, फिर संयुक्त सेट पर पुनः प्रशिक्षण देता है। संगति नियमितीकरण मॉडल को समान इनपुट के विक्षुब्ध संस्करणों के लिए समान आउटपुट उत्पन्न करने के लिए बाध्य करता है। ग्राफ-आधारित विधियाँ समानता नेटवर्क के माध्यम से लेबल का प्रसार करती हैं।

सामान्य अर्ध-पर्यवेक्षित तकनीकें

• स्व-प्रशिक्षण और छद्म-लेबलिंग
• संगति नियमितीकरण
• एन्ट्रॉपी न्यूनीकरण
• ग्राफ-आधारित लेबल प्रसार
• तुलनात्मक पूर्वप्रशिक्षण के बाद सूक्ष्म समायोजन

परिणाम डेटा पर बहुत हद तक निर्भर करते हैं। यदि बिना लेबल वाले उदाहरण लेबल वाले उदाहरणों से भिन्न वितरण से आते हैं, तो प्रदर्शन खराब हो सकता है। सावधानीपूर्वक सत्यापन और डोमेन मिलान एल्गोरिदम जितना ही महत्वपूर्ण है।