Etichetele sunt scumpe. Datele brute sunt ieftine. Învățarea semi-supervizată combină un set mic etichetat cu un set mare neetichetat, folosind structura datelor neetichetate pentru a îmbunătăți generalizarea dincolo de ceea ce ar putea realiza doar etichetele.

Abordările variază. Auto-antrenamentul etichetează exemplele neetichetate cu un model, apoi le reantrenează pe mulțimea combinată. Regularizarea consistenței forțează modelul să producă ieșiri similare pentru versiuni perturbate ale aceleiași intrări. Metodele bazate pe grafuri propagă etichetele prin rețele de similaritate.

Tehnici comune semi-supervizate

• Auto-antrenament și pseudo-etichetare
• Regularizarea consistenței
• Minimizarea entropiei
• Propagarea etichetelor bazată pe grafuri
• Pre-antrenament contrastiv urmat de reglaj fin

Rezultatele depind în mare măsură de date. Dacă exemplele neetichetate provin dintr-o distribuție diferită de cele etichetate, performanța se poate degrada. Validarea atentă și potrivirea domeniilor contează la fel de mult ca algoritmul.