Etiketter er dyre. Rådata er billige. Semi-veiledet læring kombinerer et lite merket sett med et stort umerket sett, og bruker strukturen til umerkede data for å forbedre generalisering utover det etiketter alene kunne oppnå.

Tilnærmingene varierer. Selvtrening merker umerkede eksempler med en modell, og trener deretter på nytt på det kombinerte settet. Konsistensregularisering tvinger modellen til å produsere lignende utganger for forstyrrede versjoner av samme input. Grafbaserte metoder forplanter merkelapper gjennom likhetsnettverk.

Vanlige semi-overvåkede teknikker

• Selvtrening og pseudomerking
• Konsistensregulering
• Entropiminimering
• Grafbasert etikettforplantning
• Kontrastiv fortrening etterfulgt av finjustering

Resultatene er sterkt avhengige av data. Hvis umerkede eksempler kommer fra en annen distribusjon enn merkede eksempler, kan ytelsen forringes. Nøye validering og domenematching er like viktig som algoritmen.