Label itu mahal. Data mentah itu murah. Pembelajaran semi-supervised menggabungkan kumpulan data berlabel yang kecil dengan kumpulan data tak berlabel yang besar, menggunakan struktur data tak berlabel untuk meningkatkan generalisasi melampaui apa yang dapat dicapai hanya dengan label saja.

Pendekatan yang digunakan bervariasi. Pelatihan mandiri memberi label pada contoh yang tidak berlabel dengan sebuah model, kemudian melatih ulang pada kumpulan data gabungan. Regularisasi konsistensi memaksa model untuk menghasilkan keluaran yang serupa untuk versi yang terganggu dari masukan yang sama. Metode berbasis grafik menyebarkan label melalui jaringan kesamaan.

Teknik semi-supervisi umum

• Pelatihan mandiri dan pelabelan semu
• Regularisasi konsistensi
• Minimisasi entropi
• Penyebaran label berbasis grafik
• Pelatihan awal kontrastif diikuti dengan penyempurnaan.

Hasil sangat bergantung pada data. Jika contoh yang tidak berlabel berasal dari distribusi yang berbeda dengan contoh yang berlabel, kinerja dapat menurun. Validasi yang cermat dan pencocokan domain sama pentingnya dengan algoritma.