레이블은 비용이 많이 들지만, 원시 데이터는 저렴합니다. 준지도 학습은 레이블이 지정된 소규모 데이터 세트와 레이블이 지정되지 않은 대규모 데이터 세트를 결합하여, 레이블이 지정되지 않은 데이터의 구조를 활용함으로써 레이블만 사용했을 때보다 일반화 성능을 향상시킵니다.

접근 방식은 다양합니다. 자체 학습 방식은 레이블이 지정되지 않은 예제에 모델을 사용하여 레이블을 지정한 다음, 결합된 데이터 세트로 다시 학습합니다. 일관성 정규화는 동일한 입력의 변형된 버전에 대해 모델이 유사한 출력을 생성하도록 합니다. 그래프 기반 방식은 유사성 네트워크를 통해 레이블을 전파합니다.

일반적인 준지도 학습 기법

• 자체 학습 및 의사 라벨링
• 일관성 정규화
• 엔트로피 최소화
• 그래프 기반 레이블 전파
• 대조적 사전 훈련 후 미세 조정

결과는 데이터에 크게 좌우됩니다. 레이블이 지정되지 않은 예제가 레이블이 지정된 예제와 다른 분포에서 가져온 경우 성능이 저하될 수 있습니다. 신중한 검증과 도메인 매칭은 알고리즘만큼이나 중요합니다.