일부 모델은 분류를 하고, 다른 모델은 생성을 합니다. 생성형 모델은 데이터의 기본 분포를 학습하고, 이를 샘플링하여 훈련 세트와 유사한 새로운 예제를 생성할 수 있습니다. 이러한 모델은 데이터에 레이블을 지정하는 방법뿐만 아니라 데이터가 어떻게 생성되는지에 대한 질문에도 답을 제시합니다.

고전적인 예로는 나이브 베이즈와 가우시안 혼합 모델이 있습니다. 현대적인 접근 방식은 변분 오토인코더, 생성적 적대 신경망, 확산 모델과 같은 신경망에 기반합니다. 각 방식은 샘플 품질, 훈련 안정성 및 계산 비용 간의 장단점을 가지고 있습니다.

일반적인 생성 모델

• 변분 오토인코더
• 생성적 적대 네트워크
• 확산 모델
• 자기회귀 모델
• 흐름 정규화

평가는 어렵습니다. 가능성 점수는 특정 패밀리를 선호하고, 시각적 품질은 다른 패밀리를 선호합니다. 생성된 샘플이 유용하고, 다양하며, 훈련 분포에 충실한지 여부를 단일 지표로 모두 포착할 수는 없습니다.