Одни модели классифицируют. Другие создают. Генеративные модели изучают базовое распределение данных и могут делать выборки из него, создавая новые примеры, похожие на обучающий набор. Они отвечают на вопрос о том, как генерируются данные, а не только о том, как их маркировать.

Классические примеры включают наивный байесовский классификатор и модели смесей Гаусса. Современные подходы основаны на нейронных сетях: вариационные автокодировщики, генеративно-состязательные сети и диффузионные модели. Каждый из них предполагает компромисс между качеством выборки, стабильностью обучения и вычислительными затратами.

Общие генеративные модели

• Вариационные автокодировщики
• Генеративные состязательные сети
• Модели диффузии
• Авторегрессионные модели
• Нормализация потоков

Оценка — сложная задача. Вероятностные оценки отдают предпочтение одним семействам. Визуальное качество — другим. Ни один отдельный показатель не позволяет однозначно определить, являются ли сгенерированные образцы полезными, разнообразными и соответствующими обучающему распределению.