Nogle modeller klassificerer. Andre skaber. Generative modeller lærer den underliggende fordeling af data og kan tage samples fra den, hvilket producerer nye eksempler, der ligner træningssættet. De besvarer spørgsmålet om, hvordan data genereres, ikke kun hvordan man mærker dem.

Klassiske eksempler inkluderer naive Bayes- og Gauss-blandingsmodeller. Moderne tilgange er afhængige af neurale netværk: variationelle autoencodere, generative adversarielle netværk og diffusionsmodeller. Hver af dem afvejer prøvekvalitet, træningsstabilitet og beregningsomkostninger.

Almindelige generative modeller

• Variationelle autoencodere
• Generative adversarielle netværk
• Diffusionsmodeller
• Autoregressive modeller
• Normalisering af strømme

Evaluering er vanskelig. Sandsynlighedsscorer favoriserer nogle familier. Visuel kvalitet favoriserer andre. Ingen enkelt måleenhed registrerer, om genererede prøver er nyttige, forskelligartede og tro mod træningsfordelingen.