Sommige modellen classificeren. Andere creëren. Generatieve modellen leren de onderliggende verdeling van data en kunnen daaruit steekproeven nemen, waardoor nieuwe voorbeelden ontstaan ​​die lijken op de trainingsset. Ze beantwoorden de vraag hoe data wordt gegenereerd, niet alleen hoe deze gelabeld moet worden.

Klassieke voorbeelden zijn naïeve Bayes en Gaussiaanse mengmodellen. Moderne benaderingen maken gebruik van neurale netwerken: variationele auto-encoders, generatieve adversariële netwerken en diffusiemodellen. Elk van deze benaderingen brengt afwegingen met zich mee op het gebied van datakwaliteit, trainingsstabiliteit en rekenkosten.

Veelvoorkomende generatieve modellen

• Variationele autoencoders
• Generatieve adversariële netwerken
• Diffusiemodellen
• Autoregressieve modellen
• Normaliserende stromen

Evaluatie is lastig. Waarschijnlijkheidsscores bevoordelen sommige families. Visuele kwaliteit bevoordeelt andere. Geen enkele maatstaf geeft volledig weer of de gegenereerde voorbeelden bruikbaar, divers en trouw aan de trainingsdistributie zijn.