Noen modeller klassifiserer. Andre skaper. Generative modeller lærer den underliggende fordelingen av data og kan ta prøver fra den, og produsere nye eksempler som ligner på treningssettet. De svarer på spørsmålet om hvordan data genereres, ikke bare hvordan man merker dem.

Klassiske eksempler inkluderer naive Bayes- og Gauss-blandingsmodeller. Moderne tilnærminger er avhengige av nevrale nettverk: variasjonsautokodere, generative adversarielle nettverk og diffusjonsmodeller. Hver av dem avveier prøvekvalitet, treningsstabilitet og beregningskostnader.

Vanlige generative modeller

• Variasjonsautokodere
• Generative motstridende nettverk
• Diffusjonsmodeller
• Autoregressive modeller
• Normalisering av strømmer

Evaluering er vanskelig. Sannsynlighetspoeng favoriserer noen familier. Visuell kvalitet favoriserer andre. Ingen enkelt målestokk fanger opp om genererte utvalg er nyttige, mangfoldige og tro mot treningsfordelingen.