Vannak modellek, amelyek osztályoznak. Mások alkotnak. A generatív modellek megtanulják az adatok mögöttes eloszlását, és abból mintavételezhetnek, új példákat hozva létre, amelyek hasonlítanak a tanulóhalmazhoz. Megválaszolják az adatok generálásának kérdését, nem csak azt, hogy hogyan kell címkézni őket.

A klasszikus példák közé tartoznak a naiv Bayes- és a Gauss-keverék modellek. A modern megközelítések neurális hálózatokra támaszkodnak: variációs autoenkóderekre, generatív adverzáriális hálózatokra és diffúziós modellekre. Mindegyik kompromisszumot köt a minta minősége, a betanítási stabilitás és a számítási költségek között.

Gyakori generatív modellek

• Variációs autoenkóderek
• Generatív adverzális hálózatok
• Diffúziós modellek
• Autoregresszív modellek
• Normalizáló áramlások

Az értékelés nehéz. A valószínűségi pontszámok egyes családoknak kedveznek. A vizuális minőség másoknak kedvez. Nincs egyetlen mérőszám, amely rögzítené, hogy a generált minták hasznosak, változatosak és hűek-e a betanítási eloszláshoz.