EN - FR - DE - ES - IT - PT -

LexiconDream

🎲 Ograniczona maszyna Boltzmanna

Generatywna stochastyczna sieć neuronowa z widocznymi i ukrytymi jednostkami.

Ograniczona maszyna Boltzmanna

Dwie warstwy, brak połączeń w obrębie warstwy. Ograniczona maszyna Boltzmanna składa się z jednostek widocznych i ukrytych, z połączeniami tylko między tymi dwiema grupami. To ograniczenie sprawia, że ​​trening jest podatny na wpływ kontrastu dywergencji.

Model uczy się rozkładu prawdopodobieństwa na widocznych jednostkach. Ukryte jednostki wychwytują cechy ukryte. Po wytrenowaniu sieć może generować próbki, uruchamiając próbkowanie Gibbsa między warstwami.

Kluczowe właściwości

Modele RBM odegrały kluczową rolę w odrodzeniu głębokiego uczenia się w 2006 roku, kiedy ich łączenie umożliwiło efektywne wstępne trenowanie. Nowoczesne architektury, takie jak modele VAE i modele dyfuzyjne, w dużej mierze je zastąpiły, ale idee te nadal pojawiają się w badaniach nad modelowaniem energetycznym.

Comments (2)

  1. Dr. Ken J.
    RBMs were foundational to the deep learning revolution. They're less common now but historically important.
  2. Nina T.
    The math behind RBMs is not for the faint of heart. Energy based models are elegant but difficult.

Leave a comment