Wörter, Bilder und Nutzer werden zu Punkten in derselben geometrischen Welt. Ein Einbettungsraum bildet diskrete Objekte auf kontinuierliche Vektoren ab, wobei ähnliche Elemente nahe beieinander und unähnliche weit voneinander entfernt platziert werden. Distanz trägt Bedeutung.

Wortvektoren wie Word2Vec und GloVe ordnen verwandte Begriffe nahe beieinander an. In diesem Raum ähnelt der Vektorunterschied zwischen König und Königin dem Unterschied zwischen Mann und Frau. Satz- und Bildvektoren erweitern dieses Konzept auf größere Einheiten.

Gängige Einbettungsanwendungen

• Semantische Suche und Abruf
• Empfehlungssysteme
• Clustering und Visualisierung
• Transferlernmerkmale
• Crossmodale Zuordnung

Die Dimensionen reichen von einigen Dutzend bis zu mehreren Tausend. Höhere Dimensionen erfassen mehr Nuancen, erfordern aber mehr Daten und Rechenleistung. Die Geometrie wird erlernt, nicht entworfen, was die Interpretation erschwert, selbst wenn die Ergebnisse nützlich sind.