Nicht alle Daten lassen sich in ein Raster einordnen. Soziale Netzwerke, Moleküle und Straßenkarten sind Graphen mit Knoten und Kanten anstelle von Pixeln oder Sequenzen. Graph-Neuronale Netze arbeiten direkt mit dieser Struktur und übermitteln Nachrichten zwischen verbundenen Knoten, um Repräsentationen zu erlernen.

Die Kernoperation ist die Nachrichtenübermittlung. Jeder Knoten sammelt Informationen von seinen Nachbarn, aktualisiert seine eigene Repräsentation und wiederholt dies mehrere Runden lang. Nach genügend Schichten kodiert jeder Knoten Informationen aus seiner lokalen Umgebung.

Häufige Graphaufgaben

• Knotenklassifizierung
• Linkvorhersage
• Graphklassifizierung
• Empfehlungen für Verbindungen
• Vorhersage molekularer Eigenschaften

Skalierung stellt eine Herausforderung dar. Große Graphen bestehen aus Millionen von Knoten und Kanten, und das Training im Vollbatch-Verfahren lässt sich nicht im Arbeitsspeicher durchführen. Sampling-Verfahren und Mini-Batch-Methoden ermöglichen das Training, allerdings auf Kosten der Genauigkeit.