Das Senden jedes Sensormesswerts in die Cloud kostet Bandbreite und erhöht die Latenz. Edge-KI führt Modelle direkt auf lokalen Geräten aus – von Smartphones und Kameras bis hin zu industriellen Sensoren und Autos. Die Datenverarbeitung findet dort statt, wo die Daten entstehen.

Die Vorteile liegen auf der Hand. Der Wegfall der Serveranfrage bedeutet schnellere Reaktionszeiten. Sensible Daten bleiben lokal, was den Datenschutz verbessert. Geräte funktionieren auch bei Verbindungsabbrüchen weiterhin.

Gängige Edge-Anwendungen

• Smartphone-Kameraverarbeitung
• Werksqualitätsprüfung
• Wahrnehmung autonomer Fahrzeuge
• Tragbare Gesundheitsüberwachung
• Smart-Home-Geräte

Die Einschränkung liegt in den Ressourcen. Edge-Geräte verfügen über begrenzten Speicher, begrenzte Leistung und Rechenleistung. Modellkomprimierung, Quantisierung und spezialisierte Chips helfen zwar dabei, leistungsfähige Modelle in kleine Gehäuse zu integrieren, doch es gibt stets einen Zielkonflikt zwischen Genauigkeit und Effizienz.