Att skicka varje sensoravläsning till molnet kostar bandbredd och ökar latensen. Edge AI kör modeller direkt på lokala enheter, från telefoner och kameror till industriella sensorer och bilar. Beräkning sker där data skapas.

Fördelarna är praktiska. Ingen tur och retur till en server innebär snabbare svar. Känslig data förblir lokal, vilket bidrar till integriteten. Enheter fortsätter att fungera även när anslutningen bryts.

Vanliga kantapplikationer

• Smartphonekamerabehandling
• Kvalitetsinspektion av fabriken
• Uppfattning av autonoma fordon
• Bärbar hälsoövervakning
• Smarta hemenheter

Begränsningen är resurser. Edge-enheter har begränsat minne, strömförsörjning och beräkningsförmåga. Modellkomprimering, kvantisering och specialiserade chip hjälper till att anpassa kapabla modeller till små paket, men det finns alltid avvägningar mellan noggrannhet och effektivitet.