Odesílání všech údajů ze senzoru do cloudu zvyšuje náklady na šířku pásma a zvyšuje latenci. Edge AI spouští modely přímo na lokálních zařízeních, od telefonů a kamer až po průmyslové senzory a auta. Výpočty probíhají tam, kde se data vytvářejí.

Výhody jsou praktické. Žádná zpětná cesta k serveru znamená rychlejší odezvu. Citlivá data zůstávají lokální, což pomáhá s ochranou soukromí. Zařízení fungují i ​​při výpadku připojení.

Běžné aplikace na hranách

• Zpracování obrazu z fotoaparátu smartphonu
• Kontrola kvality ve výrobě
• Autonomní vnímání vozidel
• Monitorování zdraví nositelnými zařízeními
• Chytrá domácí zařízení

Omezením jsou zdroje. Zařízení na okraji sítě mají omezenou paměť, výkon a výpočetní výkon. Komprese modelů, kvantizace a specializované čipy pomáhají vměstnat vhodné modely do malých pouzder, ale vždy existují kompromisy mezi přesností a efektivitou.