Minden egyes szenzorérték felhőbe küldése sávszélességet igényel és késleltetést is eredményez. Az Edge AI modelleket futtat közvetlenül a helyi eszközökön, a telefonoktól és kameráktól kezdve az ipari érzékelőkön át az autókig. A számítás ott történik, ahol az adatok keletkeznek.

Az előnyök gyakorlatiasak. Nincs oda-vissza út a szerverhez, ami gyorsabb válaszidőt jelent. Az érzékeny adatok helyben maradnak, ami segít az adatvédelemben. Az eszközök akkor is működnek, ha a kapcsolat megszakad.

Gyakori élalkalmazások

• Okostelefon kamera feldolgozás
• Gyári minőségellenőrzés
• Autonóm járműészlelés
• Hordható egészségügyi monitorozás
• Okosotthoni eszközök

A korlát az erőforrások. A peremhálózati eszközök memóriája, teljesítménye és számítási kapacitása korlátozott. A modelltömörítés, a kvantálás és a speciális chipek segítenek a hatékony modellek kis csomagokba sűrítésében, de mindig kompromisszumokat kell kötni a pontosság és a hatékonyság között.