Trimiterea fiecărei citiri de la senzori către cloud consumă lățime de bandă și adaugă latență. Edge AI rulează modele direct pe dispozitive locale, de la telefoane și camere la senzori industriali și mașini. Calculul are loc acolo unde sunt create datele.

Beneficiile sunt practice. Lipsa unei călătorii dus-întors către un server înseamnă un răspuns mai rapid. Datele sensibile rămân locale, ceea ce contribuie la confidențialitate. Dispozitivele continuă să funcționeze chiar și atunci când conexiunea se întrerupe.

Aplicații comune la margine

• Procesarea camerei smartphone-ului
• Inspecția calității din fabrică
• Percepția vehiculului autonom
• Monitorizare portabilă a stării de sănătate
• Dispozitive inteligente pentru casă

Constrângerea o reprezintă resursele. Dispozitivele Edge au memorie, putere și capacitate de calcul limitate. Compresia modelelor, cuantizarea și cipurile specializate ajută la încadrarea modelelor capabile în pachete mici, dar există întotdeauna compromisuri între acuratețe și eficiență.