Her sensör okumasını buluta göndermek bant genişliği maliyetine ve gecikmeye neden olur. Uç yapay zeka (Edge AI), telefonlardan ve kameralardan endüstriyel sensörlere ve otomobillere kadar yerel cihazlarda modelleri doğrudan çalıştırır. Hesaplama, verinin oluşturulduğu yerde gerçekleşir.

Faydaları pratiktir. Sunucuya gidiş-dönüş gerekmemesi daha hızlı yanıt anlamına gelir. Hassas veriler yerel kalır, bu da gizliliğe yardımcı olur. Bağlantı kesildiğinde cihazlar çalışmaya devam eder.

Ortak kenar uygulamaları

• Akıllı telefon kamera işleme
• Fabrika kalite kontrolü
• Otonom araç algılama
• Giyilebilir sağlık izleme cihazı
• Akıllı ev cihazları

Kısıtlama kaynaklardır. Uç cihazların belleği, gücü ve işlem gücü sınırlıdır. Model sıkıştırma, niceleme ve özel çipler, yetenekli modelleri küçük paketlere sığdırmaya yardımcı olur, ancak doğruluk ve verimlilik arasında her zaman bir denge söz konusudur.