Mengirim setiap pembacaan sensor ke cloud membutuhkan bandwidth dan menambah latensi. Edge AI menjalankan model langsung pada perangkat lokal, mulai dari ponsel dan kamera hingga sensor industri dan mobil. Komputasi terjadi di tempat data dibuat.

Manfaatnya praktis. Tidak ada perjalanan bolak-balik ke server berarti respons lebih cepat. Data sensitif tetap berada di lokal, yang membantu menjaga privasi. Perangkat tetap berfungsi saat konektivitas terputus.

Aplikasi edge umum

• Pemrosesan kamera ponsel pintar
• Inspeksi kualitas pabrik
• Persepsi kendaraan otonom
• Perangkat pemantauan kesehatan yang dapat dikenakan
• Perangkat rumah pintar

Kendalanya adalah sumber daya. Perangkat edge memiliki memori, daya, dan kemampuan komputasi yang terbatas. Kompresi model, kuantisasi, dan chip khusus membantu memasukkan model yang mumpuni ke dalam paket kecil, tetapi selalu ada kompromi antara akurasi dan efisiensi.