L'envoi de chaque relevé de capteur vers le cloud consomme de la bande passante et augmente la latence. L'IA embarquée exécute les modèles directement sur les appareils locaux, des téléphones et caméras aux capteurs industriels et voitures. Les calculs sont effectués là où les données sont créées.

Les avantages sont concrets. L'absence de requêtes vers un serveur garantit une réponse plus rapide. Les données sensibles restent locales, ce qui renforce la confidentialité. Les appareils continuent de fonctionner même en cas de coupure de connexion.

Applications de bord communes

• traitement de l'image du smartphone
• Inspection de la qualité en usine
• Perception des véhicules autonomes
• Surveillance de la santé portable
• appareils pour maison intelligente

La contrainte principale réside dans les ressources. Les appareils périphériques disposent de capacités de mémoire, d'énergie et de calcul limitées. La compression et la quantification des modèles, ainsi que les puces spécialisées, permettent d'intégrer des modèles performants dans des dispositifs de petite taille, mais il existe toujours un compromis entre précision et efficacité.