Отправка всех показаний датчиков в облако требует пропускной способности и увеличивает задержку. Edge AI запускает модели непосредственно на локальных устройствах, от телефонов и камер до промышленных датчиков и автомобилей. Вычисления происходят там, где создаются данные.

Преимущества очевидны. Отсутствие обмена данными с сервером означает более быструю реакцию. Конфиденциальные данные остаются локально, что способствует обеспечению конфиденциальности. Устройства продолжают работать даже при обрыве связи.

Общие приложения на периферии

• обработка изображения с камеры смартфона
• Заводской контроль качества
• Автономное восприятие транспортных средств
• Носимые устройства для мониторинга здоровья
• Устройства для умного дома

Ограничение заключается в ресурсах. Периферийные устройства имеют ограниченные объемы памяти, энергопотребления и вычислительных мощностей. Сжатие моделей, квантование и специализированные чипы помогают размещать производительные модели в небольших корпусах, но всегда приходится идти на компромисс между точностью и эффективностью.