将每个传感器读数都发送到云端会消耗带宽并增加延迟。边缘人工智能则直接在本地设备（从手机和摄像头到工业传感器和汽车）上运行模型。计算在数据产生的地方进行。

这些优势显而易见。无需往返服务器意味着更快的响应速度。敏感数据保留在本地，有助于保护隐私。即使网络连接中断，设备也能继续工作。

通用边缘应用

• 智能手机相机处理
• 工厂质量检验
• 自动驾驶车辆感知
• 可穿戴健康监测
• 智能家居设备

制约因素在于资源。边缘设备的内存、功耗和计算能力有限。模型压缩、量化和专用芯片有助于将功能强大的模型集成到小型设备中，但精度和效率之间始终存在权衡。