將每個感測器讀數都發送到雲端會消耗頻寬並增加延遲。邊緣人工智慧則直接在本地設備（從手機和攝影機到工業感測器和汽車）上運行模型。計算在資料產生的地方進行。

這些優勢顯而易見。無需往返伺服器意味著更快的回應速度。敏感資料保留在本地，有助於保護隱私。即使網路連線中斷，設備也能繼續運作。

通用邊緣應用

• 智慧型手機相機處理
• 工廠品質檢驗
• 自動駕駛車輛感知
• 穿戴式健康監測
• 智慧家庭設備

制約因素在於資源。邊緣設備的記憶體、功耗和運算能力有限。模型壓縮、量化和專用晶片有助於將強大的模型整合到小型設備中，但精度和效率之間始終存在權衡。