すべてのセンサーデータをクラウドに送信すると、帯域幅を消費し、遅延も増加します。エッジAIは、スマートフォンやカメラから産業用センサーや自動車まで、ローカルデバイス上でモデルを直接実行します。計算処理は、データが生成された場所で行われます。

その利点は実用的です。サーバーとの往復通信が不要なため、応答速度が向上します。機密データはローカルに保持されるため、プライバシー保護に役立ちます。接続が切断されてもデバイスは動作し続けます。

一般的なエッジアプリケーション

• スマートフォンのカメラ処理
• 工場品質検査
• 自動運転車の知覚
• ウェアラブル健康モニタリング
• スマートホームデバイス

制約となるのはリソースです。エッジデバイスはメモリ、電力、演算能力が限られています。モデルの圧縮、量子化、専用チップによって高性能モデルを小型パッケージに収めることができますが、精度と効率の間には常にトレードオフが存在します。