Η αποστολή κάθε ένδειξης αισθητήρα στο cloud κοστίζει εύρος ζώνης και προσθέτει καθυστέρηση. Το Edge AI εκτελεί μοντέλα απευθείας σε τοπικές συσκευές, από τηλέφωνα και κάμερες έως βιομηχανικούς αισθητήρες και αυτοκίνητα. Οι υπολογισμοί γίνονται εκεί που δημιουργούνται τα δεδομένα.

Τα οφέλη είναι πρακτικά. Η μη ανάγκη για μετ' επιστροφής σε διακομιστή σημαίνει ταχύτερη απόκριση. Τα ευαίσθητα δεδομένα παραμένουν τοπικά, γεγονός που βοηθά στην προστασία της ιδιωτικής ζωής. Οι συσκευές συνεχίζουν να λειτουργούν ακόμη και όταν η συνδεσιμότητα διακόπτεται.

Εφαρμογές κοινής ακμής

• Επεξεργασία κάμερας smartphone
• Επιθεώρηση ποιότητας εργοστασίου
• Αντίληψη για αυτόνομα οχήματα
• Φορετή παρακολούθηση υγείας
• Έξυπνες οικιακές συσκευές

Ο περιορισμός είναι οι πόροι. Οι συσκευές Edge έχουν περιορισμένη μνήμη, ισχύ και υπολογιστική ισχύ. Η συμπίεση μοντέλων, η κβαντοποίηση και τα εξειδικευμένα τσιπ βοηθούν στην ενσωμάτωση ικανών μοντέλων σε μικρά πακέτα, αλλά υπάρχουν πάντα συμβιβασμοί μεταξύ ακρίβειας και αποτελεσματικότητας.