تفوز النماذج الكبيرة في الاختبارات المعيارية. أما النماذج الصغيرة فتُطرح في الأسواق. يقلل ضغط النماذج من الحجم والحساب مع الحفاظ على معظم الدقة الأصلية، مما يجعل النشر ممكناً على الهواتف والأجهزة المدمجة والخوادم الحساسة للتكلفة.

تتكامل عدة تقنيات. فالتقليم يزيل الأوزان ذات المساهمة الضئيلة. والتكميم يقلل الدقة العددية. والتقطير يُدرّب مصفوفة أصغر. والتحليل إلى عوامل منخفضة الرتبة يُفكك مصفوفات الأوزان. عمليًا، يُطبّق المهندسون هذه الأساليب مجتمعة.

طرق الضغط الشائعة

• تقليم الأوزان أو الخلايا العصبية غير المهمة
• التكميم إلى 8 بت أو أقل
• تبسيط المعرفة للطلاب الأصغر سنًا
• تحليل المصفوفة منخفضة الرتبة
• البحث المعماري عن تصاميم فعالة

للضغط حدود. تتراجع الدقة، وقد تؤدي الأساليب المفرطة إلى خلل في الأداء لا يظهر إلا في حالات نادرة. لذا، يُعدّ إجراء اختبارات الأداء على بيانات تمثيلية قبل الضغط وبعده أمرًا ضروريًا.