Числа с плавающей запятой точны, но ресурсоемки. Квантование снижает числовую точность весов и активаций модели, обычно с 32-битных чисел с плавающей запятой до 8-битных или 4-битных целых чисел. Модель уменьшается в размерах, работает быстрее и потребляет меньше энергии.

Компромисс заключается в точности. Агрессивное квантование ухудшает качество выходных данных, особенно в задачах, требующих тонких числовых различий. Квантование после обучения — недорогой, но с потерями результат. Обучение с учетом квантования имитирует низкую точность во время обучения, восстанавливая большую часть потерянной точности.

Общие уровни квантования

• 16-битная плавающая точка, незначительное сжатие
• 8-битное целое число, широко используемое для вывода информации.
• 4-битное целое число, агрессивный, но осуществимый при должном внимании.
• Бинарные и тройные, экспериментальные

Поддержка оборудования различается. Некоторые ускорители обрабатывают 8-битные данные изначально и обеспечивают значительное ускорение. Другие же переключаются на более медленные пути. Выбор схемы квантования зависит как от целевой платформы, так и от модели.