#оптимизация моделей

NVIDIA Model Optimizer (ModelOpt) — библиотека современных техник оптимизации моделей: квантование, прунинг, поиск нейроархитектур (NAS), дистилляция, спекулятивное декодирование и разреженность для ускорения работы моделей.