Теперь Keras позволяет вам квантовать модели всего одной строкой кода! Вы можете квантовать свои собственные модели или любую предобученную модель, полученную из KerasHub. Просто выполните model.quantize(quantization_mode). Поддерживает квантование в режимы int4, int8, float8 и GPTQ.