KKervin Vasquez·Aug 21, 2025Cómo reducir el tamaño de un modelo LLM usando quantizationGuía práctica para reducir el tamaño y acelerar la inferencia de un LLM mediante quantization de 8-bit y 4-bit con PyTorch y bitsandbytes.4 min read·kervin.blog