模型优化器

模型量化是一种有效的方法，可减少显存占用并提升消费级设备（如 NVIDIA GeForce RTX GPU）上的推理性能。