「模型量化」相关内容（1篇）

mnn落地避坑：别先追速度

mnn真正难的不是跑出demo，而是把模型稳稳塞进手机、盒子或工控板里。我做端侧推理这些年，见过太多人一上来盯着FPS，结果上线后发热、内存峰值、算子不支持轮流爆雷。想少踩坑，得先把模型转换、量化、后端选择和回归测试捋顺。