1. 概述
MNN 工作台内置了模型量化转换工具,可以将已有的 MNN 模型转换成体积更小 MNN 模型格式,同时保持足够的推理精度。
2. 使用流程
- 打开 MNN 工作台主界面,如 图1 所示。
图例 1. MNN 工作台主界面
- 点击
Create a new project
,进入工程选择界面,如 图 2 所示。选择侧边栏的Tools
,查看所有 MNN 工作台支持的模型工具。
图例 2. MNN 工作台模型工具界面
- 点击
Model Quantization
,进入模型量化工具界面。首次使用可能需要一定时间的初始化耗时(需联网),请耐心等待。注意图 4 中绿色提示,出现 done 表示初始化完成。
图例 3. MNN 工作台模型量化工具初始化中
图例 4. MNN 工作台模型量化工具初始化完毕
点击上方文件夹按钮选择您需要量化的模型,MNN 工作台会自动帮你在对应的目录下生成要保存的 MNN 模型文件路径,如果需要修改保存路径,也可以点击下方文件夹按钮进行修改。
准备完成后,点击 绿色量化按钮 进行模型转换。
图例 5. MNN 工作台模型量化
模型量化格高级选项
MNN 工作台在模型量化工具 Advanced Options
中提供了量化格式量化参数选择,选择不同的参数会对模型大小和模型预测结果精度产生不同效果,请用户自行选择。