1. 概述

MNN 工作台内置了模型量化转换工具,可以将已有的 MNN 模型转换成体积更小 MNN 模型格式,同时保持足够的推理精度。

2. 使用流程

  1. 打开 MNN 工作台主界面,如 图1 所示。

截屏2020-10-25 下午9.40.19.png
图例 1. MNN 工作台主界面

  1. 点击 Create a new project,进入工程选择界面,如 图 2 所示。选择侧边栏Tools,查看所有 MNN 工作台支持的模型工具。

image.png
图例 2. MNN 工作台模型工具界面

  1. 点击 Model Quantization,进入模型量化工具界面。首次使用可能需要一定时间的初始化耗时(需联网),请耐心等待。注意图 4 中绿色提示,出现 done 表示初始化完成。 image.png

图例 3. MNN 工作台模型量化工具初始化中
image.png
图例 4. MNN 工作台模型量化工具初始化完毕

  1. 点击上方文件夹按钮选择您需要量化的模型,MNN 工作台会自动帮你在对应的目录下生成要保存的 MNN 模型文件路径,如果需要修改保存路径,也可以点击下方文件夹按钮进行修改。

  2. 准备完成后,点击 绿色量化按钮 进行模型转换。

image.png
图例 5. MNN 工作台模型量化

模型量化格高级选项

MNN 工作台在模型量化工具 Advanced Options 中提供了量化格式量化参数选择,选择不同的参数会对模型大小和模型预测结果精度产生不同效果,请用户自行选择。