NCNN量化之ncnn2table和ncnn2int8


本文主要描述了NCNN中的量化工具操作过程,首先NCNN的量化工具包含两部分,ncnn2table和ncnn2int8;

在进行ncnn2int8量化过程之前需要进行ncnn2table操作,生成量化表;

下面首先介绍量化表的生成步骤:

一、ncnn2table生成量化表

1、首先准备工作,参考NCNN深度学习框架之Optimize优化器

2、终端进入ncnn/build/tools/quantize目录

3、./ncnn2table --image imagepath --param parampath --bin binpath --output newModel.table

  • 注:在执行命令时,在后面还可以添加mean, norm, size, thread参数,这边工具里已设为默认,就没有修改;
  • 注:这里的image指的是图片集,并且是图片数量较多的图片集;

4、执行命令后,即可看见原文件目录下生成newModel.table的量化表

二、ncnn2int8量化网络模型

1、执行可执行文件ncnn2table,生成量化表

2、终端进入ncnn/build/tools/quantizw目录

3、./ncnn2int8 [inparam] [inbin] [outparam] [outbin] [calibration table]

4、执行命令后,即可在原文件目录下生成param和bin的输出文件(即进行int8量化后的ncnn模型)


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM