yolov5--ptq--qat量化之敏感层分析

news/2024/7/11 1:27:43 标签: YOLO

敏感层分析,应该是发生在ptq量化之前进行分析的操作,经过该操作,可得出哪些层不适合进行量化,则在接下来ptq时可以手动关闭这些层的量化。
在这里插入图片描述
进入敏感层分析函数sensitive_analysis中,
在这里插入图片描述
具体流程为:
首先验证一下ptq后整体的一个精度,将map结果通过summary写到一个json文件中;
然后逐层遍历模型,遍历时先判断该层是否为量化算子,若否则退出换层,若是则继续;
假如是量化算子,则先关掉该层,其余层都进行量化,此时得到一个map存入json文件中,依次类推遍历每层,最后得到的json文件如下图所示:
在这里插入图片描述
简单分析model2和model3两层:最上方为ptq量化精度,对应map0.5和0.95时的精度,对model2来说,model2层不进行量化时,精度反而比量化时还高,说明model2层不适合量化,量化反而会带来精度损失;对于model3来说,model3层不进行量化时,精度下降,说明该层应该进行量化操作。
具体如何跳过量化层而不进行量化呢,在ptq量化时,会有相对应的参数进行设置:
在这里插入图片描述


http://www.niftyadmin.cn/n/5158367.html

相关文章

2024年天津财经大学珠江学院专升本预计新增金融学招生专业

2024年天津高职升本科天津财经大学珠江学院预计在今年新增招生专业,专业为金融学,目前该专业正在向天津市教育委员会申报中,预计最快下周即可在天津财经大学珠江学院招生官方发出通知。具体以官方审批是否通过为准。 珠江消息详情如下&#x…

企业级私有化部署数字办公工具集合,解决企业全方位需求,快收藏

随着信息技术的日新月异,企业对IT建设的依赖程度越来越高。为了满足这一需求,软开企服凭借积累了多年的项目经验,推出了一款名为JVS的私有化部署企业信息化底座。JVS涵盖了多个产品领域,如协同办公、低代码开发、数据分析、风控决…

工业物联网模块应用之砂芯库桁架机器人远程无线控制

一、应用背景 在铸管车间无线技改项目中,客户需要构建智能化砂芯库,要求各库存的规格、数量、位置坐标等数据实时可显。此外,还需具备自动入库及出库功能,用于将出炉后的成摞砂芯及时码放至砂芯库的预设位置,当离心机…

【Python基础】 Python设计模式之单例模式介绍

单例模式 1.设计模式2.单例设计模式的应用场景3.new方法4. Python 中的单例 1.设计模式 设计模式 是 前人工作的总结和提炼,通常,被人们广泛流传的设计模式都是针对 某一特定问题 的成熟的解决方案使用 设计模式 是为了可重用代码、让代码更容易被他人理…

Linux进程的优先级

Linux进程的优先级 📟作者主页:慢热的陕西人 🌴专栏链接:Linux 📣欢迎各位大佬👍点赞🔥关注🚓收藏,🍉留言 本博客主要内容讲解Linux中进程的优先级&#xff0…

点云学习记录

(50 封私信 / 79 条消息) 三维点云数据的语义分割方法除了pointnet还有哪些呢? - 知乎 (zhihu.com) (50 封私信 / 80 条消息) 点云特征提取 - 搜索结果 - 知乎 (zhihu.com) (50 封私信 / 80 条消息) 点云提取特征如何进行关键点匹配? - 知乎 (zhihu.com) 1、图像…

【多媒体文件格式】MP4、MPG、TS、3GP、3G2、3GPA

MP4 mp4或称MPEG-4 Part 14,是一种多媒体容器格式,扩展名为.mp4。 历史[6]: 2001年,apple的QuickTime格式,.qt和.mov的后缀名。2001年,MPEG-4 Part1,把基于QuickTime的box布局的容器格式添加…

界面控件DevExpress WPF PDF Viewer,更快实现应用的PDF文档浏览

DevExpress WPF PDF Viewer控件可以轻松地直接在Windows应用程序中显示PDF文档,而无需在最终用户的机器上安装外部PDF查看器。 P.S:DevExpress WPF拥有120个控件和库,将帮助您交付满足甚至超出企业需求的高性能业务应用程序。通过DevExpress…