[发明专利]一种量化推理过程低位宽bias越界处理方法在审
| 申请号： | 202011617758.1 | 申请日： | 2020-12-31 |
| 公开（公告）号： | CN114692876A | 公开（公告）日： | 2022-07-01 |
| 发明（设计）人： | 周飞飞 | 申请（专利权）人： | 合肥君正科技有限公司 |
| 主分类号： | G06N5/04 | 分类号： | G06N5/04;G06N3/04;G06N3/08 |
| 代理公司： | 北京嘉东律师事务所 11788 | 代理人： | 田欣欣 |
| 地址： | 230088 安徽省合肥市高新区望江*** | 国省代码： | 安徽;34 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： |
本发明方法旨在剔除模型进行低bit量化过程中合并bias时存在的异常值，确保模型推理精度和训练网络框架保持一致性。提供一种量化推理过程低位宽bias越界处理方法，所述方法包括深度学习卷积浮点型float操作，包括步骤：S1，输入浮点型数据；S2，进行卷积，进行权重合并；S3，进行批量标准化,量化过程中存在对相关参数的合并，会对batchnorm通道gamma值进行单独处理，具体量化时对batchnorm的推导公式如下：假设第i层的量化计算： |
||
| 搜索关键词： | 一种 量化 推理 过程 低位 bias 越界 处理 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于合肥君正科技有限公司，未经合肥君正科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011617758.1/，转载请声明来源钻瓜专利网。
- 上一篇：一种电热水壶
- 下一篇：液路系统、测序系统和方法
