[发明专利]数值处理方法、装置、处理设备及计算机可读存储介质在审
| 申请号: | 202010837521.8 | 申请日: | 2020-08-19 |
| 公开(公告)号: | CN112099759A | 公开(公告)日: | 2020-12-18 |
| 发明(设计)人: | 贾聪;吴柳 | 申请(专利权)人: | 武汉虚咖科技有限公司 |
| 主分类号: | G06F7/499 | 分类号: | G06F7/499;G06F7/50 |
| 代理公司: | 北京众达德权知识产权代理有限公司 11570 | 代理人: | 张晓冬 |
| 地址: | 430000 湖北省武汉市东湖新技术开发区流芳街大舒村工业项目(*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数值 处理 方法 装置 设备 计算机 可读 存储 介质 | ||
本申请提供了数值处理方法、装置、处理设备及计算机可读存储介质,用于对两数值进行加法处理时,有效突破位数的限制,避免出现数据溢出的情况。本申请提供的一种数值处理方法,包括:处理设备获取当前待进行加法处理的第一数值以及第二数值,加法处理用于计算第一数值与第二数值的和;处理设备按照预设数值分段位数对第一数值进行分段存储,得到第一数组,以及按照预设数值分段位数对第二数值进行分段存储,得到第二数组;处理设备对第一数组以及第二数组进行加法运算,得到第三数组,第三数值用于指示第一数值与第二数值的和。
技术领域
本申请涉及计算领域,尤其涉及数值处理方法、装置、处理设备及计算机可读存储介质。
背景技术
对于各式各样的应用程序,尤其是高频更新变量的应用程序中,常常需要对项目的两数值进行相加,来更新变量,例如游戏应用程序,某些项目的数值在设计时可能会很大,例如,设计的数值可能是几十位甚至几百位数字组成的超大数值,越大的数值可为应用程序的各种变量带来越大的区分性,由此可见,大数值的存在具有其实际意义。
而在现有的相关技术的研究过程中,发明人发现,部分应用程序在运行过程在进行数值的加法处理时,偶尔出现数据溢出的情况,或者说,由于数值的位数存在限制,超过位数限制的加法处理,无法得到正确的计算结果。
因此,如何如破位数的限制得到两数值正确的相加结果,需要优化器计算方式。
发明内容
本申请提供了数值处理方法、装置、处理设备及计算机可读存储介质,用于对两数值进行加法处理时,有效突破位数的限制,避免出现数据溢出的情况。
第一方面,本申请提供了一种数值处理方法,方法包括:
处理设备获取当前待进行加法处理的第一数值以及第二数值,加法处理用于计算第一数值与第二数值的和;
处理设备按照预设数值分段位数对第一数值进行分段存储,得到第一数组,以及按照预设数值分段位数对第二数值进行分段存储,得到第二数组;
处理设备对第一数组以及第二数组进行加法运算,得到第三数组,第三数值用于指示第一数值与第二数值的和。
结合本申请第一方面,在本申请第一方面第一种可能的实现方式中,处理设备按照预设数值分段位数对第一数值进行分段存储,得到第一数组,以及按照预设数值分段位数对第二数值进行分段存储,得到第二数组之前,方法还包括:
处理设备判断第一数值与第二数值的和是否存在数据溢出风险;
若是,则处理设备触发按照预设数值分段位数对第一数值进行分段存储以及按照预设数值分段位数对第二数值进行分段存储。
结合本申请第一方面第一种可能的实现方式,在本申请第一方面第二种可能的实现方式中,处理设备判断第一数值与第二数值的和是否存在数据溢出风险包括:
处理设备获取第一数值以及第二数值两者的数据存储结构类型;
当两者的数据存储结构类型为存在数据溢出风险的预设数据存储结构类型时,处理设备确定第一数值与第二数值的和存在数据溢出风险。
结合本申请第一方面第二种可能的实现方式,在本申请第一方面第三种可能的实现方式中,预设数据结构类型为number数据存储结构类型。
结合本申请第一方面,在本申请第一方面第四种可能的实现方式中,处理设备按照预设数值分段位数对第一数值进行分段存储,得到第一数组,以及按照预设数值分段位数对第二数值进行分段存储,得到第二数组之前,方法还包括:
处理设备获取第一数值的第一位数、第二数值的第二位数;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉虚咖科技有限公司,未经武汉虚咖科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010837521.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种三点焊接摆放支架定位结构
- 下一篇:一种循环货位存储方法





