背景
我们在使用金额计算或者展示金额的时候经常会使用 bigdecimal,也是涉及金额时非常推荐的一个类型。
bigdecimal 自身也提供了很多构造器方法,这些构造器方法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事故资损。
事故
接下来我们看下收银台出的一起事故。
问题描述
收银台计算商品金额报错,导致订单无法支付。
事故级别
p0
事故过程
如下:
13:44,接到报警,订单支付失败,支付可用率降至 60%
13:50,迅速回滚上线代码,恢复正常
14:20,review 代码,预发布验证发现问题点
14:58,修改问题代码上线,线上恢复
故障原因
bigdecimal 在金额计算中丢失精度。
原因分析
首先我们先用一段代码复现问题根源,如下所示:
public static void main(string[] args) { bigdecimal bigdecimal=new bigdecimal(88); system.out.println(bigdecimal); bigdecimal=new bigdecimal(8.8); system.out.println(bigdecimal); bigdecimal=new bigdecimal(8.8); system.out.println(bigdecimal);} 执行结果如下:
通过测试发现,当使用 double 或者 float 这些浮点数据类型时,会丢失精度,string、int 则不会,这是为什么呢?
我们点开构造器方法看下源码:
public static long doubletolongbits(double value) { long result = doubletorawlongbits(value); // check for nan based on values of bit fields, maximum // exponent and nonzero significand. if ( ((result & doubleconsts.exp_bit_mask) == doubleconsts.exp_bit_mask) && (result & doubleconsts.signif_bit_mask) != 0l) result = 0x7ff8000000000000l; return result;} 问题就处在 doubletorawlongbits 这个方法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubletorawlongbits 就是将 double 转换为 long,这个方法是原始方法(底层不是 java 实现,是 c++ 实现的)。
double 之所以会出问题,是因为小数点转二进制丢失精度。
bigdecimal 在处理的时候把十进制小数扩大 n 倍让它在整数上进行计算,并保留相应的精度信息。
① float 和 double 类型,主要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在广泛的数值范围上提供较为精确的快速近和计算。
② 并没有提供完全精确的结果,所以不应该被用于精确的结果的场合。
③ 当浮点数达到一定大的数,就会自动使用科学计数法,这样的表示只是近似真实数而不等于真实数。
④ 当十进制小数位转换二进制的时候也会出现无限循环或者超过浮点数尾数的长度。
总结
所以,在涉及到精度计算的过程中,我们尽量使用 string 类型来进行转换。
东航已向东航租赁项目子公司转让了2架B737-800飞机购买权
华为麒麟最新处理器曝光,采用台积电5nm制程工艺
江西加快推进5G发展,11个设区市均开通5G网络全覆盖
美图进军芯片领域 自研MT-AI图像处理芯片
苹果MagSafe电池因技术原因或导致延后
BigDecimal使用失误的原因分析
安卓 11 来了,OPPO 手机 ColorOS 11 最新 12 月升级适配计划公布
Elvesys如何设计出世界上最快速的病原检测平台?
如何自制最简单zvs升压电路图?其操作步骤解析
《Star Trek:Bridge Crew》登陆美国洛杉矶的IMAX VR体验中心
VR技术新突破,可通过触觉感受虚拟环境
redis高并发能力直接相关概念有哪些
巨头们先进封装技术的详细解读
制造业企业复工率为98.7%,3月份制造业PMI超出预期
电压增益怎么计算?电压增益的定义?电压增益表达式
苹果CEO库克去年薪酬超1400万美元 身家突破10亿美元
诺基亚500港行即将开卖 或售1600元
一台蚂蚁矿机一天能挖多少比特币
台积电追逐全球晶圆代工霸主地位
图解大模型训练之:数据并行上篇(DP, DDP与ZeRO)