关于java:BigDecimal使用不当造成P0事故

32次阅读

共计 1408 个字符,预计需要花费 4 分钟才能阅读完成。

背景

咱们在应用金额计算或者展现金额的时候常常会应用 BigDecimal,也是波及金额时十分举荐的一个类型。

BigDecimal 本身也提供了很多结构器办法,这些结构器办法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事变资损。

事变

接下来咱们看下收银台出的一起事变。

| 问题形容
收银台计算商品金额报错,导致订单无奈领取。

| 事变级别
P0

| 事变过程
如下:

  • 13:44,接到报警,订单领取失败,领取可用率降至 60%
  • 13:50,迅速回滚上线代码,恢复正常
  • 14:20,review 代码,预公布验证发现问题点
  • 14:58,批改问题代码上线,线上复原

| 故障起因
BigDecimal 在金额计算中失落精度。

起因剖析

首先咱们先用一段代码复现问题本源,如下所示:

public static void main(String[] args) {BigDecimal bigDecimal=new BigDecimal(88);
    System.out.println(bigDecimal);
    bigDecimal=new BigDecimal("8.8");
    System.out.println(bigDecimal);
    bigDecimal=new BigDecimal(8.8);
    System.out.println(bigDecimal);
}

执行后果如下:

通过测试发现,当应用 double 或者 float 这些浮点数据类型时,会失落精度,String、int 则不会,这是为什么呢?

咱们点开结构器办法看下源码:

public static long doubleToLongBits(double value) {long result = doubleToRawLongBits(value);
    // Check for NaN based on values of bit fields, maximum
    // exponent and nonzero significand.
    if (((result & DoubleConsts.EXP_BIT_MASK) ==
          DoubleConsts.EXP_BIT_MASK) &&
         (result & DoubleConsts.SIGNIF_BIT_MASK) != 0L)
        result = 0x7ff8000000000000L;
    return result;
}

问题就处在 doubleToRawLongBits 这个办法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubleToRawLongBits 就是将 double 转换为 long,这个办法是原始办法(底层不是 java 实现,是 c++ 实现的)。

double 之所以会出问题,是因为小数点转二进制失落精度。

BigDecimal 在解决的时候把十进制小数扩充 N 倍让它在整数上进行计算,并保留相应的精度信息。

①float 和 double 类型,次要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在宽泛的数值范畴上提供较为准确的疾速近和计算。

②并没有提供齐全准确的后果,所以不应该被用于准确的后果的场合。

③当浮点数达到肯定大的数,就会主动应用迷信计数法,这样的示意只是近似实在数而不等于实在数。

④当十进制小数位转换二进制的时候也会呈现有限循环或者超过浮点数尾数的长度。

总结

所以,在波及到精度计算的过程中,咱们尽量应用 String 类型来进行转换。

文章起源:https://c1n.cn/MSqAy

正文完
 0