关于程序员:js小数运算精度丢失问题解决方案-JavaScript精度丢失问题详解

26次阅读

共计 1550 个字符,预计需要花费 4 分钟才能阅读完成。

如有帮忙请点赞、珍藏 + 关注,更多技术材料获取请点击

Gitee

JavaScript 中的数值计算会存在精度失落问题,这是因为 JavaScript 应用 IEEE 754 规范的浮点数表示法来示意数字,这种示意办法无奈准确示意所有数字,特地是波及到小数的时候。除 javascript 外,java、python 等都有相似问题,因为浮点数 IEEE754 是被广泛应用的规范

示例

console.log(0.1 + 0.2) // 0.30000000000000004
console.log(0.2 + 0.4) // 0.6000000000000001
console.log(19.9 * 100) // 1989.9999999999998

本源

  • 整数 :因为数据太大,最大数 2^53
  • 小数 :因为小数在转换成二进制时呈现了有效循环

解决方案

  • 对于整数,前端呈现问题的几率可能比拟低,只有不超过 2^53 就不会失落精度
  • 对于小数,前端呈现问题的几率还是很多的,先把小数变成整数(乘倍数),再放大回原来倍数(除倍数)

实现思路

  1. 判断两个数的类型和值是否正确,如果不正确则返回 null 或抛出谬误。
  2. 判断两个数的小数位数,取其中较大的小数位数,将两个数都扩充相应倍数,转换成整数。
  3. 进行数值运算,失去后果。

ChatGPT 提供的办法

function calculate(num1, num2, operator) {
  // 判断类型和值是否正确
  if (typeof num1 !== 'number' || typeof num2 !== 'number' || isNaN(num1) || isNaN(num2)) {return null;}

  // 判断运算符是否正确
  if (operator !== '+' && operator !== '-' && operator !== '*' && operator !== '/') {return null;}

  // 正则验证
  if (!/^-?\d+(\.\d+)?$/.test(num1) || !/^-?\d+(\.\d+)?$/.test(num2)) {return NaN;}

  // 将两个数扩充相应倍数
  const multiplier = Math.pow(10, Math.max(getDecimalDigits(num1), getDecimalDigits(num2)));
  const int1 = Math.round(num1 * multiplier);
  const int2 = Math.round(num2 * multiplier);

  // 进行数值运算
  let result;

  switch (operator) {
    case "+":
      result = (int1 + int2) / multiplier;
      break;
    case "-":
      result = (int1 - int2) / multiplier;
      break;
    case "*":
      result = (int1 * int2) / Math.pow(multiplier, 2);
      break;
    case "/":
      result = (int1 / int2) * (multiplier / Math.pow(10, getDecimalDigits(num2)));
      break;
    default:
      result = NaN;
  }

  return result;
}

function getDecimalDigits(num) {if (Number.isInteger(num)) {return 0;}

  return num.toString().split(".")[1].length;
}


console.log(calculate(0.1, 0.2, '+')) // 0.3
console.log(calculate(0.2, 0.4, '+')) // 0.6
console.log(calculate(19.9, 100, '*')) // 1990

本文由 mdnice 多平台公布

正文完
 0