如有帮忙请点赞、珍藏+关注,更多技术材料获取请点击

Gitee

JavaScript中的数值计算会存在精度失落问题,这是因为JavaScript应用IEEE 754规范的浮点数表示法来示意数字,这种示意办法无奈准确示意所有数字,特地是波及到小数的时候。除javascript外,java、python等都有相似问题,因为浮点数IEEE754是被广泛应用的规范

示例

console.log(0.1 + 0.2) // 0.30000000000000004console.log(0.2 + 0.4) // 0.6000000000000001console.log(19.9 * 100) // 1989.9999999999998

本源

  • 整数:因为数据太大,最大数2^53
  • 小数:因为小数在转换成二进制时呈现了有效循环

解决方案

  • 对于整数,前端呈现问题的几率可能比拟低,只有不超过2^53就不会失落精度
  • 对于小数,前端呈现问题的几率还是很多的,先把小数变成整数(乘倍数),再放大回原来倍数(除倍数)

实现思路

  1. 判断两个数的类型和值是否正确,如果不正确则返回null或抛出谬误。
  2. 判断两个数的小数位数,取其中较大的小数位数,将两个数都扩充相应倍数,转换成整数。
  3. 进行数值运算,失去后果。

ChatGPT提供的办法

function calculate(num1, num2, operator) {  // 判断类型和值是否正确  if (typeof num1 !== 'number' || typeof num2 !== 'number' || isNaN(num1) || isNaN(num2)) {    return null;  }  // 判断运算符是否正确  if (operator !== '+' && operator !== '-' && operator !== '*' && operator !== '/') {    return null;  }  // 正则验证  if (!/^-?\d+(\.\d+)?$/.test(num1) || !/^-?\d+(\.\d+)?$/.test(num2)) {    return NaN;  }  // 将两个数扩充相应倍数  const multiplier = Math.pow(10, Math.max(getDecimalDigits(num1), getDecimalDigits(num2)));  const int1 = Math.round(num1 * multiplier);  const int2 = Math.round(num2 * multiplier);  // 进行数值运算  let result;  switch (operator) {    case "+":      result = (int1 + int2) / multiplier;      break;    case "-":      result = (int1 - int2) / multiplier;      break;    case "*":      result = (int1 * int2) / Math.pow(multiplier, 2);      break;    case "/":      result = (int1 / int2) * (multiplier / Math.pow(10, getDecimalDigits(num2)));      break;    default:      result = NaN;  }  return result;}function getDecimalDigits(num) {  if (Number.isInteger(num)) {    return 0;  }  return num.toString().split(".")[1].length;}console.log(calculate(0.1, 0.2, '+')) // 0.3console.log(calculate(0.2, 0.4, '+')) // 0.6console.log(calculate(19.9, 100, '*')) // 1990

本文由mdnice多平台公布