tags: ‘js’

categories: ‘js’

js计算丢失精度问题(加法、减法、乘法、除法)

方法一： 原型

  1. // 加法   
  2. Number.prototype.add = function(arg){   
  3.     var r1,r2,m;   
  4.     try{
  5.         r1=this.toString().split(".")[1].length
  6.     }catch(e){
  7.         r1=0
  8.     }   
  10.     try{
  11.         r2=arg.toString().split(".")[1].length
  12.     }catch(e){
  13.         r2=0
  14.     }
  16.     m = Math.pow(10,Math.max(r1,r2));
  18.     return Math.round(this*m+arg*m)/m
  19. }
  20. 0.1+0.2         // 0.30000000000000004
  21. 0.1.add(0.2)    // 0.3
  23. // 减法
  24. Number.prototype.sub = function (arg){
  25.     return this.add(-arg);
  26. }
  27. 0.3-0.1         // 0.19999999999999998
  28. 0.3.sub(0.1)    // 0.2
  29. 5000.02.sub(905.8)    // 4094.22
  31. // 乘法   
  32. Number.prototype.mul = function (arg){   
  33.     var m=0,s1=this.toString(),s2=arg.toString();   
  34.     try{
  35.         m+=s1.split(".")[1].length
  36.     }catch(e){}
  38.     try{
  39.         m+=s2.split(".")[1].length
  40.     }catch(e){}
  42.     return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)   
  43. }  
  44. 0.00035.mul(100)    // 0.035
  46. // 除法   
  47. Number.prototype.div = function (arg){   
  48.     var t1=0,t2=0,r1,r2;   
  49.     try{
  50.         t1=this.toString().split(".")[1].length
  51.     }catch(e){}
  53.     try{
  54.         t2=arg.toString().split(".")[1].length
  55.     }catch(e){}
  57.     with(Math){   
  58.         r1=Number(this.toString().replace(".",""))   
  59.         r2=Number(arg.toString().replace(".",""))   
  60.         return (r1/r2)*pow(10,t2-t1);   
  61.     }   
  62. }

方法二： 将小数化成整数后再作运算

  1. /**
  2.  * 加法运算，避免数据相加小数点后产生多位数和计算精度损失。
  3.  * 
  4.  * @param num1加数1 | num2加数2
  5.  */
  6. function numAdd(num1, num2) {
  7.     var baseNum, baseNum1, baseNum2;
  8.     try {
  9.         baseNum1 = num1.toString().split(".")[1].length;
  10.     } catch (e) {
  11.         baseNum1 = 0;
  12.     }
  13.     try {
  14.         baseNum2 = num2.toString().split(".")[1].length;
  15.     } catch (e) {
  16.         baseNum2 = 0;
  17.     }
  18.     baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
  19.     return (num1 * baseNum + num2 * baseNum) / baseNum;
  20. };
  22. /**
  23.  * 加法运算，避免数据相减小数点后产生多位数和计算精度损失。
  24.  * 
  25.  * @param num1被减数  |  num2减数
  26.  */
  27. function numSub(num1, num2) {
  28.     var baseNum, baseNum1, baseNum2;
  29.     var precision;// 精度
  30.     try {
  31.         baseNum1 = num1.toString().split(".")[1].length;
  32.     } catch (e) {
  33.         baseNum1 = 0;
  34.     }
  35.     try {
  36.         baseNum2 = num2.toString().split(".")[1].length;
  37.     } catch (e) {
  38.         baseNum2 = 0;
  39.     }
  40.     baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
  41.     precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
  42.     return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
  43. };
  45. /**
  46.  * 乘法运算，避免数据相乘小数点后产生多位数和计算精度损失。
  47.  * 
  48.  * @param num1被乘数 | num2乘数
  49.  */
  50. function numMulti(num1, num2) {
  51.     var baseNum = 0;
  52.     try {
  53.         baseNum += num1.toString().split(".")[1].length;
  54.     } catch (e) {
  55.     }
  56.     try {
  57.         baseNum += num2.toString().split(".")[1].length;
  58.     } catch (e) {
  59.     }
  60.     return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
  61. };
  63. /**
  64.  * 除法运算，避免数据相除小数点后产生多位数和计算精度损失。
  65.  * 
  66.  * @param num1被除数 | num2除数
  67.  */
  68. function numDiv(num1, num2) {
  69.     var baseNum1 = 0, baseNum2 = 0;
  70.     var baseNum3, baseNum4;
  71.     try {
  72.         baseNum1 = num1.toString().split(".")[1].length;
  73.     } catch (e) {
  74.         baseNum1 = 0;
  75.     }
  76.     try {
  77.         baseNum2 = num2.toString().split(".")[1].length;
  78.     } catch (e) {
  79.         baseNum2 = 0;
  80.     }
  81.     with (Math) {
  82.         baseNum3 = Number(num1.toString().replace(".", ""));
  83.         baseNum4 = Number(num2.toString().replace(".", ""));
  84.         return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
  85.     }
  86. };

参考文献

js 计算精度问题，及解决办法
JS 四则运算(加减乘除小数运算)避免损失精度