作者:何甜甜在吗

原文地址:老板,用 float 存储金额为什么要扣我工资

公司最近在做交易系统,交易系统肯定是要和钱打交道的,和钱有关,自然而然很容易想到用 float 存储,但是使用 float 存储金额做的计算是近似计算。老板:用 float 做计算造成公司损失的钱都往你工资里扣

老板,用 float 存储金额为什么要扣我工资 - 图1

哼,扣工资就扣工资。但还是得静下心来想想为什么不能用 float

1. 为什么不能使用 float 存储金额

首先看个例子:FloatTest.java

  1. public class FloatTest {
  2. public static void main(String[] args) {
  3. float f1 = 6.6f;
  4. float f2 = 1.3f;
  5. System.out.println(f1 + f2);
  6. }
  7. }

结果:7.8999996 和自己口算的值竟然不一样啊

老板,用 float 存储金额为什么要扣我工资 - 图2

计算机只认识 0 和 1,所有类型的计算首先会转化为二进制的计算

2. 从计算机二进制角度计算 6.6 + 1.3 的过程

2.1 float 底层存储

计算是由 CPU 来完成的,CPU 表示浮点数由三部分组成 分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。 其中 float 总共占用 32 位,符号位,指数部分,有效部分各占 1 位,8 位,23 位

老板,用 float 存储金额为什么要扣我工资 - 图3

2.2 二进制的转化

对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制大家都很熟悉。

2.2.1 整数部分的计算:

6 转化为二进制

除以 2 结果 小数部分
6 3 0
3 1 1
1 0 1

所以 6 最终的二进制为 110

2.2.2 小数部分的计算

将小数乘以 2,取整数部分作为二进制的值,然后再将小数乘以 2,再取整数部分,以此往复循环

0.6 转化为二进制

乘以 2 整数部分 小数部分
1.2 1 0.2
0.4 0 0.4
0.8 0 0.8
1.6 1 0.6
1.2 1 0.2

…进入循环,循环体为 1001 所以 0.6 转化为二进制为 0.10011001… 6.6 转化为二进制为 110.10011001…

2.3 规约化

通过规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个 1。110.10011001 规约化为:1.1010011001*2^2

2.4 指数偏移值

指数偏移值 = 固定值 + 规约化的指数值 固定值=2^(e-1)-1,其中的 e 为存储指数部分的比特位数,前面提到的 float 为 8 位。所以 float 中规定化值为 127 6.6 的二进制值规约化以后为 1.1010011001*2^2,指数是 2,所以偏移值就是 127+2=129,转换为二进制就是 10000001,

2.5 拼接 6.6

6.6 为正数,符号位为 0,指数部分为偏移值的二进制 10000001,有效部分为规约形式的小数部分,取小数的前 23 位即 10100110011001100110011,最后拼接到一起即 01000000110100110011001100110011 到这里已经大致可以知道 float 为什么不精确了,首先在存储的时候就会造成精度损失了,在这里小数部分的二进制是循环的,但是仍然只能取前 23 位。double 造成精度损失的原因也是如此

2.6 求和

原来如此

老板,用 float 存储金额为什么要扣我工资 - 图4

3. 不能使用 float 那用什么类型存储金额?

  • 使用 int, 数据库存储的是金额的分值,显示的时候在转化为元。比如存 10 元,价格放大 100 倍保存为 1000,显示再缩小 100 倍为 10。
  • 使用 decimal mysql 中 decimal 存储类型的使用
  1. column_name decimal(P,D);
  • D:代表小数点后的位数 P:有效数字数的精度,小数点也算一位 测试例子 数据表的创建:
  1. CREATE TABLE `test_decimal` (
  2. `id` int(11) NOT NULL,
  3. `amount` decimal(10,2) NOT NULL
  4. ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4
  • 对应的 DAO 层代码:TestDecimalDao.java
  1. /**
  2. * @description dao层
  3. *
  4. * @author JoyHe
  5. * @version 1.0
  6. */
  7. @Repository
  8. public interface TestDecimalDao {
  9. @Select("select * from test_decimal where id = #{id}")
  10. TestDecimal getTestDecimal(int id);
  11. }
  • 测试类:TestDecimalDaoTest.java
  1. /**
  2. * @description 测试类
  3. *
  4. * @author JoyHe
  5. * @version 1.0
  6. */
  7. public class TestDecimalDaoTest extends BaseTest {
  8. @Resource
  9. private TestDecimalDao testDecimalDao;
  10. @Test
  11. public void test() {
  12. TestDecimal testDecimal1 = testDecimalDao.getTestDecimal(1);
  13. TestDecimal testDecimal2 = testDecimalDao.getTestDecimal(2);
  14. BigDecimal result = testDecimal1.getAmount().add(testDecimal2.getAmount());
  15. System.out.println(result.floatValue());
  16. }
  17. }
  • 说明:jdbcType 为 decimal 转化为 javaType 为 BigDecimal 测试结果:

老板,用 float 存储金额为什么要扣我工资 - 图5

是符合预期的 7.9

4. 使用 decimal 存储类型的缺点

  • 占用存储空间。浮点类型在存储同样范围的值时,通常比 decimal 使用更少的空间
  • 使用 decimal 计算效率不高
    因为使用 decimal 时间和空间开销较大,选用 int 作为数据库存储格式比较合适,可以同时避免浮点存储计算的不精确和 decimal 的缺点。对于存储数值较大或者保留小数较多的数字,数据库存储结构可以选择 bigint