关于SGL格式和DBL格式保存的小数点位数的问题

大家好，sgl是单精度浮点数，用4个字节存储。DBL是双精度浮点数，用8个字节存储。给sgl控件赋值1.2345678，出来的是1.234567761421，想知道sgl数据和DBL数据保存的小数点后位数是怎么计算的

已退回3积分

2016-10-31 11:25:56

学习一下，学习一下，学习一下，

2017-8-26 10:49:36

mark一下。。。。。。。。。。。

2018-2-7 15:49:02

6666

2018-2-8 12:17:41

如果需要详细介绍请自己娘度一下浮点数的保存方式
我这边简单讲一下
浮点数的小数部分是由1 1/2 1/4....不停逼近的，如果没有刚好合适只能逼近最近视值

更多回帖