[讨论]数据类型Single, Double疑惑——慎用Double
Option Explicit
Private Sub Command1_Click()
Dim a As Single
a = 100.1 - 100
Text1 = a
End Sub
把a定义为Double……结果居然……
论坛里已经发现2个这个原因导致的问题了。
精确度高反而得到的不是准确值!
Option Explicit
Private Sub Command1_Click()
Dim a As Single
a = 100.1 - 100
Text1 = a
End Sub
把a定义为Double……结果居然……
论坛里已经发现2个这个原因导致的问题了。
精确度高反而得到的不是准确值!
多谢提醒!
不过我觉得,高精度在一般情况下没什么不好。因为高精度一般比较时不会直接用=号,而是允许一定的误差范围~~~
我的意思,数据范围确定不是那么高,不要用DOUBLE否则简单的计算都会出错。
100.1-100这种……