[讨论]数据类型Single, Double疑惑——慎用Double
Option Explicit
Private Sub Command1_Click()
Dim a As Single
a = 100.1 - 100
Text1 = a
End Sub
把a定义为Double……结果居然……
论坛里已经发现2个这个原因导致的问题了。
精确度高反而得到的不是准确值!
Option Explicit
Private Sub Command1_Click()
Dim a As Single
a = 100.1 - 100
Text1 = a
End Sub
把a定义为Double……结果居然……
论坛里已经发现2个这个原因导致的问题了。
精确度高反而得到的不是准确值!
多谢提醒!
不过我觉得,高精度在一般情况下没什么不好。因为高精度一般比较时不会直接用=号,而是允许一定的误差范围~~~
我的意思,数据范围确定不是那么高,不要用DOUBLE否则简单的计算都会出错。
100.1-100这种……
那么 该用什么原则来判定 该用什么范围的数据类型呢?
我想不明白MS当初设计时怎么会留下这样的问题来让我们纳闷呢?