VB中如何解决浮点问题?
VB中如何解决浮点问题?比如:
dim a as double
dim b as double
dim c as double
a=45.3
b=45
c=a-b
print c
此时C应该等于0.3,但是结果却是0.2999999.....
如何能够精确的表示出来呢?
在度分秒转换的时候出现的这个问题:比如我想转换45°30′00″成45.5°但是却表示成为45.51111111...
就是要解决这个问题,那位高手给个办法吧 谢谢啦!
Private Sub Command2_Click()
Dim a As Variant
Dim b As Variant
Dim c As Single
a = 45.3
b = 45
c = a - b
MsgBox "" & c & ""
End Sub
把定义类型变一下就可以了!
可要是把c的类型变换为double,又和原来的问题一样了,这个是什么原因?
我担心我程序里需要double类型的数据.
四捨五入怎麼可能是 45.5111呢 ?
45°30′00″轉化成度就是 45.5000 整除了啊....30/60=0.5000 怎麼會出現0.5111呢
這方法可以的..我以前也遇到過這樣的問題,就這樣的解決了
[此贴子已经被作者于2007-1-25 15:24:51编辑过]