标题:大家测试一个有趣的现象,double型反而没有single型精确
只看楼主
ggyy66
Rank: 1
等 级:新手上路
帖 子:427
专家分:0
注 册:2007-8-14
结帖率:86.25%
已结贴  问题点数:20 回复次数:3 
大家测试一个有趣的现象,double型反而没有single型精确
大家测试一个有趣的现象,double型反而没有single型精确???
[code=SQL]
Private Sub Command1_Click()
    Dim a As Double
    Dim b As Single
    a = 89.13!
    b = 89.13!
    Debug.Print "a --- " & a
    Debug.Print "b --- " & b
End Sub
'
'a ---89.129997253418
'b ---89.13
[/code]
我不解的是为什么,single反而比double精确度高,怪。
搜索更多相关主题的帖子: double single 现象 
2009-09-01 11:32
promising
Rank: 3Rank: 3
来 自:上海
等 级:论坛游侠
帖 子:87
专家分:147
注 册:2009-8-31
得分:14 

为什么赋值
a = 89.13!
b = 89.13!
而不是
a = 89.13
b = 89.13数值类型转换、精度转换是会产生误差的。

向前走着……
2009-09-01 11:42
ggyy66
Rank: 1
等 级:新手上路
帖 子:427
专家分:0
注 册:2007-8-14
得分:0 
以下是引用promising在2009-9-1 11:42的发言:

为什么赋值
a = 89.13!
b = 89.13!
而不是
a = 89.13
b = 89.13数值类型转换、精度转换是会产生误差的。
这就是加!测试有这个问题,所以问呀?

2009-09-01 13:06
promising
Rank: 3Rank: 3
来 自:上海
等 级:论坛游侠
帖 子:87
专家分:147
注 册:2009-8-31
得分:0 
搞研究啊
恩,总会有人知道的。

向前走着……
2009-09-01 21:06



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-284380-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.286436 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved