标题:请教在VB中两数差存在问题
只看楼主
kdahai
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2006-5-27
 问题点数:0 回复次数:2 
请教在VB中两数差存在问题
大家好!
请问在VB中如下问题
(1)
aa = 0.15
bb = 0.149999999999999
cc = aa - bb '两个数的差不是1E-16

(2)
mm = 8.05000000000001 ' 小数点后保留14位
nn = 7.90000000000001 '小数点后保留14位
pp = mm - nn
Print "pp="; pp '结果存在问题,小数点保留了15位,而且结果不是0.15
希望得到大家回答,谢谢了!
e_mail leiz_liuhaisheng@yahoo.com.cn
2006-09-21 09:12
zmetero11
Rank: 1
等 级:新手上路
帖 子:123
专家分:0
注 册:2006-2-5
得分:0 
在VB中,当某个数小于1E-x,x是整数时,系统会根据原数据的精度来确定是不是应该赋值为0

黑色的羽翼笼罩与夜月中,守护...不变<-\^/
2006-09-21 16:14
leon2
Rank: 3Rank: 3
等 级:新手上路
威 望:7
帖 子:731
专家分:0
注 册:2005-3-18
得分:0 
mm,nn,pp 都必须声明成 double 型变量
2006-09-23 00:42



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-91755-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.101729 second(s), 7 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved