[求助]关于数值问题?
前两天作了一个程序,其中定义了一个整数,可是计算结果却出现了错误,dim k as integer
k=15 / 6
……
结果k=2,又试了其它的数值,发现2.5、4.5、6.5等都给取整了,而1.5、3.5、5.5等却四舍五入了,这是为什么?
[此贴子已经被作者于2006-6-21 8:08:00编辑过]
[此贴子已经被作者于2006-6-21 8:08:00编辑过]
2、实数
1)单精度实型(Single):有效数为7位
2)双精度实型(Double):有效数为15位
很简单,带小数点的属于实数.所以你将定义成single就可以出小数位了!~当然,为取位数更多,你也可以取双精度!~
我想楼主错误理解了我的问题,按.net的理论,既然定义成整型,那么结果应该四舍五入才对,而出现这样的结果难道是.net的毛病吗?
/ 和 \ 是不一样的意思吧