标题:输出单精度数据不准确
只看楼主
生气通天
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2017-11-30
结帖率:100%
已结贴  问题点数:20 回复次数:4 
输出单精度数据不准确

我知道是六位小数,为什么不是21.60000+一个随机数?

[此贴子已经被作者于2017-12-5 09:47编辑过]

搜索更多相关主题的帖子: 输出 单精度 数据 小数 随机数 
2017-12-05 09:34
北宫天漓
Rank: 2
等 级:论坛游民
帖 子:16
专家分:71
注 册:2017-12-2
得分:0 
  因为对于浮点数来说,他是没有运算精度的,表面上他给你输出的值是21.599998,实际他在计算机内部储存的这个值是位数很长的数,例如:21.599998979468489915649879754987798789(我随便打的),而21.60000则是一个四舍五入的结果。
2017-12-05 10:29
生气通天
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2017-11-30
得分:0 
回复 2楼 北宫天漓
如果输入3.4  5  就是17.000000就是准确的结果,它是怎么算的
2017-12-05 11:27
北宫天漓
Rank: 2
等 级:论坛游民
帖 子:16
专家分:71
注 册:2017-12-2
得分:20 
回复 3楼 生气通天
  抱歉回的晚了
  你看看这两张图就是了:

2017-12-05 21:09
生气通天
Rank: 1
等 级:新手上路
帖 子:10
专家分:0
注 册:2017-11-30
得分:0 
回复 4楼 北宫天漓
谢谢
2017-12-06 09:09



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-483119-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.492371 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved