标题:java数据精度是怎么计算的
只看楼主
dzy123
Rank: 8Rank: 8
等 级:蝙蝠侠
威 望:5
帖 子:379
专家分:820
注 册:2013-4-18
结帖率:82%
已结贴  问题点数:20 回复次数:1 
java数据精度是怎么计算的
我用3.14*6*6
我想应是113.04
而实际是113.03999999999999是怎么回事呢
搜索更多相关主题的帖子: java 数据 精度 计算 
2019-03-29 08:51
rind
Rank: 5Rank: 5
等 级:贵宾
威 望:17
帖 子:49
专家分:368
注 册:2018-3-8
得分:20 
因为拿2进制数表示小数,不好表示。
就像拿十进制数表示1/3是0.33333...
而且计算是有顺序的,通常每操作一次会损失一点精度。


仅供参考,欢迎指正
2019-03-29 11:20



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-493854-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.013431 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved