搜索
编程论坛
→
开发语言
→
『 JAVA论坛 』
→ java数据精度是怎么计算的
标题:
java数据精度是怎么计算的
只看楼主
dzy123
等 级:
蝙蝠侠
威 望:
5
帖 子:379
专家分:820
注 册:2013-4-18
结帖率:
82%
楼主
已结贴
√
问题点数:20 回复次数:1
java数据精度是怎么计算的
我用3.14*6*6
我想应是113.04
而实际是113.03999999999999是怎么回事呢
搜索更多相关主题的帖子:
java
数据
精度
计算
2019-03-29 08:51
rind
等 级:
贵宾
威 望:
17
帖 子:49
专家分:368
注 册:2018-3-8
第
2
楼
得分:20
因为拿2进制数表示小数,不好表示。
就像拿十进制数表示1/3是0.33333...
而且计算是有顺序的,通常每操作一次会损失一点精度。
仅供参考,欢迎指正
2019-03-29 11:20
2
1/1页
1
参与讨论请移步原网站贴子:
https://bbs.bccn.net/thread-493854-1-1.html
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.013431 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved