标题:float 精度2^23和范围2^128的关系,2^23~2^128之间的数不能准确表示吗?
只看楼主
baliying
Rank: 1
等 级:新手上路
帖 子:1
专家分:0
注 册:2018-4-29
结帖率:0
已结贴  问题点数:20 回复次数:1 
float 精度2^23和范围2^128的关系,2^23~2^128之间的数不能准确表示吗?
精度是指的步进值吗,不理解,请举例说明!!!!!!
搜索更多相关主题的帖子: float 精度 范围 关系 表示 
2018-04-29 12:30
九转星河
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
来 自:长长久久
等 级:贵宾
威 望:52
帖 子:5023
专家分:14003
注 册:2016-10-22
得分:20 
这个和float的储存空间大小有关,正常来说一个float占4个字节,看整数部分占多少个位,数部分占多少个位,2^23=8388608也就是7位小数,四舍五入可以精确到小数点6位也就是说明了float可以保留6位有效小数~

[code]/*~个性签名:bug是什么意思?bug是看上去没有可能的东西实际上是有可能做到的 就是这样~2018-08-08更~*/[/code]
2018-04-29 21:33



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-486486-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.038904 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved