搜索
编程论坛
→
数据库技术
→
『 VFP论坛 』
→ 发现一个怪问题:43480010002696700+8=43480010002696710
标题:
发现一个怪问题:43480010002696700+8=43480010002696710
只看楼主
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
结帖率:
90.48%
楼主
已结贴
√
问题点数:50 回复次数:13
发现一个怪问题:43480010002696700+8=43480010002696710
今天回复网友的问题时,发现一个怪问题:
43480010002696700+8=43480010002696710 而不是等于43480010002696708
我想可能是VFP的数据精度控制在16位。
用超过16位的数据测试,确实有问题。
请各位高手解答。
2013-10-29 19:28
jinnee99
等 级:
新手上路
帖 子:17
专家分:5
注 册:2013-10-12
第
2
楼
得分:5
四舍五入了
2013-10-29 19:45
tlliqi
等 级:
贵宾
威 望:
204
帖 子:15453
专家分:65956
注 册:2006-4-27
第
3
楼
得分:0
试了下 是这样
有图
2013-10-29 20:08
wp231957
来 自:神界
等 级:
版主
威 望:
422
帖 子:13681
专家分:53296
注 册:2012-10-18
第
4
楼
得分:5
超出int的范围了
DO IT YOURSELF !
2013-10-29 20:10
hu9jj
来 自:红土地
等 级:
贵宾
威 望:
396
帖 子:11713
专家分:43267
注 册:2006-5-13
第
5
楼
得分:5
都是天文数字
活到老,学到老! http://www. E-mail:hu-jj@
2013-10-29 20:34
tlliqi
等 级:
贵宾
威 望:
204
帖 子:15453
专家分:65956
注 册:2006-4-27
第
6
楼
得分:20
一、VFP6.0的性能指标:
记录的最大长度:64K字节。
表文件的最大长度:2G 字节。
表中字段数:255个。
在内存中打开的表的最大个数:255个。
数据表的最大记录数:9亿个。
字符型字段的最大长度:255字节。
数值型字段表示十进制数的最大位数:20位。
浮点型字段表示十进制数的最大位数:20位。
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
定义的内存变量的最多个数: 65 000。
数组下标的最大值: 65 000。
DO 调用命令最多可以嵌套的层数:118层。
READ命令最多可以嵌套的层数:5层。
结构化程序设计命令的最大嵌套层数:384层。
在自定义的过程或者函数中可以传递参数的最大值:27。
报表页面可以定义的最大长度:20英寸。
报表分组的最大层数:118层。
可以同进打开浏览窗口的最大个数:255个。
每一行命令的最大长度:8192字节。
每一个宏替换的最大长度:8192字节。
2013-10-30 08:20
taifu945
等 级:
贵宾
威 望:
80
帖 子:1545
专家分:3298
注 册:2012-7-6
第
7
楼
得分:15
同意4、6楼的话。看上去是整数相加,但由于超出了整数的处理范围,所以自动变成浮点数相加。但浮点数也要在可处理的位数范围内,超过这个范围就会发生计算结果不符合常理。
2013-10-30 09:01
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
第
8
楼
得分:0
以下是引用
tlliqi
在2013-10-30 08:20:35的发言:
一、VFP6.0的性能指标:
……
数值计算时最多可以精确的位数:16位。
整数的最大值: +2 147 483 647。
整数的最小值: -2 147 483 647。
……还真是精确到16位。
相互学习,互相交流,共同提高。
2013-10-30 09:47
taohua300
来 自:光
等 级:
贵宾
威 望:
14
帖 子:1636
专家分:3906
注 册:2009-3-11
第
9
楼
得分:0
?43480010002696700+100
你看结果
个性太多,无法显示
2013-10-30 13:44
qjbzjp
来 自:尧的故乡
等 级:
贵宾
威 望:
48
帖 子:1914
专家分:4397
注 册:2007-3-14
第
10
楼
得分:0
第十六位上加减就不正确了:
?43480010002696700+110
相互学习,互相交流,共同提高。
2013-10-30 14:12
14
1/2页
1
2
参与讨论请移步原网站贴子:
https://bbs.bccn.net/thread-422720-1-1.html
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 1.674596 second(s), 8 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved