vfp整型最大值 - VFP论坛 - 编程论坛档案馆

编程论坛 → 数据库技术 → 『 VFP论坛』 → vfp整型最大值

标题：vfp整型最大值

只看楼主

TonyDeng

等　级：贵宾
威　望：304
帖　子：25859
专家分：48889
注　册：2011-6-22

第 11 楼

得分:0

以下是引用taohua300在2013-7-19 11:44:51的发言：

但能计算正确的值远远超过了32位整数所能表达的值（4294967295）

m.i = 1000000000000000 - 1
? m.i

m.i = 10000000000000000 - 1
? m.i

这个算的是浮点数，53位的。

授人以渔，不授人以鱼。

2013-07-19 11:57

taohua300

来　自：光
等　级：贵宾
威　望：14
帖　子：1636
专家分：3906
注　册：2009-3-11

第 12 楼

得分:0

m.i = 4294967295 - 1
? m.i

结果也是浮点

个性太多,无法显示

2013-07-19 11:59

taohua300

来　自：光
等　级：贵宾
威　望：14
帖　子：1636
专家分：3906
注　册：2009-3-11

第 13 楼

得分:0

当m.i为无符号整型时，最大值是 0xffffffff
有符号时，最大值为 2147483647
m.i使用有符号整型

但直接m.i = 100000000000000
?m.i

结果还是显示整型

个性太多,无法显示

2013-07-19 12:01

TonyDeng

等　级：贵宾
威　望：304
帖　子：25859
专家分：48889
注　册：2011-6-22

第 14 楼

得分:0

你自己设置默认的小数位为零而已：

授人以渔，不授人以鱼。

2013-07-19 12:03

ntxscwk

等　级：职业侠客
威　望：4
帖　子：118
专家分：352
注　册：2012-6-23

第 15 楼

得分:20

找不到变量？

2013-07-19 15:49

taohua300

来　自：光
等　级：贵宾
威　望：14
帖　子：1636
专家分：3906
注　册：2009-3-11

第 16 楼

得分:0

小数位数没有设置
默认的

个性太多,无法显示

2013-07-20 13:30

TonyDeng

等　级：贵宾
威　望：304
帖　子：25859
专家分：48889
注　册：2011-6-22

第 17 楼

得分:0

我14楼显示正常，你不正常咯。你自以为没设置而已。

授人以渔，不授人以鱼。

2013-07-20 13:32

taohua300

来　自：光
等　级：贵宾
威　望：14
帖　子：1636
专家分：3906
注　册：2009-3-11

第 18 楼

得分:0

m.i = 1000000000000000 - 1
? m.i

m.i = 1000000000000000
? m.i - 1

这样两个结果还是有些不同的

个性太多,无法显示

2013-07-20 13:35

TonyDeng

等　级：贵宾
威　望：304
帖　子：25859
专家分：48889
注　册：2011-6-22

第 19 楼

得分:20

看看这个图就会明白：

授人以渔，不授人以鱼。

2013-07-20 13:53

TonyDeng

等　级：贵宾
威　望：304
帖　子：25859
专家分：48889
注　册：2011-6-22

第 20 楼

得分:0

授人以渔，不授人以鱼。

2013-07-20 13:56

参与讨论请移步原网站贴子：https://bbs.bccn.net/thread-417616-1-1.html