搜索
编程论坛
→
WEB开发
→
『 ASP技术论坛 』
→ asp 函数中 有 长整型 函数吗?
标题:
asp 函数中 有 长整型 函数吗?
只看楼主
g25280171
等 级:
新手上路
帖 子:6
专家分:0
注 册:2011-5-20
结帖率:
0
楼主
已结贴
√
问题点数:10 回复次数:2
asp 函数中 有 长整型 函数吗?
int 只能计算出 10位数以内 有 长整型的函数吗?
下面函数 提示溢出
<%
for i=0 to 13
x=int(10000000000/16^i) mod 16
response.write ("区间值:"&x&"<BR>")
next
%>
搜索更多相关主题的帖子:
计算
asp
2011-05-21 17:16
dzt0001
等 级:
蒙面侠
威 望:
5
帖 子:1281
专家分:4998
注 册:2005-10-12
第
2
楼
得分:5
主要不是int的问题,关键是mod的问题,mod运算只支持整形数字(Integer和Long),不支持单精度和双精度数(Single和Double)
Integer -32,768到32,767
Long -2,147,483,648到2,147,483,647
当i=0时,int()括弧中的数字是10000000000已经超出整形数字的范围,变成了单精度数字类型,用int转换后还是10000000000单精度数字,无法进行mod运算。
----我怎能在别人的苦难面前转过脸去----
2011-05-21 21:06
liang198207
等 级:
职业侠客
帖 子:70
专家分:300
注 册:2011-5-10
第
3
楼
得分:5
Clng 处理的范围也是21亿之内,像你这么无限的加0测试估计到100亿也会提示溢出的
2011-05-21 21:07
3
1/1页
1
参与讨论请移步原网站贴子:
https://bbs.bccn.net/thread-340652-1-1.html
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.053202 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved