标题:asp 函数中 有 长整型 函数吗?
只看楼主
g25280171
Rank: 1
等 级:新手上路
帖 子:6
专家分:0
注 册:2011-5-20
结帖率:0
已结贴  问题点数:10 回复次数:2 
asp 函数中 有 长整型 函数吗?
int  只能计算出 10位数以内  有 长整型的函数吗?
下面函数 提示溢出  
<%
for i=0 to 13
x=int(10000000000/16^i) mod 16
response.write ("区间值:"&x&"<BR>")
next
 %>
搜索更多相关主题的帖子: 计算 asp 
2011-05-21 17:16
dzt0001
Rank: 13Rank: 13Rank: 13Rank: 13
等 级:蒙面侠
威 望:5
帖 子:1281
专家分:4998
注 册:2005-10-12
得分:5 
主要不是int的问题,关键是mod的问题,mod运算只支持整形数字(Integer和Long),不支持单精度和双精度数(Single和Double)
Integer   -32,768到32,767
Long   -2,147,483,648到2,147,483,647

当i=0时,int()括弧中的数字是10000000000已经超出整形数字的范围,变成了单精度数字类型,用int转换后还是10000000000单精度数字,无法进行mod运算。

----我怎能在别人的苦难面前转过脸去----
2011-05-21 21:06
liang198207
Rank: 5Rank: 5
等 级:职业侠客
帖 子:70
专家分:300
注 册:2011-5-10
得分:5 
Clng    处理的范围也是21亿之内,像你这么无限的加0测试估计到100亿也会提示溢出的
2011-05-21 21:07



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-340652-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.053202 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved