搜索
编程论坛
→
数据库技术
→
『 VFP论坛 』
→ 求教数值计算的精确度问题
标题:
求教数值计算的精确度问题
取消只看楼主
fdxxhjc
等 级:
新手上路
帖 子:305
专家分:0
注 册:2014-4-10
结帖率:
73.44%
楼主
已结贴
√
问题点数:20 回复次数:1
求教数值计算的精确度问题
我有一个原表.dbf,内有一个字段(变量),这个字段下有512条记录,分别计算这512条记录的一次的和,二次和以及三次的和,这三个和求下来一次、二次的值与软件maple计算的结果一致,但三次和的值两者不一样,并用其他软件验证后是maple软件计算的结果是正确的,而VFP的结果是个近似值,请教这样不是vfp的计算结果最近会有误差了吗
VFP单独验证包.zip
(147.33 KB)
搜索更多相关主题的帖子:
记录
软件
2015-03-18 16:12
fdxxhjc
等 级:
新手上路
帖 子:305
专家分:0
注 册:2014-4-10
第
2
楼
得分:0
回复 4楼 hu9jj
是的,excel的误差还来得更早些
2015-03-18 22:32
2
1/1页
1
参与讨论请移步原网站贴子:
https://bbs.bccn.net/thread-442791-1-1.html
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.017586 second(s), 9 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved