搜索
编程论坛
→
开发语言
→
『 VB6论坛 』
→ [讨论]如何获得高精度的计算结果?
标题:
[讨论]如何获得高精度的计算结果?
取消只看楼主
hyhhd
等 级:
论坛游民
威 望:
1
帖 子:502
专家分:44
注 册:2006-5-12
楼主
问题点数:0 回复次数:4
[讨论]如何获得高精度的计算结果?
系统自带的计算器一样,如何获得高精度的计算结果?
搜索更多相关主题的帖子:
高精度
结果
2007-05-12 18:45
hyhhd
等 级:
论坛游民
威 望:
1
帖 子:502
专家分:44
注 册:2006-5-12
第
2
楼
得分:0
好像使用double等类型,都没办法!比如Pi只能为"3.14159265357979",而达不到"3.1415926535897932384626433832795",所以计算出来的结果精度就差远了!
2007-05-12 18:48
hyhhd
等 级:
论坛游民
威 望:
1
帖 子:502
专家分:44
注 册:2006-5-12
第
3
楼
得分:0
谢谢!好像有了一些思路。加减法采用这种方法可以!如果是乘除、指数运算、对数运算、还有三角函数呢!关键是方法和思路。
2007-05-13 12:44
hyhhd
等 级:
论坛游民
威 望:
1
帖 子:502
专家分:44
注 册:2006-5-12
第
4
楼
得分:0
如果转换成二进制计算,然后在转换回来,不知如何?
2007-05-13 12:46
hyhhd
等 级:
论坛游民
威 望:
1
帖 子:502
专家分:44
注 册:2006-5-12
第
5
楼
得分:0
非常感谢,我先研究一下。
2007-05-14 12:51
5
1/1页
1
参与讨论请移步原网站贴子:
https://bbs.bccn.net/thread-138859-1-1.html
关于我们
|
广告合作
|
编程中国
|
清除Cookies
|
TOP
|
手机版
编程中国
版权所有,并保留所有权利。
Powered by
Discuz
, Processed in 0.019544 second(s), 8 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved