求个算法--关于计算器的
想写一个高精度浮点数运算的计算器,除法不知道怎么处理
大家帮忙想想办法吧
[此贴子已经被作者于2007-9-23 1:57:22编辑过]
想写一个高精度浮点数运算的计算器,除法不知道怎么处理
大家帮忙想想办法吧
[此贴子已经被作者于2007-9-23 1:57:22编辑过]
我再说的详细一点:我写这个计算器用的是模拟手算的方法。
精度有点问题。
比如:10除以3再乘以3结果不是10而是9.999999……
有没有什么好的方法可以解决啊?
希望大家给点信息,没有代码给个想法也行。
现在网上找不到相关的资料啊
难道是我提问的方式有问题吗?