我需要一个高精度的项目,我正在工作。我在减法时遇到的问题如下所示:
>> 1-0.9999999999999999
ans = 1.1102e-16
>> 1-0.99999999999999999
ans = 0
我知道这与双精度有关。有没有什么方法可以让我得到更高的精度?我检查了"vpa“功能,但我无法获得更高的精度。有人能帮我一下吗?
提前谢谢你!
发布于 2014-10-31 17:58:17
Matlab内部对其所有数字使用64位系统双精度,这解释了精度问题。matlab确实存在允许您使用任意精度算术的扩展。有关示例this question,请参阅。
https://stackoverflow.com/questions/26469953
复制