我今天开始学习GNU Octave,并尝试了手册中给出的第一个表达式
exp(i*pi)
结果是
ans = -1.0000e+000 + 1.2246e-016i
似乎GNU科学图书馆也提供了类似的结果。
那么,这是Octave错误还是数字分析软件的一般问题(符号评估软件肯定会给出确切的答案)?
2
似乎八度音阶主要用于数值分析。Mathematica肯定会给您更好的答案...:P只是在开玩笑...尝试寻找GNU符号分析解决方案
—
gd1 2011年
@贾科莫:我知道。我只是想知道是否所有的数值分析软件都会得出这样的数字,或者仅仅是GNU Octave。
—
任思远
@Karsus Ren这实际上不是软件错误,而是硬件错误。在具有有限数量的单个数字存储量的硬件上尝试用无理数评估表达式是一个固有的局限性。
—
突破