带括号的Excel中的数字错误?


1

我已经能够在Excel中产生一个非常简单和具有挑战性的数值计算错误,我很好奇它的原因,也许是它的解决方案:

    |  A      | B                |
----------------------------------
 1  |  X      | 693.702          |
----------------------------------
 2  |  Y      | 693.702          |
----------------------------------
 3  |  Y - X  | 0.0000000000E0   |
----------------------------------
 4  | (Y - X) | 1.1368683772E-13 |
----------------------------------

基本上在上面,B1和B2包含相同的值,B3包含差异 =B2-B1 和B4在括号中包含相同的内容 (B2-B1)。返回的值明显不同。


哪个版本的Excel?无法在2010年复制这一点。
Andi Mohr

也无法使用Excel 2007进行复制。
Joseph R.

它是否像单元格格式不同可能一样简单?
datatoo

有趣的是,我已经解决了这个问题,并且在显示值和用于在内部存储它的位之间是一个不幸的断开连接。事实上,我确实从计算表中复制了这些值作为值,并且当将值扩展到足够有效的数字以确认它们时,它们看起来准确(最多40sf。)手动重新打印它们解决了问题并且所有结果都是准确的零。虽然在使用括号时计算策略存在差异,并且无法确切知道单元格包含的值,但它确实突出了它。
J Collins

Answers:


1

我不能复制这个,但看起来你只是达到你的Excel版本的浮点精度。我无法复制的一个原因是,您的值X和Y是其他计算的结果。

这没什么可担心的,但可能很烦人。 (我没有什么可担心的,因为与正确结果的差异是无穷小的,0.00000000000011368 ...)

类似的例子

Microsoft知识库文章


在工程数学中,这些错误可能非常糟糕,恰好就是我正在做的......尽管如此,错误来自复制两个计算值,其误差小于Excel能够以其所有精度显示,但仍然非零。
J Collins
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.