我已经能够在Excel中产生一个非常简单和具有挑战性的数值计算错误,我很好奇它的原因,也许是它的解决方案:
| A | B |
----------------------------------
1 | X | 693.702 |
----------------------------------
2 | Y | 693.702 |
----------------------------------
3 | Y - X | 0.0000000000E0 |
----------------------------------
4 | (Y - X) | 1.1368683772E-13 |
----------------------------------
基本上在上面,B1和B2包含相同的值,B3包含差异 =B2-B1
和B4在括号中包含相同的内容 (B2-B1)
。返回的值明显不同。
哪个版本的Excel?无法在2010年复制这一点。
—
Andi Mohr
也无法使用Excel 2007进行复制。
—
Joseph R.
它是否像单元格格式不同可能一样简单?
—
datatoo
有趣的是,我已经解决了这个问题,并且在显示值和用于在内部存储它的位之间是一个不幸的断开连接。事实上,我确实从计算表中复制了这些值作为值,并且当将值扩展到足够有效的数字以确认它们时,它们看起来准确(最多40sf。)手动重新打印它们解决了问题并且所有结果都是准确的零。虽然在使用括号时计算策略存在差异,并且无法确切知道单元格包含的值,但它确实突出了它。
—
J Collins