Excel十进制精度秘密超过15位并打破VLOOKUP


0

我正在使用这个公式做一些中点数学

A1-MOD(A1+(Constants!$A$1/2),Constants!$A$1)

(列A中的值为小数,值为Constants!$A$1精确整数)

然后在辅助工作表上匹配,精确输入的值精确到第十位。

VLOOKUP(B1,Data!$A:$B,2,FALSE)

但是VLOOKUP不一致地对待我的价值观。其结果(为了这篇文章,table_array参数的两列中的值相同):

样本查找数据

根据这个关于Excel的数字精度的问题,它最多支持15位数,所以我提高了十进制精度只是为了看看它的计算方式:

看起来非常准确

将我的值包装在“Band”列中,ROUND(..., 2)使其按预期工作,但为什么呢?

PS注意我正在使用Excel 2013。

Answers:


By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.