我想使用ArcMap中的字段计算器将现有列舍入到两位小数。目前,我有一列长6位小数的小数位数,想简单地将其舍入到2位小数。
我曾计划使用字段计算器(可能使用Python)来执行此操作,但是也许有更简单的方法吗?
可接受的答案可能是更改单个字段的最简单方法,但是,这是如何使用适用于python和VB的字段计算器来实现的。
VB:
round([column], 2)
蟒蛇:
round(!column!, 2)
2
适当的字段计算器表达式可以更改数据,以使它们紧密近似为0.01的倍数。 如何接近取决于字段的存储方式; 浮点,双精度和十进制编码之间会有所不同。(前两种格式不能完全存储某些值,例如0.03 = 1.1000001111010111000010100011110 ... B,它是重复的无穷二进制表达式。)您是否打算更改字段本身,以便仅精确存储带有两个小数的十进制数地方?
—
Whuber