将万用表精度标记为:±0.03%+ 10Digit是什么意思?


21

我有一个数字万用表,其VDC的精度标记如下:

±0.03%+ 10位

该万用表的最大显示为80000。因此,在80 V范围内,它可以显示例如79.999V。

80V的0.03%为0.024V-对我来说很清楚。但是,这+10Digit是什么意思呢?

Digitek DT-80000中有问题的设备。

Answers:


20

1位数表示最低有效位数可以偏离+/-1。在此分辨率下,1位数表示+/- 0.001V。10位表示基本上显示了79.999V,也可能是79.989V(不包括0,03%!)

因此,基本上在您的范围内10位数字的规格意味着+/- 0.03%+ 0.01V是您的错误。测量79.999V表示绝对最大误差或+/- 79.999 * 0.03%+ 10 * 0.001V = 0.034V。


14

就像汉斯所说的+/- 1位数字表示最后一位可以是1 off。+/- 10位数字表示可以关闭10位数字,也可以在最后一位保留1位数字。它显示了分辨率的相对5位数字(实际上是4 3/4)如何:当您获得5位数字时,只有4位有效,最后一位不可靠。这看起来可能还不错,80000中的10是0.01%,要加上0.03%的基本精度。但是,尽管0.03%是相对于测量值的,但10位数字是绝对的,如果读数较低,则它们的权重更大。80000中的10为0.01%,如果您的读数为20000,则该误差将为0.05%,或大于相对误差。


1
提到数字的好处是,它就像范围上的绝对偏移量,而%是相对误差。
汉斯(Hans)

3

如果将具有指示规格的电表设置为0至80伏范围,则较小的值将精确到10mv以内,而较大的值可能会再增加24mv。在这样的仪表上,当单独拿起一个阅读器时,最后一位数字通常没有意义,但提供给那些对非常接近的读数之间的差异感兴趣的人使用。例如,如果连续相当快地测量两个电压,然后重复这些测量,则读数为:

Item1    Item2 
49.123V   49.569V  -- Initial measurements
49.125V   49.568V  -- Repeated measurements

那么可以安全地说这两个项目之间的电压差在442至445 mV之间。一个人不会知道第一个电压在49.10V到49.15V的范围内,也不知道第二个电压在49.55V到49.59V的范围内,但是一个人会知道其差异的精确度比一个人知道两个电压都高个别地。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.