电信号输出和测量精度的计算问题 解决日期: 2012年12月19日 问题描述 电阻测量档,范围(0~400)Ω,精度是:±(0.01%RD+0.005%FS),计算出10欧姆时,其阻值范围是多少?公式是什么或怎么计算出来的? 问题解答 这是一种电阻测量准确度的表示方法,其中的RD表示读数,FS表示满量程。 我们将测量点代入公式,由此得出,10Ω时,其测量允许误差范围为: ±(0.01%RD+0.005%FS) = ±(0.01% * 10Ω +0.005% * 400Ω) = ±0.003Ω