有效数字的概念以及如何辨别有效数字的位数该数值的从其第一个不是零的数字起到最末一位数的全部数字就称为有效数字。
数字左边的0不是有效数字,数字中间和右边的0是有效数字。如3.8600为五位有效数字,0.0038是二位有效数字,1002为四位有效数字
最终报告时,测量不确定度取几位有效数字在报告测量结果时,不确定度 都只能是1~2位有效数字。也就是说,报告的测量不确定度最多为2位有效数字。
建议:当第1位有效数字是1或2时,应保留2位有效数字。除此之外,对测量要求不高的情况可以保留1位有效数字。测量要求较高时,一般取2位有效数字。
如何确定最终报告的测量结果最佳估计值的有效位数报告测量结果的最佳估计值的有效位数的确定:
测量结果(即被测量的最佳估计值)的末位一般应修约到与其测量不确定度的末位对齐。即同样单位情况下,如果有小数点,则小数点后的位数一样;如果是整数,则末位一致。
例如:① 6.3250g, 0.25g,则被测量估计值应写成 6.32g;
② 1039.56mV, 10mV,则被测量估计值应写成 1040mV;
③ 1.50005ms, 10015ns;
首先将 和 变换成相同的计量单位 ,然后对不确定度修约:对 10.015 修约,取二位有效数字为 10 ,然后对被测量的估计值修约:对 1.50005ms=1500.05 修约,使其末位与 的末位相对齐,得最佳估计值 l500 。
则测量结果为 ± =1500 ±lO 。
【案例】某计量检定员在对检定数据处理中,从计算器上读得的测量结果为1235687 ,他觉得这个数据位数显得很多,所以证书上报告时将测量结果简化写成 1× =1 。
【案例分析】依据JJF 1059一1999规定最终报告的测量结果最佳估计值的末位应与其不确定度的末位对齐,而不确定度的有效位数一般应为一位或二位。计量检定员处理数据时应该计算每个测量结果的扩展不确定度,并根据不确定度的位数确定测量结果最佳估计值的有效位数。案例中的做法是不正确的。例如上例中,如果 1 ,则测量结果1235687 ,其末位与扩展不确定度的末位已经一致,不需要修约。不能写成1