有效数字的舍入规则
发布时间:2014/4/2 22:18:22 访问次数:950
(1)有效数字
由于存在着误差,因此,LMBT3904LT1G测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:
①有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为1. 58×l0。2 MHz.也可写为15.8 kHz,而不能写15 800 Hz。
②如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。
③当给出误差有单位时,测量数据的写法应与其一致。
(2)数字的舍入规则
为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。
(1)有效数字
由于存在着误差,因此,LMBT3904LT1G测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:
①有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为1. 58×l0。2 MHz.也可写为15.8 kHz,而不能写15 800 Hz。
②如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。
③当给出误差有单位时,测量数据的写法应与其一致。
(2)数字的舍入规则
为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。
上一篇:削弱和消除系统误差的主要措施
上一篇:数据运算规则