位置:51电子网 » 技术资料 » 汽车电子

有效数字的舍入规则

发布时间:2014/4/2 22:18:22 访问次数:950

     (1)有效数字

    由于存在着误差,因此,LMBT3904LT1G测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:

    ①有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为1. 58×l0。2 MHz.也可写为15.8 kHz,而不能写15 800 Hz。

   ②如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。

   ③当给出误差有单位时,测量数据的写法应与其一致。

   (2)数字的舍入规则

   为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。

     (1)有效数字

    由于存在着误差,因此,LMBT3904LT1G测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:

    ①有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为1. 58×l0。2 MHz.也可写为15.8 kHz,而不能写15 800 Hz。

   ②如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。

   ③当给出误差有单位时,测量数据的写法应与其一致。

   (2)数字的舍入规则

   为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。

相关技术资料
4-2有效数字的舍入规则

热门点击

 

推荐技术资料

频谱仪的解调功能
    现代频谱仪在跟踪源模式下也可以使用Maker和△Mak... [详细]
版权所有:51dzw.COM
深圳服务热线:13751165337  13692101218
粤ICP备09112631号-6(miitbeian.gov.cn)
公网安备44030402000607
深圳市碧威特网络技术有限公司
付款方式


 复制成功!