位置:51电子网 » 技术资料 » 初学园地

测量误差数据的舍入规则

发布时间:2008/9/16 0:00:00 访问次数:1650

  实验中所得到测量数据都是近似数,在进行数据处理时会遇到近似数的计算问题。对于位数不等的数据,为了使计算简化,又不影响测量结果的精确程度,进行数据处理时所用的舍入处理规则为尾数小于5者舍,大于5者入,等于5者按偶数法则处理。所谓偶数法则,就是当尾数为5,尾数的前一位为奇数时,该尾数进位,尾数的前一位为偶数时(含“o”),该尾数舍弃。也就是说,偶数法则是在尾数为5时,把尾数前面的那位数变为偶数,这样能使等于5的尾数舍入机会均等,从而减小舍入误差。

  需要指出的是,尾数大于5包括尾数的第一位为5,而其后的数位中还有大于零的数,尾数等于5的尾数的第一位为5,而其后各位数值均为零。

  例如,将下列数据舍入到小数的第三位,各数分别为

  4.580 499 →4.580 5.173 53 →5.174

  1.732 501 →1.732 3.592 52 →3.592

  8.365 501 →8.366 6.870 54 →6.870

  以上几个数据均按舍入处理,舍入后所得数据的末位数为欠准数字,其舍入误差大于舍入后所得数据末位单位的0.5。

  欢迎转载,信息来自维库电子市场网(www.dzsc.com)



  实验中所得到测量数据都是近似数,在进行数据处理时会遇到近似数的计算问题。对于位数不等的数据,为了使计算简化,又不影响测量结果的精确程度,进行数据处理时所用的舍入处理规则为尾数小于5者舍,大于5者入,等于5者按偶数法则处理。所谓偶数法则,就是当尾数为5,尾数的前一位为奇数时,该尾数进位,尾数的前一位为偶数时(含“o”),该尾数舍弃。也就是说,偶数法则是在尾数为5时,把尾数前面的那位数变为偶数,这样能使等于5的尾数舍入机会均等,从而减小舍入误差。

  需要指出的是,尾数大于5包括尾数的第一位为5,而其后的数位中还有大于零的数,尾数等于5的尾数的第一位为5,而其后各位数值均为零。

  例如,将下列数据舍入到小数的第三位,各数分别为

  4.580 499 →4.580 5.173 53 →5.174

  1.732 501 →1.732 3.592 52 →3.592

  8.365 501 →8.366 6.870 54 →6.870

  以上几个数据均按舍入处理,舍入后所得数据的末位数为欠准数字,其舍入误差大于舍入后所得数据末位单位的0.5。

  欢迎转载,信息来自维库电子市场网(www.dzsc.com)



相关IC型号

热门点击

 

推荐技术资料

FU-19推挽功放制作
    FU-19是国产大功率发射双四极功率电二管,EPL20... [详细]
版权所有:51dzw.COM
深圳服务热线:13751165337  13692101218
粤ICP备09112631号-6(miitbeian.gov.cn)
公网安备44030402000607
深圳市碧威特网络技术有限公司
付款方式


 复制成功!