测量误差数据的舍入规则
发布时间:2008/9/16 0:00:00 访问次数:1650
实验中所得到测量数据都是近似数,在进行数据处理时会遇到近似数的计算问题。对于位数不等的数据,为了使计算简化,又不影响测量结果的精确程度,进行数据处理时所用的舍入处理规则为尾数小于5者舍,大于5者入,等于5者按偶数法则处理。所谓偶数法则,就是当尾数为5,尾数的前一位为奇数时,该尾数进位,尾数的前一位为偶数时(含“o”),该尾数舍弃。也就是说,偶数法则是在尾数为5时,把尾数前面的那位数变为偶数,这样能使等于5的尾数舍入机会均等,从而减小舍入误差。
需要指出的是,尾数大于5包括尾数的第一位为5,而其后的数位中还有大于零的数,尾数等于5的尾数的第一位为5,而其后各位数值均为零。
例如,将下列数据舍入到小数的第三位,各数分别为
4.580 499 →4.580 5.173 53 →5.174
1.732 501 →1.732 3.592 52 →3.592
8.365 501 →8.366 6.870 54 →6.870
以上几个数据均按舍入处理,舍入后所得数据的末位数为欠准数字,其舍入误差大于舍入后所得数据末位单位的0.5。
欢迎转载,信息来自维库电子市场网(www.dzsc.com)
实验中所得到测量数据都是近似数,在进行数据处理时会遇到近似数的计算问题。对于位数不等的数据,为了使计算简化,又不影响测量结果的精确程度,进行数据处理时所用的舍入处理规则为尾数小于5者舍,大于5者入,等于5者按偶数法则处理。所谓偶数法则,就是当尾数为5,尾数的前一位为奇数时,该尾数进位,尾数的前一位为偶数时(含“o”),该尾数舍弃。也就是说,偶数法则是在尾数为5时,把尾数前面的那位数变为偶数,这样能使等于5的尾数舍入机会均等,从而减小舍入误差。
需要指出的是,尾数大于5包括尾数的第一位为5,而其后的数位中还有大于零的数,尾数等于5的尾数的第一位为5,而其后各位数值均为零。
例如,将下列数据舍入到小数的第三位,各数分别为
4.580 499 →4.580 5.173 53 →5.174
1.732 501 →1.732 3.592 52 →3.592
8.365 501 →8.366 6.870 54 →6.870
以上几个数据均按舍入处理,舍入后所得数据的末位数为欠准数字,其舍入误差大于舍入后所得数据末位单位的0.5。
欢迎转载,信息来自维库电子市场网(www.dzsc.com)
上一篇:测量误差有效数宇的运算规则
上一篇:电子电路测量误差实验数据处理
热门点击
- 交流电路参数的测定三表法的实验原理
- RC一阶电路的过渡过程实验原理
- RLC元件的阻抗特性实验原理
- RC选频网络特性测试实验原理
- 戴维南定理和诺顿定理实验注意事项
- 受控源的实验研究内容
- 受控源的实验研究实验原理
- RC一阶电路的过渡过程实验注意事项
- RLC串联电路的谐振实验原理
- 基尔霍夫定律和叠加原理的实验原理
推荐技术资料
- FU-19推挽功放制作
- FU-19是国产大功率发射双四极功率电二管,EPL20... [详细]