有效数字的舍入规则
发布时间:2014/8/18 21:13:10 访问次数:1669
由于存在着误差,因此,K4M513233C-DN75测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:
①有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为1. 58×l0。2 MHz.也可写为15.8 kHz,而不能写为15 800 Hz。
②如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。
③当给出误差有单位时,测量数据的写法应与其一致。
数字的舍入规则
为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。
(1)加减法运算规则
几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。
(2)乘除运算规则
两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数的数相同。
为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。
由于存在着误差,因此,K4M513233C-DN75测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压是24.8 V,这是个近似数,25是可靠数字,而末尾8为欠准数字,即24.8为3位有效数字。对于有效值的正确表示,应注意以下3点:
①有效数字是指从左边第一排非零的数字开始,直到右边最后一个数字为止的所有字。例如,测得频率为0.0158 MHz,它是由l、5、8这3个有效数字组成的频率值,而左边的两个零不是有效数字,它可写为1. 58×l0。2 MHz.也可写为15.8 kHz,而不能写为15 800 Hz。
②如已知误差,则有效值的位数应与误差相一致。例如,设仪表误差为±0. 01 V,测得电压为12. 354 V,其结果应写成12. 35 V。
③当给出误差有单位时,测量数据的写法应与其一致。
数字的舍入规则
为使正、负舍入误差的机会大致相等,传统的方法足采用四舍五人的办法,现已广泛采用“小于5舍,大于5人,等于5时取偶数”的办法。
(1)加减法运算规则
几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。
(2)乘除运算规则
两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数的数相同。
为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。
上一篇:量误差产生的原因及其分类
上一篇:等精度测量结果的处理
热门点击
- 查表法
- 扩充响应曲线法
- 计算机网络在我国的发展
- 直线插补计算的程序实现
- 按网络的作用范围进行分类
- 集成单稳态触发器及其应用
- 因特网发展的三个阶段
- 采用自顶向下方法的优点
- 逐点比较法插补原理
- 用CD4017设计电子密码锁
推荐技术资料
- 单片机版光立方的制作
- N视频: http://v.youku.comN_sh... [详细]