正确处理测量数据
发布时间:2013/9/10 20:31:49 访问次数:877
测量结果可以是数字，也可以是图形。NT71671FG-00033以数字方式表示的测量结果就是数据。测量数据的处理，就是从测量中得到的原始数据中求出被测量的最佳估计值，并计算精确程度。
1)有效数字
有效数字为组成数据的每个必要数字，即从左边第1个非零数字开始，直至右边最后1个数字为止的所有数字。例如0. 0436，4、3、6是有效数字，0.0436是3位有效数字；又如0.0075010，7前面的3个O不是有效数字，7及后面的数字都是有效数字，0.0075010是5位有效数字；再如，6 300是4位有效数字，63×102是2位有效数字。
在数字中间或末尾的0都是有效数字，而在第1个非零数字前面的O都不是有效数字。有效数字末尾的O表示准确程度。如5. 80表示测量结果准确到百分位，最大绝对误差不大于0.005；5.8表示测量结果准确到十分位，最大绝对误差不大于0.05。
2)有效数字的处理
在测量时，往往要对测量结果的几个有效数据进行处理与运算，这样就存在有效数字的位数的取舍问题。
取舍原则是：运算过程中有效数字的位数根据其中准确度最差的数据的有效数字进行取舍。
对有效数字舍入时，应尽量减小舍人造成的误差，有效数字的舍人规则如下：
>删略部分最高位数字大于5时，向前进1。
》删略部分最高位数字小于5时，舍去。
>删略部分最高位数字等于5时，5后面只要有非零数字，去5进1。如果5后面全是0或无教字，当5前面一位数是奇数时，去5进1；当5前面一位数是偶数时，去5不进1。
3)有效数字的运算
对于加、减运算，有效数字的取舍以小数点后有效数字位数最少的项为准；对于乘、除运算，有效数字的取舍决定于有效数字最少的一项数据，而与小数点无关。
1)有效数字
有效数字为组成数据的每个必要数字，即从左边第1个非零数字开始，直至右边最后1个数字为止的所有数字。例如0. 0436，4、3、6是有效数字，0.0436是3位有效数字；又如0.0075010，7前面的3个O不是有效数字，7及后面的数字都是有效数字，0.0075010是5位有效数字；再如，6 300是4位有效数字，63×102是2位有效数字。
在数字中间或末尾的0都是有效数字，而在第1个非零数字前面的O都不是有效数字。有效数字末尾的O表示准确程度。如5. 80表示测量结果准确到百分位，最大绝对误差不大于0.005；5.8表示测量结果准确到十分位，最大绝对误差不大于0.05。
2)有效数字的处理
在测量时，往往要对测量结果的几个有效数据进行处理与运算，这样就存在有效数字的位数的取舍问题。
取舍原则是：运算过程中有效数字的位数根据其中准确度最差的数据的有效数字进行取舍。
对有效数字舍入时，应尽量减小舍人造成的误差，有效数字的舍人规则如下：
>删略部分最高位数字大于5时，向前进1。
》删略部分最高位数字小于5时，舍去。
>删略部分最高位数字等于5时，5后面只要有非零数字，去5进1。如果5后面全是0或无教字，当5前面一位数是奇数时，去5进1；当5前面一位数是偶数时，去5不进1。
3)有效数字的运算
对于加、减运算，有效数字的取舍以小数点后有效数字位数最少的项为准；对于乘、除运算，有效数字的取舍决定于有效数字最少的一项数据，而与小数点无关。
测量结果可以是数字，也可以是图形。NT71671FG-00033以数字方式表示的测量结果就是数据。测量数据的处理，就是从测量中得到的原始数据中求出被测量的最佳估计值，并计算精确程度。
1)有效数字
有效数字为组成数据的每个必要数字，即从左边第1个非零数字开始，直至右边最后1个数字为止的所有数字。例如0. 0436，4、3、6是有效数字，0.0436是3位有效数字；又如0.0075010，7前面的3个O不是有效数字，7及后面的数字都是有效数字，0.0075010是5位有效数字；再如，6 300是4位有效数字，63×102是2位有效数字。
在数字中间或末尾的0都是有效数字，而在第1个非零数字前面的O都不是有效数字。有效数字末尾的O表示准确程度。如5. 80表示测量结果准确到百分位，最大绝对误差不大于0.005；5.8表示测量结果准确到十分位，最大绝对误差不大于0.05。
2)有效数字的处理
在测量时，往往要对测量结果的几个有效数据进行处理与运算，这样就存在有效数字的位数的取舍问题。
取舍原则是：运算过程中有效数字的位数根据其中准确度最差的数据的有效数字进行取舍。
对有效数字舍入时，应尽量减小舍人造成的误差，有效数字的舍人规则如下：
>删略部分最高位数字大于5时，向前进1。
》删略部分最高位数字小于5时，舍去。
>删略部分最高位数字等于5时，5后面只要有非零数字，去5进1。如果5后面全是0或无教字，当5前面一位数是奇数时，去5进1；当5前面一位数是偶数时，去5不进1。
3)有效数字的运算
对于加、减运算，有效数字的取舍以小数点后有效数字位数最少的项为准；对于乘、除运算，有效数字的取舍决定于有效数字最少的一项数据，而与小数点无关。
1)有效数字
有效数字为组成数据的每个必要数字，即从左边第1个非零数字开始，直至右边最后1个数字为止的所有数字。例如0. 0436，4、3、6是有效数字，0.0436是3位有效数字；又如0.0075010，7前面的3个O不是有效数字，7及后面的数字都是有效数字，0.0075010是5位有效数字；再如，6 300是4位有效数字，63×102是2位有效数字。
在数字中间或末尾的0都是有效数字，而在第1个非零数字前面的O都不是有效数字。有效数字末尾的O表示准确程度。如5. 80表示测量结果准确到百分位，最大绝对误差不大于0.005；5.8表示测量结果准确到十分位，最大绝对误差不大于0.05。
2)有效数字的处理
在测量时，往往要对测量结果的几个有效数据进行处理与运算，这样就存在有效数字的位数的取舍问题。
取舍原则是：运算过程中有效数字的位数根据其中准确度最差的数据的有效数字进行取舍。
对有效数字舍入时，应尽量减小舍人造成的误差，有效数字的舍人规则如下：
>删略部分最高位数字大于5时，向前进1。
》删略部分最高位数字小于5时，舍去。
>删略部分最高位数字等于5时，5后面只要有非零数字，去5进1。如果5后面全是0或无教字，当5前面一位数是奇数时，去5进1；当5前面一位数是偶数时，去5不进1。
3)有效数字的运算
对于加、减运算，有效数字的取舍以小数点后有效数字位数最少的项为准；对于乘、除运算，有效数字的取舍决定于有效数字最少的一项数据，而与小数点无关。
相关技术资料- 9-10正确处理测量数据
公网安备44030402000607
