有效数字
发布时间:2012/9/8 18:08:34 访问次数:2942
所截取得到7812的近似数,其绝对误差(截取或舍人误差)的绝对值不超过近似数末位的半个单位,则该近似数从左边第一个非零数字到最末一位数字为止的全部数字,称之为有效数字。
从上述定义可以看出,有效数字是和数据的准确皮(或误差)密切相关的,它所隐含的极限误差不超过有效数字末位的半个单位。例如:
3.1416 五位有效数字,极限(绝对)误差≤0.00005
3.142 四位有效数字,极限误差≤0.0005
8700 四位有效数字,极限误差≤0.5
8.7×l03 位有效数字,极限误差≤0.05×l03
0.87 位有效数字,极限误差≤0.005
0.807 三位有效数字,极限误差≤0.0005
由这几个示例可以看出:0,l,2,3,4,5,6,7,8,9十个数字都有可能是有效数字,而0还与位置有关。开头的0不是有效数字,因为它们仅与选取的测量单位有关,而与测量误差或准确度无关。例如,某电压为15mV也可表示为0.015V,这里前边两个0都不是有效数字。
舍入处理后的近似数,中间的0和末尾的0都是有效数字。末尾的0很重要,不能随意添加。多写则夸大了测量准确度,少写则夸大了测量误差。
对于测量数据的绝对值比较大、而有效数字位数又比较少的测量数据,应采用科学计数法,即位数由有效数字的位数所决定。
测量结果有效数字位数的确定
测量结果(或读数)的有效位数应由该测量的不确定度来确定,即测量结果的最末一位与不确定度的位教对齐。例如,某物理量的测量结果的值为63.44且该量的测量不确定度U=0.4,则根据上述原则,该测量结果的有效位数应保留到小数后一位即63.4,测量结果表示为63.4+0.4。结果在某些特殊场合可用不标注不确定度(误差)的测量报告值表示,即根据有效数字的“0.5误差法则”确定测量结果的有效数。在上例中,因为0.44 <0.5,所以测量结果的有效数字应保留到个位,即测量报告值为63。当U=0.8时,测量报告值则只有一位有效数字,即0.6×l02;当U=4.5时,测量报告值仍为0.6×l02。显然,这种表示方法不够确切。
从上述定义可以看出,有效数字是和数据的准确皮(或误差)密切相关的,它所隐含的极限误差不超过有效数字末位的半个单位。例如:
3.1416 五位有效数字,极限(绝对)误差≤0.00005
3.142 四位有效数字,极限误差≤0.0005
8700 四位有效数字,极限误差≤0.5
8.7×l03 位有效数字,极限误差≤0.05×l03
0.87 位有效数字,极限误差≤0.005
0.807 三位有效数字,极限误差≤0.0005
由这几个示例可以看出:0,l,2,3,4,5,6,7,8,9十个数字都有可能是有效数字,而0还与位置有关。开头的0不是有效数字,因为它们仅与选取的测量单位有关,而与测量误差或准确度无关。例如,某电压为15mV也可表示为0.015V,这里前边两个0都不是有效数字。
舍入处理后的近似数,中间的0和末尾的0都是有效数字。末尾的0很重要,不能随意添加。多写则夸大了测量准确度,少写则夸大了测量误差。
对于测量数据的绝对值比较大、而有效数字位数又比较少的测量数据,应采用科学计数法,即位数由有效数字的位数所决定。
测量结果有效数字位数的确定
测量结果(或读数)的有效位数应由该测量的不确定度来确定,即测量结果的最末一位与不确定度的位教对齐。例如,某物理量的测量结果的值为63.44且该量的测量不确定度U=0.4,则根据上述原则,该测量结果的有效位数应保留到小数后一位即63.4,测量结果表示为63.4+0.4。结果在某些特殊场合可用不标注不确定度(误差)的测量报告值表示,即根据有效数字的“0.5误差法则”确定测量结果的有效数。在上例中,因为0.44 <0.5,所以测量结果的有效数字应保留到个位,即测量报告值为63。当U=0.8时,测量报告值则只有一位有效数字,即0.6×l02;当U=4.5时,测量报告值仍为0.6×l02。显然,这种表示方法不够确切。
所截取得到7812的近似数,其绝对误差(截取或舍人误差)的绝对值不超过近似数末位的半个单位,则该近似数从左边第一个非零数字到最末一位数字为止的全部数字,称之为有效数字。
从上述定义可以看出,有效数字是和数据的准确皮(或误差)密切相关的,它所隐含的极限误差不超过有效数字末位的半个单位。例如:
3.1416 五位有效数字,极限(绝对)误差≤0.00005
3.142 四位有效数字,极限误差≤0.0005
8700 四位有效数字,极限误差≤0.5
8.7×l03 位有效数字,极限误差≤0.05×l03
0.87 位有效数字,极限误差≤0.005
0.807 三位有效数字,极限误差≤0.0005
由这几个示例可以看出:0,l,2,3,4,5,6,7,8,9十个数字都有可能是有效数字,而0还与位置有关。开头的0不是有效数字,因为它们仅与选取的测量单位有关,而与测量误差或准确度无关。例如,某电压为15mV也可表示为0.015V,这里前边两个0都不是有效数字。
舍入处理后的近似数,中间的0和末尾的0都是有效数字。末尾的0很重要,不能随意添加。多写则夸大了测量准确度,少写则夸大了测量误差。
对于测量数据的绝对值比较大、而有效数字位数又比较少的测量数据,应采用科学计数法,即位数由有效数字的位数所决定。
测量结果有效数字位数的确定
测量结果(或读数)的有效位数应由该测量的不确定度来确定,即测量结果的最末一位与不确定度的位教对齐。例如,某物理量的测量结果的值为63.44且该量的测量不确定度U=0.4,则根据上述原则,该测量结果的有效位数应保留到小数后一位即63.4,测量结果表示为63.4+0.4。结果在某些特殊场合可用不标注不确定度(误差)的测量报告值表示,即根据有效数字的“0.5误差法则”确定测量结果的有效数。在上例中,因为0.44 <0.5,所以测量结果的有效数字应保留到个位,即测量报告值为63。当U=0.8时,测量报告值则只有一位有效数字,即0.6×l02;当U=4.5时,测量报告值仍为0.6×l02。显然,这种表示方法不够确切。
从上述定义可以看出,有效数字是和数据的准确皮(或误差)密切相关的,它所隐含的极限误差不超过有效数字末位的半个单位。例如:
3.1416 五位有效数字,极限(绝对)误差≤0.00005
3.142 四位有效数字,极限误差≤0.0005
8700 四位有效数字,极限误差≤0.5
8.7×l03 位有效数字,极限误差≤0.05×l03
0.87 位有效数字,极限误差≤0.005
0.807 三位有效数字,极限误差≤0.0005
由这几个示例可以看出:0,l,2,3,4,5,6,7,8,9十个数字都有可能是有效数字,而0还与位置有关。开头的0不是有效数字,因为它们仅与选取的测量单位有关,而与测量误差或准确度无关。例如,某电压为15mV也可表示为0.015V,这里前边两个0都不是有效数字。
舍入处理后的近似数,中间的0和末尾的0都是有效数字。末尾的0很重要,不能随意添加。多写则夸大了测量准确度,少写则夸大了测量误差。
对于测量数据的绝对值比较大、而有效数字位数又比较少的测量数据,应采用科学计数法,即位数由有效数字的位数所决定。
测量结果有效数字位数的确定
测量结果(或读数)的有效位数应由该测量的不确定度来确定,即测量结果的最末一位与不确定度的位教对齐。例如,某物理量的测量结果的值为63.44且该量的测量不确定度U=0.4,则根据上述原则,该测量结果的有效位数应保留到小数后一位即63.4,测量结果表示为63.4+0.4。结果在某些特殊场合可用不标注不确定度(误差)的测量报告值表示,即根据有效数字的“0.5误差法则”确定测量结果的有效数。在上例中,因为0.44 <0.5,所以测量结果的有效数字应保留到个位,即测量报告值为63。当U=0.8时,测量报告值则只有一位有效数字,即0.6×l02;当U=4.5时,测量报告值仍为0.6×l02。显然,这种表示方法不够确切。
上一篇:数据的舍入规则
上一篇:电工仪表的分类和符号