位置:51电子网 » 技术资料 » 控制技术

数据运算规则

发布时间:2014/4/2 22:20:02 访问次数:2665

   (1)加减法运算规则

   几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数, LMBT5550LT1G然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。

   (2)乘除运算规则

   两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。

   为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。

   (3)乘/开方运算

   进行乘/开方运算时,底数/被开方数有几位有效数字,运算结果多保留一位有效数字。

   (4)对数运算规则

   数据进行对数运算时,几位数字的数值应使用几位对数表,以免损失准确度。

   (1)加减法运算规则

   几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数, LMBT5550LT1G然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。

   (2)乘除运算规则

   两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。

   为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。

   (3)乘/开方运算

   进行乘/开方运算时,底数/被开方数有几位有效数字,运算结果多保留一位有效数字。

   (4)对数运算规则

   数据进行对数运算时,几位数字的数值应使用几位对数表,以免损失准确度。

相关技术资料
4-2数据运算规则

热门点击

 

推荐技术资料

自制经典的1875功放
    平时我也经常逛一些音响DIY论坛,发现有很多人喜欢LM... [详细]
版权所有:51dzw.COM
深圳服务热线:13751165337  13692101218
粤ICP备09112631号-6(miitbeian.gov.cn)
公网安备44030402000607
深圳市碧威特网络技术有限公司
付款方式


 复制成功!