数据运算规则
发布时间:2014/4/2 22:20:02 访问次数:2665
(1)加减法运算规则
几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数, LMBT5550LT1G然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。
(2)乘除运算规则
两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。
为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。
(3)乘/开方运算
进行乘/开方运算时,底数/被开方数有几位有效数字,运算结果多保留一位有效数字。
(4)对数运算规则
数据进行对数运算时,几位数字的数值应使用几位对数表,以免损失准确度。
(1)加减法运算规则
几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数, LMBT5550LT1G然后计算,计算结果的小数位数,取至与原小数位数最少的数相同。
(2)乘除运算规则
两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算,求得的积或商的有效位数,应根据舍入规则保留与原有效数字位数少的数相同。
为了保证必要的精度,参与乘除运算的各数及最终运算结果也可比有效数字位数最少者多保留一位有效数字。
(3)乘/开方运算
进行乘/开方运算时,底数/被开方数有几位有效数字,运算结果多保留一位有效数字。
(4)对数运算规则
数据进行对数运算时,几位数字的数值应使用几位对数表,以免损失准确度。
上一篇:有效数字的舍入规则
上一篇:等精度测量结果的处理
热门点击
- 热风枪拆卸贴片集成电路方法
- 数据运算规则
- 串联负反馈电路的特征
- 二极管选配方法和更换方法
- 电烙铁安全操作注意事项
- 中频变压器谐振频率调整方法
- 二极管主要参数
- 双卡录音座方框图及各单元电路作用
- 行输出三极管电流测量方法
- 变容二极管等效电路
推荐技术资料
- 自制经典的1875功放
- 平时我也经常逛一些音响DIY论坛,发现有很多人喜欢LM... [详细]