ZKX's LAB

化学里的有效数字运算问题 有线数字运算

2020-07-20知识16

有效数字的计算方法 有效数字及其运算规则 一、有效数字的一般概念1.有效数字 任何一个物理量,其测量结果必然存在误差.因此,表示一个物理量测量结果的数字取值是有限的.我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称.在关于有效数字运算规则中 加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准,例如:0.0121+25.64+1.05782=?正确计算 不正确计算0.01 0.0121 25.64 25.64+1.06+1.05782—.有效数字的运算应遵循怎样的运算规则? ②乘除法.几个数据相乘或相除时,它们的积或商的有效数字位数的保留必须以各数据中有效数字位数最少的数据为准.例如:1.54×31.76=48.9104≈48.9③乘方和开方.对数据进行乘方或开方时,所得结果的有效数字位数保留应与原数据相同.例如:6.72^2=45.1584≈45.2(保留3位有效数字)「9.65=3.10644┈3.11(保留3位有效数字)④对数计算.所取对数的小数点后的位数(不包括整数部分)应与原数据的有效数字的位数相等.例如:lg102=2.00860017≈2.009(保留3位有效数字)⑤在计算中常遇到分数、倍数等,可视为多位有效数字.⑥在乘除运算过程中,首位数为\"8\"或\"9\"的数据,有效数字位数可多取1位.⑦在混合计算中,有效数字的保留以最后一步计算的规则执行.⑧表示分析方法的精密度和准确度时,大多数取1~2位有效数字.

#有效数字#数值修约规则#小数点

qrcode
访问手机版