读书之法,在循序而渐进,熟读而精思
有效数字及有效数字计算、修约基础知识
一、有效数字
1、末的概念
末:指任何一个数最末一位数字所对应的单位量值。
例:用分度值为0.1mm的卡尺测量物体的长度,结果为19.8mm,最末一位的量值0.8mm,即为最末一位数8与所对应的单位量 0.1mm的乘积,故19.8mm的末为0.1mm。
2、有效数字的界定
1~9都为有效数字,数字之间的0、末尾的0也为。 二、近似数计算
1、“+-”以小数位数最少为准,修约比该数多一位,计算后修约 以小数点最少数的位数为准。 如:18.3+1.4545+0.876
≈18.3+1.45+0.88=20.63≈20.6
2、“×÷”各数修约到有效数字最少多一位,最后结果以有效数字 最少的那个为准。
如:3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈943
3、乘方、开方,参加运算有几位有效数字,结果就得保留几位 数字。
81.00 =9.000 9.002=81.0 如几级运算,乘方开方多保留一位。
读书之法,在循序而渐进,熟读而精思
81.0+4.359=9.000=4.359
4、混合运算:
不管如何运算,结果必须以位数最少为准。 三、修约规则
1、舍去数第一位小于5则舍,大于5则进。 4.254→4.25 38.735→39
2、舍去数第一位为5,5后并非全为0则进。 9.55033→9.6
3、舍去数第一位为5,5后无数或全为0,奇进偶舍。 0.0415→0.042 0.0425→0.042
4、注意不得连续修约。
如:37.4546→37.455→37.46→37.5→38
5、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了 规定,即k×10n(k=1、2、5,n为正、负整数)
另外,0.5、0.2修给采用分别乘以2与5,修约后再除以2与5来 修约。
如:以0.5修约60.25
60.25×2得120.5修约为120,再除以2得60.0
读书之法,在循序而渐进,熟读而精思
练习题:
一、说出下列数值有几位有效数字?
1、60.000 2、0.6000 3、0.0600 4、6.001×107 二、近似数计算:
1、19.3+1.5837+0.976
2、3.780×47.5×6.5745
3、25.000
三、数值修约:
1、5.256、5.254、5.255、5.265保留三位有效数字?
2、60.25以0.2修约。
3、237.5、236.5、233.6、232.5、242.5、231.5分别以5修约。