第三节 有效数字与数字舍入规则

作者:徐荣祥 出版社:中国科学技术出版社 发行日期:2009年7月
一、测量值与准确值
在临床或基础研究中所使用的有关数字或数据,均可分为“测量值”(实测值)与“准确值”(真值)两种,实际应用中以测量值居多。众所周知,不管采用何种先进的手段或精密的仪器,也不管观察了多少例病人与实验动物,要想得到某一指标的“真值”几乎都是不可能的。故我们只能采用尽可能先进的手段,尽量减少各类误差,使测量值(或经统计学处理后的有关指标)进一步得到更正,使其接近其“真值”。
二、有效数字与有效位数
1有效数
在仪器方法测量中,根据被测量所用仪器读数最大精度单位所得到的数值称为有效数字,也称准确数字。如磅秤的精确度为“g”,“g”即为有效数字。在精确度以内的数值可以直接读出,精确度之后的数值不能直接读出,但是最大精确度以下的数值可以估读,便之构成估计误差部分,并称之为安全数字。或者说,当测量值或计算值根据实际条件,以带有或不带有单位数字形式列出时,除该数值小数点后最末一位数字为“估测”数字(设小数点后末位数字的位数为n,其估测时的绝对误差应小于“1/2×10-n”)外,其余均为有效数字。因为有效位数系指根据方法或仪器精密度要求确定的,有效数字应保留的位数,应按照有关规定仅能保留一位非准确或估测数字。
由此可知,有效数字误差的绝对值小于或等于05。现举例说明:用一个有毫米刻度的尺子去测量某一物体的长度,毫米以上的数值可以直接读出,如为5453m,毫米以下的第一位数值只能估读,如为“6”,即构成数字5453 6 m(估读数字暂用小体字表示)。测5453(m)为有效数字,有效数字后的“6”为近似意义的安全数字。有效数字与所取度量衡单位大小无关。5453m又可写为0005 453km,有效数字仍为4位。有效数字后一般只保留一位安全数字构成科学运算中的估计值。但是在大量运算中,为使误差不迅速累积到参加运算的估计数字,其安全数字后可以适当多取几位。
2有效位数的正确判定
纯小数中小数点前及小数点后有关数字前的“0”只起定位作用而非为有效数字。如“0002 5”的有效位数为2位,非为5位或6位;又如“0001 00”的有效位数则为3,其中小数点后数字1之前的三个“0”均起定位作用,而1后面的两个“0”仍为有效数字。
三、有效数字规则与数值修约规则
1有效数字规则
在数值运算中,如果参与运算的全部数值(包括带单位者)均为有效数字,则应遵循以下规则:①加减或混合运算所得结果小数点后的有效位数,应与所有数值中小数点后有效位数最少者相同;②乘除或混合运算,乘方、开方或混合运算,其结果的有效位数应与参加运算的各数值中有效位数最小者相同;③对数运算所得结果尾数部分的有效位数,也应与真数的有效位数相同。与上述运算不同的是对数的有效位数只与尾数有关,而与首数无关。
2数值修约规则
在实际工作中,不管是测量值还是根据有关数理公式而得出的计算值,必须按照方法精密度的要求进行修约。过去使用的“四舍五入”修约方法,因为可使分值修约后的数值总和大于原总值,现已更改为“四舍六入五单双”规则。具体地说:“四舍六入五考虑,五后非零可进一,五后皆零视奇偶,五前为偶(包括0)应舍去,五前为奇方进一”。如124650与105551,若保留两位小数时,124650应修约为1246,而105551则应修约为1056。两个数的拟舍弃数字虽然都是5,但前者的5后为0,当应舍弃;后者的5后非0,且5前的相邻数字为奇数,故应进一,则修约为1056。
在应用上述新的“数值修约规则”时,应注意以下几点:①必须首先按照有关规则或运算要求确定“保留位数”,然后按要求保留的位数一次修约,绝不可以连续修约。如将34546修约为整数时,应一次修约为“3”,不能连续修约为:34546→3455→346→35→4;②负数修约时可按上述规则及要求保留位数的绝对值数字修约,修约后再加上负号即可;③对单位换算后的数值或范围数值进行修约时,应遵循“极大值只舍不入,极小值只入不舍”及准确值乘以换算系数后的数值仍为准确值等基本原则。