有效数字和数据舍入规则.ppt
《有效数字和数据舍入规则.ppt》由会员分享,可在线阅读,更多相关《有效数字和数据舍入规则.ppt(26页珍藏版)》请在三一文库上搜索。
1、有效数字取舍规则 讲 座,山东省石油助剂产品及轻烃产品监督检验中心 孙建军 编制,我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有: “这里有5只杯子”中的“5” ; “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。,一、有效数字的概念及有效位数的确定,1、近似数,近似数是由可靠数和不可靠数(一般取1位)两部分组成的。 作为近似数的例子有: 所有测得值和测量结果; 经过修约后的任何数值; 经测定得到的物理常数 记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据
2、的准确度产生误解。这一点在检定和测量时应特别注意。,1、近似数,2 有效数字,对于有小数点的数,和以非0结尾的整数,从左边第一个非零数字起到最右边的所有数字都是有效数字。第一个非零数字前面的0不是有效数字,但数据末尾的0是有效数字。,当一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,从该近似数左边第一个非零数字算起,直到最后末位数为止均是有效数字。,从左边第1个非零的数字起,到所截取的数位止,所有数字均称为有效数字。如:3.1416;3.2345;420.00;0.87130;0.00026541等都称为五位有效数字。而123;1.23;0.00123都称为三位有效数字。,在判定有
3、效数字时,要特别注意“0”这个数字,它可以是有效数字,它也可以不是有效数字,如:0.00123的前面的三个零均不是有效数字,因为这三个0与0.00123的精确度无关。又如:870.00后面的三个0,却是有效数字,因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得,对于0.00123,其误差的绝对值为0.000005,若去掉此近似数前面的三个0,则可写成12310-5,其误差的绝对值为0.510-5,即为0.000 005,与精度无关。对待近似数时,不可象对待准确数那样,随便去掉小数点部分右边的0,或在小数点部分右边加上0,因为这样作的结果,虽不会改变这个数的大小,
4、却改变了它的精确度。,2 有效数字,1、常数运算 参加运算的常数如、e以及其他无误差的数值,其有效位数可认为是无限的,在计算中要几位取几位。常数的取值不影响有效位数。,二 数字运算规则,2、加减运算 在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约 。 例如:12.5+3.26+0.165,先将0.165化整为0.16,则12.5+3.26+0.165=12.5+3.26+0.16=15.9 在减法运算中,应避免两个接近的值相减计算结果,因相减后其有效数字将减少。,3、乘除运算 在乘除运算中,先找出有效
5、位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。 0.1211.315.24,先将15.24修约为15.2, 则0.1211.315.24=0.1211.315.2=20.61=21。,4、乘方与开方运算 数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。 5、对数运算 运算结果应与真数的位数相同。例如: lg32.8=1.51587.=1.52,6、计算平均值时: 若数据的个数较多,则平均值的保留位数可增加一倍。 7、混合运算: 混合运算时所有中间运算比上面的运算多保留一位。,1.1修约间隔 系确定修约保留位数的一种
6、方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。,三、 数值修约规则(GB8170-87),1、术语,1.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其十进位数,从非零数字左一位向右数而得到的位数,就是有效位数。 例1:35 000,若有两个无效零,则为三位有效数字,应写成350102 ;若有三个无效零,则为两位有效数字
7、,应写成35103。 例2:12.490为五位有效数字,10.00为四位有效数字。,1、术语,2.1指定位数 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个位; c.指定修约间隔为10n,或指明将数值修约到10n(n为正整数),或指明将数值修约到“十”、“百”、 “千”位数。,2、确定修约位数,2.2指定将数值修约成n位有效数字。,3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.050001修约到一位小数,得12.1。 例2:将12.498修约到两位有效数字,得12。,3、进舍规则,3.
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 有效 数字 数据 规则
链接地址:https://www.31doc.com/p-3440453.html