数值修约规则GBT.ppt

《数值修约规则GBT.ppt》由会员分享，可在线阅读，更多相关《数值修约规则GBT.ppt（28页珍藏版）》请在三一文库上搜索。

1、 数值修约数值修约GB/T8170-2008术语术语修约间隔：修约值的最小数值单位，系确定修约修约间隔：修约值的最小数值单位，系确定修约保留位数的一种方式。修约间隔的数值一经确定，保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍修约值即应为该数值的整数倍。例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。有效位数：对没有小数位且以若干个零结尾的数有效位数：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去值，从非零

2、数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其他十无效零（即仅为定位用的零）的个数；对其他十进位数，从非零数字最左一位向右数而得到的位进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。数，就是有效位数。例1：35000，若有两个无效零，则为三位有效位数，应写为350102；若有三个无效零，则为两位有效位数，应写为35103。例2：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有效位数。例3：12.490为五位有效位数；10.00为四位有效位数。0.5单位修约（半个单位修约）：指修约间隔为指单位修约（半个单位修约）：指修约间隔为指

3、定数位的定数位的0.5单位，即修约到指定数位的单位，即修约到指定数位的0.5单位。单位。修约方法：将拟修约数值乘以修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，按指定数位依数字修约规则修约，所得数值再除以所得数值再除以2。例1：将60.28修约到个数位的0.5单位（或修约间隔为0.5），得60.5。例2：将60.25修约到个数位的0.5单位（或修约间隔为0.5），得60.0。拟修约数值 乘22A修约值（修约间隔为1）A修约值（修约间隔为0.5）60.25120.5012060.060.38120.7612160.5将下列数字修约到个数位的将下列数字修约到个数位的0.5单位（或修约

4、间隔为单位（或修约间隔为0.5）0.2单位修约：指修约间隔为指定数位的单位修约：指修约间隔为指定数位的0.2单位，即修约到指定数位的单位，即修约到指定数位的0.2单位。单位。将拟修约数值乘以将拟修约数值乘以5，按指定数位依数字修约规则修约，按指定数位依数字修约规则修约，所得数值再除以所得数值再除以5。例1：将830修约到“百”数位的0.2单位（或修约间隔为20），得840。例:2：将842修约到“百”数位的0.2单位（或修约间隔为20），得840。拟修约数值 乘55A修约值（修约间隔为100）A修约值（修约间隔为20）8304150420084084242104200840将下列数字修约到将下

5、列数字修约到“百百”数位的数位的0.2单位（或修约间隔为单位（或修约间隔为20）确定修约位数的表达方式确定修约位数的表达方式指定数位(指定修约间隔)；指定将数值修约成n位有效位数。四舍六入五考虑，四舍六入五考虑，五后非零则进一，五后非零则进一，五后皆零视奇偶，五后皆零视奇偶，五前为偶应舍去，五前为偶应舍去，五前为奇则进一，五前为奇则进一，不论数字多少位，不论数字多少位，都要一次修约成。都要一次修约成。进舍规则进舍规则拟舍弃数字的最左一位数字小于拟舍弃数字的最左一位数字小于5时，时，则舍去，即保留的各位数字不变。则舍去，即保留的各位数字不变。例1：将12.1498修约到一位小数，得12.1。例2

6、将12.1498修约成两位有效位数，得12。拟舍弃数字的最左一位数字大于拟舍弃数字的最左一位数字大于5；或者是；或者是5，而其后跟有并非全部为，而其后跟有并非全部为0的数字时，则的数字时，则进一，即保留的末位数字加进一，即保留的末位数字加1。例1：将1268修约到“百”数位，得13102（特定时可写为1300）。例2：将1268修约成三位有效位数，得12710（特定时可写为1270）。例3：将10.502修约到个数位，得11。拟舍弃数字的最左一位数字为拟舍弃数字的最左一位数字为5，而右面无，而右面无数字或皆为数字或皆为0时，时，若所保留的末位数字为奇数（若所保留的末位数字为奇数（1，3，5，

7、7，9）则进一，）则进一，若所保留的末位数字为偶数（若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。）则舍弃。例1：修约间隔为0.1 拟修约数值 1.050修约值结果 1.0 负数修约时，先将它的绝对值按数字修约负数修约时，先将它的绝对值按数字修约规定进行修约，然后在修约值前面加上负规定进行修约，然后在修约值前面加上负号。号。例1：将下列数字修约到“十”数位 拟修约数值 修约值 -355-3610不许连续修约不许连续修约 拟修约数字应在确定修约位数后一拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按进次修约获得结果，而不得多次按进舍规则连续修约。舍规则连续修约。例如：修约15.

8、4546，修约间隔为1 正确的做法：15.454615 不正确的做法：15.454615.45515.4615.516在具体实施中，有时测试与计算部门先将在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为避免产生连续出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。修约的错误，应按下述步骤进行。1.报出数值最右的非零数字为报出数值最右的非零数字为5时，应在数时，应在数值后面加值后面加“（）（）”或或“（）（）”或不加或不加符号，以分别表明已进行过舍、进或未舍符号，以分别表明已进行过舍、进或

9、未舍未进。未进。例：16.50（）表示实际值大于16.50，经修约舍弃成为16.50；16.50（）表示实际值小于16.50，经修约进一成为16.50。2.如果判定报出值需要进行修约，当拟舍弃数字的如果判定报出值需要进行修约，当拟舍弃数字的最左一位数字为最左一位数字为5而后面无数字或皆为零时，数值而后面无数字或皆为零时，数值后面有后面有(+)号者进一，数值后面有号者进一，数值后面有(-)号者舍去，号者舍去，其他仍按数字修约规则进行。其他仍按数字修约规则进行。例：将下列数字修约到个数位后进行判定（报出值多留一 位到一位小数）。实测值 报出值修约值 15.4546 15.5（一）15 16.520

10、3 16.5（）17-17.5000 -17.5 -18 -15.4546-(15.5(一)-15 计算法则加减运算应以各数中有效数字末位数的数位最高应以各数中有效数字末位数的数位最高者为准（小数即以小数部分位数最少者者为准（小数即以小数部分位数最少者为准），其余数均比该数向右多保留一为准），其余数均比该数向右多保留一位有效数字。位有效数字。例如：5.89+15.2551=5.89+15.255=21.145 乘除运算 应以各数中有效数字位数最少者为准，应以各数中有效数字位数最少者为准，其余数均多取一位有效数字，所得积其余数均多取一位有效数字，所得积或商也多取一位有效数字。或商也多取一位有效数

11、字。例如：2.13.1242.13.126.55 平方或开方运算其结果可比原数多保留一位有效数字。其结果可比原数多保留一位有效数字。例如：1.421.96 1.233=1.861 对数运算 所取对数位数应与真数有效数字位数所取对数位数应与真数有效数字位数相等。相等。例如：lg12.3=1.09 特殊实例特殊实例非连续型数值 个数、分数、倍数、名义浓度或标示个数、分数、倍数、名义浓度或标示量等是没有欠准数字的，其有效位数量等是没有欠准数字的，其有效位数可视为无限多位；可视为无限多位；常数常数、e和系数和系数2，1/2 等数值的有效等数值的有效位数也可视为是无限多位。位数也可视为是无限多位。例如：1.分子式“H2S04”中的“2”和“4”是个数；2.含量测定项下“每1ml的滴定液（0.1mol/L）”中的“0.1”为名义浓度，其有效位数均为无限多位；3.规格项下的“0.3g”或“1ml”，“25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。结论：在计算中，其有效位数应根据其他数值的最少有效位数而定。pH值pH值等对数值，其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。例如：pH=11.26(H+=5.510-12 mol/L)其有效位数只有两位。谢 谢