您好,欢迎来到华测实验室技术服务有限公司官网!
全国统一咨询热线:
4008939898
新闻中心


联系我们
现在的位置:首页 > 新闻中心 > 实验室知识

一篇实验室设计小编看不懂的文章——有效数字修约

发布者:实验室筹建老师 发布时间:2017-12-19 阅读:

实验猿是和程序猿一样,一个特殊的物种,一个注孤生的职业。因为他们大多固执、刻板,对检测结果更是斤斤计较到丧心病狂。这不就为检测结果要保留几位,怎么保留,还专门颁布了个标准GB/T 8170《数值修约规则与极限数值的表示和判定》。但是这样的人在如今的社会反而越发珍贵了,因为他们不畏强权(领导和客户),坚持以数据说话;专一执着,坚持以标准为据。华测实验室就聚集了8000多名这样珍贵的人才,发扬“不造假、不认假”的实验猿精神。虽然看不懂,但是今天实验室设计小编还是要带大家走进华测实验室,了解下实验猿们是如何处理数据的。


要了解数据处理,我们首先认识一个概念:有效数字。系指在操作中所能实际测量得到的有实际意义的数值,它是由准确数字和最后一位可疑数字组成,通常我们把通过直接读取获得的数字叫做准确数字,把通过估计获得的数字叫做可疑数字。

要搞清楚有效数字,得先了解以下几个概念:


1. 修约间隔

是确定修约保留位数的一种方式.修约间隔的数值一经确定,修约值即应为该数值的整数倍。

1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。

2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到 “ 百 ” 数位。


2. 有效位数 

对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。

135000,若有两个无效零,则为三位有效位数,应写为350×10(2次方;若有三个无效零,则为两位有效位数,应写为35×10(3次方

23.20.320.0320.0032均为两位有效位数;0.0320为三位有效位数。

312.490为五位有效位数;10.00为四位有效位数。

 

搞清楚基本概念后,我们先来确定修约位数的表达方式吧。


1. 指定数位

a. 指定修约间隔为10 n n为正整数),或指明将数值修约到n位小数;

b. 指定修约间隔为1,或指明将数值修约到个数位;

c. 指定修约间隔为10 n ,或指明将数值修约到10 n 数位(n为正整数),或指明将数值修约到“ 十 ” , “ 百 ” , “ 千 ” ……数位。 


2. 指定将数值按一定修约间隔修约成n位有效位数

 

明白了修约间隔和有效位数要求后,我们来学习下进舍规则 


1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

1:将12.1498修约到一位小数,得12.1

2:将12.1498修约成两位有效位数,得12

 

2.  拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1

1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。

2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。

3:将10.502修约到个数位,得11

注:本标准示例中, “ 特定时 ” 的涵义系指修约间隔或有效位数明确时。

 

3. 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(13579)则进一,为偶数(24680)则舍弃。

1:修约间隔为0.1(或10 -1 

  拟修约数  修约值
   1.050    1.0 
   0.350    0.4 


2:修约间隔为1000(或10 3 
    拟修约数值  修约值
        2500     2×10 3 (特定时可写为2000
   3500     4×10(特定时可写为4000


  例3:将下列数字修约成两位有效位数
  拟修约数值  修约值
   0.0325    0.032 
   32500    32×103次方(特定时可写为32000

 

4. 负数修约时,先将它的绝对值按上述3.1~3.3规定进行修约,然后在修约值前面加上负号。

1:将下列数字修约到 “ 十 ” 数位
  拟修约数值  修约值
  -355     -36×10(特定时可写为-360) 
   -325     -32×10(特定时可写为-320


例2:将下列数字修约成两位有效位数 
   拟修约数值  修约值
   -365     -36×10(特定时可写为-360) 
   -0.0365    -0.036 

 

温馨提示:

1. 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。

例如:修约15.4546,修约间隔为

正确的做法:15.4546→15 

不正确的做法:15.4546→15.455→15.46→15.5→16 

 

2. 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。

a. 报出数值最右的非零数字为5时,应在数值后面加 “ (+) ” 或 “ (-) ” 或不加符号,以分别表明已进行过舍、进或未舍未进。 

如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。 


b. 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去。 

例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。 
     实测值   报出值      修约值
  15.4546   15.5(一)    15 
  16.5203   16.5(+)    17 
  17.5000   17.5       18


对于数值的处理小编就介绍到这了(因为再多的小编也不会了),大家明白了吗?如果不明白又想弄明白怎么办呢,关注华测实验室,会有老帅老帅的老师给大家细致讲解哦!


服务热线
0755-33685532