北京普天同创生物科技有限公司

  • CNAS实验室认可证书
  • 标准物质定级证书
  • 豫南检测资质认定证书
  • 质量管理体系认证证书
  • 农产品资质证书
  • 伟业计量高企认证证书
  • 中国计量测试学会合作单位
新闻
  • 产品
  • 仪器
  • 新闻
  • 证书
  • 规程
  • 帖子
  • 课堂

在线客服

Excel在误差计算中的应用

发布时间:2015-08-12 00:00 作者:中国计量网 阅读量:426

随着检定项目的不断增加和完善,对数据进行误差计算的量也随之大大增多。在对数据处理的过程中,既要判断数据是否超出制造者要求的范围,又要对数据进行误差计算,而在计算误差的过程中对有效位数的保留并不是简单的四舍五入,常采用修约规则。这些都在数据后期处理中占用了大量的时间和人力。

Excel为常用的公式编辑软件,它的界面格式直观易修改,在计算误差的过程中可直接引用它自带的函数公式,也可自己编辑,具有简单、快捷、准确,降低出错率、出错后极易查找等特点。基于此,宜选取Excel作为误差计算的工具。

下面以选取三位半数字万用表的电压值的误差计算为例,阐述Excel在误差计算中的应用。

一、误差的计算

首先在Excel表格中沿第1列A4~A11依次输入万用表直流电压各挡位所要校准的指示值,在第2列B4~B11中依次输入对应指示值测得的实际值,然后进行误差计算。
其步骤如下:

(1)选定D4单元格。

(2)点击编辑区,在其后输入误差公式:=(A4-B4)/B4,点回车键计算出第一个误差值。

(3)选中D4,将鼠标移到单元格D4的右下角,将出现“+”号。按下鼠标左键同时下拉,计算出万用表直流电压所有数据的误差值。

(4)同理,计算出交流电压所有数据的误差值。单元格I4的误差公式是:=(F4-G4)/G4,其余步骤同上。

二、对误差值进行修约规则处理(以保留一位有效数字为例)

由于修约规则区别于四舍五入的是当遇到舍去部分的数值等于5、下一位数值为0时,保留数字的末尾数为奇数加1、偶数时不变的原则。所以对上面的误差进行以下计算:

其步骤如下:

(1)选定C4单元格。

(2)点击编辑区,其后输入一个判断语句:=IF(TRUNC(D4,3)*1000-TRUNC(D4,1)*1000=50,ROUND(TRUNC(D4,2)/2,1)*2,ROUND(D4,1)),判断语句的含义是要保留位的后两位大于50,有效位加1;小于50,舍去;等于50时,判断保留位的奇偶,奇数加1,偶数不变。编辑完公式后按回车键,对第1个误差数进行修约。

(3)同误差值计算第3步,自动将所有计算的误差值进行修约。

三、超差项的判断

根据万用表说明书中的要求,可以计算出每个指示值的实际数据的范围。每次使用时为了避免重复计算和人为的判断失误,可以利用Excel的格式功能自动进行识别。
以A4单元格中的指示值为1.000V时,计算出合格的实际值为(0.993~1.007)V之间的值为例,进行以下操作:

(1)选定B4单元格。

(2)点击菜单栏中的“格式”,在下拉菜单中点击“条件格式”。

(3)弹出“条件格式”对话框。在条件1(1)选择框中进行操作:在第1个选择框中选“单元格数值”,在第2个选择框中选择“小于”,在第3个框中输入0.993,在点击“格式”按钮弹出的“单元格格式”的对话框中的“字形”选“加粗”,颜色选“红色”,点击确定。

(4)回到“条件格式”对话框,点击“添加”,出现条件2(2),与条件1(1)格式相同。在第1个选择框中选“单元格数值”,在第2个选择框中选择“大于”,在第3个框中输入1.007,接着点击“格式”按钮,在弹出的“单元格格式”的对话框中的“字形”仍选“加粗”,颜色选“红色”。

(5)回到“条件格式”对话框后,点击确定。

这时,1V点的实际值范围已给定,一旦超出说明书规定的范围(0.993V~1.007V)时,数字会自动变成红色加粗字体。这样容易识别,且查错方便。其他指示值在计算出实际值的范围后也按以上方法操作即可。

完成以上编辑后对文件进行保存。以后无需重新编辑,直接使用即可,简单、方便。

评论

登录后才可以评论

立即登录
分享到微信
关闭
普天同创
请告知您的电话号码,我们将立即回电

通话对您免费,请放心接听

温馨提示:

1.手机直接输入,座机前请加区号 如18601949136,010-58103629

2.我们将根据您提供的电话号码,立即回电,请注意接听

3.因为您是被叫方,通话对您免费,请放心接听