北京普天同创生物科技有限公司

  • CNAS实验室认可证书
  • 标准物质定级证书
  • 豫南检测资质认定证书
  • 质量管理体系认证证书
  • 农产品资质证书
  • 伟业计量高企认证证书
  • 中国计量测试学会合作单位
新闻
  • 产品
  • 仪器
  • 新闻
  • 证书
  • 规程
  • 帖子
  • 课堂

在线客服

试验数据的整理和处理(三)

发布时间:2018-09-25 00:00 作者:中国标准物质网 阅读量:1185

四、有效数字

(一)数字在分析化学中的含义

实验过程中遇到的两类数字:

(1)数目如测定次数、倍数、系数、分数。

(2)测量值或计算值数据的位数与测定准确度有关:

记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。如称取物质的质量为0.1g,表示是在小台秤上称取的。称取物质的质量为0.1000g,表示是用万分之一的分析天平称取的。要准确配制50.00mL溶液,需要用50.00mL容量瓶配制,而不能用烧杯和量杯。取25.00mL溶液,需用移液管,而不能用量杯。取25 mL溶液,表示是用量杯量取的。滴定管的初始读数为零时,应记录为0.00mL,而不能记录为0mL。

分析化学中测定或计算所获得的数据的位数反映出测量结果的精确程度,这类数字称为“有效数字”。在有效数字中,末位数字是不准确的,是估计值,称为可疑数字,具有±1的偏差,其他数字是准确的。

有效数字的位数对相对误差有很大的影响,例如从下列一组数据(表1-4)可看出,三个数值的大小似乎相同,但它们的相对偏差间却有很大差异。

表1-4  相对偏差示例

有效数字的用途、特点和注意点如下:

(1)作普通数字用。

(2)作定位用如0.0518的3位有效数写作5.18×10-2,又如0.5180的4位有效数字写作5.180×10-1

(3)改变单位,不改变有效数字的位数,如:24.01mL=24.01×10-3L。

(4)注意点

①分析天平(万分之一)取4位有效数字;

②标准溶液的浓度,用4位有效数字表示;

③pH4.34,小数点后的数字位数为有效数字位数;

④对数值,1gX=2.38,表示两位有效数字二

(二)数字修约规则

1.加减运算

结果的有效数字位数取决于绝对误差最大的数据的位数,即小数点后位数最少的数据的位数。

例:0.0121+25.64+1.057=25.7091,应保留几位有效数字?

0.0121绝对误差:0.0001

25.64绝对误差:0.01

1.057绝对误差:0.001

计算结果的有效数字位数应与25.64保持一致,为:25.71

2.乘除运算

有效数字的位数取决于相对误差最大的数据的位数。

例:(0.0325×5.103×60.06)/139.8=0.071179184

计算各数据的相对误差:

0.0325   ±0.0001/0.0325×100%=±0.3%

5.103    ±0.001/5.103×100%=±0.02%

60.06    ±0.01/60.06×100%=±0.02%

139.8    ±0.1/139.8×100%=±0.07%

相对误差最大的数据0.0325有3位有效数字位数,故计算结果应为:0.0712

滴定分析中所采用的容量器皿(滴定管、容量瓶、移液管)均保留四位有效数字,故实验结果的数据有效位数为四位。

3.数字修约规则

在计算和读取数据时,数据的位数可能比规定的有效数字位数多。例如,用计算器可得七位的数据;在用分析天平称量时,可读出小数点后五位;因此需要将多余的数字舍去,舍去多余的数字的过程称为数字修约过程,所遵循的规则称为数字修约规则。

过去常采用:四舍五入的数字修约规则。

现国家标准规定采用:四舍六入五留双的数字修约规则。

例如:

0.132349→0.1323;    20.4862→20.49;

1.0055→1.006;     1.0025→1.002

四舍六入五留双的规则避免了进舍时的单向性,降低了进舍时产生的误差。

相关链接:试验数据的整理和处理(二)

文章来源:《食品质量与安全检测技术》

版权与免责声明:转载目的在于传递更多信息。

如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。

如涉及作品内容、版权等问题,请在作品发表之日起两周内与本网联系,否则视为放弃相关权利。

评论

登录后才可以评论

立即登录
分享到微信
关闭
普天同创
请告知您的电话号码,我们将立即回电

通话对您免费,请放心接听

温馨提示:

1.手机直接输入,座机前请加区号 如18601949136,010-58103629

2.我们将根据您提供的电话号码,立即回电,请注意接听

3.因为您是被叫方,通话对您免费,请放心接听