“这台设备精度高不高”这是采购、研发、生产和设备工程师都非常关心的问题。但“精度”这个词实际上没有想象中那么简单。一、精度不是一个单独数字很多设备规格书上会写±某个百分比。但工程师不能只看这个数字。因为还需要确认它针对的是电压还是电流是读数百分比还是满量程百分比测试环境是什么温度范围是什么校准条件是什么这些都会影响实际意义。二、准确度和分辨率不是一回事这是新人特别容易混淆的概念。分辨率可以理解为设备能够分辨多小的变化。准确度则更加关注设备测量值与真实值之间有多接近。一台设备可以显示很多小数位但不代表它一定很准确。三、为什么显示6位小数不等于高精度例如软件显示4.000123V。这只是说明软件显示了很多位。真正的问题是这个数字到底准不准如果实际值是4.005V那么显示再多位也没有意义。所以显示位数 ≠ 测量精度。四、精度为什么会随着量程变化很多测量系统的误差与量程有关。例如某个设备在大范围电流下工作时低电流区域的相对误差可能表现不同。所以评价设备时需要结合实际测试工作点。五、温度为什么影响精度电子元件的参数可能随温度变化。测试设备运行以后内部温度也可能变化。所以设备可能存在温漂。这也是为什么高精度测试系统需要关注环境温度。设备内部温度。预热时间。校准状态。六、精度为什么必须验证设备厂家提供的规格只是设备能力的一部分。真正进入生产现场以后还需要根据企业质量体系和测试要求进行验证。例如设备验收。校准。定期点检。比对测试。GRR等测量系统分析。写在最后理解精度以后你会发现“设备精度是多少”其实只是第一步。真正工程化的问题是在我们的实际测试条件下这台设备能不能稳定、准确、重复地测出我们需要的数据下一篇我们继续讲电池测试设备中的电压精度和电流精度应该怎么看