我们深知精度是测量设备的灵魂，是一切测量的前提。“高精度”在很多场景中被提及，它其实是一个模糊的概念，本文将从研发测试角度，为大家分析“设备精度”。
从广义上讲，“高精度”着重关注两个方面：测量分辨率和测量准确度。以ZLG致远电子ZDL6000示波记录仪的模拟电压测量板卡为例，相关信息见下表。
测量分辨率
分辨率决定了测量设备对模拟信号的“分辨能力”——我们用分辨率来量化刻度。在8bit分辨率下，刻度的数量为28即256个，最小的测量刻度为当前量程的1/256。16通道卡（DQM-16250）的分辨率为16bit，最小的测量刻度为当前量程的1/65536。实际上，分辨率可以更高，但基于实际需求与生产环境综合考虑，选择一个合适的值才是妥当的。
16通道卡测量电压时，在满量程为50V时（即5V/div），16通道卡能分辨的模拟信号的最小变化值为50 V /65536（约0.76mV）。
但是，有了足够的分辨率就够了吗？如果两台分辨率高低不同的电压测量设备，同时对5V的模拟信号进行测量，示值分别5.22222222V和4.9V，哪一个更准呢？
分辨率是高精度的必要条件，但不是充分条件。换句话说，分辨率是高精度的要素，但无法决定精度。
测量准确度
测量准确度即狭义上讲的精度，这里以16通道卡的垂直轴直流精度为例：
ZDL6000档位数：目前固定为10个DIV
满量程 = 电压垂直档位 * 档位数
满量程误差值 = ±(电压垂直档位 * 档位数 * 0.05%) = ±(满量程 * 0.05%)
例如，当前电压垂直档位为2V，满量程为20V，误差值为±(20V * 0.05%)即±0.01V。那么当测量值与真实值差距在0.01V之内时，便可认为是符合精度要求的。
校准系数
在生产环境中，影响到设备测量精度的因素非常多，如设备是否预热、外部接线环境、电磁干扰、室温等等。即便在外部条件满足测量要求时，对待测信号进行处理到最终得到实际测量值的过程中存在着大量的元器件，这些元器件的精度误差也会对测量精度产生影响。为了解决这些问题，我们使用校准系数对相对稳定的环境下设备出现的固定的测量误差进行纠偏。
校准系数在校准过程中经过计算得来，将被干扰的信号重新纠正到尽可能的接近真实值。“校准系数”亦作“校正系数”。
校准系数有些情况下会写在设备或板卡内存中，有些则体现为可调电阻、可调电容的调试结果；虽载体不同，但作用是相同的。
校准
在致远电子生产校准管理系统的管理流程下，设备从生产、组装到出货过程中必须且至少完成生产测试、校准两个关键流程。简要的说，生产测试流程验证了设备的基本功能是否运行正常；校准流程则需要在特定环境下，对设备进行验证并计算校准系数，以保证测量精度。
在设备的校准过程中涉及的所有参考物质——如FLUKE系列校准源、示波器、万用表等——必须经过校准或第三方标定，且仅限在校准（标定）有效限期内使用。并在此基础上进行周密的校准流程，以保证设备精度的溯源性。
总结
作为测量仪器制造行业，仪器的精度是生存之本，是前进之帆，更应是我们力求精进的目标。助力中国半导体与芯片发展，助力中国科技崛起。
