当光源为氦氖激光(波长<I>λ</I>=0.6328mm),仪器在设定的大气标准值为:<I>t</I>=20℃、气压<I>P</I>=760mmHg(101325Pa)、湿度<I>f</I>=10mmHg(1333.22Pa)状态下工作时,其大气折射率<I>n</I>修正为0;当仪器工作在非标准大气状态下,此时需输入实测温度和气压值,按以下Edlen公式对大气折射率<I>n</I>进行修正:
Δ<I>nt</I>·<I>P</I>·<I>f</I>=〔-93(<I>t</I>-20)+0.27(<I>P</I>-101325)-0.042(<I>f</I>-1333.22)〕×10-8(1)
或根据式(1),直接对测量示值<I>D</I>按式(2)进行修正:
<I>Dt</I>·<I>P</I>·<I>f</I>=<I>D</I>+〔93.0(<I>t</I>-20)-0.27(<I>P</I>-101325)+0.042(<I>f</I>-1333.22)〕<I>D</I>×10-8(2)
由式(2)可知,测距时气温影响较大。当|<I>t</I>-20|=10℃、<I>D</I>=20m时,修正值|Δ<I>D</I>|=0.2mm。由此可知,在通常测量条件下,测距可不考虑温度和大气压力偏离标准值所造成的影响。若罐半径30m以上,|<I>t</I>-20|>10℃,则测距需考虑此项修正。