航海数值计算

航海数值计算，不仅用来分析和研究航海领域的有关数学理论和实践问题，还须建立表达各种量与量之间的关系示，并根据已知量或测定值利用这些公式进行数值计算。

在实践中，绝对准确的观测或度量是没有的。任何定值，包括某些物理和化学常量，按其本质来说都含有一定的误差，永远是近似值。尽管可以根据人们的要求，要多准确就取小数多少位。但在实用中，总是取有限的小数位，因而仍然是近似值。

因此，数值计算，一般来说，都是近似计算。这就产生一个如何计算才是科学的态度，既不无缘无故地降低计算结果的准确度，又不致盲目地进行繁琐的运算。同时还产生对计算结果的准确度如何作出正确的估价，从而确定其可信赖程度的问题。

一、有效数字与凑整

如36.45元，四位数字都是准确数，称为有效数字。

测量结果36.45米，其末位可能有±0.005米的误差，其前三位是准确的，是有效数字，而末位数是凑整得来，可能差半个单位，但它仍然有实际意义，不能随意舍去。故仍可以认为是有效的（有时也称为疑存数字）。所以仍是四位有效数字。

在测量或数值运算中，为避免追求虚构的精确度，一般都根据实际要求保留最必须的有效数字。特别对一些无理数，更是要根据实际需要截取有限的长度，这种舍去多余尾数的方法就称为凑整。舍入法则，一般地讲是“四舍五入”。但严格地说却应该是“四舍六入五成双”。

3.14653500

凑整误差可正可负，正误差与负误差出现的机会相等；

凑整误差不超过凑整后近似数末位的0.5单位；

小的误差与大的误差出现的机会相等。

二、近似计算及其误差

小角度函数可用函数的幂级数展开式表达，在容许的误差范围内，可以忽略某些高次项近似地进行计算，根据展开式，有

若根据要求，可以忽略二次及以上诸项，则

 于是

若只能忽略四次及以上的项，则

为了保证实际上所要求的准确度，小角度函数的近似计算必须使角度保持在一定的界限内。也就是说使近似计算所导致的误差不超过所容许的误差。

由于sin函数的展开式是收敛的交错级数，若取n项部分和，其误差不超过第（n＋1）项的绝对值。

因此，若容许的误差是1′，在仅取第一项而忽略二次及其以上诸项，其第二项的值不应超过1′。即

对于sinx来说， 

同样可以计算在只取第一项时，要求达到0.′1和0.°1度所对应的界限值，见下表：

                                                            角度界限

如果运算中取其前两项部分和，准确度要求达到0.′1时，则

对sinx来说，x≤13.°5。

这就是说，在航海学和航海天文学中推导近似公式时为什么有时只取第一项，有时却要取两项的道理。