例如,在经度和纬度给定的位置上使用勾股定律,这与使用正方形的公式计算圆的面积几乎没有什么意义:尽管它产生一个数字,但没有理由认为它应该起作用。
尽管在小范围内任何平滑表面看上去都像一个平面,但勾股公式的精度取决于所使用的坐标。当这些坐标是球体(或椭球)上的经度和纬度时,我们可以预期
沿着经度线的距离将是相当准确的。
沿赤道的距离将是相当准确的。
所有其他距离都是错误的,与纬度和经度的差异成比例。
误差取决于距离计算的起点和终点。但是,由于球体和椭球体都围绕轴具有圆形对称性,因此误差仅取决于经度的差,因此要研究此误差,我们不妨将原点定为本初子午线。因为球体和椭球在南北反射下都是对称的,所以我们只需要研究南半球的起源点。对于任何这样的点,我们都可以绘制相对误差的等高线图,该等高线图等于[毕达哥拉斯计算] / [真实距离]。
毕达哥拉斯公式,使用地球的平均半径,为
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
其中dx是经度之差,dy是纬度之差,均以度为单位。(经度以360为模数减少了经度值的差,以便在越过子午线时给出正确的dx值;不这样做会引入人为的大错误,从而使我们对勾股定律公式本身一无所知。)
下图显示了从-70到0的纬度(以10度为增量)与WGS 84椭球上正确距离相比的相对误差。水平坐标是经度的差,垂直坐标是目的地的纬度。浅色区域的误差相对较小:轮廓线位于1、1.01、1.02、1.05、1.1、1.2、1.5、2等(拐角处的纯白色区域是误差超出这些轮廓范围的地方。)红点表示起点。
垂直的白带证明了期望的正确性(1):经度上的差异很小时,勾股距离是准确的。低纬度上的水平白带确认了期望(2):在赤道附近,水平距离相当准确。否则,正如广泛的较暗区域所证明的那样,毕达哥拉斯公式在所有其他距离上都是不好的。
我们可以对最大值进行定量估计对成对的邻近点(例如彼此相距几百公里之内)得出的误差。比例尺-使用适当的半径值-沿子午线是正确的,但是沿着纬度圆,它大约会偏离纬线的割线。例如,在40度纬度下,割线为1.31,这表示勾股定律将使东西方向的距离过大约31%。(这在右上等高线图中很明显,对于一个纬度为-40度的原点,在该点上,红点以西紧邻的区域位于1.2和1.5等高线之间。)所有其他方向的短距离将是太大,介于0%到31%之间;更长的距离可能会出现更大的误差(如等高线图所示)。