距離計算の誤差
hybenyの距離計算式では、比較的簡単な計算で２点間の距離を計算できるが、実際のところどのくらいの精度であろうか。また、子午線方向1度111kmとした単純計算では どのくらいの誤差が生じるのか。日本付近でという限定のもと、これらを比較してみた。
国土地理院のＨＰを基準にする（北緯36度、東経140度付近）
- 緯度方向に1度の違いがあるとき（ｍ）
国土地理院 110949.769 Hybenyの式 110938.012 差11.757 単純計算 111111.111 差161.342
- 緯度方向に0.1度（6分）の差があるとき（ｍ）
国土地理院 11095.993 Hybenyの式 11094.815 差1.178 単純計算 11111.111 差15.118
- 緯度方向に0.01度（36秒）の差があるとき（ｍ）
国土地理院 1109.591 Hybenyの式 1109.473 差0.118 単純計算 1111.111 差1.520
- 経度方向に1度の差があるとき（ｍ）
国土地理院 90163.292 Hybenyの式 90152.909 差10.383 単純計算 89890.777 差252.515
- 経度方向に0.1度（6分）の差があるとき（ｍ）
国土地理院 9016.368 Hybenyの式 9015.291 差1.077 単純計算 8989.078 差27.290
- 経度方向に0.01度（36秒）の差があるとき（ｍ）
国土地理院 901.637 Hybenyの式 901.529 差0.108 単純計算 898.908 差2.729
- 上記の計算から、緯度方向・経度方向ともに、Hybenyの式では、約10kmの距離で1m程度の差。単純計算では20〜30ｍ程度の差であった。約1kmの距離では、Hybeniの式では10cm程度、単純計算では2〜3mである。いずれも、単純計算では経度方向の方が誤差が大きいことがわかる。しかし、ハンディＧＰＳの測定精度は、どう見積もっても５ｍ程度であるので、ポイントーポイント間の距離程度なら、単純計算でも測定誤差のほうが計算誤差より大きくなると考えられる。つまり、ＧＰＳを使って遊ぶ程度ならHybeniの式も必要ないってことでしょうか。それとも、インチキして単純計算の結果に、経度方向では1.00304を掛けるってのはどうでしょう。ご近所なら通用すると思うのですが（笑）。
