こんにちは。
地理情報システム（GIS）における線・辺の定義は、調べてみますと３種類あるようです：
(1) 回転楕円体面の測地線 （例：GeographicLib, RethinkDB）
(2) 球面投影した大円 （例：D3.js、S2 Geometry Library, ArangoDB 3.4 or later）
(3) 正距円筒図法影した直線 （例：GeoJSON, GDAL, GEOS geometry library, Boost.Geometry, ほか大多数）
多角形領域内に与点が含まれるかどうかの判定では、上記の違いの差が生じます。（ただし線長距離計算の際は、(3) の例示システムも当然ですが (1) or (2) の定義で計算しています。）
なお (1) の回転楕円体定義の GIS が発達していない原因の一つは、プログラミング上の難点があると思われているからのようです。