Matemática de navegación

[icordoba]

Muy buenas,
tengo una pregunta que si bien no tiene que ver con la política es muy friki... estoy desarrollando un soft de extensión de las funcionalidades de mi piloto (un Raymarine aunque eso da igual). Igual hay alguien ducho con las matemáticas que me eche una mano.
Quiero evitar usar UTM (mercator) y trabajar en coords WGS84. Imaginad dos puntos definidos por su latitud y longitud y un tercer punto, también definido de esa manera. Quiero poder calcular la distancia (en metros, millas, da igual) de ese punto al arco que une los dos primeros puntos (distancia mínima, claro). Lo tengo resuelto proyectando WGS84 a UTM y trabajando sobre plano en UTM, pero no me gusta la aberración en los extremos de las zonas UTM y, sobre todo, el problema que se me plantea si alguno de los tres puntos está en una zona distinta y, por ello, el cálculo se complica un güeb.
Si conocéis algún web con info sobre algoritmos de navegación, pues bienvenido sea también.