Ogólnie to na układzie kartezjańskim to wzór pitagorasa. Ale jeśli chodzi o kulę to ostatnio potrzebowałem czegoś takiego i gdzieś na wikipedi znalazłem artykuł o mierzeniu odległości na kuli Ziemskiej. Na tej podstawie napisałem taką prostą funkcję w js:
function geo([x1, y1], [x2, y2]) {
const { sqrt, cos, PI } = Math;
const a = ((x2 - x1) ** 2) + ((cos(x1 * PI / 180) * (y2 - y1)) ** 2);
return sqrt(a) * 111.3214;
}
myślę że kod sam się tłumaczy