Graus decimais

O raio do eixo semi-maior da Terra na Linha do equador é 6,378,137,0 metros[1] resultando em uma circunferência de 40,075,161,2 metros. A Linha do equador é dividida em 360 graus de longitude, então cada grau na Linha do equador representa 111,319.9 metros ou aproximadamente 111.32 km. Quando se afasta da Linha do equador em direção a um pólo, no entanto, um grau de longitude é multiplicado pelo cosseno da latitude, diminuindo a distância, aproximando-se de zero no pólo. O número de casas decimais requerido para uma precisão particular na Linha do equador é:

Um valor em graus decimais com uma precisão de 4 casas decimais é preciso para 11,132 metros na Linha do equador. Um valor em graus decimais para 5 casas decimais é preciso para 1,1132 metros na Linha do equador. A elevação também apresenta um pequeno erro. A uma elevação de 6,378 m, o raio e a distância da superfície são aumentados em 0,001 ou 0,1%. Como a terra não é plana, a precisão da parte da longitude das coordenadas aumenta mais para a Linha do equador que você obtém. A precisão da parte de latitude não aumenta tanto, mais estritamente no entanto, um comprimento de arco meridiano por 1 segundo depende da latitude no ponto em questão. A discrepância do comprimento do arco meridiano de 1 segundo entre o eixo e o pólo é de cerca de 0,3 metros porque a Terra é um esferóide oblato.

Um GMS o valor é convertido em graus decimais usando a fórmula:

${\displaystyle \mathrm {G} _{\text{dec}}=\mathrm {G} +{\frac {\mathrm {M} }{60}}+{\frac {\mathrm {S} }{3600}}}$

Por exemplo, a representação de decimal para

38° 53′ 23″ N, 77° 00′ 32″ W

(A localização do Capitólio dos Estados Unidos) é

${\displaystyle {\begin{aligned}\mathrm {G} _{\text{dec}}=\mathrm {38} +{\frac {\mathrm {53} }{60}}+{\frac {\mathrm {23} }{3600}}\ &,\ \mathrm {G} _{\text{dec}}=\mathrm {77} +{\frac {\mathrm {0} }{60}}+{\frac {\mathrm {32} }{3600}}\\\\38.8897^{\circ }&,-77.0089^{\circ }\end{aligned}}}$

Na maioria dos sistemas, como OpenStreetMap, os símbolos de graus são omitidos, reduzindo a representação para

38.8897,-77.0089

Para calcular os componentes ${\displaystyle \mathrm {G} }$, ${\displaystyle \mathrm {M} }$ e ${\displaystyle \mathrm {S} }$, as seguintes fórmulas podem ser usadas:

${\displaystyle {\begin{aligned}\mathrm {G} &=\operatorname {trunc} (\mathrm {G} _{\text{dec}})\\\mathrm {M} &=\operatorname {trunc} ((|\mathrm {G} _{\text{dec}}|\times 60)\,{\bmod {\,}}60)\\\mathrm {S} &=\left(|\mathrm {G} _{\text{dec}}|\times 3600\right)\,{\bmod {\,}}60\end{aligned}}}$

Onde ${\displaystyle \left\vert \mathrm {G} _{\text{dec}}-\mathrm {G} \right\vert }$ é o valor absoluto de ${\displaystyle \mathrm {G_{dec}-G} }$, ${\displaystyle trunc}$ é a função truncamento, e ${\displaystyle mod}$ é o operador módulo. Note-se que com esta fórmula, apenas ${\displaystyle \mathrm {G} }$ pode ser negativo e apenas ${\displaystyle \mathrm {S} }$ pode ter um valor fracionário.