Am So, 21.06.2009, 12:25 schrieb Marc Schütz: > Die Koordinaten werden in der Datenbank soviel ich weià als 32bit-Integer > gespeichert. WIMRE führt das zu einer Genauigkeit von ca. 10-20cm. > Könnte es > daran liegen? Punkte auf einen Meter genau festzulegen dürfte aber dann > trotzdem kein Problem sein.
Nehmen wir folgende Koordinaten (7 Nachkommastellen): 1. P1 (LAT/LON): 40.0000000, 7.0000000 P2 (LAT/LON): 40.0000000, 7.0000000 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,000 m 2. P1 (LAT/LON): 40.0000000, 7.0000000 P2 (LAT/LON): 40.0000009, 7.0000000 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,100 m 3. P1 (LAT/LON): 40.0000000, 7.0000000 P2 (LAT/LON): 40.0000009, 7.0000009 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,126 m 4. P1 (LAT/LON): 40.0000000, 7.0000000 P2 (LAT/LON): 40.0000000999, 7.0000000999 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,014 m wenn man nun auf 6 Nachkommastellen runtergeht: 5. (P2 wäre die Wirklichkeit, P1 abgekürzt) P1 (LAT/LON): 40.000000, 7.000000 P2 (LAT/LON): 40.000009, 7.000000 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,999 m 6. (P2 wäre die Wirklichkeit, P1 abgekürzt) P1 (LAT/LON): 40.000000, 7.000000 P2 (LAT/LON): 40.000009, 7.000009 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 1,002 m 7. (P2 wäre die Wirklichkeit, P1 abgekürzt) P1 (LAT/LON): 40.000000, 7.000000 P2 (LAT/LON): 40.0000009999, 7.000000 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,111 m 8. (P2 wäre die Wirklichkeit, P1 abgekürzt) P1 (LAT/LON): 40.000000, 7.000000 P2 (LAT/LON): 40.0000009999, 7.000000999 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,140 m 9. (P2 wäre die Wirklichkeit, P2 gerundet) P1 (LAT/LON): 40.000000, 7.000000 P2 (LAT/LON): 40.000001, 7.000001 Entfernung (Vincenty auf WGS84) mit 0,5mm Genauigkeit: 0,140 m Fazit (bezogen auf diese Koordinaten): Bei 7 Nachkommastellen beträgt der maximale Fehler 1,4 cm. Bei 6 Nachkommastellen beträgt der maximale Fehler 14,0 cm. Grüße Tobias _______________________________________________ Talk-de mailing list [email protected] http://lists.openstreetmap.org/listinfo/talk-de
