Смещение округления ArcGIS - FME

Question

У меня странная разница между координатами x-y между двумя точками, что вызывает некоторые проблемы. Используя FGDB, с основным классом с включенными точками в качестве базовой карты, я рисую многоугольник, используя функцию esri snapping. Этот многоугольник имеет свои углы, привязанные к точкам и сохраняемые в файле формы .shp. В ArcMap координаты x-y угловых точек точно такие же, как точки под ними.

Теперь при использовании данных FME и FME эти точки имеют несколько разные координаты x-y, отличающиеся только на девятом десятичном знаке. Это означает, что точки не попадают внутрь многоугольника, создавая трудности.

Чтобы сохранить его простым в й-координате точки: +67479,59299999848 и х-координата точки полигона угла: +67479,593000002205

Теперь мой вопрос заключается в следующем: Что делает различие, потому что разница заключается не только в простом и простом округлении. С округлением я ожидал бы .593000000000 не 2205 в конце.

У меня есть скриншоты, но я не могу размещать фотографии с < 10 репутации ...

Надежда кто-то есть ответ на то, как это работает!

Приветствия,

Answer 1

Хорошо позвольте мне ответить на мой собственный вопрос (который я также поставить на FME форуме). Весь кредит на этот ответ принадлежит Дэвиду Р. из центра знаний сообщества FME.

David R. Привет

есть несколько других потоков здесь, что прикосновение к той же проблеме, , но короткому ответу, что это происходит из-за внутреннее округление «ошибка» при преобразовании фракций между базой 10 (вы и я) и базой 2 (компьютер ). Это не должно иметь никакого значения для большинства приложений.

Вы можете найти более подробный ответ здесь: http://floating-point-gui.de/basic/

Давида