ArcGIS - FME坐标舍入差
ArcGIS - FME coordinate rounding difference
两点之间的 x-y 坐标之间存在奇怪的差异，这导致了一些问题。
使用带有包含点的要素类的 FGDB 作为底图，我使用 esri 捕捉功能绘制了一个多边形。此多边形的角与点对齐并保存在 .shp 形状文件中。在 ArcMap 中，角点的 x-y 坐标与其下方的点完全相同。
现在，当使用 FME 和 FME 数据查看器时，这些点的 x-y 坐标略有不同，仅在小数点后第 9 位不同。这意味着点不落在多边形内造成困难。
为简单起见，该点的 x 坐标为：
67479.59299999848
多边形角点的 x 坐标为：
67479.593000002205
现在我的问题是：
是什么造成了差异，因为差异不仅仅是简单的四舍五入。通过四舍五入，我希望最后是 .593000000000 而不是 2205。
我有屏幕截图，但我不能 post 信誉 <10 的图片...
希望有人知道这是如何工作的！
干杯，
好的，让我回答我自己的问题（我也把它放在了 FME 论坛上）。这个答案的所有功劳都归功于 FME 社区知识中心的 David R.。
David R.
Hi
there are a few other threads in here that touch on the same issue,
but the short answer is that this is due to internal rounding "errors"
when converting fractions between base 10 (you and me) and base 2 (the
computer). It should not make any difference for most applications.
You can find a more detailed answer here:
http://floating-point-gui.de/basic/
David
两点之间的 x-y 坐标之间存在奇怪的差异，这导致了一些问题。 使用带有包含点的要素类的 FGDB 作为底图，我使用 esri 捕捉功能绘制了一个多边形。此多边形的角与点对齐并保存在 .shp 形状文件中。在 ArcMap 中，角点的 x-y 坐标与其下方的点完全相同。
现在，当使用 FME 和 FME 数据查看器时，这些点的 x-y 坐标略有不同，仅在小数点后第 9 位不同。这意味着点不落在多边形内造成困难。
为简单起见，该点的 x 坐标为： 67479.59299999848 多边形角点的 x 坐标为： 67479.593000002205
现在我的问题是： 是什么造成了差异，因为差异不仅仅是简单的四舍五入。通过四舍五入，我希望最后是 .593000000000 而不是 2205。
我有屏幕截图，但我不能 post 信誉 <10 的图片...
希望有人知道这是如何工作的！
干杯，
好的，让我回答我自己的问题（我也把它放在了 FME 论坛上）。这个答案的所有功劳都归功于 FME 社区知识中心的 David R.。
David R. Hi
there are a few other threads in here that touch on the same issue, but the short answer is that this is due to internal rounding "errors" when converting fractions between base 10 (you and me) and base 2 (the computer). It should not make any difference for most applications.
You can find a more detailed answer here: http://floating-point-gui.de/basic/
David