关于优化后顶点精度的疑问

hanxiaohuivc · 发表于 2010-10-11 17:26:26

请问，使用优化Optimizer中的Flatten_static_transforms进行优化后，顶点坐标的精度能控制吗，如何控制？
我有一个例子：
MatrixTransform{
      ......
      Matrix{
         1 0 0 0
         0 1 0 0
         0 0 1 0
         -6250.01 11800 1.14168 1
         }
      ......
      MatrixTransform{
      ......
      Matrix{
      1 0 0 0
      0 1 0 0
      0 0 1 0
      0.0237148 56.168 -0.012996 1
      }

      .......(省略)
      vertexArray  vec3Array  6
      {
         22.55  -90.5001  -0.817662
         。。。。。。
      }

      }
}

优化后，顶点坐标是 -6227.43  11765.7 0.300002
而我想得到的结果是 -6227.43  11765.67 0.300002

我该怎么做才能得到想要的结果？
谢谢！

array · 发表于 2010-10-12 08:31:28

我想这是单精度浮点数计算过程中带来的误差，Optimizer中没有什么好办法控制；也许您可以用自己的方法来进行类似的优化并在其中使用double类型或者其它方案进行优化

hanxiaohuivc · 发表于 2010-10-12 13:03:33

我把顶点坐标用double型设置，经过优化后MatrixTransform下的矩阵就丢失了，这是为什么呢

hanxiaohuivc · 发表于 2010-10-12 14:21:05

用double型的设置后，vertexArray的类型成了vec3dArray，osg可能不能处理吧。

array · 发表于 2010-10-12 16:45:17

3# hanxiaohuivc

这不就是FLATTEN的作用吗

关于优化后顶点精度的疑问

联系我们