关于浮点float类型的精度

pixii · 发表于 2011-9-3 13:15:22

场景稍微有点大，坐标整数部分几千了，单位是米，用float时候精度不够。显示的时候到没有碰到大碍，但是用LineSegmentIntersector的时候，一半的几率不能得到相交的值。我把场景的数据改用double类型的Array初始化vertex的坐标，但是进入程序后很多地方抛异常，感觉osg对double类型的支持不是很好。现在只能调整场景的范围，做一些转换处理，但是这样的话很破坏直观的程序结构；不知道大家平时处理大坐标值有什么经验方法。

array · 发表于 2011-9-5 08:55:47

用float时候精度不够。显示的时候到没有碰到大碍

事实上您会在显示的时候遇到更大的问题，OpenGL的depth buffer大多数情况下只能达到24bit的精度，32bit需要较好的显卡支持。顶点坐标不能使用Vec3dArray也是OGL的原因而非OSG的。请使用MatrixTransform的叠加来分担精度

pixii · 发表于 2011-9-5 12:00:35

非常感谢array。

我先也想过用MatrixTransform来分担精度，但是当时我误以为所有的分担的精度的矩阵会事先计算为一个最终的矩阵进行计算（irrlicht似乎就是这样做的），这样的话精度问题仍然存在。但刚刚试过之后还真的能解决问题。看来OSG实现和irrlicht有所不同。得好好研究一下了。

array · 发表于 2011-9-6 08:36:38

如果irrlicht真的是这么做的并且无法变通的话，那么它已经为自己在大规模场景应用方面判了死刑。。。

关于浮点float类型的精度

联系我们