点击下方卡片,关注「3D视觉工坊」公众号
选择星标,干货第一时间送达
本文经授权发布 | 来源:3D视觉工坊
「3D视觉从入门到精通」知识星球(点开有惊喜) !星球内有20多门3D视觉系统课程、300+场顶会讲解、顶会论文最新解读、海量3D视觉行业源码、项目承接、求职招聘等。想要入门3D视觉、做项目、搞科研,欢迎加入!
引言
近年来,3D Gaussian Splatting(3DGS)迅速成为神经渲染领域最具影响力的表示方法之一。相比传统的 NeRF 体渲染方法,它能够在保持高视觉质量的同时实现实时渲染性能,并被广泛应用于 3D 重建、AR/VR、机器人感知等任务。
然而,在其卓越性能背后,其核心渲染过程却隐藏着一个重要的问题:
Splatting 并不满足严格的投影几何一致性。
在传统窄视场(FoV)pinhole 相机下,这种近似通常不会造成明显影响。但在许多真实世界系统中,例如:
机器人视觉
自动驾驶感知
AR/VR设备 系统普遍依赖fisheye 或超广角相机。在这些情况下,传统 Gaussian splatting 的近似误差会迅速放大,导致渲染和几何重建的准确性显著下降。
为了解决这一问题,我们提出了3DGEER(3D Gaussian Exact and Efficient Rendering)。
该方法从数学上推导出闭式 Ray–Gaussian 积分表达式,并设计了投影几何精确的粒子包围体(Particle Bounding Frustum),从而在保持实时效率的同时,首次实现通用相机模型Gaussian 渲染的投影几何一致性。
论文已被ICLR 2026接收,代码现已开源。
标题:
3DGEER: 3D Gaussian Rendering Made Exact and Efficient for Generic Cameras
作者:Zixun Huang, Cho-Ying Wu, Yuliang Guo, Xinyu Huang, Liu Ren
单位:Bosch Research North America, Bosch Center for AI
主页:https://zixunh.github.io/3d-geer
主要贡献
3DGEER 的核心贡献可以总结为以下三个方面:
1. 投影几何精确的 Gaussian 渲染
我们从理论上推导了Ray–Gaussian Integral和Association的闭式解,实现了:
精确的前向渲染;精确的反向梯度传播!
精确的粒子包围体(包络Gaussian的最小视锥)!
从根本上修复了 Gaussian splatting 在渲染和Association中长期存在的几何近似问题。
2. 通用相机模型支持
不同于现有splatting方法主要针对 窄视场的pinhole 相机设计,3DGEER支持:
pinhole相机
鱼眼相机
超广角相机
在极端 FoV 场景下仍保持稳定的渲染质量和几何一致性。3DGEER提出双极等角投影(Bipolar Equiangular Projection),可以在任意大小的视场下保持均匀的光线采样,从而为辐射场训练提供稳定的视场大小无关的监督。
3. 与主流 Gaussian Splatting 框架无缝集成
3DGEER 采用插件式设计,可以直接接入主流 Gaussian 渲染框架:
diff-gaussian-rasterization
gsplat
从而可以集成到DriveStudio或StormGaussian等GS框架,支持渲染高动态室外场景
同时保持实时渲染性能。
方法解析
1 Ray–Gaussian 积分:从近似到精确
传统 Gaussian splatting 在渲染过程中通常依赖近似投影模型,通过把3D Gaussian在屏幕空间的投影一阶泰勒展开,从而线性近似成2D Gaussian。
然而这种近似会破坏严格的投影几何一致性。尤其是对于广泛使用的鱼眼相机来说,随着FoV的变大,这种误差也会变大。我们在大FoV的鱼眼模型下测试了scale up高斯的数量来拟合投影误差,发现无法close the gap,从而证明了精确投影闭式解的重要性。
在 3DGEER 中,我们直接在ray space中推导 Gaussian 密度沿光线的积分。并得到一个闭式解析解(closed-form solution)。
这使得我们能够:
精确计算每条 ray 与 Gaussian 的贡献
同时获得解析梯度用于训练
该公式同时适用于任意相机投影模型。并且和3DGRT假设存在ray-Gaussian intersection时所得到的结果具有一致性,解释了maximum response可以作为Gaussian光线追踪算法的数学本质。
2 Particle Bounding Frustum
在渲染过程中,另一个关键问题是:
如何高效判断哪些 Gaussian 会与 ray 相交?
传统方法通常采用EWA来获得近似 AABB 或 screen-space bounding,但这些方法在非 pinhole 相机下会产生较大误差。同样的,近期工作3DGUT采用UT来获得近似AABB的方式无法达到投影几何精确,和基于3DGRT的渲染方法结合使用时,会产生mismatched culling导致栅格化伪影。
为此,我们提出了Particle Bounding Frustum:
一种投影几何精确的包围体表示。
其核心优势包括:
精确 ray–particle 关联
更稳定的可见性计算
高效 GPU 实现
从而在保证精度的同时维持实时渲染效率。
实验结果
我们在多个广角与 fisheye 场景上对 3DGEER 进行了系统评估。
实验结果表明:
在极端 FoV 条件下,3DGEER 相比现有 Gaussian 渲染方法表现出明显优势:
更高的PSNR / SSIM,更低的LPIPS
更稳定的几何一致性
更少的Gaussian
更好的跨相机泛化性
在视觉质量上,3DGEER 能够显著减少 fisheye 场景中的:
几何失真
渲染伪影
边缘错位
同时保持实时的渲染性能。
应用场景
由于支持通用相机模型,3DGEER 在多个领域具有重要潜在应用价值:
自动驾驶
自动驾驶系统广泛使用fisheye 和超广角相机,3DGEER 能够提供更稳定的 3D 场景表示。
机器人感知
机器人系统通常依赖大视场视觉感知来理解环境,3DGEER 能够提供更准确的场景建模能力。
AR/VR
在沉浸式渲染中,大视角相机模型非常常见,3DGEER 能够显著提升渲染一致性。
总结
3DGEER 从数学层面重新审视了Gaussian Splatting 的渲染过程,并提出了一套既精确又高效的解决方案:
推导证明Ray–Gaussian 闭式积分公式
提出投影几何精确的 Particle Bounding Frustum
支持通用相机模型
保持实时渲染性能
适配多个Gaussian渲染框架
这一工作为Gaussian Splatting在真实世界视觉系统中的应用提供了更加可靠的理论基础。
开源地址
代码现已开源:
Code:https://github.com/boschresearch/3dgeer
gsplat integration:https://github.com/boschresearch/3dgeer/tree/gsplat-geer
本文仅做学术分享,如有侵权,请联系删文。
3D视觉方向论文辅导来啦!可辅导SCI期刊、CCF会议、本硕博毕设、核心期刊等。
添加微信:cv3d001,备注:姓名+方向+单位,邀请入群。