news 2026/7/12 8:30:14

ICLR‘26开源|3DGEER:首个几何精确的3DGS框架!支持鱼眼/超广角/跨相机训练,渲染精度与效率全面提升

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
ICLR‘26开源|3DGEER:首个几何精确的3DGS框架!支持鱼眼/超广角/跨相机训练,渲染精度与效率全面提升

点击下方卡片,关注「3D视觉工坊」公众号
选择星标,干货第一时间送达

本文经授权发布 | 来源:3D视觉工坊

「3D视觉从入门到精通」知识星球(点开有惊喜) !星球内有20多门3D视觉系统课程、300+场顶会讲解、顶会论文最新解读、海量3D视觉行业源码、项目承接、求职招聘等。想要入门3D视觉、做项目、搞科研,欢迎加入

引言

近年来,3D Gaussian Splatting(3DGS)迅速成为神经渲染领域最具影响力的表示方法之一。相比传统的 NeRF 体渲染方法,它能够在保持高视觉质量的同时实现实时渲染性能,并被广泛应用于 3D 重建、AR/VR、机器人感知等任务。

然而,在其卓越性能背后,其核心渲染过程却隐藏着一个重要的问题:

Splatting 并不满足严格的投影几何一致性。

在传统窄视场(FoV)pinhole 相机下,这种近似通常不会造成明显影响。但在许多真实世界系统中,例如:

  • 机器人视觉

  • 自动驾驶感知

  • AR/VR设备 系统普遍依赖fisheye 或超广角相机。在这些情况下,传统 Gaussian splatting 的近似误差会迅速放大,导致渲染和几何重建的准确性显著下降。

为了解决这一问题,我们提出了3DGEER(3D Gaussian Exact and Efficient Rendering)

该方法从数学上推导出闭式 Ray–Gaussian 积分表达式,并设计了投影几何精确的粒子包围体(Particle Bounding Frustum),从而在保持实时效率的同时,首次实现通用相机模型Gaussian 渲染的投影几何一致性。

论文已被ICLR 2026接收,代码现已开源。

标题:3DGEER: 3D Gaussian Rendering Made Exact and Efficient for Generic Cameras
作者:Zixun Huang, Cho-Ying Wu, Yuliang Guo, Xinyu Huang, Liu Ren
单位:Bosch Research North America, Bosch Center for AI
主页:https://zixunh.github.io/3d-geer

主要贡献

3DGEER 的核心贡献可以总结为以下三个方面:

1. 投影几何精确的 Gaussian 渲染

我们从理论上推导了Ray–Gaussian Integral和Association的闭式解,实现了:

  • 精确的前向渲染;精确的反向梯度传播!

  • 精确的粒子包围体(包络Gaussian的最小视锥)!

从根本上修复了 Gaussian splatting 在渲染和Association中长期存在的几何近似问题。

2. 通用相机模型支持

不同于现有splatting方法主要针对 窄视场的pinhole 相机设计,3DGEER支持:

  • pinhole相机

  • 鱼眼相机

  • 超广角相机

极端 FoV 场景下仍保持稳定的渲染质量和几何一致性。3DGEER提出双极等角投影(Bipolar Equiangular Projection),可以在任意大小的视场下保持均匀的光线采样,从而为辐射场训练提供稳定的视场大小无关的监督。

3. 与主流 Gaussian Splatting 框架无缝集成

3DGEER 采用插件式设计,可以直接接入主流 Gaussian 渲染框架:

  • diff-gaussian-rasterization

  • gsplat

  • 从而可以集成到DriveStudio或StormGaussian等GS框架,支持渲染高动态室外场景

同时保持实时渲染性能

方法解析

1 Ray–Gaussian 积分:从近似到精确

传统 Gaussian splatting 在渲染过程中通常依赖近似投影模型,通过把3D Gaussian在屏幕空间的投影一阶泰勒展开,从而线性近似成2D Gaussian。

然而这种近似会破坏严格的投影几何一致性。尤其是对于广泛使用的鱼眼相机来说,随着FoV的变大,这种误差也会变大。我们在大FoV的鱼眼模型下测试了scale up高斯的数量来拟合投影误差,发现无法close the gap,从而证明了精确投影闭式解的重要性。

在 3DGEER 中,我们直接在ray space中推导 Gaussian 密度沿光线的积分。并得到一个闭式解析解(closed-form solution)

这使得我们能够:

  • 精确计算每条 ray 与 Gaussian 的贡献

  • 同时获得解析梯度用于训练

该公式同时适用于任意相机投影模型。并且和3DGRT假设存在ray-Gaussian intersection时所得到的结果具有一致性,解释了maximum response可以作为Gaussian光线追踪算法的数学本质。

2 Particle Bounding Frustum

在渲染过程中,另一个关键问题是:

如何高效判断哪些 Gaussian 会与 ray 相交?

传统方法通常采用EWA来获得近似 AABB 或 screen-space bounding,但这些方法在非 pinhole 相机下会产生较大误差。同样的,近期工作3DGUT采用UT来获得近似AABB的方式无法达到投影几何精确,和基于3DGRT的渲染方法结合使用时,会产生mismatched culling导致栅格化伪影。

为此,我们提出了Particle Bounding Frustum

一种投影几何精确的包围体表示

其核心优势包括:

  • 精确 ray–particle 关联

  • 更稳定的可见性计算

  • 高效 GPU 实现

从而在保证精度的同时维持实时渲染效率。

实验结果

我们在多个广角与 fisheye 场景上对 3DGEER 进行了系统评估。

实验结果表明:

极端 FoV 条件下,3DGEER 相比现有 Gaussian 渲染方法表现出明显优势:

  • 更高的PSNR / SSIM,更低的LPIPS

  • 更稳定的几何一致性

  • 更少的Gaussian

  • 更好的跨相机泛化性

在视觉质量上,3DGEER 能够显著减少 fisheye 场景中的:

  • 几何失真

  • 渲染伪影

  • 边缘错位

同时保持实时的渲染性能

应用场景

由于支持通用相机模型,3DGEER 在多个领域具有重要潜在应用价值:

自动驾驶

自动驾驶系统广泛使用fisheye 和超广角相机,3DGEER 能够提供更稳定的 3D 场景表示。

机器人感知

机器人系统通常依赖大视场视觉感知来理解环境,3DGEER 能够提供更准确的场景建模能力。

AR/VR

在沉浸式渲染中,大视角相机模型非常常见,3DGEER 能够显著提升渲染一致性。

总结

3DGEER 从数学层面重新审视了Gaussian Splatting 的渲染过程,并提出了一套既精确又高效的解决方案

  • 推导证明Ray–Gaussian 闭式积分公式

  • 提出投影几何精确的 Particle Bounding Frustum

  • 支持通用相机模型

  • 保持实时渲染性能

  • 适配多个Gaussian渲染框架

这一工作为Gaussian Splatting在真实世界视觉系统中的应用提供了更加可靠的理论基础。

开源地址

代码现已开源:

Code:https://github.com/boschresearch/3dgeer

gsplat integrationhttps://github.com/boschresearch/3dgeer/tree/gsplat-geer

本文仅做学术分享,如有侵权,请联系删文。

3D视觉方向论文辅导来啦!可辅导SCI期刊、CCF会议、本硕博毕设、核心期刊等。

添加微信:cv3d001,备注:姓名+方向+单位,邀请入群。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/12 8:30:13

从遗传到进化:五大算法核心差异与实战场景解析

1. 进化算法家族:五大成员的核心定位 第一次接触进化算法时,很多人会被各种相似的名词搞晕。就像我第一次在论文里同时看到遗传算法和遗传编程这两个术语时,还以为它们是同一个东西的不同叫法。实际上,进化算法这个大家族里有五个…

作者头像 李华
网站建设 2026/3/23 11:08:44

「有条不紊」IF=17.7同款棒棒糖图+条形图

商品主图natcomm_lollipop_bar详情页卖家秀图1 小鼠细胞外基质(ECM)脑的单细胞转录组图谱c 棒棒糖图展示细胞标志物数量(左图),条形图显示每种细胞类型的细胞特异性富集生物学通路(右图)&#…

作者头像 李华
网站建设 2026/3/23 10:43:06

Java并发——共享资源并发风险

在多线程编程中,线程之间共享资源是常态。然而,当多个线程同时访问同一块内存区域时,如果没有正确的同步机制,就会引发一系列令人头疼的问题。数据覆盖、原子性破坏、临界资源竞争,这些概念看似抽象,却每天…

作者头像 李华
网站建设 2026/3/23 10:39:29

手把手教你用W25Q64 SPI Flash扩展LVGL显示空间(附FatFs移植避坑指南)

手把手教你用W25Q64 SPI Flash扩展LVGL显示空间(附FatFs移植避坑指南) 在嵌入式GUI开发中,LVGL凭借其轻量级和高度可定制性成为许多开发者的首选。然而,当面对丰富的图形界面需求时,片上Flash的存储空间往往捉襟见肘。…

作者头像 李华
网站建设 2026/3/23 10:37:22

Pyrosetta安装避坑指南:conda镜像源配置与1分钟快速验证法

Pyrosetta安装避坑指南:conda镜像源配置与1分钟快速验证法 生物信息学和计算化学领域的研究者常常需要处理复杂的蛋白质结构预测和分子对接问题。Pyrosetta作为Rosetta套件的Python接口,为这些任务提供了便捷的编程环境。然而,许多初学者在安…

作者头像 李华
网站建设 2026/3/23 10:35:30

丹青识画技术详解:基于达摩院OFA引擎的东方美学视觉理解实现路径

丹青识画技术详解:基于达摩院OFA引擎的东方美学视觉理解实现路径 当一张照片或一幅画作摆在眼前,我们如何让机器像一位饱读诗书的文人墨客那样,不仅看懂画面内容,还能用充满意境的文字和书法艺术将其描绘出来?这正是「…

作者头像 李华