论文阅读《Pixel-GS: Density Control with Pixel-aware Gradient for 3D Gaussian Splatting》
看标题,感觉还是没有脱离3DGS基于梯度的Density Control策略
不过这个工作是从像素的角度来考虑点云的生长条件,更细节一些了
不想记录太多东西,零散的记录一些吧。
论文中提到的观点:
对于Original 3DGS,如果输入的SfM点云过于稀疏,根据它的初始化策略,会产生椭球轴长过大的初始化高斯,从而导致这些高斯从太多的viewpoints参与了计算。这些高斯又只在中心点在投影后位于像素空间内或附近的viewpoint中会表现出比较大的梯度,这意味着从这些viewpoint看,大高斯在投影后的像素空间中覆盖了较大的区域。
但是又由于Original 3DGS的Adaptive Density Control策略,这些高斯因为从太多的viewpoint参与了计算,又只在单个viewpoint中具有显著的梯度大小,因此这些点很难被split或clone,导致重建的结果很差。
简单总结就是:
输入的点过于稀疏会导致初始化的高斯尺度过大,而尺度过大的高斯平均梯度又较小,从而导致很难参与Densification。
这个和Mini-Splatting的观点是一致的,Mini-Splatting也提到了“基于梯度的分割和克隆策略可能会在颜色过渡平滑的区域中失败,这会导致相应的过大尺寸的高斯会在优化过程中保留”。
原文:
We observed that areas inadequately modeled often have very sparse initial SfM point clouds, leading to the initialization of Gaussians in these areas with ellipsoids having larger axis lengths. This results in their involvement in the computation from too many viewpoints. These Gaussians exhibit larger gradients only in viewpoints where the center point, after projection, is within or near the pixel space. This implies that, from these viewpoints, the large Gaussians cover a larger area in the pixel space after projection. This results in these points having a smaller average gradient size of their NDC coordinates during the “Adaptive Density Control” process every 100 iterations (Eq. 3), because they participate in the computation from too many viewpoints and only have significant gradient sizes in individual viewpoints. Consequently, it is difficult for these points to split or clone, leading to poor modeling in these areas.
论文里面还对这个现象做了公式分析。
对论文中的一些讨论:
从Fig1可以看出,Pixel-GS与original的3DGS相比,增加了一倍的点数,才得到了些微的指标提升。。。
个人认为这里做的不是很好,如果能提升指标的同时,点数的增长没这么夸张,就很不错了。
论文3.3 Scaled Gradient Field部分也提到了,他们通过“Pixel-aware Gradient”的方法可以解决viewpoint不足或重复纹理区域的伪影,但是这也导致相机附近的floaters过多。这主要是因为靠近相机的漂浮物占据较大的屏幕空间,且其NDC坐标梯度较大,导致点云生长过程中漂浮物数量不断增加。为了解决这个新的问题,他们做了这部分的工作。
emmm,看到这里不想继续看下去了,个人觉得,这篇论文的工作对我而言不是很有价值。
pixel-aware确实有效果,但是也会导致新的问题,而且效果并不是很突出,还导致高斯数量增长更多。
收获:
还是之前论文看到的观点,目前更坚定了:
Original 3DGS的Adaptive Density Control容易导致过大的高斯被保留下来,核心问题是大的高斯平均梯度可能过小。产生的原因可能是因为参与了过多viewpoint的计算,而大部分viewpoint中这个高斯影响的像素较小,导致梯度也较小,最终平均梯度也变得很小。也可能是因为纹理比较弱,颜色过渡过于平滑,从而导致平均梯度过小。
另外,论文做了一些公式推导,从理论层面讨论了上面的问题。