NY

3DGS 的訓練目標與重建評價

弱紋理場景中的高斯表示與重建
技術筆記 神經渲染 3D Gaussian Splatting 3DGS 可微渲染 圖像重建 SSIM PSNR LPIPS

渲染損失的反向傳播

《3DGS 的表示、渲染與優化》將場景表示、投影、Alpha 混合和密度控制串成了完整管線。渲染器給定相機Cm和高斯集合Θ,輸出訓練視角的渲染圖像

I^m=R(Θ;Cm).

訓練還需要把渲染圖像與真實圖像Im的差異壓縮成標量損失,再沿可微光柵化器反向傳播。若θi表示第i個高斯的某個參數,鏈式法則給出

Lθi=pΩiLI^(p)I^(p)θi,

其中Ωi是該高斯在當前視角中實際影響的像素集合。右側第一項由損失函數決定,描述每個像素應當向哪個方向修正;第二項由投影、二維高斯權重、Alpha 混合與球諧顏色共同決定,負責把像素修正轉換成位置、尺度、旋轉、不透明度和顏色的梯度。

這條梯度鏈也劃分了兩種不同角色:訓練目標參與參數更新,重建指標在留出視角上描述最終結果。二者可以共享相似的數學形式,使用時的統計範圍和解釋方式卻不同。

flowchart TD A["多視角圖像與相機"] --> B["3DGS 渲染器"] B --> C{"當前視角用途"} C -->|"訓練視角"| D["L1 與 D-SSIM"] D --> E["反向傳播"] E --> F["更新高斯參數與密度"] F -.->|"下一次迭代"| B C -->|"留出測試視角"| G["固定模型渲染"] G --> H["SSIM / PSNR / L1 / LPIPS"] H --> I["指標、曲線與同視角圖像"]

L1:逐像素殘差的直接尺度

把顏色通道和像素位置統一編號為j=1,,N,令

ej=I^jIj,

平均 L1 損失為

L1=1Nj=1N|ej|.

ej=0外,它對渲染像素的導數只有符號差異:

L1I^j=1Nsign(ej).

因此,大殘差像素不會像 L2 那樣獲得與誤差幅值成正比的更大梯度。少量高亮、遮擋錯配或曝光異常像素對整體更新的支配作用相對較弱,這也是圖像重建中常用 L1 的原因之一。

L1 的穩健性還可以從統計估計的角度理解。把某個待預測的標量記為a,相應觀測記為隨機變量Y,則期望 L1 風險為

R1(a)=E[|Ya|].

在分佈連續處,其導數可以寫成

dR1da=Pr(Y<a)Pr(Y>a).

令導數為零,得到Pr(Y<a)=Pr(Y>a),所以 L1 對應條件分佈的中位數。作為對照,平方損失滿足

R2(a)=E[(Ya)2],dR2da=2(aE[Y]),

其最優解是均值。當殘差分佈帶有長尾時,少量極端觀測會直接拉動均值,對中位數的影響則小得多。映射到多視角重建中,遮擋切換、鏡面高光和相機標定殘差都可能形成長尾誤差;L1 由此提供了較穩定的基礎修正信號。

L1 對每個坐標獨立計算。兩片紋理即使具有相似的局部結構,只要發生一兩個像素的位移,逐點殘差仍會迅速上升;反過來,一塊平滑區域只要平均顏色接近,也可能得到很低的 L1,而其邊界位置、局部對比度或細微紋理仍然不準確。3DGS 在 L1 之外加入結構項,補充的正是這部分局部關係。

SSIM:局部亮度、對比度與相關性

結構相似性指標(Structural Similarity Index Measure,SSIM)在局部窗口中比較兩幅圖像的均值、方差和協方差。對窗口內的兩組像素xy,常用形式為 [1]

SSIM(x,y)=(2μxμy+C1)(2σxy+C2)(μx2+μy2+C1)(σx2+σy2+C2).

若窗口權重wq已歸一化,局部統計量可以寫成

μx=qwqxq,σx2=qwq(xqμx)2,σxy=qwq(xqμx)(yqμy).

第一個分式主要比較局部亮度,第二個分式同時反映對比度與結構相關性。常數C1C2用於穩定低亮度或低方差窗口中的除法;它們通常按像素動態範圍L設為(K1L)2(K2L)2。當圖像已歸一化到[0,1]時,常見設置為K1=0.01K2=0.03

整幅圖像的 SSIM 一般由各通道、各窗口中心的局部分數取平均。這個平均看似簡單,具體實現仍包含窗口尺寸、高斯核標準差、邊界填充、通道聚合和動態範圍等選擇。兩組實驗若使用不同設置,最後幾位小數未必具有可比性。

局部統計量也能直接給出 SSIM 的梯度結構。把渲染窗口記為x、真實窗口記為y,並令

A=2μxμy+C1,B=2σxy+C2,C=μx2+μy2+C1,D=σx2+σy2+C2,

s=SSIM(x,y)=AB/(CD)。對窗口中的第r個渲染像素,有

Axr=2wrμy,Bxr=2wr(yrμy),Cxr=2wrμx,Dxr=2wr(xrμx).

代入乘法與商法則,得到

sxr=ArB+ABrCDAB(CrD+CDr)(CD)2.

這個導數同時含有目標像素yr、窗口均值和局部離均差。即使只對xr求導,修正方向仍由整個窗口的統計狀態決定;窗口重疊後,一個渲染像素還會接收多個局部 SSIM 的梯度。

兩個簡化情形能進一步說明 D-SSIM 的尺度。若真實窗口只比渲染窗口多一個常數亮度偏移,即yq=xq+b,其方差和協方差不變,因此

1SSIM(x,x+b)=b2μx2+(μx+b)2+C1.

若只考察零均值窗口中的對比度縮放y=ax,則

1SSIM(x,ax)=(a1)2σx2(1+a2)σx2+C2.

亮度偏移b和對比度偏差a1在匹配點附近都呈二次懲罰。L1 在非零小殘差處仍提供近似恆定幅值的梯度,D-SSIM 則更側重窗口統計失配;二者混合後形成了不同尺度的互補修正。

SSIM 將兩幅圖像的亮度、對比度和結構比較組合為相似度的計算管線
SSIM 的計算管線。兩路信號分別提取亮度與對比度,經亮度、對比度和結構三個比較分支後組合為局部相似度 [1]

D-SSIM 在 3DGS 中的實際含義

3DGS 論文把結構損失記為LD-SSIM,並使用 [2]

L=(1λ)L1+λLD-SSIM,λ=0.2.

在 3DGS 的參考實現中,這一項直接計算為

LD-SSIM=1SSIM(I^,I).

部分圖像處理文獻也把 D-SSIM 定義為(1SSIM)/2。兩種寫法相差常數倍率;3DGS 中的λ=0.21SSIM共同確定了結構項在混合目標中的尺度。D-SSIM 的定義發生縮放時,結構項相對 L1 的權重也會隨之改變。

混合目標的梯度組成

對任意高斯參數θi,混合目標的梯度可以展開為

Lθi=(1λ)pL1I^(p)I^(p)θi+λpLD-SSIMI^(p)I^(p)θi.

L1 部分直接從像素殘差給出修正方向。SSIM 部分會把一個像素與周圍窗口綁在一起。若sp是以p為中心的局部 SSIM,Wp是相應窗口,那麼渲染像素q的結構梯度包含所有覆蓋它的窗口:

LD-SSIMI^q=1|Ωs|p:qWpspI^q.

高斯對某個像素的貢獻由其屏幕 footprint 和透射率決定;SSIM 又把這個像素同鄰域統計相連。結構梯度經兩層局部支撐域傳回高斯,使邊緣、紋理和低對比度平面中的更新不再完全由單點顏色殘差決定。

Alpha 混合的梯度傳遞

對某個像素,把高斯按深度從前到後排序。令

Tk=j<k(1αj)

表示到達第k個高斯前的累積透射率,Bk+1表示從第k+1個高斯開始、包含背景色的後景合成結果。像素顏色可在第k層拆成

C^=C<k+Tk[αkck+(1αk)Bk+1].

由此可以直接求出

C^ck=TkαkI,C^αk=Tk(ckBk+1).

第一式表明,顏色梯度由可見性Tk和當前 Alpha 共同縮放。第二式則揭示了不透明度的可辨識條件:當高斯顏色與其後景接近時,改變αk幾乎不改變像素顏色;當前景已令Tk很小時,後方高斯同樣難以收到有效梯度。因此,某些高斯參數更新緩慢,未必是像素損失已經很低,也可能是當前視角中的合成雅可比接近退化。

忽略實現中的數值截斷,若屏幕空間高斯寫成

Gk(p)=exp[12(pμk)TQk(pμk)],αk=okGk(p),

其中Qk=(Σk)1,則投影中心的梯度為

αkμk=okGk(p)Qk(pμk).

再與L/αk相乘並對 footprint 內像素求和,就得到投影中心的更新方向。殘差分佈若在高斯兩側近似對稱,位置梯度會相互抵消;若殘差集中在某一側,中心便沿由Qk調整過的方向移動。各向異性協方差由此同時影響覆蓋範圍和位置梯度的方向尺度。

λ=0.2也不能解讀成「結構梯度佔更新量的 20%」。兩項損失具有不同的數值尺度、空間相關性和梯度範數。某次迭代中結構項相對 L1 的實際影響更接近

r=λΘLD-SSIM2(1λ)ΘL12.

即使λ固定,r也會隨視角、紋理、當前殘差和高斯可見性變化。損失權重控制的是目標函數中的係數,實際參數更新還受到梯度形狀與 Adam 歷史動量影響。

3DGS 在七千次與三萬次迭代時的同視角渲染對比
兩組場景在 7k 與 30k 次迭代時的同視角渲染。部分場景在較早階段已形成主要結構,延長訓練主要繼續修正背景偽影與局部細節;圖像觀感的改變幅度也會因場景而異 [2]

這組對比還說明,單一損失曲線無法完整描述重建結果。訓練後期的標量損失可能只小幅下降,改善卻集中在小面積背景、細杆件或高頻紋理中;相反,平均損失下降也可能主要來自大面積平滑區域,而視覺上醒目的邊界仍有錯位。評價需要同時保留像素、結構和感知三個觀察尺度。

目標函數之外的優化結構

原論文的消融實驗保持重建損失不變,分別關閉初始化、密度控制、球諧外觀或梯度路徑。這組數據能夠區分「使用什麼損失」與「損失可以通過哪些參數和圖元傳播」 [2]

3DGS 在關閉 Split、關閉 Clone 與完整密度控制下的自行車場景對比
在 $5\mathrm{k}$ 迭代時,關閉 Split 後大高斯難以分解背景和前景的局部結構;關閉 Clone 後,車輪輻條等細結構更容易斷裂。兩種操作共同決定當前損失能否找到合適的局部基底 [2]
消融設置平均 PSNR-5k平均 PSNR-30k
限制傳播梯度的高斯數19.1619.19
隨機點雲初始化19.1720.42
移除 Split21.5023.90
移除 SH23.4825.35
移除 Clone23.3525.91
各向同性協方差23.5625.23
完整模型23.9026.05

30k迭代時,移除 Split 比完整模型低2.15dB,移除 Clone 只低0.14dB,但圖中的細輻條已顯示出局部差異。單個場景的小面積錯誤在三場景平均 PSNR 中容易被稀釋,這也是圖像、逐場景數據和總平均需要同時保留的原因。

限制只有前10個高斯接收梯度時,30k平均 PSNR 下降6.86dB,幾乎沒有從延長訓練中獲益。問題並不來自 L1 或 D-SSIM 定義,而在於遮擋後方的參數沒有完整收到誤差信號。損失數值、參數化與反向傳播實現因而共同決定實際優化問題。

四項常用重建指標

3DGS 論文使用 PSNR、SSIM 和 LPIPS 評價留出測試視角,實驗管線中也常加入 L1,便於直接觀察平均絕對殘差 [2, 3]

指標方向計算空間主要敏感因素
L1RGB 像素平均絕對顏色殘差,對極端值相對穩健
PSNRRGB 像素平方誤差,對少量大殘差更敏感
SSIM局部窗口統計亮度、對比度、局部結構相關性
LPIPS深度網絡特徵紋理、邊緣和感知特徵差異

PSNR 與 MSE

N個像素通道,均方誤差為

MSE=1Nj=1N(I^jIj)2.

峰值信噪比(Peak Signal-to-Noise Ratio,PSNR)定義為

PSNR=10log10MAX2MSE,

其中MAX是像素動態範圍上界。圖像歸一化到[0,1]時,MAX=1。固定動態範圍後,單幅圖像的 PSNR 是該圖 MSE 的單調變換,因而逐圖排序一致;測試集層面的排序還會受到後文所述聚合順序影響。

兩個方法的 PSNR 差值還能直接還原成 MSE 比值:

PSNRAPSNRB=10log10MSEBMSEA.

因此,PSNR 提高約3.01 dB,對應 MSE 約減半;提高1 dB,對應 MSE 乘以約0.794。dB 差值比孤立的 PSNR 數字更容易轉換成誤差幅度。

PSNR 對 MSE 的導數為

dPSNRdMSE=10ln101MSE.

同樣大小的 MSE 絕對下降,在低誤差階段會換來更大的 dB 增量。因而 PSNR 曲線的縱向變化不能直接當作像素誤差的線性變化;比較訓練早期和後期時,回到 MSE 比值更容易判讀實際改善幅度。

L1 與 MSE 的界限

若圖像已歸一化到[0,1],則|ej|1,有

ej2|ej|.

對所有像素取平均,再利用均方根不小於算術平均,可得

MSEL1MSE.

這組界限只約束數值範圍,不保證排序一致。少量大殘差會被平方項顯著放大,因而可能出現 L1 更低、PSNR 反而更差的情況。遇到反光、高亮、遮擋邊界或少量嚴重錯配時,這種指標分歧尤其常見。

微小位移下的圖像誤差

新視角中的幾何偏差常先表現為屏幕空間位移。假設渲染結果相對真實圖像存在一個很小的二維偏移δ,一階泰勒展開給出

I^(p)=I(p+δ)I(p)+I(p)Tδ.

相應的 L1 和 MSE 近似為

L11Np|I(p)Tδ|,MSEδT[1NpI(p)I(p)T]δ.

方括號內正是圖像梯度的二階矩陣。平滑區域的I很小,幾何已發生位移也可能只產生有限像素誤差;單一方向的邊緣主要約束其法向位移;角點和豐富紋理在兩個方向上都能提供較強約束。這解釋了弱紋理平面容易獲得不錯的 RGB 指標,卻仍可能保留深度或位置偏差,也說明了細杆件與高對比邊界為何對亞像素錯位格外敏感。

LPIPS 的特徵距離

學習感知圖像塊相似度(Learned Perceptual Image Patch Similarity,LPIPS)把兩幅圖像送入固定的深度網絡,在多層特徵上計算加權距離 [4]。省略實現細節後,可寫成

LPIPS(x,y)=l1HlWlh,wwl(ϕ^l(x)h,wϕ^l(y)h,w)22,

其中ϕ^l表示第l層歸一化特徵,wl是學習得到的通道權重。LPIPS 允許像素坐標上存在一定差異,只要深層特徵仍然接近;這使它能補充觀察紋理與局部外觀,也令結果依賴骨幹網絡、權重版本和輸入歸一化方式。

通道歸一化賦予了這個距離一個直觀的幾何解釋。若暫時忽略學習權重,並令兩個特徵向量f^g^的二範數均為1,則

f^g^22=22f^Tg^=2(1cosϑ).

未加權的局部特徵距離等價於比較兩個特徵方向的餘弦相似度。加入wl後,距離變為

(f^g^)Tdiag(wl2)(f^g^),

即在特徵空間中使用學習得到的對角度量。權重較大的通道對最終分數影響更強,而歸一化削弱了整體激活幅值的作用。LPIPS 因此測量的是經骨幹網絡與感知數據共同塑形的特徵差異,並非與網絡無關的通用視覺距離。

LPIPS 從兩幅圖像提取多層網絡特徵並計算加權距離的管線
LPIPS 的特徵距離計算。兩幅圖像經同一網絡提取多層特徵,完成通道歸一化與差分後,以學習權重逐通道縮放,最後對空間位置和網絡層聚合 [4]

LPIPS 較低不等於幾何一定更準確。模糊、微小位移、重複紋理或網絡訓練域之外的材質,都可能令感知特徵與幾何誤差之間出現偏差。涉及三維幾何的研究仍需另行報告深度、法線、點雲或網格指標。

評價指標的聚合方式

假設測試集包含K幅圖像,每幅圖像的 MSE 為mk。常見的「逐圖計算 PSNR 後取平均」為

PSNR=1Kk=1K10log10MAX2mk,

而「先合併全部像素的 MSE 再換算」近似為

PSNRglobal=10log10MAX21Kk=1Kmk.

mk的算術平均和幾何平均分別記為

MA=1Kk=1Kmk,MG=(k=1Kmk)1/K,

則兩種 PSNR 可分別寫成

PSNR=10log10MAX2MG,PSNRglobal=10log10MAX2MA.

二者的差值恰好為

PSNRPSNRglobal=10log10MAMG0.

最後一步來自算術平均不小於幾何平均。這個差值不只說明兩種口徑的方向,也刻畫了逐圖 MSE 的離散程度:各視角誤差完全相同時差值為零,難易視角分化越明顯,MA/MG通常越大。

因此,兩者滿足

PSNRPSNRglobal.

若各圖像分辨率不同,先逐圖平均還會讓小圖和大圖具有相同權重;全像素聚合則由大圖主導。SSIM、L1 和 LPIPS 也存在逐圖平均、逐場景平均、按像素加權等口徑差異。報告結果時,聚合方法應當與數據劃分、圖像縮放和掩碼規則一起固定。

訓練損失與評價指標

同一方法內部,訓練損失曲線可以用來觀察是否收斂、是否出現數值異常,以及某次密度控制後優化狀態如何恢復。跨方法比較時,只有損失定義、權重、掩碼、歸一化和採樣方式完全一致,總損失數值才有直接比較意義。

若方法A的目標為

LA=0.8L1+0.2LD-SSIM,

方法B在此基礎上加入正則項

LB=LA+βLreg,

那麼LB>LA不能直接推出方法B的 RGB 重建更差。額外項改變了標量基準,也可能犧牲少量訓練視角的像素擬合,換取更穩定的幾何或更好的留出視角。這類比較應拆開查看共同損失分量,再使用同一測試劃分、同一渲染設置和同一指標實現評價最終結果。

SSIM 同時出現在訓練和評價中也需要分開記錄。訓練時它是帶梯度的局部結構約束,只在當前採樣視角上參與更新;評價時模型保持固定,SSIM 在留出視角上統計泛化結果。即使兩處調用同一段函數,觀察對象仍不相同。

重建評價的實驗設置

指標表之外,至少需要固定以下條件:

  • 測試視角:使用相同的訓練/測試劃分,避免把參與優化的視角混入評價。
  • 相機與分辨率:保持相同內參、裁剪、縮放和渲染尺寸;亞像素偏移也會同時影響四項指標。
  • 顏色空間:明確在線性 RGB 還是 sRGB 中計算,並統一像素動態範圍。
  • 背景與 Alpha:透明區域應使用相同背景合成;前景掩碼的使用範圍也要一致。
  • 指標實現:記錄 SSIM 的窗口與邊界處理、LPIPS 的骨幹和權重版本,以及各指標的聚合順序。
  • 可視化:保存同一視角的真實圖像、渲染圖像和誤差圖,優先檢查高亮、遮擋邊界、細杆件、重複紋理與弱紋理平面。
  • 效率條件:涉及訓練時間、幀率或顯存時,固定硬件、圖像尺寸、高斯數量統計時刻和渲染設置。

對每個測試視角保留逐圖指標,通常比只保存場景均值更有價值。均值回答整體趨勢,逐圖分布可以定位失敗視角;中位數、分位數或最差若干視角則能補充平均值容易掩蓋的長尾問題。

結語

3DGS 的混合訓練目標把兩種誤差信號送入同一條可微渲染鏈:L1 提供穩定、直接的逐像素顏色修正,D-SSIM 通過局部統計把相鄰像素聯繫起來。梯度到達高斯參數之前,還要經過透射率、前後景顏色差和屏幕空間高斯的雅可比;損失權重相同,不代表每個高斯能接收到同等強度的更新。

重建評價則從不同尺度觀察留出視角:L1 和 PSNR 描述像素殘差,SSIM 觀察局部結構,LPIPS 補充深度特徵距離。微小位移的展開表明,RGB 指標的敏感度本身受圖像梯度方向支配;PSNR 的算術平均—幾何平均差值又會放大視角難度分化。任何單項指標都有盲區,總損失也只有在定義一致時才能橫向比較。將公式、實現配置、聚合口徑和同視角圖像放在一起,指標才真正具有可解釋性。

參考文獻

  1. Wang Z, Bovik AC, Sheikh HR, et al.. Image Quality Assessment: From Error Visibility to Structural Similarity[J]. IEEE Transactions on Image Processing, 2004, 600–612.↩1 ↩2
  2. Kerbl B, Kopanas G, Leimkühler T, et al.. 3D Gaussian Splatting for Real-Time Radiance Field Rendering[J]. ACM Transactions on Graphics, 2023, 139:1–139:14.↩1 ↩2 ↩3 ↩4 ↩5
  3. Chen G, Wang W. A survey on 3d gaussian splatting[J]. ACM Computing Surveys, 2024.
  4. Zhang R, Isola P, Efros AA, et al.. The Unreasonable Effectiveness of Deep Features as a Perceptual Metric[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2018, 586–595.↩1 ↩2
Copyright © Nishikori Yui. All rights reserved.