NeRF，即Neural Radiance Fields（神經(jīng)輻射場(chǎng)）的縮寫(xiě)。研究員來(lái)自UCB、Google和UCSD。

Title：NeRF： Representing Scenes as Neural Radiance Fields for View Synthesis

Paper：https://arxiv.org/pdf/2003.08934.pdf

Code：https://github.com/bmild/nerf

寫(xiě)這篇文章的動(dòng)機(jī)是，一方面NeRF實(shí)在太重要了代表著計(jì)算機(jī)視覺(jué)、圖像學(xué)結(jié)合的未來(lái)重要方向；另一方面NeRF對(duì)于計(jì)算機(jī)視覺(jué)背景的同學(xué)有一定的理解門(mén)檻，這篇文章試圖以最小背景知識(shí)補(bǔ)充、最少理解成本為前提介紹NeRF。

整體介紹

NeRF的研究目的是合成同一場(chǎng)景不同視角下的圖像。方法很簡(jiǎn)單，根據(jù)給定一個(gè)場(chǎng)景的若干張圖片，重構(gòu)出這個(gè)場(chǎng)景的3D表示，然后推理的時(shí)候輸入不同視角就可以合成（渲染）這個(gè)視角下的圖像了。

「3D表示」有很多種形式，NeRF使用的是輻射場(chǎng)，然后用「體渲染」（Volume Rendering）技術(shù)，給定一個(gè)相機(jī)視角，把輻射場(chǎng)渲染成一張圖像。選用輻射場(chǎng)+體渲染的原因很簡(jiǎn)單，全程可微分。這個(gè)過(guò)程很有意思，可以理解為把一個(gè)空間朝一個(gè)方向上拍扁，空間中的顏色加權(quán)求和得到平面上的顏色。

輻射場(chǎng)

體渲染

所謂體渲染，直觀地說(shuō)，我們知道相機(jī)的焦點(diǎn)，焦點(diǎn)和像素的連線可以連出來(lái)一條射線，我們可以對(duì)這條射線上所有的點(diǎn)的顏色做某種求和就可以得到這個(gè)像素的顏色值。

理論上，我們可以對(duì)這條射線經(jīng)過(guò)空間上的每個(gè)點(diǎn)的密度（只和空間坐標(biāo)相關(guān)）和顏色（同時(shí)依賴(lài)空間坐標(biāo)和入射角）進(jìn)行某種積分就可以得到每個(gè)像素的顏色。當(dāng)每個(gè)像素的顏色都計(jì)算出來(lái)，那么這個(gè)視角下的圖像就被渲染出來(lái)了。如下圖所示：

從相機(jī)焦點(diǎn)出發(fā)，往一個(gè)像素連出一條射線，獲取射穿過(guò)空間中每個(gè)點(diǎn)的屬性，進(jìn)行積分得到這個(gè)像素的顏色

為了順利完成上面過(guò)程，我們可能需要維護(hù)碩大無(wú)朋Tensor來(lái)表示輻射場(chǎng)，查表獲取RGB和密度。這里一個(gè)問(wèn)題是空間有多大表就有多大，同時(shí)只能是離散表示的。NeRF要做的事情是用一個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)建模輻射場(chǎng)，這樣無(wú)論空間有多大，不影響我們表示輻射場(chǎng)的所需要的存儲(chǔ)量，而且這個(gè)輻射場(chǎng)表示是連續(xù)的：?Θ：（?，?，?，?，?）→（?，?，?，?

用神經(jīng)網(wǎng)絡(luò)來(lái)代替查表的方式表示輻射場(chǎng)

整體過(guò)程

因?yàn)樯窠?jīng)網(wǎng)絡(luò)是可微分的，選取的體渲染方法是可微分；體渲染得到的圖片和原圖計(jì)算MSE Loss。整個(gè)過(guò)程可端到端地用梯度回傳來(lái)優(yōu)化非常漂亮。整個(gè)訓(xùn)練Pipeline如下圖所示：

看到這，讀者就已經(jīng)大致理解NeRF的原理了，后面章節(jié)是NeRF的具體細(xì)節(jié)。

用輻射場(chǎng)做體渲染

前面我們已經(jīng)大致理解體渲染的過(guò)程是怎么做了?？墒窃趺囱刂渚€對(duì)空間中的顏色進(jìn)行積分呢？如果我們把射線看作是光線，可以直觀得到這個(gè)積分要滿足的兩個(gè)條件：

1、一個(gè)點(diǎn)的密度越高，射線通過(guò)它之后變得越弱，密度和透光度呈反比

2、一個(gè)點(diǎn)的密度越高，這點(diǎn)在這個(gè)射線下的顏色反應(yīng)在像素上的權(quán)重越大

而實(shí)際渲染過(guò)程，我們只能把射線平均分成N個(gè)小區(qū)間，每個(gè)區(qū)間隨機(jī)采樣一個(gè)點(diǎn)，對(duì)采樣得到的點(diǎn)的顏色進(jìn)行某種加權(quán)求和：

神經(jīng)輻射場(chǎng)的兩項(xiàng)優(yōu)化點(diǎn)

Positional encoding

類(lèi)似Transformer的做法，把坐標(biāo)和視角用更高維度的表示作為網(wǎng)絡(luò)輸入，來(lái)解決渲染圖像比較糊的問(wèn)題：

Hierachical volume sampling

Architecture

私貨

無(wú)論從方法的開(kāi)創(chuàng)性，還是發(fā)表后兩年多的影響力來(lái)看。在筆者心目中，ECCV 2020的Best Paper沒(méi)給NeRF，不得不說(shuō)是一個(gè)遺憾。

審核編輯 ：李倩