(資料圖片僅供參考)
神經(jīng)輻射場(chǎng) (NeRF) 是先進(jìn)的機(jī)器學(xué)習(xí)技術(shù),可以從二維 (3D) 圖像生成對(duì)象或環(huán)境的三維 (2D) 表示。由于這些技術(shù)可以真實(shí)而詳細(xì)地模擬復(fù)雜的現(xiàn)實(shí)世界環(huán)境,它們可以極大地支持機(jī)器人研究。
然而,大多數(shù)用于訓(xùn)練 NeRF 的現(xiàn)有數(shù)據(jù)集和平臺(tái)都設(shè)計(jì)為離線使用,因?yàn)樗鼈冃枰瓿勺藙?shì)優(yōu)化步驟,這會(huì)顯著延遲照片真實(shí)表示的創(chuàng)建。到目前為止,這阻止了大多數(shù)機(jī)器人專(zhuān)家使用這些技術(shù)在物理機(jī)器人上實(shí)時(shí)測(cè)試他們的算法。
斯坦福大學(xué)的一個(gè)研究小組最近推出了NerfBridge,這是一種用于訓(xùn)練NeRF算法的新開(kāi)源軟件包,最終可以使它們能夠用于在線機(jī)器人實(shí)驗(yàn),該軟件包在arXiv上預(yù)先發(fā)表的一篇論文中介紹,旨在有效地橋接ROS(機(jī)器人操作系統(tǒng)),一個(gè)著名的機(jī)器人應(yīng)用程序軟件庫(kù)和Nerfstudio, 一個(gè)開(kāi)源庫(kù),旨在實(shí)時(shí)訓(xùn)練 NeRF。
“最近,我的實(shí)驗(yàn)室斯坦福大學(xué)多機(jī)器人系統(tǒng)實(shí)驗(yàn)室的成員對(duì)探索神經(jīng)輻射場(chǎng)(NeRFs)在機(jī)器人中的應(yīng)用感到興奮,但我們發(fā)現(xiàn)現(xiàn)在沒(méi)有一種簡(jiǎn)單的方法將這些方法與實(shí)際機(jī)器人一起使用,因此不可能對(duì)它們進(jìn)行任何真正的實(shí)驗(yàn),”該論文的第一作者Javier Yu, “科技Xplore說(shuō)。“由于這些工具不存在,我們決定自己構(gòu)建它們,并且出于工程推動(dòng),看看NeRFs如何在機(jī)器人上工作,我們得到了一個(gè)很好的工具,我們認(rèn)為它將對(duì)機(jī)器人社區(qū)的許多人有用。
NeRF是基于人工神經(jīng)網(wǎng)絡(luò)的復(fù)雜技術(shù),最初由計(jì)算機(jī)圖形學(xué)研究界引入。他們基本上通過(guò)訓(xùn)練神經(jīng)網(wǎng)絡(luò)來(lái)重建照片或3D圖像中捕獲的場(chǎng)景的2D幾何形狀和顏色,從而創(chuàng)建詳細(xì)的世界地圖。
“從圖像映射的問(wèn)題是我們機(jī)器人社區(qū)長(zhǎng)期以來(lái)一直在研究的問(wèn)題,NeRF為如何處理它提供了新的視角,”Yu解釋說(shuō)。“通常,NeRF以離線方式進(jìn)行訓(xùn)練,其中所有圖像都是提前收集的,然后一次訓(xùn)練場(chǎng)景的NeRF。然而,在機(jī)器人技術(shù)中,我們希望直接將NeRF用于導(dǎo)航等任務(wù),因此,如果我們僅在到達(dá)目的地時(shí)才獲得NeRF,則NeRF沒(méi)有用。相反,我們希望在機(jī)器人探索其環(huán)境時(shí)逐步(在線)構(gòu)建NeRF。這正是NerfBridge解決的問(wèn)題。
Yu和他的同事推出的軟件包NerfBridge利用了集成在物理機(jī)器人中的傳感器和攝像頭捕獲的圖像。這些圖像不斷流入Nerfstudio強(qiáng)大的NeRF訓(xùn)練庫(kù),從而能夠創(chuàng)建NeRF,這些NeRF隨著機(jī)器人捕獲周?chē)h(huán)境的新圖像而不斷更新和改進(jìn)。
為了證明他們的方法的潛力,Yu和他的同事使用它來(lái)訓(xùn)練NeRF,該圖像基于安裝在四旋翼上的相機(jī)捕獲的圖像,四旋翼無(wú)人機(jī)在室內(nèi)和室外環(huán)境中飛行。他們的結(jié)果非常顯著,突出了NerfBridge在促進(jìn)在機(jī)器人研究中使用NeRF的價(jià)值。
因此,這種有前途的方法很快就會(huì)被其他研究人員用來(lái)訓(xùn)練NERFs,并在物理機(jī)器人導(dǎo)航周?chē)h(huán)境時(shí)測(cè)試他們的算法。與此同時(shí),Yu和他的同事計(jì)劃探索其他策略,以擴(kuò)大NeRF在機(jī)器人中的使用。
“最終,我們希望NerfBridge能夠降低其他研究人員的進(jìn)入門(mén)檻,開(kāi)始研究NeRF在機(jī)器人中的應(yīng)用,并在現(xiàn)實(shí)世界中測(cè)試他們的新算法,”Yu補(bǔ)充道。“從NerfBridge開(kāi)始,我們將研究當(dāng)圖像從機(jī)器人流式傳輸時(shí)改進(jìn)NeRF訓(xùn)練的方法,并展示使用基于NeRF的地圖進(jìn)行機(jī)器人技術(shù)其他任務(wù)(如定位和導(dǎo)航)的具體優(yōu)勢(shì)。
版權(quán)聲明:本文由用戶上傳,如有侵權(quán)請(qǐng)聯(lián)系刪除!下一篇:最后一頁(yè)
X 關(guān)閉
X 關(guān)閉