ECCV 2020 | 基于對抗路徑采樣的反事實視覺語言導(dǎo)航
一、方法架構(gòu)
本文的核心——模型未知的對抗路徑采樣器顯示如下,首先APS從路徑集P中采樣出一批路徑、并利用Speaker來得到復(fù)現(xiàn)的指令I(lǐng)。

對抗采樣器APS的學習架構(gòu),其中Speaker表示用于生成導(dǎo)航指令的反向翻譯語言模型,而NAV表示導(dǎo)航模型。
在獲取路徑P和指令I(lǐng)后,模型的目標就在于優(yōu)化導(dǎo)航損失函數(shù)。針對APS學習采樣的路徑,導(dǎo)航器并不能通過最大化導(dǎo)航損失來得到較好的性能。針對導(dǎo)航損失在導(dǎo)航模型NAV和APS之間會產(chǎn)生對抗的行為,APS不斷采樣出有挑戰(zhàn)性的路徑,同時NAV則嘗試著在APS申請的路徑中進行導(dǎo)航完成任務(wù)。通過這種對抗方法,基于P和I生成的對抗增強數(shù)據(jù)將有效提升NAV的導(dǎo)航能力。在實際過程中,Speaker和導(dǎo)航器都通過原始數(shù)據(jù)進行了預(yù)訓練,同時Speaker在對抗訓練過程中參數(shù)保持固定。
在本文中,研究人員使用了回歸行為采樣器πAPS來采樣行為序列at(基于場景特征ft),并結(jié)合得到路徑輸出。其中ft表示從環(huán)境中抽取的視覺特征。對于全景輸入圖像來說,ftj表示時間t時從視角j獲取的視覺特征。

對抗采樣器的架構(gòu)模型
模型首先利用LSTM對先前的視覺特征和上一步行為進行編碼,而后基于歷史編碼和行為嵌入u來決定此時此刻需要采取的行為。APS模型中包含了一系列可學習的權(quán)重,具體可以在原文3.3部分找到詳細的理論描述。
在通過APS處理后,將得到的一系列導(dǎo)航歷史{at}和視覺特征{ftj}組建成路徑P。為了保持與原始訓練數(shù)據(jù)的一致性(其導(dǎo)航路徑都是最短路徑),需要將APS采樣得到的路徑轉(zhuǎn)換為最小路徑。隨后通過Speaker模型為每一條采樣路徑P生成指令I(lǐng),最終將得到增強過的數(shù)據(jù)對(P,I)。隨后通過“學生強制”的方法基于(P,I)來對導(dǎo)航模型進行訓練,其中訓練損失以可以視為NAV在(P,I)下的性能指標,損失越高性能越差。為了創(chuàng)造難度不斷增加的路徑來改善導(dǎo)航策略,研究人員將APS損失定義為了與LAN損失相關(guān)的表示:

由于APS與模型無關(guān),它僅僅考慮導(dǎo)航模型訓練損失而不關(guān)系模型架構(gòu),所以這種機制可以被集成到任意的導(dǎo)航模型中去。
下面的算法展示了整個對抗路徑采樣器的訓練過程,APS目標是最大化導(dǎo)航損失以便創(chuàng)建盡可能困難的路徑,而NAV的目標則是最小化導(dǎo)航損失以便進行更好的導(dǎo)航。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-5.20立即下載>> 【限時免費】物理場仿真助力生物醫(yī)學領(lǐng)域技術(shù)創(chuàng)新
-
精彩回顧立即查看>> 【直播】 智測未來·2026海克斯康春季產(chǎn)品創(chuàng)新日
-
精彩回顧立即查看>> 【線下論壇】新唐科技×芯唐南京 2026 年度研討會
-
精彩回顧立即查看>> OFweek 2026(第十五屆)中國機器人產(chǎn)業(yè)大會
-
精彩回顧立即查看>> 維科杯· OFweek 2025中國機器人行業(yè)年度評選
-
精彩回顧立即查看>> 【在線會議】液冷服務(wù)器信號完整性及冷卻液關(guān)鍵電參數(shù)測試
推薦專題
- 1 AI狂歡遇上油價破百,全球股市還能漲多久? | 產(chǎn)聯(lián)看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩(wěn)、細節(jié)炸,設(shè)計師慌了
- 3 6000億美元估值錨定:字節(jié)跳動的“去單一化”突圍與估值重構(gòu)
- 4 Tesla AI5芯片最新進展總結(jié)
- 5 連夜測了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續(xù)扣錢!
- 8 2026,人形機器人只贏了面子
- 9 DeepSeek降價90%:價格屠夫不是身份,是戰(zhàn)略
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了?
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享













