作者 |吳昊,王浩,清醒,李明昊,許封元,仲盛結(jié)合創(chuàng)作

來(lái)源 | 智能汽車(chē)開(kāi)發(fā)者平臺(tái)

摘要

近年來(lái),基于深度學(xué)習(xí)的視覺(jué)感知技術(shù)的開(kāi)展極大地促進(jìn)了車(chē)聯(lián)網(wǎng)范疇中自動(dòng)駕駛的繁榮,但是自動(dòng)駕駛系統(tǒng)的平安問(wèn)題頻出引發(fā)了人們對(duì)自動(dòng)駕駛將來(lái)的擔(dān)憂．由于深度學(xué)習(xí)系統(tǒng)的行為缺乏可解釋性,測(cè)試基于深度學(xué)習(xí)的自動(dòng)駕駛系統(tǒng)的平安性極具應(yīng)戰(zhàn)性．目前已有針對(duì)自動(dòng)駕駛場(chǎng)景的平安性測(cè)試工作被提出,但這些辦法在測(cè)試場(chǎng)景生成、平安問(wèn)題檢測(cè)和平安問(wèn)題解釋等方面仍存在缺乏之處．針對(duì)基于視覺(jué)感知的自動(dòng)駕駛系統(tǒng),設(shè)計(jì)開(kāi)發(fā)了一種場(chǎng)景驅(qū)動(dòng)的、可解釋強(qiáng)的、運(yùn)轉(zhuǎn)高效的平安性測(cè)試系統(tǒng)．提出了一種可以均衡真實(shí)性與豐厚度的場(chǎng)景描繪辦法,并應(yīng)用實(shí)時(shí)渲染引擎生成能夠用于駕駛系統(tǒng)平安性測(cè)試的場(chǎng)景;設(shè)計(jì)了一種高效的針對(duì)非線性系統(tǒng)的場(chǎng)景搜索算法,其能夠針對(duì)不同的待測(cè)試系統(tǒng)動(dòng)態(tài)調(diào)整搜索計(jì)劃;同時(shí),還設(shè)計(jì)了一個(gè)毛病剖析器,自動(dòng)化剖析定位待測(cè)試系統(tǒng)的平安性缺陷成因．復(fù)現(xiàn)了現(xiàn)有基于實(shí)時(shí)渲染引擎的動(dòng)態(tài)自動(dòng)駕駛測(cè)試系統(tǒng),并同時(shí)運(yùn)用本系統(tǒng)和復(fù)現(xiàn)系統(tǒng)對(duì)CILRS系統(tǒng)和CIL系統(tǒng)進(jìn)行平安測(cè)試,實(shí)驗(yàn)結(jié)果標(biāo)明相同時(shí)間下本工作的平安問(wèn)題發(fā)現(xiàn)率是復(fù)現(xiàn)的場(chǎng)景驅(qū)動(dòng)的動(dòng)態(tài)測(cè)試辦法的1.4倍．進(jìn)一步的實(shí)驗(yàn)標(biāo)明,能夠分別為具有代表性的深度學(xué)習(xí)自動(dòng)駕駛系統(tǒng)CIL和CILRS,從原野、鄉(xiāng)村與城市的３類(lèi)環(huán)境中動(dòng)態(tài)生成的共3000個(gè)場(chǎng)景中,搜索到1939和1671個(gè)形成毛病的場(chǎng)景,并且每個(gè)毛病場(chǎng)景的搜索時(shí)間均勻?yàn)?6.86s．剖析器從統(tǒng)計(jì)的角度判別出CILRS系統(tǒng)容易形成毛病的區(qū)域在道路兩側(cè),雨天和紅色或黃色物體更易形成該自動(dòng)駕駛系統(tǒng)發(fā)作毛?。?/span>

車(chē)聯(lián)網(wǎng)范疇隨著物聯(lián)網(wǎng)與交通運(yùn)輸范疇的深度交融蓬勃開(kāi)展．隨著深度學(xué)習(xí)的進(jìn)步,車(chē)聯(lián)網(wǎng)范疇的自動(dòng)駕駛技術(shù)得到了打破性的開(kāi)展,并有演化成一場(chǎng)新的汽車(chē)工業(yè)反動(dòng)的趨向．無(wú)論是特斯拉、蔚來(lái)等新型車(chē)企,還是福特、寶馬等傳統(tǒng)車(chē)企都陸續(xù)拿到了自動(dòng)駕駛路測(cè)牌照,著眼于研發(fā)深度自動(dòng)駕駛技術(shù)．迅猛開(kāi)展的深度自動(dòng)駕駛技術(shù)正逐步成為車(chē)聯(lián)網(wǎng)范疇的主要支撐技術(shù)之一,正在改動(dòng)將來(lái)的交通和出行方式．

視覺(jué)感知模塊是自動(dòng)駕駛進(jìn)行環(huán)境感知的重要組件,也是車(chē)輛進(jìn)行智能決策的重要根底．自動(dòng)駕駛范疇的重要企業(yè)特斯拉更是將視覺(jué)感知模塊作為其駕駛系統(tǒng)的獨(dú)一環(huán)境感知模塊．因而,自動(dòng)駕駛系統(tǒng)視覺(jué)感知模塊的平安性是自動(dòng)駕駛系統(tǒng)正常工作的關(guān)鍵．固然視覺(jué)感知模塊的表現(xiàn)隨著深度視覺(jué)技術(shù)的開(kāi)展穩(wěn)步提升,但是其從駕駛環(huán)境中感知到的特征語(yǔ)義難被了解、決策過(guò)程無(wú)法解釋?zhuān)绾螌?duì)自動(dòng)駕駛系統(tǒng)視覺(jué)感知模塊的平安性進(jìn)行充沛測(cè)試,已然成為了一個(gè)火燒眉毛、亟待處理的問(wèn)題．

誠(chéng)然,盤(pán)繞深度學(xué)習(xí)可解釋性方面的工作有了一定的打破,但是間隔剖析分明自動(dòng)駕駛視覺(jué)感知模塊的錯(cuò)誤傳導(dǎo)機(jī)理還有較遠(yuǎn)的間隔．近年來(lái),神經(jīng)網(wǎng)絡(luò)的黑盒攻擊辦法的進(jìn)步,啟示大家提出了一些基于場(chǎng)景搜索的自動(dòng)駕駛視覺(jué)感知模塊平安性測(cè)試技術(shù)．這些場(chǎng)景驅(qū)動(dòng)的測(cè)試辦法應(yīng)用黑盒測(cè)試的思緒,為駕駛系統(tǒng)提供盡可能多的駕駛場(chǎng)景數(shù)據(jù),察看自動(dòng)駕駛系統(tǒng)的輸出與測(cè)試預(yù)言(TestOracle)之間的差別,進(jìn)而剖析自動(dòng)駕駛系統(tǒng)視覺(jué)感知模塊的平安性．

我們以為場(chǎng)景驅(qū)動(dòng)的黑盒平安測(cè)試是在弄清深度學(xué)習(xí)可解釋性之前,關(guān)于視覺(jué)感知模塊平安性最 為重要的測(cè)試手腕．但目前關(guān)于將生成場(chǎng)景應(yīng)用于視覺(jué)感知模塊的測(cè)試,我們?nèi)悦媾R著３個(gè)應(yīng)戰(zhàn) :

１) 均衡場(chǎng)景描繪的真實(shí)性與豐厚度．場(chǎng)景生成 規(guī)則是場(chǎng)景驅(qū)動(dòng)的測(cè)試系統(tǒng)的重要根底．激進(jìn)的規(guī)則設(shè)計(jì)會(huì)形成場(chǎng)景掩蓋才能缺乏; 而過(guò)于靈敏的規(guī)則設(shè)計(jì)又會(huì)毀壞物體相對(duì)關(guān)系,傷害場(chǎng)景真實(shí)性．探求一個(gè)能同時(shí)統(tǒng)籌場(chǎng)景真實(shí)性和豐厚度的場(chǎng)景生成規(guī)則極具應(yīng)戰(zhàn)性．