2020年12月3日，由中國汽車工程研究院主辦的第五屆i-VISTA智能網(wǎng)聯(lián)汽車國際研討會隆重召開， 在中國智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)創(chuàng)新聯(lián)盟CAICV-SOTIF工作組會議環(huán)節(jié)，清華大學(xué)車輛與運載學(xué)院副研究員、智能出行所副所長王紅發(fā)表了“預(yù)期功能安全量化評價指標初探”的主旨演講。

清華大學(xué)車輛與運載學(xué)院副研究員、智能出行所副所長王紅

以下為演講實錄：　

非常感謝陳老師前面對預(yù)期功能安全量化評價指標的這樣一個詳細的報告，研究得非常的深入，然后我的報告從更宏觀的層面來給大家介紹一下我對預(yù)期功能安全量化評價指標的一個初步的想法，大家充分領(lǐng)域，然后后面我們看看具體是不是具有可實際的操作性。那么這個目錄看上去很多內(nèi)容，但實際上的話內(nèi)容不是特別的多，總共是23頁，第一個是預(yù)期功能安全問題及其關(guān)鍵的難點，那么這里就是預(yù)期功能安全定義的一個回數(shù)，預(yù)期功能安全主要關(guān)注的是功能不足，性能局限或者可合理預(yù)見的人員互用所引起的危害。

為什么加入這些內(nèi)容？因為我發(fā)現(xiàn)今天在座的各位并不是所有的專家都對預(yù)期中完全有比較詳細的了解，所以特意把這部分內(nèi)容拿出來跟大家回顧一下。

那么這里道路環(huán)境包括隨機的場景變換，非常規(guī)的交通參與度和交通的環(huán)境干擾。

另外自動駕駛系統(tǒng)的局限性，包括系統(tǒng)的功能局限，AR算法的局限的，另外駕駛員乘客的可合理運行的雇傭，包括事件的偏移，駕駛的疲勞以及人員的雇傭。那么這里是剛才陳老師也提到了一個典型的案例，大家都喜歡把它拿出來說事，開發(fā)這個車，把玉溪木板前面的白色卡車車廂識別為是一種白云，導(dǎo)致了這樣一個一起事故，這就是預(yù)期功能安全一個典型的案例。

那么根據(jù)阿薩爾21448里面，我們可以看到預(yù)期功能安全最難攻克的部分其實就是阿諾阿c的位置的安全區(qū)域，這個產(chǎn)品部分。

另外我們在研究的過程當中，把預(yù)期功能安全分為了感知層、決策層和控制層三個層面，對預(yù)期工作安全進行研究、感知、決策控制它的劃分，也對于后面我們提出預(yù)期功能安全的評價體系作為一個引述。那么當前預(yù)期工作安全的難題包括感知的不充分，這里主要是從感知層面，包括漏檢和錯檢，另外就是度量的不準確性，這里主要是由場景的隨機變換和人人工智能算法的這種不確定性，造成我們預(yù)期功能安全度量的不準確。

那么第三個就是驗證不全面，測試里程長驗證不全面的。那么下面就是我來跟大家探討的重點是預(yù)期功能安全量化評價體系的一個整體的思路。下面跟大家說一下我們這樣總結(jié)出來思路的一個心路歷程。因為公共安全發(fā)展到后來發(fā)現(xiàn)很多問題，隨著預(yù)期功能，隨著通過智能算法的應(yīng)用，它是覆蓋不了所有關(guān)于預(yù)自動駕駛方面的所有的安全問題，所以才有了預(yù)期功能安全問題，也就是阿q21448的產(chǎn)生。

但是在現(xiàn)有的資料里面，就像我在前面介紹的過程當中，說的預(yù)期工作安全的評價體系，目前來看都是來自于硬件系統(tǒng)的功能安全評價體系，比如horror stpasmea目前上午公認的預(yù)期功能安全分析與評價方法。

在我做預(yù)期功能安全研究之初，也就是去年的7月份，在我剛研究的時候，我也跟張玉清老師交流過，我當時特別抵觸功能安全的SS的評價方法，因為我認為那是對于功能安全功能失效造成的這樣一個分析方法，而且它里面涉及的EMC都是零散的，我覺得并不適應(yīng)我們預(yù)期功能安全的評價，但是在我后來了解的深入之后，我發(fā)現(xiàn)我們不能完全摒棄功能安全的評價的思路，只不過我們要在這個基礎(chǔ)上進行放話，更適用于預(yù)期功能安全的一個評價思路。

那么在預(yù)期功能安全量化評價體系在了解的過程當中，我們會發(fā)現(xiàn)，因為它是伴隨著人工智能的算法不確定性，我們這里面又調(diào)研了關(guān)于人工智能算法借鑒計算機系他們對于人工智能算法的不確定性的評價，因為不確定性目前來造成的就是我們預(yù)期功能安全的問題。

那么這里我們必須得跨學(xué)科跨領(lǐng)域交流，才能攻克我們預(yù)期功能安全。所以在感知方面和決策方面甚至預(yù)測方面，我們對預(yù)期功能安全的不確定性的評價方法進行了一個比較深入的調(diào)研。

例如在環(huán)境轉(zhuǎn)移算法和不確定性評價這里，我們主要是發(fā)現(xiàn)了牛津大學(xué)一個叫延安蓋奧的非常年輕的教授，他們提出用近似于b Bs推動的一個語義分割方法，利用它里面的MC job out，就是利用這種方法或者是公司training這兩種比較典型的方法，提出了預(yù)測商和互信息，這個思路就比較貼合我們前期的就是商的概念，所以我沒有追蹤的他們就是1011這個團隊的所有的研究，他們最初是研究人工智能算法的不確定性的，那么后來才有機會把這些不確定性方法做到我們的車輛領(lǐng)域。

這也就回答了剛才重慶大學(xué)王科老師的一個問題，就是預(yù)期工作安全它涉及的算法不確定性該如何進行評價，我認為這是一個非常值得有借鑒意義和學(xué)習(xí)的參考的資料。

另外在決策算法不確定性分析上，我們發(fā)現(xiàn)MIT和cmd他們都做了大量的工作，就是決策上所決策算法的前端就是預(yù)測算法，那么我們對預(yù)測算法對周圍環(huán)境，由人和車輛他們的軌跡進行預(yù)測，如果他的預(yù)測不夠準確的話，那么直接會影響到我們決策的安全。

那么這里主要是前期的研究，主要是針對于預(yù)測算法，對周圍環(huán)境周圍車輛和周圍閑人他們預(yù)測的不確定性，如何引入到我們的決策模塊里面，使得我們的決策具有預(yù)測的，這種不確定性敏感度的這樣一個決策方法，那么這里面他們提出來，如果我對于周圍的環(huán)境預(yù)測的不確定性高的情況下，應(yīng)該采取一些降級或者是應(yīng)急的處置方法，那么這里我認為也是對于預(yù)期功能安全的研究也是具有借鑒意義，所以綜合前面大概是根據(jù)借鑒功能什么內(nèi)容和計計算機領(lǐng)域?qū)︻A(yù)期工作安全所有可能借鑒意義，對得出來了這樣一個預(yù)期功能安全量化評價體系的一個整體的思路。

那么整體的思路可以就是說拿出來跟大家討論一下，其實現(xiàn)在也是我的團隊正在做的事情。

我們認為預(yù)期功能安全評價體系包括三個層面，第一個層面是系統(tǒng)層面，我們不管內(nèi)部是什么樣的構(gòu)成，它的算法是具有不確定性還是怎么樣，但是我們把它作為一個黑盒，我們來看它的表現(xiàn)在我們現(xiàn)有的場景這種測試場景的輸入，包括功能場景邏輯場景和具體場景，另外就是建設(shè)我們預(yù)期功能安全的產(chǎn)品庫，輸入在這些場景的基礎(chǔ)上，我們進行整體性能的一個評價，也就是結(jié)合系統(tǒng)級的評價，系統(tǒng)級的評價，我們現(xiàn)在就認為它必須得包括三個層面，也就是暴露度，還有嚴重度還有可控性，那么 exposure高度是必須要結(jié)合產(chǎn)品的分類評估的，估計賊的前他肯定不是離散的，不是說1234這么簡單，而是通過我們可以實時的做出這樣一個風(fēng)險評估。

這里我們起了一個名字叫potential security combat index，也就是我們潛在的碰撞風(fēng)險系數(shù)，potential security， price，index，我們可以實時的判斷它的風(fēng)險，那么很特別的可控性，我們是依據(jù)碰撞的一個評估，根據(jù)它的可能發(fā)生沖突的概率來定義我們可控性，所以在系統(tǒng)級的評價這一層，我們可以發(fā)現(xiàn)現(xiàn)在的存儲是結(jié)合esc但是s和c都是跟傳統(tǒng)的的功能安全是不一樣的，進行了一個泛化。

然后這是第一層是系統(tǒng)層，那么第二層是構(gòu)建層，這個部件就是把內(nèi)部的系統(tǒng)打開成是一個百合，包括感知模塊、預(yù)測模塊、決策模塊和執(zhí)行模塊。

那么這里面感知模塊它的一個輸出，也就是在我們來講就是結(jié)構(gòu)導(dǎo)向它的輸出，包括風(fēng)險率特點率，還有定位的誤差等等，當然我們把定位涵蓋在這模塊里面，那么這里面就可以說它的根據(jù)它的結(jié)構(gòu)性的導(dǎo)向，包括你對弱弱堿域抽檢率和定位的精度等等，來評估你這一個模塊它的表現(xiàn)怎么樣。

另外同樣的是決策預(yù)測模塊、決策模塊、執(zhí)行模塊等等，都是根據(jù)他們預(yù)測的結(jié)果來進行的一個評估，就是結(jié)果導(dǎo)向。

那么第三層要深入到算法本身，研究它的不確定性，這個也就是更適合我們公司的產(chǎn)品開發(fā)以及高效的這樣理論的研究。比如說感知模塊，它里面數(shù)據(jù)的確定性，算法的不確定性，這里面包括我們對于它是較為認知和偶然不確定性，那么這里面就通過這些不確定性，我們可以得出部件級感知的一個評價指標。

那么這也是一個例子，這個是三我們認為是第三層的一個評價，就是決策層和預(yù)測層其實也是這樣，預(yù)測層是我們可以研究預(yù)測模型的不確定性，預(yù)測模型預(yù)測你是有精度的，它形成的軌跡預(yù)測出來的，它是有一個不確定性的。

另外還有決策模塊，決策模塊目前我們團隊在研究的是決策模型的科技屬性的研究，我們希望通過可解釋性的研究來提出決策模塊的一個評價指標，同樣還有執(zhí)行模塊，所以這一幅圖闡述了我們對預(yù)期功能安全量化評價體系的一個整體的思路，包括系統(tǒng)級的評價，esc部件級的評價，部件級的評價，包括結(jié)構(gòu)導(dǎo)向的，也就是根據(jù)它輸出的結(jié)果來判斷，另外一部分是深入到算法本身，去研究它內(nèi)部的不確定性，來進行一個評價指標的提出，整個這是三個層面。

那么這里面剛才我所說的系統(tǒng)級的評價指標，就是這里的一根據(jù)我們的場景出現(xiàn)的頻度統(tǒng)計，既那么斯維爾寫這里面提出的是潛在碰撞風(fēng)險系數(shù)和潛在的一個financial field市場，另外可說value就是介紹我們可控性碰撞概率的預(yù)算，那么這里面通過通過我們整個EMC的計算來得出系統(tǒng)級的預(yù)期功能安全評價評價體系。

那么三第三塊是感知層的預(yù)期功能安全評價體系，那么這里面是感知也是分了兩塊，一個是結(jié)果導(dǎo)向的，就是根據(jù)我數(shù)字的結(jié)果，包括我們的感知精度、漏檢率、錯檢率等等這些來評價我們感知的結(jié)果是什么樣的一個評價指標，而這里也得到了一個佐證，就是前兩天跟特訓(xùn)李繼明女博士溝通的時候，某激光雷達廠家對他們算法性能的衰退也是同樣用到這樣的一個方法，對于不同的檢測距離，他們對未知因素的一個判斷。

也就是說我們對于某某個模塊的評價，不一定就是說非常復(fù)雜的算法，而是說用比較實用的，用比較大家容易理解容易接受的方法來對它進行評價。

另外就是內(nèi)因?qū)虻脑u價方法，內(nèi)因就是評價我們算法的不確定性，而這里是我們對采用我們的卡羅州號的一個不確定性如何進行一個評價。

那么預(yù)測層的預(yù)期功能安全評價體系其實是根據(jù)預(yù)測的不確定性，把它其實也是用了MC周刊，我們基于貝葉斯推斷的一個模型的不確定性分析的評估方法，然后來得出我們預(yù)測模塊整個不確定性分析的一個評價指標，當然評價的指標可能會比較適用于高校做理論研究，那么也不排除應(yīng)用在我們行業(yè)做預(yù)期的安全這樣一個評價體系，對于預(yù)測層這塊。

那么決策層這塊其實主要是研究決策的可解釋性和不確定性的一些評價指標，這里我們希望能夠得到?jīng)Q策層的可解釋性，還有它的不確定性的一些評價指標，這部分研究內(nèi)容還是在進程當中才，所以具體的結(jié)果可能得到明年才能跟大家進行一個探討，所以這里就是我介紹了一個評價體系的初步的思路，供大家參考，也歡迎大家就提出更多的寶貴意見。

注：本文根據(jù)現(xiàn)場速記整理，未經(jīng)演講嘉賓審閱，僅作為參考資料，請勿轉(zhuǎn)載！

返回第一電動網(wǎng)首頁 >