2017年3月,歐洲Euro-NCAP(安全評(píng)鑒協(xié)會(huì))發(fā)布了新一系列包擴(kuò)奧迪、豐田、路虎等在內(nèi)的車(chē)型的碰撞測(cè)試結(jié)果,其中路虎的發(fā)現(xiàn)車(chē)型獲得了五星。獲得五星的路虎車(chē)型,搭載的主動(dòng)安全系統(tǒng)中,前向采用了雙目攝像頭的方案,而這個(gè)方案也成為了它能脫穎而出的關(guān)鍵。
作為汽車(chē)主動(dòng)安全系統(tǒng)的一個(gè)重要傳感器,攝像頭已經(jīng)在業(yè)內(nèi)成名許久。聲明卓著的Mobileye用十余年的時(shí)間將單目的性能發(fā)揮到了極致,被英特爾153億美金收購(gòu)后更是成為了單目寡頭。敢于同其直面競(jìng)爭(zhēng)者寥寥無(wú)幾,于是乎鮮有的幾家初創(chuàng)公司,選擇了從雙目的方案開(kāi)始切入。
雙目系統(tǒng)的原理跟單目完全不同,需要的技術(shù)積累和克服的難點(diǎn)也不同。在新的賽道上,同業(yè)者不多,國(guó)外博世、大陸等廠商雖早有發(fā)力,但性能一般,而國(guó)內(nèi)更是屈指可數(shù)。
成立于2017年的元橡科技,算是一家低調(diào)又少數(shù)的雙目立體攝像頭的軟硬件一體方案商。公司團(tuán)隊(duì)雖小,但核心成員都有豐富的研發(fā)經(jīng)驗(yàn),產(chǎn)品性能優(yōu)異。
雙目方案需要神同步
2015年前后,國(guó)內(nèi)ADAS市場(chǎng)迎來(lái)了一個(gè)高潮期,各種ADAS掛名的公司如雨后春筍般野蠻生長(zhǎng)了起來(lái)。元橡科技創(chuàng)始人發(fā)現(xiàn)ADAS雖熱,但核心的視覺(jué)傳感器能力還是差強(qiáng)人意,于是便萌生了出來(lái)創(chuàng)業(yè)的念頭。
在計(jì)算機(jī)視覺(jué)領(lǐng)域摸爬滾打了十余年的元橡科技創(chuàng)業(yè)團(tuán)隊(duì),對(duì)攝像頭的軟硬件技術(shù)都熟捻于心。他們認(rèn)識(shí)到在單目攝像頭的方案方面跟頭部競(jìng)爭(zhēng)者有太多距離,一時(shí)難以追趕。
而在雙目方面,由于技術(shù)路線(xiàn)的不同,還有較大機(jī)會(huì)和空間。至此,自創(chuàng)立之初,元橡科技團(tuán)隊(duì)就載著做雙目視覺(jué)方案的世界佼佼者的愿景,順著軟硬件一體化的道路向前走。
雙目跟單目最大的區(qū)別是,前者需要軟硬件的聯(lián)合優(yōu)化,這也是為什么公司要做軟硬件一體的解決方案商。
雙目攝像頭的方案,CMOS融合圖像數(shù)據(jù)需要相匹配的ISP處理,現(xiàn)有的ISP方案都是針對(duì)單目的,不太適合做雙目的處理,所以元橡科技從ISP這個(gè)硬骨頭開(kāi)始啃,爭(zhēng)取在相機(jī)的每個(gè)處理單元做到最優(yōu)。
立體視覺(jué)的一個(gè)難點(diǎn)就是相機(jī)的同步問(wèn)題。立體測(cè)量距離的基本原理是三角測(cè)量,用兩個(gè)攝像頭拍同一個(gè)景,通過(guò)圖像的差異來(lái)測(cè)量距離。
而為了達(dá)到這一效果,首先兩個(gè)攝像頭要做到同步。圖像的每一幀本身會(huì)因?yàn)闀r(shí)間的變化和外部環(huán)境的變化存在差異,而雙目測(cè)距的原理正是通過(guò)相同場(chǎng)景的不同視角來(lái)得出的,如果兩個(gè)相機(jī)在拍攝的時(shí)候不能達(dá)到同步,那么就會(huì)造成測(cè)距的源參照物發(fā)生錯(cuò)位,造成的連鎖誤差也是不可逆的。利用雙目攝像頭測(cè)距的原理得出的結(jié)果,也就本質(zhì)上錯(cuò)了。
立體視覺(jué)的另外一個(gè)難點(diǎn)就是兩個(gè)相機(jī)的一致性問(wèn)題,就像天下沒(méi)有兩片相同的葉子,哪怕是工業(yè)流水線(xiàn)上生產(chǎn)出來(lái)的相機(jī),也存在一定的差異性。
因此,為了使得立體相機(jī)達(dá)到同步拍攝,系統(tǒng)的軟件結(jié)構(gòu)、運(yùn)行機(jī)制都需要進(jìn)行軟硬件調(diào)整,才能達(dá)到統(tǒng)一性。
市場(chǎng)上大部分宣傳能夠達(dá)到同步效果的,實(shí)際上還是用原有的ISP來(lái)做,但原來(lái)的ISP實(shí)際上是針對(duì)單目相機(jī)設(shè)計(jì)的,控制只能達(dá)到幀級(jí)別。元橡科技基于自身的技術(shù),目前可以達(dá)到像素級(jí)別的對(duì)齊,這種技術(shù)在業(yè)內(nèi)也屬領(lǐng)先。
用數(shù)據(jù)說(shuō)話(huà)
雙目相機(jī)有一個(gè)非常關(guān)鍵的參數(shù)——Baseline,即兩個(gè)攝像頭之間的距離。距離越小,結(jié)構(gòu)穩(wěn)定性越好;但同時(shí)越小的間距,測(cè)量相同距離的難度也會(huì)越高。
雙目攝像頭在汽車(chē)上使用的環(huán)境非常惡劣,不僅要承受巨大的溫差變化,暴曬雨淋冰凍,還需要經(jīng)受常年累月的顛簸。
由于雙目攝像頭測(cè)距的原理是三角測(cè)距原理,因此作為三角測(cè)量標(biāo)準(zhǔn)尺的底邊——攝像頭之間的相對(duì)位置是不能發(fā)生改變的,否則結(jié)果將會(huì)是錯(cuò)的。產(chǎn)品結(jié)構(gòu)的穩(wěn)定性是隨著攝像頭間距的增大呈指數(shù)級(jí)別增加的,為此,保持雙目攝像頭結(jié)構(gòu)的穩(wěn)定性就成了頂要緊的事。
而間距越小,準(zhǔn)確測(cè)距的難度就越大。這對(duì)于雙目攝像頭的發(fā)展而言是一個(gè)矛盾的存在。
元橡科技目前可以做到小于10cm的Baseline下,測(cè)距范圍達(dá)到100米,精度達(dá)到95%以上,測(cè)距性能指標(biāo)是業(yè)內(nèi)其他已知競(jìng)爭(zhēng)對(duì)手的兩倍左右。高性能、小尺寸、低成本是公司產(chǎn)品的優(yōu)勢(shì)。
正如之前《高工智能汽車(chē)》寫(xiě)的一篇文章中所述(點(diǎn)擊瀏覽ADAS單目/雙目/三目到底有什么區(qū)別?),雙目測(cè)距的方案對(duì)于兩個(gè)攝像頭的一致性要求非常高。但元橡科技使用的鏡頭,只是一般的鏡頭,并沒(méi)有采用很高的規(guī)格,國(guó)內(nèi)舜宇,歐菲光生產(chǎn)的都可以使用。這是因?yàn)樵鹂萍纪ㄟ^(guò)自身的圖像矯正算法,可以消除掉攝像頭差異帶來(lái)的問(wèn)題。
這種技術(shù)得益于他們?cè)谌掌笾泄ぷ鞯慕?jīng)驗(yàn),日本在精密制造領(lǐng)域擁有相當(dāng)?shù)膶?shí)力。在以往的工作經(jīng)驗(yàn)中,并不會(huì)尋找品質(zhì)最好的鏡頭,因?yàn)椴焕诖笠?guī)模產(chǎn)品化,于是在通用的鏡頭中尋找一致性較好的兩枚攝像頭,然后通過(guò)軟件算法的調(diào)教,消除差異。5%-10%的畸變誤差都會(huì)刷掉大部分日本生產(chǎn)廠商。
鏡頭的安裝是一片片鏡片層層疊加在一塊,公司花了很大的精力去做非一致性的容忍。從30度到90度的鏡頭,都可以支持。另外廣角的非球面鏡片本身生產(chǎn)就有很大的難度,但團(tuán)隊(duì)現(xiàn)在的技術(shù)也已經(jīng)可以達(dá)到要求。
元橡科技核心人員透露,能攻克這些技術(shù)難關(guān),需要耐心和靜心,它是一個(gè)基礎(chǔ)的研究,但國(guó)內(nèi)的環(huán)境整體較為浮躁,個(gè)中不僅僅是后端算法的彌補(bǔ),還需要硬件層面的調(diào)整,少有團(tuán)隊(duì)能沉下心來(lái)做事情。
單雙目的失真
單目跟雙目本身存在功能性上的不同,雙目是用來(lái)測(cè)距,單目是用來(lái)識(shí)別。簡(jiǎn)而言之,雙目是在單目的基礎(chǔ)上加了一維深度信息。
單目是2D的,真實(shí)的世界是3D的,因此單目拍出來(lái)的2D照片失去了現(xiàn)實(shí)世界一個(gè)維度的信息,這個(gè)缺失的信息對(duì)于車(chē)載又是至關(guān)重要的。
為了接近真實(shí)環(huán)境,單目需要通過(guò)其他的信息來(lái)彌補(bǔ)缺失的另一維度的信息。這就是單目方案需要大量樣本庫(kù)的原因,單目需要首先識(shí)別物體,然后才能通過(guò)成像尺寸或者在圖像中的位置信息得到距離信息。無(wú)論是深度學(xué)習(xí),還是傳統(tǒng)的方式,都是在補(bǔ)缺失去的信息。
單目的工作原理造成它常常會(huì)存在漏檢的情況,對(duì)于陌生的障礙物無(wú)法識(shí)別,這時(shí)候會(huì)直接導(dǎo)致事故。ADAS層級(jí)越高,視覺(jué)必須要得到距離來(lái)補(bǔ)充,才能得到一個(gè)完備的結(jié)果。
而雙目實(shí)際上是一個(gè)2.5D的傳感器,攝像頭拍攝的圖像是2維的,雙目測(cè)距獲得的距離信息是一個(gè)0.5維度(無(wú)法獲取障礙物背部的信息),因此通常將雙目稱(chēng)為2.5維的傳感器。
雙目做ADAS不需要樣本庫(kù),測(cè)距直接通過(guò)簡(jiǎn)單的規(guī)則——將路面以及周?chē)怀龅奈矬w都視為障礙物,整個(gè)算法是全白盒化的,不會(huì)存在識(shí)別不到的問(wèn)題。而且一旦出現(xiàn)問(wèn)題,就可以直接找到原因,不會(huì)像單目深度學(xué)習(xí)算法是黑盒的邏輯。當(dāng)然雙目能夠得到這樣的結(jié)果,一切都是建立在準(zhǔn)確獲取測(cè)距結(jié)果的基礎(chǔ)上的。
單目的核心是數(shù)據(jù)庫(kù)和算法的,但雙目是需要聯(lián)合優(yōu)化,立體匹配,兩個(gè)相機(jī)的一致性,整個(gè)的優(yōu)化流程都不一樣。博世的長(zhǎng)期研發(fā)的團(tuán)隊(duì)有數(shù)十人之多,但技術(shù)水平并沒(méi)有提高太大。
優(yōu)化難度之所以較大,是因?yàn)殡p目的優(yōu)化需要軟硬件同時(shí)進(jìn)行,而且本質(zhì)上而言硬件的優(yōu)化是重中之重。
因此對(duì)于調(diào)校的工程師而言,需具備硬件工程師的思維,只有這樣,才能讓硬件發(fā)揮到極致性能。能達(dá)到這些要求的工程師,業(yè)內(nèi)給了一個(gè)稱(chēng)號(hào):全棧工程師,他們?cè)趪?guó)內(nèi)非常稀少。
這些人才需要在軟硬件方面都具備一定的知識(shí)儲(chǔ)備,在光學(xué)成像、軟件算法、硬件電路方面都得有所涉足,因此人才較為稀缺。
元橡科技的核心技術(shù)人員,已經(jīng)有超過(guò)5年的團(tuán)隊(duì)工作經(jīng)驗(yàn),因此相互協(xié)調(diào)工作已經(jīng)有了很大的默契。加上行業(yè)經(jīng)驗(yàn),才能迅速的將產(chǎn)品更完善的展現(xiàn)出來(lái)。
元橡科技新招募的工程師很多都是從名校畢業(yè)的應(yīng)屆畢業(yè)生,學(xué)歷至少為碩士。這些人才需要既懂硬件,又懂軟件。
他們大部分的背景是做視覺(jué)、芯片邏輯的,剛開(kāi)始公司并不會(huì)急于員工進(jìn)行開(kāi)發(fā),產(chǎn)生效益。而是會(huì)培養(yǎng)員工的各方面能力,只有這樣,才會(huì)使得新來(lái)的員工在后續(xù)的研發(fā)過(guò)程中,自然而然的具備合適的思維模式。
立體相機(jī)為何物?
立體相機(jī)并不是形態(tài)上必須是雙目或者多目,而是它所拍攝出來(lái)的圖片一定要經(jīng)過(guò)立體的匹配,點(diǎn)對(duì)點(diǎn)的匹配和優(yōu)化,最終得到一個(gè)稠密的視差圖,或者說(shuō)深度圖。整個(gè)過(guò)程需要性能強(qiáng)大的處理器完成,沒(méi)有這個(gè)過(guò)程,是不能稱(chēng)之為立體相機(jī)的。
三目的立體相機(jī)和三目成像相機(jī)也是有不同的。三個(gè)不同F(xiàn)OV的攝像頭,沒(méi)有立體匹配,就不能稱(chēng)之為立體相機(jī)。原來(lái)的車(chē)載攝像頭分辨率有限,因此三目成像相機(jī)本質(zhì)上是一個(gè)二維相機(jī),跟單目原理一樣,只是為了覆蓋更遠(yuǎn)的距離,更廣的角度。
特斯拉曾想通過(guò)三目立體相機(jī)的原理,測(cè)算出距離。就是通過(guò)不同視差角的攝像頭拍攝圖像的重疊區(qū)差異性,計(jì)算得出障礙物距離。但是這種技術(shù)本身存在一個(gè)較大的技術(shù)難點(diǎn),就是不同廣角的鏡頭拍照以及曝光的時(shí)間不同,兩個(gè)攝像頭拍照的時(shí)候成像的相同的位置時(shí)間是不一樣的,很難保證同步。
舉例來(lái)說(shuō),攝像頭長(zhǎng)焦的和廣角的某一行像素點(diǎn)是同時(shí)曝光的,但其中只有少數(shù)幾個(gè)像素點(diǎn)能達(dá)到時(shí)間的絕對(duì)同步。剩下的大部分像素點(diǎn)曝光時(shí)間都不在一個(gè)時(shí)間點(diǎn)上。
這種微小的差異在高速運(yùn)動(dòng)中就會(huì)被放大,也就造成了雙目測(cè)距距離不遠(yuǎn)的原因。所謂差之毫厘謬以千里,說(shuō)的就是這個(gè)道理。
為了解決這個(gè)問(wèn)題,在當(dāng)前的技術(shù)條件下,除非CMOS廠家做一些工藝上的特殊處理,比如讓人們可以控制每一個(gè)像素點(diǎn)的曝光時(shí)間,但實(shí)現(xiàn)的難度比較大。
因?yàn)閲?guó)際上知名的CMOS廠商都是巨頭,如索尼、三星等,他們的業(yè)務(wù)在車(chē)載領(lǐng)域占比較小,而作為已經(jīng)成熟的標(biāo)準(zhǔn)的工藝,是很難為一些企業(yè)做出調(diào)整、修改,明星如特斯拉都不行。
因此現(xiàn)階段而言,三目想要做成立體相機(jī)是很難的,短距離測(cè)距可能會(huì)有,但意義并不是很大。這也是特斯拉后來(lái)為什么放棄做三目攝像頭(Mobileye提供技術(shù)支持)的主要原因。
在現(xiàn)有的基礎(chǔ)上,為了實(shí)現(xiàn)類(lèi)似的三目效果,可行的方式是通過(guò)多個(gè)雙目相機(jī)實(shí)現(xiàn),比如現(xiàn)在元橡科技就在嘗試做四目甚至六目的相機(jī)來(lái)實(shí)現(xiàn)不同測(cè)距范圍的多角度覆蓋,將雙目當(dāng)做單目來(lái)用。
雙目需要FPGA來(lái)做
視覺(jué)方案不可避免的要用到高性能的處理器,但NVIDIA的三高處理器并不適合,F(xiàn)PGA的方案才是可取之道。
一般算法驗(yàn)證會(huì)在PC上用GPU來(lái)做,但做產(chǎn)品化并不會(huì)用GPU的方案。這與平臺(tái)的適應(yīng)性有關(guān),一般來(lái)講,端上智能更適合用FPGA、芯片的方式,它需要完成大量高速的重復(fù)運(yùn)算,最好是用高計(jì)算能力的專(zhuān)用芯片完成。
類(lèi)似于NVIDIA的方案,實(shí)現(xiàn)一個(gè)通用計(jì)算平臺(tái),功耗大,即使是降到現(xiàn)在宣稱(chēng)的15W,如果沒(méi)有主動(dòng)散熱系統(tǒng),還是很難正常工作的。NVIDIA的方案,更適合多傳感器融合、無(wú)人駕駛大腦的場(chǎng)景。
之所以有些公司會(huì)嘗試用GPU的方案,是因?yàn)镚PU 的開(kāi)發(fā)相對(duì)簡(jiǎn)單一些,大部分通過(guò)原有的C語(yǔ)言修改就可以使用。
元橡科技的FPGA已經(jīng)迭代了好幾代,技術(shù)成熟需要走過(guò)無(wú)數(shù)的坑,沒(méi)有誰(shuí)可以輕松跨過(guò)。
雙目的攝像頭是一個(gè)天然融合的傳感器,它將深度學(xué)習(xí)和圖像學(xué)習(xí)糅合,使得后續(xù)的處理速度會(huì)非常快。
元橡科技使用FPGA的方式,將傳感器深度圖像生成的時(shí)間壓縮到了毫秒級(jí)別,這意味著處理解析圖像數(shù)據(jù),得出結(jié)果幾乎是實(shí)時(shí)的,給控制決策部分留下了非常充裕的時(shí)間。
傳統(tǒng)的GPU的方案,在處理圖像前,首先得將圖像緩存,這個(gè)時(shí)間大概會(huì)花費(fèi)30ms左右的時(shí)間,之后完成圖像的特征提取。因此縱使GPU的計(jì)算能力再?gòu)?qiáng),但前面的緩存時(shí)間是沒(méi)有辦法忽略掉的。
而用FPGA的方案,則用時(shí)會(huì)很少,當(dāng)圖片在從一個(gè)像素一個(gè)像素生成的過(guò)程中,就可以通過(guò)有限的幾個(gè)像素點(diǎn)計(jì)算對(duì)比出差異,提交給處理器得出計(jì)算結(jié)果。整個(gè)過(guò)程是幾乎實(shí)時(shí)完成的,為中央處理器做控制、決策留出了充沛的時(shí)間。
這也是為什么在NCAP的評(píng)比中,路虎的雙目方案可以獲得滿(mǎn)分的原因。這里面有一個(gè)核心的問(wèn)題——系統(tǒng)的復(fù)雜性造成延時(shí)性不一樣。
雙目的趨勢(shì)
奔馳2016年前只在S系的車(chē)型中試驗(yàn)了雙目,但到了2017年的時(shí)候,其銷(xiāo)量最廣的E系列車(chē)型,都已經(jīng)標(biāo)配了雙目。
后來(lái)寶馬的5系也跟上了,而路虎走的更為激進(jìn)。前視傳感器中將雷達(dá)去掉,只用雙目的方案(但是它還是憑借單一傳感器拿到了N-CAP的第一名,英國(guó)當(dāng)年的最佳安全車(chē)型獎(jiǎng))。
雙目能夠取得很好的效果,已經(jīng)得到了國(guó)外主流的一些主機(jī)廠的認(rèn)可。包括一些知名的Tier-1,也在發(fā)展自己的雙目能力,如博世、大陸等,Mobileye也在一直修煉內(nèi)功。國(guó)內(nèi)主機(jī)廠需要看到這個(gè)趨勢(shì)。
盡管雙目擁有一定的技術(shù)優(yōu)勢(shì),但由于供應(yīng)商太少,整體聲音較弱。國(guó)內(nèi)無(wú)論主機(jī)廠還是市場(chǎng)對(duì)雙目方案的認(rèn)可度、信任度都比較低。
只做高利潤(rùn)的Tier-2
元橡科技的目標(biāo)和定位都是做Tier-2,這不僅僅是因?yàn)橄胍焖僬碱I(lǐng)市場(chǎng),必須依賴(lài)Tier-1等巨頭幫忙推進(jìn),另一方面,作為一個(gè)技術(shù)型的公司,擁有了一定的技術(shù)壁壘之后,只需要提供技術(shù)方案獲取最高利潤(rùn)即可,并不需要去做生產(chǎn)制造。
生產(chǎn)制造是一個(gè)繁復(fù)冗余的過(guò)程,需要完善的管理、精密的管控,一般Tier-1或者主機(jī)廠也會(huì)愿意指定一些擁有相應(yīng)制造實(shí)力的公司。
同時(shí)如果公司涉足了生產(chǎn),就會(huì)潛在的成為原來(lái)一些有實(shí)力的制造商的競(jìng)爭(zhēng)者,對(duì)于發(fā)展而言并不有利。因此元橡科技未來(lái)也不打算涉足生產(chǎn)制造環(huán)節(jié),會(huì)像國(guó)外的科技公司一樣只提供技術(shù)方案。
目前元橡科技的人員有20余人,已經(jīng)拿到了眾多主機(jī)廠的合作訂單,會(huì)在近期完成一輪融資。將核心研發(fā)人員擴(kuò)充到40人,周邊應(yīng)用開(kāi)發(fā)人員要達(dá)到20人,還要建立自己的FAE團(tuán)隊(duì),用來(lái)培養(yǎng)Tier-1或者主機(jī)廠的工作人員。
另外除了北京是核心研發(fā)的駐地外,元橡在上海也設(shè)立了產(chǎn)品應(yīng)用的部門(mén),用來(lái)服務(wù)長(zhǎng)三角周邊的大量主機(jī)廠客戶(hù)。
公司希望將來(lái)把產(chǎn)品做成一個(gè)標(biāo)準(zhǔn)件,然后批量給主機(jī)廠、自動(dòng)駕駛公司使用,而不是忙不迭的做一個(gè)又一個(gè)的定制項(xiàng)目。同時(shí),未來(lái)希望做全球頂級(jí)的雙目視覺(jué)軟硬件方案提供商。
公司目前主要的合作伙伴將會(huì)是Tier-1、主機(jī)廠,自動(dòng)駕駛相關(guān)的將會(huì)稍微偏弱,畢竟離應(yīng)用太遠(yuǎn)。但也會(huì)做一些典型的CASE,用來(lái)培育市場(chǎng)(元橡科技在OpenSpace中可以達(dá)到幾乎100%的可靠性,自動(dòng)駕駛公司可以通過(guò)公司的方案來(lái)做路徑規(guī)劃)。
除了在車(chē)載領(lǐng)域的應(yīng)用,元橡還涉足了機(jī)器人、無(wú)人機(jī)等領(lǐng)域。計(jì)算機(jī)視覺(jué)的技術(shù),原本就是相通的,如果能服務(wù)于車(chē)載領(lǐng)域,那么在消費(fèi)領(lǐng)域和工業(yè)領(lǐng)域也順理成章。
來(lái)源:高工智能汽車(chē)
本文地址:http://www.medic-health.cn/news/shichang/64828
以上內(nèi)容轉(zhuǎn)載自高工智能汽車(chē),目的在于傳播更多信息,如有侵僅請(qǐng)聯(lián)系admin#d1ev.com(#替換成@)刪除,轉(zhuǎn)載內(nèi)容并不代表第一電動(dòng)網(wǎng)(www.medic-health.cn)立場(chǎng)。
文中圖片源自互聯(lián)網(wǎng),如有侵權(quán)請(qǐng)聯(lián)系admin#d1ev.com(#替換成@)刪除。