自動駕駛汽車是一臺高性能的邊緣計(jì)算設(shè)備。

為了驗(yàn)證自動駕駛汽車是否具有深入洞察推理性能，MLPerf組織發(fā)起了一項(xiàng)MLPerf Inference測試，該組織為了能夠讓機(jī)器學(xué)習(xí)處理器的基準(zhǔn)測試也像CPU那樣，囊括了該行業(yè)中的所有知名企業(yè)，比如英特爾、英偉達(dá)、阿里、Google和百度。

MLPerf Inference是測試推理性能的通用方法，通過邊緣計(jì)算等各種場景中的多項(xiàng)基準(zhǔn)測試，驗(yàn)證一項(xiàng)解決方案是否能夠出色地完成現(xiàn)如今汽車所需的多項(xiàng)任務(wù)，最終將成為衡量從低功耗SoC中的NPU到數(shù)據(jù)中心高性能加速器的標(biāo)準(zhǔn)。

其中，MLPerf Inference 0.5 基準(zhǔn)測試套件成績已經(jīng)公布，來自英偉達(dá)的NVIDIA Xavier系統(tǒng)級芯片和Turing GPU在在業(yè)內(nèi)首個獨(dú)立AI推理基準(zhǔn)套件MLPerf Inference 中大獲成功。

MLPerf 0.5推理測試是一套用于評估此類復(fù)雜工作負(fù)載的基準(zhǔn)測試，它通過邊緣計(jì)算等各種場景中的多項(xiàng)基準(zhǔn)測試，驗(yàn)證一項(xiàng)解決方案是否能夠出色地完成現(xiàn)如今汽車所需的多項(xiàng)任務(wù)，而不僅僅只是一項(xiàng)任務(wù)。

推理指的是在實(shí)時生產(chǎn)系統(tǒng)中，通過運(yùn)行AI模型，從大量數(shù)據(jù)中篩選出可執(zhí)行洞察的過程。

MLPerf通過五項(xiàng)基準(zhǔn)用于評估三個AI應(yīng)用性能，分別是圖像分類、目標(biāo)檢測和翻譯。該基準(zhǔn)所定義的服務(wù)器和線下場景與數(shù)據(jù)中心應(yīng)用的關(guān)聯(lián)度最高，而單流和多流場景則用于自動駕駛汽車等邊緣設(shè)備。

MLPerf Inference 0.5涵蓋了數(shù)據(jù)中心服務(wù)器以及邊緣和移動芯片系統(tǒng)場景。

我們知道未來汽車將能夠與人類駕駛員進(jìn)行對話，因此需要配備先進(jìn)的語音識別、自然語言處理和文本-語音轉(zhuǎn)換功能，而且這些功能全都要求低延遲。

此外，在車內(nèi)還有用于監(jiān)測駕駛員的深度神經(jīng)網(wǎng)絡(luò)，包括可以判定頭部姿勢、檢測眨眼情況和讀懂唇語的神經(jīng)網(wǎng)絡(luò)。

這些功能各異的神經(jīng)網(wǎng)絡(luò)系統(tǒng)將通過一系列不同類型的神經(jīng)網(wǎng)來處理各種類型的數(shù)據(jù)。此類網(wǎng)絡(luò)需要強(qiáng)大的處理性能來為自動駕駛汽車提供具有智能語音控制功能的用戶界面。

但是，當(dāng)所有制造商都表示其未來處理器所達(dá)到速度TOPS會越來越高時，我們?nèi)绾文艽_定這些處理器能夠?qū)崿F(xiàn)其所許的承諾？ 

顯然，這不僅涉及到處理器的原始峰值性能，還涉及到這些處理器如何處理AI工作負(fù)載。 

可以說，MLPerf基準(zhǔn)就是行業(yè)內(nèi)評估AI推理性能的一種方法。

對于芯片公司來說，用，MLPerf基準(zhǔn)進(jìn)行驗(yàn)證他們能夠更加清楚自己和競爭對手所處的位置，更重要的是，機(jī)器學(xué)習(xí)優(yōu)化的開放性性質(zhì)意味著芯片公司還有大量空間來優(yōu)化其系統(tǒng)以進(jìn)行將來的測試，以及設(shè)計(jì)更好的新硬件。

目前，英偉達(dá)是14家企業(yè)機(jī)構(gòu)中唯一一個提交了全部五項(xiàng)MLPerf 基準(zhǔn)測試結(jié)果的AI計(jì)算平臺公司。

英偉達(dá)的數(shù)據(jù)中心場景基準(zhǔn)測試結(jié)果排在第一位，Turing GPU成為市面上單處理器性能最高的產(chǎn)品 。

結(jié)果顯示，Xavier在邊緣場景中的表現(xiàn)超過了市面上其他的邊緣和移動芯片系統(tǒng)。

這一成就展現(xiàn)了英偉達(dá)在各種AI推理任務(wù)與應(yīng)用場景中的地位，而AI推理對于自動駕駛汽車的安全行駛來說不可或缺。

可以說，未來的汽車和卡車將由運(yùn)行著多種不同深度神經(jīng)網(wǎng)絡(luò)的AI超級計(jì)算機(jī)驅(qū)動。

這也就是為什么未來汽車將是一臺高性能的邊緣計(jì)算設(shè)備。

這臺高性能的邊緣計(jì)算設(shè)備除了應(yīng)對各種路況，它能夠接過控制權(quán)進(jìn)行自動駕駛，還能監(jiān)測駕駛員的反應(yīng)并進(jìn)行保護(hù)。

對此，汽車需要集成大量AI算法并在一臺能夠同時運(yùn)行多個不同神經(jīng)網(wǎng)絡(luò)的高性能計(jì)算機(jī)上運(yùn)行這些算法。

面對各種AI推理任務(wù)在測試中，英偉達(dá)DRIVE 同時運(yùn)行多個深度神經(jīng)網(wǎng)絡(luò)，通過各傳感器生成的海量數(shù)據(jù)感知車輛周圍環(huán)境。

這些深度神經(jīng)網(wǎng)絡(luò)必須能夠?qū)崟r分析關(guān)鍵數(shù)據(jù)，以執(zhí)行交叉路口識別和可行駛路線分類等各種不同的冗余功能。

這就是為何英偉達(dá) Xavier的基準(zhǔn)測試成績對于汽車制造商而言如此重要，Xavier處理器在兩種邊緣場景（單流和多流）中都被評為性能最高的商用邊緣和移動芯片系統(tǒng)。

目前，Xavier處理器驅(qū)動用于自動駕駛和智能駕駛艙應(yīng)用的NVIDIA DRIVE AGX計(jì)算機(jī)。

這臺AI超級計(jì)算機(jī)可同時運(yùn)行多達(dá)20個深度神經(jīng)網(wǎng)絡(luò)，其中包括多種理解周圍環(huán)境的模型。

比如，檢測車道標(biāo)記線的LaneNet、檢測可行駛路徑的PathNet、判定中心線的PilotNet、識別道路標(biāo)志的SignNet、識別交通信號燈的LightNet、用于交叉路口檢測的WaitNet、探測障礙物的DriveNet、檢測可駕駛空間的OpenRoadNet 以及確認(rèn)停車位位置的ParkNet等。

這些功能都是L2級別以上自動駕駛汽車必要能力。

可以認(rèn)為，多流場景可以測試芯片能夠處理數(shù)據(jù)源的數(shù)量，配備多種傳感器的自動駕駛汽車是必須能夠?qū)崟r處理這些不同數(shù)據(jù)源的典型邊緣設(shè)備。

與此同時，此次測試結(jié)果展示了英偉達(dá)處理器上 CUDA 和TensorRT軟件的性能，它們提供了一個使我們在多個產(chǎn)品和應(yīng)用中取得領(lǐng)先結(jié)果的通用平臺，而這就是英偉達(dá)所獨(dú)有的能力。 

在實(shí)際工作負(fù)載中，由于推理需要大量預(yù)處理和后處理步驟，因此其要求極為苛刻。

這就是為什么越來越多的行業(yè)選擇使用高性能的英偉達(dá)平臺來處理推理工作，其中包括BMW、Capital One、思科、Expedia、John Deere、微軟、PayPal、Pinterest、寶潔、Postmates、Shazam、Snap、Shopify、Twitter、Verizon和沃爾瑪?shù)葮O具遠(yuǎn)見的的交通運(yùn)輸和科技公司。

未來，會話式AI將帶來大量的機(jī)會以及技術(shù)方面的挑戰(zhàn)，英偉達(dá)在這一領(lǐng)域已經(jīng)做好準(zhǔn)備。

英偉達(dá)DRIVE IX是一個智能體驗(yàn)平臺，在AI驅(qū)動下可提供車輛與車內(nèi)人員的交互功能。該平臺通過嵌入式語音軟件實(shí)現(xiàn)乘客和駕駛員與汽車的自然對話。

除了AI智能駕駛艙之外，英偉達(dá)還為會話式AI服務(wù)提供了經(jīng)過優(yōu)化的參照設(shè)計(jì)，比如自動語音識別、文本-語言轉(zhuǎn)換和自然語言理解等。NVIDIA的BERT、GNMT 和Jasper 等AI模型開源優(yōu)化幫助開發(fā)者實(shí)現(xiàn)頂尖推理性能。

英偉達(dá)表示，“NVIDIA Turing GPU和NVIDIA Xavier系統(tǒng)級芯片在MLPerf基準(zhǔn)測試中取得了在各自細(xì)分市場的最好成績?，F(xiàn)如今，每天都有許多公司自稱自己在AI技術(shù)領(lǐng)域取得了卓越的成果，令人難辨真假。MLPerf 0.5推理結(jié)果就是為了通過多項(xiàng)測試中的實(shí)際性能和表現(xiàn)辨別這些信息的真實(shí)性。測試結(jié)果表明，NVIDIA Xavier系統(tǒng)級芯片是未來汽車制造商的首選?！?/p>

返回第一電動網(wǎng)首頁 >