自動(dòng)駕駛汽車(chē)是一臺(tái)高性能的邊緣計(jì)算設(shè)備。

為了驗(yàn)證自動(dòng)駕駛汽車(chē)是否具有深入洞察推理性能，MLPerf組織發(fā)起了一項(xiàng)MLPerf Inference測(cè)試，該組織為了能夠讓機(jī)器學(xué)習(xí)處理器的基準(zhǔn)測(cè)試也像CPU那樣，囊括了該行業(yè)中的所有知名企業(yè)，比如英特爾、英偉達(dá)、阿里、Google和百度。

MLPerf Inference是測(cè)試推理性能的通用方法，通過(guò)邊緣計(jì)算等各種場(chǎng)景中的多項(xiàng)基準(zhǔn)測(cè)試，驗(yàn)證一項(xiàng)解決方案是否能夠出色地完成現(xiàn)如今汽車(chē)所需的多項(xiàng)任務(wù)，最終將成為衡量從低功耗SoC中的NPU到數(shù)據(jù)中心高性能加速器的標(biāo)準(zhǔn)。

其中，MLPerf Inference 0.5 基準(zhǔn)測(cè)試套件成績(jī)已經(jīng)公布，來(lái)自英偉達(dá)的NVIDIA Xavier系統(tǒng)級(jí)芯片和Turing GPU在在業(yè)內(nèi)首個(gè)獨(dú)立AI推理基準(zhǔn)套件MLPerf Inference 中大獲成功。

MLPerf 0.5推理測(cè)試是一套用于評(píng)估此類(lèi)復(fù)雜工作負(fù)載的基準(zhǔn)測(cè)試，它通過(guò)邊緣計(jì)算等各種場(chǎng)景中的多項(xiàng)基準(zhǔn)測(cè)試，驗(yàn)證一項(xiàng)解決方案是否能夠出色地完成現(xiàn)如今汽車(chē)所需的多項(xiàng)任務(wù)，而不僅僅只是一項(xiàng)任務(wù)。

推理指的是在實(shí)時(shí)生產(chǎn)系統(tǒng)中，通過(guò)運(yùn)行AI模型，從大量數(shù)據(jù)中篩選出可執(zhí)行洞察的過(guò)程。

MLPerf通過(guò)五項(xiàng)基準(zhǔn)用于評(píng)估三個(gè)AI應(yīng)用性能，分別是圖像分類(lèi)、目標(biāo)檢測(cè)和翻譯。該基準(zhǔn)所定義的服務(wù)器和線下場(chǎng)景與數(shù)據(jù)中心應(yīng)用的關(guān)聯(lián)度最高，而單流和多流場(chǎng)景則用于自動(dòng)駕駛汽車(chē)等邊緣設(shè)備。

MLPerf Inference 0.5涵蓋了數(shù)據(jù)中心服務(wù)器以及邊緣和移動(dòng)芯片系統(tǒng)場(chǎng)景。

我們知道未來(lái)汽車(chē)將能夠與人類(lèi)駕駛員進(jìn)行對(duì)話，因此需要配備先進(jìn)的語(yǔ)音識(shí)別、自然語(yǔ)言處理和文本-語(yǔ)音轉(zhuǎn)換功能，而且這些功能全都要求低延遲。

此外，在車(chē)內(nèi)還有用于監(jiān)測(cè)駕駛員的深度神經(jīng)網(wǎng)絡(luò)，包括可以判定頭部姿勢(shì)、檢測(cè)眨眼情況和讀懂唇語(yǔ)的神經(jīng)網(wǎng)絡(luò)。

這些功能各異的神經(jīng)網(wǎng)絡(luò)系統(tǒng)將通過(guò)一系列不同類(lèi)型的神經(jīng)網(wǎng)來(lái)處理各種類(lèi)型的數(shù)據(jù)。此類(lèi)網(wǎng)絡(luò)需要強(qiáng)大的處理性能來(lái)為自動(dòng)駕駛汽車(chē)提供具有智能語(yǔ)音控制功能的用戶界面。

但是，當(dāng)所有制造商都表示其未來(lái)處理器所達(dá)到速度TOPS會(huì)越來(lái)越高時(shí)，我們?nèi)绾文艽_定這些處理器能夠?qū)崿F(xiàn)其所許的承諾？ 

顯然，這不僅涉及到處理器的原始峰值性能，還涉及到這些處理器如何處理AI工作負(fù)載。 

可以說(shuō)，MLPerf基準(zhǔn)就是行業(yè)內(nèi)評(píng)估AI推理性能的一種方法。

對(duì)于芯片公司來(lái)說(shuō)，用，MLPerf基準(zhǔn)進(jìn)行驗(yàn)證他們能夠更加清楚自己和競(jìng)爭(zhēng)對(duì)手所處的位置，更重要的是，機(jī)器學(xué)習(xí)優(yōu)化的開(kāi)放性性質(zhì)意味著芯片公司還有大量空間來(lái)優(yōu)化其系統(tǒng)以進(jìn)行將來(lái)的測(cè)試，以及設(shè)計(jì)更好的新硬件。

目前，英偉達(dá)是14家企業(yè)機(jī)構(gòu)中唯一一個(gè)提交了全部五項(xiàng)MLPerf 基準(zhǔn)測(cè)試結(jié)果的AI計(jì)算平臺(tái)公司。

英偉達(dá)的數(shù)據(jù)中心場(chǎng)景基準(zhǔn)測(cè)試結(jié)果排在第一位，Turing GPU成為市面上單處理器性能最高的產(chǎn)品 。

結(jié)果顯示，Xavier在邊緣場(chǎng)景中的表現(xiàn)超過(guò)了市面上其他的邊緣和移動(dòng)芯片系統(tǒng)。

這一成就展現(xiàn)了英偉達(dá)在各種AI推理任務(wù)與應(yīng)用場(chǎng)景中的地位，而AI推理對(duì)于自動(dòng)駕駛汽車(chē)的安全行駛來(lái)說(shuō)不可或缺。

可以說(shuō)，未來(lái)的汽車(chē)和卡車(chē)將由運(yùn)行著多種不同深度神經(jīng)網(wǎng)絡(luò)的AI超級(jí)計(jì)算機(jī)驅(qū)動(dòng)。

這也就是為什么未來(lái)汽車(chē)將是一臺(tái)高性能的邊緣計(jì)算設(shè)備。

這臺(tái)高性能的邊緣計(jì)算設(shè)備除了應(yīng)對(duì)各種路況，它能夠接過(guò)控制權(quán)進(jìn)行自動(dòng)駕駛，還能監(jiān)測(cè)駕駛員的反應(yīng)并進(jìn)行保護(hù)。

對(duì)此，汽車(chē)需要集成大量AI算法并在一臺(tái)能夠同時(shí)運(yùn)行多個(gè)不同神經(jīng)網(wǎng)絡(luò)的高性能計(jì)算機(jī)上運(yùn)行這些算法。

面對(duì)各種AI推理任務(wù)在測(cè)試中，英偉達(dá)DRIVE 同時(shí)運(yùn)行多個(gè)深度神經(jīng)網(wǎng)絡(luò)，通過(guò)各傳感器生成的海量數(shù)據(jù)感知車(chē)輛周?chē)h(huán)境。

這些深度神經(jīng)網(wǎng)絡(luò)必須能夠?qū)崟r(shí)分析關(guān)鍵數(shù)據(jù)，以執(zhí)行交叉路口識(shí)別和可行駛路線分類(lèi)等各種不同的冗余功能。

這就是為何英偉達(dá) Xavier的基準(zhǔn)測(cè)試成績(jī)對(duì)于汽車(chē)制造商而言如此重要，Xavier處理器在兩種邊緣場(chǎng)景（單流和多流）中都被評(píng)為性能最高的商用邊緣和移動(dòng)芯片系統(tǒng)。

目前，Xavier處理器驅(qū)動(dòng)用于自動(dòng)駕駛和智能駕駛艙應(yīng)用的NVIDIA DRIVE AGX計(jì)算機(jī)。

這臺(tái)AI超級(jí)計(jì)算機(jī)可同時(shí)運(yùn)行多達(dá)20個(gè)深度神經(jīng)網(wǎng)絡(luò)，其中包括多種理解周?chē)h(huán)境的模型。

比如，檢測(cè)車(chē)道標(biāo)記線的LaneNet、檢測(cè)可行駛路徑的PathNet、判定中心線的PilotNet、識(shí)別道路標(biāo)志的SignNet、識(shí)別交通信號(hào)燈的LightNet、用于交叉路口檢測(cè)的WaitNet、探測(cè)障礙物的DriveNet、檢測(cè)可駕駛空間的OpenRoadNet 以及確認(rèn)停車(chē)位位置的ParkNet等。

這些功能都是L2級(jí)別以上自動(dòng)駕駛汽車(chē)必要能力。

可以認(rèn)為，多流場(chǎng)景可以測(cè)試芯片能夠處理數(shù)據(jù)源的數(shù)量，配備多種傳感器的自動(dòng)駕駛汽車(chē)是必須能夠?qū)崟r(shí)處理這些不同數(shù)據(jù)源的典型邊緣設(shè)備。

與此同時(shí)，此次測(cè)試結(jié)果展示了英偉達(dá)處理器上 CUDA 和TensorRT軟件的性能，它們提供了一個(gè)使我們?cè)诙鄠€(gè)產(chǎn)品和應(yīng)用中取得領(lǐng)先結(jié)果的通用平臺(tái)，而這就是英偉達(dá)所獨(dú)有的能力。 

在實(shí)際工作負(fù)載中，由于推理需要大量預(yù)處理和后處理步驟，因此其要求極為苛刻。

這就是為什么越來(lái)越多的行業(yè)選擇使用高性能的英偉達(dá)平臺(tái)來(lái)處理推理工作，其中包括BMW、Capital One、思科、Expedia、John Deere、微軟、PayPal、Pinterest、寶潔、Postmates、Shazam、Snap、Shopify、Twitter、Verizon和沃爾瑪?shù)葮O具遠(yuǎn)見(jiàn)的的交通運(yùn)輸和科技公司。

未來(lái)，會(huì)話式AI將帶來(lái)大量的機(jī)會(huì)以及技術(shù)方面的挑戰(zhàn)，英偉達(dá)在這一領(lǐng)域已經(jīng)做好準(zhǔn)備。

英偉達(dá)DRIVE IX是一個(gè)智能體驗(yàn)平臺(tái)，在AI驅(qū)動(dòng)下可提供車(chē)輛與車(chē)內(nèi)人員的交互功能。該平臺(tái)通過(guò)嵌入式語(yǔ)音軟件實(shí)現(xiàn)乘客和駕駛員與汽車(chē)的自然對(duì)話。

除了AI智能駕駛艙之外，英偉達(dá)還為會(huì)話式AI服務(wù)提供了經(jīng)過(guò)優(yōu)化的參照設(shè)計(jì)，比如自動(dòng)語(yǔ)音識(shí)別、文本-語(yǔ)言轉(zhuǎn)換和自然語(yǔ)言理解等。NVIDIA的BERT、GNMT 和Jasper 等AI模型開(kāi)源優(yōu)化幫助開(kāi)發(fā)者實(shí)現(xiàn)頂尖推理性能。

英偉達(dá)表示，“NVIDIA Turing GPU和NVIDIA Xavier系統(tǒng)級(jí)芯片在MLPerf基準(zhǔn)測(cè)試中取得了在各自細(xì)分市場(chǎng)的最好成績(jī)?，F(xiàn)如今，每天都有許多公司自稱(chēng)自己在AI技術(shù)領(lǐng)域取得了卓越的成果，令人難辨真假。MLPerf 0.5推理結(jié)果就是為了通過(guò)多項(xiàng)測(cè)試中的實(shí)際性能和表現(xiàn)辨別這些信息的真實(shí)性。測(cè)試結(jié)果表明，NVIDIA Xavier系統(tǒng)級(jí)芯片是未來(lái)汽車(chē)制造商的首選。”

返回第一電動(dòng)網(wǎng)首頁(yè) >