自動駕駛汽車是一臺高性能的邊緣計算設備。

為了驗證自動駕駛汽車是否具有深入洞察推理性能，MLPerf組織發(fā)起了一項MLPerf Inference測試，該組織為了能夠讓機器學習處理器的基準測試也像CPU那樣，囊括了該行業(yè)中的所有知名企業(yè)，比如英特爾、英偉達、阿里、Google和百度。

MLPerf Inference是測試推理性能的通用方法，通過邊緣計算等各種場景中的多項基準測試，驗證一項解決方案是否能夠出色地完成現(xiàn)如今汽車所需的多項任務，最終將成為衡量從低功耗SoC中的NPU到數(shù)據中心高性能加速器的標準。

其中，MLPerf Inference 0.5 基準測試套件成績已經公布，來自英偉達的NVIDIA Xavier系統(tǒng)級芯片和Turing GPU在在業(yè)內首個獨立AI推理基準套件MLPerf Inference 中大獲成功。

MLPerf 0.5推理測試是一套用于評估此類復雜工作負載的基準測試，它通過邊緣計算等各種場景中的多項基準測試，驗證一項解決方案是否能夠出色地完成現(xiàn)如今汽車所需的多項任務，而不僅僅只是一項任務。

推理指的是在實時生產系統(tǒng)中，通過運行AI模型，從大量數(shù)據中篩選出可執(zhí)行洞察的過程。

MLPerf通過五項基準用于評估三個AI應用性能，分別是圖像分類、目標檢測和翻譯。該基準所定義的服務器和線下場景與數(shù)據中心應用的關聯(lián)度最高，而單流和多流場景則用于自動駕駛汽車等邊緣設備。

MLPerf Inference 0.5涵蓋了數(shù)據中心服務器以及邊緣和移動芯片系統(tǒng)場景。

我們知道未來汽車將能夠與人類駕駛員進行對話，因此需要配備先進的語音識別、自然語言處理和文本-語音轉換功能，而且這些功能全都要求低延遲。

此外，在車內還有用于監(jiān)測駕駛員的深度神經網絡，包括可以判定頭部姿勢、檢測眨眼情況和讀懂唇語的神經網絡。

這些功能各異的神經網絡系統(tǒng)將通過一系列不同類型的神經網來處理各種類型的數(shù)據。此類網絡需要強大的處理性能來為自動駕駛汽車提供具有智能語音控制功能的用戶界面。

但是，當所有制造商都表示其未來處理器所達到速度TOPS會越來越高時，我們如何能確定這些處理器能夠實現(xiàn)其所許的承諾？ 

顯然，這不僅涉及到處理器的原始峰值性能，還涉及到這些處理器如何處理AI工作負載。 

可以說，MLPerf基準就是行業(yè)內評估AI推理性能的一種方法。

對于芯片公司來說，用，MLPerf基準進行驗證他們能夠更加清楚自己和競爭對手所處的位置，更重要的是，機器學習優(yōu)化的開放性性質意味著芯片公司還有大量空間來優(yōu)化其系統(tǒng)以進行將來的測試，以及設計更好的新硬件。

目前，英偉達是14家企業(yè)機構中唯一一個提交了全部五項MLPerf 基準測試結果的AI計算平臺公司。

英偉達的數(shù)據中心場景基準測試結果排在第一位，Turing GPU成為市面上單處理器性能最高的產品 。

結果顯示，Xavier在邊緣場景中的表現(xiàn)超過了市面上其他的邊緣和移動芯片系統(tǒng)。

這一成就展現(xiàn)了英偉達在各種AI推理任務與應用場景中的地位，而AI推理對于自動駕駛汽車的安全行駛來說不可或缺。

可以說，未來的汽車和卡車將由運行著多種不同深度神經網絡的AI超級計算機驅動。

這也就是為什么未來汽車將是一臺高性能的邊緣計算設備。

這臺高性能的邊緣計算設備除了應對各種路況，它能夠接過控制權進行自動駕駛，還能監(jiān)測駕駛員的反應并進行保護。

對此，汽車需要集成大量AI算法并在一臺能夠同時運行多個不同神經網絡的高性能計算機上運行這些算法。

面對各種AI推理任務在測試中，英偉達DRIVE 同時運行多個深度神經網絡，通過各傳感器生成的海量數(shù)據感知車輛周圍環(huán)境。

這些深度神經網絡必須能夠實時分析關鍵數(shù)據，以執(zhí)行交叉路口識別和可行駛路線分類等各種不同的冗余功能。

這就是為何英偉達 Xavier的基準測試成績對于汽車制造商而言如此重要，Xavier處理器在兩種邊緣場景（單流和多流）中都被評為性能最高的商用邊緣和移動芯片系統(tǒng)。

目前，Xavier處理器驅動用于自動駕駛和智能駕駛艙應用的NVIDIA DRIVE AGX計算機。

這臺AI超級計算機可同時運行多達20個深度神經網絡，其中包括多種理解周圍環(huán)境的模型。

比如，檢測車道標記線的LaneNet、檢測可行駛路徑的PathNet、判定中心線的PilotNet、識別道路標志的SignNet、識別交通信號燈的LightNet、用于交叉路口檢測的WaitNet、探測障礙物的DriveNet、檢測可駕駛空間的OpenRoadNet 以及確認停車位位置的ParkNet等。

這些功能都是L2級別以上自動駕駛汽車必要能力。

可以認為，多流場景可以測試芯片能夠處理數(shù)據源的數(shù)量，配備多種傳感器的自動駕駛汽車是必須能夠實時處理這些不同數(shù)據源的典型邊緣設備。

與此同時，此次測試結果展示了英偉達處理器上 CUDA 和TensorRT軟件的性能，它們提供了一個使我們在多個產品和應用中取得領先結果的通用平臺，而這就是英偉達所獨有的能力。 

在實際工作負載中，由于推理需要大量預處理和后處理步驟，因此其要求極為苛刻。

這就是為什么越來越多的行業(yè)選擇使用高性能的英偉達平臺來處理推理工作，其中包括BMW、Capital One、思科、Expedia、John Deere、微軟、PayPal、Pinterest、寶潔、Postmates、Shazam、Snap、Shopify、Twitter、Verizon和沃爾瑪?shù)葮O具遠見的的交通運輸和科技公司。

未來，會話式AI將帶來大量的機會以及技術方面的挑戰(zhàn)，英偉達在這一領域已經做好準備。

英偉達DRIVE IX是一個智能體驗平臺，在AI驅動下可提供車輛與車內人員的交互功能。該平臺通過嵌入式語音軟件實現(xiàn)乘客和駕駛員與汽車的自然對話。

除了AI智能駕駛艙之外，英偉達還為會話式AI服務提供了經過優(yōu)化的參照設計，比如自動語音識別、文本-語言轉換和自然語言理解等。NVIDIA的BERT、GNMT 和Jasper 等AI模型開源優(yōu)化幫助開發(fā)者實現(xiàn)頂尖推理性能。

英偉達表示，“NVIDIA Turing GPU和NVIDIA Xavier系統(tǒng)級芯片在MLPerf基準測試中取得了在各自細分市場的最好成績?，F(xiàn)如今，每天都有許多公司自稱自己在AI技術領域取得了卓越的成果，令人難辨真假。MLPerf 0.5推理結果就是為了通過多項測試中的實際性能和表現(xiàn)辨別這些信息的真實性。測試結果表明，NVIDIA Xavier系統(tǒng)級芯片是未來汽車制造商的首選?！?/p>

返回第一電動網首頁 >